Tensorflow - Cross Entropy Loss
Tensorflow 提供的用于分类的 ops 有:
tf.nn.sigmoid_cross_entropy_with_logits...用法:
tf.nn.softmax_cross_entropy_with_logits(
_sentinel=None,
labels=None, # labels[i] 的每一行必须是有效的概率分布...logits=None, # unscaled log 概率值.
dim=-1, # 类别class 的维度. 默认为 -1, 表示最后一维....logits 和 labels 都会进行BP. 为了避免 labels 的BP, 在送入该函数之前, 将 label 张量传递一个 stop_gradients 参数....所以, 不能有 soft 类别classes,
且,对于logits 每一行(即, minibatch 内的每个样本), labels 向量必须给定其对应的单个类别class 的特定索引.