softmax_loss的归一化问题

cnn网络中，网络更新一次参数是根据loss反向传播来，这个loss是一个batch_size的图像前向传播得到的loss和除以batch_size大小得到的平均loss。 softmax_loss前向传播中有这样一段代码：    loss/get_normalizer(normalization_,valid_count)，这就是对loss进行归一化。 如果我有ignore_label，vali

>>阅读原文<<