Neural Network Saturation 神经网络饱和性

神经网络分类器具有一组输入节点,一组隐藏处理节点和一组输出节点。如果使用tanh**功能,则隐藏节点的值通常在-1.0到+1.0之间。如果使用softmax**功能,则输出节点的值将介于0.0和1.0之间。 饱和神经网络是其中大多数隐藏节点的值都接近-1.0或+1.0且输出节点的值都接近0.0或1.0的网络。饱和不是一件好事。如果隐藏节点饱和,则意味着它们的**前积和相对较大(通常大于4.0)或较
相关文章
相关标签/搜索