神经网络中的名词解释:梯度下降、Epoch、Batch_size、迭代

(一) 梯度下降 梯度下降是在机器学习中用于寻找最佳结果(即曲线最小值)的一种迭代优化算法。 如下图所示,要使绿色点达到最小值,需要考虑两个问题:1)绿色点向左还是右移动;2)移动多大的距离。 对于向左还是向右移动的问题,我们可以根据数学求导公式来进行判断,即判断曲线还是在绿色点位置是递增还是递减,进而决定点该想哪个方向移动。 对于移动多大的距离问题,以下图中绿色和蓝色两个点为例。在两个点位置分别
相关文章
相关标签/搜索