吴恩达神经网络 ——神经网络的权重初始化,Mini-batch 梯度下降,指数加权平均数,动量梯度下降法

神经网络的权重初始化 四个神经元可能有4个输入特征,从x_1到x_4,经过a=g(z)处理,最终得到y我们用x表示。 z=w_1 x_1+w_2 x_2+⋯+w_n x_n,b=0,暂时忽略b, 目的:为了预防z值过大或过小,你可以看到n越大,你希望w_i越小,因为z是w_i x_i的和,如果你把很多此类项相加,希望每项值更小 方法:设置w_i=1/n,n表示神经元的输入特征数量,实际上,你要做的
相关文章
相关标签/搜索