Gradient Descent
之前我们介绍过梯度下降算法，以下我们进行算法的优化，由于特征值数字大小范围不一，可能会造成算法逼近的时候出现奇怪的轨迹，如图x~1 为0~ 2000，x~2 为1~ 5，就会造成代价函数图中的椭圆又扁又长。 因此我们用一些小技巧优化特征值使-1<x<1或者-0.5<x<0.5 ，称作特征值的归一化。 便是用此公式计算新的值代替，其中μi为xi在样本中的平均值，si为xi的范围（即最大值减去最小值）
相关文章
- 1. Gradient Descent
- 2. gradient descent
- 3. Gradient descent
- 4. Batch Gradient Descent vs Mini-Batch Gradient Descent vs Stochastic gradient descent
- 5. 从Gradient Descent 到 Stochastic Gradient Descent(SGD)
- 6. Optimization Method -- Gradient Descent with Momentum Gradient Descent （转）
- 7. mini-batch Gradient Descent
- 8. method_Nesterov's Accelerated Gradient Descent
- 9. 【NTU_ML_Spring2020】2.Gradient Descent
- 10. Stochastic Gradient Descent
- 更多相关文章...
- • SVG 参考手册 - SVG 教程
相关标签/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
欢迎关注本站公众号,获取更多信息
相关文章
- 1. Gradient Descent
- 2. gradient descent
- 3. Gradient descent
- 4. Batch Gradient Descent vs Mini-Batch Gradient Descent vs Stochastic gradient descent
- 5. 从Gradient Descent 到 Stochastic Gradient Descent(SGD)
- 6. Optimization Method -- Gradient Descent with Momentum Gradient Descent （转）
- 7. mini-batch Gradient Descent
- 8. method_Nesterov's Accelerated Gradient Descent
- 9. 【NTU_ML_Spring2020】2.Gradient Descent
- 10. Stochastic Gradient Descent