python实现多元线性回归梯度降低法与牛顿法

文章目录 梯度降低法 基本概念 1.微分 2.梯度 3.学习率 梯度降低法的通常求解步骤： 牛顿法 运用牛顿法的通常步骤 参考文献 梯度降低法 基本概念 1.微分 在梯度降低法中，咱们所要优化的函数必须是一个连续可微的函数，可微，既可微分，意思是在函数的任意定义域上导数存在。若是导数存在且是连续函数，则原函数是连续可微的（可微必可导，可导必连续）。在高等数学中，咱们知道函数的导数（近似于函数的微分

>>阅读原文<<