导数、微分、偏导数、全微分、方向导数、梯度的定义与关系

学习到机器学习线性回归和逻辑回归时遇到了梯度下降算法，然后顺着扯出了一堆高数的相关概念理论：导数、偏导数、全微分、方向导数、梯度，重新回顾它们之间的一些关系，从网上和教材中摘录相关知识点。 通过函数的极限定义出导数(以一元函数为例) 函数f(x)在点x0可微的充分必要条件是函数f(x)在点x0处可导 扩展到多元函数时，衍生出偏导数 导数 定义：设函数 y=f(x) y = f ( x ) 在点 x

>>阅读原文<<