《TensorFlow 2.0深度学习算法实战教材》重点内容摘录（六、反向传播算法）

反向传播算法和梯度下降算法是神经网络的核心算法。 导数与梯度 导数本身是标量，没有方向，但是导数表征了函数值在某个方向Δ𝒙的变化率。在这些任意Δ𝒙方向中，沿着坐标轴的几个方向比较特殊，此时的导数也叫做偏导数(Partial Derivative)。对于一元函数，导数记为𝑑𝑦/𝑑𝑥；对于多元函数的偏导数，记为𝜕𝑦/𝜕𝑥1,𝜕𝑦/𝜕𝑥2, …等。偏导数是导数的特例，也没有方

>>阅读原文<<