Jacobian矩阵和Hessian矩阵的理解

深度学习中梯度向量的计算，Jacobian矩阵和Hessian矩阵是基础的知识点。 求微分其实就是线性化，导数其实就是线性空间之间的线性变换，Jaocibian矩阵本质上就是导数。 比如，映射在处的导数就是在处的切空间到在处的切空间之间的线性映射。切空间都是矢量空间，都有基底，所以这个线性变换就是矩阵。在欧氏空间子空间的开集上，切空间就是某个，比如实轴上的切空间就是，曲面上的切空间为。这样一想，函

>>阅读原文<<