【傻瓜攻略】深度学习之海森矩阵(九)

本来这一章应该接着上一章进行优化算法的介绍的。但是,后来我发现接下去的很多算法都是与海森矩阵紧密相关的,所以在这一章先介绍海森矩阵,牛顿算法这些,然后再接着介绍剩余的优化算法。话不多说,下面开始: 1、海森矩阵 Hessian Matrix 海森矩阵是一个自变量为向量的实值函数的二阶偏导数组成的方块矩阵,函数为: 海森矩阵和牛顿法密切相关。 可以利用海森矩阵进行多元函数的极值判断。参考:https
相关文章
相关标签/搜索