次梯度法
在前文梯度下降法（一）从导数到梯度下降法的基本逻辑中指出，当函数梯度不存在时候，梯度下降法失效，而次梯度法则是凸优化中解决此类状况的一种有效方法。 一、基本定义 为了介绍次梯度的概念，首先需要引入次导数、次微分等概念。这些概念源于导数、微分，但又有显著的区别。 1. 次导数 下图中的一元函数均为凸函数，但在其拐点处不可导。观察拐点A、B处的直线，按照其与原始函数的位置关系，可分为如下两大类： 1）
相关文章
- 1. 次梯度（subgradient）
- 2. 次梯度
- 3. 次梯度（Subgradients）
- 4. 梯度上升法，梯度降低法
- 5. 凸优化－次梯度算法
- 6. 【机器学习】次梯度（subgradient）方法
- 7. 次梯度法相关概念
- 8. 导数、梯度、微分、次导数、次微分和次梯度的概念
- 9. 次梯度的理解
- 10. 梯度与梯度下降法
- 更多相关文章...
- • PHP 获取图像宽度与高度 - PHP参考手册
- • TCP三次握手建立连接的过程 - TCP/IP教程
- • 算法总结-广度优先算法
- • 算法总结-深度优先算法
相关标签/搜索
每日一句
-
每一个你不满意的现在，都有一个你没有努力的曾经。
最新文章
欢迎关注本站公众号,获取更多信息
相关文章
- 1. 次梯度（subgradient）
- 2. 次梯度
- 3. 次梯度（Subgradients）
- 4. 梯度上升法，梯度降低法
- 5. 凸优化－次梯度算法
- 6. 【机器学习】次梯度（subgradient）方法
- 7. 次梯度法相关概念
- 8. 导数、梯度、微分、次导数、次微分和次梯度的概念
- 9. 次梯度的理解
- 10. 梯度与梯度下降法