深度学习500问阅读笔记——梯度下降?

这是深度学习500问系列笔记之一,帮助我深入记忆知识,如有不足,随时欢迎交流和探讨。 6.梯度下降? ①梯度下降是迭代法的一种,可以用于求解最小二乘问题; ②在求解机器学习算法的模型参数,即无约束优化问题时,主要有梯度下降(Gradient Descent)和最小二乘法。 ③在求解损失函数的最小值时,可以通过梯度下降法来一步步的迭代求解,得到最小化的损失函数和模型参数值; ④如果需要求解损失函数的
相关文章
相关标签/搜索