机器学习基础学习笔记（四）优化算法

以下内容均为https//nndl.github.io/nndl-book.pdf的学习笔记。 在确定了训练集𝒟、假设空间ℱ 以及学习准则后，如何找到最优的模型𝑓(𝒙, 𝜃∗) 就成了一个最优化（Optimization）问题．机器学习的训练过程其实就是最优化问题的求解过程． 优化算法 1.参数与超参数 优化又可以分为参数优化和超参数优化。 参数：模型𝑓(𝒙; 𝜃) 中的𝜃 称为模

>>阅读原文<<