提前终止法与正则化法之间关系

文章目录 前言 提前终止法分析 贝叶斯正则化法分析 比较 参考资料 前言 前两篇博客（从贝叶斯角度理解正则化、正则化）分别介绍了提前终止法和正则化法。 它们可以近似等价的吗？怎么近似等价？ 左边这张图轮廓线表示负对数似然函数的轮廓，虚线表示从原点开始的SGD所经过的轨迹。提前终止法的轨迹在较早的$\tilde \omega 点 终 止 ， 而 不 是 在 停 止 在 最 小 化 代 价 的 点 点

>>阅读原文<<