[机器学习] 矩阵求导最小二乘问题

原文请点击 关于最小二乘问题的求解，之前已有梯度下降法，还有比较快速的牛顿迭代。今天来介绍一种方法，是基于矩阵求导来计算的，它的计算方式更加简洁高效，不需要大量迭代，只需解一个正规方程组。 在开始之前，首先来认识一个概念和一些用到的定理。矩阵的迹定义如下： 一个 n*n 的矩阵的迹是指的主对角线上各元素的总和，记作 tr(A) t r ( A ) 。即 tr(A)=∑i=1naii t r ( A

>>阅读原文<<