特征值的绝对值表明了拉伸或压缩一个特征向量的程度,即|T.x|/|x|=|t|.|x|/|x|=|t|。也说明了线性变换只有在特征空间处才能取得拉伸或者压缩程度的极值。目前为止都是在讨论方阵的特征值和特征向量,现准备扩充到更通常的情形,即任意的线性变换矩阵。假设矩阵不是方阵,那么线性变换表示的为投影或者升维(这种升维是相似于将二维的平面投射到一个三维空间的平面中,本质上仍是一个平面但有了三维的属性),若是要求出变换后对原始向量有最大、次大...的拉伸程度以及对应的向量即求|A.x|的平方的最大、次大...值。算法
奇异值分解是一种对全部矩阵都适用的分解算法,它自己在不一样的应用场景中都有相应的意义,先描述它的计算方法:3d
一、设矩阵A是个通常矩阵(x行y列)先将原始矩阵转换成(y行y列)这样的形式即
,该矩阵是一个对称矩阵而且对角线上的值必定非负;blog
二、对该对称矩阵按照以前所说进行类似对角化,能够获得相应的对角矩阵而且特征向量相互正交;方法
三、设V一、V2...Vn(向量中值的个数为y)以及R一、R2...Rn是该对称矩阵相应的特征向量和特征值,则,因为
必定非负因此特征值Rn也非负;im
四、由3可得A的奇异值为即|A.Vn|的大小,而且非零奇异值的个数为A的秩r(必定小于等于x和y中最小值),对应的特征向量相互正交并组成了colA的基(在线性代数及应用中有证实)。将特征向量转换为单位向量为Ur=A.Vr/
(向量中值的个数为x),则
.Ur=A.Vr,令
(y行y列),
(x行y列),
(x行y列),
(x行x列),d3
则U.=
=
,因为V为单位正交矩阵则
db