线性代数笔记27——对称矩阵及正定性

 

原文 | https://mp.weixin.qq.com/s/zdQttJfuubyztiVplScbwA

对称矩阵

　　对称矩阵是最重要的矩阵之一，对于对称矩阵来讲，A=A^T。矩阵的特殊性也表如今特征值和特征向量上，好比马尔可夫矩阵的有一个值为1的特征值，对称矩阵的特征值又有哪些特性呢？

 

　　本文的相关知识：

　　　　正交向量和正交矩阵  （线性代数20——格拉姆-施密特正交化）

　　　　投影矩阵 （线性代数18——投影矩阵和最小二乘）

　　　　复数 （闲话复数（1））

 

谱定理

　　对于实对称矩阵来讲，它的特征值也为实数，而且可以挑选出彻底正交的特征向量。

　　单位矩阵是对称矩阵，它的特征值都是1，而且单位矩阵的每个列向量都是特征向量，它们彻底正交，所以单位矩阵确定符合实对称矩阵特征值和特征向量的性质。

　　P是投影矩阵也是单位矩阵，x是一个二维向量，若是x在平面的投影是x自己，即Px=x，那么平面内的全部向量都是P的特征向量。更通常的状况是，在重特征值的状况下，可能一个平面内的全部向量都能做为特征向量，所以咱们说实对称矩阵“可以挑选出彻底正交的特征向量”，下面是一个例子：

　　A的特征值所有是λ=a，对于任何向量都有Ax=λx，所以任何向量都是特征向量，但这些特征向量并不都是正交的，因此是从中选出一套正交向量。

　　若是A有n个线性无关的特征向量，那么A能够对角化为A=S∧S^-1，若是A是对称矩阵，那么A对角化后有更好的性质：

　　Q是A的特征向量矩阵，同时也是正交矩阵，列向量是标准正交基。对于一个列向量标准正交的矩阵来讲，矩阵的逆等于矩阵的转置，所以：

　　上式是说，若是给定一个对称矩阵，那么这个矩阵就能够分解成正交矩阵乘以特征值矩阵再乘以正交矩阵的转置的形式，这种分解在数学上称为“谱定理”，将特征值的集合视为谱，力学上称为“主轴定理”。

　　谱定理展现了对称矩阵的对称性，Q∧Q^T的转置仍是原矩阵：

　　∧是对角矩阵，它的转置仍是∧。

为何是实特征值？

 

　　矩阵的特征值可能为虚数，但实对称矩阵的特征值必定是实数，这又是什么原理？

　　先解释一下共轭复数(conjugate complex number)：两个实部相等，虚部互为相反数的复数互为共轭复数。当虚部不为零时，共轭复数就是实部相等，虚部相反；若是虚部为零，其共轭复数就是自身。复数z的共轭复数用z上面加一横表示。

　　“轭”的本意是两头牛背上的架子，轭使两头牛同步行走。共轭是指按必定的规律相配的一对。

　　若是实矩阵A有特征值λ和特征向量x，则Ax=λx。若是λ是复数，则λ的共轭复数知足：

　　若是等号两侧同时转置：

　　λ是对角矩阵，其共轭仍然是对角矩阵，所以：

　　两侧同时乘以x：

　　另外一方面，将Ax=λx两侧同时乘以x共轭的转置：

　　如今假设A是对称矩阵，则①和②相等，即：

　　根据共轭复数的定义，若是一个复数的共轭等于这个数自己，那么其虚部为0，即这个数是实数。

　　如今的问题是如何证实？

　　对于虚数来讲，i²=-1，(bi)²=-b²。对于复数来讲，z=a+bi来讲，它的模几何意义是复平面上一点(a,b)到原点的距离，模长的计算公式是：

　　所以：

　　对于复矩阵来讲，若A是共轭对称复矩阵，即，那么上面的推导仍然成立，A的特征值也是实数。

朝向正交向量的投影矩阵

　　对于一个实对称矩阵A=A^T，能够写成下面的形式：

　　根据投影矩阵的定义：向量b的在向量a上的投影是一个矩阵做用在b上获得的，这个矩阵就叫作投影矩阵（Projection Matrix），用大写的P表达：

　　因为Q中的向量是正交向量，所以：

　　因此q_kq_k^T是某个向量在q_k上的投影矩阵，所以每个对称矩阵也是朝向正交向量的投影矩阵的线性组合。

特征值的符号

　　咱们已经知道对称矩阵的特征值是实数，下一个问题是弄清它们的符号，这对微分方程来讲意味着状态是否稳定。

　　咱们能够经过计算的方式求解特征值，而后回答特征值的符号问题，但对于一个大型矩阵来讲，经过计算det(A-λI) = 0来求解特征值并不容易。值得庆幸的是，对于对称矩阵来讲，主元和特征值存在着相关性：主元和特征值的个数同样，且正负主元的个数都和正负特征值的个数相同。

正定矩阵

　　正定矩阵是一类特殊的实对称矩阵，若是一个矩阵M知足对于任何非零向量z，都有z^TMz> 0，那么这个矩阵是正定矩阵。

 

　　正定矩阵有不少重要的性质，其中一个是：正定矩阵的特征值和主元都是正数。

 

　　来看一个正定矩阵：

　　首先A是一个对称矩阵，如今来计算一下它的主元。能够经过化简行阶梯矩阵的形式求得主元，在通过变换后，矩阵表示的“数表”改变了，可是若是将矩阵看方程组，那么方程组的本质没有变，能够将初等变换当作方程组的消元过程。

　　两个主元是5和11/5。另外一种方式或许更为简单，原矩阵中转换成上三角矩阵的时候，必定能变成下面的形式：

　　它的行列式是主对角线元素的乘积，行列式的值又和原矩阵的行列式相等，所以a=det(A)/5=11/5。

　　相似地，可对角化的矩阵可也以化成对角元素都是其特征值的对角矩阵，而行列式的值不变，对角矩阵的行列式就是对角元素相乘，所以A的行列式也等于A的特征值的乘积。

　　特征值：

与行列式的关系

　　正定矩阵的主元和特征值都是正数，所以能够肯定其行列式也是正数（行列式等于主元的乘积，也等于全部特征值的乘积），但行列式是正数的矩阵不必定是正定矩阵，好比下面这个矩阵，虽然行列式是正值，但并非一个正定矩阵，甚至都不是对称矩阵：

　　若是把行列式做为正定矩阵的断定依据，则对于n阶矩阵来讲，须要矩阵左上角的全部k×k (1≤k≤n)子行列式均为正，才能断定矩阵是正定矩阵。

正定矩阵的性质

　　正定矩阵都是可逆的。

　　矩阵可逆的条件是行列式不等于0，行列式等于特征值的乘积，正定矩阵的性质又规定特征值是正数，所以正定矩阵的行列式必定大于0，是可逆矩阵。

　　

　　只有正定的投影矩阵才是单位矩阵。

　　若是P是投影矩阵，那么P的特征值要么是0，要么是1。若是P是正定的，那么根据定义，它的特征值只能是1，特征值矩阵是单位矩阵，所以：

　　

　　若是D是一个对角元素都是正数的对角矩阵，那么D必定是个正定矩阵。

　　对角矩阵确定是对称的，对于任何非零向量x来讲：

　　知足正定矩阵的定义。

　　

　　若A是正定矩阵，则A的逆矩阵也是正定矩阵。

　　首先证实矩阵A的逆是对称矩阵。由于A是正定的，因此：

　　再证实x^TA^-1x > 0

　　A是正定矩阵，对于任意向量u来讲，u^TAu > 0，所以x^TA^-1x > 0，A^-1也是正定矩阵。

　　

　　两个正定矩阵的和是正定矩阵。

　　

　　正实数与正定矩阵的乘积是正定矩阵。

---

　　做者：我是8位的

　　出处：https://mp.weixin.qq.com/s/zdQttJfuubyztiVplScbwA

　　本文以学习、研究和分享为主，如需转载，请联系本人，标明做者和出处，非商业用途！ 

　　扫描二维码关注做者公众号“我是8位的”