数学基础系列(五)----矩阵、矩阵的秩、向量、特征值与特征向量

1、矩阵

一、系数矩阵

前面学习了矩阵不少基础知识，那么遇到具体的线性方程组该怎么办呢？该怎么转换为矩阵来求解呢？以下图所示，A为系数矩阵，X是未知数矩阵，B是常数矩阵。

　　

二、矩阵转置

简单来讲就是矩阵的行元素和列元素互相调换一下。

　　

下面列出一些矩阵转置经常使用的公式

　　

这些都没有什么好说的，都比较好理解，要注意的是就是最后一个公式的先后的顺序是不一样的。

三、对称矩阵

若是知足$A^{T}=A$，那么A就是对称矩阵

　　

四、逆矩阵

A为n阶方阵，若是说存在n阶方阵B，使得AB=BA=I（I为单位矩阵），那么就称A、B互为逆矩阵，记做：B=A^-1

性质（前提矩阵可逆）：

　　

2、矩阵的秩

矩阵的秩很重要，对后面特征值，特征向量的理解很重要，要重点注意这个地方。

对于一个$S\times N$的矩阵：$A=\begin{bmatrix}a_{11} & a_{12} & \cdots  & a_{1n}\\ a_{21} & a_{22} & \cdots  & a_{2n}\\ \cdots  & \cdots  & \cdots  & \cdots \\ a_{s1} & a_{s2} & \cdots  & a_{sn}\end{bmatrix}$

矩阵A的每一行能够看做一个N维向量：$\alpha _{i}=(a_{i1},a_{i2},\cdots ,a_{in}),i=1,2,\cdots ,s$，因此$\alpha _{1},\alpha _{2},\cdots ,\alpha _{s}$称做A的行向量

矩阵A的每一列也能够看做一个S维向量：$\beta _{j}=\begin{bmatrix}a_{1j}\\ a_{2j}\\ \vdots \\ a_{ij}\end{bmatrix},j=1,2,\cdots ,n$，因此$\beta _{1},\beta _{2},\cdots ,\beta _{n}$称做A的列向量。

那么矩阵的秩到底表示什么呢？

好比说有一个矩阵$A=\begin{bmatrix}1 & 1 & 3 &1 \\ 0 & 2&-1  & 4\\ 0 & 0 & 0 & 5\\ 0 & 0 & 0 & 0\end{bmatrix}$

矩阵A的行向量组为：$\begin{matrix}\alpha _{1}=(1,1,3,1) &\alpha _{2}=(0,2,-1,4) \\ \alpha _{3}=(0,0,0,5) & \alpha_{4}=(0,0,0,0)\end{matrix}$

如今咱们须要求这个行向量组的极大线性无关组，假设有$k_{1}\alpha _{1}+k_{2}\alpha _{2}+k_{3}\alpha _{3}=0$。具体代入以下图所示

　　

解得$k_{1}=k_{2}=k_{3}=0$，即$\alpha _{1},\alpha _{2},\alpha _{3}$线性无关。

因为矩阵里面含有一个零向量，因此这个零向量必然和矩阵里面其余向量线性相关，因此向量组：$\alpha _{1},\alpha _{2},\alpha _{3},\alpha _{4}$的秩为3。简单来讲，矩阵的秩就是矩阵里面的全部向量最大的线性无关的数目。

对于列向量同理可得：$\beta _{3}=\frac{7}{2}\beta _{1}-\frac{1}{2}\beta _{2}+0\beta _{4}$，但$\beta _{1},\beta _{2},\beta _{4}$线性无关，因此向量组：$\beta _{1},\beta _{2},\beta _{3},\beta _{4}$的秩为3，综上所述，即矩阵的行秩等于列秩。

那么矩阵的秩到底该怎么来理解呢？如下内容参考了知乎大神的理解：https://www.zhihu.com/question/21605094

能够对二维图形(实际上就是表明一个矩阵)进行旋转，好比用旋转矩阵：$\begin{bmatrix}\cos(\theta )  &-\sin (\theta ) \\ \sin (\theta ) & \cos(\theta )\end{bmatrix}$去乘以二维图形表明的矩阵。

　　

变换后依然是二维的，因此旋转矩阵的秩为2

在假如说经过这样的矩阵$\begin{bmatrix}1 & -1\\ 1 & -1\end{bmatrix}$来对图形进行旋转。

　　

变换后是一维的，因此这个旋转矩阵的秩为1

矩阵中最大不相关向量的个数就是秩了。

举个例子就很容易理解，你们排队买票。若是你们互相不认识，那就会一个排一个，很是有秩序。然而，若是忽然来了一个与队伍前面的人认识的人，这我的又不自觉，非要插队。那后面的人确定要有意见了，说你要是这样我前面还有认识的人呢，你插我也插，这样整个队伍就乱掉了，谁也买不成。

经过这个例子，可得如下结论：彼此不认识，那就不相关，就有秩序，问题就好解决；反之，彼此相关，就没有秩序，问题就很差解决。因此，数学家们定义，矩阵中的最大的不相关的向量的个数，就叫秩，能够理解为有秩序的程度。

再好比说咱们家中有不少张照片（N），可是一家只有三口（R），因此咱们就把R当作矩阵的秩。

　　

3、向量

一、向量的内积

设有n维向量：$x=\begin{bmatrix}x_{1}\\ x_{2}\\ \vdots \\ x_{n}\end{bmatrix}$，$y=\begin{bmatrix}y_{1}\\ y_{2}\\ \vdots \\ y_{n}\end{bmatrix}$

$[x,y]=x_{1}\times y_{1}+x_{2}\times y_{2}+\cdots +x_{n}\times y_{n}$，此时咱们就把$[x,y]$叫作向量的内积(也叫点乘，注意和外积(叉乘)的区别)。

性质：

　　

二、向量的长度

n维向量x的长度：$\left | x \right |=\sqrt{[x,x]}=\sqrt{x_{1}^{2}+x_{2}^{2}+\cdots +x_{n}^{2}}\geqslant 0$。特别的，当|x|=1时称为单位向量。

齐次性：$\left | \lambda x \right |=\left | \lambda  \right |\cdot \left | x \right |$。

三角不等式：$\left | x+y \right |\leqslant \left | x \right |+\left | y \right |$。

　　

三、向量的正交。

两两正交的非零向量组成的向量组称为正交向量组。

若$\alpha _{1},\alpha _{2},\cdots ,\alpha _{r}$是两两正交的非零向量，则$\alpha _{1},\alpha _{2},\cdots ,\alpha _{r}$线性无关。

规范正交基，也叫标准正交基 

n维向量$e_{1},e _{2},\cdots ,e_{r}$是向量空间$V\subset R^{n}$中的向量。知足：

　　

则称$e_{1},e _{2},\cdots ,e_{r}$是V的一个规范正交基。例如$e_{1}=\begin{bmatrix}1\\ 0\\ 0\\ 0\end{bmatrix},e_{2}=\begin{bmatrix}0\\ 1\\ 0\\ 0\end{bmatrix},e_{3}=\begin{bmatrix}0\\ 0\\ 1\\ 0\end{bmatrix},e_{4}=\begin{bmatrix}0\\ 0\\ 0\\ 1\end{bmatrix}$是$R^{4}$的一个规范正交基

4、特征值与特征向量

一、通俗理解

矩阵究竟作了什么？假如说让一个矩阵去乘以一个向量的话，那么矩阵对向量既能够作拉伸也能够作旋转，以下图所示

　　

咱们先来理解为何叫特征值和特征向量，好比说有以下式子：

　　

矩阵A固然是一个变换，而后这个变换的特殊之处是当它做用在特征向量  上的时候，  只发生了缩放变换，它的方向并无改变，并无旋转。就像 wikipedia 上通过了错切变换的蒙娜丽莎同样：

　　

这幅图片在水平方向没有改变， $\begin{bmatrix}1\\ 0\end{bmatrix}$就是一个它的特征向量，对应的特征值是 λ = 1 。

再好比说在一次拳击比赛中， 拳击怎么赢？攻击的方向与力量，咱们能够把方向当作是特征向量，在这个方向上用了多大的力量就是特征值。

　　

二、数学定义

对于给定矩阵A，寻找一个常数λ和非零向量X，使得向量x被矩阵A做用后所得的向量AX与原向量X平行，而且知足AX=λX，那么这个X就是表明的特征向量了，λ表明的就是特征值了。

　　

由全部的特征向量组成了特征空间

　　

三、特征向量的应用 

既然特征值表达了重要程度且和特征向量所对应，那么特征值大的就是主要信息了，基于这点咱们就能够提取各类有价值的信息了。