四小时速通线性代数（三）-11s' NoteBook

矩阵的初等变换

矩阵的初等变换有行变换和列变换两种，以下是三种基本的变换（以行变换为例）：

对换 ( $r_i \leftrightarrow r_j$ )：交换第 i 行和第 j 行
倍乘 ( $k r_i$ )：用一个非零常数 k 乘第 i 行
倍加 ( $r_i + k r_j$ )：把第 j 行的 k 倍加到第 i 行上

绝大部分情况我们只会使用初等行变换，例如高斯消元、求逆矩阵等。

初等矩阵

In mathematics, an elementary matrix is a square matrix obtained from the application of a single elementary row operation to the identity matrix.

我们在四小时速通线性代数（一）已经提到了初等矩阵的相关定义，即由单位矩阵 E 经过仅仅一次初等变换得到的矩阵。初等矩阵 P 乘在 A 的左边 (PA)，相当于对 A 做同样的初等行变换；初等矩阵 P 乘在 A 的右边 (AP)，相当于对 A 做同样的初等列变换。

所有的初等矩阵都是可逆的，且其逆矩阵也是初等矩阵。

\begin{aligned} &E_1 = \begin{pmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \end{pmatrix} \rightarrow E_1^{-1} = \begin{pmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \end{pmatrix} \\ &E_2 = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 5 & 0 \\ 0 & 0 & 1 \end{pmatrix} \rightarrow E_2^{-1} = \begin{pmatrix} 1 & 0 & 0 \\ 0 & \frac{1}{5} & 0 \\ 0 & 0 & 1 \end{pmatrix} \\ &E_3 = \begin{pmatrix} 1 & 0 & 0 \\ 2 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix} \rightarrow E_3^{-1} = \begin{pmatrix} 1 & 0 & 0 \\ -2 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix} \end{aligned}

矩阵的秩

In linear algebra, the rank of a matrix A is the dimension of the vector space generated (or spanned) by its columns.

矩阵的秩指矩阵中线性无关的行或列的极大数目，是衡量矩阵所代表的线性变换性质的关键指标。

线性相关和线性无关是线性代数中描述向量组之间关系的基本概念。如果一个向量组中至少有一个向量能表示为其余向量的线性组合，则称为线性相关（即存在冗余信息）；若不能，即仅当所有系数均为零时线性组合为零，则称为线性无关。

在矩阵中，若矩阵的秩等于向量个数时，向量线性无关；秩小于向量个数时，线性相关。

秩的计算

用初等行变换将矩阵化为阶梯形矩阵，此时非零行的个数就是矩阵的秩，如以下这个例子：

A = \begin{pmatrix} 1 & 2 & 3 \\ 2 & 4 & 6 \\ 1 & 0 & 1 \end{pmatrix} \rightarrow \begin{pmatrix} 1 & 2 & 3 \\ 0 & -2 & -2 \\ 0 & 0 & 0 \end{pmatrix}

可以看到以上这个矩阵的秩为 2，因为最后一行是零行，也就是说这个矩阵的行或列是线性相关的（秩小于向量个数）。

秩的性质

$0 \le r(A_{m \times n}) \le \min(m, n)$ (秩不能超过行数和列数)
$r(A) = r(A^T)$ (行秩 = 列秩)
$r(A+B) \le r(A) + r(B)$
$r(AB) \le \min(r(A), r(B))$ (乘积的秩不超过任意一个因子的秩)
若 A 可逆，则 $r(AB) = r(B)， r(CA) = r(C)$ (乘可逆矩阵秩不变)

秩就是矩阵在空间中能“撑起”的最高维度。

秩与线性方程组

秩可用于判断线性方程组 $Ax=b$ 的解的情况，如下

秩的关系	结论	解释
$r(A) < r(A\\|b)$	无解	出现了类似 `0 = 5` 这种矛盾的行
$r(A) = r(A\\|b) = n$	有唯一解	既不矛盾，且信息量足够解出所有变量
$r(A) = r(A\\|b) < n$	有无穷多解	不矛盾，但有效方程个数少于未知数，存在自由变量

满秩是指矩阵的秩等于其行数和列数中的较小值，上表中的第二条关系可以转述为：若矩阵与其增广矩阵都是满秩矩阵，则对应的线性方程组有唯一的解。

矩阵等价与标准形

矩阵等价是线性代数中一种基础关系。若同型矩阵 A 与 B 满足 B = QAP（其中 P、Q 为可逆矩阵），即 A 可通过有限次初等行、列变换得到 B，则称 A 与 B 等价。矩阵等价的本质是两矩阵的秩相等。

矩阵中有三大关系：等价、合同、相似
等价：秩相等
合同：秩相等 + 惯性指数相等
相似：秩相等 + 特征值相同

矩阵的标准型是经特定矩阵等价变换（初等变换、相似变换或合同变换）得到的结构最简形式，用于简化矩阵分析，一般研究以下三种标准型：

等价标准型（Smith标准型）
相似标准型（Jordan标准型）
合同标准型（实对称矩阵）

等价标准型（Smith标准型）

等价标准型是数学中主理想域上矩阵的一种特殊对角形式。任意矩阵可通过初等行、列变换，化为左上角对角元满足整除关系（ $d_i \ | \ d(i+1)$ ）、其余元素为零的对角矩阵。它用于刻画矩阵的结构，常用于行列式因子和不变因子的计算。

A = \begin{pmatrix} 2 & 4 \\ 6 & 8 \end{pmatrix} \rightarrow \begin{pmatrix} 2 & 4 \\ 0 & -4 \end{pmatrix} \rightarrow \begin{pmatrix} 2 & 0 \\ 0 & -4 \end{pmatrix} \rightarrow \boxed{\begin{pmatrix} 2 & 0 \\ 0 & 4 \end{pmatrix}}

等价标准型的通用表达式如下：

S = \begin{pmatrix} d_1 & 0 & \cdots & 0 & 0 & \cdots & 0 \\ 0 & d_2 & \cdots & 0 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & d_r & 0 & \cdots & 0 \\ 0 & 0 & \cdots & 0 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & 0 & 0 & \cdots & 0 \end{pmatrix}

我们可以将其写为分块矩阵的形式，便于展示矩阵的秩：

S = \begin{pmatrix} D & O \\ O & O \end{pmatrix}