系列笔记
参考
各种矩阵
单位矩阵 $\mathbf{I}$
数量矩阵 $k\mathbf{I}$
对角矩阵
三角矩阵
对称方阵
对称矩阵 —— $\mathbf{A^T}=\mathbf{A}$， 反对称矩阵 —— $\mathbf{A^T}=-\mathbf{A}$, 有 $a_{i,i}=0$
初等矩阵（Elementary M）
单位矩阵作一次初等变换得到的方阵。 左乘初等矩阵 相当于做行初等变换， 右乘初等矩阵 相当于做列初等变换
伴随矩阵 $\mathbf{A}^{ * }$
$n$ 阶方阵 $\mathbf{A}=(a{i,j}){n \times n}$ 的伴随矩阵为 $\mathbf{A}^{ } = (\mathbf{A}{j,i}){n\times n}$, 其中 $\mathbf{A}{j,i}$ 为 $\det \mathbf{A}$ 中元 $a{j,i}$ 的代数余子式。注意非 $\mathbf{A}_{i,j}$， 例如 $\mathbf{A}^{ }$ 的第一行二列的元素等于 $\mathbf{A}_{2,1}$。
对所有 n 阶方阵 $\mathbf{A}$，有 $\mathbf{A}\mathbf{A}^{ }=\mathbf{A}^{ }\mathbf{A}=(\det \mathbf{A}) \mathbf{I}$
- $r(\mathbf{A}) = n$ 时， $r(\mathbf{A}^{ * })=n$
- $r(\mathbf{A}) = n-1$ 时， $r(\mathbf{A}^{ * })=1$
- $r(\mathbf{A}) < n-1$ 时， $r(\mathbf{A}^{ * })=0$
- $\det \mathbf{A}^{ * } = (\det \mathbf{A})^{n-1}$
- $(k\mathbf{A})^{ } = k^{n-1} \mathbf{A}^{ }$
可交换方阵
满足交换律。 $\mathbf{A}\mathbf{B}=\mathbf{B}\mathbf{A}$ 可推出 $\mathbf{A}$ 与 $\mathbf{B}$ 为同阶方阵。 单位矩阵与所有方阵可交换，互逆矩阵可交换。 可交换在计算与证明中很有用。
标准形
$$
\begin{bmatrix}
\mathbf{I}r & \mathbf{O}\
\mathbf{O} & \mathbf{O}\
\end{bmatrix}{m \times n}
$$
为矩阵 $\mathbf{A}_{m \times n}$ 的标准形，其中 $r = R(\mathbf{A})$, 矩阵与其标准形等价 。
正交向量组
两两正交且不含零向量的向量组。如果正交向量组的所有向量模为1，则称为 标准（规范）正交向量组。
正交方阵（Orthogonal matrix）
满足 $\mathbf{A}^{-1}=\mathbf{A^T}$。 也即 $\mathbf{A}\mathbf{A^T}=\mathbf{A^T}\mathbf{A}=\mathbf{I}$， 矩阵的行（列）向量组是标准正交向量组。
实二次型及其矩阵
实二次型 $f(\mathbf{X})$ 即系数为实数的 n 元二次 齐次 多项式。\
其对应 实对称方阵 $\mathbf{A}=(a{i,j}){n\times n}$ 的元素 $a_{i,j}$ 为二次型 $x_i x_j$ 的系数， 有 $f(\mathbf{X})=\mathbf{X^T A X}$。\
$\mathbf{A}$ 的秩称为 二次型的秩。
正定二次型
二次型的取值部大于零为正定二次型，总小于零为负定二次型，总大于等于零为半正定，总小于等于零为半负定
矩阵操作
初等变换
- 交换两行（列）位置
- 非零数乘某一行（列）
- 把某行的倍数加到另一行
计算
数乘
矩阵数乘计算类似一个数
- $k(\mathbf{A} +\mathbf{B}) = k\mathbf{A} + k\mathbf{B}$
- $(k+l)\mathbf{A} = k \mathbf{A} + l \mathbf{A}$
向量内积
又称 数量积， 点乘，值为对应元素乘积的和，是一个数值。在空间中， $\mathbf{a}\cdot \mathbf{b} = ||\mathbf{a}||\,||\mathbf{b}||\cos <\mathbf{a},\mathbf{b}>$
有性质：
- $|\mathbf{a}\cdot\mathbf{b}|\le||\mathbf{a}||\,||\mathbf{b}||$
- $||\mathbf{a}+\mathbf{b}||\le ||\mathbf{a}|| + ||\mathbf{b}||$
- 正交 $\mathbf{a}\bot\mathbf{b} \Leftrightarrow \mathbf{a}\cdot\mathbf{b}$
$\mathbf{b}$ 在 $\mathbf{a}$ 上的 投影：
$$ ||\mathbf{b}||\cos<\mathbf{a},\mathbf{b}>=\frac{\mathbf{a}\times\mathbf{b}}{||\mathbf{a}||} $$
向量外积
又称 向量积， 叉乘， 记作 $\mathbf{a}\times\mathbf{b}$， 结果为一个向量，模为 $||\mathbf{a}\times\mathbf{b}||=||\mathbf{a}||\,||\mathbf{b}||\cos<\mathbf{a},\mathbf{b}>$， 方向符合右手法则，以拳为起点，四指沿 $\mathbf{a}$ 指向，臂沿 $\mathbf{b}$ 指向，外积方向为拇指指向。 外积只作用于三维向量。 外积与相乘向量正交，可用于求解 平面法向量。
$$ \mathbf{a}\times\mathbf{b} =
\left|\begin{array}{}
\mathbf{i} & \mathbf{j} & \mathbf{k} \
a_1 & a_2 & a_3 \
b_1 & b_2 & b_3
\end{array}\right|
$$
混合积： $(\mathbf{a}\times\mathbf{b})\cdot\mathbf{c}$。 结果为数值，也仅用于三维向量，如果混合积为零，三向量共面。
矩阵相乘
没有交换律
- 结合律 $(\mathbf{A}\mathbf{B})\mathbf{C}=\mathbf{A}(\mathbf{B}\mathbf{C})$
- 分配律 $\mathbf{A}(\mathbf{B}+\mathbf{C}) = \mathbf{A}\mathbf{B} + \mathbf{A}\mathbf{C}$
转置
行列互换 。注意矩阵乘积的转置，检查行列数
- $(\mathbf{A}\mathbf{B})^\mathbf{T} = \mathbf{B^T}\mathbf{A^T}$
- $(\mathbf{A}+\mathbf{B})^\mathbf{T} = \mathbf{A^T} + \mathbf{B^T}$
- $(\mathbf{A^T})^T = \mathbf{A}$
- $(k\mathbf{A})^\mathbf{T} = k \mathbf{A^T}$
$\mathbf{A^T}\mathbf{A}$ 得到列向量的两两乘积矩阵，$\mathbf{A}\mathbf{A^T}$ 得到行向量的两两乘积矩阵
行列式
- $\det (\mathbf{A} \mathbf{B}) = \det \mathbf{A} \det \mathbf{B}$
- $\det (k \mathbf{A}) = k^n \det \mathbf{A}$
- $\det (\mathbf{A} + \mathbf{B}) \ne \det \mathbf{A} + \det \mathbf{B}$
矩阵特征
行列式
对 n 阶 方阵 $\mathbf{A}$ 的行列式 $\det \mathbf{A}$ 为
$$ \det \mathbf{A} = \sum{j=1}^n a{i,j}\mathbf{A}_{i,j} $$
其中，i 为任意一行编号， $A{i,j}$ 为代数余子式，参考以下定义：\
余子式：元素 $a{i,j}$ 的余子式为除去第 i 行 j 列的方阵的行列式，记作 $M{i,j}$。\
代数余子式： $A{i,j}=(-1)^{i+j}M_{i,j}$
很明显，行列式的计算是一个递归的过程。特别 用于二三阶行列式 的简便计算方法：
三阶矩阵的行列式为每条红线上的元素的乘积之和，减去蓝线上元素乘积之和。(参考 Wikipedia 行列式)
秩
最高阶非零行列式的阶数。即，对矩阵 A，存在一个非零 r 阶子式，且任意 r+1 阶子式都为 0，则 A 的秩 R(A) = r \
k 阶子式： 矩阵取 k 行 k 列，其 $k^2$ 个交点按原来的相对位置构成 k 阶 行列式， 称其为 k 阶子式。
特征值（Eigenvalue）
对 方阵 A ，存在数 $\lambda$ 和 非零向量 $\mathbf{\alpha}$ 使得
$$ \mathbf{A\alpha} = \lambda \mathbf{\alpha} $$
也即 $(\lambda \mathbf{I} - \mathbf{A})\mathbf{\alpha} = \mathbf{0}$， 则称 $\lambda,\;\mathbf{\alpha}$ 分别为方阵 $\mathbf{A}$ 的特征值和特征向量。
矩阵性质
可逆
$$\mathbf{A}\mathbf{B}=\mathbf{B}\mathbf{A}=\mathbf{I}$$
满足该条件的 $\mathbf{A}$, $\mathbf{B}$ 为可逆矩阵，互为对方的逆矩阵，记 $\mathbf{A}^{-1} = \mathbf{B}$
充要条件
- $\mathbf{A}$ 为方阵且 $\mathbf{A}\mathbf{B}=\mathbf{I}$
- $\det \mathbf{A} \ne 0$
- $r(\mathbf{A})=n$
- 可表为有限个初等矩阵的乘积
- 所有特征值全不为零
性质
- $(\mathbf{A}\mathbf{B})^{-1}=\mathbf{B}^{-1}\mathbf{A}^{-1}$
- $(\lambda\mathbf{A})^{-1}=\mathbf{A}^{-1}\lambda^{-1}$
- $(\mathbf{A^T})^{-1} = (\mathbf{A}^{-1})^\mathbf{T}$
- $\mathbf{A}^{-1} = (\det \mathbf{A})^{-1} \mathbf{A}^{ * }$
- $\det \mathbf{A} \det \mathbf{A}^{-1}=1$
用行初等变换求逆矩阵
将矩阵施以行初等变换化为单位矩阵，同时将整个变化过程运用于单位矩阵得到逆矩阵
同型
两矩阵行列数相等
等价
对矩阵 A 施以初等变换能转化成 B，称二者等价。也即，存在可逆矩阵 P、Q，使得
$$ \mathbf{B} = \mathbf{P}\mathbf{A}\mathbf{Q} $$
性质： 等价矩阵同型等秩同标准形
相似
对于 n 阶方阵 A，B，如果存在可逆矩阵 P，使得
$$ \mathbf{P}^{-1}\mathbf{A}\mathbf{P}=\mathbf{B} $$
则称 A 与 B 相似，记为 $\mathbf{A} \sim \mathbf{B}$。 相似矩阵的特征值相同。
向量正交
两向量内积为零则正交
合同
对方阵 $\mathbf{A},\,\mathbf{B}$， 若存在可逆矩阵 $\mathbf{C}$， 使得
$$ \mathbf{B} = \mathbf{C^T A C} $$
则称 $\mathbf{A},\,\mathbf{B}$ 合同。