Schur Decomposition:对于任意 $A\in M_n(\mathbb C)$,存在酉矩阵 $U$ 和上三角矩阵 $T$ 使得 $A=UTU^*$;对于任意 $A\in M_n(\mathbb R)$,且其特征值均为实数,则存在正交矩阵 $Q$ 和上三角矩阵 $R$ 使得 $A=QRQ^\top$,其中 $R$ 的对角线元素为 $A$ 的特征值。
作为推论,半正定实对称方阵可以开 $n$ 次方根(也是半正定实对称方阵)。
Singular Value Decomposition:对于任意 $A\in M_{m\times n}(\mathbb C)$,存在酉矩阵 $U$ 和 $V$ 以及对角矩阵 $\Sigma$ 使得 $A=U\Sigma V^*$;对于任意 $A\in M_{m\times n}(\mathbb R)$,存在正交矩阵 $Q$ 和 $P$ 以及对角矩阵 $\Sigma$ 使得 $A=Q\Sigma P^\top$,其中 $\Sigma$ 的对角线元素为 $A$ 的奇异值。
其中
$$\Sigma=\begin{pmatrix}\mathrm{diag}(\sigma_1,\sigma_2,\cdots,\sigma_r) & 0\\ 0&0\end{pmatrix},\quad \Sigma^{-1}:=\begin{pmatrix}\mathrm{diag}(\sigma^{-1}_1,\sigma^{-1}_2,\cdots,\sigma^{-1}_r) & 0\\ 0&0\end{pmatrix}$$作为推论,可以定义任意矩阵 $A$ 的 Moore-Penrose 逆 $A^{-}$,满足
$$AA^{-}A=A,\quad A^{-}=P\Sigma^{-1}Q^\top$$对于满足 $AXA=A$ 的矩阵 $X$ 都称为 $A$ 的广义逆,形如
$$\Sigma=\begin{pmatrix}\mathrm{diag}(\sigma_1,\sigma_2,\cdots,\sigma_r) & *\\ *&*\end{pmatrix}$$与可逆矩阵的逆相容。Moore-Penrose 逆是一例广义逆。
作为 Gram-Schmidt 的推论
QR Decomposition:对于任意 $A\in M_{m\times n}(\mathbb C)$,存在酉矩阵 $Q$ 和上三角矩阵 $R$ 使得 $A=QR$;对于任意 $A\in M_{m\times n}(\mathbb R)$,存在正交矩阵 $Q$ 和对角元非负的上三角矩阵 $R$ 使得 $A=QR$。