线性代数整理

矩阵运算

\[A_{m\times n} = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix}\]

$m$ 行(rol) $n$ 列(col)

矩阵编号从1开始，所以矩阵的行号和列号都从1开始。 编号为列优先，矩阵元素$a_{ij}$的$i$为行号，$j$为列号（一行中的哪一个）。

矩阵加法满足

1. 交换律 $\forall A,B,C \in M_{n \times n} \quad A+B = B+A$
2. 结合律 $\forall A,B,C \in M_{n \times n} \quad A+(B+C)=(A+B)+C$

矩阵乘法的

不满足交换律，但满足结合律

矩阵乘法

\[A_{m_1\times n_1} B_{m_2\times n_2} = C_{m_1\times n_2}\\ \text{where} \quad n_1 = m_2\]

元素运算（点积）

\[[a_{ij}]_{p \times r} [b_{ij}]_{r \times q} = [\sum_{k=1}^n a_{ik}b_{kj}]_{p \times q}\] \[\begin{bmatrix} - a_i^* -\\\vdots \end{bmatrix}_{p\times1} \begin{bmatrix} \begin{array}{ccc}\mid\\b_j\\\mid\end{array} \cdots \end{bmatrix}_{1\times q}= \begin{bmatrix} a_i^*b_j & \cdots\\\vdots & \ddots \end{bmatrix}_{p \times q}\]

$A$中行向量与$B$中列向量的点积组合

函数视角

矩阵运算可以看作是函数运算，$[a_{ij}]_{m \times n}$ 作为左乘式，对右侧对象进行线性变换，输入$n$维列向量，输出$m$维列向量。

$[b_{ij}]_{m \times n}$ 做为右乘式，对左侧对象进行线性变换，输入$m$维行向量，输出$n$维行向量。

\[A\begin{bmatrix} x&y \end{bmatrix} = \begin{bmatrix} Ax & Ay \end{bmatrix}\\\] \[\begin{bmatrix} x\\ y \end{bmatrix}B= \begin{bmatrix} xB\\ yB \end{bmatrix}\]

矩阵组合相加视角

\[\begin{bmatrix} \textbf{a}_i\cdots \end{bmatrix} \begin{bmatrix} \textbf{b}^*_i\\\vdots \end{bmatrix}= \sum_{i=0}^n \textbf{a}_i \textbf{b}^*_i\]

线性组合视角

向量-矩阵

列向量左乘矩阵——右向量 是 矩阵的列向量 的线性组合系数 \([\alpha_i \cdots] \begin{bmatrix}b_i\\\vdots\end{bmatrix} = \begin{bmatrix} \sum_{i} \alpha_i \cdot b_{i}\end{bmatrix}\)

行向量右乘矩阵——左向量 是 矩阵的行向量 的线性组合系数

\[[a_i \cdots] \begin{bmatrix} \beta_i^*\\ \vdots \end{bmatrix}= \begin{bmatrix} \sum_{i} a_{i} \cdot \beta_i^*\\ \end{bmatrix}\]

矩阵-矩阵

右列向量 是 左列向量 的线性组合系数

\[[\alpha_i \cdots] [\beta_j \cdots] = \begin{bmatrix}[\alpha_i \cdots]\beta_j\cdots\end{bmatrix} = \begin{bmatrix} (\sum_{i} \alpha_i \cdot b_{ij}) \cdots\end{bmatrix}\]

左行向量 是 右行向量 的线性组合系数

\[\begin{bmatrix} \alpha_i^*\\ \vdots \end{bmatrix} \begin{bmatrix} \beta_j^*\\ \vdots \end{bmatrix}= \begin{bmatrix} \alpha_i ^* \begin{bmatrix} \beta_j^*\\ \vdots \end{bmatrix}\\ \vdots \end{bmatrix} = \begin{bmatrix} \sum_{j} a_{ij} \cdot \beta_j^*\\ \vdots \end{bmatrix}\]

运算性质

$(AB)C=A(BC)$。 $\lambda(AB)=(\lambda A)B=A(\lambda B)$。 $A(B+C)=AB+AC$。 $(B+C)A=BA+CA$。 $EA=AE=A$。

矩阵幂

只有方阵才能连乘，从而只有方阵才有幂。

$A^kA^l=A^{k+l}$。 $(A^k)^l=A^{kl}$。

转置

$(A^T)^T=A$。 $(A+B)^T=A^T+B^T$。 $(\lambda A)^T=\lambda A^T$。 $(AB)^T=B^TA^T$。 若$m=n$，$\vert A\vert=\vert A^T\vert$。

对称矩阵$A=A^T$ 反对称矩阵$-A=A^T$ 单位正交矩阵$A^TA=E$

行列式

几何意义：有向面积/体积

只有n阶矩阵才有行列式

$\vert A^T\vert=\vert A\vert$。 $\vert A^{-1}\vert=\dfrac{1}{\vert A\vert}$。 $\vert\lambda A\vert=\lambda^n\vert A\vert$。 $\vert AB\vert=\vert A\vert\cdot\vert B\vert=\vert BA\vert$。

行列式的余子式展开

余子式:

$\forall a_{ij}$，$D$中划去$i$行，$j$列余下元素而成的$n-1$阶行列式记为$M_{ij}$，其就是$a_{ij}$的余子式。

代数余子式：

$A_{ij}=(-1)^{i+j}M_{ij}$，其就是$a_{ij}$的代数余子式。

行列式等于其任一行或列的各元素与对应的代数余子式乘积之和。

\[|A| = \sum_{i=1}^n a_{ij} A_{ij} = \sum_{i=1}^n (-1)^{i+j}a_{ij}M_{ij}\\ |A| = \sum_{j=1}^n a_{ij} A_{ij} = \sum_{j=1}^n (-1)^{i+j}a_{ij}M_{ij}\\\]

若元素与不对应的代数余子式乘积之和必然为0。即$a_{i1}A_{k1}+\cdots+a_{in}A_{kn}=0$。

运算性质

1. $

   A

   =

   A^T

   $

2. $

   AB

   =

   A

   B

   $

3. $

   \alpha_i\cdots, k\alpha_x ,\alpha_j\cdots

   = k

   \alpha_i\cdots, \alpha_x ,\alpha_j\cdots

   $ $\Rightarrow

   kA

   = k^n

   A

   $

重要推论

\[\begin{array}{cccc} \text{对调行列}& \begin{cases} |E_{\text{swap}}A| = \begin{vmatrix}0&1\\1&0\end{vmatrix} |A| = -|A|\\ |AE_{\text{swap}}| = |A| \begin{vmatrix}0&1\\1&0\end{vmatrix} = -|A|\\ \end{cases}\\\\ \text{线性加和}& \begin{cases} |E_{\text{add}}A| = \begin{vmatrix}1&0\\c&1\end{vmatrix} |A| = |A|\\ |AE_{\text{add}}| = |A| \begin{vmatrix}1&0\\c&1\end{vmatrix} = |A|\\ \end{cases}\\\\ \alpha_i=0 , \alpha^*_i=0& |A| = \sum_{i=1}^n (-1)^{i+j}0M_{ij} = 0\\\\ \text{线性相关}& \overset{\text{线性加和}}{\rightarrow} \alpha_i=0 , \alpha^*_i=0 \end{array}\]

行列式计算

伴随矩阵

行列式$\vert A\vert$各个元素的代数余子式$A_{ij}$转置构成的矩阵。

\[A^*=[A_{ij}]^T = [A_{ji}]\]

重要性质 \(AA^*=A^*A=\vert A\vert E\)

任何方阵都有伴随矩阵

推论 $A^*=\vert A\vert A^{-1}$

$A^{-1}=\dfrac{1}{\vert A\vert}A^*$

$A=\vert A\vert(A^*)^{-1}$

$\vert A^\vert=\vert A\vert^{n-1}$，$(kA)^=k^{n-1}A^*$

$(kA)(kA)^*=\vert kA\vert E$

$A^T(A^T)^*=\vert A^T\vert E$

$A^{-1}(A^{-1})^*=\vert A^{-1}\vert E$

$A^(A^)^=\vert A^\vert E$

$(A^T)^=(A^)^T$

$(A^{-1})^=(A^)^{-1}$

$(AB)^=B^A^*$

$(A^)^=\vert A\vert^{n-2}A$

分块矩阵运算

加减乘除均相同

分块下的行列式

\[\begin{vmatrix} A_{n\times n}&B_{n\times n}\\C_{n\times n}&O \end{vmatrix}=(-1)^n|B|\cdot |C|\] \[\begin{align*} \begin{vmatrix} A_{n\times n}&B_{n\times m}\\C_{m\times n}&D_{m\times m} \end{vmatrix} &= \begin{vmatrix} A&B\\O&CA^{-1}B \end{vmatrix}\\ &= |A||D - CA^{-1}B|\\ &= |D||A - CD^{-1}B|\\ \end{align*}\]

初等变换、逆矩阵、方程求解

逆矩阵

逆矩阵 $AA^{-1}=E$

$A^{-1}=\dfrac{1}{\vert A\vert}A^*$

当$\vert A\vert=0$时，$A$为奇异矩阵，否则是非奇异矩阵。

矩阵是可逆矩阵的必要条件是非奇异矩阵 若$AB=E$或$BA=E$，则$B=A^{-1}$

若$A$可逆，则$(A^{-1})^{-1}=A$。 若$A$可逆，数$\lambda\neq0$，则$(\lambda A)^{-1}=\dfrac{1}{\lambda}A^{-1}$。 若$AB$为同阶矩阵且都可逆，则$(AB)^{-1}=B^{-1}A^{-1}$。 若$A$可逆，则$(A^T)^{-1}=(A^{-1})^T$。 若$A$可逆，则$\vert A^{-1}\vert=\vert A\vert^{-1}$。 若$A$可逆，$\lambda\mu$为整数时，$A^\lambda A^\mu=A^{\lambda+\mu}$，$(A^\lambda)^\mu=A^{\lambda\mu}$。

初等变换

对换两行（对换$ij$两行，记为$r_i\leftrightarrow r_j$）。 以数$k\neq0$乘某一行中的所有元（第$i$行乘$k$，记为$r_i\times k$），对角线元素全部为0。 把某一行所有元的$k$倍加到另一行对应元上（第$j$行的$k$倍加上第$i$行上，记为$r_i+kr_j$）。

初等矩阵

初等矩阵的转置也是初等矩阵。 对初等矩阵进行行或列变换，$\vert E_{ij}\vert=-1$，对其求逆：$E_{ij}^{-1}=E_{ij}$。 对初等矩阵$i$行乘$k$，$\vert E_i(k)\vert=k$，对其求逆：$E_i(k)^{-1}=E_i\left(\dfrac{1}{k}\right)$。 对初等矩阵第$j$行乘$k$加到$i$行，$\vert E_{ij}(k)\vert=1$，对其求逆：$E_{ij}(k)^{-1}=E_{ij}(-k)$。

初等变换具有如下性质

设$A$是一个$m\times n$矩阵，对$A$进行一次初等行变换，相当于在$A$左乘对应$m$阶初等矩阵；对$A$进行一次列变换，相当于在$A$右乘对应$n$阶初等矩阵。 方阵$A$可逆的充分必要条件是存在有限个初等矩阵$P_i$使得$A=\prod\limits_{i=1}^nP_i$。 可逆方阵$A$一定可以通过有限次初等变换化为同阶单位矩阵$E$。 方阵$A$可逆 $\Leftrightarrow$ $A\overset{r}{\sim}E$。（即$A$方阵所代表的线性方程组能通过初等计算得到最后的解）

对于$A_{m\times n}$进行初等变换： 第$ij$行对换：$E_m(ij)A$，第$ij$列变换：$AE_n(ij)$。 数$k$乘第$i$行：$E_m(i(k))A$，数$k$乘第$i$列：$AE_n(i(k))$。 数$k$乘第$j$行加到$i$行：$E_m(ij(k))A$，数$k$乘第$j$列加到$i$列：$AE_n(ij(k))$。

求解逆矩阵

\[[A|E] \overset{r}{\sim} [E|A^{-1}]\\ [A|B] \overset{r}{\sim} [E|A^{-1}B]\]

矩阵秩

秩的本质就是组成矩阵的线性无关的向量个数。$\vec{0}$的秩为$0$

$A_{m\times n}$的秩最大为$min(m,n)$

$r(kA)=r(A)$。

$r(AB)\leqslant\min{r(A),r(B)}$。当且仅当$AB$满秩等号成立。

$r(A+B)\leqslant r(A

B)\leqslant r(A)+r(B)$。

$r(A^*)=\left{\begin{array}{l} n, r(A)=n
1, r(A)=n-1
0, r(A)<n-1 \end{array}\right.$。

$AB=O$，$r(A)+r(B)\leqslant$阶数，即变量数或列数。

矩阵等价

若$A$经过有限次行变换得到$B$，则称$AB$行等价，记为$A\overset{r}{\sim}B$； 若$A$经过有限次列变换得到$B$，则称$AB$列等价，记为$A\overset{c}{\sim}B$； 若$A$经过有限次初等变换得到$B$，则称$AB$等价，记为$A\sim B$。

矩阵之间的等价关系：

反身性：$A\sim A$。 对称性：若$A\sim B$，则$B\sim A$。 传递性：若$A\sim B$，$B\sim C$，则$A\sim C$。

$B_{m\times n}=QA_{m\times n}P$（$Q$为$m\times m$阶可逆矩阵，$P$为$n\times n$阶可逆矩阵），则$AB$等价

矩阵$A$和$B$等价，那么$\vert A\vert=k\vert B\vert$。（$k$为非零常数）

具有行等价关系的矩阵所对应的线性方程组有相同的解(列变换改变了$x_i$的次序)

向量组等价

\[[\alpha_{1\cdots n}] {\cong} [\beta_{1\cdots m}]\]

对于矩阵，$A\cong B$ $\Rightarrow $ $AB$同型且$r(A)=r(B)$。

对于向量组，若$A\cong B$ $\Rightarrow $ $AB$同维（行数相同）且$r(A)=r(B)=r(A

B)$。

等价向量组可以多一些其他线性相关向量。

线性相关判定

向量组$\alpha_{1\cdots n}$（$n\geqslant2$）线性相关 $\Leftrightarrow$ 向量组中至少有一个向量可由其他$n-1$个向量线性表出。 $\alpha_{1\cdots n}$线性无关 $\Leftrightarrow$ 向量组的任何一个向量都不能被其他$n-1$个向量线性表出。 向量组$\alpha_{1\cdots n}$存在一部分向量线性相关 $\Rightarrow $ 整个向量组线性相关。 若$\alpha_{1\cdots n}$线性无关 $\Rightarrow $ 任意一部分向量组线性无关。

向量组$\alpha_{1\cdots n}$线性无关，而$\beta,\alpha_{1\cdots n}$线性相关 $\Rightarrow $ $\beta$可由$\alpha_{1\cdots n}$线性表示，且表示方法唯一。 向量组$\alpha_{1\cdots n}$可由向量组$\beta_{1\cdots s}$线性表示，且$n>s$ $\Rightarrow $ $\alpha_{1\cdots n}$线性相关。（以少表多，多的相关） 若向量组$\alpha_{1\cdots n}$可由向量组$\beta_{1\cdots s}$线性表示，$\alpha_{1\cdots n}$线性无关 $\Rightarrow $ $n\leqslant s$。

$m$个$n$维向量$\alpha_1,\alpha_2,\cdots,\alpha_m$线性无关 $\Leftrightarrow$ 齐次线性方程$Ax=0$只有零解。 向量$\beta$可由向量组$\alpha_{1\cdots n}$表出 $\Rightarrow $ 向量组$[\alpha_{1\cdots n}][x_1,x_2,\cdots,x_n]^T=\beta$有解，即$r([\alpha_{1\cdots n}])=r([\alpha_{1\cdots n},\beta])$。 否则则不能表出 $\Rightarrow $ 方程无解，$r([\alpha_{1\cdots n}])+1=r([\alpha_{1\cdots n},\beta])$

$m$个$n$维向量$\alpha_{1\cdots m}$线性无关 $\Rightarrow $ 把这些向量中每个各任意添加$s$个分量所得到的新向量组（$n+s$维）$\alpha_{1\cdots m}^*$也是线性无关的； 如果$\alpha_{1\cdots m}$线性相关 $\Rightarrow $ 每个各去掉相同的若干分量得到的新向量组也线性相关。（原来无关延长无关，原来相关缩短相关）

判断

极大线性无关组 在向量组$\alpha_{1\cdots n}$中，若存在部分$a_i,a_j,\cdots,a_k$满足：

1. $a_i,a_j,\cdots,a_k$线性无关；
2. 向量组中任一向量均可由$a_i,a_j,\cdots,a_k$线性表出 $\Leftrightarrow $ 向量组$a_i,a_j,\cdots,a_k$为原向量组的极大线性无关组。

向量组和其极大线性无关组是等价向量组。

向量空间

基变换与坐标变换 $R^n$中两个基 $A = [\eta_i \cdots ]$ $B = [\xi_i \cdots ]$ 基变换公式 $A=BC$ 过渡矩阵 $C = B^{-1}A$

$Ax$将$x$从$[\eta_i \cdots ]$转换到$[e_i \cdots ]$空间

$B^{-1}x$将$x$从$[e_i \cdots ]$转换到$[\xi_i \cdots ]$空间

简而言之： $A$ 是 $A$ 基的在自然基下的表示， $A$ 转出 $A$ 基， $A^{-1}$ 转入 $A$ 基

线性方程

齐次方程

\(Ax=0\)

\[\begin{cases} r(A)=n & \Rightarrow & x = 0\\ r(A)<n & \Rightarrow & x = \sum_{i=1}^{n-r}k_i\xi_i \end{cases}\]

$\xi_i$为线性无关的基础解系

非齐次方程

\[Ax=b\] \[\begin{cases} r(A)\neq r([A,b]) & \Rightarrow & x = \empty\\ r(A)=r([A,b])=n & \Rightarrow & x = \eta\\ r(A)=r([A,b])<n & \Rightarrow & x = \eta + \sum_{i=1}^{n-r}k_i\xi_i \end{cases}\]

克拉默法则

\[for\, Ax = b\\ x_i = \frac{|A_i|}{|A|}\\ A_i = \text{replace colum i with b}\]

同解

同解方程组 $Ax=0$ 且 $Bx=0$

$Ax=0 \Leftrightarrow A^TAx = 0$ $r(A)=r(A^T)=r(A^TA)=r(AA^T)$ \(\begin{align*} &\text{proof}\\ &Ax=0 \Rightarrow A^TAx = A^T0 = 0\\ &A^TAx = 0 \Rightarrow ||Ax||=(Ax)^T Ax = x_TA_TA x = x_T0 = 0 \Rightarrow Ax = 0 \end{align*}\)

特征

设$A$是$n$阶矩阵，$\lambda$是一个数，若存在$n$维非零列向量$\xi\neq0$ \(A\xi=\lambda\xi\) $\lambda$是$A$的特征值 $\xi$是$A$的对应于特征值$\lambda$的特征向量。

重要性质

特征值

• $\sum\limits_{i=1}^n\lambda_i=\sum\limits_{i=1}^n a_{ii}=tr(A)$

  note: 矩阵的迹 $tr(A)=\sum\limits_{i=1}^n a_{ii}$

• $\prod\limits_{i=1}^n\lambda_i=\vert A\vert$

• $f(A)\xi=f(\lambda)\xi$

• 特征值是实数 $\Rightarrow$ 非0特征值的个数=r(A) $\Leftrightarrow \text{count}(\lambda_i=0)=n-r(A)$

  特征向量

• $\xi$ 是特征向量 $\Leftrightarrow k\xi$ 是特征向量
• $k$重特征值$\lambda$有$k$个特征向量，至多有$k$个线性无关的特征向量
• $\lambda_1 \neq \lambda_2 \Rightarrow \xi_1 \neq k\xi_2$
• $\lambda_1 = \lambda_2 \Rightarrow k_1\xi_1+k_2\xi_2$ 是特征向量 (与$\xi_1$$\xi_2$是否线性相关无关)
• 若$A$可逆，则$A$、$A^{-1}$、$A^*$的特征向量相同。
  • $A^{-1}\xi=\dfrac{1}{\lambda}\xi$ ($A^{-1}$对应的特征值为$\dfrac{1}{\lambda}$)
  • $A^\xi=\dfrac{\vert A\vert}{\lambda}\xi$ ($A^$对应的特征值为$\dfrac{\vert A\vert}{\lambda}$)

特征方程

\[\vert\lambda E-A\vert=0\]

解出的$\lambda_i$就是特征值。 将$\lambda_i$代回原方程求解。 $(\lambda E-A)x=0$的线性不相关解为特征向量 (可用$\lambda E-A$的秩来判断有几个线性不相关解) (特征向量是一组同方向的向量)

特征方程的计算

\[|\lambda \boldsymbol{E}-\boldsymbol{A}|=\left|\begin{array}{ccc} \lambda-a_{11} & -a_{12} & -a_{13} \\ -a_{21} & \lambda-a_{22} & -a_{23} \\ -a_{31} & -a_{32} & \lambda-a_{33} \end{array}\right|\]

1. 直接展开 \(|\lambda \boldsymbol{E}-\boldsymbol{A}|=\lambda^3-tr(A)\cdot\lambda^2+k\lambda-|A|\\ \text{where}\\ k=(a_{11}a_{22}+a_{11}a_{33}+a_{22}a_{33})-(a_{12}a_{21}+a_{13}a_{31}+a_{32}a_{23})\\ k = 主对角错乘-对称位置相乘\)

进行试根 利用$tr(A)=\lambda_1+\lambda_2+\lambda_3$ 以及$|A|=\lambda_1\lambda_2\lambda_3$

1. 比值

尝试 \(\frac{\lambda-a_{11}}{-a_{21}} = \frac{-a_{12}}{\lambda-a_{22}} = \frac{-a_{13}}{-a_{23}}\) 或其它几种有非零除法的形式 若无冲突可以进行线性加法然后分离

1. 定义

利用 $

A-\lambda E

= 0$ 如果 $r(A-\lambda E) < n$ 则对应的 $n - r(A-\lambda E)$ 重特征值为 $\lambda$

1. 高斯消元

用于下三角或上三角较好消除的情况

相似理论

设$A,B$是两个$n$阶方阵，若存在$n$阶可逆矩阵$P$，使得$P^{-1}AP=B$，则称$A$相似于$B$，记为$A\sim B$。

几何意义: $A = PBP^{-1}$ $B$ 是 $A$ 变换在 $P$ 基下的变换

• 若$A\sim B$，$r(A)=r(B)$，$\vert A\vert=\vert B\vert$，$\vert\lambda E-A\vert=\vert\lambda E-B\vert$，$tr(A)=tr(B)$，$AB$具有相同的特征值。但是反之不能推出。
• 若$A\sim B$，$AB\sim BA$
• 若$A\sim B$，$A^m\sim B^m$，$f(A)\sim f(B)$
• 若$A\sim B$，且$A$可逆，则$A^{-1}\sim B^{-1}$，$f(A^{-1})\sim f(B^{-1})$
• 若$A\sim B$，$A^T\sim B^T$，$A^\sim B^$

$P^{-1}AP = B$，且$A$可逆 $L(A) = af(A) + \pm bA^{-1} \pm cA^*$ ,有 $P^{-1}L(A)P=L(B)$

原因

\(P^{-1}A^{-1}P = (P^{-1}AP)^{-1} = B^{-1}\\\) \(\begin{align*} P^{-1}A^*P =& P^{-1}A^{-1}|A|P \\ =&|A| P^{-1}A^{-1}P\\ B^* =& (P^{-1}AP)^* \\ =& (P^{-1}AP)^{-1}|P^{-1}||P||A| \\ =& |A| P^{-1}A^{-1}P \end{align*}\)

相似对角化

设$n$阶矩阵$A$，若存在$n$阶可逆矩阵$P$，使得 $P^{-1}AP=\Lambda$ $\Leftrightarrow$ $A\sim\Lambda$ $\Leftrightarrow$ $\Lambda$是$A$的相似标准形。

$AP = P\Lambda$ \(A[\xi_{i}\cdots] = [\xi_{i}\cdots] \begin{bmatrix} \lambda_{i} & \\ & \ddots \\ \end{bmatrix}= [\lambda_i\xi_i \cdots] \qquad r([\xi_{i}\cdots]) = n\)

note: 非满秩矩阵也可以相似对角化

$A\sim\Lambda$ $\Leftrightarrow$ $A$有$n$个线性无关的特征向量 $\Leftrightarrow$ $A$的每个$n$重特征值都有$n$个线性无关的特征向量

$\Leftarrow$ $n$解矩阵$A$有$n$个不同的特征值 $\Leftarrow$ $A = A^T$ and $A \in \mathbb{R}^{n\times n}$

应用

相似对角化可用于求解矩阵的高次幂 $ A^n = (P\Lambda P^{-1})^n = P\Lambda^n P^{-1} $

施密特正交化

抹去已正交化的向量上的分量，再进行单位化

对于线性无关向量组$\alpha_1,\alpha_2,\cdots,\alpha_n$

let $\text{Prj}{\beta}\alpha=\dfrac{<\alpha,\beta>}{<\beta,\beta>}\beta$ 其中$<n,n>$代表$n,n$的内积 $\beta_1=\alpha_1$ $\beta_2=\alpha_2-\text{Prj}{\beta_1}\alpha_2$ $\beta_3=\alpha_3-\text{Prj}{\beta_1}\alpha_3-\text{Prj}{\beta_2}\alpha_3$ $\cdots$ $\beta_n=\alpha_n-\sum_{i=1}^{n-1} \text{Prj}{\beta{i}}\alpha_n$

最后单位化：$\gamma_i=\dfrac{\beta_i}{\Vert\beta_i\Vert}$。

性质

$A$是实对称矩阵 $\Rightarrow$ $A$的特征值是实数，特征向量是实向量。 $A$是实对称矩阵 $\Rightarrow$ $\exist Q^TQ=E$ that $Q^{-1}AQ=Q^{T}AQ=\Lambda$

将实对称矩阵的特征向量矩阵$[\xi_i\cdots]$施密特正交化得到 $Q$

note：只有单位正交矩阵 $Q$ 具有性质 $Q^TQ=E$；一般而言，正交矩阵指代的是单位正交矩阵

二次型

\[f(x_i\cdots) = \sum_{i=1}^{n} \sum_{j=1}^{n} a_{ij} x_i x_j = x^T A x\]

可以看作是$x_i$的组合加和

\[f(x_i\cdots) = \begin{array}{c|ccc} & x_{1} & x_{2} & \cdots & x_{n} \\ \hline x_{1} & a_{11} & a_{12} & \cdots & a_{1n} \\ x_{2} & a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ x_{n} & a_{n1} & a_{n2} & \cdots & a_{nn} \end{array}\]

规定：二次型矩阵就是一个实对称矩阵，$A=A^T, A\in\mathbb{R}^{n\times n}$ (非对称矩阵可以转换为对称矩阵)

\[f(x_i\cdots) = \begin{array}{c|ccc} & x_{1} & x_{2} & \cdots & x_{n} \\ \hline x_{1} & a_{11} & 2a_{12} & \cdots & 2a_{1n} \\ x_{2} & & a_{22} & \cdots &2 a_{2n} \\ \vdots & & & \ddots & \vdots \\ x_{n} & & & & a_{nn} \end{array}\]

note: $\vec{x}^T \vec{y} = \vec{y}^T \vec{x}$

合同变换

\[\begin{align*} x &= Cy\\ f(x) &= (Cy)^TACy\\ &= y^T C^T A C y \\ &= y^T B y \end{align*}\]

$C$是一个基，将y转入x的基

二次型$f(x)$与$g(y)$的系数矩阵$A$与$B$满足$B=C^TAC$，这种关系就是合同变换

$A\simeq B$ $\Leftrightarrow$ $\begin{cases} A,B\text{是实对称矩阵}
\exist C,C^{-1}
C^TAC=B \end{cases}$ $\Leftrightarrow$ $A,B$合同 $\Leftrightarrow$ $x^T A x$与$x^T B x$为合同二次型

性质

反身性：$A\simeq A$。 对称性：$A\simeq B$，$B\simeq A$ 传递性：$A\simeq B$，$B\simeq C$，$A\simeq C$。

• $A\simeq B$，$r(A)=r(B)$。$C^TAC=B$，矩阵左右乘一个可逆矩阵，秩不变。
• $A\simeq B$，$A^T=A\Leftrightarrow B^T=B$。$B^T=B$，即$(C^TAC)^T=C^TAC$，$C^TA^TC=C^TAC$，$(C^T)^{-1}C^TA^TCC^{-1}=(C^T)^{-1}C^TACC^{-1}$，$A^T=A$。
• $A\simeq B$，$AB$可逆，则$A^{-1}\simeq B^{-1}$。
• $A\simeq B$，$A^T\simeq B^T$。

二次型标准型(Standard form) $f(x) = \sum_{i=1}^{n} a_i x_i^2$

标准型也不唯一

二次型标准型的平方项系数不一定就是特征值，要看标准型是通过什么转换完成的。

如果是正交变换(唯一)，那变换出来的系数是特征值。（实对称矩阵存在正交的特征向量组） 如果是配方法，那系数就不是特征值。配方法得出的标准型和正交法标准型有同样的规范型。

任意一个线性变换矩阵都可以得到一个合同矩阵，存在一个与之对应的参考系。

二次型的规范型(Canonical form) $f(x) = \sum_{i=1}^{n} b_i x_i^2 \quad b_i \in {-1,0,1}$

规范型唯一

两个二次型矩阵合同 $\Leftrightarrow$ 有相同的正负惯性指数

惯性定理

无论选取什么样的可逆线性变换，将二次型化为标准形或规范形，其正项个数$p$，负项个数$q$都是不变的，$p$称为正惯性指数，$q$称为负惯性指数。

定理：若二次型的矩阵秩为$r$，则$r=p+q$，可逆线性变换不改变正负惯性指数。

定理：两个二次型或实对称矩阵合同的 $\Leftrightarrow$ 有相同的正负惯性指数，或有相同的秩及正或负惯性指数。

正定二次

正定二次型: $\forall x \neq0 , f(x)=x^TAx>0$ : $f$正定，$A$正定

• $\Leftrightarrow$ $f$的正惯性指数$p=n$，$\forall p_i > 0$
• $\Leftrightarrow$ $A$的特征值 $\forall \lambda_i>0$
• $\Leftrightarrow$ $A\simeq E$
• $\Leftrightarrow$ 存在可逆矩阵$Q$，使得$A=Q^TQ$

• $\Leftrightarrow$ $A$的全部顺序主子式均大于0 $\Leftrightarrow$ $\forall D_k ,

  D_k

  >0 $

• $\Leftrightarrow$ $A^{-1}$ 正定
• $\Rightarrow$ $A^{*}$ 正定

若令一个正定二次型等于某个正数，则对于空间就是一个封闭曲面。

顺序主子式 对于$n\times n$阶的矩阵$A$，其共有$n$阶顺序主子式，即矩阵$A$的顺序主子式由共$n$个行列式按顺序排列而成 \(D_i = \begin{vmatrix} a_{11}&\cdots &a_{1i}\\ \vdots &\ddots &\vdots\\ a_{i1}&\cdots &a_{ii} \end{vmatrix}\)

配方法

任何二次型均可通过配方法（做可逆线性变换）化为标准形与规范形，即对于任何实对称矩阵$A$，必存在可逆矩阵$C$，使得$C^TAC=\Lambda$，

配方法的核心：将某个变量的平方项与其混合项一次性配称一个完全平方。

eg.

1. 观察 \(x^T\begin{bmatrix} 2&1&1\\ 1&2&1\\ 1&1&2 \end{bmatrix}x = (x_1+x_2)^2 + (x_2+x_3)^2 + (x_1+x_3)^2 = y^T\begin{bmatrix} 1&0&0\\ 0&1&0\\ 0&0&1 \end{bmatrix}y\)

\[y = \begin{bmatrix} 1&1&0\\ 0&1&1\\ 1&0&1 \end{bmatrix} x\]

1. 拉格朗日配方 \(\begin{align*} &x^T\begin{bmatrix} 2&1&1\\ 1&2&1\\ 1&1&2 \end{bmatrix}x\\ =&x^T\begin{bmatrix} 2&1&1\\ 1&1/2&1/2\\ 1&1/2&1/2 \end{bmatrix}x + x^T\begin{bmatrix} &&\\ &3/2&1/2\\ &1/2&3/2 \end{bmatrix}x\\ =&x^T\begin{bmatrix} 2&1&1\\ 1&1/2&1/2\\ 1&1/2&1/2 \end{bmatrix}x + x^T\begin{bmatrix} &&\\ &3/2&1/2\\ &1/2&1/6 \end{bmatrix}x + x^T\begin{bmatrix} &&\\ &&\\ &&4/3 \end{bmatrix}x\\ &= (\sqrt{2}x_1+\frac{1}{\sqrt{2}}x_2+\frac{1}{\sqrt{2}}x_3)^2 + (\sqrt{\frac{3}{2}}x_2+\frac{1}{\sqrt{6}}x_3)^2 + \frac{2}{\sqrt{3}}x_3^2 \end{align*}\)

\[y = \begin{bmatrix} \sqrt{2}&\frac{1}{\sqrt{2}}&\frac{1}{\sqrt{2}}\\ 0&\sqrt{\frac{3}{2}}&\frac{1}{\sqrt{6}}\\ 0&0&\frac{2}{\sqrt{3}} \end{bmatrix} x\]

对于无法直接使用拉格朗日配法的二次型，先进行一次可逆变换，如 \(\begin{cases} x_1 = y_1 + y_2\\ x_2 = y_1 - y_2\\ x_3 = y_3 \end{cases}\)

正交变换法

是对实对称矩阵相似对角化的正交变换的延申。

任何二次型均可通过正交变换法化为标准形（规范形不一定能表示出），即对于任何实对称矩阵$A$，必存在正交矩阵$Q$，使得$Q^TAQ=Q^{-1}AQ=\Lambda$