1 线性方程组

1.1 线性方程组

  • 由于二元一次方程表示平面上的一条直线，所以将一次方程称为线性方程，将一次方程组称为线性方程组

1.2 矩阵及其初等变换

矩阵的定义

  • 由m×nm \times n个数aij(i=1,2,…,m;j=1,2,…,n)a_{ij}(i=1,2,\dots,m;j=1,2,\dots,n)排成的mm行nn列的数表，A=(a11a12…a1na21a22…a2n⋮⋮⋮am1am2…amn)A=\begin{pmatrix} a_{11} &a_{12} &\ldots&a_{1n}\\a_{21} & a_{22} &\ldots &a_{2n}\\\vdots &\vdots && \vdots\\a_{m1} &a_{m2} &\ldots& a_{mn}\end{pmatrix}称为mm行nn列矩阵，简称m×nm \times n矩阵。

  • 设 A=(aij)m×nA=(a_{ij} )^{m\times n}，B=(bij)p×qB = (b_{ij} )^{p\times q}，如果 m=pm = p，n=qn = q（此时称 A 与 B 是同型矩阵）且 aij=bija_{ij}=b_{ij} (i=1,…,m;j=1,…,ni=1,\dots,m;j=1,\dots,n) 则称 A 与 B 相等，记作 A=BA = B。

矩阵的初等变换

  • 称矩阵的下面三种变换分别为第一、第二、第三种初等行变换（类似定义三种初等列变换）：
    1. 交换矩阵的某两行，记为ri↔rjr_i \leftrightarrow r_j
    2. 以不等于０的数乘矩阵的某一行，记为k⋅rik \cdot r_i
    3. 把矩阵的某一行乘上一个数加到另一行上， 记为ri+k⋅rjr_i + k \cdot r_j
  • 行阶梯型矩阵
    1. 台阶左下方元素全为零
    2. 每个台阶上只有一行
    3. 每个台阶上第一个元素不为零
  • 行最简阶梯型矩阵
    1. 台阶左下方元素全为零
    2. 每个台阶上只有一行
    3. 每个台阶上第一个元素不为零
    4. 台阶上的第一个元素为1,且其所在列其它元素全为零
  • 定理1.1：只用初等行变换必能将矩阵化为行阶梯形，从而再化为行最简形，行阶梯形不唯一，行最简形唯一
  • 如果矩阵A经过有限次初等变换变成矩阵B，就称矩阵A与B等价，记作A≅BA\cong B

1.3 线性方程组的矩阵解法

定理1.2：非齐次线性方程组解的判定定理

  • 当T的台阶数为r+1时，方程组无解
  • 当T的台阶数为r时，方程组有解
    • 当r＝n（未知量个数）时，方程组有唯一解
    • 当r＜n时，方程组有无穷多解

定理1.3：齐次线性方程组解的判定定理

  • 当r＝n（未知量个数）时，方程组有唯一零解
  • 当r＜n时，方程组有无穷多解（非零解）

2 矩阵

2.1 矩阵的运算

  • 矩阵的加法：A=(aij)m×n,B=(bij)m×n,A+B=(a11+b11a12+b12⋯a1n+b1na21+b21a22+b22⋯a2n+b2n⋮⋮⋮am1+bm1am2+bm2⋯amn+bmn)A=(a_{ij})^{m\times n},B=(b_{ij})^{m\times n},A+B=\begin{pmatrix} a_{11}+b_{11}&a_{12}+b_{12} & \cdots &a_{1n}+b_{1n}\\a_{21}+b_{21}&a_{22}+b_{22}&\cdots & a_{2n}+b_{2n}\\ \vdots & \vdots & & \vdots\\a_{m1}+b_{m1} & a_{m2}+b_{m2} & \cdots & a_{mn} + b_{mn}\end{pmatrix}

  • 矩阵的数乘：kA=k(aij)m×n=(kaij)m×nkA=k(a_{ij})^{m\times n}=(ka_{ij})^{m\times n}

  • 矩阵的乘法：A=(aij)m×n,B=(bij)n×s,AB=(cij)m×sA=(a_{ij})^{m\times n},B=(b_{ij})^{n\times s},AB=(c_{ij})^{m\times s}，其中cij=ai1b1j+ai2b2j+⋯+ainbnj=∑k=1saikbkjc_{ij}=a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{in}b_{nj}=\sum\limits_{k=1}^sa_{ik}b_{kj}

  • EmAm×n=Am×nEnE_mA^{m\times n}=A_{m \times n}E_n

  • 有了矩阵的乘法，方程组的矩阵表示形式可以用矩阵形式表示为AX=BAX=B，其中A=(a11a12⋯a1na21a22⋯a2n⋮⋮⋮am1am2⋯amn)A=\begin{pmatrix}a_{11}&a_{12}&\cdots&a_{1n}\\a_{21}&a_{22}&\cdots&a_{2n}\\\vdots&\vdots&&\vdots\\a_{m1}&a_{m2}&\cdots&a_{mn}\end{pmatrix}，X=(x1x2⋮xn)X=\begin{pmatrix}x_1\\x_2\\\vdots\\x_n\end{pmatrix}，B=(b1b2⋮bm)B=\begin{pmatrix}b_1\\b_2\\\vdots\\b_m\end{pmatrix}；A‾=(A∣B)\overline A =(A|B)称为方程组的增广矩阵，对应齐次方程组可用矩阵形式表示为AX=OAX=O

  • 方阵的幂：Ak=A⋅A⋅A⋯A(k个A相乘)A^k=A\cdot A\cdot A\cdots A(k个A相乘)，规定A0=E,A1=AA^0=E,A^1=A

  • 当A与B可交换时，有下面二项展开式：(A+B)n=Cn0AnB0+Cn1An−1B+⋯+CnnA0Bn(A+B)^n=C^0_nA^nB^0+C^1_nA^{n-1}B+\dots+C^n_nA^0B^n

  • 矩阵的转置：AT=(aji)n×mA^T=(a_{ji})^{n\times m}

  • 运算律

    1. 乘法结合律：(AB)C=A(BC)(AB)C=A(BC)
    2. 乘法分配律：(A+B)C=AC+BC(A+B)C=AC+BC
    3. 乘法分配律：A(B+C)=AB+ACA(B+C)=AB+AC
    4. 数乘结合律：k(AB)=(kA)B=A(kB)k(AB)=(kA)B=A(kB)
    5. 加法交换律：A+B=B+AA+B=B+A
    6. 加法结合律：(A+B)+C=A+(B+C)(A+B)+C=A+(B+C)
    7. 数乘结合律：k(lA)=(kl)Ak(lA)=(kl)A
    8. 数乘分配律：(k+l)A=kA+lA(k+l)A=kA+lA
    9. 数乘分配律：k(A+B)=kA+kBk(A+B)=kA+kB
    10. AkAl=Ak+lA^kA^l=A^{k+l}
    11. (AB)2≠A2B2(AB)^2\neq A^2B^2
    12. (A+B)2≠A2+2AB+B2(A+B)^2\neq A^2+2AB+B^2
    13. A2−B2≠(A+B)(A−B)A^2-B^2\neq (A+B)(A-B)
    14. (AB)T=BTAT(AB)^T=B^TA^T

  • 对称矩阵：AT=AA^T=A

  • 反对称矩阵：AT=−AA^T=-A

2.2 可逆矩阵

  • 可逆矩阵的定义：若AA是nn阶方阵，存在一个nn阶方阵BB，使得AB=BA=EAB=BA=E，则称AA是可逆的，BB称为AA的逆矩阵，记作A−1A^{-1}

  • 定理2.1 如果A可逆，则A的逆矩阵是唯一的

  • 可逆矩阵性质

    1. 若AA可逆，则A−1A^{-1}可逆，且(A−1)−1=A(A^{-1})^{-1}=A
    2. 若AA可逆，则ATA^T可逆，且(AT)−1=(A−1)T(A^T)^{-1}=(A^{-1})^T
    3. 若AA可逆，则kAkA可逆，且(kA)−1=1kA−1(kA)^{-1}=\frac{1}{k}A^{-1}
    4. 若AA可逆，BB可逆，则ABAB可逆，且(AB)−1=B−1A−1(AB)^{-1}=B^{-1}A^{-1}
    5. (A+B)−1≠A−1+B−1(A+B)^{-1}\neq A^{-1}+B^{-1}

  • 定理2.2 设 A是n阶方阵，如果A可逆，则线性方程组
    有惟一解，且解可表示为X=A−1BX=A^{-1}B

  • 用初等变换法求逆矩阵：

    • 把单位矩阵分别作第一、第二、第三种初等行变换得到的矩阵分别称为第一、第二、第三种初等矩阵
    • 性质：初等矩阵都是可逆的，且其逆矩阵仍是同一种初等矩阵Ei,j−1=Ei,j,E(i(k))−1=E(i(1k)),E(i,j(k))−1=E(i,j(−k))E_{i,j}^{-1}=E_{i,j},E_{(i(k))}^{-1}=E_{(i(\frac{1}{k}))},E_{(i,j(k))}^{-1}=E_{(i,j(-k))}

  • “左行右列”原则 对一个矩阵施行一次初等的左边乘以一个一次初等列相应的行变换，相当于在它初等矩阵；对一个矩阵施行变换，相当于在它的的初等矩阵。

  • 定理2.3 n阶方阵A可逆的充要条件是A可经过有限次初等行变换化成单位矩阵；即n阶方阵A可逆的充要条件是A行等价于单位矩阵E

  • 推论2.1

    1. 方阵可逆的充要条件是可以分解为有限个初等矩阵的乘积
    2. 方阵A可逆的充要条件齐次线性方程组AX=OAX=O只有零解
    3. 方阵A可逆的充要条件非齐次线性方程组AX=BAX=B有惟一解

  • 定理2.4 方阵A可逆的充分必要条件是存在方阵B使得BA=EBA=E

    • 推论：方阵A可逆的充分必要条件是存在方阵B使得AB=EAB=E

  • 定理2.5 设A,BA,B均为m×nm\times n阶矩阵，则：

    1. A,BA,B行等价的充要条件是存在m阶可逆矩阵P，使得PA=BPA=B
    2. A,BA,B等价的充要条件是存在m阶可逆矩阵P，n阶可逆矩阵Q，使得PAQ=BPAQ=B

2.3 分块矩阵

  • 分块矩阵的定义：把矩阵按照一定的规律分成若干个子矩阵，称为分块矩阵

3 行列式

3.1 行列式的定义及性质

定义：

  • 递归定义∣A∣=a11A11+a12A12+⋯+a1nA1n|A|=a_{11}A_{11}+a_{12}A_{12}+\dots +a_{1n}A_{1n}

展开定理：

  • ∑k=1naikAik={∣A∣,i=k0,i≠k\sum\limits_{k=1}^na_{ik}A_{ik}= \begin{cases}|A|,&i=k\\0,&i\neq k\end{cases}
  • ∑k=1nakjAkj={∣A∣,i=k0,i≠k\sum\limits_{k=1}^na_{kj}A_{kj}= \begin{cases}|A|,&i=k\\0,&i\neq k\end{cases}
  • 即行列式等于其任一行（列）元素与其对应的代数余子式乘积之和（亦即行列式可按任一行或任一列展开）
  • 任一行（列）元素与另一行（列）元素所对应的代数余子式乘积之和为零（错行展开为零）

性质

  • 有一行(列)元素为零的行列式等于零
  • 行列式的加法（区别于矩阵加法）
  • 矩阵的三类初等变换对行列式的影响
  • 有两行(列)元素相同(或成倍数)的行列式等于零
  • ∣λA∣=λn∣A∣|\lambda A|=\lambda^n|A|
  • ∣AT∣=∣A∣|A^T|=|A|

乘法定理

  • ∣AB∣=∣A∣∣B∣|AB|=|A||B|

3.2 行列式的求解

  • 化三角法
  • 降阶法
  • 范德蒙德行列式：Dn=∣11⋯1x1x2⋯xn⋮⋮⋮x1n−1x2n−1⋯xnn−1∣=∏1≤i<j≤n(xj−xi)D_n=\begin{vmatrix}1&1&\cdots&1\\x_1&x_2&\cdots&x_n\\\vdots&\vdots&&\vdots\\x_1^{n-1}&x_2^{n-1}&\cdots&x_n^{n-1}\end{vmatrix}=\prod\limits_{1\leq i<j\leq n}(x_j-x_i)
  • 爪形行列式

3.3行列式的应用

伴随矩阵

  • AA∗=A∗A=∣A∣EAA^*=A^*A=|A|E

  • 方阵A可逆的充要条件是∣A∣≠0,A−1=1∣A∣A∗|A|\neq 0, A^{-1}=\frac{1}{|A|}A^*

克莱姆法则

  • 设D=∣A∣≠0D=|A|\neq 0，则线性方程组Ax=BAx=B有唯一解x=A−1B=1∣A∣A∗Bx=A^{-1}B=\frac{1}{|A|}A^*B
  • 设齐次线性方程组Ax=0Ax = 0，如果系数矩阵行列式D=∣A∣≠0D=|A|\neq 0，则方程组Ax=0Ax = 0只有零解。

4 向量空间

4.1 向量及其线性组合

向量的线性表示

  • 定义4.2 对于向量组A:α1,α2,…,αnA:\alpha_1,\alpha_2,\dots,\alpha_n，表达式k1α1+k2α2+⋯+knαnk_1\alpha_1+k_2\alpha_2+\dots+k_n\alpha_n称为向量组AA的一个线性组合，又如果β\beta是向量组AA的一个线性组合，即存在数λ1,λ2,…,λn\lambda_1,\lambda_2,\dots,\lambda_n使得β=λ1α1+λ2α2+⋯+λnαn\beta=\lambda_1\alpha_1+\lambda_2\alpha_2+\dots+\lambda_n\alpha_n，则称向量β\beta能由向量组AA线性表示，或称向量组AA能线性表示向量β\beta，而λ1,λ2,…,λn\lambda_1,\lambda_2,\dots,\lambda_n称为向量β\beta在向量组AA下的线性表示系数，通常写成β=[α1,α2,…,αn][λ1λ2⋮λn]\beta=\begin{bmatrix}\alpha_1,\alpha_2,\dots,\alpha_n\end{bmatrix}\begin{bmatrix}\lambda_1\\\lambda_2\\\vdots\\\lambda_n\end{bmatrix}

  • 注意

    • 任一n元向量α=(α1,α2,…,αn)T\alpha=(\alpha_1,\alpha_2,\dots,\alpha_n)^T都可由n元单位向量组EnE_n线性表示，即α=[En][α1α2⋮αn]\alpha=\begin{bmatrix}E_n\end{bmatrix}\begin{bmatrix}\alpha_1\\\alpha_2\\\vdots\\\alpha_n\end{bmatrix}

  • 定理4.1 向量β\beta可由向量组A:α1,α2,…,αnA:\alpha_1,\alpha_2,\dots,\alpha_n线性表示

    • 按定义：存在数λ1,λ2,…,λn\lambda_1,\lambda_2,\dots,\lambda_n使得β=λ1α1+λ2α2+⋯+λnαn\beta=\lambda_1\alpha_1+\lambda_2\alpha_2+\dots+\lambda_n\alpha_n
    • 转换为方程组：方程组AX=βAX=\beta有解
    • 用矩阵的秩：r(A)=r(A∣β)r(A)=r(A|\beta)

向量组的等价

  • 定义：如果向量组A:α1,α2,…,αnA:\alpha_1,\alpha_2,\dots,\alpha_n能线性表示向量组B:β1,β2,…,βmB:\beta_1,\beta_2,\dots,\beta_m，且向量组BB能线性表示向量组AA，则称向量组AA与向量组BB等价，记作A≅BA\cong B

  • 定理的4.2 如果向量组B:β1,β2,…,βqB:\beta_1,\beta_2,\dots,\beta_q中的每个向量都可由向量组A:α1,α2,…,αpA:\alpha_1,\alpha_2,\dots,\alpha_p线性表示，AX=BAX=B有解，B的列向量组能由A的列向量组线性表示，C的行向量组也能由B的行向量组线性表示

  • 定理 4.3 设矩阵A经过有限次初等行（列）变换为B，则A，B行（列）向量组等价。

4.2 向量组的线性相关性

一个n元向量组的线性相关性

  • 定义1：如果存在不全为零的数k1,k2,…,knk_1,k_2,\dots,k_n使得k1α1+k2α2+⋯+knαn=0k_1\alpha_1+k_2\alpha_2+\dots+k_n\alpha_n=0，则称向量组A:α1,α2,…,αnA:\alpha_1,\alpha_2,\dots,\alpha_n线性相关，否则如果设k1α1+k2α2+⋯+knαn=0k_1\alpha_1+k_2\alpha_2+\dots+k_n\alpha_n=0，则必有k1=k2=⋯=kn=0k_1=k_2=\dots=k_n=0，则称向量组A:α1,α2,…,αnA:\alpha_1,\alpha_2,\dots,\alpha_n线性无关

  • 等价定义：当n≥2n \geq 2时，向量组A:α1,α2,…,αnA:\alpha_1,\alpha_2,\dots,\alpha_n线性相关的充要条件是向量组AA中至少有一个向量可由其余向量线性表示；向量组A:α1,α2,…,αnA:\alpha_1,\alpha_2,\dots,\alpha_n线性无关的充要条件是向量组AA中的任一向量都不能由其余向量线性表示

  • 结论1：n元向量组e1,e2,…,ene_1,e_2,\dots,e_n线性无关。

  • 结论2：α,β\alpha,\beta（非零）线性相关⇔\Leftrightarrow对应分量成比例。

  • 结论3：单个零向量线性相关,单个非零向量线性无关；包含零向量的任何向量组线性相关

线性相关与齐次线性方程组之间的关系

  • 定理4.4 向量组A:α1,α2,…,αnA:\alpha_1,\alpha_2,\dots,\alpha_n线性相关（无关）的充要条件是齐次线性方程组AX=0AX=0有非零解（只有零解）

  • 定理4.5 设A是n阶方阵，则下列命题等价：

    1. A可逆
    2. AA的列向量组线性无关
    3. AA的行向量组线性无关
    4. AX=0AX=0只有零解
    5. r(A)=nr(A)=n
    6. ∣A∣≠0|A|\neq 0

  • 推论

    • 向量个数m大于维数n必相关
    • 部分相关，则整体相关
    • 整体无关，则部分无关
    • 短的无关，则长的也无关
    • 长的相关，则短的也相关

  • 定理4.6 设向量组α1,α2,…,αm\alpha_1,\alpha_2,\dots,\alpha_m线性无关，且α1,α2,…,αm,β\alpha_1,\alpha_2,\dots,\alpha_m,\beta线性相关，则β\beta可由α1,α2,…,αm\alpha_1,\alpha_2,\dots,\alpha_m线性表示，且表示法唯一

4.3 向量组的秩

  • 定义：向量组A:α1,α2,…,αmA:\alpha_1,\alpha_2,\dots,\alpha_m的秩是向量组AA中的极大无关向量组中向量的个数，记作r(A)r(A)

  • 定理4.7 向量组A:α1,α2,…,αmA:\alpha_1,\alpha_2,\dots,\alpha_m线性无关的充要条件是r(A)=mr(A)=m，线性相关的充要条件是r(A)<mr(A)<m

  • 定理4.8 设A=[α1,α2,…,αm]→rB=[β1,β2,…,βm]A=[\alpha_1,\alpha_2,\dots,\alpha_m]\stackrel{r}{\rightarrow}B=[\beta_1,\beta_2,\dots,\beta_m]即A与B行等价，则A的列向量组与B的列向量组有相同的线性关系，即方程组AX=0AX=0与BX=0BX=0同解，即r(A)=r(B)r(A)=r(B)

  • 定理4.9 设向量组A:α1,α2,…,αqA:\alpha_1,\alpha_2,\dots,\alpha_q可以由向量组B:β1,β2,…,βpB:\beta_1,\beta_2,\dots,\beta_p线性表示，如果q>pq>p，则向量组AA线性相关；如果AA线性无关，那么q≤pq\leq p

    • 推论4.3 等价的线性无关向量组所含的向量个数相同
    • 推论4.4 一个向量组的任意两个极大无关组所含向量个数相等
    • 推论4.5 设向量组V的秩rankV=r, 则V中任意r个线性无关的向量都是V的极大无关组
    • 推论4.6 设向量组的秩rankV=r, 则其中任意向量个数大于r的向量组都线性相关
    • 推论4.7 设向量组A:α1,α2,…,αqA:\alpha_1,\alpha_2,\dots,\alpha_q可由B:β1,β2,…,βpB:\beta_1,\beta_2,\dots,\beta_p线性表示，则r(A)≤r(B)r(A)\leq r(B)
    • 推论4.8 等价的向量组有相同的秩

  • 定义4.6 （极大无关组的等价定义）设V是一个向量组，若向量组α1,α2,…,αr\alpha_1,\alpha_2,\dots,\alpha_r是向量组V的一个极大无关组，则：

    1. V中有r个向量线性无关
    2. V中任意r+1个向量线性相关

4.4 矩阵的秩

  • 定理4.11 设A是n阶方阵，则下列命题等价：

    1. A可逆
    2. AA的列向量组线性无关
    3. AA的行向量组线性无关
    4. AX=0AX=0只有零解
    5. r(A)=nr(A)=n
    6. ∣A∣≠0|A|\neq 0
    7. 设Am×nA^{m\times n}，则Ax=0只有零解的充要条件是A是列满秩矩阵，即r(A)=nr(A)=n

  • 定理4.12 r(AB)≤min(r(A),r(B))r(AB)\leq min(r(A),r(B))；r(A)≤r([A∣b])≤r(A)+1r(A)\leq r([A|b])\leq r(A)+1

  • 定理4.13 矩阵A的秩r(A)=rr(A)=r的充要条件是A的一个r阶子式不为零，而所有的r+1阶子式都为零；当A所有的r+1阶子式都为零时，由行列式展开定理，A的所p(p>p+1)p(p>p+1)阶子式都为零

  • 定义4.8(矩阵秩的等价定义) 称矩阵A的非零子式的最高阶数为矩阵A的秩

  • 秩的重要性质

    1. 0≤r(Am×n)≤min{m,n}0 \leq r(A^{m\times n}) \leq min\{m,n\}
    2. r(AT)=r(A)r(A^T)=r(A)
    3. r(PAQ)=r(A)=r(PA)=r(AQ)r(PAQ)=r(A)=r(PA)=r(AQ)（P,Q可逆）
    4. max{r(A),r(B)}≤r[AB]≤r(A)+r(B)max\{r(A),r(B)\}\leq r\begin{bmatrix}A\\B\end{bmatrix}\leq r(A)+r(B)
    5. max{r(A),r(B)}≤r[A∣B]≤r(A)+r(B)max\{r(A),r(B)\}\leq r\begin{bmatrix}A|B\end{bmatrix}\leq r(A)+r(B)
    6. r(A)≤r([A∣b])≤r(A)+1r(A)\leq r([A|b])\leq r(A)+1（b为列向量）
    7. r(AB)≤min{r(A),r(B)}r(AB)\leq min\{r(A),r(B)\}
    8. r(A+B)≤r(A)+r(B)r(A+B)\leq r(A)+r(B)
    9. Sylvester不等式：r(A)+r(B)−n≤r(AB)r(A)+r(B)-n\leq r(AB)
    10. r(A∗)={nr(A)=n1r(A)=n−10r(A)<n−1r(A^*)=\begin{cases}n &r(A)=n\\1&r(A)=n-1\\0&r(A)<n-1\end{cases}

4.5 向量空间

向量空间及其子空间

  • 定义 设V为n维向量的集合，如果集合V非空，且集合V对于向量的加法和数乘运算封闭，则称V为向量空间

    • n维向量的全体是一个向量空间，记作RnR^n
    • 0维向量的全体是一个向量空间，记作{0}\{0\}
    • 向量空间如果不是零空间必含有无穷多个向量

  • 定义 设有向量空间V1,V2V_1,V_2，若V1⊂V2V_1\subset V_2，则称V1V_1是V2V_2的子空间,V总是RnR^n的子空间

  • 定义 设α1,α2,…,αm\alpha_1,\alpha_2,\dots,\alpha_m是一向量组，称{x∣x=λ1α1+λ2α2+⋯+λmαm,λi∈R}\{x|x=\lambda_1\alpha_1+\lambda_2\alpha_2+\dots+\lambda_m\alpha_m,\lambda_i \in R\}为该向量组张成的子空间，记作span(α1,α2,…,αm)span(\alpha_1,\alpha_2,\dots,\alpha_m)或L{α1,α2,…,αm}L\{\alpha_1,\alpha_2,\dots,\alpha_m\}；特别地，由矩阵A的列向量生成的向量空间称为A的列空间（或称像空间或称值域），记作R(A)R(A)

基底、维数、坐标

  • 定义 向量空间V≠{0}V≠\{0\}的一个最大无关组，又称V的一个基（或坐标系），V的基中向量的个数称为V的维数，记作dim(V)dim(V)，零空间的维数为0

  • 定理4.14 （基的扩张定理）设α1,…,αm\alpha_1,\dots,\alpha_m是RnR^n的一组线性无关组，m<nm<n，则存在n-m个向量αm+1,…,αn\alpha_{m+1},\dots,\alpha_n，使得α1,…,αm,αm+1,…,αn\alpha_1,\dots,\alpha_m,\alpha_{m+1},\dots,\alpha_n是RnR^n的一组基

  • 定义 设向量空间V的一个基为α1,α2,…,αm\alpha_1,\alpha_2,\dots,\alpha_m，则对V中任意向量α\alpha可唯一地表示为α=λ1α1+λ2α2+⋯+λmαm\alpha=\lambda_1\alpha_1+\lambda_2\alpha_2+\dots+\lambda_m\alpha_m，称λ1,λ2,…,λm\lambda_1,\lambda_2,\dots,\lambda_m为α\alpha在基α1,α2,…,αm\alpha_1,\alpha_2,\dots,\alpha_m下的坐标

  • 定义 设r维向量空间的两个基α1,α2,…,αr\alpha_1,\alpha_2,\dots,\alpha_r和β1,β2,…,βr\beta_1,\beta_2,\dots,\beta_r，则β1,β2,…,βr\beta_1,\beta_2,\dots,\beta_r可由α1,α2,…,αr\alpha_1,\alpha_2,\dots,\alpha_r线性表示[β1,β2,…,βr]=[α1,α2,…,αr]P[\beta_1,\beta_2,\dots,\beta_r]=[\alpha_1,\alpha_2,\dots,\alpha_r]P，称P为从基α1,α2,…,αr\alpha_1,\alpha_2,\dots,\alpha_r到基β1,β2,…,βr\beta_1,\beta_2,\dots,\beta_r的过渡矩阵，显然P可逆

4.6 线性方程组解的结构

线性方程组解的存在性定理

  • 非齐次方程组解的存在性定理：对于非齐次方程组Am×nx=BA^{m\times n}x=B

    • 有解⇔r(A)=r(A∣B)⇔\Leftrightarrow r(A)=r(A|B)\Leftrightarrow向量β\beta可由A的列向量组α1,α2,…,αn\alpha_1,\alpha_2,\dots,\alpha_n线性表示
    • 有唯一解⇔r(A)=r(A∣B)=n\Leftrightarrow r(A)=r(A|B)=n
    • 有无穷多解⇔r(A)=r(A∣B)<n\Leftrightarrow r(A)=r(A|B)<n

  • 对于齐次方程组Am×nx=0A^{m\times n}x=0

    • 有唯一零解⇔r(A)=n⇔\Leftrightarrow r(A)=n\LeftrightarrowA的列向量组线性无关
    • 有无穷多解⇔r(A)<n⇔\Leftrightarrow r(A)<n\LeftrightarrowA的列向量组线性相关
    • 推论1 当方程的个数小于未知量的个数时，方程组必有非零解

齐次线性方程组解的结构

  • 性质：

    1. 若xi1,xi2xi_1,xi_2是齐次线性方程组AX=0AX=0的解，则xi1+xi2xi_1+xi_2也是AX=0AX=0的解
    2. 若xi1xi_1是齐次线性方程组AX=0AX=0的解，则kxi1kxi_1也是AX=0AX=0的解
    3. 齐次线性方程组AX=0AX=0的解集是一个向量空间，称为齐次线性方程组的解空间，在解空间中，基的概念我们在这里称为基础解系

  • 基础解系：设ξ1,ξ2,…,ξn−r\xi_1,\xi_2,\dots,\xi_{n-r}是AX=0AX=0的解满足：

    1. ξ1,ξ2,…,ξn−r\xi_1,\xi_2,\dots,\xi_{n-r}线性无关
    2. AX=0AX=0的任一解可由ξ1,ξ2,…,ξn−r\xi_1,\xi_2,\dots,\xi_{n-r}线性表示，则称ξ1,ξ2,…,ξn−r\xi_1,\xi_2,\dots,\xi_{n-r}是AX=0AX=0的一个基础解系。从而x=k1ξ1+k2ξ2+⋯+ktξtx=k_1\xi_1+k_2\xi_2+\dots+k_t\xi_t是也是AX=0AX=0的解

  • 定理 设A是m×nm\times n矩阵，如果r(A)=r<nr(A)=r<n，则齐次线性方程组AX=0AX=0的基础解系存在，且每个基础解系含有n−rn-r个解向量

    • 推论 设A是m×nm\times n矩阵，如果r(A)=r<nr(A)=r<n，则齐次线性方程组AX=0AX=0的任意n−rn-r个线性无关的解向量均可构成基础解系

非齐次线性方程组解的结构

  • 性质：

    1. 设η1,η2\eta_1,\eta_2都是非齐次线性方程组AX=BAX=B的解，则η1−η2\eta_1-\eta_2是AX=0AX=0的解
    2. 设η\eta是非齐次线性方程组AX=BAX=B的解，ξ\xi是AX=0AX=0的解，则η+ξ\eta+\xi仍是AX=BAX=B的解
    3. 设η∗\eta^*是非齐次线性方程组AX=BAX=B的一个解（固定），则对于AX=BAX=B的任一解xx，x−η∗x-\eta^*是AX=0AX=0的解，从而存在kik_i使得x−η∗=∑i=1n−rkiξix-\eta^*=\sum\limits_{i=1}^{n-r}k_i\xi_i，即x=η∗+∑i=1n−rkiξix=\eta^*+\sum\limits_{i=1}^{n-r}k_i\xi_i，从而xx是AX=BAX=B的解的充要条件是x=η∗+∑i=1n−rkiξix=\eta^*+\sum\limits_{i=1}^{n-r}k_i\xi_i

  • 定理 设η∗\eta^*是非齐次线性方程组AX=BAX=B的任一个解，则AX=BAX=B的通解为x=k1ξ1+k2ξ2+⋯+ktξt+η∗x=k_1\xi_1+k_2\xi_2+\dots+k_t\xi_t+\eta^*，其中ξ1,ξ2,…,ξt\xi_1,\xi_2,\dots,\xi_t是AX=0AX=0的基础解系，k1,k2,…,ktk_1,k_2,\dots,k_t为任意常数

  • 重要结论 设AB=0AB=0，则r(A)+r(B)≤nr(A)+r(B)\leq n

5 特征值与特征向量

5.1 特征值与特征向量的概念与性质

特征值与特征向量的概念

  • 定义 设A∈Cn×nA\in C^{n\times n}，如果存在数λ\lambda和非零向量ξ\xi，使得Aξ=λξ  (1)A\xi=\lambda\xi \ \ (1)，则称λ\lambda是矩阵A的一个特征值，ξ\xi是A的属于特征值λ\lambda的一个特征向量，把(1)改写为(A−λE)ξ=0(A-\lambda E)\xi=0，则(A−λE)ξ=0(A-\lambda E)\xi=0有非零解ξ\xi的充要条件是∣A−λE∣=0|A-\lambda E|=0，即∣A−λE∣=0|A-\lambda E|=0的根称为矩阵A的特征值，∣A−λE∣=0|A-\lambda E|=0的根称为矩阵A的特征值方程，∣A−λE∣|A-\lambda E|称为矩阵A的特征多项式，由代数基本定理，n次代数方程在复数域内必有n个根，从而矩阵A必有n个特征值，包括重根在内

特征值与特征向量的性质

  1. AA与ATA^T有相同的特征值
  2. 设n阶矩阵A的特征值为λ1,λ2,…,λn\lambda_1,\lambda_2,\dots,\lambda_n，φ(z)=c0+c1z+c2z2+⋯+cmzm\varphi (z) = c_0+c_1z+c_2z^2+\dots+c_mz^m是一个n次多项式，则φ(A)=c0E+c1A+c2A2+⋯+cmAm\varphi (A) = c_0E+c_1A+c_2A^2+\dots+c_mA^m的特征值为φ(λ1),φ(λ2),…,φ(λn)\varphi (\lambda_1),\varphi (\lambda_2),\dots,\varphi (\lambda_n)且对应的特征值相同
  3. 设n阶可逆矩阵A的n个特征值为λ1,λ2,…,λn\lambda_1,\lambda_2,\dots,\lambda_n，则A−1A^{-1}的n个特征值为λ1−1,λ2−1,…,λn−1\lambda_1^{-1},\lambda_2^{-1},\dots,\lambda_n^{-1}且对应的特征向量相同
  4. 设n阶可逆矩阵A=[aij]A=[a_{ij}]的n个特征值为λ1,λ2,…,λn\lambda_1,\lambda_2,\dots,\lambda_n，则
  5. λ1+λ2+⋯+λn=tr(A)=a11+a22+⋯+ann\lambda_1+\lambda_2+\dots+\lambda_n=tr(A)=a_{11}+a_{22}+\dots+a_{nn}
  6. λ1λ2…λn=∣A∣\lambda_1\lambda_2\dots\lambda_n=|A|

5.2 方阵的对角化

相似变换

  • 定义 设A，B是n阶方阵，如果存在可逆矩阵P，使得P−1AP=BP^{-1}AP=B，则称A与B相似，记作A∼BA\sim B，显然相似是一个等价关系；特别地，如果A与对角矩阵相似，则称A可对角化，对A进行的矩阵变换P−1APP^{-1}AP称为A的相似对角形

  • 相似变换的性质

    1. 相似关系是一种等价关系（满足三条）
    2. 设A∼BA\sim B，则rank(A)=rank(B)rank(A)=rank(B)
    3. 设A∼BA\sim B，则∣A∣=∣B∣|A|=|B|
    4. 设A∼BA\sim B，则tr(A)=tr(B)tr(A)=tr(B)
    5. 设A∼BA\sim B，则∣λE−A∣=∣λE−B∣|\lambda E-A|=|\lambda E-B|
    6. 设A∼BA\sim B，则A与B有相同的特征值
    7. 设A∼BA\sim B，则φ(A)∼φ(B)\varphi (A)\sim \varphi (B)，其中φ(z)=c0+c1z+c2z2+⋯+cmzm\varphi (z) = c_0+c_1z+c_2z^2+\dots+c_mz^m是一个m次多项式
    8. 设A∼BA\sim B，且A可逆，则A−1∼B−1A^{-1}\sim B^{-1}

矩阵可对角化的条件

  • 定理1 n阶矩阵A可对角化的充要条件是A有n个线性无关的特征向量

  • 定理2 不同特征值对应的线性无关的特征向量合并后仍是线性无关的

    • 推论（可对角化的充分条件） n阶矩阵A如有n个不同的特征值，则它有n个线性无关的特征向量，从而A可对角化.

  • 设n阶矩阵A的所有不同的特征值为λ1,λ2,…,λt\lambda_1,\lambda_2,\dots,\lambda_t，则A的特征多项式可写成fA(λ)=∣λE−A∣=(λ−λ1)r1(λ−λ2)r2…(λ−λt)rtf_A(\lambda)=|\lambda E-A|=(\lambda-\lambda_1)^{r_1}(\lambda-\lambda_2)^{r_2}\dots(\lambda-\lambda_t)^{r_t}，其中rir_i为λi\lambda_i的代数重数，r1+r2+⋯+rt=nr_1+r_2+\dots+r_t=n，则A的属于λi\lambda_i的特征向量的个数至少为rir_i，也称λi\lambda_i是A的rir_i重特征值；特征值λi\lambda_i对应的线性无关的特征向量的最大个数为si=n−rank(λiE−A)s_i=n-rank(\lambda_i E-A)，称sis_i为λi\lambda_i的几何重数

  • 定理3 矩阵A的任一特征值λi\lambda_i的几何重数sis_i都不大于其代数重数rir_i，即1≤si≤ri1\leq s_i\leq r_i

  • 定理4 矩阵A可对角化的充要条件是A的每个不同特征值的代数重数与几何重数相等

6 实对称矩阵与实二次型

6.1 欧式空间

  • 定义6.1 （内积的定义） 设有n维向量α=(α1,α2,…,αn)T\alpha=(\alpha_1,\alpha_2,\dots,\alpha_n)^T，β=(β1,β2,…,βn)T\beta=(\beta_1,\beta_2,\dots,\beta_n)^T，定义α\alpha与β\beta的内积为[α,β]=α1β1+α2β2+⋯+αnβn[\alpha,\beta]=\alpha_1\beta_1+\alpha_2\beta_2+\dots+\alpha_n\beta_n，称为欧式空间RnR^n的内积，其中αi,βi\alpha_i,\beta_i为实数，定义了内积的实向量空间称为Euclid空间

  • 性质6.1 （内积的性质）

    1. [α,β]=[β,α][\alpha,\beta]=[\beta,\alpha]
    2. [kα,β]=k[α,β][k\alpha,\beta]=k[\alpha,\beta]
    3. [α+β,γ]=[α,γ]+[β,γ][\alpha+\beta,\gamma]=[\alpha,\gamma]+[\beta,\gamma]
    4. [α,α]≥0[\alpha,\alpha]\geq 0，且[α,α]=0[\alpha,\alpha]=0的充要条件是α=0\alpha=0

  • 定义6.2 （向量的长度） ∣∣α∣∣=[α,α]=α12+α22+⋯+αn2||\alpha||=\sqrt{[\alpha,\alpha]}=\sqrt{\alpha_1^2+\alpha_2^2+\dots+\alpha_n^2}，称∣∣α∣∣||\alpha||为向量α\alpha的长度

  • 定理6.1 （Cauchy-Schwarz不等式） [α,β]2≤[α,α][β,β][\alpha,\beta]^2\leq [\alpha,\alpha][\beta,\beta]，当且仅当α\alpha与β\beta线性相关时取等号

  • 性质6.2 （向量长度的性质）

    1. 非负性：∣∣α∣∣≥0||\alpha||\geq 0，且∣∣α∣∣=0||\alpha||=0的充要条件是α=0\alpha=0
    2. 齐次性：∣∣kα∣∣=∣k∣⋅∣∣α∣∣||k\alpha||=|k|\cdot||\alpha||
    3. 三角不等式：∣∣α+β∣∣≤∣∣α∣∣+∣∣β∣∣||\alpha+\beta||\leq ||\alpha||+||\beta||

  • 定义6.3 （单位向量） 如果∣∣α∣∣=1||\alpha||=1，则称α\alpha为n维单位向量，向量β=1∣∣α∣∣α\beta=\frac{1}{||\alpha||}\alpha称为向量α\alpha的单位化向量

  • 定义6.4 （向量的夹角） 设α,β\alpha,\beta是n维非零向量，定义α\alpha与β\beta的夹角为0≤θ≤π0\leq \theta \leq \pi，使得cosθ=[α,β]∣∣α∣∣⋅∣∣β∣∣cos\theta=\frac{[\alpha,\beta]}{||\alpha||\cdot||\beta||}，其中θ\theta称为向量α\alpha与β\beta的夹角

  • 定义6.5 （向量的正交） 如果[α,β]=0[\alpha,\beta]=0，则称向量α\alpha与β\beta正交，记作α⊥β\alpha\perp\beta

  • 定义6.6 （规范正交基） 若一个不含零向量的向量组α1,α2,…,αr\alpha_1,\alpha_2,\dots,\alpha_r中的向量两两正交[αi,αj]=0(i≠j)[\alpha_i,\alpha_j]=0(i\neq j)，则称该向量组为正交向量组，若每个向量的长度为1，即∣∣αi∣∣=1(i=1,2,…,r)||\alpha_i||=1(i=1,2,\dots,r)，则称α1,α2,…,αr\alpha_1,\alpha_2,\dots,\alpha_r为规范正交基；若该向量组是一个向量空间V的基，又分别称为V的正交基和规范正交基。例如，e1=(1,0,…,0)T,e2=(0,1,…,0)T,…,en=(0,0,…,1)Te_1=(1,0,\dots,0)^T,e_2=(0,1,\dots,0)^T,\dots,e_n=(0,0,\dots,1)^T是RnR^n的一个规范正交基，再如，e1=(1,0,0)T,e2=(0,1,0)Te_1=(1,0,0)^T ,e_2=(0,1,0)^T是V=x∈R3∣x=(x1,x2,0)T=span(e1,e2)V={x \in R^3|x=(x_1,x_2,0)^T}=span(e_1,e_2)的一个规范正交基

  • 定理6.2 正交向量组必线性无关

  • 定义6.7 （施密特正交化过程） 设α1,α2,…,αn\alpha_1,\alpha_2,\dots,\alpha_n是RnR^n中的一组线性无关向量，令β1=α1\beta_1=\alpha_1，对于i=2,3,…,ni=2,3,\dots,n，令βi=αi−[αi,β1][β1,β1]β1−[αi,β2][β2,β2]β2−⋯−[αi,βi−1][βi−1,βi−1]βi−1\beta_i=\alpha_i-\frac{[\alpha_i,\beta_1]}{[\beta_1,\beta_1]}\beta_1-\frac{[\alpha_i,\beta_2]}{[\beta_2,\beta_2]}\beta_2-\dots-\frac{[\alpha_i,\beta_{i-1}]}{[\beta_{i-1},\beta_{i-1}]}\beta_{i-1}，则β1,β2,…,βn\beta_1,\beta_2,\dots,\beta_n是RnR^n的一组规范正交基，称为施密特正交化过程

  • 定义6.8 （正交矩阵） 若n阶方阵满足ATA=EA^TA=E，则称A为正交矩阵，等价定义：A是正交矩阵⇔AAT=E⇔A−1=AT⇔\Leftrightarrow AA^T=E \Leftrightarrow A^{-1}=A^T\LeftrightarrowA的列组是规范正交组⇔\LeftrightarrowA的行组是规范正交组

  • 性质6.4

    1. A是正交矩阵，则A−1A^{-1}和A*都是正交矩阵
    2. A，B都是正交矩阵，则AB也是正交矩阵
    3. A是正交矩阵，则∣A∣=1|A|=1或−1-1
    4. P是正交矩阵，则∣∣Px∣∣=∣∣x∣∣||Px||=||x||，即正交矩阵不改变向量的长度

6.2 实对称矩阵对角化

  • 定理6.3 实对称矩阵的特征值必为实数

  • 定理6.4 对称矩阵不同特征值对应的特征向量必正交

  • 定理6.5 设A是一个n阶实对称矩阵，则必存在一个n阶正交矩阵Q，使得Q−1AQ=diag(λ1,λ2,…,λn)Q^{-1}AQ=diag(\lambda_1,\lambda_2,\dots,\lambda_n)是一个对角矩阵，即实对称矩阵必可对角化

  • 推论6.6 对称矩阵特征值的重数必等于其几何重数，即等于其对应的最大无关特征向量的个数，即ni=n−r(λiE−A)⇔r(λiE−A)=n−nin_i=n-r(\lambda_i E-A)\Leftrightarrow r(\lambda_i E-A)=n-n_i

6.3 二次型及其矩阵表示

  • 定义1 含有n个变量x1,x2,…,xnx_1,x_2,\dots,x_n的二次齐次多项式f(x1,x2,…,xn)=∑i=1n∑j=1naijxixjf(x_1,x_2,\dots,x_n)=\sum\limits_{i=1}^n\sum\limits_{j=1}^na_{ij}x_ix_j称为二次型

  • 定义2 （二次型的矩阵表示） f=XTAXf=X^TAX，其中A为对称矩阵，也把二次型f称为对称矩阵A的二次型，对称矩阵A的秩称为二次型f的秩

  • 定义 只含平方项的二次型f=k1x12+k2x22+⋯+knxn2=(x1,…,xn)diag(k1,…,kn)(x1,…,xn)Tf=k_1x_1^2+k_2x_2^2+\dots+k_nx_n^2=(x_1,\dots,x_n)diag(k_1,\dots,k_n)(x_1,\dots,x_n)^T称为标准型二次型（法式）

6.4 化二次型为标准型

非退化线性变换（可逆线性变换）

  • 定义 设X=(x1,x2,…,xn)TX=(x_1,x_2,\dots,x_n)^T，Y=(y1,y2,…,yn)TY=(y_1,y_2,\dots,y_n)^T，如果Y=CXY=CX，其中C是可逆矩阵，则称Y=CXY=CX为X=YX=Y的可逆线性变换，当C为正交矩阵时，称Y=CXY=CX为X=YX=Y的正交变换

  • 矩阵的合同 设A，B是n阶矩阵，如果存在可逆矩阵C，使得CTAC=BC^TAC=B，则称A与B合同，记作A≃BA\simeq B，显然合同是一个等价关系

  • 定理 设A为对称矩阵，且A与B合同，则

    1. B=CTACB=C^TAC仍为对称矩阵
    2. r(A)=r(B)r(A)=r(B)

  • 矩阵合同的性质

    1. 反身性：A≃AA\simeq A
    2. 对称性：A≃B⇔B≃AA\simeq B \Leftrightarrow B\simeq A
    3. 传递性：A≃B,B≃C⇒A≃CA\simeq B,B\simeq C \Rightarrow A\simeq C

化二次型为标准形

正交变换法

  • 主轴定理 任给二次型f=∑i=1n∑j=1naijxixj(aij=aji)f=\sum\limits_{i=1}^n\sum\limits_{j=1}^na_{ij}x_ix_j(a_{ij}=a_{ji})，总有正交变换X=PYX=PY，使得f=λ1y12+λ2y22+⋯+λnyn2f=\lambda_1y_1^2+\lambda_2y_2^2+\dots+\lambda_ny_n^2，其中λ1,λ2,…,λn\lambda_1,\lambda_2,\dots,\lambda_n是f的矩阵A的特征值

  • 注 正交变换化为标准形的优点：在几何中，可以保持曲线（曲面）的几何形状不变

6.5 正定二次型与正定矩阵

惯性定理

  • 定理 二次型必可化为规范形

  • 惯性定理 任何实二次型总可以经过一个适当的可逆线性变换化成规范形,规范形是唯一的。f=Z12+Z22+⋯+Zp2−Zp+12−⋯−Zr2f=Z_1^2+Z_2^2+\dots+Z_p^2-Z_{p+1}^2-\dots-Z_r^2，其中pp是f的正惯性指数，rr是f的秩，r−pr-p为f的负惯性指数

正定二次型

  • 定义 设f(x1,x2,…,xn)=XTAXf(x_1,x_2,\dots,x_n)=X^TAX是实二次型（A为实对称矩阵），如果对于任意非零向量X=(x1,x2,…,xn)T∈RnX=(x_1,x_2,\dots,x_n)^T\in R^n，恒有f(X)=XTAX>0f(X)=X^TAX>0，则称f为正定（半正定）二次型，称正定(半正定)二次型f的矩阵A为正定(半正定)矩阵。即二次型f(X)=XTAXf(X)=X^TAX是正定二次型⇔\Leftrightarrow二次型的对称矩阵A是正定矩阵

  • 定理2 实二次型f=XTAXf=X^TAX是正定二次型⇔\Leftrightarrow标准形中n个系数全为正数

  • 推论 实对称矩阵A正定⇔\LeftrightarrowA的n个特征值全为正数⇔\Leftrightarrow存在可逆矩阵P，使得A=PTPA=P^TP

  • 定理3 A正定⇔\LeftrightarrowA的任一顺序主子式大于0，即∣a11∣>0,∣a11a12a21a22∣>0,…,∣A∣>0|a_{11}|>0,\begin{vmatrix}a_{11}&a_{12}\\a_{21}&a_{22}\end{vmatrix}>0,\dots,|A|>0；A负定⇔\Leftrightarrow奇数阶顺序主子式为负，偶数阶顺序主子式为正，即(−1)r∣a11a12…a1ra21a22…a2r…………ar1ar2…arr∣>0(r=1,2,…,n)(-1)^r\begin{vmatrix}a_{11}&a_{12}&\dots&a_{1r}\\a_{21}&a_{22}&\dots&a_{2r}\\\dots&\dots&\dots&\dots\\a_{r1}&a_{r2}&\dots&a_{rr}\end{vmatrix}>0(r=1,2,\dots,n)