ch4 向量空间 ‘线性代数及其应用笔记’

具体数学

---

4.1 向量空间与子空间

向量空间

一个向量空间是有一些被称为向量的对象构成的非空集合V，在这个集合上定义两个运算，称为加法和标量乘法（标量取实数），服从以下法则，这些法则必须对所有向量u，v，w及所有标量c和d均成立。
1. u,v之和u+v仍在V中
2. u+v=v+u
3. (u+v)+w=u+(v+w)
4. V中存在一个零向量0，使u+0=u
5. 对V中每个向量u，存在V中向量-u，使得u+(-u)=0
6. u与标量C的标量乘法记为cu，仍在V中
7. c(u+v)=cu+cv
8. (c+d)u=cu+du
9. c(du)=(cd)u
10. 1u=u

子空间

向量空间的一个子空间是V的一个满足以下三个性质的子集：
1. V的零向量在H中
2. H对向量加法封闭
3. H对标量乘法封闭

取向量空间V中一些向量$v_1...v_p$,则$Span{v_1,...,v_p}$是V的一个子空间，称$Span{v_1,...,v_p}$是由${v_1,...,v_p}$生成的子空间。

4.2 零空间，列空间和线性变换

零空间

$m\times n$的矩阵A零空间写作NulA ，是齐次方程Ax=0的全体解的集合。
$NulA=\{ x:x\in\mathbb{R},Ax=0 \}$
零空间是$\mathbb{R}^n$的一个子空间。

列空间

$m \times n$矩阵的列空间是由A的列的所有线性组合组成的集合，若$A=[a_1,...,a_n]$,则$ColA=Span\{a_1,...,a_n\}$
零空间也是$\mathbb{R}^n$的一个子空间。

Attention 如果一个矩阵不是方阵，它的零空间和列空间在完全不同的域，$m\times n$矩阵列空间在$\mathbb{R}^m$，零空间在$\mathbb{R}^n$。

我们用线性变换描述$\mathbb{R}^n$以外的向量空间的子空间。
线性变换

由向量空间V映射到向量空间W内的线性变换T是一个规则，实现V到W的单射，其满足：
1. T(u+v)=T(u)+T(v)
2. T(cu)=cT(u)

线性变换T的核（或零空间）是V中所有满足T(u)=0的向量u的集合，值域指W中所具有形式T(x)的向量的集合。

4.3 线性无关集和基

令H是向量空间V的一个子空间，V中的向量的指标集$B=\{b_1,...,b_p\}$称为H的一个基，当且仅当：
1. B是一线性无关集
2. $H=span\{b_1,...,b_p\}$

一个基是一个不包含不必要向量的高效率生成集，可以通过去掉一个生成集中不需要的向量构造出来。
生成集定理

若$S=\{v_1,...,v_p\}$是V中向量集，$H=span\{v_1,...,v_p\}$
则有
1. 去掉S中某一可以用其他向量线性组合表示的向量，S仍然可以生成H。
2. 若$H\neq \{0\}$,则S的某一子集是H的基

这里我们讲一下如何求零空间和列空间的基。

• 零空间，解除Ax=0，将自由变量提出作为权，剩下的就是基
• 列空间，矩阵A初等行变换至阶梯形矩阵B，然后我们就知道B的主元列是哪些，对应的A的主元列就是一组基（这里再次强调初等行变换后得到的列完全不同，但是列之间的线性相关关系不变|就像你大爷名字从小明改成小红，但是你大爷还是你大爷）。换言之，我们利用B来去除不必要的生成集元素。

基是最大的线性无关集和最小生成集。

4.4 坐标系

搞基指定基的原因就是为空间建一个坐标系。最著名的就是笛卡尔坐标和$\mathbb{R}^n$的基情了。有了坐标系，任何向量空间V都可以像$\mathbb{R}^n$一样便于操作。
唯一性标识表示

B是V的一组基，则V中每个向量存在唯一一组数$c_1,...,c_n$使得

$$x=c_1b_1+\cdots +c_nb_n$$

向量

$$[x]_B=\begin{bmatrix}c_1\\\vdots\\ c_n \end{bmatrix}$$ 称为x的B-坐标向量，x到$[x]_B$的映射称为坐标映射。

4.5向量空间的维数

定理：

• 若向量空间V具有一组基$B=\{b_1,....,b_n\}$，则V中任意包含多余n个向量的集合一定线性相关。
• 若向量空间V中有一组基含有n个向量，则V的每一组基必都有n个向量。

维数

若V由一个有限集生产，则称V为有限维的，V的维数写成dimV，是V的基中含有向量的个数，零向量空间维数为0。若V不是由一有限集生成，则称V为无穷维的。


有限维空间的子空间
H是有限维向量空间V的子空间，则H也是有限维向量空间，且$dimH\le dimV$

这样我们很容易就可以得到基定理： V是p维向量空间，$p\ge 1$，V中任意含有p个元素的线性无关集并定时V的一个集。任意含有p个元素且生成V的集合必定是V的一个基。

NulA的维数是方程Ax=0中自由变量的个数，ColA的维数是A中主元列的个数。

4.6秩

行空间：矩阵A的行向量的所有线性组合的集合，记作Row A。
秩定理：

$m\times n$矩阵A的秩即A的列空间的维数，且等于行空间维数。秩还等于A的主元位置个数，且满足

$$rank A+dimNulA=n$$

定理
下列命题均等价于A是可逆矩阵：
1. A的列构成$\mathbb{R}^n$的一个基
2. $ColA=\mathbb{R}^n$
3. dimCol A=n
4. rank A=n
5. Nul A={0}
6. dim Nul A=0

4.7 基的变换

设$B={b_1,...,b_n}$和$C={c_1,...,c_n}$都是向量空间V的基，则存在一个$n\times n$矩阵$P_{C\leftarrow B}$使得

$$[x]_C=P_{C\leftarrow B}[x]_B$$
P的列是基B中向量的C-坐标向量，即
$$P_{C\leftarrow B}=[[b_1]_C\ [b_2]_C\dots [b_n]_C]$$
称为由B到C的坐标变换矩阵。乘以P的运算把B-坐标变成C-坐标。
易证：
$$P_{C\leftarrow B}=P_{B\leftarrow C}^{-1}$$

4.9 马尔科夫链中的应用

概率向量：具有非负分量且各分量的数值相加等于一的向量。
随机矩阵：各列向量均为概率向量的方阵。

马尔科夫链

是一个概率向量序列$x_0,...$和一个随机矩阵P，使得

$$x_1=Px_0,x2=Px_1,\cdots$$
用一阶差分方程刻画就是
$$x_{k+1}=Px_k,k=0,1,2,\cdots$$
$x_k$通常称为状态向量

稳态向量： 向量q满足$Pq=q$
定理： P是 n维正规随机矩阵，则P具有唯一的稳态向量q，若$x_0$是任意一个起始状态，且$x_{k+1}=Px_{k},k=0,1...$,则当$k\rightarrow \infty$,马尔科夫链收敛到q。

啊没错，马尔科夫链的奇妙之处就在于无论初始是什么状态，长期之后都接近稳态，这是一个数学世界里的“故事的结局早就写在开头”型爱情故事。

心得拾遗

• 矩阵乘积的秩不超过任何一个因子的秩。
• 矩阵乘法的解释多了一种吧，若$A^{-1}$可以作为基的话，那么AB可以看成是将B中所有列向量的坐标从以标准基到以$A^{-1}$的坐标。是呀，对象的变换本来就是相对于坐标系的，变换是相对的。
• 秩定理还有一种等价的描述
  $$dimV=dim ker(T)+rank T$$
  这里V指原向量空间，T指一个线性变换，该变换将V的子空间变换到W的子空间。ker(T)就是T的核，也就是V中经T变换为0的元素的集合，和之前描述中的NulA解空间是一样的。dimV就是V的维度，对于$m\times n$矩阵来说也就是n。这里的rankT也可以换为dim R(T)，R(T)就是V中所有元素经T变换组成的W中的子空间。
  前一种描述着重于将矩阵作为空间内的对象来看，而后一种描述强调的是矩阵所代表的线性变换。

错题

• 1.i 判断：矩阵A的行变换能够改变A的行之间的线性相关关系。
  误解：F
  正解：T。矩阵的行变换无法改变矩阵列之间的线性相关关系。
• 1.o 判断：若矩阵A和B有着相同的简化阶梯形，则RowA=RowB。
  误解：F
  正解：T。 简化过程实质上是什么？标乘和加法运算，空间的性质也是满足这两点的封闭性。那么对行进行这些运算不会改变行空间，也就是RowA=RowB。但是，$ColA\neq ColB$,想想看为什么？
• 15.设A是$m\times n$矩阵，B是$n\times p$矩阵，且$AB=0$，证明：$rankA+rankB\le n$
  证明： $$\because AB=0 \\ \therefore 对任意x，ABx=0 \\ \therefore Bx\in NulA \\ 又 \{Bx|x\in\mathbb{R}^p\}=Col B \\ \therefore ColB\in NulA \\ \therefore dim ColB\le dimNulA\\ \because rankA+dimNulA=n\\ \therefore rankA+dimColB\le n \\ \therefore rankA+rankB\le n$$