科学计算作业 四

科学计算

陆一洲 5140309557

4.13

设 $\rho(A)=\lambda$，$\exists\ x$，使得 $Ax=\lambda x$，有 $$\frac{\|Ax\|}{\|x\|}=\lambda$$ 又由于 $$\|A\|=\max_{x\neq 0}\{\frac{\|Ax\|}{\|x\|}\}$$ 可得 $\rho(A)\leqslant\|A\|$。

4.19

若 $A$ 为幂等矩阵，$\lambda$ 为 $A$ 的一个特征值。可得 $$A^2-A=0\ \ \ \Rightarrow\ \ \ \lambda^2-lambda=0$$ 从而解得 $\lambda=0\ \textrm{or}\ 1$。

4.20

(a)
由 $Ax=\lambda x$ 和 $Ay=\mu y$，可得 $$y^HAx=\lambda y^Hx,\ y^HA^Hx=\mu y^Hx$$ 由于 $A^H=A$ $$\lambda y^Hx=\mu y^Hx$$ 因此 $\lambda\neq \mu$，从而 $y^Hx=0$。所以 $x$ 与 $y$ 正交。
(b)
由于 $Ax=\lambda x$ $$y^HAx=\lambda y^Hx$$ 同理有 $$y^HAx=\mu y^Hx$$ 因此有 $$\lambda y^Hx=\mu y^Hx$$ 由于 $\lambda\neq\mu$，所以 $y^Hx=0$。
(c)
由于 $\lambda$ 为简单特征值，所以 $\lambda$ 的代数重数为 $1$。
根据 Schur 定理，存在酋矩阵 $U$，通过它，可以让矩阵 $A$ 相似于一个上三角矩阵，且这个上三角矩阵的对角线元素就是 $A$ 的特征值。因此，不妨设 $$U^HAH= \begin{pmatrix} \bar\lambda&0\\ *&B^H \end{pmatrix}$$ 其中 $B$ 为一个 $(n-1)\times(n-1)$ 的对角矩阵。且由于 $\lambda$ 的代数重数为 $1$，因此在矩阵 $B$ 中不存在为 $\lambda$ 的特征值。此外，显然有 $$U^HAUe_1=\lambda e_1$$ 同时 $$(U^HAU)^H=U^HA^HU= \begin{pmatrix} \bar\lambda&0\\ *&B^H \end{pmatrix}$$ 由于共轭转置矩阵与原矩阵有共轭的特征值，因此存在向量 $z$，使得 $U^HA^HUz=\bar\lambda z$。
不妨设 $z_0=0$，即 $Z= \begin{pmatrix} 0 \\ w \end{pmatrix}$ 可以发现 $$U^HA^HUz=\begin{pmatrix} \bar\lambda&0\\ *&B^H \end{pmatrix}\begin{pmatrix} 0 \\ w \end{pmatrix}=\begin{pmatrix} 0 \\ B^Hw \end{pmatrix}=\begin{pmatrix} 0 \\ \lambdaw \end{pmatrix}$$ 也就是 $$B^Hw=\bar\lambda w$$ ，即 $\lambda$ 是 $B^H$ 的特征值。这里产生矛盾。因此 $z_0\neq0$，所以有 $$(Uz)^HUe_1=z^HU^HUe_1=z^He_1\neq0$$ 根据 $U^HA^HUz=\bar\lambda z$，可以得到 $$(Uz)^HA=\lambda(Uz)^H$$ 根据 $U^HAUe_1=\lambda e_1$，可以得到 $$AUe_1=\lambda Ue_1$$ 因此 $Uz$ 和 $Ue_1$ 分别为 $A$ 的左特征值与右特征值。
又由于 $\lambda$ 的代数重数为 $1$，且代数重数小于几何重数，因此对于矩阵 $A$ 的左特征向量 $y$ 和右特征向量 $x$，有 $$y=aUz,\ \ a\neq0\\x=bUe_1,\ \ b\neq0$$ 所以，$y^Hx=abz^HU^HUe_1=abz^HU\neq0$。

4.24

(a)
对于 $A$，我们做初等行变换，使得原矩阵除了第一行都是 $0$，$TA=xy$，其中 $T$ 为初等行变换的矩阵，$x=e_1$，$y$ 为经过初等行变换后的第一行的转制。只要令 $u=T^{-1}x$ 以及 $v=y$，那么命题就得证了。
(b)
由于 $Au=uv^Tu=u(v^Tu)=(u^Tv)u$，命题得证。
(c)
由于矩阵的秩等于等于矩阵的非零特征值的个数，因此该矩阵的其他特征值都是 $0$。
(d)
由于矩阵 $A$ 只有一个非零特征值，因此只需要做一次幂法。

4.25

对于 $uv^T$ 的任意一个特征向量 $x$ ，设其特征值为 $\lambda$ ，有 $$\begin{align} (I+uv^T)x&=Ix+uv^Tx\notag \\ &=x+\lambda x\notag \\ &=(1+\lambda)x\notag \end{align}$$ 由4.24知，$I+uv^T$ 的所有特征值为 $1+u^Tv$ 和 $1$，由4.23知 $$\det(I+uv^T)=1+u^Tv$$ 。

4.27

(a)
由于 $\rho(A)<1$，所以 $A$ 的所有特征值都小于 $1$。根据位移原则，可得 $I-A$ 的特征值都大于 $0$，所以 $I-A$非奇异。
(b)
我们有
$$(I-A)\sum_{k=0}^{\infty}A^k=\sum_{k=0}^{\infty}A^k-\sum_{k=1}^{\infty}A^k=A^0=I$$ 由 (a)，因为 $I_A$ 的所有特征值都大于 $0$，因此它为非奇异矩阵，可逆。所以 $$\sum_{k=0}^{\infty}A^k=(I-A)^{-1}$$

4.31

(a)
设$\lambda$是$Q$的特征值，$x$是它对应的特征向量，则有如下性质：

• $\lambda$是$Q^T$的特征值，所以$\lambda$是$Q^T$的特征值。
• $\frac{1}{\lambda}$是$Q^{-1}$的特征值。

由 $Qx=\lambda x$可推得 $\frac{1}{\lambda}x=Q^{-1}x$ 所以 $\frac{1}{\lambda}$ 是 $Q^{-1}$ 的特征值。
由于 $Q^{-1}=Q^T$，所以 $\frac{1}{\lambda}=\lambda$ ，即 $|\lambda|=1$ .
(b)
由于$|\lambda|=1$，所以奇异值为1.

4.32

(a)
由于矩阵 $vv^T$ 是一个秩一矩阵，只有两个不同的特征值，且其中之一为 $0。根据为位移原则，那么$H$也只有两个不同的特征值，其中一个为$1$。又由于$$Hv=v-\frac{2vv^Tv}{v^Tv}=-v$$，且$v$是一个非零向量，因此$-1$也是$H$的一个特征值。综上，$H$的两个特征值为$1$与$-1$。
(b)
$$\lambda^2-2c\lambda+2c^2-1=0\ \ \ \Rightarrow\ \ \ \lambda=c\pm s\mathrm{i}$$

1.

由于在 QR 迭代中需要用到 QR 分解，如果我们使用带主元的 QR 分解，只需要在实现细节上作修改。我们在带主元的 QR 分解中求出置换矩阵 $P$，然后在迭代的过程中乘上置换矩阵 $P$ 即可。

2.

使用 Arnoldi 迭代，先进行迭代，迭代几次之后，根据迭代结果构造初始向量。利用这个初始向量，只要再进行几次迭代，就可以对谱集边缘的特征值做很好的近似。

3.

经测试，使用 Arnoldo 迭代后的海森堡矩阵去进行 QR 迭代比原矩阵更快。

5.5

(a)
根据割线法，我们得到式子 $$x_{k+1}=x_k-\frac{f(x_k)(x_k-x_{k-1})}{f(x_k)-f(x_{k-1})}=\frac{x_{k-1}f(x_k)-x_kf(x_{k-1})}{f(x_k)-f(x_{k-1})}$$
(b)
优点：少算一次接近实数之间的剪发，误差很少；
缺点：需要多进行一次平方运算，容易产生误差。

5.10

(a)
$$J(x)= \begin{pmatrix} 2x_1 & -2x_2 \\ 2x_2 & 2x_1 \\ \end{pmatrix}$$
令 $x_0=(0\ 1)^T$，则有
$$\begin{align*} f(x_0)&= \begin{pmatrix} -1\\ -1\\ \end{pmatrix},\ \ \ J(x_0)= \begin{pmatrix} 0 & -2 \\ 2 & 0 \\ \end{pmatrix}\\ x_1&=x_0-(J(x_0))^{-1}f(x_0)\notag \\ &= \begin{pmatrix} 0 \\ 1 \\ \end{pmatrix} + \begin{pmatrix} 0.5 \\ -0.5 \\ \end{pmatrix} \notag \\ &= \begin{pmatrix} 0.5 \\ 0.5 \\ \end{pmatrix} \end{align*}$$