Matrix Inverse identities

Matrix

ref: http://www0.cs.ucl.ac.uk/staff/gridgway/mil/mil.pdf

2017.11.21

• 矩阵$(A+B)$ 的逆矩阵不等于两个矩阵之和的逆。
  

  $$(A+B)^{-1} \ne A^{-1} + B^{-1}$$

• Identity 1
  

  $$\begin{align*} (I+P)^{-1} &= (I+P)^{-1}(I+P-P) \tag{1} \\ &= I - (I+P)^{-1}P \tag{2} \end{align*}$$

• Identity 2
  

  $$P+PQP = P(I+QP) =(I+PQ)P$$
  $$\begin{align} (I+PQ)^{-1}P = P(I+QP)^{-1} \tag{3} \end{align}$$

• Matrix Inverse Lemma(矩阵求逆引理)
  

  $$\begin{align*} (A+BCD)^{-1} &= \Big( A[I+A^{-1}BCD] \Big)^{-1} \\ &= (I+A^{-1}BCD)^{-1}A^{-1} \\ &= \Big(I - (I+A^{-1}BCD)^{-1}A^{-1}BCD\Big)A^{-1} \\ &= A^{-1} - (I+A^{-1}BCD)^{-1}A^{-1}BCDA^{-1} \end{align*}$$
  重复使用公式3，可以得到
  $$\begin{align*} (A+BCD)^{-1} &=A^{-1} - A^{-1}(I+BCDA^{-1})BCDA^{-1} \\ &= A^{-1} - A^{-1}B(I+CDA^{-1}B)^{-1}CDA^{-1} \tag{4}\\ &\dots \\ &=A^{-1} - A^{-1}BCDA^{-1}(I+BCDA^{-1})^{-1} \end{align*}$$
  • special case 1
    if $C$ is invertible, 在公式(4)中
    $$\begin{align*} (A+BCD)^{-1} &= A^{-1} - A^{-1}B(C^{-1}+DA^{-1}B)^{-1}DA^{-1} \end{align*}$$
  • special case 2
    $$\begin{align*} (A+BCD)^{-1}BC &= A^{-1}(I+BCDA^{-1})^{-1}BC ·\\ &= A^{-1}B(I+CDA^{-1}B)^{-1}C \\ for \ invertible \ C \\ &= A^{-1}B(C^{-1}+DA^{-1}B)^{-1} \end{align*}$$