6.2 正定矩阵

6.2.1-3
略。
6.2.4 设$A$对称正定，$B$是实矩阵。
1. 证明，对任意整数，$A^k$也正定。
2. 若存在正整数$r$，使得$A^{r}B=B{A}^r$，证明$AB=BA.$ 1. 证明：
显然$A$有谱分解$A=Q\Lambda Q^{\mathrm{T}}$，则$A^k=Q{\Lambda }^k{Q}^{\mathrm{T}}$。而$\Lambda >0⟹{\Lambda }^k>0$，所以$A^k$也正定。
2. 证明：
因为$A$对称正定，所以存在正交矩阵$Q$，使$QA{Q}^{\mathrm{T}}=\Lambda =\left[\begin{array}{ccc}{\lambda }_{1}I& & \\ & \ddots & \\ & & {\lambda }_{n}I\end{array}\right]$，其中${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_n$均为正数且互不相等。于是 $$A^{r}B=B{A}^r⟹Q^{\mathrm{T}}{\Lambda }^{r}QB=B{Q}^{\mathrm{T}}{\Lambda }^{r}Q⟹{\Lambda }^{r}QB{Q}^{\mathrm{T}}=QB{Q}^{\mathrm{T}}{\Lambda }^r$$ 这说明$QB{Q}^{\mathrm{T}}$与${\Lambda }^r$可交换。所以$QB{Q}^{\mathrm{T}}=\left[\begin{array}{cccc}{B}_{11}& & & \\ & B_{22}& & \\ & & \ddots & \\ & & & B_{nn}\end{array}\right]$，显然其与$\Lambda$也可交换。于是 $$AB=Q^{\mathrm{T}}\Lambda QB=Q^{\mathrm{T}}\Lambda QB{Q}^{\mathrm{T}}Q=Q^{\mathrm{T}}QB{Q}^{\mathrm{T}}\Lambda Q=B{Q}^{\mathrm{T}}\Lambda Q=BA.$$ 6.2.5 对$n$阶实对称矩阵$A$，证明，当实数$t$充分大时，$t{I}_n+A$正定。
证明：
$${\mathbf{x}}^{\mathrm{T}}(t{I}_n+A)\mathbf{x}=t{\mathbf{x}}^{\mathrm{T}}\mathbf{x}+{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}=t\Vert \mathbf{x}\Vert +{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}$$显然当$t$充分大时，$t\Vert \mathbf{x}\Vert +{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}>0$对任意$\mathbf{x}\ne 0$都成立，所以$t{I}_n+A$正定。
6.2.6 对$n$阶实对称矩阵$A$，证明，存在正实数$c$，使得对任意$\mathbf{x}\in {\mathbb{R}}^n$，都有$|{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}|\le c{\mathbf{x}}^{\mathrm{T}}\mathbf{x}.$
证明：
$|{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}|\le c{\mathbf{x}}^{\mathrm{T}}\mathbf{x}⟹\frac{|{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}|}{{\mathbf{x}}^{\mathrm{T}}\mathbf{x}}\le c$。显然只需要$c\ge {|\lambda |}_{\max }$即可。
6.2.7 (Hadamard不等式) 给定$n$阶对称正定矩阵$A$，求证：
1.对任意$\mathbf{y}$，$\det (\left[\begin{array}{cc}A& \mathbf{y}\\ {\mathbf{y}}^{\mathrm{T}}& 0\end{array}\right])\le 0;$ 证明：
显然$A$可逆，于是$\left|\begin{array}{cc}A& \mathbf{y}\\ {\mathbf{y}}^{\mathrm{T}}& 0\end{array}\right|=\left|\begin{array}{cc}A& 0\\ {\mathbf{y}}^{\mathrm{T}}& -{\mathbf{y}}^{\mathrm{T}}{A}^{-1}\mathbf{y}\end{array}\right|=-({\mathbf{y}}^{\mathrm{T}}{A}^{-1}\mathbf{y})\det (A)$，而$A^{-1}$显然也正定，即对任意$\mathbf{y}$，${\mathbf{y}}^{\mathrm{T}}{A}^{-1}\mathbf{y}\ge 0$，等号成立当且仅当$\mathbf{y}=0$。而$\det (A)>0$，所以对任意$\mathbf{y}$，$\det (\left[\begin{array}{cc}A& \mathbf{y}\\ {\mathbf{y}}^{\mathrm{T}}& 0\end{array}\right])\le 0$ 2.记$A=\left[\begin{array}{c}{a}_{ij}\end{array}\right]$，则$\det (A)\le a_{nn}\det (A_{n-1})$，其中$A_{n-1}$是$A$的$n-1$阶顺序主子阵；
证明：
显然$A_{n-1}$可逆，于是 $$\det (A)=\left|\begin{array}{cc}{A}_{n-1}& \mathbf{a}\\ {\mathbf{a}}^{\mathrm{T}}& a_{nn}\end{array}\right|=\left|\begin{array}{cc}{A}_{n-1}& 0\\ {\mathbf{a}}^{\mathrm{T}}& a_{nn}-{\mathbf{a}}^{\mathrm{T}}{A}_{n-1}^{-1}\mathbf{a}\end{array}\right|=(a_{nn}-{\mathbf{a}}^{\mathrm{T}}{A}_{n-1}^{-1}\mathbf{a})\det (A_{n-1})$$ 显然${\mathbf{a}}^{\mathrm{T}}{A}_{n-1}^{-1}\mathbf{a}\ge 0$对任意$\mathbf{a}$成立，所以$\det (A)\le a_{nn}\det (A_{n-1})$。
3.$\det (A)\le a_{11}{a}_{22}\cdots a_{nn}.$ 证明：
由上面结论立得。
利用上述结论证明：如果实矩阵$T=\left[\begin{array}{c}{t}_{ij}\end{array}\right]$可逆，那么$\det (T{)}^2\le \stackrel{n}{\prod _{i=1}}(t_{1i}^2+t_{2i}^2+\cdots +t_{ni}^2).$ 证明：
$\det (T{)}^2=\det (T^{\mathrm{T}}T)$，而矩阵$T^{\mathrm{T}}T$显然正定，且其第$i$行第$i$列的对角元为$t_{1i}^2+t_{2i}^2+\cdots +t_{ni}^2$。由上述结论得$\det (T{)}^2\le \stackrel{n}{\prod _{i=1}}(t_{1i}^2+t_{2i}^2+\cdots +t_{ni}^2).$ 6.2.8 证明$A={\left[\begin{array}{c}\frac{1}{i+j}\end{array}\right]}_{n\times n}$正定。
证明：
法一：
注意到$$\frac{1}{i+j}={\int }_0^1{t}^{i+j-1}dt$$ 设$\mathbf{x}=\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]$，则 $${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}=\sum _{\begin{array}{c}1\le i\le n\\ 1\le j\le n\end{array}}\frac{x_i{x}_j}{i+j}={\int }_0^{1}t(\sum _{\begin{array}{c}1\le i\le n\\ 1\le j\le n\end{array}}{x}_i{x}_j{t}^{i+j-2})={\int }_0^{1}t(x_1+x_{2}t+\cdots +x_n{t}^{n-1}{)}^{2}dt$$ 显然对任意$\mathbf{x}\ne 0$，${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}>0$恒成立 $⟹$ $A$正定。
法二：
设$A_n={\left[\begin{array}{c}\frac{1}{i+j}\end{array}\right]}_{n\times n}$，于是 $$\begin{array}{rl}\det (A_n)& =\left|\begin{array}{cccc}\frac{1}{1+1}& \frac{1}{1+2}& \cdots & \frac{1}{1+n}\\ \frac{1}{2+1}& \frac{1}{2+2}& \cdots & \frac{1}{2+n}\\ ⋮& ⋮& & ⋮\\ \frac{1}{n+1}& \frac{1}{n+2}& \cdots & \frac{1}{n+n}\end{array}\right|\\ & =\left|\begin{array}{cccc}\frac{n-1}{(1+1)(n+1)}& \frac{n-1}{(1+2)(n+2)}& \cdots & \frac{n-1}{(1+n)(n+n)}\\ \frac{n-2}{(2+1)(n+1)}& \frac{n-2}{(2+2)(n+2)}& \cdots & \frac{n-2}{(2+n)(n+n)}\\ ⋮& ⋮& & ⋮\\ \frac{1}{n+1}& \frac{1}{n+2}& \cdots & \frac{1}{n+n}\end{array}\right|\\ & =\prod _{1\le i\le n}\frac{1}{n+i}\prod _{1\le i<n}(n-i)\left|\begin{array}{cccc}\frac{1}{1+1}& \frac{1}{1+2}& \cdots & \frac{1}{1+n}\\ \frac{1}{2+1}& \frac{1}{2+2}& \cdots & \frac{1}{2+n}\\ ⋮& ⋮& & ⋮\\ 1& 1& \cdots & 1\end{array}\right|\end{array}$$ $$\begin{array}{rl}& =\prod _{1\le i\le n}\frac{1}{n+i}\prod _{1\le i<n}(n-i)\left|\begin{array}{cccc}\frac{n-1}{(1+1)(1+n)}& \frac{n-2}{(1+2)(1+n)}& \cdots & \frac{1}{1+n}\\ \frac{n-1}{(2+1)(2+n)}& \frac{n-2}{(2+2)(2+n)}& \cdots & \frac{1}{2+n}\\ ⋮& ⋮& & ⋮\\ 0& 0& \cdots & 1\end{array}\right|\\ & =\frac{\prod _{1\le i<n}(n-i)}{\prod _{1\le i\le n}(n+i)}\left|\begin{array}{cccc}\frac{n-1}{(1+1)(1+n)}& \frac{n-2}{(1+2)(1+n)}& \cdots & \frac{n-(n-1)}{(1+n-1)(1+n)}\\ \frac{n-1}{(2+1)(2+n)}& \frac{n-2}{(2+2)(2+n)}& \cdots & \frac{n-(n-1)}{(2+n-1)(2+n)}\\ ⋮& ⋮& & ⋮\\ \frac{n-1}{(n-1+1)(n-1+n)}& \frac{n-2}{(n-1+2)(n-1+n)}& \cdots & \frac{n-(n-1)}{(n-1+n-1)(n-1+n)}\end{array}\right|\\ & =\frac{\prod _{1\le i<n}(n-i{)}^2}{\prod _{1\le i\le n}(n+i)\prod _{1\le i<n}(i+n)}\left|\begin{array}{cccc}\frac{1}{1+1}& \frac{1}{1+2}& \cdots & \frac{1}{1+n-1}\\ \frac{1}{2+1}& \frac{1}{2+2}& \cdots & \frac{1}{2+n-1}\\ ⋮& ⋮& & ⋮\\ \frac{1}{n-1+1}& \frac{1}{n-1+2}& \cdots & \frac{1}{n-1+n-1}\end{array}\right|\\ & =\frac{\prod _{1\le i<n}(n-i{)}^2}{(n+n)\prod _{1\le i<n}(n+i)\prod _{1\le i<n}(i+n)}{A}_{n-1}\end{array}$$ 而$A_1=\frac{1}{2}$，于是$\det (A_n)=\prod _{1\le i<j\le n}(i-j{)}^2\prod _{\begin{array}{c}1\le i\le n\\ 1\le j\le n\end{array}}\frac{1}{(i+j)}$，显然任意顺序主子式都为正，所以$A$正定。
6.2.9 证明Hilbert矩阵$H_n={\left[\begin{array}{c}\frac{1}{i+j-1}\end{array}\right]}_{n\times n}$正定。
证明：
与6.2.8类似，也有两种方法。
法一：
注意到$\frac{1}{i+j-1}={\int }_0^1{t}^{i+j-2}dt$， 设$\mathbf{x}=\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]$，则 $${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}=\sum _{\begin{array}{c}1\le i\le n\\ 1\le j\le n\end{array}}\frac{x_i{x}_j}{i+j-1}={\int }_0^1(\sum _{\begin{array}{c}1\le i\le n\\ 1\le j\le n\end{array}}{x}_i{x}_j{t}^{i+j-2})={\int }_0^1(x_1+x_{2}t+\cdots +x_n{t}^{n-1}{)}^{2}dt$$ 显然对任意$\mathbf{x}\ne 0$，${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}>0$恒成立 $⟹$ $A$正定。
法二：
法二与6.2.8中法二几乎完全一致，故此从略。
6.2.10 设$A,B$是实对称矩阵，如果$A-B$正定，则记作$A\succ B$。求证：
1.$A\succ B,B\succ C$可以推出 $A\succ C.$ 2.$A\succ B$和$B\succ A$不可能同时成立。
3.对任意实对称矩阵$A$,都存在实数$k_1,k_2$使得$k_1{I}_n\succ A\succ k_2{I}_n.$ 1. 证明：
$A-B$正定$⟹$ 对任意$\mathbf{x}\ne 0,{\mathbf{x}}^{\mathrm{T}}(A-B)\mathbf{x}$。
$B-C$正定$⟹$ 对任意$\mathbf{x}\ne 0,{\mathbf{x}}^{\mathrm{T}}(B-C)\mathbf{x}$。
两式相加立得${\mathbf{x}}^{\mathrm{T}}(A-C)\mathbf{x}$，所以$A-C$正定，即$A\succ C.$ 2. 证明：
假设同时成立，则$\{\begin{array}{l}{\mathbf{x}}^{\mathrm{T}}(A-B)\mathbf{x}>0\\ {\mathbf{x}}^{\mathrm{T}}(B-A)\mathbf{x}>0\end{array}$，两式相加得${\mathbf{x}}^{\mathrm{T}}(A-B+B-A)\mathbf{x}=0>0$，矛盾。所以$A\succ B$和$B\succ A$不可能同时成立。
3. 证明：
先证存在实数$k_1$使得$k_1{I}_n\succ A$，即$(k_1{I}_n-A)$正定。
对任意非零向量$\mathbf{x}$，${\mathbf{x}}^{\mathrm{T}}(k_1{I}_n-A)\mathbf{x}=k_1{\mathbf{x}}^{\mathrm{T}}\mathbf{x}-{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}\ge k_1{\mathbf{x}}^{\mathrm{T}}\mathbf{x}-{\lambda }_{\max }{\mathbf{x}}^{\mathrm{T}}\mathbf{x}$。显然当$k_1$足够大时，上式大于0对任意非零向量$\mathbf{x}$均成立。于是存在实数$k_1$使得$k_1{I}_n\succ A$。
同理可得存在足够小的实数$k_2$使得$A\succ k_2{I}_n$。
6.2.11 举例说明，实对称矩阵$A$的所有顺序主子式都非负，但$A$并不半正定.
解：
$\left[\begin{array}{cc}0& 0\\ 0& -1\end{array}\right]$所有顺序主子式都为0，但不半正定。
6.2.12 证明命题 6.2.4. 对实对称矩阵$A$，以下叙述等价：
1. $A$半正定。
2. $A$的特征值都是非负数。
3. 存在列满秩矩阵$T$，使得$A=T{T}^{\mathrm{T}}$。
4. $A$存在$LD{L}^{\mathrm{T}}$分解，且$D$的对角元都是非负数。
证明：
采用轮转证法。
$1⟹2$ 任取$A$的一个特征向量$\mathbf{x}$，则${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}=\lambda {\mathbf{x}}^{\mathrm{T}}\mathbf{x}\ge 0$，于是$\lambda \ge 0.$ $2⟹3$设$A=Q\Lambda Q^{\mathrm{T}}$，其中$\Lambda =\mathrm{diag}({\lambda }_1,\cdots ,{\lambda }_r,0,\cdots ,0)$。因为$\Lambda$对角元非负，所以设$\Lambda =D^2$，则$A=(QD)(QD{)}^{\mathrm{T}}=\left[\begin{array}{cccccc}\sqrt{{\lambda }_1}{\mathbf{q}}_1& \cdots & \sqrt{{\lambda }_r}{\mathbf{q}}_r& 0& \cdots & 0\end{array}\right]\left[\begin{array}{c}\sqrt{{\lambda }_1}{\mathbf{q}}_1^{\mathrm{T}}\\ ⋮\\ \sqrt{{\lambda }_r}{\mathbf{q}}_r^{\mathrm{T}}\\ 0^{\mathrm{T}}\\ ⋮\\ 0^{\mathrm{T}}\end{array}\right]$，设$T=\left[\begin{array}{ccc}\sqrt{{\lambda }_1}{\mathbf{q}}_1& \cdots & \sqrt{{\lambda }_r}{\mathbf{q}}_r\end{array}\right]$，显然$T$列满秩且$A=T{T}^{\mathrm{T}}.$ $3⟹4$设$T^{\mathrm{T}}$的QR分解为$Q{\tilde{L}}^{\mathrm{T}}$，其中$Q$是列正交矩阵，$\tilde{L}$是下三角矩阵。于是 $A=T{T}^{\mathrm{T}}=\tilde{L}{Q}^{\mathrm{T}}Q{\tilde{L}}^{\mathrm{T}}=\tilde{L}{\tilde{L}}^{\mathrm{T}}$，令$\tilde{L}=L\tilde{D}$，其中$\tilde{L}$是单位下三角阵，$\tilde{D}$是对角阵则$A=\tilde{L}{\tilde{L}}^{\mathrm{T}}=L{\tilde{D}}^2{L}^{\mathrm{T}}$，令$D={\tilde{D}}^2$立得。
$4⟹1$ ${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}=(L^{\mathrm{T}}\mathbf{x}{)}^{\mathrm{T}}D(L^{\mathrm{T}}\mathbf{x})\ge 0.$ 6.2.13 证明，实对称矩阵半正定，当且仅当它的所有主子式都非负，其中主子式的定义见练习 4.3.22.
证明：
法一：
先证：实对称矩阵$A$半正定$⟹$ $A$所有主子式都非负。
显然，$A$的某个$k$阶主子阵可表示为$P^{\mathrm{T}}AP,P=\left[\begin{array}{cccc}{\mathbf{e}}_{i_1}& {\mathbf{e}}_{i_2}& \cdots & {\mathbf{e}}_{i_k}\end{array}\right]$，其中$i_1<i_2<\cdots <i_k$，${\mathbf{e}}_i$是标准基。于是对任意$\mathbf{x}\ne 0$，都有${\mathbf{x}}^{\mathrm{T}}{P}^{\mathrm{T}}AP\mathbf{x}=(P\mathbf{x}{)}^{\mathrm{T}}A(P\mathbf{x})\ge 0⟹$所有主子阵都半正定$⟹A$所有主子式都非负。
再证：实对称矩阵$A$所有主子式都非负$⟹$ $A$半正定。
用数学归纳法，按照阶数归纳。
阶数$n=1$时显然成立。现假设阶数小于$n$时命题成立，考虑$n$阶实对称矩阵$A$。分两种情况讨论：
(a)若$\mathrm{rank}(A)<n$。
设${\mathbf{x}}_1,\cdots ,{\mathbf{x}}_{n-r}$是$\mathcal{N}(A)$的一组基。逐一考虑标准基${\mathbf{e}}_1,\cdots ,{\mathbf{e}}_n$，若${\mathbf{e}}_i$与${\mathbf{x}}_1,\cdots ,{\mathbf{x}}_{n-r}$线性无关，则将其加入基中。这样可以得到${\mathbb{R}}^n$的一组基$({\mathbf{e}}_{i_1},\cdots ,{\mathbf{e}}_{i_r},{\mathbf{x}}_1,\cdots ,{\mathbf{x}}_{n-r})$，其中$i_1<i_2<\cdots <i_k$。设$X=\left[\begin{array}{cccccc}{\mathbf{e}}_{i_1}& \cdots & {\mathbf{e}}_{i_r}& {\mathbf{x}}_1& \cdots & {\mathbf{x}}_{n-r}\end{array}\right]$，则$X^{\mathrm{T}}AX=\left[\begin{array}{cc}{C}_{r\times r}& O\\ O& O\end{array}\right].$ 因为$C$是$A$的一个主子阵，且$A$所有主子式都非负，所以$C$所有主子式也都非负。根据归纳假设，$C$半正定，于是$X^{\mathrm{T}}AX$也半正定，而合同变换不改变正定性，所以$A$也半正定。
这说明若阶数小于$n$时成立，矩阵阶数为$n$时也成立，于是$n\ge 1$时命题均成立。
(b)若$\mathrm{rank}(A)=n$。
显然此时$\det (A)>0$，这说明$A$只可能有0个或偶数个负数特征值。
根据归纳假设，$A$的$n-1$阶顺序主子阵$A_{n-1}$半正定。假设$A$有偶数个负数特征值，任意取其中两个负特征值${\lambda }_i,{\lambda }_j$，对应的特征向量是$\mathbf{x},\mathbf{y}$，注意${\mathbf{x}}^{\mathrm{T}}\mathbf{y}={\mathbf{y}}^{\mathrm{T}}\mathbf{x}=0.$ 设$\mathbf{u}=\alpha \mathbf{x}+\beta \mathbf{y}$，存在一组$\alpha ,\beta$使得$\mathbf{u}$的最后一个元素是为0，但$\mathbf{u}\ne 0$。即$\mathbf{u}=\left[\begin{array}{c}{\mathbf{u}}_1\\ 0\end{array}\right],{\mathbf{u}}_1\ne 0$。于是 $$\begin{array}{rl}{\mathbf{u}}^{\mathrm{T}}A\mathbf{u}& ={\mathbf{u}}_1^{\mathrm{T}}{A}_{n-1}{\mathbf{u}}_1\\ & =(\alpha \mathbf{x}+\beta \mathbf{y}{)}^{\mathrm{T}}A(\alpha \mathbf{x}+\beta \mathbf{y})\\ & ={\alpha }^2{\lambda }_i{\mathbf{x}}^{\mathrm{T}}\mathbf{x}+\alpha \beta {\lambda }_j{\mathbf{x}}^{\mathrm{T}}\mathbf{y}+\alpha \beta {\lambda }_i{\mathbf{y}}^{\mathrm{T}}\mathbf{x}+{\beta }^2{\lambda }_j{\mathbf{y}}^{\mathrm{T}}\mathbf{y}\\ & ={\alpha }^2{\lambda }_i{\mathbf{x}}^{\mathrm{T}}\mathbf{x}+{\beta }^2{\lambda }_j{\mathbf{y}}^{\mathrm{T}}\mathbf{y}\\ & <0\end{array}$$ 即存在${\mathbf{u}}_1$使得${\mathbf{u}}_1^{\mathrm{T}}{A}_{n-1}{\mathbf{u}}_1<0$，这与归纳假设相矛盾。所以$A$没有负数特征值$⟹$ $A$半正定。
这说明若阶数小于$n$时成立，矩阵阶数为$n$时也成立，于是$n\ge 1$时命题均成立。
法二：
先证：实对称矩阵$A$半正定$⟹$ $A$所有主子式都非负。
考虑矩阵$A+ϵI$，其中$ϵ$是任意小的正实数。于是对任意$\mathbf{x}\ne 0$，有${\mathbf{x}}^{\mathrm{T}}(A+ϵI)\mathbf{x}={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}+ϵ{\mathbf{x}}^{\mathrm{T}}\mathbf{x}>0⟹A+ϵI$正定$⟹A+ϵI$的任意$k$阶主子式$\det (A_k+ϵI)>0$。而$\det (A_k+ϵI)$是关于$ϵ$的连续函数，所以$\det (A_k)\ge 0$，即$A$所有主子式都非负。
再证：实对称矩阵$A$所有主子式都非负$⟹$ $A$半正定。
设$A_k$是$A$的任一$k$阶主子阵，$\det (A_k)\ge 0$。
考虑矩阵$A+ϵI$，其中$ϵ$是任意小的正实数。其任一$k$阶主子式为$\det (A_k+ϵI_k)$。设$\lambda$是$A_k$的特征值，则$\det (A_k-\lambda I_k)=0⟹\det (A_k+ϵI_k-(\lambda +ϵ)I_k)=0.$这说明若$\lambda$是$A_k$的特征值，则$\lambda +ϵ$是$A_k+ϵI_k$的特征值。因为$ϵ$是任意小的正实数，所以若$\lambda \ne 0$，$\lambda +ϵ$不改变符号，若$\lambda =0$，$\lambda +ϵ>0$，于是$\det (A_k+ϵI_k)>0⟹A+ϵI$任意顺序主子阵为正$⟹A+ϵI$正定。
所以对任意$\mathbf{x}\ne 0$，有${\mathbf{x}}^{\mathrm{T}}(A+ϵI)\mathbf{x}={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}+ϵ{\mathbf{x}}^{\mathrm{T}}\mathbf{x}>0$，而${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}+ϵ{\mathbf{x}}^{\mathrm{T}}\mathbf{x}$是关于$ϵ$的连续函数，于是${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}\ge 0⟹A$半正定。
6.2.14 设$A$是实对称矩阵，证明：
1.$A$半正定，当且仅当存在实对称矩阵$B$,使得$A=B^2.$ 2.若$A$半正定，则存在唯一的半正定实对称矩阵$B$,使得$A=B^2.$ 1.证明：
$A$是实对称矩阵且半正定$⟺A=Q^{\mathrm{T}}\Lambda Q$，其中$\Lambda$是对角元均为非负数的对角阵$⟺$存在对角阵$D$，使得$A=Q^{\mathrm{T}}{D}^{2}Q=Q^{\mathrm{T}}DQ{Q}^{\mathrm{T}}DQ=B^2.$ 2.证明：
$A=Q^{\mathrm{T}}\Lambda Q$，其中$\Lambda$是对角元均为非负数的对角阵，$\Lambda =\mathrm{diag}({\lambda }_1,\lambda 2,\cdots ,{\lambda }_n)$，显然存在唯一的分解$\Lambda =D^2$使得$D$也是对角元均为非负数的对角阵，即$D=\mathrm{diag}(\sqrt{{\lambda }_1},\sqrt{\lambda 2},\cdots ,\sqrt{{\lambda }_n})$。此时$A=Q^{\mathrm{T}}{D}^{2}Q=Q^{\mathrm{T}}DQ{Q}^{\mathrm{T}}DQ=B^2$，且$B=Q^{\mathrm{T}}DQ$是半正定矩阵。
6.2.15 证明，若实对称矩阵对角占优，且对角元素全为正数，则该矩阵正定。
证明：
法一：
设$A$对角占优，则$\det (A)\ne 0$.
考虑矩阵$A+t{I}_n$，其中$t$是充分大的正实数。显然$A+t{I}_n$也对角占优，且${\mathbf{x}}^{\mathrm{T}}(A+t{I}_n)\mathbf{x}={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}+t{\mathbf{x}}^{\mathrm{T}}\mathbf{x}>0$，于是$A+t{I}_n$正定。
设$A_k$是$A$的$k$阶顺序主子阵，则对任意$k$，都有$\det (A_k+t{I}_k)>0$。又因为$\det (A_k+t{I}_k)$是关于$t$的连续函数，且对任意$t\ge 0$，$\det (A_k+t{I}_k)\ne 0$，而$t$充分大时，$\det (A_k+t{I}_k)>0$。所以$\det (A_k)>0$对任意$k$均成立$⟹A$正定。
法二：
设$\mathbf{x}=\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]$，则 $$\begin{array}{rl}{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}& =\sum _{\begin{array}{c}1\le i\le n\\ 1\le j\le n\end{array}}{a}_{ij}{x}_i{x}_j\\ & =\sum _{1\le i<j\le n}2a_{ij}{x}_i{x}_j+\sum _{1\le i\le n}{a}_{ii}{x}_i^2\text{(由对称性)}\\ & >\sum _{1\le i<j\le n}2a_{ij}{x}_i{x}_j+\sum _{1\le i\le n}{x}_i^2\sum _{i\ne j}|a_{ij}|\text{(由对角占优)}\\ & =\sum _{1\le i<j\le n}2a_{ij}{x}_i{x}_j+\sum _{1\le i<j\le n}|a_{ij}|(x_i^2+x_j^2)\text{(由对称性)}\\ & \ge \sum _{1\le i<j\le n}2a_{ij}{x}_i{x}_j+\sum _{1\le i<j\le n}2|a_{ij}|x_i{x}_j\text{(由Cauchy不等式)}\\ & \ge 0\end{array}$$ 即${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}>0$对任意$\mathbf{x}\ne 0$恒成立$⟹A$正定。
6.2.16 证明或举出反例：
1.如果$A$对称正定，则$A^{-1}$正定。
证明：
$A$对称正定则其特征值全是正数，而$A^{-1}$的特征值是$A$特征值的倒数，显然也全为正数，所以$A^{-1}$正定。
2.如果$A,B$对称正定，则$A+B$正定。
显然正确。
3.如果$A,B$对称半正定，则$A+B$半正定。
显然正确。
4.如果$A,B$对称不定，则$A+B$不定。
不正确。
设$A=\left[\begin{array}{cc}-1& 1\\ 1& 1\end{array}\right]$，其特征值是$\pm \sqrt{2}$，不定。 $B=\left[\begin{array}{cc}1& -1\\ -1& -2\end{array}\right]$，其特征值是$\frac{-1\pm \sqrt{13}}{2}$，不定。而$A+B=\left[\begin{array}{cc}0& 0\\ 0& -1\end{array}\right]$，其特征值是$0$或$-1$，半负定。
5.如果$A$列满秩，$B$对称正定，则$A^{\mathrm{T}}BA$正定。
证明：
$A$列满秩，所以当$\mathbf{x}\ne 0$时，$A\mathbf{x}\ne 0$。而$B$对称正定，即对任意$\mathbf{x}\ne 0,{\mathbf{x}}^{\mathrm{T}}B\mathbf{x}>0$。所以${\mathbf{x}}^{\mathrm{T}}{A}^{\mathrm{T}}BA\mathbf{x}=(A\mathbf{x}{)}^{\mathrm{T}}B(A\mathbf{x})>0⟹A^{\mathrm{T}}BA$正定。
6.如果$S=A^{\mathrm{T}}A$且$A$有简化 QR 分解$A=QR$,则$S=R^{\mathrm{T}}R$是$S$的 Cholesky 分解。
证明：
$S=A^{\mathrm{T}}A=(QR{)}^{\mathrm{T}}(QR)=R^{\mathrm{T}}{Q}^{\mathrm{T}}QR=R^{\mathrm{T}}R$，其中$R$是上三角阵。
7.如果$A,B$对称正定，则$AB$的特征值都是正数。
设$AB$的特征值是$\lambda$，对应的特征向量是$\mathbf{x}$，则$AB\mathbf{x}=\lambda \mathbf{x}$。两边左乘${\mathbf{x}}^{\mathrm{T}}{B}^{\mathrm{T}}$得${\mathbf{x}}^{\mathrm{T}}{B}^{\mathrm{T}}AB\mathbf{x}=\lambda {\mathbf{x}}^{\mathrm{T}}{B}^{\mathrm{T}}\mathbf{x}⟹(B\mathbf{x}{)}^{\mathrm{T}}A(B\mathbf{x})=\lambda {\mathbf{x}}^{\mathrm{T}}{B}^{\mathrm{T}}\mathbf{x}$，而$A,B$都正定，$(B\mathbf{x}{)}^{\mathrm{T}}A(B\mathbf{x})>0,{\mathbf{x}}^{\mathrm{T}}{B}^{\mathrm{T}}\mathbf{x}>0$，所以$\lambda >0.$ 6.2.17 证明命题 6.2.7. 方阵的合同关系是等价关系。
证明：
反身性：$A=I_n^{\mathrm{T}}A{I}_n$，因此$A$和$A$合同。
对称性：若$A,B$合同，则存在可逆矩阵$X$，使得$X^{\mathrm{T}}AX=B$，显然同时也有$X^{-\mathrm{T}}B{X}^{-1}=A$。所以$B$和$A$也合同。
传递性：若$A,B$合同，$B,C$合同，则存在可逆矩阵$X,Y$，使得$X^{\mathrm{T}}AX=B,Y^{\mathrm{T}}BY=C$。即$(XY{)}^{\mathrm{T}}A(XY)=C$，而$XY$是可逆矩阵，因此$A,C$也合同。
所以方阵的合同关系是等价关系。
6.2.18 考虑实对称矩阵$S=\left[\begin{array}{cc}A& B\\ B^{\mathrm{T}}& C\end{array}\right].$证明$S$正定当且仅当$A$及其 Schur 补都正定。
证明：
注意到$$\left[\begin{array}{cc}A& B\\ B^{\mathrm{T}}& C\end{array}\right]=\left[\begin{array}{cc}I& \\ B^{\mathrm{T}}{A}^{-1}& I\end{array}\right]\left[\begin{array}{cc}A& \\ & C-B^{\mathrm{T}}{A}^{-1}B\end{array}\right]\left[\begin{array}{cc}I& A^{-1}B\\ & I\end{array}\right]$$ 于是$S$正定$⟺S$有$LD{L}^{\mathrm{T}}$分解$⟺$存在下三角阵$L_1,L_2$使得$A=L_{1}D{L}_1^{\mathrm{T}},C-B^{\mathrm{T}}{A}^{-1}B=L_{2}D{L}_2^{\mathrm{T}}⟺$ $A$及其Schur补都正定。
6.2.19 设$A,B$是$n$阶实对称矩阵，$A$正定。证明,存在可逆矩阵$T$,使得$T^{\mathrm{T}}AT$和$T^{\mathrm{T}}BT$同时是对角矩阵。
证明：
$A$是正定的实对称矩阵，所以存在正交矩阵$Q_A$使得$Q_A^{\mathrm{T}}A{Q}_A={\Lambda }_A$。设${\Lambda }_A=D^2$，则$(Q_A{D}^{-1}{)}^{\mathrm{T}}A(Q_A{D}^{-1})=I_n.$ 注意到$(Q_A{D}^{-1}{)}^{\mathrm{T}}B(Q_A{D}^{-1})$也是实对称矩阵，存在谱分解$Q^{\mathrm{T}}(Q_A{D}^{-1}{)}^{\mathrm{T}}B(Q_A{D}^{-1})Q=\Lambda$，而$Q^{\mathrm{T}}(Q_A{D}^{-1}{)}^{\mathrm{T}}A(Q_A{D}^{-1})Q=Q^{\mathrm{T}}Q=I_n$。所以存在可逆矩阵$T=Q_A{D}^{-1}Q$使得$T^{\mathrm{T}}AT$和$T^{\mathrm{T}}BT$同时是对角矩阵。
6.2.20 设$A,B$是$n$阶实对称矩阵，$A,B$半正定。证明，存在可逆矩阵$T$,使得$T^{\mathrm{T}}AT$和$T^{\mathrm{T}}BT$同时是对角矩阵。
证明：
$A,B$半正定$⟹$任意$\mathbf{x}\ne 0,{\mathbf{x}}^{\mathrm{T}}A\mathbf{x}\ge 0,{\mathbf{x}}^{\mathrm{T}}B\mathbf{x}\ge 0$。分两种情况讨论：
(a)若$\mathcal{N}(A)\cap \mathcal{N}(B)=\{0\}.$ 对任意$\mathbf{x}\ne 0,{\mathbf{x}}^{\mathrm{T}}(A+B)\mathbf{x}={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}+{\mathbf{x}}^{\mathrm{T}}B\mathbf{x}>0⟹A+B$正定。显然$A+B$也是对称矩阵，由6.2.19，存在可逆矩阵$T$,使得$T^{\mathrm{T}}(A+B)T={\Lambda }_1$和$T^{\mathrm{T}}AT={\Lambda }_2$同时是对角矩阵。而$T^{\mathrm{T}}BT=T^{\mathrm{T}}(A+B)T-T^{\mathrm{T}}AT={\Lambda }_1-{\Lambda }_2$也是对角矩阵。所以存在可逆矩阵$T$,使得$T^{\mathrm{T}}AT$和$T^{\mathrm{T}}BT$同时是对角矩阵。
(b)若$\mathcal{N}(A)\cap \mathcal{N}(B)\ne \{0\}.$ 取$\mathcal{N}(A)\cap \mathcal{N}(B)$的一组正交基$({\mathbf{q}}_1,\cdots ,{\mathbf{q}}_s)$，并扩张为正交矩阵$Q$，则$Q^{\mathrm{T}}AQ=\left[\begin{array}{cc}O& \\ & A_1\end{array}\right],Q^{\mathrm{T}}BQ=\left[\begin{array}{cc}O& \\ & B_1\end{array}\right].$ 显然此时$\mathcal{N}(A_1)\cap \mathcal{N}(B_1)=\{0\}$，问题即转化为(a)中情况。