谱定理,极分解与奇异值分解

7.A 自伴算子与正规算子

7.2 伴随

定义：设$T\in L(V,W)$,$T$的伴随是满足如下条件的函数$T^{\ast }:W\to V:$对所有$v\in V$和所有$w\in W$均有$⟨Tv,w⟩=⟨v,T^{\ast }w⟩$

要想看出上面定义的意义,我们取定$w\in W$与$T$,考虑$V$上将$v\in V$映射成$⟨Tv,w⟩$的线性泛函$\phi$,这个线性泛函依赖于$T$与$w$,由李斯表示定理(6.42),$V$中存在唯一的$q$使得$\phi (v)=⟨v,q⟩$.现在我们知道了$q=T^{\ast }w$. 容易验证,伴随是线性映射.且$T^{\ast }$的矩阵就是$T$的矩阵的共轭转置.

7.11 自伴

定义：算子$T$称为自伴的如果$T=T^{\ast }$,即$⟨Tv,w⟩=⟨v,Tw⟩$

伴随在$L(V)$上的作用犹如复共轭在$\mathbf{C}$上的作用,因此自伴算子可以和实数类比.

7.18 正规

定义：内积空间上的算子$T$称为正规的,如果它和它的伴随是交换的,即$T{T}^{\ast }=T^{\ast }T$

7.20 $T$是正规的当且仅当对任意 $v\in V$有$\parallel Tv\parallel =\parallel T^{\ast }v\parallel$

$$T{T}^{\ast }=T^{\ast }T⟺T{T}^{\ast }-T^{\ast }T=0⟺⟨(T{T}^{\ast }-T^{\ast }T)v,v⟩=0$$ $$⟺⟨T^{\ast }Tv,v⟩=⟨T{T}^{\ast }v,v⟩⟺\parallel Tv{\parallel }^2=\parallel T^{\ast }v{\parallel }^2$$

7.B 谱定理

7.24 复谱定理

设 $\mathbf{F}$=$\mathbf{C}$ 且$T\in L(V)$,则以下条件等价：

(a) $T$是正规的

(b) $V$有一个由$T$的本征向量构成的规范正交基

(c) $T$关于$V$的某个规范正交基有对角矩阵

(b)和(c)的等价性可由5.41得到.

(c)$\to$(a)： $T$在$V$的某个规范正交基下具有对角阵,$T^{\ast }$的矩阵是其共轭转置,所以$T^{\ast }$也具有对角阵,二对角阵是交换的,从而$T$是正规的.

(a)$\to$(c)：首先由舒尔定理(6.38),$V$有一个规范正交基$e_1,e_2,\dots ,e_n$使得$T$关于此基由上三角矩阵,即

$$M(T)=\left(\begin{array}{ccccccc}{a}_{11}& \cdots & a_{1n}⋮& \ddots & ⋮0& \cdots & a_{mn}\end{array}\right)$$

所以 $$\parallel T{e}_1{\parallel }^2=|a_{1,1}{|}^2$$ 且 $$\parallel T^{\ast }{e}_1{\parallel }^2=\sum _{i=1}^n|a_{1,i}{|}^2.$$ 因为$T$是正规的,所以 $$\parallel T{e}_1{\parallel }^2=\parallel T^{\ast }{e}_1{\parallel }^2.$$ 所以$M(T)$第一行除了$a_{1,1}$外全部为0.于是 $$\parallel T{e}_2{\parallel }^2=|a_{2,1}{|}^2+|a_{2,2}{|}^2=|a_{2,2}{|}^2$$ 且 $$\parallel T^{\ast }{e}_2{\parallel }^2=\sum _{i=2}^n|a_{2,i}{|}^2,$$ 因为 $$\parallel T{e}_1{\parallel }^2=\parallel T^{\ast }{e}_1{\parallel }^2,$$ 所以$M(T)$第二行除了$a_{2,2}$外全部为0.如此进行下去,可得$M(T)$非对角线元素均为0,故$T$关于$V$的某个规范正交基有对角矩阵.

7.26 若算子$T$可逆,且$b^2<4c$,则 $T^2+bT+cI$ 是可逆的

7.27 设$V\ne 0$且$T\in L(V)$是自伴算子,则$T$有本征值

设$V$为实内积空间,记 $n=\mathrm{d}\mathrm{i}\mathrm{m}\mathrm{V}$,取$v\in V$且$v\ne 0$则 $$v,Tv,T^{2}v,\dots ,T^{n}v$$ 必定线性相关,于是存在不全为零的实数,使得 $$0=a_{0}v+a_{1}Tv+\cdots +a_n{T}^{n}v$$ 以这些$a_j$为系数作一多项式,并将其分解为(4.17) $$a_0+a_{1}x+\cdots +a_n{x}^n=c(x^2+b_{1}x+c_1)\cdots (x^2+b_{M}x+c_M)(x-{\lambda }_1)\cdots (x-{\lambda }_m)$$ 其中$c$为非零实数,$b_J^2-4c_J<0$,$m+M\ge 1$,所以有

$$0=a_{0}v+a_{1}Tv+\cdots +a_n{T}^{n}v=c(T^2+b_{1}T+c_{1}I)\cdots (T^2+b_{M}T+c_{M}I)(T-{\lambda }_{1}I)\cdots (T-{\lambda }_{m}I)v$$ 由7.26,每个$T^2+T_{J}x+c_J$都是可逆的,所以 $$0=(T-{\lambda }_{1}I)\cdots (T-{\lambda }_{m}I)v$$ 所以至少有一个$j$使得$T-{\lambda }_{j}I$不是单的,也就是说$T$有本征值.

7.28 自伴算子与不变子空间

设$T\in L(V)$是自伴的,并设$U$是$V$在$T$下的不变子空间,则

(a) $U^{\mathrm{\perp }}$在$T$下不变

(b) $T{|}_U\in L(V)$是自伴的

(c) $T{|}_{U^{\mathrm{\perp }}}\in L(U^{\mathrm{\perp }})$是自伴的

7.29 实谱定理

设 $\mathbf{F}$=$\mathbf{R}$ 且$T\in L(V)$,则以下条件等价：

(a) $T$是自伴的

(b) $V$有一个由$T$的本征向量构成的规范正交基

(c) $T$关于$V$的某个规范正交基有对角矩阵

(c)$\to$(a),(b)$\to$(c)显然.

(a)$\to$(b),用归纳法证明,$\mathrm{d}\mathrm{i}\mathrm{m}\mathrm{V}=1$时显然成立.现设$\mathrm{d}\mathrm{i}\mathrm{m}\mathrm{V}>1$,并假设在维数更小的实内积空间上成立.设$u$是$T$的一个本征向量且$\parallel u\parallel =1$,设$U=\mathrm{s}\mathrm{p}\mathrm{a}\mathrm{n}(\mathrm{u})$,则$U$是$V$下不变的一维子空间,由7.28(c),$T{|}_{U^{\mathrm{\perp }}}\in L(U^{\mathrm{\perp }})$是自伴的.由归纳假设,$U^{\mathrm{\perp }}$有一个由$T{|}_{U^{\mathrm{\perp }}}$的 本征向量组成的规范正交基,把$u$添加进这个规范正交基,就得到了$V$的一个由$T$的本征向量组成的规范正交基.

7.C 正算子与等距同构

7.36 每个正算子都有唯一的正平方根

7.37 等距同构 定义：算子$T$称为等距同构如果对任意$v\in V$有$\parallel Tv\parallel =\parallel v\parallel$.也就是说,算子是等距同构当且仅当它保持范数

7.D 极分解与奇异值分解

我们曾在$\mathbf{C}$与$L(V)$之间做过类比,一个负数对应于一个算子,$\overline{z}$对应于$T^{\ast }$,实数对应于自伴算子.注意到非零复数都可以写成$z=(\frac{z}{|z|})\sqrt{z\overline{z}}$,这使我们想到任何算子$T\in L(V)$都可以写成等距同构与$\sqrt{T^{\ast }T}$的乘积的形式.

7.45 极分解

设$T\in L(V)$,则有一个等距同构$S\in L(V)$使得$T=S\sqrt{T^{\ast }T}$

对任意 $v\in V$,有 $$\parallel Tv{\parallel }^2=⟨T^{\ast }Tv,v⟩=⟨\sqrt{T^{\ast }T}\sqrt{T^{\ast }T}v,v⟩=⟨\sqrt{T^{\ast }T}v,\sqrt{T^{\ast }T}v⟩=\parallel \sqrt{T^{\ast }T}v{\parallel }^2$$ 定义线性映射$S_1:\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}\to \mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\mathit{T}$ 为$S_1(\sqrt{T^{\ast }T}v)=Tv$.

证明的思路是将$S_1$扩张成一个等距同构$S\in L(V)$使得$T=S\sqrt{T^{\ast }T}$.由于$S_1$是单的,对$S_1$应用线性映射基本定理得 $$\mathrm{d}\mathrm{i}\mathrm{m}\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}\mathit{=}\mathrm{d}\mathrm{i}\mathrm{m}\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\mathit{T}$$ 这表明$\mathrm{d}\mathrm{i}\mathrm{m}(\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}{)}^{\mathrm{\perp }}=\mathrm{d}\mathrm{i}\mathrm{m}(\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\mathit{T}{)}^{\mathrm{\perp }}$.取$(range\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}{)}^{\mathrm{\perp }}$的一组规范正交基$e_1,e_2,\dots ,e_m$和$(range\mathit{T}{)}^{\mathrm{\perp }}$的一组规范正交基$f_1,f_2,\dots ,f_m$,关键是这两组规范正交基长度相同.于是可以定义线性映射$S_2:(range\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}{)}^{\mathrm{\perp }}\to (\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\mathit{T}{)}^{\mathrm{\perp }}$为 $$S_2(a_1{e}_1+a_2{e}_2+\cdots +a_m{e}_m)=a_1{f}_1+a_2{f}_2+\cdots +a_m{f}_m$$ 于是对任意$w\in (range\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}{)}^{\mathrm{\perp }}$有 $$\parallel S_{2}w\parallel =\parallel w\parallel .$$ 设$S\in L(V)$且 $$S{|}_{(\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}{)}^{\mathrm{\perp }}}=S_2,S{|}_{\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}}=S_1.$$ 由于每一个$v$都可以唯一地写成 $$v=u+w$$ 其中$u\in \mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\mathit{s}\mathit{q}\mathit{r}\mathit{t}{\mathit{T}}^{\mathit{\ast }}\mathit{T}$,$w\in (\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}{)}^{\mathrm{\perp }}$,按照上述定义, $$Sv=S_{1}u+S_{2}w$$ 所以$S(\sqrt{T^{\ast }T}v)=S_1(\sqrt{T^{\ast }T}v)=Tv$,所以$T=S\sqrt{T^{\ast }T}$,下面只需证明$S$是等距同构,而由于$u,w$正交,$S_{1}u\in \mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}\mathit{,}{\mathit{S}}_{\mathit{2}}\mathit{w}\in \mathit{(}\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{g}\mathrm{e}\sqrt{{\mathit{T}}^{\mathit{\ast }}\mathit{T}}{)}^{\mathrm{\perp }}$正交,有 $$\parallel Sv{\parallel }^2=\parallel S_{1}u{\parallel }^2+\parallel S_{2}w{\parallel }^2=\parallel u{\parallel }^2+\parallel w{\parallel }^2=\parallel v{\parallel }^2$$ 得证.

7.49 奇异值

定义：算子$T$的奇异值就是$\sqrt{T^{\ast }T}$的本征值,而且每个本征值$\lambda$都要重复$\mathrm{d}\mathrm{i}\mathrm{m}\mathrm{E}(\lambda ,\sqrt{{\mathrm{T}}^{\ast }\mathrm{T}})$次

7.51 奇异值分解

设算子$T$有奇异值,则$V$有两个规范正交基$e_1,e_2,\cdots ,e_n$和$f_1,f_2,\cdots ,f_n$使得对于每个$v\in V$都有$Tv=s_1⟨v,e_1⟩f_1+\cdots +s_n⟨v,e_n⟩f_n$

对$\sqrt{T^{\ast }T}$应用谱定理可知,有$V$的规范正交基$e_1,e_2,\cdots ,e_n$使得对$j=1,\cdots ,n$有$\sqrt{T^{\ast }T}{e}_j=s_j{e}_j$.对每个$v\in V$有 $$v=⟨v,e_1⟩e_1+\cdots +⟨v,e_n⟩e_n$$ 将$\sqrt{T^{\ast }T}$作用到等式两端,有 $$\sqrt{T^{\ast }T}v=⟨v,e_1⟩\sqrt{T^{\ast }T}{e}_1+\cdots +⟨v,e_n⟩\sqrt{T^{\ast }T}{e}_n$$ 由极分解定理(7.45)可知,有等距同构$S\in L(V)$使得$T=S\sqrt{T^{\ast }T}$,再将$S$作用在上面等式两端,有 $$Tv=⟨v,e_1⟩S{e}_1+\cdots +⟨v,e_n⟩S{e}_n$$ 对每个$j$设$f_j=S{e}_j$,由于$S$是等距同构,所以$f_1,f_2,\cdots ,f_n$是规范正交基,故 $$Tv=s_1⟨v,e_1⟩f_1+\cdots +s_n⟨v,e_n⟩f_n$$ 奇异值分解给了我们一个难得的机会——对算子矩阵用到两个不同的基,且有

$$M(T,(e_1,e_2,\cdots ,e_n),(f_1,f_2,\cdots ,f_n))=\left(\begin{array}{ccccccc}{s}_1& \cdots & 0⋮& \ddots & ⋮0& \cdots & s_n\end{array}\right)$$ 也就是说,只要允许我们在处理算子的时候用两个不同的基,那么$V$上的算子关于$V$的某些规范正交基总有对角阵.