工程矩陣理論(第6章-矩陣的廣義逆)

主講:張小向

http://

工程矩陣理論東南大學碩士研究生學位課程

第六章矩陣的廣義逆第一節(jié)

廣義逆及其性質

第二節(jié)

A+的求法

第三節(jié)

廣義逆的一個應用第六章矩陣的廣義逆§6.1廣義逆及其性質§6.1廣義逆及其性質一.Penrose方程與MP-逆定義6.1.1

Penrose方程

設A

s

n.若存在G

n

s滿足(1)AGA=A;(2)GAG=G;(3)(AG)H=AG;(4)(GA)H=GA,則稱G為A的廣義逆(或Moore-Penrose逆,簡稱MP-逆).第六章矩陣的廣義逆§6.1廣義逆及其性質二.存在性與唯一性定理6.1.1

設A

s

n,則A有唯一的廣義逆.證明:(存在性)根據定理4.2.6(奇值分解),存在酉矩陣U與V使得A=U

VH,

D

O

O

O

其中D=diag(

1,…,

r),

1,…,

r>0為AHA的特征值.令G=V

UH,

D1

O

O

O

n

s

則可直接驗證G為A的廣義逆.第六章矩陣的廣義逆§6.1廣義逆及其性質設X,Y滿足(1)AXA=A=AYA;(2)XAX=X,YAY=Y;(3)(AX)H=AX,(AY)H=AY;(4)(XA)H=XA,(YA)H=YA,則X=XAX

=X(AX)H

=XXHAH

=XXH(AYA)H

=XXHAH(AY)H

=X(AX)H(AY)H

=XAXAY

=XAY

=XAYAY

=(XA)H(YA)HY

=(YAXA)HY

=(YA)HY

=YAY

=Y.(唯一性)第六章矩陣的廣義逆§6.1廣義逆及其性質注:A的廣義逆記為A+.例1

(1)若A為可逆陣,則A+=A1.(2)O+=OT.例2

(1)(2)A+

O

O

B+

=,+A

O

O

B

O

B+A+

O=.+O

A

B

O

=(A+,O),+A

O

(A,O)+

A

O

+=.第六章矩陣的廣義逆§6.1廣義逆及其性質1100例3

設A=,求A+.解:令B=(1,1),B+=,x

y

則BB+B=B

=(1,1),(x+y)(1,1)=(B+B)H=B+B

=,x

x

y

y

=x

y

x

y

由此可得x=y=1/2.故B+=,1/21/2A+==(B+,O)+B

O

=.1/201/20第六章矩陣的廣義逆§6.1廣義逆及其性質定理6.1.2

設A

s

n,則

(1)(A+)+=A;(2)(AH)+=(A+)H;(3)(AT)+=(A+)T;(4)(kA)+=k+A+,三.A+的性質其中k,k1,k0,0,

k=0;k+=證明:根據Penrose方程直接驗證.第六章矩陣的廣義逆§6.1廣義逆及其性質(5)AH=AHAA+=A+AAH;(6)(AHA)+=A+(AH)+,

(AAH)+=(AH)+A+;證明:(5)AHAA+=AH(AA+)H=(AA+A)H=AH.

A+AAH=(A+A)HAH=(AA+A)H=AH.(6)利用定理4.2.6(奇值分解),或根據Penrose方程直接驗證.(AHA)A+(AH)+(AHA)=AHAA+(A+)HAHA

=AHAA+AA+A

=AHAA+(AA+)HA

=AHAA+A

=AHA;第六章矩陣的廣義逆§6.1廣義逆及其性質A+(AH)+(AHA)A+(AH)+=A+(A+)HAHAA+(AH)+

=A+AA+AA+(AH)+

=A+(AA+)HAA+(AH)+

=A+AA+(AH)+

=A+(AH)+;[(AHA)A+(AH)+]H=[(AH)+]H(A+)HAH(AH)H

=A+(AA+)HA

=A+(A+)HAHA

=(A+A)H

=[A+(AA+)A]H

=A+AA+A

=A+A

=AH(AA+)H(A+)H=AHAA+(A+)H

=(AHA)A+(AH)+;[A+(AH)+(AHA)]H=AH(AH)H[(AH)+]H(A+)H

=AH(AA+)H(A+)H

=AHAA+(A+)H

=(A+A)H

=A+(AA+)A

=[A+(AA+)A]H

=A+(AA+)HA

=A+(A+)HAHA=A+(AH)+(AHA).=A+A

第六章矩陣的廣義逆§6.1廣義逆及其性質(7)A+=(AHA)+AH=AH(AAH)+;(8)(UAV)+=VHA+UH,

其中U,V為酉矩陣;(9)A+AB=A+AC

AB=AC.證明:(7)(AHA)+AH=A+(AH)+AH=A+(A+)HAH

=A+AA+

=A+(AA+)H

=A+.AH(AAH)+=AH(AH)+A+=AH(A+)HA+=…(8)利用定理4.2.6(奇值分解),(9)(

)A+AB=A+AC

AB=AA+AB=AA+AC=AC.第六章矩陣的廣義逆§6.1廣義逆及其性質證明:XR(A)定理6.1.3

設A

s

n,則

(1)AA+X=X,XR(A),0,XK(AH);

Y

n

s.t.X=AY

AA+X=AA+AY=AY=X.XK(AH)

AHX=0

AA+X=(AA+)HX=(A+)HAHX

=0.第六章矩陣的廣義逆§6.1廣義逆及其性質(2)A+AX=X,XR(AH),0,XK(A);證明:XR(AH)

Y

s

s.t.X=AHY

A+AX=A+AAHY

XK(A)

AX=0

A+AX=0.=(A+A)HAHY

=(AA+A)HY

=AHY=X.第六章矩陣的廣義逆§6.1廣義逆及其性質(3)R(A)=R(AA+)=R(AAH)=K(I

AA+);證明:XR(A)

Y

n

s.t.X=AY

X=AA+AYR(AA+),可見R(A)R(AA+),XR(AA+)

Y

s

s.t.X=AA+Y

XR(A),可見R(AA+)R(A),綜合上述兩個方面可得R(A)=R(AA+).第六章矩陣的廣義逆§6.1廣義逆及其性質又因為dimR(AAH)=r(AAH)可見R(AAH)=R(A).XR(AAH)

Y

s

s.t.X=AAHY

XR(A),可見R(AAH)R(A),=r(A)=dimR(A).第六章矩陣的廣義逆§6.1廣義逆及其性質XR(A)

X=AA+X

(I

AA+)X=0

XK(I

AA+),可見R(A)K(I

AA+),XK(I

AA+)(I

AA+)X=0

X=AA+XR(A),可見K(I

AA+)R(A),綜合上述兩個方面可得R(A)=K(I

AA+).第六章矩陣的廣義逆§6.1廣義逆及其性質(4)R(A+)=R(A+A)=R(AH)=R(AHA)證明:用A+替換(3)中的A得

R(A+)=R(A+A)=R[A+(A+)H]=K(I

A+A);=K(I

A+A).用AH替換(3)中的A得

R(AH)=R[AH(AH)+]=R(AHA).同時有

R[AH(AH)+]=R[(A+A)H]=R(A+A).第六章矩陣的廣義逆§6.1廣義逆及其性質(5)[R(A)]

=R(I

AA+)=K(AA+)=K(AH)證明:對(3)中的每一項取正交補得

[R(A)]

=[R(AA+)]

=K(AA+)

=R(I

AA+),[R(A)]

=[R(AAH)]

=K(AAH).在§2.2中已經得到[R(A)]

=K(AH).最后由K(A+)K(AA+)K(A+AA+)=K(A+)可得K(A+)=K(AA+).=K(A+)=K(AAH);第六章矩陣的廣義逆§6.1廣義逆及其性質(6)[R(A+)]

=R(I

A+A)=K(A+A)證明:用A+替換(5)中的A得

[R(A+)]

=R(I

A+A)=K(A+A)=K(A).又因為K(A)K(AHA)而且dimK(A)=n

r(A)=n

r(AHA)=dimK(A+A),故K(A)=K(AHA).在§2.2中已經得到[R(AH)]

=K(A).=K(A)=K(AHA)=[R(AH)]

;第六章矩陣的廣義逆§6.1廣義逆及其性質定理6.1.4

AGX=X,XR(A),0,X[R(A)]

;設A

s

n,G

n

s,則G=A+的充要條件為GAX=X,XR(G),0,X[R(G)]

.以及第六章矩陣的廣義逆§6.1廣義逆及其性質證明:()XR(A)

Y

n

s.t.X=AY

AGX=AGAYX[R(A)]

=K(AH)

AGX=(AG)HX=GHAHX=0.這就證明了=AY=X.AGX=X,XR(A),0,X[R(A)]

;GAX=X,XR(G),0,X[R(G)]

.類似地,可以證明第六章矩陣的廣義逆§6.1廣義逆及其性質()對于e1=(1,0,…,0)T,e2=(0,1,…,0)T,…,en=(0,0,…,1)T,有AeiR(A),i=1,2,…,n,故AGA=AGA(e1,…,en)=(AGAe1,…,AGAen)=(Ae1,…,Aen)=A(e1,…,en)=A,類似地,可以證明GAG=G.下面證明AG為Hermite陣,即(AG)H=AG.第六章矩陣的廣義逆§6.1廣義逆及其性質事實上,s=R(A)[R(A)]

.分別取R(A)和[R(A)]

的標準正交基

X1,…,Xr和Xr+1,…,Xs,則AG(X1,…,Xs)=(X1,…,Xs).Ir

O

O

O

令P=(X1,…,Xs),則P1=PH,AG=P

PH=(AG)H.Ir

O

O

O

類似地,可以證明GA為Hermite陣.第六章矩陣的廣義逆§6.2A+的求法§6.2A+的求法一.利用矩陣的滿秩分解定理6.2.1

設A

s

n,r(A)=r1.若A=BC為A的滿秩分解,則A+=CH(CCH)1(BHB)1BH.特別地,若r(A)=n,則A+=(AHA)1AH.若r(A)=s,則A+=AH(AAH)1.證明:直接代入Penrose方程加以驗證.第六章矩陣的廣義逆§6.2A+的求法123246例1

設A=,求A+.解:C=(1,2,3),令B=,12則A=BC為A的滿秩分解,BHB=5,(BHB)1=1/5,CCH=14,(CCH)1=1/14,A+=CH(CCH)1(BHB)1BH

根據定理6.2.1可知123=11415(1,2).122436=170第六章矩陣的廣義逆§6.2A+的求法二.利用R(AH)和K(AH)的基定理6.2.2

設A

s

n,r(A)=r1.若X1,…,Xr為R(AH)的一組基,Yr+1,…,Ys為K(AH)的一組基,令B=(X1,…,Xr,0,…,0)n

s,C=(AX1,…,AXr,Yr+1,…,Ys),則A+=BC1.第六章矩陣的廣義逆§6.2A+的求法證明:根據定理6.1.3(5)和(2)可知A+Yj

=0(j=r+1,…,s),A+AXi=Xi(i=1,…,r).于是有A+C=A+(AX1,…,AXr

,Yr+1,…,Ys)

=(X1,…,Xr

,0,…,0)n

s=B.注意到r(AX1,…,AXr)r(A+AX1,…,A+AXr)=r(X1,…,Xr)=r,可見AX1,…,AXr構成R(A)的一組基.第六章矩陣的廣義逆§6.2A+的求法又因為

s=R(A)K(AH),故AX1,…,AXr,Yr+1,…,Ys構成

s的一組基.因而C=(AX1,…,AXr,Yr+1,…,Ys)可逆,于是由A+C=B得A+=BC1.

第六章矩陣的廣義逆§6.2A+的求法例2

設A=,求A+.解:B=(X1,X2)=AH,112213AH=,121123X1=,112X2=213為R(AH)的一組基,K(AH)=0,69914C=(AX1,AX2)=,14996C1=,13

取法不唯一A+=BC1

=.45113

330第六章矩陣的廣義逆§6.2A+的求法例3

設M=,其中A=,解:A

O

O

B

1122130230B=,求M+.B+=B1=.01/31/20M+=A+

O

O

B+

A+=.13

451330=.4/35/31/3001100000001/20001/30第六章矩陣的廣義逆§6.3廣義逆的一個應用§6.3廣義逆的一個應用一.最小二乘解的概念定義6.3.1

設A

s

n,b

s.若X0

n滿足則稱X=X0為方程組AX=b的最小二乘解.||AX0

b||2=min{||AX

b||2|X

n},

AX=b的最小二乘解中,長度最小的叫做極小最小二乘解.第六章矩陣的廣義逆§6.3廣義逆的一個應用二.正規(guī)方程r(AHA)=r(A)=r(AH)r(AH(A,b))

r(AH)

r(AHA,AHb)=

r(AHA,AHb)

r(AHA)

r(AHA)

r(AHA,AHb)=

r(AHA)

AHAx=AHb有解Ax=b的正規(guī)方程定理6.3.1

設A

s

n,b

s,則TFAE:(1)X0是AX=b的最小二乘解;(2)AX0

b[R(A)]

;(3)AHAX0

=AHb.第六章矩陣的廣義逆§6.3廣義逆的一個應用證明:所以b可以唯一地分解為

因為

s=R(A)[R(A)]

,b=AY0+(b

AY0),其中AY0R(A),b

AY0[R(A)]

.于是對于任意的X

n,有||AX

b||2=||AX

AY0+AY0

b||2

2

2

=||AX

AY0||2+||AY0

b||2

2

2

||AY0

b||2.2

由此可見第六章矩陣的廣義逆§6.3廣義逆的一個應用

(1)X0是AX=b的最小二乘解

||AX0

b||2=||AY0

b||2

||AX0

AY0||2=0

AX0

=AY0

(2)AX0

b=AY0

b[R(A)]

.(2)AX0

b[R(A)]

AX0

=AY0

(1)X0是AX=b的最小二乘解.