矩陣分析 課件 第4章 矩陣分解

矩陣分析第四章矩陣分解4.1矩陣的三角分解4.2矩陣的QR分解4.3的滿秩分解4.4矩陣的奇異值分解4.1矩陣的三角分解

4.1.1三角分解的存在性與唯一性定義4.1如果

n階矩陣

A能夠分解為一個(gè)下三角矩陣L和一個(gè)上三角矩陣U的乘積，則稱(chēng)其為三角分解或LU分解。將矩陣A分解為一個(gè)單位下三角矩陣與一個(gè)上三角矩陣的乘積的分解法叫做Doolittle分解。將矩陣A分解為一個(gè)下三角矩陣與一個(gè)單位上三角矩陣的乘積的分解法叫做Crout分解。將矩陣A

分解為A=LDU，其中L

為單位下三角矩陣，D為對(duì)角矩陣，

U為單位上三角矩陣，則稱(chēng)之為L(zhǎng)DU分解。定理4.1設(shè)

，則

A可以作三角分解的證

（必要性）若矩陣A可以作三角分解，即A=LU，其中L為下三角形，U為上三角形。由于A可逆，則

L和U均可逆。若設(shè)根據(jù)可逆性可知，將矩陣

A，L和U分塊，充分必要條件是，其中為A的k

階順序主子式。其中和分別是A，L和U的k階順序主子陣，且和分別是下三角矩陣和上三角矩陣。由矩陣的分塊乘法運(yùn)算，得兩側(cè)同時(shí)求行列式，得到（充分性）對(duì)階數(shù)n用數(shù)學(xué)歸納法證明。當(dāng)時(shí)，結(jié)論顯然成立。假設(shè)對(duì)結(jié)論成立，即當(dāng)A為k階可逆方陣時(shí)，A有三角分解。則當(dāng)時(shí)，將A寫(xiě)成分塊矩陣，同時(shí)考慮到k階可逆方陣有三角分解的假設(shè)，得到我們令，則取即可。即即當(dāng)時(shí)，結(jié)論成立。注：從上面的證明過(guò)程可知，n階矩陣A的三角分解不唯一。同時(shí)該定理?xiàng)l件說(shuō)明，并不是每個(gè)可逆矩陣都可以做三角分解，如矩陣就不能作三角分解。定理4.2矩陣

的LDU分解式唯一的充分必要條件為A的順序主子式。其中對(duì)角矩陣，元素證（必要性）矩陣有LDU分解，即A有三角分解。由定理4.1,A的順序主子式

（充分性）由于可逆矩陣A的順序主子式，根據(jù)定理4.1，A

有三角分解，設(shè)。記則為矩陣A的LDU分解。下證唯一性。若矩陣A有兩個(gè)LDU分解：則，該等式的左邊是單位下三角矩陣，右邊是上三角矩陣，所以，。因此，該等式的左邊是對(duì)角矩陣，右邊是單位上三角矩陣，所以。唯一性得證。下面計(jì)算。類(lèi)似于定理4.1的證明過(guò)程，將矩陣A，L

，D和U分塊，可得，注意到，L為單位下三角形，U為單位上三角形，D為對(duì)角陣，得到。定理4.3矩陣

有唯一Doolittle分解或Crout分解的充分必要條件為

A的順序主子式

。證

我們只證明矩陣有唯一Doolittle分解的情況。矩陣有唯一的Crout分解的情況可類(lèi)似證明。（必要性）若矩陣有Doolittle分解，則A有三角分解，由定理4.1，A的順序主子式。（充分性）可逆矩陣A的順序主子式，根據(jù)定理4.2，A有唯一的LDU分解式，則為A的一個(gè)Doolittle分解。設(shè)為A

的另一個(gè)Doolittle分解形式，則，即，該等式的左邊是單位下三角矩陣，右邊是上三角矩陣，所以，即。唯一性得證。4.1.2三角分解的計(jì)算

設(shè)的順序主子矩陣為非奇異矩陣，且，。對(duì)于Doolittle分解：因?yàn)?/p>

，即由矩陣乘法可知，，具體計(jì)算過(guò)程中，應(yīng)根據(jù)矩陣乘法，觀察矩陣乘積的第一行，得到U的第一行元素；再觀察矩陣乘積的第一列，可得到L的第一列元素；接下來(lái)，依次觀察矩陣乘積的第二行和第二列，可分別得到U的第二行元素和L的第二列元素；以此類(lèi)推。對(duì)于Crout分解：與上面的推倒類(lèi)似。，；對(duì)于，計(jì)算在具體計(jì)算過(guò)程中，應(yīng)根據(jù)矩陣乘法，觀察矩陣乘積的第一列，得到L的第一列元素，再觀察矩陣乘積的第一行，可得到U的第一行元素；接下來(lái)，依次觀察矩陣乘積的第二列和第二行，可分別得到L的第二列元素和U的第二行元素；以此類(lèi)推對(duì)于LDU分解：在求出了A的Doolittle分解

之后，

的LDU分解為

；同理也可根據(jù)

A的Crout分解，此時(shí)

A的LDU分解為

。例4.1求矩陣的Doolittle分解與Crout分解。解由Doolittle分解的遞推公式有所以Doolittle分解為再由Crout分解的遞推公式有所以Crout分解為4.1.3對(duì)稱(chēng)三角分解

定理4.4Hermite正定矩陣A存在下三角矩陣

G，使得

，稱(chēng)之為A

的對(duì)稱(chēng)三角分解（也叫做平方根分解，或Cholesky分解）。類(lèi)似于矩陣A的Doolittle分解的計(jì)算格式的推導(dǎo)過(guò)程，我們可以得到A的Cholesky分解的計(jì)算格式：例4.2求矩陣的Cholesky分解。解易于驗(yàn)證矩陣A是實(shí)對(duì)稱(chēng)正定矩陣，由Cholesky分解的遞推公式有所以Cholesky分解為注，該定理的條件僅是充分的，如矩陣的秩為1，且不滿足定理4.5的條件，但都是A的三角分解。定理4.6矩陣

的LDU分解式唯一的充分必要條件為A的順序主子式

，其中L是單位下三角矩陣，

U是單位上三角矩陣。三角分解在求解線性方程組中的應(yīng)用對(duì)于線性方程組而言，如果其系數(shù)矩陣A為非奇異矩陣，并且，則存在三角分解。這時(shí)，就與方程組等價(jià)，而方程組中的兩個(gè)子方程組很容易求解，這就是解線性方程組的三角分解法。例4.3求解線性方程組，其中

解例4.1已求得由遞推求得而由回代求得本節(jié)小結(jié)010203三角分解的存在性與唯一性三角分解的計(jì)算對(duì)稱(chēng)三角分解

P86

：1預(yù)習(xí)：4.2節(jié)本節(jié)作業(yè)4.2矩陣的QR

分解

4.2矩陣的QR

分解

4.2.1Givens矩陣在二維平面中，笛卡爾直角坐標(biāo)系的旋轉(zhuǎn)變換為這是一個(gè)正交變換，所以T是正交矩陣，。一般地，對(duì)于n維酉空間而言，旋轉(zhuǎn)變換定義如下。定義4.2設(shè)復(fù)數(shù)c與s

滿足

，則稱(chēng)矩陣為Givens矩陣（或初等旋轉(zhuǎn)矩陣），簡(jiǎn)記為，由Givens矩陣所確定的線性變換叫做Givens變換（或初等旋轉(zhuǎn)變換）。容易驗(yàn)證，當(dāng)

，且c與s為實(shí)數(shù)時(shí)，存在角度，使得。此時(shí)，這樣的Givens矩陣恰為平面旋轉(zhuǎn)矩陣。Givens矩陣一定是酉矩陣，并且同時(shí)，則有所以，當(dāng)時(shí)，取c=1，s=0，則，此時(shí)。當(dāng)時(shí)，取就可以使定理4.7設(shè)，則存在有限個(gè)Givens矩陣，使得滿足定理4.8設(shè)，則存在有限個(gè)Givens矩陣之積，記作，使得。稱(chēng)之為用Givens變換化向量x與同方向。證

由定理4.7，存在Givens矩陣

，使得對(duì)，又存在Givens矩陣，使得依次進(jìn)行下去，得令，則有4.2.2Householder矩陣在二維平面中，將向量x映射為關(guān)于ox軸對(duì)稱(chēng)的向量y的變換，叫做關(guān)于ox軸的鏡象變換（或初等反射變換）。設(shè)，通過(guò)鏡象變換有其中，這里的矩陣H是正交矩陣且。定義4.3設(shè)單位向量，稱(chēng)為Householder矩陣（或初等反射矩陣），由Householder矩陣所確定的線性變換稱(chēng)為Householder變換（或初等反射變換）。Householder矩陣具有以下性質(zhì)：（1）Householder矩陣是Hermite矩陣，即；（2）Householder矩陣是酉矩陣，即；（3）Householder矩陣是對(duì)合矩陣，即；（4）Householder矩陣是自逆矩陣，即；（5）；（6）

是n+r階Householder矩陣。定理4.9任意給定非零列向量

及單位列向量

，則存在Householder矩陣H

，使得

。證

當(dāng)時(shí)，取單位向量u滿足，則當(dāng)時(shí)，取，由于則

例4.4

用Givens變換和Householder變換化

與

同方向。解

（用Givens變換）取

，則則使得使得。再取（用Householder變換），，則可計(jì)算于是，其中定理4.10

Givens矩陣是兩個(gè)Householder矩陣的乘積，即

，其中分別為在兩個(gè)單位向量下的Householder矩陣。注

Householder矩陣不能由若干個(gè)Givens矩陣的乘積表示，因?yàn)?，?.2.3QR分解定義4.4設(shè)n階復(fù)矩陣A能夠分解為一個(gè)n階酉矩陣Q和一個(gè)

n階非奇異上三角矩陣R之積（或n階實(shí)矩陣A能夠分解為一個(gè)n

階正交矩陣Q和一個(gè)n階非奇異上三角矩陣R之積），即

，則稱(chēng)之為矩陣A的QR分解。定理4.11設(shè)A是任意n階復(fù)矩陣，則矩陣A有QR分解。證

（Householder變換方法）將矩陣A按列分塊為由定理4.9可知，存在n階Householder矩陣，使得因此其中是n-1階復(fù)矩陣。再將按列分塊為，則存在n-1階Householder矩陣，使得，（），記則是Householder矩陣，并且其中是n-2階矩陣，依此類(lèi)推，到第n-1步有其中都是n階Householder矩陣。由于的自逆性，所以有其中是酉矩陣，R是上三角矩陣。（Givens變換方法）將矩陣A按列分塊為

，由定理4.8可知，存在n階Givens矩陣

，使得，因此

（）對(duì)于其第二列，存在n階Givens矩陣，使得所以（）依此類(lèi)推，最后得到。由此，其中是酉矩陣，R是上三角矩陣。定理4.12設(shè)A是任意

n

階可逆復(fù)矩陣，則矩陣A可以唯一的分解為

A=QR。其中Q是n階酉矩陣，R是具有正對(duì)角元素的上三角可逆矩陣。證

將矩陣A按列分塊為

，因?yàn)榫仃嘇可逆，所以

線性無(wú)關(guān)，由Schmidt正交化方法將其正交化：其中再將單位化，得則有所以其中是n階酉矩陣，R是具有正對(duì)角元素的上三角可逆矩陣。再證唯一性。設(shè)矩陣A有兩個(gè)QR分解：，則，其中是具有正對(duì)角元素的上三角可逆矩陣，由于，則D仍為n

階酉矩陣，因此D是單位矩陣。所以例4.5試求矩陣的QR分解。解分別用Householder變換，Givens變換和Schmidt正交化方法求矩陣A的QR分解。（Householder變換方法）因?yàn)?，取，作單位向量則

又因?yàn)?，取，作單位向量則，記，則所以矩陣A的QR分解為：（Givens變換方法）取

，則

再取

，

，則所以矩陣A的QR分解為：（利用Schmidt正交化方法）因?yàn)?，?/p>

，可見(jiàn)線性無(wú)關(guān)，應(yīng)用Schmidt正交化得到：再單位化得到：因此，所以矩陣A的QR分解為：對(duì)于線性方程組來(lái)說(shuō)，如果，則有A=QR，其中Q是n

階酉矩陣，是上三角矩陣。則原方程組等價(jià)于，即。由于R是上三角矩陣，則可以通過(guò)回代求出x

。又由于是一個(gè)酉矩陣，它左乘任一向量都不改變其長(zhǎng)度，故可抑制計(jì)算過(guò)程中的誤差積累。所以QR分解在數(shù)值中是常用的工具之一。本節(jié)小結(jié)010203Givens矩陣Householder矩陣QR分解P86

：2預(yù)習(xí)：4.3節(jié)本節(jié)作業(yè)4.3矩陣矩陣的滿秩分解

定義4.5設(shè)，如果存在列滿秩矩陣和行滿秩矩陣，使得A=FG

，則稱(chēng)之為A的滿秩分解。定理4.13設(shè)

，則

A一定有滿秩分解。證

當(dāng)r=m時(shí)，是A的一個(gè)滿秩分解；而當(dāng)r=n

時(shí)，是A的一個(gè)滿秩分解。下面設(shè)因?yàn)椋瑢?duì)A施行初等行變換，可得到階梯形矩陣其中G為矩陣，并且；則一定存在m階可逆矩陣P（有限個(gè)初等矩陣的乘積），使得PA=B，即將矩陣分塊為，且由于P可逆，有，。則其中F是列滿秩矩陣，G是行滿秩矩陣。注：矩陣A的滿秩分解不唯一。這是因?yàn)槿羧∪我庖粋€(gè)r

階非奇異矩陣D，則有例4.6求矩陣

的滿秩分解。解

對(duì)矩陣A進(jìn)行初等行變換可見(jiàn)而

，其中所以有定義4.6若

滿足以下條件：（1）矩陣H的前r行中的每一行至少含有一個(gè)非零元素，并且第一個(gè)非零元素是1，而后m-r行元素均為零；（2）如果矩陣H

的第i行的第一個(gè)非零元素1在第列則；（3）矩陣H的列是單位矩陣的前r列；則稱(chēng)矩陣H為Hermite標(biāo)準(zhǔn)形（或行最簡(jiǎn)型）。Hermite標(biāo)準(zhǔn)形有如下形式定義4.7以n階單位矩陣I的n個(gè)列向量為列構(gòu)成的n

階矩陣叫做置換矩陣。其中是的一個(gè)全排列。對(duì)于任意一個(gè)秩為r的矩陣A

，均可以經(jīng)過(guò)初等行變換將其化為Hermite標(biāo)準(zhǔn)形H，而且矩陣H的前r

行元素組成的行向量組線性無(wú)關(guān)。若為一個(gè)n階置換矩陣，則AP是將A的列按的順序重新排列，是將A

的行按的順序重新排列，是將A

的行和列同時(shí)按

的順序重新排列。可見(jiàn)Hermite標(biāo)準(zhǔn)形一定可以通過(guò)右乘置換矩陣變成的形式。下面我們將借助Hermite標(biāo)準(zhǔn)形給出另一種計(jì)算滿秩分解的方法。定理4.14設(shè)的Hermite標(biāo)準(zhǔn)形為H

，則在矩陣A的滿秩分解A=FG中，可以取矩陣F為A的列構(gòu)成的階矩陣，G為H

的前R行構(gòu)成的階矩陣。例4.7

求矩陣

的滿秩分解解先求出矩陣A的Hermite標(biāo)準(zhǔn)形可見(jiàn)，。因此F為A的第1列與第2列構(gòu)成的矩陣，G為H的前2行構(gòu)成的矩陣，即所以對(duì)比例4.6，可以看出兩種方法求得的結(jié)果是不同的，即矩陣A的滿秩分解不唯一本節(jié)小結(jié)矩陣矩陣的滿秩分解P86

：3預(yù)習(xí)：4.4節(jié)本節(jié)作業(yè)4.4矩陣的奇異值分解

定義4.8設(shè)

，

的特征值為則稱(chēng)為矩陣A的奇異值。注：與均為Hermite半正定矩陣，有相同的非零特征值，且。因此A的正奇異值的個(gè)數(shù)恰為r，且A與有相同的正奇異值。定義4.9設(shè)

，若存在m

階酉矩陣U

和

n階酉矩陣

V，使得