第五章-矩陣分解課件

本節(jié)介紹矩陣的LU分解。LU分解可用于求行列式、逆矩陣、解線性方程組等。

5.1矩陣的LU分解本節(jié)介紹矩陣的LU分解。LU分解可用于求行列式、逆矩1A左乘E，即是對A作相應(yīng)的初等行變換.若用Gauss消去法將矩陣A轉(zhuǎn)化成一個階梯形矩陣U，相應(yīng)的初等變換對應(yīng)的矩陣為，則A左乘E，即是對A作相應(yīng)的初等行變換.若用Gauss2第五章--矩陣分解課件3第五章--矩陣分解課件4定理5.1.1設(shè)A是的矩陣，則存在置換矩陣P使得

其中L是單位下三角陣，U是的階梯形矩陣。

定理5.1.1設(shè)A是的矩陣，則存在置換矩陣P使得5定義5.1.1設(shè)A是的矩陣，如果A（或A的某個排列PA）可分解為(或其中L是單位下三角陣,U是階梯形矩陣，則稱此分解為A的Doolittle分解。如果A(或PA)可分解為(或其中L是下三角矩陣，U是非零對角元為1的階梯形矩陣，則此稱分解為A的Crout分解。例5.1.3定義5.1.1設(shè)A是的矩陣，如果A（或A的某個6例5.1.4定理5.1.2設(shè)A是的正定矩陣，則存在的下三角陣L使得此分解稱為矩陣A的Cholesky分解。例5.1.4定理5.1.2設(shè)A是的正定矩陣，75.1.2LU分解的應(yīng)用

矩陣的LU分解最常應(yīng)用于求解線性方程組，首先我們作分解，然后求解方程組，求解過程分兩步進行：

5.1.2LU分解的應(yīng)用矩陣的LU分解最常應(yīng)8首先解線性方程組，可得

.

例5.1.5例5.1.6例5.1.7(2)接著計算原方程組的解，即求解方程組。

首先解線性方程組，可得例5.1.5(2)接著9有些時候，線性方程組的系數(shù)矩陣不變而右端項發(fā)生了變化，若此時已經(jīng)得到了系數(shù)矩陣LU的分解，則當(dāng)右端項發(fā)生變化時，只需求解兩個三角方程組即可（,），而不必重新進行Gauss消去，這樣就可大大節(jié)省計算量。有些時候，線性方程組的系數(shù)矩陣不變而右端項發(fā)生了變化10若是的精確解，則即是的精確解，從而達(dá)到改進解的目的。當(dāng)然很可能還存在誤差，得到的是，而不是。此時設(shè)，解線性方程組，得到，將的解改進為。若是的精確解，則即是的11如此繼續(xù)下去，可以證明，只要cond（A）不是太大，序列最終會收斂到的解，通常只需迭代幾步就可以得到很精確的解。

如此繼續(xù)下去，可以證明，只要cond（A）125.2QR分解QR分解在解決最小二乘問題，特征值的計算等方面有十分重要的應(yīng)用。5.2QR分解QR分解在解決最小二乘問題，特征135.2.1Householder變換在平面解析幾何中，將向量x映射為關(guān)于x軸對稱的向量y的變換稱為關(guān)于x軸的鏡像變換（見圖5.2.1）。設(shè)，則5.2.1Householder變換在平面解析幾何14其中,H是正交矩陣，且detH=-1其中,H是正交矩陣，且detH=-115圖（5.2.1）圖（5.2.2）圖（5.2.1）圖（5.2.2）16定義5.2.1設(shè)單位列向量，稱矩陣為Householder矩陣，稱Householder矩陣確定的線性變換為Householder變換。

定義5.2.1設(shè)單位列向量，稱為Househo17若u不是單位向量，則定義為Householder矩陣，對應(yīng)的變換稱為Householder變換。Householder變換將向量x映為關(guān)于“與u垂直的子空間”對稱的向量(見圖5.2.3)若u不是單位向量，則定義Householde18圖5.2.3圖5.2.319Householder矩陣具有如下的性質(zhì)：

(1)（H是Hermit矩陣）

(2)（H是酉矩陣）

(3)(4)（H是自逆矩陣）

(5)Householder矩陣具有如下的性質(zhì)：(1)20例5.2.1例5.2.2定理5.2.1設(shè)是單位列向量，則對中的任意向量x，都存在Householder矩陣使得，其中，且為實數(shù)。例5.2.1例5.2.2定理5.2.1設(shè)是單215.2.2矩陣的QR分解

下面我們探討如何利用Householder變換將矩陣化為上三角矩陣。我們以n=3的情形開始討論.設(shè)5.2.2矩陣的QR分解下面我們探討如何利用H22由例5.2.1知存在Householder矩陣使得其中由例5.2.1知存在Householder矩陣使得其中23此時接下來可構(gòu)造H使得其中此時接下來可構(gòu)造H使得其中24令由矩陣分塊乘法可知令由矩陣分塊乘法可知25記,則由于是酉矩陣，則和Q都是酉矩陣。

記,26定理5.2.2設(shè)，則存在酉矩陣Q及上三角矩陣R，使定理5.2.2設(shè)，則存在酉矩陣Q及上三角矩陣27例5.2.3定義5.2.2設(shè)，如果存在n階酉矩陣Q和n階上三角矩陣R，使得,則稱此分解為A的QR分解(或酉三角分解)。當(dāng)時稱為A的正交三角分解。

例5.2.3定義5.2.2設(shè)，如果存在n階酉28例5.2.4定理5.2.3設(shè)，則存在酉矩陣使得，其中是階梯型矩陣。例5.2.4定理5.2.3設(shè)，則存在酉矩295.2.3QR分解的應(yīng)用QR分解可用于求解線性方程組的最小二乘解.5.2.3QR分解的應(yīng)用QR分解可用于求解線性30例如要求，使得方程組

例如要求，使得方程組315.3.1奇異值分解5.3奇異值分解設(shè)A是的非奇異矩陣，由于是Hermite矩陣，則由Schur分解定理知存在酉矩陣，使得，其中是的特征值。

5.3.1奇異值分解5.3奇異值分解設(shè)A是32第五章--矩陣分解課件33由上述分析可知AV的各列是相互正交的，且

令由上述分析可知AV的各列是相互正交的，令34則因此U是酉矩陣。

則因此U是酉矩陣。35由于其中，于是有

由于其中，于是有36則稱為A的奇異值。定義5.3.1設(shè)A是的矩陣，的特征值為則稱為A的奇異值。定義5.3.137定理5.3.1設(shè)A是的矩陣，rank(A)=r,則（1）存在酉矩陣,使得其中是A的全部非零奇異值。

定理5.3.1設(shè)A是的矩陣，rank(A)=r,（38例5.3.1例5.3.2其中例5.3.1例5.3.2其中39(2)（若A可逆）；定理5.3.2設(shè)A是的矩陣，其奇異值分解為，則(1)（最大的奇異值）；

(3)。

(2)（若A可逆）；定理5.405.3.2奇異值分解的應(yīng)用(1)計算線性方程組的最小二乘解設(shè)A是矩陣，b是n維列向量，考慮如下線性方程組

5.3.2奇異值分解的應(yīng)用(1)計算線性方程組的最小二乘41在很多情形下，上述方程組沒有解，因此，我們計算其最小二乘解，即求x使得最小。在很多情形下，上述方程組沒有解，因此，我們計算其最小42其中U,V是酉矩陣。可以證明2-范數(shù)具有酉不變性，因此

設(shè)的奇異值分解為，其中U,V是酉矩陣。可以證明2-范數(shù)具設(shè)的奇異值43由此可知的最小二乘解即是

的最小二乘解。

由此可知的最小二乘解即是的最小二乘解。44令則令則45即即46要使上述方程組的左右兩端盡可能相等，只需令

要使上述方程組的左右兩端盡可能相等，只需令47即可（其實可以是任意數(shù)，它們是自由變量）。那么

是線性方程組的最小二乘解。

即可（其實可以是任意數(shù)，是線性方程48(2)計算矩陣的值空間和零空間

設(shè)A是的矩陣，A的奇異值分解為

(2)計算矩陣的值空間和零空間設(shè)A是的矩49由于由于50其中r是矩陣A的秩，從而

其中r是矩陣A的秩，從而51因此例5.3.4因此例5.3.452(3)數(shù)字圖像逼近

設(shè)A的奇異值分解為，則A可表示為

與A相距最近的秩為k的矩陣就是將上式截斷取前k項需k(m+n+1)個存儲單元(3)數(shù)字圖像逼近設(shè)A的奇異值分解為53因此我們可以合理地選擇k，使得盡量接近于A，同時存儲量又相對較小，便于儲存和傳輸。因此我們可以合理地選擇k，使得盡量接近于A，同時存儲量54圖5.3.2展示了截取不同前k項的逼近效果。原始照片的灰度矩陣是一個320*240的矩陣，從圖中可看出取k=50的逼近效果就已經(jīng)很好了。它需要的存儲單元是50*(320+240+1)，大大減少了存儲量。圖5.3.2展示了截取不同前k項的逼近效果。原始照片的灰度矩55（a）原始照片（320×240）(b)rank10逼近（a）原始照片（320×240）(b)rank10逼56（c）rank30逼近(d)rank50逼近（c）rank30逼近(d)rank50逼近575.4矩陣的滿秩分解定義5.4.1設(shè)A是的矩陣，rank(A)=r>0,如果存在的列滿秩矩陣F及的行滿秩矩陣G使得

則稱此分解為矩陣A的滿秩分解。

5.4矩陣的滿秩分解定義5.4.1設(shè)A是58例5.4.1定理5.4.1任意的矩陣A都有滿秩分解。

例5.4.1定理5.4.1任意的矩陣A59(1)H的前r行中每一行至少含有一個非零元素，且每行第一個非零元素是1，而后m-r行元素均為0；

定義5.4.2設(shè)H是的矩陣，Rank(H)=r，滿足

(1)H的前r行中每一行至少含有一個非零元素，且每行第一個60則稱H為A的Hermite標(biāo)準(zhǔn)形。

(