第5章線性方程組的直接法(向量和矩陣)

1、科學(xué)和工程計(jì)算科學(xué)和工程計(jì)算第5章 解線性方程組的直接方法向量和矩陣的范數(shù)向量和矩陣的范數(shù)向量和矩陣的范數(shù)一、向量范數(shù),nxRxx設(shè)對(duì)任意向量按一定的規(guī)則有一實(shí)數(shù)與之對(duì)應(yīng) 記為若滿(mǎn)足 1, 0 , 00; ()xx x 且當(dāng)且僅當(dāng)正定 2, , ()x x 為任意實(shí)數(shù)齊次3, , ()nxy xy , x yR 對(duì)任意三角不等式 xx則稱(chēng)為 向量 的范數(shù)TnnnxxxxCR),(,)(21設(shè)中在向量空間的范數(shù)有常用的向量 x2212nxxx2122221)(nxxx范數(shù)或歐氏范數(shù)的 2x1i11 nnixxxx范數(shù)的1x1i1max,maxni nxxxx 范數(shù)或最大范數(shù)的x可驗(yàn)證上面范數(shù)均滿(mǎn)

2、足范數(shù)定義的條件。-:以范數(shù)為例1,2滿(mǎn)足條件顯然。,(1, )niix yRx y in 由于為向量，而其分量為實(shí)數(shù)，故有1maxiii nxyxy 1maxiii nxy 11 maxmaxiii ni nxyxy pxppnppxxx121)(1,ppx范數(shù)的2x和1x顯然顯然時(shí)的特例和在是21ppxp (1, 2,3)Tx 例：計(jì)算向量的各種范數(shù)。12 6,3,14.xxx解：1121)( ,)pppTpnnppXXXXXxxpXX 記（其中試證：當(dāng)時(shí)，inix1maxppnppxxx121)(ppinixn11)max(inipxn11max)(max1pxinix所以的特例也是px

3、12xxx且,0, nRm Mnxm xxM x如果中兩個(gè)范數(shù)和，存在實(shí)數(shù)，使得對(duì)任意 維向量都有 ， 則稱(chēng)這兩個(gè)范數(shù)是等價(jià)的。對(duì)兩個(gè)等價(jià)范數(shù)而言，同一向量序列有相同的極限。 12不難證明， 范數(shù)，范數(shù)和 范數(shù)是等價(jià)的。22212211 max.max.ini njii nxxxxxxxxx 例： 設(shè)22212222 njxxxxxxnnxxxn則 2范數(shù)和 范數(shù)等價(jià)。 如不作說(shuō)明，今后是指任意一種向量范數(shù)。二、矩陣的范數(shù)二、矩陣的范數(shù)nAAA定義：對(duì)任意 階方陣 ，按一定的規(guī)則由一實(shí)數(shù)與之對(duì)應(yīng)，記為。若滿(mǎn)足1, 0 , 00; ()AA A 且當(dāng)且僅當(dāng)正定 2, , ()A A 為任意實(shí)數(shù)齊

4、次 3, , ()AB AB , A Bn 對(duì)任意兩個(gè) 階方陣三角4 ABAB，（相容性條件）AA則稱(chēng)為矩陣 的范數(shù)。nAnR定理：設(shè) 為 階方陣， 是中的向量范數(shù)，則maxxAxAx 是一種矩陣范數(shù)，稱(chēng)其為由向量范數(shù)誘導(dǎo)出的矩陣范數(shù)。()ijAanxn證：設(shè)為任意 階方陣， 為任意 維非零向量。 AxxAxx因?yàn)?xx為范數(shù)是 的單位向量，故1 maxmaxxxAxAAxx1 10.0,max0.xAAAAx，顯然若則00 0.AAxAxA反之，若1112 maxmax max.xxxAAxAxAxA ，111113, max ()max max()maxmax .xxxxxnABABAB

5、xAxBxAxBxAxBxAB對(duì)任意兩個(gè) 階方陣 和 ，11114 . max ()max() maxmax xxxxnxAxAAxA xxABAB xA BxA BxA B xA B，對(duì)任意 維非零向量 ,有 即 故有5 nxAxA x，對(duì)任意 維向量 ，都有。這一性質(zhì)稱(chēng)為矩陣范數(shù)與向量范數(shù)的相容性?？捎扇N常用的向量范數(shù)誘導(dǎo)出矩陣范數(shù)。矩陣范數(shù)例矩陣范數(shù)例 與前述三種向量范數(shù)相容的三種矩陣范數(shù)：與前述三種向量范數(shù)相容的三種矩陣范數(shù)：211221max , ()TxijAAxA AAan其中是的最大特征值。又稱(chēng)為譜范數(shù)。 設(shè)為 階方陣。111111maxmax , 1nijxj niAAxa

6、 為矩陣的列向量的 范數(shù)的最大值稱(chēng)為矩陣的列范數(shù)。111maxmax , 1nijxi njAAxa 為矩陣的行向量的 范數(shù)的最大值稱(chēng)為矩陣的行范數(shù)。求矩陣求矩陣A A的各種常用范數(shù)的各種常用范數(shù)110121021A解解: :1Aniijnja11max25234252 ,5 ,2max1njAnjijnia11max42 ,4 ,3max1ni2A)(maxAAT由于的特征值因此先求AATAAT110121021110122011211190102特征方程為)det(AAIT2010911120的特征值為可得AAT9361. 0,9211. 2,1428. 93211428. 9)(maxA

7、AT2A)(maxAAT0237. 31AA2A容易計(jì)算計(jì)算較復(fù)雜對(duì)矩陣元素的變化比較敏感使用最廣泛性質(zhì)較好矩陣A的譜半徑1 (1,2, ) ( ) maxn niii nARinAA 定義：設(shè)的特征值為稱(chēng)為 的譜半徑。ReIm (A) ( ) , A AAA定理：為的任意矩陣范數(shù)( , ( )AxxxAxAxxAxAAA誤差分析誤差分析一個(gè)實(shí)際問(wèn)題化為數(shù)學(xué)問(wèn)題，初始數(shù)據(jù)往往會(huì)有誤差，即有擾動(dòng)，從而使計(jì)算結(jié)果產(chǎn)生誤差。12112222.1.0000120 xxxxxx例：方程組12112221.1.000012.000011xxxxxx而方程組5 10 ,比較這兩個(gè)方程組可以看出，他們只是右端

8、項(xiàng)有微小的差1別，最大相對(duì)誤差為但它們的解卻大不相同，解分量21的相對(duì)誤差至少為 。2 AbAxbA定義： 如果矩陣 或常數(shù)項(xiàng) 的微小變化，引起方程組解的巨大變化，則稱(chēng)此方程組為“病態(tài)”方程組，矩陣 稱(chēng)為“病態(tài)”矩陣（相對(duì)于方程組而言）。A否則稱(chēng)方程組為“良態(tài)”方程組， 稱(chēng)為“良態(tài)”矩陣。矩陣的“病態(tài)”性質(zhì)是矩陣本身的特性。Axb為了定量刻劃方程組的“病態(tài)”程度，下面對(duì)方程組就系數(shù)矩陣或右端項(xiàng)分別有擾動(dòng)的兩種情形進(jìn)行討論。右端項(xiàng)右端項(xiàng)b b的擾動(dòng)對(duì)解的影響的擾動(dòng)對(duì)解的影響, ()bxxbbxA xb設(shè) 有擾動(dòng) ，相應(yīng)解 的擾動(dòng)記為即1 xbxbAxbAA由，11 xbbAA兩邊取范數(shù) Axbx

9、AA又因?yàn)?1bbxAA AbxbA1,A A此式表明當(dāng)右端項(xiàng)有擾動(dòng)時(shí) 解的相對(duì)誤差不超過(guò)右端項(xiàng)的相對(duì)誤差的倍。相對(duì)誤差放大因子相對(duì)誤差放大因子系數(shù)矩陣系數(shù)矩陣A A的擾動(dòng)對(duì)解的影響的擾動(dòng)對(duì)解的影響,AxAx如果右端項(xiàng)無(wú)擾動(dòng)，系數(shù)矩陣 有擾動(dòng)，相應(yīng)的解的擾動(dòng)仍記為則 ()()()0AxxAxAxbAx11()()xAxAxAxAx11,AAA如果充分小，使得則由上式得1111 11AAxAAA AAAxAA AA11A AA A上式表明，當(dāng)系數(shù)矩陣有擾動(dòng)時(shí)，解的擾動(dòng)仍與有關(guān)。一般地，越大，解的擾動(dòng)也越大。-1 ,AA綜上分析可知 量實(shí)際上刻劃了解對(duì)原始數(shù)據(jù)變化的靈敏程度 即刻劃了方程組的“病態(tài)

10、”程度。1( )(1,2vvvAcond AAAvA定義：設(shè) 為非奇異陣，稱(chēng)數(shù)或）為矩陣 的條件數(shù)。常用的條件數(shù)，有-1 (1) ( )cond AAA1max222min(2) A() ( )()TTA Acond AAAA A的譜條件數(shù)121 ( ),nnAcond AA當(dāng) 為對(duì)稱(chēng)矩陣時(shí)，其中 ，為 的絕對(duì)值最大和絕對(duì)值最小的特征值。條件數(shù)的性質(zhì)條件數(shù)的性質(zhì)1( )1.vAcond A、對(duì)任何非奇異矩陣 ，都有11 ( )1.vvvvcond AAAA AI由定義20 ()( )vvAccond cAcond A、設(shè) 為非奇異矩陣且（常數(shù)），則22223( )1 ()()( ) .Acon

11、d AARcond RAcond ARcond A、如果 為正交矩陣，則 ；如果 為非奇異矩陣， 為正交矩陣,則精確解精確解為為.11 x例例 97.199.1,98.099.099.01bA計(jì)算計(jì)算cond (A)2 。 10000990099009800A 1 = 解：解：考察考察 A 的特征根的特征根 0)det(AI 000050504. 0980050504. 121 212)( Acond 39206 1 測(cè)試病態(tài)程度：測(cè)試病態(tài)程度：給一個(gè)擾動(dòng)給一個(gè)擾動(dòng)b 3410106.01097.0b ，其相對(duì)誤差為，其相對(duì)誤差為%01.010513.0|422 bb 此時(shí)此時(shí)精確解精確解為為

12、 0203. 13*x 0203.22*xxx 22|xx 2.0102 200%3 1112111 231111121nHilbertnHnnnnH例：矩陣計(jì)算的條件數(shù)。133331333661112393630111 ,3619218023430180180111345(1)() .11()408748.6()2.9 10 .nHHHcond Hcond HHHcond HHn 解：計(jì)算條件數(shù) 同樣可計(jì)算一般矩陣當(dāng) 越大時(shí)，病態(tài)越嚴(yán)重。例：例：Hilbert 陣陣 12111131211211nnnnnHcond (H2) = 27cond (H3) 748cond (H6) =2.9 1

13、06cond (Hn) as n 注：注：一般判斷矩陣是否病態(tài)，并不計(jì)算一般判斷矩陣是否病態(tài)，并不計(jì)算A 1，而由經(jīng)驗(yàn)，而由經(jīng)驗(yàn)得出。得出。 行列式很大或很?。ㄈ缒承┬?、列近似相關(guān)）；行列式很大或很?。ㄈ缒承┬?、列近似相關(guān)）； 元素間相差大數(shù)量級(jí)，且無(wú)規(guī)則；元素間相差大數(shù)量級(jí)，且無(wú)規(guī)則； 主元消去過(guò)程中出現(xiàn)小主元；主元消去過(guò)程中出現(xiàn)小主元； 特征值相差大數(shù)量級(jí)。特征值相差大數(shù)量級(jí)。 近似解的誤差估計(jì)及改善：近似解的誤差估計(jì)及改善：設(shè)設(shè) 的近似解為的近似解為 ，則一般有，則一般有bxA *x0* xAbr|*|brxxx cond (A)誤差上限誤差上限 改善方法：改善方法：Step 1:近似解近似解 bxA;1xStep