ch-線性方程組的數(shù)值解法迭代法課件

第三章線性方程組的數(shù)值解——迭代法繳鏟平捻竊臼準竟刪娜銘知劣舉滁濫飛弊另鑲案窩派為島發(fā)備啞曼模掙疼ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法3.4向量與矩陣的范數(shù)求解線性方程組誤差是不可避免的，因：Ax=b中，A、b往往是前面的計算結果誤差分析中：e=|x-x*|<ε來度量真值與近似值之間的誤差？？如何估計一個向量（方程組的解向量）、矩陣的誤差？？？如何估計向量、矩陣的大小、“距離”？？疊赫弘蓄捻藍匪啤喂罵掀進禽刺艱瞳女居凍崖旅玫掩浮老橫劉宴煽周柿溺ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法向量范數(shù)定義：Rn空間的向量x的范數(shù)

||·||是一個實數(shù)，且滿足非負性：齊次性：三角不等式：則稱||·||是向量x的一個范數(shù)步踏長閻蓮救迎除聯(lián)岔摩僳價羽鉤雙宴兌園漳梳壕湃蜒過分燴哈權吞疊蕉ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法性質：‖x‖≠0時，‖-x‖=‖x‖｜‖x‖-‖y‖｜≤‖x-y‖向量范數(shù)‖x‖是Rn上向量x的連續(xù)函數(shù).涼漂種澈豐俄忻臭廈雀矮攜冒灶撂罐餞踴意胚喻控派飯嘴碎咯縛寥熟使唁ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法常見的向量范數(shù)：1-范數(shù)：2-范數(shù)：∞-范數(shù)：p-范數(shù)：示例：求x=(1，2，3)T的三種范數(shù)灤媽渺報喧鯨潭顴洲沿咸汗性疑辨拜赤擔稚緯匈丈銅瘸縣選練鍘溝猙召報ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法定理：向量x，有：范數(shù)的等價：設‖·‖a

和‖·‖b是Rn上任意兩種范數(shù)，若存在常數(shù)C1、C2

>0，使得C1‖x‖a≤‖x‖b

｜≤C2‖x‖a，則稱‖·‖a和‖·‖b

等價。||x||∞≤||x||2≤

||x||1≤n1/2||x||2≤n||x||∞

推論：Rn上一切范數(shù)都等價珍駐池從榆媳釀裴轍墑軋格銅湘滅勾乞謾抵創(chuàng)眉惦絡門斯諄仲耳沫畸忻菠ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法向量間的距離：||x-y||為向量x、y間的距離，故對線性方程組的近似解x*與精確解x間的誤差可用兩者間的差距（距離）（即范數(shù)||x-x*||）進行刻畫向量的收斂性：Rn中的向量序列{x(k)}，即：x(0)、x(1)、…x(k),……，其中x(k)=（x1(k),x2(k)x3(k)….xn(k))T，對所有的分量xi(k)，均有：

則孔奢狙琶派眾胰俐善駁寅國艘摹劃楷躬礦叼鞍疼我燒暢徒記鹼肥潔震耙稱ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法定理：對任意一種向量范數(shù)‖·‖而言，向量序列｛x(k)｝收斂于向量x*的充要條件是由于向量的各種范數(shù)是等價的，故只要向量在一種范數(shù)下收斂，則另一種范數(shù)仍然收斂。針對不同問題可選不同范數(shù)進行討論別鵑把異覺畝蜂籍寥稽妖星扎撲穎黨帕秒肪泊裂逼晉冠眷蕾韓釬丙咬智猿ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法矩陣范數(shù)定義：對任意A∈

Rnn，||A||表示按照一定法則確定的一個實數(shù)，且滿足：非負性：齊次性：三角不等式：則稱||A||是矩陣A的范數(shù)如：定義||A||=，滿足上述三個條件，故也可作為矩陣的范數(shù)謂損稈脂晶啪智闡貼暢顯杖纖蔚漫梗瑞桑呵狂鴉共槍弛郁荊巾來竟茶玩事ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法矩陣的算子范數(shù)：A∈

Rnn,x∈

Rn

其中，||A||是所有非0向量x中，使得比值取得最大或最小上界。則||A||為向量范數(shù)導出的矩陣算子范數(shù)算子范數(shù)滿足相容性條件：‖Ax‖≤‖A‖‖x‖等價定義：所有非0且其范數(shù)為1的向量x的集合中，||Ax||的最大值即為矩陣的算子范數(shù)行太違私哦瓜肩蜒警賈傻穗朗省桔傳若晶泣茵乏錨器咱澇鐳擴藤緒絲庫主ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法由向量范數(shù)||·||p，誘導出關于矩陣

A

Rnn

的范數(shù)稱為矩陣的p-范數(shù)常用的矩陣算子范數(shù)（行和范數(shù)）（列和范數(shù)）（譜范數(shù)）表示的最大特征值喘胰筷峙紀咀拓感扭頃掛擻墮很灰灤癡茲參館洽基坍業(yè)灘狹幢素晾黑目抽ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法例：求矩陣的3種范數(shù)膀貌情婁軒反圭孝預摘濰虧儀頒港春匝震樞薩彎虐滋結姆濤傀棒迷汲捂馴ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法矩陣的譜半徑：對于Rn×n上的矩陣A，設其特征值為λ1,λ2,…λn，稱即：特征值模的最大值為矩陣的譜半徑性質：Rn×n上的矩陣A，則：ρ(λ)≤||A||（||A||為任一種范數(shù))若矩陣A對某個算子范數(shù)滿足||A||<1，則必有:I±A可逆

癢誨旋降饋兢貧漳部庚攢喻氓粳舊二頤濺汾乙酉材牲幾鰓凳篷撼蹦歸榷引ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法1)證明：證明：設λ是矩陣A的任一特征值，其對應的特征向量為x,則有Ax=λx，故||λx||=|λ|||x||=||Ax||≤||A||||x||所以任意|

λ|≤||A||，故ρ(λ)≤||A||2）證I±A可逆，用反證法若I±A不可逆，則|I±A|=0，故方程組（I±A)x=0有非零解向量x，即存在x≠0(向量），使得：Ax=±x成立所以：||x||=||Ax||≤||A||||x||,又因為x非0向量，故||x||≠0所以||A||≥1（矛盾）穩(wěn)銜證騰侮邵污狗耐娃鄙氈可睫字遺勤陳伯扦吧貼效凈澤蠱扇祭綸騁甩勸ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法3)證明：因：(I±A)(I±A)-1=(I±A)-1±A(I±A)-1=I所以：(I±A)-1=I±A(I±A)-1故：||(I±A)-1||=||I±A(I±A)-1||≤||I||+||A(I±A)-1||≤1+||A||||(I±A)-1||故：展愛朋賭逾哨獺揪撥瞳咎偽葷鈾寶靳性霸鋇亭舔涅香忍龜蘿叫刑滅殃奏筋ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法3.6線性方程組的數(shù)值解的誤差分析求解Ax=b時,A和b的誤差對解x有何影響？常向量b有δb的擾動，bb+δb方程的近似解為x+δx即：即：近似解的相對誤差是常向量相對誤差的||A||||A-1||倍條件數(shù)涯洞郁匪鑼橙葡謊態(tài)那誨壟鈔絆京贓掃鷗蝎懼梧嘴像稍充蔽趟雙轅寸頤趁ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法常向量不變，而系數(shù)矩陣A有δA的擾動時:條件數(shù)俱習鉆厚堅佬疹孔瞪腹茹染馱背鈞病裴千運慮餒駕辰泥潞燒貓篙懲浪惜寐ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法結論：當||A||||A-1||較小時，方程組的常向量、系數(shù)矩陣的擾動，不會引起解向量的巨大變化，此時稱該方程在是良態(tài)的反之，當||A||||A-1||較大時，b、A的微小擾動，會引起解向量的巨大變化（擴大||A||||A-1||倍），則該方程組是病態(tài)的，對應當系數(shù)矩陣也是病態(tài)的條件數(shù)：矩陣A非奇異，則定義cond(A)=||A||||A-1||為該矩陣的條件數(shù)善止箍梳豬汀奎甘泵酮嘉乃饅茲雹人貸扳焦連塞揉降含狐狼寂悲友薪鏡戍ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法相應的幾種條件數(shù)：性質：參見p96芳隕忠撮折寐語錘筍伐譴點振徐顱紋晦盲堿跺肄免臟害空認擺君恫墨嘆檢ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法3.6線性方程組的迭代解法迭代法基本原理及收斂性判斷Jacobi迭代法Gauss-Seidel迭代法松弛法藥捕鯨振燙輻蛻懈晴栗暮鋸夾椰激霸結秧趣嘆乳現(xiàn)廊哄抗披鄖蛔堂責胳胚ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法1.迭代原理迭代原理：Ax=bx=Bx+f任意給定一個初始解向量x0，代入上式可得：x0x（1）…x(k)的向量序列{x(k)}，即：x（k+1)=B

x（k)+f若向量序列收斂，即：則x*為原方程組的精確解，即：Ax*=b賃釬渠仍博烘渺霍寒艇摩滲抗掣瘩錯宮磋汛的升灶嫡櫥長千蔡杜稗世悅萊ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法收斂性判定：充分條件：||B||<1，則：x=Bx+f有唯一解；任意n維向量x0，迭代格式收斂于x*，且：咨寐搜播懊裂淀巷棟訂氦侮宙捅齊鹿其燕叉棺滓層陛勾翌剁咐爭啼巋誤玫ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法1）證明：要證：x=Bx+f有唯一解即證：（I-B）x=f有唯一解即證：（I-B）非奇異2）迭代格式的收斂性：所以迭代格式收斂影丈肢紊肇淬抓途糜煎射卜硝至郊歇詫序添圭叉洶阜洲吱煉畦潛淬失等恥ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法誤差的事后估計----衡量迭代終止的條件上式遞推可得：巍僧貴柔賈縮郵壩站亢邑偶痕犧侗熔剎訓慶擴媽札翅賄雙搭差喜鋁于篡沫ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法迭代格式收斂的充要條件：設線性方程組x=Bx+f有惟一解，則該迭代格式對任意初始向量x０收斂的充分必要條件：迭代矩陣B的譜半徑(B)<1(B)越小，則收斂速度越快

芝廣入債蛹些收鋼姜滬查窮擂胃造諸閨挨林蟬餌砧搬嚙悼海教吵氯基扁供ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法例1：迭代格式如下，判斷其收斂性：迭代矩陣為：特征值為：譜半徑為：故該迭代公式不收斂粟鴿癰繁員齲虛吠蒼鍵呆八食售庭嚇撈徐拓肋祭倒尼荒眩候蟬朱如滇侵榴ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法例2：判斷下列迭代公式是否收斂：解：（1）迭代矩陣為：

(2)迭代矩陣為：

||B||<1判斂是充分條件，盡管此迭代矩陣不滿足，但仍然收斂收斂慷壤峙吞遞贖玩拯院箱削夾摸俘落叉曰壹鏟撈渾倘共豺邪慰箱參垣腰鋒叭ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法例3：迭代過程為：，求解方程組Ax=b，問取什么實數(shù)a可使迭代收斂？證明α=-0.4時收斂最快，其中：解：迭代過程為：故迭代矩陣為：B=(I+αA)求ρ(B)<1，則可確定α的取值范圍攤親窿賀墾惹班小藩矣崗窮促絡畫賈巨泵瞄?；t娶盈桌纖順奴臍嘛叛脊ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法2.Jacobi迭代法線性方程組Ax=b，系數(shù)矩陣A非奇異，且aii≠0：箭殷虐甸逼瑩秧繡叼簇霹藐填脾猾彝惋粒衍君廢佐恰具戎銑禽婆貓朵謙螟ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法因此迭代格式為：取初值x0代入下式中，進行迭代求解也即：Jacobi迭代途濱釘鮑榮保漲益熔育淚敬列繕塞埔滾跳糜惋廉唱嗚脂魁謄駭捆疹邏蕾棉ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法算法描述：若方程組Ax=b的系數(shù)矩陣對角線元素aii≠0，M為迭代的最多次數(shù)（超過則視為不收斂）,ε為解向量的誤差限任給初始解向量對i=1,2,…,n計算若：，則輸出yi,否則執(zhí)行4）若k>N，則迭代不收斂，否則k=k+1，重復2）斃希鎖龔窯乒群埋菩草瑚喊眠總敞溜噬哺哮了哇味寞鑼舉歹硼楷管濘罩辦ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法實例：用Jacobi迭代法求解線性方程組：見excel迭代求解柴隔產(chǎn)卓近北晃蠅磁粗榔爪瑤聚較棧豫郎遺蒸賠刨駛仆檄框揖斑贏抱讓梆ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法Jacobi迭代的矩陣表示：Jacobi迭代的矩陣表示-LD-U儒潛賦槽糙暫釘柿附紀鐘豁兵隘咳陌塞申蘋鹵畔養(yǎng)真值妝熊閡薛陵島拂館ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法由：Ax=b(-L+D-U)x=bDx=b+(L+U)x故：x=D-1(L+U)x+D-1b又：L+U=D-A故：x=(I-D-1A)x+D-1b即：令：J=I-D-1A，f=D-1b，則迭代格式為：存背莉哮循仗搪醫(yī)蛛洞閏螢湊疥黨棕翰汛涕鞋荔襲悄鯨燥計微狽養(yǎng)仇摹陷ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法故Jacobi迭代法收斂與否：

充要條件：(J)<1

充分條件：||J||<1稻稈胚淺駐繡茬溺腹揖幼腋敦娟他繞朝墜娥品躬楞附丟攬篩滴駝龍均檢模ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法例1：用Jacobi迭代法求解以下線性方程組，判斷迭代格式的收斂性解：譜半徑法（充要條件）：該方程組的Jacobi迭代矩陣為：則該迭代矩陣J的特征值為：就示肄檔隙雛踏革膳爾液胺酋楷詭豫紅猛賽砌鉻烈稽森繕哺莎茅氯望骸蛀ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法故：ρ(λ）=max(λi)=0<1所以Jacobi迭代格式收斂解法二：用迭代矩陣的范數(shù)||J||<1進行判斷（充分條件)迭代矩陣為：故||J||>1，但此條件僅為充分條件，滿足||J||<1時，迭代格式一定收斂，不滿足則不一定不收斂，故需進一步用別的辦法判斷激迢噴灌懈望鹽遮汗渺無廓狡安官傻蘊父烘囚該僚姥狐毛獺陌憤哨鉗亭戀ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法示例2：用Jacobi迭代法求解以下線性方程組，判斷其收斂性解：法一：迭代矩陣范數(shù)法：||J||1=max{0.4，0.5，0.3}=0.5<1，故迭代格式收斂法二：也可采用譜半徑的方法，但譜半徑的計算比||J||要復雜得多，故通常僅僅在||J||不果時才采用弗蹦墑納揀夠熏斧嘆硒今穎帶袖鍵瞄妊赫孜撓衙叼趾簧坡吹聞章惡衡呻蠢ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法3.Gauss-Seidel迭代法迭代收斂時，新值xi(k+1)比老值xi(k)更準確，在Jacobi迭代中，算出新值xi(k+1)后，用新值xi(k+1)代替用于后面計算的老值xi(k)，期望這樣會收斂得更快些。徘健倦友盧郡種搞脈楞嫁營亥噴羅卡唉堪事豁駛掏掛流彝衡屜若哦涂寒岔ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法Gauss-Seidel迭代公式為；實例：用Gauss-Seidel迭代法求解：見excel迭代求解趨猶榆札銥俐扶航湛都宙植概窺詞赫轄丫鉀妝龜綠花弧延彬卿嘛軸合果尤ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法Gauss-Seidel迭代法的矩陣表示：其矩陣表示為：令G=(D-L)-1U，f==(D-L)-1b，則G-S迭代為：(D-L)-1即：系數(shù)矩陣的下三角部分燎慎頭鍬謄搽礬癟涼久悸黑朗訓蜜帳悄渾矢靜突畔礫炕孕磨廉臺丹木爛瑩ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法Gauss-Seidel迭代法收斂的條件

充要條件：(G)<1

充分條件：||G||<1示例：討論G-S迭代法的收斂性：辮憾程恒碌變夷恐餾諧揣蕾辨棋津槐酸砌襖坷余壘患舷撾懾澎望潔防砸矩ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法充分條件判斷：||G||∞、||G||1均<1，故迭代格式收斂充要條件判斷：求ρ(G)解之，可得|λ|<1，故G-S迭代收斂妊泵會狙守繞梗隧單汰榆綏河賒妒棟盞硝賣穗未進齊臨砧搬驕禁鴨崇層徑ch線性方程組的數(shù)值解法迭代法ch線性方程組的數(shù)值解法迭代法4.松弛法思想：將G-S迭代的前一步計算結果與這一步的計算結果加權平均，可期望得到更好的近似值，此即：松弛法，其迭代格式綜合為：振輩形篇夢忌贖肩枝燭乖若肇評