數(shù)值分析07線性代數(shù)方程組的直接法課件

第七章線性方程組的直接解法(DirectMethodforSolvingLinearSystems)第七章線性方程組AX=b（3.1）

AX=b（3.1）線性方程組數(shù)值解法的分類直接法（適用于中等規(guī)模的n階線性方程組）

◆

Gauss消去法及其變形

◆矩陣的三角分解法迭代法（適用于高階線性方程組）

◆Jacobi迭代法

◆

Gauss-Seidel迭代法

◆逐次超松弛法

◆共軛斜量法線性方程組數(shù)值解法的分類直接法（適用于中等規(guī)模的n階線性方§1高斯消去法(GaussianElimination)1．三角形方程組的解法---回代法（3.2）（3.3）

§1高斯消去法(GaussianElimination2．順序高斯消去法思路首先將A化為上三角陣(upper-triangularmatrix)，此過程稱為消去過程，再求解如下形狀的方程組，此過程稱為回代求解

(backwardsubstitution)。=AX=b2．順序高斯消去法思路首先將A化為上三角陣(upper-將增廣矩陣的第i行+li1

第1行，得到：消元過程：第一步：設，計算因子其中A(1)X=b(1)A(2)X=b(2)將增廣矩陣的第i行+li1第1行，得到：消元第k步：設，計算因子將增廣矩陣的第i行+lik

第k行，得到：其中第k步：設，計算因子將增廣矩陣的第i行+回代過程：共進行n

1步，得到回代過程：共進行n1步，得到運算量

（AmountofComputation）（1）用克萊姆（Cramer）法則求解n階線性方程組

每個行列式由n!項相加，而每項包含了n個因子相乘，乘法運算次數(shù)為(n-1)n!次.僅考慮乘(除)法運算,計算解向量包括計算n+1個行列式和n次除法運算,乘(除)法運算次數(shù)N=(n+1)(n-1)n!+n.當n=8時,N＝200，0000運算量（AmountofComputation）（（2）

高斯消去法:

第1個消去步，計算li1(i=2,3，…，n)，有n-1次除法運算.使aij(1)變?yōu)閍ij(2)

以及使bi(1)變?yōu)閎i(2)有n(n-1)次乘法運算.

第k個消去步，有n-k次除法運算、(n-k+1)(n-k)次乘法運算.乘法運算總次數(shù)為：

除法運算總次數(shù)為:(n-1)+…+1=n(n-1)/2（2）高斯消去法:

第1個消去步，計算li1(i=2,回代過程的計算除法運算次數(shù)為n次.乘法運算的總次數(shù)為n+(n-1)+…+1=n(n-1)/2次Gauss消去法除法運算次數(shù)為:n(n-1)/2+n=n(n+1)/2，乘法運算次數(shù)為:n(n-1)(n+1)/3+n(n-1)/2=n(n-1)(2n+5)/6，

通常也說Gauss消去法的運算次數(shù)與n3同階，記為O(n3)回代過程的計算除法運算次數(shù)為n次.乘法運算的總次數(shù)為Ga順序Gauss消去法可執(zhí)行的前提定理1

給定線性方程組，如果n階方陣的所有順序主子式都不為零，即則按順序Gauss消去法所形成的各主元素均不為零，從而Gauss

消去法可順利執(zhí)行。注：當線性方程組的系數(shù)矩陣為對稱正定或嚴格對角占優(yōu)陣時，按Gauss消去法計算是穩(wěn)定的。順序Gauss消去法可執(zhí)行的前提定理1給定線性方程組IllustrationIllustration3、列主元（Columnpivotelement）Gauss消去法：1、輸入矩陣階數(shù)n，增廣矩陣

A(n,n+1);2、對于(1)按列選主元：選取l

使

(2)如果，交換A(n,n+1)

的第k行與第l

行元素(3)

消元計算：3、回代計算3、列主元（Columnpivotelement）G4．無回代過程的主元消去法算法：第一步：選主元，在第一列中選絕對值最大的元素，設第k行為主元行，將主元行換至第一行，將第一個方程中x1的系數(shù)變?yōu)?，并從其余n–1個方程中消去x1。第二步：在第二列后n–1個元素中選主元，將第二個方程中x2的系數(shù)變?yōu)?，并從其它n–1個方程中消去x2。第k步：在第k列后n–k個元素中選主元，換行，將第k個方程xk的系數(shù)變?yōu)?，從其它n-1個方程中消去變量xk，…………4．無回代過程的主元消去法算法：第一步：選主元，在第一列中選消元公式為：對k=1,2,…,

按上述步驟進行到第n步后，方程組變?yōu)椋杭礊樗蟮慕庀綖椋簩=1,2,…,按上述步驟進行到第n注：無回代的Gauss消元法實際上就是將方程組的系數(shù)矩陣化為行最簡形矩陣。注：無回代的Gauss消元法實際上就是將方程組的系數(shù)矩陣化5．無回代消去法的應用（1）解線性方程組系設要解的線性方程組系為：AX=b1,AX=b2,…AX=bm上述方程組系可以寫為AX=B=(b1,…,bm)5．無回代消去法的應用（1）解線性方程組系設要解的線性方程組因此

X=A-1B即為線性方程組系的解。

在計算機上只需要增加幾組右端常數(shù)項的存貯單元，其結(jié)構(gòu)和解一個方程組時一樣。行系數(shù)右端因此 X=A-1B即為線性方程組系的解。（2）求逆矩陣設A=(aij)nn是非奇矩陣，A

0，且令由于

AA-1=AX=I因此，求A-1的問題相當于解下列線性方程組相當于（1）中m=n,

B=I的情形。

（2）求逆矩陣設A=(aij)nn是非奇矩陣，A（3）求行列式的值用高斯消去法將

A化成（3）求行列式的值用高斯消去法將A化成§2.求解三對角方程組的追趕法定理：若A

為對角占優(yōu)的三對角陣，且滿足則方程組有唯一的LU分解。§2.求解三對角方程組的追趕法定理：若A為對角占優(yōu)的三直接比較等式兩邊的元素，可得到計算公式第二步:追—即解：第三步:趕—即解：第一步:對A作Crout分解直接比較等式兩邊的元素，可得到計算公式第二步:追—即解§3

矩陣的三角分解法

高斯消元法的矩陣形式

每一步消去過程相當于左乘初等變換矩陣Lk§3矩陣的三角分解法

高斯消元法的矩陣形式每一步消數(shù)值分析07線性代數(shù)方程組的直接法課件A

的

LU

分解(LUfactorization)A的LU分解定理2：（矩陣的三角分解）設A為nn實矩陣，如果解AX=b用高斯消去法能夠完成（限制不進行行的交換，即），則矩陣A可分解為單位下三角矩陣L與上三角知陣U的乘積。

A=LU且這種分解是唯一的。定理2：（矩陣的三角分解）設A為nn實矩陣，如果注：（1）L

為單位下三角陣而U

為一般上三角陣的分解稱為Doolittle

分解（2）L

為一般下三角陣而U

為單位上三角陣的分解稱為Crout分解。

注：（1）L為單位下三角陣而U為一般上三角陣的分解Doolittle分解法：通過比較法直接導出L和

U的計算公式。思路Doolittle分解法：通過比較法直LU分解求解線性方程組LU分解求解線性方程組直接三角分解法解AX=b的計算公式對于r=2,3,…,n計算（2）計算U的第r行元素

（3）計算L的第r列元素

(r

n)(1)直接三角分解法解AX=b的計算公式對于r=2,3,(4)(5)(4)(5)數(shù)值分析07線性代數(shù)方程組的直接法課件§4平方根法1．矩陣的LDR分解定理3：如果n階矩陣A的所有順序主子式均不等于零，則矩陣A存在唯一的分解式A=LDR其中L和R分別是n階單位下三角陣和單位上三角陣，D是n階對角元素的不為零的對角陣，上述分解也稱為A的LDR分解?！?平方根法1．矩陣的LDR分解定理3：如果n階矩陣A的2．平方根法

如果A為對稱正定矩陣，則存在一個實的非奇異下三

角矩陣，使A=LLT

，且當限定的對角元素為正時，這種分解是唯一的。定理4：（對稱正定矩陣的三角分解）2．平方根法如果A為對稱正定矩陣，則存在一個實的非奇異將對稱

正定陣

A

做LU

分解U=uij=u11uij/uii111u22unn記為

A對稱即記D1/2=則仍是下三角陣，且有將對稱正定陣A做LU分解U=uij=u11uij用平方根法解線性代數(shù)方程組的算法（1）對矩陣A進行Cholesky分解，即A=LLT，由矩陣乘法：對于

i=1,2,…,n計算用平方根法解線性代數(shù)方程組的算法（1）對矩陣A進行Chole（2）求解下三角形方程組

（3）求解LTX=y（2）求解下三角形方程組（3）求解LTX=y3．改進平方根法

其中3．改進平方根法其中改進平方根法解對稱正定方程組的算法改進平方根法解對稱正定方程組的算法令LTX=y，先解下三角形方程組LDY=b得解上三角形方程組LTX=Y得令LTX=y，先解下三角形方程組LDY=b得解上§5向量和矩陣的范數(shù)

1．向量的范數(shù)定義1：設XRn，Ｘ

表示定義在Rn上的一個實值函數(shù)，稱之為X的范數(shù)，它具有下列性質(zhì)：（3）三角不等式：即對任意兩個向量X、YRn，恒有

(1)非負性：即對一切XRn，X

0,Ｘ

>0(2)齊次性：即對任何實數(shù)aR，XRn，§5向量和矩陣的范數(shù)1．向量的范數(shù)定義1：設XR

設X=(x1,x2,…,xn)T，則有

（1）（2）（3）三個常用的范數(shù)：范數(shù)等價:設‖·‖A和‖·‖B是R上任意兩種范數(shù)，若存在常數(shù)C1、C2

>0使得,則稱

‖·‖A和‖·‖B

等價。設X=(x1,x2,…,xn)T，則有 （1定理5：定義在Rn上的向量范數(shù)

是變量X分量的

一致連續(xù)函數(shù)。定理6：在Rn上定義的任一向量范數(shù)

都與范數(shù)

等價，

即存在正數(shù)

M

與m(M>m)

對一切XRn，不等式成立。推論：Rn上定義的任何兩個范數(shù)都是等價的。

定理5：定義在Rn上的向量范數(shù)是變量X分量的定理6：對常用范數(shù)，容易驗證下列不等式：

對常用范數(shù)，容易驗證下列不等式：定義2：設給定Rn中的向量序列{}，即其中若對任何i(i=1,2,…,n)都有則向量

稱為向量序列{}的極限，或者說向量序列{}依坐標收斂于向量，記為定義2：設給定Rn中的向量序列{}，即其中若對任何i定理7：向量序列{Xk}依坐標收斂于X*的充要條件是向量序列依范數(shù)收斂與依坐標收斂是等價的。2．矩陣的范數(shù)定義3：設A為n

階方陣，Rn中已定義了向量范數(shù)，

則稱

為矩陣A的范數(shù)或模，

記為。即定理7：向量序列{Xk}依坐標收斂于X*的充要條件是向量序列矩陣范數(shù)的基本性質(zhì)：

（1）當A=0時，＝0，當A0時，>0（2）對任意實數(shù)k和任意A，有（3）對任意兩個n階矩陣A、B有（5）相容性對任意兩個n階矩陣A、B，有（4）對任意向量XRn，和任意矩陣A，有矩陣范數(shù)的基本性質(zhì)：（1）當A=0時，＝0例5:設A＝(aij)∈M.定義證明：這樣定義的非負實數(shù)不是相容的矩陣范數(shù).證明：設從而例5:設A＝(aij)∈M.定義證明：這樣定義的非負實數(shù)不定理8：設n

階方陣A=(aij)nn，則（Ⅰ）與相容的矩陣范數(shù)是（Ⅱ）與相容的矩陣范數(shù)是其中1為矩陣ATA的最大特征值。（Ⅲ）與相容的矩陣范數(shù)是上述三種范數(shù)分別稱為矩陣的1-范數(shù)、2-范數(shù)和∞-范數(shù)。定理8：設n階方陣A=(aij)nn，則（Ⅰ）與可以證明,對方陣和，有

(向量||·||2的直接推廣)Frobenius范數(shù):可以證明,對方陣和3．矩陣的范數(shù)與特征值之間的關系定理9：矩陣A

的任一特征值的絕對值不超過A的范數(shù)，即

定義4：矩陣A的諸特征值的最大絕對值稱為A的譜半徑，記為：并且如果A為對稱矩陣，則

3．矩陣的范數(shù)與特征值之間的關系定理9：矩陣A的任一特征值注:Rn×n中的任意兩個矩陣范數(shù)也是等價的。定義5：設||·||為Rn×n上的矩陣范數(shù)，A,B∈Rn×n稱||A-B||為A與B之間的距離。定義6：設給定Rn×n中的矩陣序列{

}，若則稱矩陣序列{}收斂于矩陣A，記為注:Rn×n中的任意兩個矩陣范數(shù)也是等價的。定義5：設||定理10

設B∈Rn×n，則由B的各冪次得到的矩陣序列Bk,k=0,1,2…)收斂于零矩陣（）的充要條件為。定理10設B∈Rn×n，則由B的各冪次得到的求解時，A

和的誤差對解有何影響？設A

精確，有誤差，得到的解為，即絕對誤差放大因子又相對誤差放大因子§6

線性方程組的性態(tài)和解的誤差分析求解時，A和的誤差對解§6ErrorAnalysisfor.

設精確，A有誤差，得到的解為，即

Waitaminute…

Whosaidthat(I+A1A)isinvertible?(只要A充分小，使得

是關鍵的誤差放大因子，稱為A的條件數(shù)，記為cond(A),越則A越病態(tài)，難得準確解。大§6ErrorAnalysisfor定義7：設A

為n階非奇矩陣，稱數(shù)為矩陣A的條件數(shù)，條件數(shù)的性質(zhì)：

?。ヽond(A)≥1ⅱ）cond(kA)=cond(A),k為非零常數(shù)ⅲ）若，則記為cond(A)。定義7：設A為n階非奇矩陣，稱數(shù)為矩陣A的注:

cond(A)與所取的范數(shù)有關常用條件數(shù)有：cond(A)2特別地，若A對稱，則cond(A)1=‖A‖1‖‖1cond(A)=‖A‖

‖‖注:cond(A)與所取的范數(shù)有關常用條件數(shù)有：c例：Hilbert陣cond(H2)=27cond(H3)748cond(H6)=2.9106cond(Hn)asn注：現(xiàn)在用Matlab數(shù)學軟件可以很方便求矩陣的狀態(tài)數(shù)!定義2:

設線性方程組的系數(shù)矩陣是非奇異的,如果cond(A)越大,就稱這個方程組越病態(tài).反之,cond(A)越小,就稱這個方程組越良態(tài).例：Hilbert陣cond(H2)=27cond一般判斷矩陣是否病態(tài)，并不計算A1，而由經(jīng)驗得出。行列式很大或很?。ㄈ缒承┬?、列近似相關）；元素間相差大數(shù)量級，且無規(guī)則；主元消去過程中出現(xiàn)小主元；特征值相差大數(shù)量級。一般判斷矩陣是否病態(tài)，并不計算A1，而由經(jīng)驗得出。近似解的誤差估計及改善：設的近似解為，則一般有cond(A)誤差上限改善方法(1)：Step1:近似解Step2:Step3:Step4:若可被精確解出，則有就是精確解了。經(jīng)驗表明：若A不是非常病態(tài)（例如：），則如此迭代可達到機器精度；但若A病態(tài)，則此算法也不能改進。近似解的誤差估計及改善：設的近似解為改善方法(2)對方程組進行預處理，即適當選擇非奇異對角陣D，C,使求解

Ax=b的問題轉(zhuǎn)化為求解等價方程組DAC[C-1x]=Db,且使DAC

的條件數(shù)得到改善。（P173）用雙精度進行計算，以便改善和減輕病態(tài)矩陣的影響。改善方法(2)對方程組進行預處理，即適當選擇非奇異對第七章線性方程組的直接解法(DirectMethodforSolvingLinearSystems)第七章線性方程組AX=b（3.1）

AX=b（3.1）線性方程組數(shù)值解法的分類直接法（適用于中等規(guī)模的n階線性方程組）

◆

Gauss消去法及其變形

◆矩陣的三角分解法迭代法（適用于高階線性方程組）

◆Jacobi迭代法

◆

Gauss-Seidel迭代法

◆逐次超松弛法

◆共軛斜量法線性方程組數(shù)值解法的分類直接法（適用于中等規(guī)模的n階線性方§1高斯消去法(GaussianElimination)1．三角形方程組的解法---回代法（3.2）（3.3）

§1高斯消去法(GaussianElimination2．順序高斯消去法思路首先將A化為上三角陣(upper-triangularmatrix)，此過程稱為消去過程，再求解如下形狀的方程組，此過程稱為回代求解

(backwardsubstitution)。=AX=b2．順序高斯消去法思路首先將A化為上三角陣(upper-將增廣矩陣的第i行+li1

第1行，得到：消元過程：第一步：設，計算因子其中A(1)X=b(1)A(2)X=b(2)將增廣矩陣的第i行+li1第1行，得到：消元第k步：設，計算因子將增廣矩陣的第i行+lik

第k行，得到：其中第k步：設，計算因子將增廣矩陣的第i行+回代過程：共進行n

1步，得到回代過程：共進行n1步，得到運算量

（AmountofComputation）（1）用克萊姆（Cramer）法則求解n階線性方程組

每個行列式由n!項相加，而每項包含了n個因子相乘，乘法運算次數(shù)為(n-1)n!次.僅考慮乘(除)法運算,計算解向量包括計算n+1個行列式和n次除法運算,乘(除)法運算次數(shù)N=(n+1)(n-1)n!+n.當n=8時,N＝200，0000運算量（AmountofComputation）（（2）

高斯消去法:

第1個消去步，計算li1(i=2,3，…，n)，有n-1次除法運算.使aij(1)變?yōu)閍ij(2)

以及使bi(1)變?yōu)閎i(2)有n(n-1)次乘法運算.

第k個消去步，有n-k次除法運算、(n-k+1)(n-k)次乘法運算.乘法運算總次數(shù)為：

除法運算總次數(shù)為:(n-1)+…+1=n(n-1)/2（2）高斯消去法:

第1個消去步，計算li1(i=2,回代過程的計算除法運算次數(shù)為n次.乘法運算的總次數(shù)為n+(n-1)+…+1=n(n-1)/2次Gauss消去法除法運算次數(shù)為:n(n-1)/2+n=n(n+1)/2，乘法運算次數(shù)為:n(n-1)(n+1)/3+n(n-1)/2=n(n-1)(2n+5)/6，

通常也說Gauss消去法的運算次數(shù)與n3同階，記為O(n3)回代過程的計算除法運算次數(shù)為n次.乘法運算的總次數(shù)為Ga順序Gauss消去法可執(zhí)行的前提定理1

給定線性方程組，如果n階方陣的所有順序主子式都不為零，即則按順序Gauss消去法所形成的各主元素均不為零，從而Gauss

消去法可順利執(zhí)行。注：當線性方程組的系數(shù)矩陣為對稱正定或嚴格對角占優(yōu)陣時，按Gauss消去法計算是穩(wěn)定的。順序Gauss消去法可執(zhí)行的前提定理1給定線性方程組IllustrationIllustration3、列主元（Columnpivotelement）Gauss消去法：1、輸入矩陣階數(shù)n，增廣矩陣

A(n,n+1);2、對于(1)按列選主元：選取l

使

(2)如果，交換A(n,n+1)

的第k行與第l

行元素(3)

消元計算：3、回代計算3、列主元（Columnpivotelement）G4．無回代過程的主元消去法算法：第一步：選主元，在第一列中選絕對值最大的元素，設第k行為主元行，將主元行換至第一行，將第一個方程中x1的系數(shù)變?yōu)?，并從其余n–1個方程中消去x1。第二步：在第二列后n–1個元素中選主元，將第二個方程中x2的系數(shù)變?yōu)?，并從其它n–1個方程中消去x2。第k步：在第k列后n–k個元素中選主元，換行，將第k個方程xk的系數(shù)變?yōu)?，從其它n-1個方程中消去變量xk，…………4．無回代過程的主元消去法算法：第一步：選主元，在第一列中選消元公式為：對k=1,2,…,

按上述步驟進行到第n步后，方程組變?yōu)椋杭礊樗蟮慕庀綖椋簩=1,2,…,按上述步驟進行到第n注：無回代的Gauss消元法實際上就是將方程組的系數(shù)矩陣化為行最簡形矩陣。注：無回代的Gauss消元法實際上就是將方程組的系數(shù)矩陣化5．無回代消去法的應用（1）解線性方程組系設要解的線性方程組系為：AX=b1,AX=b2,…AX=bm上述方程組系可以寫為AX=B=(b1,…,bm)5．無回代消去法的應用（1）解線性方程組系設要解的線性方程組因此

X=A-1B即為線性方程組系的解。

在計算機上只需要增加幾組右端常數(shù)項的存貯單元，其結(jié)構(gòu)和解一個方程組時一樣。行系數(shù)右端因此 X=A-1B即為線性方程組系的解。（2）求逆矩陣設A=(aij)nn是非奇矩陣，A

0，且令由于

AA-1=AX=I因此，求A-1的問題相當于解下列線性方程組相當于（1）中m=n,

B=I的情形。

（2）求逆矩陣設A=(aij)nn是非奇矩陣，A（3）求行列式的值用高斯消去法將

A化成（3）求行列式的值用高斯消去法將A化成§2.求解三對角方程組的追趕法定理：若A

為對角占優(yōu)的三對角陣，且滿足則方程組有唯一的LU分解?！?.求解三對角方程組的追趕法定理：若A為對角占優(yōu)的三直接比較等式兩邊的元素，可得到計算公式第二步:追—即解：第三步:趕—即解：第一步:對A作Crout分解直接比較等式兩邊的元素，可得到計算公式第二步:追—即解§3

矩陣的三角分解法

高斯消元法的矩陣形式

每一步消去過程相當于左乘初等變換矩陣Lk§3矩陣的三角分解法

高斯消元法的矩陣形式每一步消數(shù)值分析07線性代數(shù)方程組的直接法課件A

的

LU

分解(LUfactorization)A的LU分解定理2：（矩陣的三角分解）設A為nn實矩陣，如果解AX=b用高斯消去法能夠完成（限制不進行行的交換，即），則矩陣A可分解為單位下三角矩陣L與上三角知陣U的乘積。

A=LU且這種分解是唯一的。定理2：（矩陣的三角分解）設A為nn實矩陣，如果注：（1）L

為單位下三角陣而U

為一般上三角陣的分解稱為Doolittle

分解（2）L

為一般下三角陣而U

為單位上三角陣的分解稱為Crout分解。

注：（1）L為單位下三角陣而U為一般上三角陣的分解Doolittle分解法：通過比較法直接導出L和

U的計算公式。思路Doolittle分解法：通過比較法直LU分解求解線性方程組LU分解求解線性方程組直接三角分解法解AX=b的計算公式對于r=2,3,…,n計算（2）計算U的第r行元素

（3）計算L的第r列元素

(r

n)(1)直接三角分解法解AX=b的計算公式對于r=2,3,(4)(5)(4)(5)數(shù)值分析07線性代數(shù)方程組的直接法課件§4平方根法1．矩陣的LDR分解定理3：如果n階矩陣A的所有順序主子式均不等于零，則矩陣A存在唯一的分解式A=LDR其中L和R分別是n階單位下三角陣和單位上三角陣，D是n階對角元素的不為零的對角陣，上述分解也稱為A的LDR分解。§4平方根法1．矩陣的LDR分解定理3：如果n階矩陣A的2．平方根法

如果A為對稱正定矩陣，則存在一個實的非奇異下三

角矩陣，使A=LLT

，且當限定的對角元素為正時，這種分解是唯一的。定理4：（對稱正定矩陣的三角分解）2．平方根法如果A為對稱正定矩陣，則存在一個實的非奇異將對稱

正定陣

A

做LU

分解U=uij=u11uij/uii111u22unn記為

A對稱即記D1/2=則仍是下三角陣，且有將對稱正定陣A做LU分解U=uij=u11uij用平方根法解線性代數(shù)方程組的算法（1）對矩陣A進行Cholesky分解，即A=LLT，由矩陣乘法：對于

i=1,2,…,n計算用平方根法解線性代數(shù)方程組的算法（1）對矩陣A進行Chole（2）求解下三角形方程組

（3）求解LTX=y（2）求解下三角形方程組（3）求解LTX=y3．改進平方根法

其中3．改進平方根法其中改進平方根法解對稱正定方程組的算法改進平方根法解對稱正定方程組的算法令LTX=y，先解下三角形方程組LDY=b得解上三角形方程組LTX=Y得令LTX=y，先解下三角形方程組LDY=b得解上§5向量和矩陣的范數(shù)

1．向量的范數(shù)定義1：設XRn，Ｘ

表示定義在Rn上的一個實值函數(shù)，稱之為X的范數(shù)，它具有下列性質(zhì)：（3）三角不等式：即對任意兩個向量X、YRn，恒有

(1)非負性：即對一切XRn，X

0,Ｘ

>0(2)齊次性：即對任何實數(shù)aR，XRn，§5向量和矩陣的范數(shù)1．向量的范數(shù)定義1：設XR

設X=(x1,x2,…,xn)T，則有

（1）（2）（3）三個常用的范數(shù)：范數(shù)等價:設‖·‖A和‖·‖B是R上任意兩種范數(shù)，若存在常數(shù)C1、C2

>0使得,則稱

‖·‖A和‖·‖B

等價。設X=(x1,x2,…,xn)T，則有 （1定理5：定義在Rn上的向量范數(shù)

是變量X分量的

一致連續(xù)函數(shù)。定理6：在Rn上定義的任一向量范數(shù)

都與范數(shù)

等價，

即存在正數(shù)

M

與m(M>m)

對一切XRn，不等式成立。推論：Rn上定義的任何兩個范數(shù)都是等價的。

定理5：定義在Rn上的向量范數(shù)是變量X分量的定理6：對常用范數(shù)，容易驗證下列不等式：

對常用范數(shù)，容易驗證下列不等式：定義2：設給定Rn中的向量序列{}，即其中若對任何i(i=1,2,…,n)都有則向量

稱為向量序列{}的極限，或者說向量序列{}依坐標收斂于向量，記為定義2：設給定Rn中的向量序列{}，即其中若對任何i定理7：向量序列{Xk}依坐標收斂于X*的充要條件是向量序列依范數(shù)收斂與依坐標收斂是等價的。2．矩陣的范數(shù)定義3：設A為n

階方陣，Rn中已定義了向量范數(shù)，

則稱

為矩陣A的范數(shù)或模，

記為。即定理7：向量序列{Xk}依坐標收斂于X*的充要條件是向量序列矩陣范數(shù)的基本性質(zhì)：

（1）當A=0時，＝0，當A0時，>0（2）對任意實數(shù)k和任意A，有（3）對任意兩個n階矩陣A、B有（5）相容性對任意兩個n階矩陣A、B，有（4）對任意向量XRn，和任意矩陣A，有矩陣范數(shù)的基本性質(zhì)：（1）當A=0時，＝0例5:設A＝(aij)∈M.定義證明：這樣定義的非負實數(shù)不是相容的矩陣范數(shù).證明：設從而例5:設A＝(aij)∈M.定義證明：這樣定義的非負實數(shù)不定理8：設n

階方陣A=(aij)nn，則（Ⅰ）與相容的矩陣范數(shù)是（Ⅱ）與相容的矩陣范數(shù)是其中1為矩陣ATA的最大特征值。（Ⅲ）與相容的矩陣范數(shù)是上述三種范數(shù)分別稱為矩陣的1-范數(shù)、2-范數(shù)和∞-范數(shù)。定理8：設n階方陣A=(aij)nn，則（Ⅰ）與可以證明,對方陣和，有

(向量||·||2的直接推廣)Frobenius范數(shù):可以證明,對方陣和3．矩陣的范數(shù)與特征值之間的關系定理9：矩陣A

的任一特征值的絕對值不超過A的范數(shù)，即

定義4：矩陣A的諸特征值的最大絕對值稱為A的譜半徑，記為：并且如果A為對稱矩陣，則

3．矩陣的范數(shù)與特征值之間的關系定理9：矩陣A的任一特征值注:Rn×n中的任意兩個矩陣范數(shù)也是等價的。定義5：設||·||為Rn×n上的矩陣范數(shù)，A,B∈Rn×n稱||A-B||為A與B之間的距離。定義6：設給定Rn×n中的矩陣序列{

}，若則稱矩陣序列{}收斂于矩陣A，記為注:Rn×n中的任意兩個矩陣范數(shù)也是等價的。定義5：設||定理10

設B∈Rn×n，則由B的各冪次得到的