向量和矩陣的范數(shù)

第三章線性方程組的數(shù)值解法3.1向量與矩陣的范數(shù)3.2直接法3.3迭代法3.4迭代法的收斂性分析"范數(shù)"是對向量和矩陣的一種度量,實(shí)際上是二維和三維向量長度概念的一種推廣二維向量和三維向量都可以度量其大小和長度高維向量的"長度"能否定義呢?為了研究線性方程組近似解的誤差估計和迭代的收斂性，需要對n維向量空間中的向量以及矩陣引進(jìn)“大小”的概念。

對于實(shí)數(shù)和復(fù)數(shù)，由于定義了它們的絕對值或模，這樣我們就可以用這個度量來表示它們的大?。◣缀紊暇褪情L度），進(jìn)而可以考察兩個實(shí)數(shù)或復(fù)數(shù)的距離。

對于維線性空間，定義了內(nèi)積以后，向量就有了長度（大?。?、角度、距離等度量概念，這顯然是3維現(xiàn)實(shí)空間中相應(yīng)概念的推廣。利用公理化的方法，可以進(jìn)一步把向量長度的概念推廣到范數(shù)?！?.1向量與矩陣的范數(shù)從向量的長度或模談起，當(dāng)且僅當(dāng)時，等號成立。例1

復(fù)數(shù)

的長度或模指的是量顯然復(fù)向量的模具有下列三條性質(zhì)：，當(dāng)且僅當(dāng)時，等號成立。顯然向量的模也具有下列三條性質(zhì)：例2

維歐氏空間中向量的長度或模定義為定義3.3.1按某種規(guī)則(或映射)（一）向量的范數(shù)由(3)可推出不等式：--------(1)--------(2)--------(3)--------(4)顯然并且由于例3.3.1

求下列向量的各種常用范數(shù)解向量范數(shù)是其分量的連續(xù)函數(shù)，即有下述定理：定理3.1（向量范數(shù)連續(xù)性定理）證明有限維向量空間的范數(shù)等價性定理定理3.2容易驗證：

（1）‖x‖2≤‖x‖1≤

n1/2‖x‖2；

（2）‖x‖∞≤‖x‖2≤

n1/2‖x‖∞；

（3）‖x‖∞≤‖x‖1≤

n‖x‖∞。3種范數(shù)相互等價向量序列的收斂性定義3.3

如果向量序列{x(k)}?Rn和向量x∈Rn滿足則稱向量序列{x(k)}收斂于向量x，記為定理3.3

向量序列{x(k)}收斂于x的充分必要條件是由向量范數(shù)的等價性定理可得到結(jié)論：如果在一種范數(shù)意義下向量序列收斂時，則在任何一種范數(shù)意義下向量序列亦收斂證明：定義3.43.1.2矩陣的范數(shù)由于大多數(shù)與估計有關(guān)的問題中，矩陣和向量會同時參與運(yùn)算，所以希望引進(jìn)一種矩陣范數(shù)，它和向量范數(shù)相聯(lián)系而且和向量范數(shù)相容，即為此我們引進(jìn)矩陣的算子范數(shù)--------(3.5)定義3.5定理3.4--------(3.6)定理3.5

向量的常用范數(shù)可以得到常用的矩陣算子范數(shù)證明：對于2范數(shù)，應(yīng)有

注意，

是半正定的對稱陣，設(shè)其特征值為

以及其對應(yīng)的正交規(guī)范特征向量為

則對任一滿足

的向量

有

和

于是，有

另一方面，若取

，則有所以

例3.3.4求矩陣A的各種常用范數(shù)解由于特征方程為容易計算計算較復(fù)雜對矩陣元素的變化比較敏感(理論上)使用最廣泛性質(zhì)較好定義3.7如果n階矩陣序列{A(k)}

?Rn×n和矩陣A∈Rn×n

滿足（其中A(k)=(aij(k))n×n

,A=(aij)n×n）矩陣序列的收斂性則稱矩陣序列{A(k)}收斂于矩陣A，記為定理3.6，Rn×n

中矩陣序列{A(k)}收斂于矩陣A的充分必要條件是定理3.7設(shè)A為任意n階方陣，則對任意矩陣范數(shù)||A||，有：ρ(A)≤||A||證:設(shè)λ為A的任意一個特征值,X為對應(yīng)的特征向量AX=λX兩邊取范數(shù),得:||

AX||

=||λX

||=|λ|||

X

|||λ|||

X

||=||λX

||=||

AX||≤||

A||

||

X||由X

≠0,所以||

X

||>0,故有:|λ|≤||A||

所以特征值的最大值≤||A||，即ρ(A)≤||A||對任給的

存在

上的算子范數(shù)

使得定理3.8證明：由Jordan分解定理知，存在非奇異矩陣

，使得

其中，

=1或0，對于任意給定的

，令則有

在

上引入一個算子矩陣范數(shù)，定義如下

它所對應(yīng)的向量范數(shù)，定義如下

該范數(shù)對于矩陣

有

定理證明補(bǔ)充定理3.9--------(3.8)證明3.1.3、方程組的性態(tài)條件數(shù)與攝動理論（一）線性代數(shù)方程組的性態(tài)

判斷一個計算方法的好壞，可用方法是否穩(wěn)定、解的精確度高低以及計算量、存儲量大小等來衡量。然而，對于不同的問題，同一方法卻可以產(chǎn)生完全不同的效果，這就涉及到所提供問題的性態(tài)，即“好、壞”。例3.3.5

可見，在上述方程組中，系數(shù)誤差的小擾動對解的影響不大?？梢?，在上述方程組中，系數(shù)誤差的小擾動對解的影響很大。思考:求解時,A

和的誤差對解

有何影響？

設(shè)A

精確，有誤差，得到的解為，即絕對誤差放大因子又相對誤差放大因子

設(shè)精確，A有誤差，得到的解為，即(只要

A充分小，使得是關(guān)鍵的誤差放大因子，稱為A的狀態(tài)數(shù)(條件數(shù))，記為cond(A),定義3.9定義3.8矩陣A的條件數(shù)與所取范數(shù)有關(guān)。通常記顯然，當(dāng)A對稱時，條件數(shù)有下列性質(zhì)：定理3.9推論1推論2常數(shù)項b的擾動對解的影響系數(shù)矩陣A的擾動對解的影響定義3.3.8例3.3.6

試求例3.3.5中兩個線性代數(shù)方程組的條件數(shù)解因而，第二個方程組的性態(tài)遠(yuǎn)比第一個方程組壞，從而對系數(shù)的敏感程度要高得多。值得強(qiáng)調(diào)的是，線性代數(shù)方程組的性質(zhì)是問題本身的固有性質(zhì)。用一個穩(wěn)定的方法去解一個良態(tài)的方程組，必然得到較準(zhǔn)確的結(jié)果。同樣用一個穩(wěn)定的方法去解一個病態(tài)的方程組，結(jié)果就可能很差。例3.3.7

解線性代數(shù)方程組的精確解為用列選主元消元法計算：回代后得到計算結(jié)果完全不可靠，實(shí)際上，此時因此，方程組病態(tài)！如把方程組的系數(shù)舍入成兩位有效數(shù)字例3.3.8設(shè)有線性代數(shù)方程組試分析其性態(tài)。試分別計算兩組方程組的精確解。它的精確解為x1=-6.222...x2=38.25…x3=-33.65...它的精確解為x1=x2=x3=1.條件數(shù)不是很好。兩個解相差大，說明解對系數(shù)矩陣敏感程度高事實(shí)上，上例中矩陣A是三階Hilbert矩陣n階Hilbert矩陣是有名的病態(tài)矩陣，它隨著矩陣階數(shù)的增大，條件數(shù)迅速增大。解

“病態(tài)”方程的經(jīng)驗判斷

“病態(tài)”問題的處理方法例3.3.10

解等價的方程組解回代后得到用列選主