第二章 向量與矩陣的范數(shù)

1、 第二章第二章 向量與矩陣的范數(shù)向量與矩陣的范數(shù)定義定義： 設(shè)設(shè) 是實數(shù)域是實數(shù)域 （或復(fù)數(shù)域（或復(fù)數(shù)域 ）上）上的的 維線性空間，對于維線性空間，對于 中的任意一個向量中的任意一個向量 按照某一確定法則對應(yīng)著一個實數(shù)，這個按照某一確定法則對應(yīng)著一個實數(shù)，這個實數(shù)稱為實數(shù)稱為 的的范數(shù)范數(shù)，記為，記為 ，并且要求，并且要求范數(shù)滿足下列運算條件：范數(shù)滿足下列運算條件： （1）非負(fù)性：當(dāng)）非負(fù)性：當(dāng) 只只有且僅有當(dāng)有且僅有當(dāng) （2） 齊次性：齊次性： 為任為任意數(shù)。意數(shù)。VRnVC0,00,0,kkk（3） 三角不等式：對于三角不等式：對于 中的任意兩個中的任意兩個向量向量 都有都有例例： 在在

2、維線性空間維線性空間 中，對于任意的中，對于任意的向量向量 定義定義V, nnC12(,)nna aaC11122211(1)(2)()(3)maxniiniiii naaa 證明：證明： 都是都是 上的范數(shù)，并且還有上的范數(shù)，并且還有nC12,12122(1)(2)(3)nnn引理引理 設(shè)設(shè) 均為非負(fù)實數(shù)，則總有均為非負(fù)實數(shù)，則總有 1,1pq111pqpquvuvpq, u vqniqipnipiiniibaba11111)()(Holder不等式不等式：設(shè)設(shè)1212,TTnnna aab bbC證：令證：令 ， ，其中，其中iauaibvb1111,pqpqnniiiiaabb11()p

3、qiiiipqaba babp aq b111111()pqpqnniiiiababpq11111()nnnpqiiiipqiiia bababpaqb代入上述不等式，則有代入上述不等式，則有Minkowski不等式不等式：設(shè)設(shè)則對任何則對任何 都有都有1212,TTnnna aab bbC1p 111111()()()nnnppppppiiiiiiiabab證明證明 以以 代入下式代入下式則則 111nnppiiiiiiiiabab ab1pqp11nnppqiiiiiiiiabab ab11nnppqqiiiiiiiia abb ab對上式由對上式由Holder不等式可得不等式可得 111

4、11() ()nnnppppqiiiiiiiiabaab1111() ()nnpppqiiiiibab111111()() ()nnnpppppqiiiiiiibbab此不等式兩端同除以此不等式兩端同除以 ，根據(jù)，根據(jù) 可得可得 11()npqiiiab111pq111111()()()nnnppppppiiiiiiiabab幾種常用的范數(shù)幾種常用的范數(shù)定義：定義：設(shè)向量設(shè)向量 ，對任，對任意的數(shù)意的數(shù) ，稱，稱為向量為向量 的的 范數(shù)范數(shù)。p 12,Tna aa1p 11()nppipia（1）1范數(shù)范數(shù)（2）2范數(shù)范數(shù) 也稱為也稱為歐氏范數(shù)。歐氏范數(shù)。（3） 范數(shù)范數(shù) 121 2221()

5、()nHiia 1maxii na 11niia定義定義 設(shè)設(shè) 是是 維線性空間維線性空間 上定義的兩種向量范數(shù)，如果存在兩個與上定義的兩種向量范數(shù)，如果存在兩個與 無關(guān)的正數(shù)無關(guān)的正數(shù) 使得使得則稱向量范數(shù)則稱向量范數(shù) 等價。等價。nV,ab12,dd12,babddV,ab定理定理 有限維線性空間有限維線性空間 上的任意兩個上的任意兩個向量范數(shù)都是等價的。向量范數(shù)都是等價的。V利用向量范數(shù)可以去構(gòu)造新的范數(shù)。利用向量范數(shù)可以去構(gòu)造新的范數(shù)。例例1 1 設(shè)設(shè) 是是 上的向量范數(shù)，且上的向量范數(shù)，且 ，則由，則由所定義的所定義的 是是 上的向量范數(shù)。上的向量范數(shù)。mCb,( )m nACran

6、k An,nabACanC定義定義 對于任何一個矩陣對于任何一個矩陣 ，用，用 表示按照某一確定法則與矩陣表示按照某一確定法則與矩陣 相對相對應(yīng)的一個實數(shù)，且滿足應(yīng)的一個實數(shù)，且滿足AA（1）非負(fù)性：當(dāng)）非負(fù)性：當(dāng) 只有只有且僅有當(dāng)且僅有當(dāng) （2） 齊次性：齊次性： 為任為任意復(fù)數(shù)。意復(fù)數(shù)。（3） 三角不等式：對于任意兩個同種形三角不等式：對于任意兩個同種形狀矩陣狀矩陣 都有都有0,0AA0,0AA,kAk Ak,A BABAB2. 矩陣范數(shù)矩陣范數(shù)m nAC（4）矩陣乘法的相容性：對于任意兩個可以）矩陣乘法的相容性：對于任意兩個可以相乘的矩陣相乘的矩陣 ，都有，都有那么我們稱那么我們稱 是是

7、矩陣矩陣 的范數(shù)。的范數(shù)。例例1 對于任意對于任意 ，定義，定義可以證明如此定義的可以證明如此定義的 為矩陣為矩陣 的的 范范數(shù)。數(shù)。,A BABA BAA111mnijmijAaA1mA1mm nAC證明證明 只需要驗證此定義滿足矩陣范數(shù)的只需要驗證此定義滿足矩陣范數(shù)的四條性質(zhì)即可。非負(fù)性，齊次性與三角不四條性質(zhì)即可。非負(fù)性，齊次性與三角不等式容易證明?，F(xiàn)在我們驗證乘法的相容等式容易證明?，F(xiàn)在我們驗證乘法的相容性。設(shè)性。設(shè) ，則，則,m pp nACBC11111111111111111()()()()ppmnmnikkjikkjmijkijkppmnikkjijkkppmnikkjikjk

8、mmABa babababAB 例例2 設(shè)矩陣設(shè)矩陣 ，證明：，證明：是矩陣的是矩陣的 范數(shù)。范數(shù)。證明：非負(fù)性，齊次性和三角不等式容易證明：非負(fù)性，齊次性和三角不等式容易證得。現(xiàn)在我們考慮乘法的相容性。設(shè)證得。現(xiàn)在我們考慮乘法的相容性。設(shè) ，那么，那么n nAC,maxijmi jAna,n nn nACBCm,11,maxmaxmaxmaxmaxmaxnnikkjikkjmi ji jkkikkji kk jikkji kk jmmABna bnabn nabnanbAB因此因此 為矩陣為矩陣 的范數(shù)。的范數(shù)。mAA例例3 對于任意對于任意 ，定義，定義可以證明可以證明 也是矩陣也是矩陣

9、的范數(shù)。我們稱此的范數(shù)。我們稱此范數(shù)為矩陣范數(shù)為矩陣 的的Frobenious范數(shù)范數(shù)。證明證明 此定義的非負(fù)性，齊次性是顯然的。此定義的非負(fù)性，齊次性是顯然的。利用利用Holder不等式和不等式和Minkowski不等式容易不等式容易證明三角不等式。現(xiàn)在我們驗證乘法的相容證明三角不等式?，F(xiàn)在我們驗證乘法的相容性。性。 設(shè)設(shè) ，則，則 111222211()()()mnHHijFijAaTr A ATr AAFAAA,m ll nACBCm nAC22211111122111122111122()()()()()mnlmnlikkjikkjFijkijkmnllikkjijkkmlnlikkj

10、ikjkFFABa babababAB 于是有于是有 FFFABABFrobenious范數(shù)的性質(zhì)范數(shù)的性質(zhì)：（1）如果）如果 ，那么，那么（2） （3）對于任何）對于任何 階酉矩陣階酉矩陣 與與 階酉矩陣階酉矩陣 12nA2221niFiA21()()nHHiFiATr A AA AnmU 都有等式都有等式關(guān)于矩陣范數(shù)的等價性定理。關(guān)于矩陣范數(shù)的等價性定理。定理定理 設(shè)設(shè) 是矩陣是矩陣 的任意兩的任意兩種范數(shù)，則總存在正數(shù)種范數(shù)，則總存在正數(shù) 使得使得VHFFFFFAUAAAVUAV（酉不變性）,AA12,ddA12,m ndAAdAAC 3. 算子范數(shù)算子范數(shù)定義定義 設(shè)設(shè) 是向量范數(shù)，是

11、向量范數(shù)， 是矩陣范是矩陣范數(shù)，如果對于任何矩陣數(shù)，如果對于任何矩陣 與向量與向量 都有都有則稱矩陣范數(shù)則稱矩陣范數(shù) 與向量范數(shù)與向量范數(shù) 是相容是相容的。的。例例1 矩陣的矩陣的Frobenius范數(shù)與向量的范數(shù)與向量的2-范數(shù)范數(shù)是相容的是相容的.證明證明 因為因為 XAAXAXAXAX12211()mnijFijAa121 2221()()nHiiXxXX根據(jù)根據(jù)Holder不等式可以得到不等式可以得到222211112211122111222()()()()()mnmnijjijjijijmnnijjijjmnnijjijjFA Xa xa xaxaxAX 于是有于是有 例例2 設(shè)設(shè)

12、是向量的范數(shù)，則是向量的范數(shù)，則滿足矩陣范數(shù)的定義，且滿足矩陣范數(shù)的定義，且 是與向量范是與向量范 相容的矩陣范數(shù)。相容的矩陣范數(shù)。證明證明 首先我們驗證此定義滿足范數(shù)的四首先我們驗證此定義滿足范數(shù)的四條性質(zhì)。非負(fù)性，齊次性與三角不等式易條性質(zhì)。非負(fù)性，齊次性與三角不等式易證?，F(xiàn)在考慮矩陣范數(shù)的相容性。證。現(xiàn)在考慮矩陣范數(shù)的相容性。22FAXAXX0maxXAXAXAX000maxmax()maxXXXABXABXABXXBXAXAB因此因此 的確滿足矩陣范數(shù)的定義。的確滿足矩陣范數(shù)的定義。 A0maxXAXAXAXAAXAXX由定義定義 上面所定義的矩陣范數(shù)稱為由向量范上面所定義的矩陣范數(shù)稱

13、為由向量范數(shù)數(shù) 所誘導(dǎo)的所誘導(dǎo)的誘導(dǎo)范數(shù)誘導(dǎo)范數(shù)或或算子范數(shù)算子范數(shù)。X由向量由向量 P-范數(shù)范數(shù) 所誘導(dǎo)的矩陣范數(shù)稱為所誘導(dǎo)的矩陣范數(shù)稱為矩陣矩陣P-范數(shù)。即范數(shù)。即常用的常用的矩陣矩陣P-范數(shù)范數(shù)為為 ， 和和 。pX0maxppXpAXAX1A2AA定理定理 設(shè)設(shè) ，則，則（1）我們稱此范數(shù)為矩陣我們稱此范數(shù)為矩陣 的的列和范數(shù)列和范數(shù)。m nAC11max(),1,2,mijjiAajnA（2） 表示矩陣表示矩陣 的第的第 個特征值。我們稱此范數(shù)為矩個特征值。我們稱此范數(shù)為矩陣陣 的的譜范數(shù)譜范數(shù)。（3）我們稱此范數(shù)為矩陣我們稱此范數(shù)為矩陣 的的行和范數(shù)行和范數(shù)。122max(),()

14、HHjjjAA AA AHA AjA1max(),1,2,nijijAaimA210023120A計算計算 ， ， 和和 。解解 1A2AAFA15A5A23FA例例 1 設(shè)設(shè)215A1 2 3500096=3 5 15069HA A，因為因為所以所以 0110000iAi100010001A練習(xí)練習(xí) 設(shè)設(shè)和分別計算這兩個矩陣的分別計算這兩個矩陣的 ， ， 和和 。2A1AAFA如何由矩陣范數(shù)構(gòu)造與之相容的向量范數(shù)？如何由矩陣范數(shù)構(gòu)造與之相容的向量范數(shù)？定理定理2 設(shè)設(shè) 是矩陣范數(shù)，則存在向量范數(shù)是矩陣范數(shù)，則存在向量范數(shù) 使得使得證明證明 對于任意的非零向量對于任意的非零向量 ，定義向量范，定義向量范數(shù)數(shù) ，容易驗證此定義滿足向量，容易驗證此定義滿足向量范數(shù)的三個性質(zhì)，且范數(shù)的三個性質(zhì)，且*AX*AXAX*HXX矩陣的譜半徑及其性質(zhì)矩陣的譜半徑及其性質(zhì)定義定義 設(shè)設(shè) ， 的的 個特征值為個特征值為 ，我們稱，我們稱為為矩陣矩陣 的譜半徑的譜半徑。例例1 設(shè)設(shè) ，那么，那么n nACnA12,n 12( )max,nAAn nAC*HHAXAXAXAX( )AA這