第2章內(nèi)積空間1

1、第二章 內(nèi)積空間主要內(nèi)容主要內(nèi)容一、歐氏空間與酉空間一、歐氏空間與酉空間二、內(nèi)積空間的度量二、內(nèi)積空間的度量三、正交變換三、正交變換四、正交子空間與正交投影四、正交子空間與正交投影五、最小二乘問題五、最小二乘問題第一節(jié)第一節(jié) 歐氏空間與酉空間歐氏空間與酉空間在線性空間中，向量之間僅有加法與數(shù)乘兩種代數(shù)在線性空間中，向量之間僅有加法與數(shù)乘兩種代數(shù)運算，而無向量長度、向量夾角等度量概念。向量運算，而無向量長度、向量夾角等度量概念。向量內(nèi)積正是適應(yīng)這種要求而引入的。內(nèi)積空間是內(nèi)積正是適應(yīng)這種要求而引入的。內(nèi)積空間是3 3維向維向量空間的自然推廣，故稱實內(nèi)積空間為歐氏空間，量空間的自然推廣，故稱實內(nèi)積

2、空間為歐氏空間，稱復(fù)內(nèi)積空間為酉空間。稱復(fù)內(nèi)積空間為酉空間。 定義定義 在在實實線性空間線性空間V V中，若任意兩個向量中，若任意兩個向量, 按某種法則有實數(shù)與之對應(yīng)，記作按某種法則有實數(shù)與之對應(yīng)，記作并滿足公理，并滿足公理，),(2)(2) ;,(3)(3);,kk(4)(4)時等式成立時等式成立. .當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)0,0則稱實數(shù)則稱實數(shù) 為向量為向量 的內(nèi)積的內(nèi)積. .),(,定義了內(nèi)積的實線性空間叫做歐氏空間。定義了內(nèi)積的實線性空間叫做歐氏空間。;,) 1 (一、歐氏空間一、歐氏空間Tnaaa,21nTnRbbb,21TTiiiba,例例1 1 在向量空間在向量空間R Rn n，設(shè)，設(shè)

3、可以驗證可以驗證 滿足內(nèi)積的定義，滿足內(nèi)積的定義，,稱之為稱之為R Rn n中的標(biāo)準(zhǔn)中的標(biāo)準(zhǔn)內(nèi)積。內(nèi)積。Tnaaa,21nTnRbbb,21iiibia,例例2 2 在向量空間在向量空間R Rn n，設(shè)，設(shè)定義定義定義定義可以驗證可以驗證 也是也是R Rn n中的中的內(nèi)積。內(nèi)積。,說明說明（1）同一線性空間可定義不同的內(nèi)積，從而形成同一線性空間可定義不同的內(nèi)積，從而形成不同的歐氏空間不同的歐氏空間。 （2）不論如何定義內(nèi)積，不會改變線性空間的維不論如何定義內(nèi)積，不會改變線性空間的維數(shù)數(shù)。P26 例例2.1.2 A-內(nèi)積內(nèi)積例例4 4 在實線性空間中，對于任意兩個在實線性空間中，對于任意兩個n

4、n階矩陣階矩陣A A，B B，定義，定義)(),(xgxfbadxxgxfxgxf)()()(),(ninjijijTbaABtrBA11)(,例例3 3 在實線性空間在實線性空間Ca,bCa,b中，對于任意兩個連續(xù)函數(shù)，中，對于任意兩個連續(xù)函數(shù)，定義定義利用定積分的性質(zhì)，可以驗證利用定積分的性質(zhì)，可以驗證 是內(nèi)積，是內(nèi)積， Ca,bCa,b是是歐氏空間，但其維數(shù)無限。歐氏空間，但其維數(shù)無限。)(),(xgxf則則 是內(nèi)積，向量空間是內(nèi)積，向量空間 是歐氏空間。是歐氏空間。),(BAnnR內(nèi)積的性質(zhì)內(nèi)積的性質(zhì) ).,(),( . 3);,(),(),( . 2;, 0)0 ,(), 0(. 1

5、kkV對于對于歐氏空間歐氏空間的向量的向量 ,n,21 nnnnnnA,212221212111設(shè)設(shè)為為n n維歐氏空間維歐氏空間V V的基，令的基，令矩陣矩陣A A也常常稱為也常常稱為度量矩陣度量矩陣（或（或GramGram矩陣矩陣），因為許多），因為許多與向量度量有關(guān)的量可以用與向量度量有關(guān)的量可以用A A來描述。來描述。 二二、度量矩陣及性質(zhì)度量矩陣及性質(zhì),)2(V,22112211nnnnyyyxxxAyxyyyAxxxyxTnnninjjiji212111,則則 (1) (1)矩陣矩陣A A為實對稱正定矩陣；為實對稱正定矩陣；定理定理1 1 設(shè)設(shè)A A為為n n維歐氏空間維歐氏空間V

6、 V的基的基 的度量矩陣，則的度量矩陣，則n,21即抽象的向量的內(nèi)積可通過他們在基下的坐標(biāo)及度量矩陣即抽象的向量的內(nèi)積可通過他們在基下的坐標(biāo)及度量矩陣的雙線性函數(shù)來計算。的雙線性函數(shù)來計算。（證明詳見（證明詳見P26）定理定理2 2 設(shè)設(shè) 與與 為為n n維歐氏空間維歐氏空間V V的基，它們的基，它們n,21n,21則則的度量矩陣為的度量矩陣為A A和和B B，C C是是 到到 的過渡的過渡n,21n,21ACCBT注：即同一注：即同一歐氏歐氏空間不同基的度量矩陣是相合矩陣。空間不同基的度量矩陣是相合矩陣。（證明詳見（證明詳見P27）矩陣，矩陣，例例5 設(shè)歐氏空間設(shè)歐氏空間 中的內(nèi)積為中的內(nèi)積

7、為3xP11)()()(),(dxxgxfxgxf（1 1）求基）求基1 1，x,xx,x2 2的度量矩陣；的度量矩陣；（2 2）求）求 與與 的內(nèi)積。的內(nèi)積。21)(xxxf2541)(xxxg解：設(shè)基解：設(shè)基1 1，x x，x x2 2的度量矩陣為的度量矩陣為,)(33ijaA) 1 , 1 (11a,21111dx), 1 (2112xaa,0111xdx), 1 (23113xaa,321112dxx),(22xxa,32112dxx),(2233xxa,52114dxx),(23223xxaa,0112dxxx則則5203203203202A（2 2）求）求 與與 的內(nèi)積。的內(nèi)積。2

8、1)(xxxf2541)(xxxg方法一：利用定義，直接計算方法一：利用定義，直接計算11)()()(),(dxxgxfxgxf方法二：利用基的度量矩陣及向量在基下的坐標(biāo)可求兩方法二：利用基的度量矩陣及向量在基下的坐標(biāo)可求兩個向量的內(nèi)積。個向量的內(nèi)積。)(),(xgxf在基在基1 1，x x，x x2 2的坐標(biāo)分別為的坐標(biāo)分別為,)5, 4, 1 (,) 1 , 1, 1 (TT則則AgfT),(05415203203203202) 1 , 1, 1 (),(,)1(三、酉空間三、酉空間 定義定義 在在復(fù)復(fù)線性空間線性空間V V中，若任意兩個向量中，若任意兩個向量, 按某種法則有按某種法則有復(fù)

9、數(shù)復(fù)數(shù)與之對應(yīng)，記作與之對應(yīng)，記作并滿足公理，并滿足公理，),( ,) 2(時等式成立時等式成立當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)0,)4(0則稱則稱復(fù)數(shù)復(fù)數(shù) 為向量為向量 的內(nèi)積。的內(nèi)積。),(,定義了內(nèi)積的復(fù)線性空間叫做定義了內(nèi)積的復(fù)線性空間叫做酉空間酉空間。 ,3kk., 0),(),( . 3V對于酉空間的向量對于酉空間的向量 ,酉空間內(nèi)積的性質(zhì)酉空間內(nèi)積的性質(zhì));,(),(. 1kk);,(),(),( . 2例例7 7 在向量空間在向量空間C Cn n，設(shè)，設(shè) ,21TnaaanTnCbbb,21iiibaH,定義定義則則C Cn n成為酉空間成為酉空間。說明：說明：在有些教材上酉空間的定義與本教材

10、有所不同，主要是定義在有些教材上酉空間的定義與本教材有所不同，主要是定義中的（中的（3 3），可采用：），可采用：這樣，在例（這樣，在例（7 7）中的內(nèi)積為：）中的內(nèi)積為：iiiHba,(3)(3),kk,)2(V,.22112211nnnnyyyxxxAyxyyyAxxxyxHnnninjjiji212111,則則(1)(1)矩陣矩陣A A為為Hermite正定矩陣；正定矩陣；定理定理3 3 設(shè)設(shè)A A為為n n維酉空間維酉空間V V的基的基 的度量矩陣，則的度量矩陣，則n,21定理定理4 4 設(shè)設(shè) 與與 為為n n維酉空間維酉空間V V的基，它們的基，它們n,21n,21矩陣，則矩陣，則的

11、度量矩陣為的度量矩陣為A A和和B B，C C是是 到到 的過渡的過渡n,21n,21.ACCBH即同一酉空間不同基的度量矩陣是即同一酉空間不同基的度量矩陣是復(fù)相合矩陣復(fù)相合矩陣。練習(xí)練習(xí)P38 1;2;3第二節(jié)第二節(jié) 內(nèi)積空間的度量內(nèi)積空間的度量主要內(nèi)容：主要內(nèi)容：一、一、向量長度及性質(zhì)向量長度及性質(zhì)二、向量的正交性二、向量的正交性三、標(biāo)準(zhǔn)正交基與與施密特正交化方法三、標(biāo)準(zhǔn)正交基與與施密特正交化方法定義向量長度（模或范數(shù)）為定義向量長度（?；蚍稊?shù)）為).(,或當(dāng)當(dāng) 時，時，1稱為單位向量稱為單位向量. .稱稱 為為 的規(guī)范化單位向量的規(guī)范化單位向量. .,0V一、一、向量長度及性質(zhì)向量長度及

12、性質(zhì)設(shè)設(shè)V V是酉（歐氏）空間，是酉（歐氏）空間，,V定義定義 的距離為的距離為,.),(d1 1、向量長度的定義：、向量長度的定義：2 2、向量長度的性質(zhì)、向量長度的性質(zhì), 0) 1 (時等式成立；時等式成立；當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)0;)2(kk因此因此ChauchyChauchy不等式成立不等式成立. . 引理（引理（CauchyCauchy不等式）不等式）設(shè)設(shè)V V是酉（歐氏）空間，是酉（歐氏）空間，,V, 0,tt. 0,2,2tt,2,222證明證明: :由于對任意數(shù)由于對任意數(shù)t t，成立，成立即即利用一元二次不等式的性質(zhì)得利用一元二次不等式的性質(zhì)得即即即兩個向量線性相關(guān)時成立即兩個向量

13、線性相關(guān)時成立. . 向量的長度滿足向量的長度滿足( (在歐氏空間中證明在歐氏空間中證明) )說明說明：等號僅當(dāng)：等號僅當(dāng) 0t這就是著名的這就是著名的SchwarzSchwarz不等式。不等式。 Ryxii ,22221222212211nnnnyyyxxxyxyxyx,)(),(baCxgxf,)()()()(22dxxgdxxfdxxgxfbababa結(jié)合不同的歐氏空間，可得結(jié)合不同的歐氏空間，可得CauchyCauchy不等式的具體實例，如不等式的具體實例，如（1 1）（2 2）兩端開平方即得：兩端開平方即得： 設(shè)設(shè) 是內(nèi)積空間的任意兩個向量，則是內(nèi)積空間的任意兩個向量，則,),(2證

14、明證明由內(nèi)積的性質(zhì)及由內(nèi)積的性質(zhì)及CauchyCauchy不等式得不等式得( (在歐氏空間中）在歐氏空間中）推論推論1 1（三角不等式）（三角不等式）2222),(),(2),(正因為正因為CauchyCauchy不等式成立，因此可定義兩個向量不等式成立，因此可定義兩個向量的夾角的夾角. . 若若,arccos,),(, 0,則稱向量則稱向量 是是正交向量正交向量。,設(shè)設(shè) 是歐氏空間的任意兩個非是歐氏空間的任意兩個非0 0向量，定義向量，定義 的夾角的夾角為為,0二、向量的正交性二、向量的正交性1 1、向量、向量的的夾角夾角若若),)(,(),)(,(2,cos, 0,則稱向量則稱向量 是是正

15、交向量正交向量。,設(shè)設(shè) 是酉空間的任意兩個非是酉空間的任意兩個非0 0向量，定義向量，定義 的夾角的夾角為為,0（2 2）酉（歐氏空間）中的勾股定理：）酉（歐氏空間）中的勾股定理：故故.222),(2證明證明 由于由于 是正交的，即是正交的，即,設(shè)設(shè) 是歐氏空間的任意兩個正交向量，則有是歐氏空間的任意兩個正交向量，則有,222. 0,說明說明（1）零向量與任意向量都正交；零向量與任意向量都正交；.),(),(2),(22成立成立例例3 3 歐氏空間歐氏空間 的三角函數(shù)組是正交的的三角函數(shù)組是正交的,C,cos,sin,2cos,2sin,cos,sin, 1nxnxxxxx事實上，可以驗證對于

16、上述不同的三角函數(shù)事實上，可以驗證對于上述不同的三角函數(shù))(),(xgxf. 0)()(dxxgxf則稱則稱 是是正交向量組正交向量組。r,21酉空間中非零向量組酉空間中非零向量組r,21如果兩兩正交，如果兩兩正交，說明說明：勾股定理可以推廣到正交向量組上去，即：勾股定理可以推廣到正交向量組上去，即：若若 是正交向量組，則有是正交向量組，則有r,2122121nn2 2、正交向量組、正交向量組定理定理故故 兩兩正交的非零向量組線性無關(guān)兩兩正交的非零向量組線性無關(guān). .證明證明設(shè)設(shè)是兩兩正交的非零向量組是兩兩正交的非零向量組r,21是一組數(shù)，使是一組數(shù)，使rxxx,21, 02211rrxxx0

17、),(),(),(11irriiiixxxr,21線性無關(guān)線性無關(guān). . . 0),(iiix從而從而. 0ix則則, 0),(ii又又說明說明：在：在n n維內(nèi)積空間中，兩兩正交的非零向量不能超過維內(nèi)積空間中，兩兩正交的非零向量不能超過n n個個. . 用用 與上式兩端做內(nèi)積得：與上式兩端做內(nèi)積得：i例例1 1在在R R4 4中求與中求與 都正交的單位向量都正交的單位向量. .321,T1 , 1, 1 , 11T1 , 1 , 1, 12T1 , 1 , 1 , 13解：設(shè)所求向量為解：設(shè)所求向量為TxxxxX4321,則則0,0,0,321XXX000432143214321xxxxxx

18、xxxxxx即即此方程組的基礎(chǔ)解系為此方程組的基礎(chǔ)解系為T1,0,0, 1單位化得為所求的向量單位化得為所求的向量T1,0,0, 121三、標(biāo)準(zhǔn)正交基與與施密特正交化方法三、標(biāo)準(zhǔn)正交基與與施密特正交化方法 jijiji, 1, 0,n,21稱稱為為標(biāo)準(zhǔn)正交基標(biāo)準(zhǔn)正交基。在在n n維內(nèi)積空間中維內(nèi)積空間中 ，若基，若基 滿足滿足 n,21例例 R R3 3 的標(biāo)準(zhǔn)正交基的標(biāo)準(zhǔn)正交基0112111113122116130011e0102e1003e1 1、標(biāo)準(zhǔn)正交基及性質(zhì)、標(biāo)準(zhǔn)正交基及性質(zhì)則有：則有：性質(zhì)性質(zhì)：設(shè)：設(shè)n,21為為n n維酉（歐氏空間）的標(biāo)準(zhǔn)正交基，維酉（歐氏空間）的標(biāo)準(zhǔn)正交基，nn

19、yxyxyx2211),() 1 (nnxxx2211向量向量,V設(shè)設(shè)nnyyy2211nixii, 2 , 1),()2(對于任意對于任意（3 3）若）若n,21也是也是V V的標(biāo)準(zhǔn)正交基，的標(biāo)準(zhǔn)正交基，C C是是 到到n,21的過渡矩陣，則的過渡矩陣，則n,21.nHICC容易證明容易證明：一組基為標(biāo)準(zhǔn)正交基的充分必要條件是它的度量：一組基為標(biāo)準(zhǔn)正交基的充分必要條件是它的度量矩陣為單位矩陣。矩陣為單位矩陣。見見P31定理定理2.3.2T1 , 0 , 1321,332211xxx21,11x32,22x61,33x61,32,21321613221例例2 2 求求在基在基下的坐標(biāo)下的坐標(biāo).

20、 .解解 設(shè)設(shè)在基底下坐標(biāo)為在基底下坐標(biāo)為 0112111113122116132 2、施密特正交化方法、施密特正交化方法(Schmidt)(Schmidt) 111112122,111122221111,mmmmmmmmm則則 是正交向量組是正交向量組. .m,21并且與并且與 等價等價. .m,21m,21設(shè)設(shè)是內(nèi)積空間是內(nèi)積空間V V中的一個線性無關(guān)向量組。令中的一個線性無關(guān)向量組。令例例3 3解解 先正交化先正交化把把 的基化成標(biāo)準(zhǔn)正交基的基化成標(biāo)準(zhǔn)正交基. .3R1111 321310121213111132101,11121222021213111134321,2223211131

21、3311單位化得一組標(biāo)準(zhǔn)正交基單位化得一組標(biāo)準(zhǔn)正交基 111311r121612r101212022213r自學(xué)自學(xué)P30例例2.2.2練習(xí)練習(xí)P39 5; 7補充補充 線性變換線性變換在許多數(shù)學(xué)問題和實際問題中起著重要作用的是線性在許多數(shù)學(xué)問題和實際問題中起著重要作用的是線性空間到線性空間的映射，并且這些映射有一個共同點，即空間到線性空間的映射，并且這些映射有一個共同點，即保持加法與數(shù)乘兩種運算，我們稱這樣的映射為線性映保持加法與數(shù)乘兩種運算，我們稱這樣的映射為線性映射本章討論線性空間到線性空間的線性映射，著重討論射本章討論線性空間到線性空間的線性映射，著重討論線性空間到自身的線性映射線性空

22、間到自身的線性映射線性變換，并建立它們和矩線性變換，并建立它們和矩陣之間的聯(lián)系陣之間的聯(lián)系 第三節(jié)第三節(jié) 正交變換與酉變換正交變換與酉變換 在內(nèi)積空間中有一種特殊的線性變換，它保持向量的內(nèi)在內(nèi)積空間中有一種特殊的線性變換，它保持向量的內(nèi)積不變，這種變換稱為酉（正交）變換積不變，這種變換稱為酉（正交）變換2.3.1正交矩陣與正交變換正交矩陣與正交變換僅證明列向量組為正交單位向量組僅證明列向量組為正交單位向量組 nTnTTTAA2121nA,21jijijTiji, 0, 1,設(shè)設(shè)則則1111212221212111nTnTnTnnTTTnTTT例例 在在 2R里里,把每一向量逆時針旋轉(zhuǎn)一個角把每

23、一向量逆時針旋轉(zhuǎn)一個角 的的的一個正交變換的一個正交變換. 線性變換是線性變換是 2Rcossinsincosxxyy 例例 對于每一向量對于每一向量 3R ,令令 關(guān)于關(guān)于x0y面的鏡面反射面的鏡面反射 與它對應(yīng)與它對應(yīng). :是是 的一個正交變換的一個正交變換. 3R100010001xxyyzz 2.4.2酉矩陣與酉變換酉矩陣與酉變換定義定義 設(shè)設(shè) 是一個單位向量，令是一個單位向量，令nCHIH2)(則稱則稱H H是一個是一個HouseholderHouseholder矩陣或矩陣或HouseholderHouseholder變換變換. .性質(zhì)性質(zhì) 設(shè)設(shè)H H是一個是一個Householde

24、rHouseholder矩陣，則矩陣，則HouseholderHouseholder變換是酉變換變換是酉變換. .（1 1）H H是是HermiteHermite矩陣，矩陣， ；（2 2）H H是酉矩陣，是酉矩陣， ；（3 3）H H是對合矩陣，是對合矩陣， ；（4 4）H H是自逆矩陣是自逆矩陣（5 5）diagdiag( (I I, ,H H ) ) 也是一個也是一個HouseholderHouseholder矩陣矩陣; ;（6 6）若）若 則則det Hdet H = -1. = -1.HHHIHHHIH2HH1,nR定義定義2 ：12VV與12,VV( ,)0, 12.VV 是歐氏空間

25、是歐氏空間V中的兩個子空間，中的兩個子空間，如果對如果對恒有恒有則稱子空間則稱子空間12VV與為正交的為正交的,記作記作對給定向量對給定向量定義定義1：,V 如如果果對對于于恒恒有有1,V ( ,)0, 則稱向量與子空間則稱向量與子空間 正交，記作正交，記作 1V1.V 兩兩正交的子空間的和必是直和兩兩正交的子空間的和必是直和第四節(jié)第四節(jié) 正交投影正交投影例例1 1 設(shè)設(shè),nmCA則則; )()() 1 (HANAR. )()()2(HARAN分析：根據(jù)子空間正交的定義，即證：分析：根據(jù)子空間正交的定義，即證：),(AR),(HAN0),(證明證明（1 1）),(AR則存在則存在,nC使使,A

26、),(HAN則則,HAH),(因此因此AHHHA)(即即)()(HANAR在（在（1 1）中以）中以A AH H代替代替A A即得（即得（2 2）。）。定義定義3 設(shè)設(shè)W是歐氏空間是歐氏空間V的子空間，記的子空間，記稱稱為為的的正正交交補補空空間間。|,WWVWW 定理定理1 1 設(shè)設(shè)W W是歐氏空間是歐氏空間V V的一個有限維子空間，的一個有限維子空間，那么那么.WWV,（）,0WW 因而因而V V的每一個向量的每一個向量可以唯一寫成可以唯一寫成這里這里 1122s,s .V設(shè)設(shè)令令證明證明 當(dāng)當(dāng)W = 0W = 0時，定理顯然成立，這時時，定理顯然成立，這時 .VW 12,dim.ssW

27、.0W設(shè)設(shè)由于由于 W W的維數(shù)有限，的維數(shù)有限，因而可以取到因而可以取到W W的一個規(guī)范正交基的一個規(guī)范正交基那么那么,W而而 ,0,1,2, .iiiiiiis 12,s 由于由于是是W W的基，所以的基，所以與與W W正交，正交，這就證明了這就證明了.WWV.W即即,WW ,0. . 0剩下來只要證明這個和是直和。這是顯然的，剩下來只要證明這個和是直和。這是顯然的，那么那么從而從而定理被證明。定理被證明。 因為如果因為如果練習(xí)練習(xí) 見見P33 例例2.4.1注：分解是唯一的，即，若存在注：分解是唯一的，即，若存在V的子空間的子空間U滿足滿足U與與W垂垂直，且直，且V=U+W，則，則U就是

28、就是W的正交補的正交補.定義定義4 4：設(shè)設(shè)W W是歐氏空間是歐氏空間V V的有限維非平凡子空間，的有限維非平凡子空間，|,WWVW 為為的的正正交交補補空空間間, ,V 對對有有唯唯一一分分解解式式wwww,WW wW稱稱為為 在在上上的的正正交交投投影影。稱稱變變換換wwT（ ）= =為為V V到到W W的正交投影變換。的正交投影變換。注：可以證明，正交投影變換是線性變換。注：可以證明，正交投影變換是線性變換。(證明見證明見P34 定理定理2.4.2)幾何解釋幾何解釋P34 圖圖2.4.1證明證明 由于由于 ww,WW 而而所以所以ww( ,( ,.dd ） 即即 定理定理2 2 設(shè)設(shè)W

29、W是歐氏空間是歐氏空間V V 的一個有限維子空間，的一個有限維子空間， 是是V V 的任意向量，的任意向量， 是是 在在W W 上的正交投影，那么對于上的正交投影，那么對于W W 中任意向量，中任意向量， 都有都有 w, w ww（）（）由勾股定理由勾股定理22ww222www （） （）w. 從從而而， 正交投影的求法正交投影的求法*（選講）（選講）P34 定理定理2.4.4證明見證明見P3512,rW 結(jié)結(jié)論論：如如果果是是的的一一組組標(biāo)標(biāo)準(zhǔn)準(zhǔn)正正交交基基，則則 w1122r,r 定理定理 設(shè)設(shè)P P是是n n階方陣，則階方陣，則P P是正交投影矩陣的充分必要條件是是正交投影矩陣的充分必要

30、條件是P P是冪等的是冪等的HermiteHermite矩陣，即矩陣，即P P2 2=P,P=P,PH H=P. (P36)=P. (P36)正交投影矩陣的求法：正交投影矩陣的求法：設(shè)設(shè),dimrW r,21為為W W 的基，的基，),(21rM令令則則HHMMMMP1)(特別地，當(dāng)特別地，當(dāng)W的基為標(biāo)準(zhǔn)正交基時，即的基為標(biāo)準(zhǔn)正交基時，即,rHIMM從而從而HMMP （詳見（詳見P35）正交投影矩陣正交投影矩陣nC中正交投影變換在中正交投影變換在自然基自然基下的表示矩陣稱為正交投影矩陣下的表示矩陣稱為正交投影矩陣. .解解將將x1,x2正交化、單位化得正交化、單位化得111,110312211

31、),(),(2121MLW例例2 2 設(shè)設(shè)x x1 1= (0,1,1)= (0,1,1)T T，x x2 2 = (1,2,0)= (1,2,0)T T,W= L(x,W= L(x1 1,x,x2 2) )，求從，求從R R3 3到到W W的正交投影矩陣的正交投影矩陣P P， 并求并求y=(1,2,3)y=(1,2,3)T T在在W W上的投影。上的投影。HMMP 2/52/5032151215222261Py313131212131213121310051215222261練習(xí)練習(xí)P39 9; 101 1、問題的提出、問題的提出實系數(shù)線性方程組實系數(shù)線性方程組 12,Tm nijmAXb

32、AaRbb bb （1） 即任意即任意 都可能使都可能使 12,nx xx 211221miiinniia xa xa xb （2） 不等于零不等于零可能無解，可能無解，設(shè)法找實數(shù)組設(shè)法找實數(shù)組 使使（2）最小最小, , 00012,nxxx這樣的這樣的 為方程組為方程組（1）的的最小二乘解最小二乘解， 00012,nxxx此問題叫此問題叫最小二乘法問題最小二乘法問題.2 2、最小二乘法的表示、最小二乘法的表示設(shè)設(shè) 12111,.TnnnjjjjnjjjjjYAXa xa xa x（3） 用距離的概念，（用距離的概念，（2）就是就是 2.Yb 1122,nnYxxx由由（3）, , 設(shè)則設(shè)則1

33、2,nA 12(,)nL 12(,)nL 中其它向量的距離都短中其它向量的距離都短. 中向量中向量 使使 到它的距離到它的距離 比到比到 Yb()Yb 等價于找子空間等價于找子空間要找要找12(,)TnXx xx 使（使（2）最小，）最小，設(shè)設(shè),CbYbAX這等價于這等價于 12( ,)( ,)( ,)0,nCCC這樣（這樣（4）等價于）等價于12(,)nCL 必有必有 0TAbAXTTA AXA b 或或這就是最小二乘解所滿足的代數(shù)方程這就是最小二乘解所滿足的代數(shù)方程. 由定理由定理2.4.3可知可知即即 120,0,0,TTTnCCC（4）且且，當(dāng)當(dāng)時時，最最小小二二乘乘問問題題有有唯唯一一解解( )rank An 1TTXA AA b 當(dāng)當(dāng)時時，最最小小二二乘乘問問題題有有無無窮窮多多解解。( )ra