《內(nèi)積空間》PPT課件.ppt

1、第二章 內(nèi)積空間,一、實內(nèi)積空間的定義,1、實內(nèi)積空間的概念,例1 常見幾個線性空間上內(nèi)積的定義： 歐氏空間（有限維實內(nèi)積空間） ：, 上連續(xù)函數(shù)的全體構(gòu)成的空間 ：,注：向量的長度 或,正交向量 ：,實數(shù)域上所有n次多項式構(gòu)成的線性空間 ：,實數(shù)域上所有n階方陣構(gòu)成的線性空間 ：,上Cauchy-Schwarz不等式的分量形式：,上Cauchy-Schwarz不等式的積分形式：,例2 設(shè) 是 中的一組向量，證明這組 向量線性無關(guān)的充要條件是下列行列式（Gram）,證明：設(shè),2、正交基與子空間的正交關(guān)系,定義1 （正交組） 內(nèi)積空間中兩兩正交的一組非零向量，稱之為正交組。,注： 任何一個正交組

2、都是線性無關(guān)的。,定義2 （正交基） 在n維歐氏空間中，由正交組構(gòu)成的基，稱之為正交基。 如果正交基中每個基向量的長度均為1，則稱該組正交基為標(biāo)準(zhǔn)（或規(guī)范）正交基，通常記為,定理1 （正交基的構(gòu)造） 任一n維歐氏空間 都存在正交基。,證明（略）。 證明過程給出了正交基的一種構(gòu)造方法：著名的Schmidt正交化方法（線性代數(shù)學(xué)過）。,定義3（正交矩陣） 設(shè) ，如果 ，則稱 為正交矩陣。,性質(zhì)1 不同標(biāo)準(zhǔn)正交基之間的過渡矩陣為正交矩陣。,設(shè)n維歐氏空間的兩組標(biāo)準(zhǔn)正交基為,即,注：正交矩陣的不同列對應(yīng)元素乘積的和為零；類似地可以證明正交矩陣的不同行對應(yīng)元素乘積的和為零。,正交矩陣,性質(zhì)（略）,定義4

3、（正交子空間） 設(shè) 是內(nèi)積空間 的兩個子空間，如果對 ，均有 ，則稱 與 是正交的子空間，并記為 。,性質(zhì)2 設(shè)內(nèi)積空間 的兩個子空間 與 是正交的，則 是直和。,兩種方法說明：交集為零空間； 零元素表示唯一。,定義5（正交補(bǔ)空間） 設(shè) 是內(nèi)積空間 的兩個子空間，且滿足 ，則稱 是 的正交補(bǔ)空間，簡稱正交補(bǔ)，記為 。,性質(zhì)3 n維歐氏空間 的任一子空間 都有唯一的正交補(bǔ)。,證明:,如果 ，則 是 唯一的正交補(bǔ)。,如果 ，在 中選取一組正交基 ，并將其擴(kuò)充為 的一組正交基,則 就是 的正交補(bǔ)。,唯一性：,證明:,如果 ，則 是 唯一的正交補(bǔ)。,同理,利用Schmidt正交化方法將其化為正交基：,

4、將 擴(kuò)充為 的一組基：,解：,例4 設(shè) ，稱 的子空間 為矩陣 的值域，求 。,注：一般來說，稱 為矩陣 的零空間。,3、內(nèi)積空間的同構(gòu),定義1 （內(nèi)積空間的同構(gòu)） 設(shè) 是兩個內(nèi)積空間，如果 和 之間存在一個一一對應(yīng)關(guān)系 ，使得對任意的 滿足 則稱 和 是同構(gòu)的。,注：首先作為線性空間是同構(gòu)的，在此同構(gòu)之下保持內(nèi)積不變。,定理1 所有n維歐氏空間都同構(gòu)。,設(shè) 是n維歐氏空間， 是其一組標(biāo)準(zhǔn)正交基，則有 定義 容易驗證該映射為同構(gòu)映射，且保持內(nèi)積不變，從而 與 同構(gòu)。,設(shè) 是另一n維歐氏空間， 是其一組標(biāo)準(zhǔn)正交基，則有 定義 從而 與 同構(gòu)。,4、正交變換,定義1 （正交變換） 設(shè) 是內(nèi)積空間

5、的線性變換，如果 對任意的 ，滿足 則稱線性變換 為 的一個正交變換。,定理1 （正交變換的等價定義） 設(shè) 是n維歐氏空間 的一個線性變換，則下列命題等價： 是正交變換。 保持向量長度不變，即對 ，均有 。,如果 是 的一組標(biāo)準(zhǔn)正交基，則 也是 的一組標(biāo)準(zhǔn)正交基。 在 中任一標(biāo)準(zhǔn)正交基下的矩陣是正交矩陣。,證明思路：,是正交變換,取,是正交變換,由2中性質(zhì)1：不同標(biāo)準(zhǔn)正交基之間的過渡矩陣為正交矩陣，因此 為正交矩陣。,例5 幾個正交變換的例子： 的一個線性變換 ，對 則 是正交變換。,設(shè) 是內(nèi)積空間 的一個線性變換，則 是正交變換 。 即：保持距離不變的線性變換是正交變換。,設(shè) 是內(nèi)積空間 的

6、一個變換，證明：如果 保持 向量的內(nèi)積不變，即對 ，則 一定是線性變換，故是正交變換。,5、點(diǎn)到子空間的距離與最小二乘法,定義1 （距離） 設(shè) 是歐氏空間， ，稱 為 與 的距離，記為 。,性質(zhì)1 （距離的性質(zhì)） ，當(dāng)且僅當(dāng) 時等號成立。,定義2 （點(diǎn)到子空間的距離） 設(shè) 是歐氏空間 的一個子空間， ，稱 為 到 的距離。,問題: 達(dá)到最小距離的 具有什么性質(zhì)？,設(shè),如果,定義3 最小二乘法問題,提法1 （矛盾方程組求解） 設(shè)給定不相容（或矛盾）線性代數(shù)方程組 其中,尋求近似解 ，滿足 故稱之為最小二乘解，相應(yīng)方法稱為最小二乘法。,提法2 （數(shù)據(jù)擬合問題） 設(shè)給定一組數(shù)據(jù) ，尋 求一個近似函數(shù)

7、 （經(jīng)驗函數(shù)）來擬合該組 數(shù)據(jù)，使得,提法1的求法,記,問題 相當(dāng)于：對于 給定的向量 ，尋求 使得 之間 的距離達(dá)到最小。,記,法（正規(guī)）方程組,解：,一、復(fù)內(nèi)積空間的定義,6、復(fù)內(nèi)積空間（酉空間）,例7 常見幾個線性空間上復(fù)內(nèi)積的定義： n維酉空間（有限維復(fù)內(nèi)積空間） ：,實數(shù)域上所有n次多項式構(gòu)成的線性空間 ：,實數(shù)域上所有n階方陣構(gòu)成的線性空間 ：,上Cauchy-Schwarz不等式的分量形式：,關(guān)于復(fù)向量的長度、正交向量、正交基、標(biāo)準(zhǔn) 正交基的概念完全類似實內(nèi)積空間中的定義，這兒 不再一一概述。,定義2 （酉變換） 設(shè) 是酉空間 的線性變換，如果 對任意的 ，滿足 則稱線性變換 為

8、 的酉變換。,二、酉變換,定義3（酉矩陣） 設(shè) ，如果 ，則稱 為酉矩陣。,定理3 所有n維酉空間都是同構(gòu)的。,7、正規(guī)矩陣,定義1（正規(guī)矩陣） 設(shè) ，如果 ，則稱 為正規(guī) 矩陣。,常見的正規(guī)矩陣： 實對稱矩陣： 實反對稱矩陣： 厄米特矩陣： 反厄米特矩陣： 正交矩陣： 酉矩陣：,不屬于前述類型的正規(guī)矩陣：,引理 （酉矩陣的構(gòu)造） 設(shè) 是酉空間 的一個單位向量，則存在一個以 為第一個列向量的酉矩陣 。,證明：,取 ，且滿足,上述關(guān)于變量 的方程組的解空間為n-1維，不妨假設(shè) 其線性無關(guān)組為 ，將其正交單位化后 得到 ，則 構(gòu)成 的一組標(biāo)準(zhǔn)正交基，從而,證明：充分性直接利用定義驗證易得。,定理1

9、 （正規(guī)矩陣的判定條件） 設(shè) 為正規(guī)矩陣的充要條件是：存在酉矩陣 ，使得 酉相似于對角矩陣，即,必要性：數(shù)學(xué)歸納法證明（對階數(shù)n歸納）,當(dāng)n=1時，結(jié)論顯然成立。,假設(shè)結(jié)論對n-1階矩陣成立，下證對n階矩陣也成立。,設(shè) 是 的一個特征值， 是相應(yīng)單位特征向量，,由引理知，存在以 為列向量的酉矩陣,其中 是n-1階矩陣,下面易證 矩陣 和 均為正規(guī)矩陣。,因為 是n-1階正規(guī)矩陣，由歸納假設(shè)結(jié)論成立。,由歸納假設(shè)，存在n-1階酉矩陣 ，滿足,記 ， 仍為酉矩陣，,是矩陣 的n個特征值。,推論1 設(shè) 是n階正規(guī)矩陣，特征值為 是厄米特矩陣 的特征值全為實數(shù)。 是反厄米特矩陣 的特征值為0或純虛數(shù)。

10、 是酉矩陣 的每個特征值 的模均為1。,推論2 厄米特（Hermite）矩陣 任意兩個 不同特征值對應(yīng)的特征向量是正交的。,8、厄米特（Hermite）二次型,定義1（厄米特二次型） 設(shè) ， 為厄米特矩陣，則二次型 稱之為厄米特二次型， 的秩為二次型的秩。,例如：,注意：厄米特二次型與實二次型的區(qū)別。,二次型矩陣,厄米特二次型中不含交叉項時，稱為二次型的標(biāo)準(zhǔn)型，即此時二次型矩陣為對角形矩陣。,定理1 厄米特二次型 經(jīng)滿秩線性變換 后仍為厄米特二次型，且秩不變。,定義2（厄米特相合） 設(shè)厄米特二次型 經(jīng)滿秩線性變換 化為 ，則稱矩陣 與 是 厄米特相合。或者說，存在可逆矩陣 ，使得 ，則稱 與

11、厄米特相合。,注意：實二次型時稱為合同關(guān)系。,定理2 每個厄米特二次型 都可用某個酉變換 ，使其化為標(biāo)準(zhǔn)型： 其中 是 的特征值。,例8 化下列厄米特二次型為標(biāo)準(zhǔn)型：,解：該厄米特二次型的矩陣為,下面先計算矩陣的特征值。,解：該厄米特二次型的矩陣為,下面特征值相應(yīng)的特征向量。,解方程組,解方程組,解方程組,將特征向量 利用Schmite方法正交化 處理（本題3個向量已經(jīng)正交：不同特征值對應(yīng)的特 征向量一定正交），然后再進(jìn)行單位化。,將上述三個向量按照列排起來的矩陣就是酉矩陣 。,所求標(biāo)準(zhǔn)型為：,定義3（正（負(fù)）定二次型） 如果對 ，厄米特二次型 恒為正（負(fù)）數(shù)，則稱該二次型是正（負(fù)）定的，此時厄米特矩陣 稱為正（負(fù)）定的；若 恒不為負(fù)（正）數(shù)，即 ，則稱 為半正（負(fù)）定的，相應(yīng)的矩陣 稱為半正（負(fù)）定的。,定理3 厄米特二次型 為正定（或半正定）的充要條件是 的特征值全為正數(shù)（或全為非負(fù)數(shù)）。,證明：充分性由定理2易證，必要性（采用反證法）,設(shè)存在特征值為非負(fù)，不妨假設(shè),取