多元統(tǒng)計分析-高等代數(shù)初步(研究生用)

1、多變量分析中常用的矩陣代數(shù)華中師大 劉華山一、矩陣及其主要相關(guān)概念（一）矩陣（matrix）：一群數(shù)排列成m行（row,橫行）n列（column,縱列）所得到的數(shù)表，或數(shù)的矩形陣列。如： 矩陣用大寫黑體字母表示為：A，或i為行序數(shù)，j為列序數(shù)。 一行一列的矩陣等同于一個數(shù)，即A=（a）=a（二）方陣（square matrix）：行數(shù)與列數(shù)相等的矩陣。如B為3階方陣。 （三）方陣之跡（trace）:方陣自左上至右下的主對角線各元素之和。記作trA。如上例方陣B之跡為58.（四）轉(zhuǎn)置矩陣（transpose）:將矩陣A的第i行，變?yōu)榈趇列，所得到的新矩陣，叫做矩陣A的轉(zhuǎn)置矩陣，記作如上例，方陣B

2、之轉(zhuǎn)置矩陣為： （五）對稱矩陣（symmetric matrix）：如果在對稱矩陣中，為節(jié)省起見，對稱矩陣主對角線上方一側(cè)的元素可略去不寫。（六）三角矩陣（triangular matrix）：主對角線一側(cè)元素皆為零的矩陣。其中，主對角線左下方有非零元素的三角矩陣，叫下三角矩陣；主對角線右上方有非零元素的三角矩陣，叫上三角矩陣。為節(jié)省起見，三角矩陣中主對角線一側(cè)的皆為零的元素可略去不寫，但要寫一個“零”字，以與對稱矩陣相區(qū)別。（七）對角線矩陣或?qū)蔷仃嚕╠iagonal matrix）:除主對角線元素外，其余元素皆為零的矩陣（方陣）。主對角線元素指。對角線矩陣可以簡寫如下：（八）單位矩陣或單元

3、矩陣（identity matrix）:主對角線各元素皆為1的對角線矩陣?？梢杂涀鲉卧仃嚺c任何矩陣A相乘，不論左乘，還是右乘（如果可乘的話），其積為矩陣A。(九) 零矩陣（zero matrix）:零矩陣可以表示為（十）滿秩（full rank）矩陣與缺秩（deficient rank）矩陣有矩陣A為缺秩矩陣。 （十二）系數(shù)矩陣與增廣矩陣 設(shè)有方程組Ax=b (其中A為系數(shù)矩陣，x為未知數(shù)列向量，b為常數(shù)列向量)，則 A為系數(shù)矩陣，為增廣矩陣。 則（十三）正交矩陣 二、向量及其有關(guān)概念 （一）向量（vector）：只有一行或一列的矩陣，叫向量。 向量以小寫黑體英文字母表示。行向量各元素間有逗

4、號隔開。（二）行向量與列向量 m×1矩陣，叫m維列向量；1×n矩陣，叫n維行向量。如未加說明，向量都是指列向量。 為了節(jié)約篇幅，列向量通常寫作行向量的轉(zhuǎn)置。 （三）單元向量（unit vector） 元素都是1的向量，叫單元向量。用黑體數(shù)字1表示，右下可加數(shù)字表示維數(shù)。注意不應(yīng)與單元矩陣I相混淆。 （四）零向量（zero vector） 元素都是0的向量，叫零向量。用黑體數(shù)字0表示. 三、矩陣之間的關(guān)系 （一）轉(zhuǎn)置矩陣（transpose） （二）負矩陣 （三）逆矩陣（inverse matrix） 如果有A的逆矩陣是惟一的。只有滿秩矩陣才有逆矩陣。例如 (四)同型矩陣如兩

5、個矩陣A和B具有相同的行數(shù)和相同的列數(shù)，則A、B為同型矩陣。（五）矩陣相等A、B為同型矩陣，且兩個零矩陣、兩個單元矩陣不一定相等，因為他們可能不同型。 （六）伴隨矩陣（adjoint matrix）設(shè)有n階矩陣A，將A的每一個元素替換為其對應(yīng)的代數(shù)余子式，然后再轉(zhuǎn)置，所得到的矩陣，叫原矩陣的伴隨矩陣。A的伴隨矩陣記作adjA或A*. 四、行列式及其有關(guān)概念和計算 (一)行列式（determinant）行列式實際是一系列的幾個數(shù)連乘積的和的一種記錄式。通常用D表示。n階矩陣（方陣）A，則A的行列式記作detA或（二）行列式與矩陣1,行列式是一個數(shù)值，矩陣是含有若干行與列的一個數(shù)表；2.行列式的行

6、數(shù)與列數(shù)相等，矩陣的行數(shù)與列數(shù)可不相等；3.矩陣與行列式的幾何意義：矩陣中各列表示各向量在空間上的關(guān)系，行列式表示各列向量構(gòu)成的平行多面體的體積。（三）行列式的子式、余子式、代數(shù)余子式1.行列式的子式：由行列式的部分行、列相交處的元素按原來位置組成的行列式，叫原行列式的子式。由K行K列相交處的元素組成的子式，叫K階子式。矩陣也有對應(yīng)的子式。例如一個3×4階矩陣4.余子式：在n階行列式中，劃去所在行與列的元素，剩余元素按原序組成的一個n-1階行列式，叫的余子式，5.代數(shù)余子式：在余子式前乘以代數(shù)余子式。例如（四）行列式之展開法 1.二階、三階行列式可用對角線法展開 練習(xí)： 2.四階及以

7、上階行列式求法：子式展開法（也適于二階、三階行列式） 可以按任一行或任一列展開行列式。即就某一行（或某一列），以該行每一元素乘以該元素的代數(shù)余子式，相加即得行列式的值。注意代數(shù)余子式由余子式加正負號得到。正負號在各行個列是正負間隔排列的。 例1：對“1”之例2,用子式展開法計算。 練習(xí)：計算行列式的值 （五）行列式性質(zhì)1.若n階行列式有一行（或）一列元素全為零，則行列式為零；2.行列互換，行列式值不變。即行列式轉(zhuǎn)置后，行列式的值不變。即3.對換行列式任意兩行（或任意兩列），則行列式變號。4.行列式如果有兩行相同，則此行列式為零。5.用數(shù)k乘行列式，等于任一行（或任一列）的各元素都乘以數(shù)k。反過

8、來，某行各元素的公因式可提出行列式符號前。6.行列式如果有兩行成比例，則此行列式為零。7.上三角行列式、下三角行列式、對角線行列式皆等于其對角線上各元素的乘積。9.行列式某行的K倍加到另一行，則行列式的值不變。 (六)解方程的克來姆法則如果n元n個方程的線性方程組的系數(shù)行列式D0,則此方程組有惟一解： 五、矩陣的運算（一）矩陣加法與減法1.加減法法則：矩陣加減法是使兩矩陣對應(yīng)元素相加減。只有同型矩陣或維數(shù)相同的兩個行（列）向量才能相加。2.矩陣加法的性質(zhì)（1）加法交換律：A+B=B+A（2）加法結(jié)合律：A+（B+C）=(A+B)+C（3）(二)矩陣乘法1.乘法法則（1）兩矩陣相乘：左邊矩陣的第

9、i行的各元素，乘以右邊矩陣的第j列的各對應(yīng)元素，將其積相加，所得的和就是積的第i行第j列的元素。矩陣乘法是有條件的，只有當(dāng)左邊矩陣的列數(shù)與右邊矩陣的行數(shù)相等時，乘法才有可能。例1： （2）數(shù)乘矩陣：數(shù)k與矩陣A相乘，就是k與矩陣A的每個元素都相乘。 2.矩陣乘法性質(zhì) （1）結(jié)合律 （AB）C=A(BC) （kl）A=k(lA)=l(kA) k(AB)=(kA)B=A(kB) （2）分配律 左分配律 A（B+C）=AB+AC 右分配律（B+C）A=BA+CA 自然有（A+B）（C+D）=AC+BC+AD+BD 數(shù)與矩陣分配律k(A+B)=kA+kB, (k+l)A=kA+lA（3）矩陣乘法不滿足

10、交換律雖然一般地說ABBA，但AB的跡等于BA的跡。（4）兩個非零矩陣的乘積可為零矩陣（7）乘法矩陣不滿足消去律若AB=AC,不一定有B=C.3.關(guān)于A、B可交換當(dāng)AB=BA時，稱A、B可交換（1）單位矩陣與任一同階矩陣（顯然是方陣，否則交換后不可乘）可交換；即（2）零矩陣與任一同階矩陣A可交換；（3）矩陣與其逆矩陣可交換；六、向量的運算向量運算規(guī)則如同矩陣運算。向量的線性運算具有類似矩陣運算的8條性質(zhì)。七、向量的內(nèi)積和外積設(shè)有向量當(dāng)左因子為行向量時，右因子為列向量時，乘積為一個數(shù)，稱作與的內(nèi)積，或數(shù)量積，記作（，）；當(dāng)左因子為列向量，右因子為行向量時，乘積為一個方陣，稱作與的外積。一個向量與

11、自身的內(nèi)積等于其長度的平方。八、轉(zhuǎn)置的性質(zhì) 6.九、逆矩陣的計算與性質(zhì)（一）逆矩陣的求法1. 2×2矩陣A的逆矩陣求法：只需使左上右下的元素換位；右上左下的元素反號（這樣做實際是求出矩陣A的伴隨矩陣），再除以；例1：設(shè)有矩陣2.對角線矩陣的逆矩陣的求法：將對角線上的各非零元素改為其倒數(shù)；如果對角線上有0元素，則此矩陣不可逆（因其對應(yīng)的行列式為0）。3.伴隨矩陣法有n階方陣A，當(dāng)4.利用初等變換的方法求逆將可逆方陣A與同階單位矩陣并列，運用初等行變換將A化為單位矩陣時，每步采用相同初等行變換的單位矩陣就變?yōu)锳的逆矩陣。（二）逆矩陣的性質(zhì)十、矩陣的初等變換及其性質(zhì)、作用（一）矩陣初等變換

12、1.初等行變換（1）交換矩陣的第i、j兩行位置，記作；（2）用一個非零數(shù)k乘第i行的所有元素，記作；（3）將第j行所有元素的k倍，加到第i行對應(yīng)元素上去，記作。2.初等列變換與上類似，分別記作。（二）矩陣初等變換的性質(zhì)1.不改變矩陣的秩；2.對增廣矩陣作初等變換不改變方程組的解；（三）矩陣初等變換的作用1.解線性方程組；2.求矩陣的秩：利用矩陣初等變換可得到階梯形矩陣，階梯形矩陣的非零行的行數(shù)，即是矩陣的秩；繼續(xù)對階梯形矩陣實行初等變換可得到原矩陣的標準形，標準形左上角單元矩陣的階數(shù)即是原矩陣的秩。3.求矩陣的逆矩陣。十一、階梯矩陣和標準型 （一）階梯矩陣的性質(zhì)形如X=的矩陣叫階梯矩陣。說明：

13、皆為非零元素，它們是所在行第一個非零元素；角標相鄰的處于相鄰行，但不一定處于相鄰的列；故它們不一定是對角線元素，不能寫作的形式。階梯矩陣的特征是 （1）若有零行，則處于矩陣的下方；（2）非零行的第一個非零元素的左邊的零的個數(shù)隨行標遞增（不一定是依次增加1）。（二）標準型任意矩陣A都如一個形如 的矩陣等價，這個矩陣稱為矩陣A的等價標準型（標準形）。其中十二、矩陣的秩（一）秩的定義矩陣A中不為零的子式的最高階數(shù)，叫矩陣A的秩，記作r(A)。對定義的說明：若A至少有一個r階子式不為零，而所有的r+1階子式全為零時，有r(A)=r.0矩陣的秩規(guī)定為0。(二)滿秩矩陣與缺秩矩陣（見前）(三)秩的性質(zhì)1.

14、對于任意m×n矩陣A，有0r(A)min(m,n)2.當(dāng)且僅當(dāng)A是零矩陣時，r(A)=03.對n階方陣A，7.n階方陣可逆的充要條件是A為滿秩矩陣。十三、用初等變換解方程（一）方程組的初等變換用克來姆法則解線性方程組有許多限制，故對于一般n元m個方程的線性方程組，通常用高斯消元法求解。高斯法求解實際是加減消元法，其實質(zhì)是對線性方程進行初等變換，把原方程組化為三角方程組，再用回代法解出適合于方程組的未知數(shù)的值。包括消元過程與回代過程兩步。方程組的初等變換包括：1.互換兩個方程的位置；2.用一個非零數(shù)乘某一方程的兩邊；3.用數(shù)k乘一個方程并將其加到另一個方程上。可以證明，經(jīng)過初等變換，方

15、程組的解不變。（二）一個實例例：設(shè)有方程 增廣矩陣為：十四、通過方程初等變換的途徑討論線性方程組的解（一）一般線性方程組（n元m個線性方程組成的方程組）的解的討論如上所述。（二）齊次線性方程組的解的討論現(xiàn)有齊次線性方程組小結(jié)：對于齊次線性方程組：1.齊次線性方程組必有解。因為恒有r(A)=r(B).2.根據(jù)r與n的大小關(guān)系，方程組的解有兩種情況：（1）若r(A)=r<n,方程組有無數(shù)組解，其中必有非零解；這些解中包含(n-r)個自由未知量。而這些自由未知量可以任意指定，當(dāng)然可以指定為非零數(shù)。（2）若r(A)=r=n,則方程組僅有一組零解。 （三）n元n個方程組成的齊次線性方程組的解的討論

16、 這類方程組是上述齊次線性方程組的特例，其特點是：一次方程；無常數(shù)項；方程個數(shù)等于未知數(shù)的個數(shù)。如下：n元n個方程組成的齊次線性方程解的判定定理：這類方程必有解，因為它是齊次線性方程。定理：n元n個方程組成的齊次線性方程組有非零解的充要條件是其系數(shù)行列式為零。即。因為此時必有r(A)=r<n；只有當(dāng)時，才有r(A)=r=n.十五、特征值和特征向量1.特征值(eigenvalue)也叫特征根（characteristic root）。對于n階方陣A，若存在數(shù)和非零n維向量k,使得式子Ak= k成立，(如k、換為矩陣K、時，則為AK=K)則為矩陣A的特征根，k為矩陣對應(yīng)于特征根的特征向量(e

17、igenvector) 。在主成分分析中n個特征根分別是n個主成分各自所解釋的觀測變量的方差。特征向量k則是表達主成分的觀測變量線性組合中的權(quán)系數(shù)。以下是一個實例： 2.求n階方陣A的特征值和特征向量為使必須使（移項）變形為 這是一個關(guān)于k(k是n維非零向量)的齊次線性方程組，由n個方程組成，即這是一個n元n個方程組成的線性方程組。要使這一方程組有非零解，必須使其系數(shù)行列式為零。即這是一個關(guān)于的n次方程,叫做A的特征方程，解此方程得到的n個根，將此n個值分別代入得到對應(yīng)于每個特征值的特征向量。另 叫A的特征多項式。 例：求矩陣A的特征值與特征向量解特征方程的得：可以用初等變換方法解此方程，也可求方程組系數(shù)矩陣的伴隨矩陣的方法， 可記作：十六、二次型及其導(dǎo)數(shù)（一）二次型齊次的多元二次多項式稱為二次型，如當(dāng) 上式可以寫作：（二）表示一個二次型設(shè)為n維行向量，A為n階對稱方陣，即，則 表示的是二次型，是一個多項式。（三）二次型的導(dǎo)數(shù)二次型的導(dǎo)數(shù)等于2Ak十七、向量的正規(guī)化、正交化（一）向量的長度向量的幾何表示是坐標系中一條有向線段。二維向量 的幾何表示是坐標系中以原點為起點，以點（3,4）為終點的一條有向線段。此向量的長度為 ；三維向量(二)向量正規(guī)化使長度不為1的向量b變?yōu)殚L度為1的向量，叫做使向量正規(guī)化。正規(guī)化后的向量記作。向量正規(guī)化不改變向量的方向，但改變向