協(xié)方差矩陣和相關(guān)矩陣

1、、協(xié)方差矩陣變量說明:設(shè)1卜露川，為一組隨機變量，這些隨機變量構(gòu)成隨機向量五，冗F,每個隨機變量有m個樣本，則有樣本矩陣，耳瓦瓦履X2mXnm其中月0=LZ,切對應(yīng)著每個隨機向量X的樣本向量，涌口=12對應(yīng)著第i個隨機單變量的所有樣本值構(gòu)成的向量。單隨機變量間的協(xié)方差:xx隨機變量”之間的協(xié)方差可以表示為%=助人-/卬芝廣凱巧）根據(jù)已知的樣本值可以得到協(xié)方差的估計值如下:%=工工（比-Z愿包）%總-可以進一步地簡化為:協(xié)方差矩陣:xiix12XimX21Xn2%二一工她一Z%二明停的-1局幕7一嬴助缸M型耀i-111E藕M宵瑪-一弧口2航博用助AlU揶川一鱷力-F11M一再7工用用小fx3三1

2、11期礙用-fN 必m冽12L.IF1M一云,-Z刈S此,=工瓦照場北瓦舄瓦-占高十房十+瓦扃+瑪+十區(qū)Fm班1w=-Zl-Afi-ArmU一凡=一月+月+AJ,L、其中腑，從而得到了協(xié)方差矩陣表達式。如果所有樣本的均值為一個零向量，則式（5）可以表達成:補充說明:1、協(xié)方差矩陣中的每一個元素是表示的隨機向量X的不同分量之間的協(xié)方差，而不是不同樣本之間的協(xié)方差，如元素Cij就是反映的隨機變量Xi,Xj的協(xié)方差。2、協(xié)方差是反映的變量之間的二階統(tǒng)計特性，如果隨機向量的不同分量之間的相關(guān)性很小，則所得的協(xié)方差矩陣幾乎是一個對角矩陣。對于一些特殊的應(yīng)用場合，為了使隨機向量的長度較小，可以采用主成分分

3、析的方法，使變換之后的變量的協(xié)方差矩陣完全是一個對角矩陣，之后就可以舍棄一些能量較小的分量了（對角線上的元素反映的是方差，也就是交流能量）。3、必須注意的是，這里所得到的式（5）和式（6）給出的只是隨機向量協(xié)方差矩陣真實值的一個估計（即由所測的樣本的值來表示的，隨著樣本取值的不同會發(fā)生變化），故而所得的協(xié)方差矩陣是依賴于采樣樣本的，并且樣本的數(shù)目越多，樣本在總體中的覆蓋面越廣，則所得的協(xié)方差矩陣越可靠。4、如同協(xié)方差和相關(guān)系數(shù)的關(guān)系一樣，我們有時為了能夠更直觀地知道隨機向量的不同分量之間的相關(guān)性究竟有多大，還會引入相關(guān)系數(shù)矩陣。5、協(xié)方差作為描述X和Y相關(guān)程度的量，在同一物理量綱之下有一定的作

4、用，但同樣的兩個量采用不同的量綱使它們的協(xié)方差在數(shù)值上表現(xiàn)出很大的差異。由此引入相關(guān)系數(shù)。、二COV（x,y）xy.D（x）D（y）二、相關(guān)矩陣（相關(guān)系數(shù)矩陣）相關(guān)系數(shù)：著名統(tǒng)計學(xué)家卡爾皮爾遜設(shè)計了統(tǒng)計指標一一相關(guān)系數(shù)。 相關(guān)系數(shù)是用以反映變量之間相關(guān)關(guān)系密切程度的統(tǒng)計指標。相關(guān)系數(shù)是按積差方法計算，同樣以兩變量與各自平均值的離差為基礎(chǔ)，通過兩個離差相乘來反映兩變量之間相關(guān)程度；著重研究線性的單相關(guān)系數(shù)。依據(jù)相關(guān)現(xiàn)象之間的不同特征，其統(tǒng)計指標的名稱有所不同。如將反映兩變量間線性相關(guān)關(guān)系的統(tǒng)計指標稱為相關(guān)系數(shù)（相關(guān)系數(shù)的平方稱為判定系數(shù)）；將反映兩變量間曲線相關(guān)關(guān)系的統(tǒng)計指標稱為非線性相關(guān)系數(shù)、

5、非線性判定系數(shù)；將反映多元線性相關(guān)關(guān)系的統(tǒng)計指標稱為復(fù)相關(guān)系數(shù)、復(fù)判定系數(shù)等。相關(guān)系數(shù)用r表示，它的基本公式（formula）為：Z工Eg工28 了板/一（）產(chǎn)相關(guān)系數(shù)的值介于-1與+1之間，即-iwrw+i其性質(zhì)如下：當r0時，表示兩變量正相關(guān)，r0時，兩變量為負相關(guān)。當|r|=1時，表示兩變量為完全線性相關(guān)，即為函數(shù)關(guān)系。當r=0時，表示兩變量間無線性相關(guān)關(guān)系。0當0|r|1時，表示兩變量存在一定程度的線性相關(guān)。且|r|越接近1,兩變量間線性關(guān)系越密切；|r|越接近于0,表示兩變量的線性相關(guān)越弱。一般可按三級劃分：|r|0.4為低度線性相關(guān)；0.4w|r|0.7為顯著性相關(guān)；0.7w|r|1為高度線性相關(guān)。相關(guān)矩陣也叫相關(guān)系數(shù)矩陣，是由矩陣各列間的相關(guān)系數(shù)構(gòu)成的。也就是說，相關(guān)矩陣第i行第j列的元素是原矩陣第i列和第j列的相關(guān)系數(shù)。3、協(xié)方差矩陣和相關(guān)矩陣的關(guān)系由二者的定義公