4.3協(xié)方差及相關(guān)系數(shù)及其性質(zhì)ppt課件

1、一、基本概念一、基本概念二、二、n n 維正態(tài)變量的性質(zhì)維正態(tài)變量的性質(zhì)4.3協(xié)方差與相關(guān)系數(shù)對于二維隨機(jī)變量對于二維隨機(jī)變量(X ,Y ):已知聯(lián)合分布已知聯(lián)合分布邊緣分布邊緣分布 對二維隨機(jī)變量,除每個隨機(jī)變量各自的概率特性外, 相互之間還有某種聯(lián)系,問題是用一個怎樣的數(shù)去反映這種聯(lián)系. 問題的提出問題的提出 那么那么相互獨(dú)立相互獨(dú)立和和若隨機(jī)變量若隨機(jī)變量,YX).()()(YDXDYXD 不相互獨(dú)立不相互獨(dú)立和和若隨機(jī)變量若隨機(jī)變量YX?)( YXD22)()()(YXEYXEYXD ).()(2)()(YEYXEXEYDXD 協(xié)方差協(xié)方差反映了隨機(jī)變量反映了隨機(jī)變量 X , Y X

2、, Y 之間的某種關(guān)系之間的某種關(guān)系. )()( ),ov(C, ),Cov(. )( )( YEYXEXEYXYXYXYEYXEXE 即即記為記為的協(xié)方差的協(xié)方差與與稱為隨機(jī)變量稱為隨機(jī)變量量量1. 定義定義.)()(),Cov(的相關(guān)系數(shù)與為隨機(jī)變量YXYDXDYXXY一一 .協(xié)方差和相關(guān)系數(shù)的定義協(xié)方差和相關(guān)系數(shù)的定義若若D (X ) 0, D (Y ) 0 ,稱稱假設(shè)假設(shè), 0XY 稱稱 X ,Y X ,Y 不相關(guān)不相關(guān). .無量綱 的量)()(),Cov(YEYXEXEYX )()(YEYEXEXE . 0 相互獨(dú)立和若隨機(jī)變量YX2. 闡明闡明 3. 協(xié)方差的計算公式協(xié)方差的計算公

3、式 法1.假設(shè) ( X ,Y ) 為離散型，已知pij11cov(, )()( )ijijijX YxE XyE Y p 假設(shè)假設(shè) ( X ,Y ) ( X ,Y ) 為連續(xù)型，已知為連續(xù)型，已知f(x,y)f(x,y)cov( , )( )( ) ( , )X Yx E Xy EY f x y dxdy );()()(),Cov()1(YEXEXYEYX ).,Cov(2)()()()2(YXYDXDYXD 法2.4. 性質(zhì)性質(zhì) );,Cov(),Cov()1(XYYX ;, , ),Cov(),Cov()2(為為常常數(shù)數(shù)baYXabbYaX ).,Cov(),Cov(),Cov()3(21

4、21YXYXYXX 求求cov (X ,Y ) XY 1 0 p qX P 1 0 p qY P 例例1 1 知知 X ,Y X ,Y 的聯(lián)合分布為的聯(lián)合分布為XYpij 1 010 p 0 0 q0 p 1p + q = 1解解 1 0 p qX Y P ,)(,)(,)(,)(pqYDpqXDpYEpXE,)(pXYE1,),cov(XYpqYX解解dxdyyxfyxYX),()(),cov(21 dsdtesttts22221)()1 (21 dudteutttu22221)1 (2)( 22112uts令22112sx11ty22dtetduetu222212)1 (222112 21

5、例例2 2 設(shè)設(shè) ( X ,Y ) ( X ,Y ) ，求，求XY XY ),(222121N.)()(),Cov( YDXDYXXY于是于是結(jié)論結(jié)論;,)1(的的相相關(guān)關(guān)系系數(shù)數(shù)與與代代表表了了參參數(shù)數(shù)中中二二維維正正態(tài)態(tài)分分布布密密度度函函數(shù)數(shù)YX. )2(相相互互獨(dú)獨(dú)立立與與價價于于相相關(guān)關(guān)系系數(shù)數(shù)為為零零等等與與二二維維正正態(tài)態(tài)隨隨機(jī)機(jī)變變量量YXYX即即X ,Y X ,Y 相互獨(dú)立相互獨(dú)立X ,Y X ,Y 不相關(guān)不相關(guān).23,21, )4 , 0(, )3 , 1(,22YXZNNYXXY 設(shè)設(shè)分分別別服服從從已已知知隨隨機(jī)機(jī)變變量量.)2.()1 (的相關(guān)系數(shù)與求的數(shù)學(xué)期望和方差

6、求ZXZ解解.16)(, 0)(, 9)(, 1)()1( YDYEXDXE由由 23)(YXEZE得得)(21)(31YEXE .31 例例3 3 2,3Cov223)(YXYDXDZD),Cov(31)(41)(91YXYDXD )()(31)(41)(91YDXDYDXDXY . 3241 )()(21)(31YDXDXDXY . 033 .0) )()(),Cov( ZDXDZXXY故故 23,Cov),Cov()2(YXXZX),Cov(21),Cov(31YXXX .23,21, )4 , 0(, )3 , 1(,22YXZNNYXXY 設(shè)設(shè)分分別別服服從從已已知知隨隨機(jī)機(jī)變變量量

7、.)2.()1 (的相關(guān)系數(shù)與求的數(shù)學(xué)期望和方差求ZXZ1. 問題的提出問題的提出?,衡量接近的程度又應(yīng)如何來最接近可使應(yīng)如何選擇問YbXaba)(2bXaYEe 設(shè)設(shè).的的好好壞壞程程度度近近似似表表達(dá)達(dá)可可用用來來衡衡量量則則YbXae .,的的近近似似程程度度越越好好與與表表示示的的值值越越小小當(dāng)當(dāng)YbXae .,達(dá)達(dá)到到最最小小使使的的值值確確定定eba二、相關(guān)系數(shù)的意義二、相關(guān)系數(shù)的意義).(2)(2)(2)()(2222YaEXabEXYbEaXEbYE 得得并令它們等于零并令它們等于零求偏導(dǎo)數(shù)求偏導(dǎo)數(shù)分別關(guān)于分別關(guān)于將將,bae . 0)(2)(2)(2, 0)(2)(222Xa

8、EXYEXbEbeYEXbEaae解得解得,)(),Cov(0XDYXb .)(),Cov()()(0XDYXXEYEa )(2bXaYEe 得得中中代代入入將將,)(,200bXaYEeba )(minmin2,bXaYEebaba).()1(2YDXY 2. 相關(guān)系數(shù)的意義相關(guān)系數(shù)的意義.,系系較較緊緊密密的的線線性性關(guān)關(guān)系系聯(lián)聯(lián)表表明明較較小小較較大大時時當(dāng)當(dāng)YXeXY.,線性相關(guān)的程度較差線性相關(guān)的程度較差較小時較小時當(dāng)當(dāng)YXXY.,0不相關(guān)不相關(guān)YXXY和和稱稱時時當(dāng)當(dāng) )(200XbaYE 例例4 4 ?, )cos(,cos,2, 0的的相相關(guān)關(guān)系系數(shù)數(shù)和和求求是是常常數(shù)數(shù)這這里

9、里的的均均勻勻分分布布服服從從設(shè)設(shè) aa 解解, 0dcos21)(20 xxE ,21dcos21)(2022 xxE , 0d)(cos21)(20 xaxE ,21d)(cos21)(2022 xaxE ,cos21d)cos(cos21)(20axaxxE 數(shù)數(shù)為為由由以以上上數(shù)數(shù)據(jù)據(jù)可可得得相相關(guān)關(guān)系系.cosa ,1,0 時時當(dāng)當(dāng)a,1, 時時當(dāng)當(dāng)a .存在線性關(guān)系存在線性關(guān)系, 0,232 時時或或當(dāng)當(dāng)aa.不相關(guān)不相關(guān)與與 , 122 但但.不獨(dú)立不獨(dú)立與與因此因此 .cosa 的相關(guān)系數(shù)和的均勻分布服從, )cos(,cos,2, 0a(1) (1) 不相關(guān)與相互獨(dú)立的關(guān)系不

10、相關(guān)與相互獨(dú)立的關(guān)系3. 留意留意相互獨(dú)立相互獨(dú)立不相關(guān)不相關(guān)(2) (2) 不相關(guān)的充要條件不相關(guān)的充要條件; 0,1o XYYX不不相相關(guān)關(guān); 0),Cov(,2o YXYX不不相相關(guān)關(guān)).()()(,3oYEXEXYEYX 不不相相關(guān)關(guān)4. 相關(guān)系數(shù)的性質(zhì)相關(guān)系數(shù)的性質(zhì). 1) 1 (XY. 1,:1)2(baXYPbaXY使存在常數(shù)的充要條件是(1)(1)證：證： 由柯西一許瓦茲不等式知由柯西一許瓦茲不等式知 )()()(222YEXEXYE )()(|)()(|22YEYEXEXEYEYXEXE所以)()(| ),(|YDXDYXCov 即即所以所以|XY|XY|1 1。 意義意義

11、|XY|=1|XY|=1當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)Y Y跟跟X X幾乎有線性關(guān)系。這說幾乎有線性關(guān)系。這說明了相關(guān)系數(shù)的概率意義。明了相關(guān)系數(shù)的概率意義。 XYXY是刻畫是刻畫X X，Y Y之間線性相關(guān)程度。之間線性相關(guān)程度。. 1,1)2(baXYPbaXY使的充要條件是存在常數(shù). 1)()(XEXaYEYPa 使存在常數(shù). 1)()(YEXaEaXYP即，取)()(YEXaEb. 1,1baXYPbaXY使的充要條件是存在常數(shù)(2)(2)證：證： 由柯西一許瓦茲不等式中等號成立（由柯西一許瓦茲不等式中等號成立（ ）充要條件知充要條件知 1XY練習(xí)練習(xí) 設(shè)設(shè) ( X ,Y ) N ( 1,1; 4,4

12、; 0.5 ), ( X ,Y ) N ( 1,1; 4,4; 0.5 ), Z = X + Y , Z = X + Y , 求求 XZ XZ解解, 4)()(, 1)()(YDXDYEXE1/2, cov( , )2XYX Y6),cov(),cov(),cov(YXXXZX12),cov(2)()()()(YXYDXDYXDZD3/ 123/2.XZ)()(, )(22111221111XEXXEXECXEXEC )(,)()(22222112221XEXECXEXXEXEC寫為矩陣的形式： ,22211211 CCCC稱為隨機(jī)變量(X1,X2)的協(xié)方差矩陣。 (1)二維隨機(jī)向量的協(xié)方差矩

13、陣 二維隨機(jī)變量(X1,X2)有四個二階中心矩(設(shè)他們存在)，分別記為 三三.協(xié)方差矩陣協(xié)方差矩陣(2)推行定義 設(shè)X=(X1,X2,Xn) 為n維隨機(jī)向量,并記i=E(Xi)， njiXXCovCjiij, 2 , 1,),( 則稱=(1,2,n)為向量X的數(shù)學(xué)期望或均值，稱矩陣 nnnnnnCCCCCCCCCC212222111211為向量X的協(xié)方差矩陣。 例例6: 6: 設(shè)設(shè)(X,Y)(X,Y)N(N(1, 1, 2,12,22,2,12,22,),),求向量求向量(X(X，Y)Y)的均值的均值與協(xié)方差矩陣。與協(xié)方差矩陣。 解解: E(X)=1: E(X)=1，E(Y)=2E(Y)=2，

14、 212221),(,)(,)(YXCovYDXD 所以(X，Y)的均值為=(1,2) 22212121 (X，Y)協(xié)方差矩陣為 3. 協(xié)方差矩陣的性質(zhì) (1)協(xié)方差矩陣對角線上的元素Cii為Xi的方差即Cii=D(Xi) i=1，2，n；(2)協(xié)方差矩陣C為對稱矩陣,即Cij=Cji ,i，j=1，2，n；(3)C為非負(fù)定矩陣,即對于任意實(shí)向量t=(t1，t2，tn),有tCt0；證：性質(zhì)(1)，(2)顯然，只證(3) njnijjjiiinjnijiijtXEXXEXEtttCCtt1111)()(njnijjjiiiXEXtXEXtE11)()(njnijjjiiiXEXtXEXtE11

15、)()(21)( niiiiXEXtE4多維正態(tài)分布及其性質(zhì) 二維正態(tài)隨機(jī)向量X=(X1，X2) 的概率密度為 )()(2)()1(21exp121),(2222221221121211222121 xxxxxxf引入下面記號 222121212121, Cxxx 22112121212222111),(|1 xxxxCxCx)()(2)(1122222212211212112 xxxx經(jīng)運(yùn)算可得 222211| C 212121221|1 CC 于是X=(X1，X2) 的概率密度可寫成 )(21exp|21),(12/12/221 xCxCxxf 222121212121, Cxxx上式推廣

16、至n維正態(tài)分布的情況，于是有以下定義：(1)定義 若n維隨機(jī)向量X=(X1，Xn)的概率密度為 )(21exp|21),(12/12/21 xCxCxxxfnn 其中X=(X1，Xn),=(1，2，n)為n維實(shí)向量，C為n階正定對稱矩陣，則稱向量X=(X1，Xn)服從n維正態(tài)分布，記為XN(,C) . 對于n維正態(tài)分布XN(,C) ，X的期望為，X的協(xié)方差矩陣為C。 (2) (2) 性質(zhì)性質(zhì) （P179P179頁）頁） n n維正態(tài)分布具有下述性質(zhì)：維正態(tài)分布具有下述性質(zhì)：1)n1)n維隨機(jī)向量維隨機(jī)向量(X1(X1，Xn)Xn)服從服從n n維正態(tài)分布充要條件是維正態(tài)分布充要條件是X1X1，

17、XnXn的任意線性組合的任意線性組合l1X1+l2X2+lnXn(l1,l2,lnl1X1+l2X2+lnXn(l1,l2,ln是不全為是不全為0 0的數(shù)的數(shù)) )服從一服從一維正態(tài)分布。維正態(tài)分布。2)若X=(X1,Xn)N(,C)，設(shè)Y=(Y1,Y2,Ym)=AX,即Yi為Xj (j=1，2，n)的線性函數(shù),i=1，2，m，則YN(A，ACA)，其中A為m行n列且秩為m的矩陣。3)設(shè)(X1，Xn)服從n維正態(tài)分布，那么“X1，Xn相互獨(dú)立與“X1，Xn兩兩不相關(guān)是等價的。 例例7: 7: 設(shè)設(shè)X XN N0 0，1 1），），Y YN(0N(0，1 ),1 ),若若X X與與Y Y相互獨(dú)立

18、，相互獨(dú)立，求求E(|X-Y|)E(|X-Y|)。 42221)(zezf 于是 2|221|)(|)(|42dzezZEYXEz解: 令Z=X-Y，問題化為求E(|Z|)，為求E(|Z|),我們先求出Z的概率密度. 由于(X，Y)服從二維正態(tài)分布，由性質(zhì)1)知Z服從一維正態(tài)分布，而E(Z)=E(X-Y)=E(X)-E(Y)=0，D(Z)=D(X-Y)=D(X)+D(Y)=2，故ZN0，2），即Z的概率密度為 例8: 設(shè) ,問X與Z是 否獨(dú)立? 23,)21,4 ,3 , 1 , 0(),(22YXZNYX 又 解: 由于 YXZX213101 由性質(zhì)2)知(X，Z)服從二維正態(tài)分布，再由性質(zhì)3)知判斷X與Z是否獨(dú)立等價于判斷X與Z是否不相關(guān)。)23,(),(YXXCovZXCov ),(21),(31YXCovXXCov )()(21)(31yDxDXDXY 043)21(21331222 D(X)=32， D(Y)=42，XY=-1/2, 于是XZ=0所以X與Z不相關(guān)，由此可得X與Z相互獨(dú)立。 小結(jié)：小結(jié)：1.1.結(jié)論結(jié)論1 1：X X與與Y Y相互獨(dú)立相互獨(dú)立 XY=0 XY=0 X X與與Y Y不相不相關(guān)；關(guān)； 反之，反之，XY=0 XY=0 不能推出不能推出