概率論與數(shù)理統(tǒng)計知識點總結(jié)詳細

1、概率論及數(shù)理統(tǒng)計第一章 概率論的基本概念. 22樣本空間、隨機事件 . 24等可能概型（古典概型）. 45條件概率 . 46獨立性 . 5第二章 隨機變量及其分布. 51隨機變量. 52離散性隨機變量及其分布律. 53隨機變量的分布函數(shù). 74連續(xù)性隨機變量及其概率密度. 75隨機變量的函數(shù)的分布. 8第三章 多維隨機變量. 81二維隨機變量. 82邊緣分布. 93條件分布. 104相互獨立的隨機變量. 105兩個隨機變量的函數(shù)的分布. 11第四章 隨機變量的數(shù)字特征. 121數(shù)學期望 . 122方差. 13第 1 頁3協(xié)方差及相關系數(shù). 13第五章 大數(shù)定律與中心極限定理. 161大數(shù)定律.

2、 162中心極限定理. 16第一章 概率論的基本概念2樣本空間、隨機事件1事件間的關系 則稱事件B包含事件A，指事件A發(fā)生A B必然導致事件B發(fā)生稱為事件A及事件B的和ABxx事件，指當且僅當A，B中至少有一個發(fā)生時，事件 發(fā)生AB稱為事件A及事件B的積ABxx事件，指當A，B同時發(fā)生時，事件 發(fā)生ABABx且x稱為事件A及事件B的差事件，指當且僅當A發(fā)生、B不發(fā)生時，事件 發(fā)生AB，則稱事件A及B是互不相容的，或AB A及事件B相容的，則稱事件A及事件B互為ABS且AB 逆事件，又稱事件A及事件B互為對立事件2運算規(guī)則 交換律AB B A AB B A第 2 頁結(jié)合律(AB)C A(BC)

3、(AB)C (BC)分配律A（BC (AB)(AC)徳摩根律A B A B A B A B3頻率及概率定義 在相同的條件下，進行了n次試驗，在這n次試驗中，事件A發(fā)生的次數(shù) 稱為事件A 稱為事件nn nAAA發(fā)生的頻率概率：設E是它的樣本空間，對于E的每一事件A賦予一個實數(shù)，記為1概率 滿足下列條件：P()（1）非負性：對于每一個事件A0 P() 1（2）規(guī)范性：對于必然事件SP 1（3）可列可加性：設是兩兩互不相容的事件，有AA ,A ,12n（ 可以取 ）nnP( A ) P(A )nkkk1k12概率的一些重要性質(zhì)：（i）P ) 0A) P(A )nnA ,A ,AP(12nkkk1k1

4、（ 可以取 ）n（iii）設 A，B是兩個事件若，則，A BP(B ) P(B) P()P(B) P(A)（iv）對于任意事件A，P(A) 1第 3 頁（v）（逆事件的概率）P(A) 1 P(A)（vi）對于任意事件A，B有4等可能概型（古典概型）P(AB) P(A) P(B) P(AB)件發(fā)生的可能性相同若事件 A 包含 k 個基本事件，即，里Ae e e ii2i1ki ，i ，i 2n中某k個不同的數(shù)，則有12,k k AkP() Pe n Si jj15條件概率定義：設A,B是兩個事件，且，稱P 為(AB)P(A) 0P(B|)）P()事件A發(fā)生的條件下事件B發(fā)生的條件概率條件概率符合

5、概率定義中的三個條件1 非負性：對于某一事件B，有。P(B| ) 02 規(guī)范性：對于必然事件S，。P(S | ) 13 可列可加性：設是兩兩互不相容的事件，則有B ,B ,12P( B A ) P(B A )iii1i1乘法定理 設式，則有稱為乘法公P(A) 0P(AB) P(B)P(A| B)）第 4 頁全概率公式：貝葉斯公式：nP() P(B )P(A| B )）iii1P(B )P(A|B )P(B | ) kkkn ( ) ( | )P B P A Biii16獨立性定義 設A，B是兩事件，如果滿足等式P(AB)P(A)P(B)，則稱事件A,B相互獨立定理一 設A，B是兩事件，且，若相

6、互獨立，則P() 0 P(B| ) P B定理二 若事件A和BA及BA與BA與B第二章 隨機變量及其分布1隨機變量定義設隨機試驗的樣本空間為是定義在樣本Se. X X(e)空間S上的實值單值函數(shù)，稱XX(e)為隨機變量2離散性隨機變量及其分布律或可列無限多個，這種隨機變量稱為離散型隨機變量滿足如下兩個條件（1）第 5 頁 =1P(X x ) pp 0kPkkkk1，則稱X服從以p為參數(shù)的 分布或兩點分布。（2）伯努利實驗、二項分布P(A) p 0 p 1)P(A)1-pn =1Pkn-kP kk kn注意到 是二項式（pqn的展開式中出現(xiàn) 的那一項，我pkkn-k k 其中 是常數(shù)，則稱X服從

7、 0k-第 6 頁3隨機變量的分布函數(shù)定義 設 X 是一個隨機變量，x 是任意實數(shù)，函數(shù)F(x) PX x, - x 稱為X的分布函數(shù)分布函數(shù)，具有以下性質(zhì)(1)是一個不減函數(shù)（ 3 ）F(x) P(X x)F(x)（ 2 ）0 F(x) F() 0,F() 1F(x0) F(x),即F(x)4連續(xù)性隨機變量及其概率密度連續(xù)隨機變量：如果對于隨機變量X的分布函數(shù)在非負可積函數(shù) ，使對于任意函數(shù)x有f(x)則稱F(x) xf（t）dt,-x 為連續(xù)性隨機變量，其中函數(shù)f(x)稱為X的概率密度函數(shù)，簡稱概率密度1 概率密度 f(x)f(x)dx1；f(x)(2) - 在點x處連續(xù)，則（3）P(x

8、X x ) f(x)(x)xf2121有F (x) ( )，f x2,三種重要的連續(xù)型隨機變量(1)均勻分布1若連續(xù)性隨機變量X具有概率密度x b，a ，則成Xf(x) b-a 0 ，其他在區(qū)間(a,b)上服從均勻分布.記為(2)指數(shù)分布X U（a，b）第 7 頁1若連續(xù)性隨機變量 X 的概率密度為 e ，. 0 其中-xxf (x) 0，其他為常數(shù)，則稱X服從參數(shù)為 的指數(shù)分布。 0（3）正態(tài)分布若 連 續(xù) 型 隨 機 變 量 X 的 概 率 密 度 為1(x2f (x) e - x ，22的正態(tài)分布或高斯分其中，（ 0)X，布，記為X N（，）特別，當時稱隨機變量X服從標準正態(tài)分布 ， 1

9、5隨機變量的函數(shù)的分布定理 設隨機變量X具有概率密度又設函數(shù)f (x- x ,g(x)x處處可導且恒有，則 Y= 是連續(xù)型隨機變量，其概率( )g X,( ) 0g x 密度為f hX(y) h (y), y f (y) 0，Y第三章 多維隨機變量1二維隨機變量定義 設 E 是一個隨機試驗，它的樣本空間是和Se. X X(e)YY(e)是定義在S上的隨機變量，稱XX(e)為隨機變量，由它們構成的一個向量（X，Y）叫做二維隨機變量設（X，Y）是二維隨機變量，對于任意實數(shù) x，y，二元第 8 頁函數(shù)稱為二維隨機變 記成 Y 量（X，Y）的分布函數(shù)可列無限多對，則稱（X，Y）是離散型的隨機變量。我們

10、稱為二維離散型隨機變P(X xY y ) p ij2ijij量（X，Y）的分布律。對于二維隨機變量（X，Y）的分布函數(shù)，如果存F（x，）在非負可積函數(shù) f（x，y），使對于任意 x，y 有 x（u，）dudv，（x，y- -數(shù)f（x，y）稱為隨機變量（X，Y）的概率密度，或稱為隨機變量X和Y的聯(lián)合概率密度。2邊緣分布.F（x，）而X和Y都是隨機變量，各自也有分布函數(shù)，將他們分別記為，依次稱為二維隨機變量（X，Y）關于X和關于Y的（x),（）XY邊緣分布函數(shù)。 p x i 2 p PY y j2p ipijijij1i1分別稱為（X，Y）關于X和關于Y的邊緣分布律。ppij分別f (x) f(x

11、,dyf (y) f(x,dxXY稱， 為X，Y關于X和關于Y的邊緣概率密度。f (y)f (x)XY第 9 頁3條件分布定義 j，若Y y jX x ,Y y p則稱,i為在Y yX x Y y ijijY y pjijjj條件下隨機變量X的條件分布律，同樣X x ,Y y p為在條件下隨機Y y X X , j X xijijX x pijiii變量X的條件分布律。f(,y)Y）關于Y的邊緣概率密度為 ，若對于固定的y， 0，f (y)f (y)YY(x,y)則稱f為在Y=y的條件下X的條件概率密度，記為f (y)Y=f(x,y)f (x y)X Yf (y)Y4相互獨立的隨機變量定義 設

12、 及 ， 分別是二維離散型隨機變量F（x，） F ( ) F ( )xyXY（X，Y）的分布函數(shù)及邊緣分布函數(shù).若對于所有x,y有X ,YXPYyX和Y是相互獨立的。x, F (x XY和Y相互獨立的充要條件是參數(shù)0第 10 頁5兩個隨機變量的函數(shù)的分布1，Z=X+Y的分布設(X,Y)是二維連續(xù)型隨機變量，它具有概率密度f(,y).則Z=X+Y仍為連續(xù)性隨機變量，其概率密度為或f(z)f(z y,f (z)XYf(,zXY又若X和Y相互獨立，設（X，Y）關于X，Y的邊緣密度分別為則和f (x f (y)(z)f (z fXYXYXY這兩個公式稱為的卷積公式f (z) f (f (zx)f, f

13、XXYXYY有限個相互獨立的正態(tài)隨機變量的線性組合仍然服從正態(tài)分布Y2，Z 的分布、Z XY的分布X設(X,Y)是二維連續(xù)型隨機變量，它具有概率密度f(,y)，Y則Z Z XYX仍為連續(xù)性隨機變量其概率密度分別為1z又若X和Y相互獨立，設f (z) x f(,xz) f (z) ( , )f x dxxxY XXY（X，Y）關于X，Y的邊緣密度分別為則可化為f (x f (y)XY1zf (z) XY( ) ( )f x ff (z) f (x)f (xzdxxXxY XXYY3M XN X,Y設X，Y是兩個相互獨立的隨機變量，它們的分布函數(shù)分別為由于 Y不大于z等價于X和Y都不大于zF (x

14、),F (y)MXY第 11 頁故有PMzPXz,Yz又由于X和Y相互獨立，得到M Y的分布函數(shù)為F (z) F (z)F (z)maxXYNminX,Y的分布函數(shù)為F z F z F (z)( ) 1 1( ) 1XY第四章 隨機變量的數(shù)字特征1數(shù)學期望定義 設離散型隨機變量X的分布律為X x pkk若級數(shù)絕對收斂，則稱級數(shù)的和為隨機變量X的數(shù)x pkx pkkkk1k1學期望，記為 ，即E(X)E(X) x pkki設連續(xù)型隨機變量X的概率密度為 f(x)xf(x)dx絕對收斂，則稱積分的值為隨機變量X的數(shù)學期望，記xf(x)dx為 ，即E(X)xf(x)dxE(X)定理 設Y是隨機變量X

15、的函數(shù)Y= (g是連續(xù)函數(shù))g(X)（i）如果 X 是離散型隨機變量，它的分布律為，X x pkkk=1,2，若絕對收斂則有E(Y)E(g(X)( ）g x pg(x ）pkkkkk1k1（ii）如果 X 是連續(xù)型隨機變量，它的分概率密度為 ，若f(x)絕對收斂則有( ) ( )g x f x dxE(Y) E(g(X) ( ) ( )g x f x dx數(shù)學期望的幾個重要性質(zhì)1設C是常數(shù)，則有E(C) C2設X是隨機變量，C是常數(shù)，則有ECX) CE(X)第 12 頁3設X,Y是兩個隨機變量，則有；E(X Y) E(X) EY)4設X，Y是相互獨立的隨機變量，則有2方差E(XY) E(X)E

16、Y)定義 設 X 是一個隨機變量，若 存在，則稱E X E(X) 2 為X的方差，記為D（x）即D（x）= ，E X E(X) 2E X E(X) 2在應用上還引入量，記為 ，稱為標準差或均方差。(x)D(x)方差的幾個重要性質(zhì)1設C是常數(shù)，則有D(C) 0,2設X，D(CX) C2D(X) D(X C) D(X)3 設 X,Y 是 兩 個 隨 機 變 量 ， 則 有D(X Y) D(X)D(Y)2E(X-E(X)(Y-E(Y)特別，若X,Y相互獨立，則有D(X Y) D(X) DY)4的充要條件是X以概率1取常數(shù) ，即E(X)D(X) 0X E(X)1切比雪夫不等式：設隨機變量X具有數(shù)學期望

17、，則對于E(X) 2任意正數(shù) ，不等式成立2PX- 23協(xié)方差及相關系數(shù)定義 量X E(XYEY)稱為隨機變量X及Y的協(xié)方差為Cov(X,Y)，即Cov(X,Y) E(X E(XY EY) E(XY) E(X)EY)Cov(X，Y）稱為隨機變量X和Y的相關系數(shù)D(X) D(Y)而XY第 13 頁對于任意兩個隨機變量X 和Y，協(xié)方差具有下述性質(zhì)D(X Y) D(X) DY) Cov(X,Y)_1Cov(X,Y) CovY,X), Cov(aX,bY) abCov(X,Y)2(X X ,Y) (X ,Y)Cov(X ,Y)1212定理 112的充要條件是，存在常數(shù) a,b 使1Y a1當0時，稱X

18、和Y不相關附：幾種常用的概率分布表方差p p)np p)兩點分布二項式分pk，n 10 p 1nppknknkn第 14 頁布泊松分布幾何分布均勻分布指數(shù)分布正態(tài)分布 e k0( ) P X kk, k!1P X k) p 1 p k (),kp2p1b a( )2a b21x 00,1(x)2e 0第 15 頁第五章 大數(shù)定律及中心極限定理1大數(shù)定律弱大數(shù)定理（辛欣大數(shù)定理） 設 X X是相互獨立，服從統(tǒng)1， 2.作前，有E(X ) (k )k1n 個變量的算術平均，則對于任意n 0Xnkk11nlim X 1nknk1定義 設是一個隨機變量序列，a 是一個常數(shù)，若Y ,Y ,Y 12n對于任意正數(shù) Y a1依概率, , Y YYn12nn收斂于a，記為Y apn伯努利大數(shù)定理 設 是n次獨立重復試驗中事件A發(fā)生的次fA是事件A ，有f或lim p 1 lim