概率論與數(shù)理統(tǒng)計(jì)復(fù)習(xí)筆記

1、概率論與數(shù)理統(tǒng)計(jì)復(fù)習(xí)第一章概率論的基本概念一i.基本概念隨機(jī)試驗(yàn)E:(1)可以在相同的條件下重復(fù)地進(jìn)行；(2)每次試驗(yàn)的可能結(jié)果不止一個(gè)，并且能事 先明確試驗(yàn)的所有可能結(jié)果；(3)進(jìn)行一次試驗(yàn)之前不能確定哪一個(gè)結(jié)果會(huì)出現(xiàn).樣本空間S: E的所有可能結(jié)果組成的集合.樣本點(diǎn)(基本事件):E的每個(gè)結(jié)果.隨機(jī)事件(事件)：樣本空間S的子集.必然事件(S):每次試驗(yàn)中一定發(fā)生的事件.不可能事件()：每次試驗(yàn)中一定不會(huì)發(fā)生的事件. 二.事件間的關(guān)系和運(yùn)算(事件B包含事件A )事件A發(fā)生必然導(dǎo)致事件B發(fā)生.UB (和事件)事件A與B至少有一個(gè)發(fā)生.3. A n B=AB積事件)事件A與B同時(shí)發(fā)生.4. A-

2、B(差事件)事件A發(fā)生而B(niǎo)不發(fā)生.5. AB= (A與B互不相容或互斥)事件A與B不能同時(shí)發(fā)生.6. AB=且AU B=S (A與B互為逆事件或?qū)α⑹录?表示一次試驗(yàn)中A與B必有一個(gè)且僅有一個(gè)發(fā)生.B=A7 A=B -運(yùn)算規(guī)則交換律結(jié)合律分配律德？摩根律A B A B A B A B三.概率的定義與性質(zhì)1 .定義 對(duì)于E的每一事件A賦予一個(gè)實(shí)數(shù)，記為P(A),稱(chēng)為事件A的概率.(1)非負(fù)性P(A) >0 ; (2)歸一性或規(guī)范性 P(S)=1 ;(3)可列可加性對(duì)于兩兩互不相容的事件 A,A2, - (A i A=0 , i ?j, i,j=1,2,)，P(A UA2U )=P( A 1

3、)+P(A2)+-2 .性質(zhì)(1) P( ) = 0 , 注意：A為不可能改父 P(A)=0 .(2)有限可加性對(duì)于n個(gè)兩兩互不相容的事件 A,A2,A n ,P(Ai UA.U-U An)=P(Ai)+P(A2)+ +P(A n)(有限可加性與可列可加性合稱(chēng)加法定理 )(3)若 A B,則 P(A) < P(B), P(B-A)=P(B)-P(A).(4)對(duì)于任一事件 A, P(A) <1, P(A)=1-P(A).(5)廣義加法定理對(duì)于任意二事件 A,B ,P(A U B)=P(A)+P(B)-P(AB).對(duì)于任意n個(gè)事件A,A2,A n+(-1) n-1P(AiAr A)四.

4、等可能(古典)概型1 .定義 如果試驗(yàn)E滿(mǎn)足:(1)樣本空間的元素只有有限個(gè)，即S=e1,e2,e n;(2)每一個(gè)基 本事件的概率相等，即P(e1)=P(e2)= : P(en).則稱(chēng)試驗(yàn)E所對(duì)應(yīng)的概率模型為等可能(古典) 概型.2 .計(jì)算公式P(A)=k / n 其中k是A中包含的基本事件數(shù)，n是S中包含的基本事件總數(shù). 五.條件概率1 .定義 事件A發(fā)生的條件下事件B發(fā)生的條件概率P(B|A)=P(AB) / P(A) ( P(A)>0).2 .乘法定理 P(AB)=P(A) P (B|A) (P(A)>0); P(AB)=P(B) P (A|B) (P(B)>0).P

5、(A 1A - An)=P(A1)P(A2|A1)P(A31AA) P(A 口伊佚An-1) (n A2, P(A 心4)> 0)，n, BUB2U - U Bn=S),P Bi P ABinP Bi P ABi13 . B,B2,，B n是樣本空間S的一個(gè)劃分(BiB=0,i?j,i,j=1,2,n當(dāng)P(B i)>0時(shí),有全概率公式P(A)= P Bi P ABi i 1P AB.當(dāng) P(A)>0, P(B i)>0 時(shí),有貝葉斯公式 P (Bi|A)= P i P A六.事件的獨(dú)立性1 .兩個(gè)事件A,B,滿(mǎn)足P(AB) = P(A) P(B)時(shí)，稱(chēng)A,B為相互獨(dú)立的

6、事件.(1)兩個(gè)事件A,B相互獨(dú)立 P(B)= P (B|A).(2)若A與B,A與B , A與B, , A與B中有一對(duì)相互獨(dú)立，則另外三對(duì)也相互獨(dú)立2 .三個(gè)事件 A,B,C 滿(mǎn)足 P(AB) =P(A) P(B), P(AC)= P(A) P(C), P(BC)= P(B) P(C),稱(chēng) A,B,C三事件兩兩相互獨(dú)立.若再滿(mǎn)足P(ABC) =P(A) P(B) P(C),則稱(chēng)A,B,C三事件相互獨(dú)立.個(gè)事件A,A2,A n,如果對(duì)任意k (1<k <n),任意iwi i<i 2V4 kWn.有P AiAiAiPAiPAiPAi，則稱(chēng)這n個(gè)事件A,A2,An相互獨(dú)立.il

7、i 2i ki 1i 2i k第二章隨機(jī)變量及其概率分布一.隨機(jī)變量及其分布函數(shù)1.在隨機(jī)試驗(yàn)E的樣本空間S=e上定義的單值實(shí)值函數(shù)X=X (e)稱(chēng)為隨機(jī)變量.2,隨機(jī)變量X的分布函數(shù)F(x)=PX <x , x是任意實(shí)數(shù).其性質(zhì)為：(1 )0 < F(x) <1 ,F( -oo)=0,F( oo)=i.(2)F(x)單調(diào)不減，即若 Xi<X2,則 F(x i) < F(x 2).(3)F(x)右連續(xù)，即 F(x+0)=F(x). (4)Pxi<X< x 2=F(x 2)-F(x 1).二,離散型隨機(jī)變量(只能取有限個(gè)或可列無(wú)限多個(gè)值的隨機(jī)變量)1 .

8、離散型隨機(jī)變量的分布律PX= x k= p k (k=1,2,)也可以列表表示,其性質(zhì)為：(1)非負(fù)性 0 WRW1 ; (2)歸一性pk1 .k 12 .離散型隨機(jī)變量的分布函數(shù) F(x)=Pk為階梯函數(shù)，它在x=x k (k=1,2,)處具有跳躍Xk x點(diǎn),其跳躍值為p k =PX=xk.3 .三種重要的離散型隨機(jī)變量的分布(1)X(0-1)分布 PX=1= p ,PX=0=1 p (0<p<1).(2)Xb(n,p)參數(shù)為 n,p 的二項(xiàng)分布 PX=k= n pk 1 p n k(k=0,1,2,n) (0<p<1) kk(3)X- ()參數(shù)為 的泊松分布 PX=

9、k= - e (k=0,1,2,) (>0)k!三,連續(xù)型隨機(jī)變量1,定義 如果隨機(jī)變 量X的分布函 數(shù)F(x)可以表示成 某一非負(fù) 函數(shù)f(x)的積分F(x)= x f t dt,- °°< x < 0°,則稱(chēng)X為連續(xù)型隨機(jī)變量，其中f (x)稱(chēng)為X的概率密度(函數(shù)).4 .概率密度的性質(zhì)(1)非負(fù)性 f(x) >0 ; Px 1<XW x 2= ：2f(x)dx ;(4)x 1歸一性 f(x)dx=1 ;若f (x)在點(diǎn)x處連續(xù)，則f (x)=F / (x).注意：連續(xù)型隨機(jī)變量 X取任一指定實(shí)數(shù)值a的概率為零，即PX= a=0

10、.3.三種重要的連續(xù)型隨機(jī)變量的分布1(1)XU (a,b) 區(qū)間(a,b)上的均勻分布 f(x) ba 0a x b其它(2)X服從參數(shù)為的指數(shù)分布.f x(>0).(3)X-N ( , 2 )參數(shù)為，的正態(tài)分布f(x)1 比2 e2 e)22-<x< ,>0.特別，=0, 2 =1時(shí)，稱(chēng)X服從標(biāo)準(zhǔn)正態(tài)分布，記為XN (0,1),其概率密度2x1(x) -e 2 ,標(biāo)準(zhǔn)正態(tài)分布函數(shù)(x)22t_x e 2dt ,(-x)=1-(x).若 XN ( , 2),貝U Z=-N (0,1), Px1<X< x2=(8x1).若PZ>z = PZ<-z

11、 = P|Z|>z?二,則點(diǎn)z ,-z , z / 2分別稱(chēng)為標(biāo)準(zhǔn)正態(tài)分布的上，下，雙側(cè) 分位點(diǎn).注意：(z )=1- , z 1- = -z .四.隨機(jī)變量X的函數(shù)Y= g (X)的分布1 .離散型隨機(jī)變量的函數(shù)Xx 1 x 2x kP kP 1 P 2p kY=g(X)g(x 1) g(x 2)g(x k)若g(x k) (k=1,2,)的值全不相等，則由上表立得Y=g(X)的分布律.若g(x k) (k=1,2,)的值有相等的，則應(yīng)將相等的值的概率相加，才能得到Y(jié)=g(X)的分布律.2 .連續(xù)型隨機(jī)變量的函數(shù)若X的概率密度為fX(x),則求其函數(shù)Y=g(X)的概率密度f(wàn)Y(y)常用

12、兩種方法：(1)分布函數(shù)法先求Y的分布函數(shù)FY(y)=PY <y=Pg(X) <y= v fX x dxk k y其中 k(y)是與g(X)<y對(duì)應(yīng)的X的可能值x所在的區(qū)間(可能不只一個(gè)),然后對(duì)y求導(dǎo)即得 fY(y)=FY /(y).(2)公式法 若g(x)處處可導(dǎo)，且恒有g(shù)變量，其概率密度為fY y fx h y h Y0其中h(y)是g(x)的反函數(shù)，=min (g (-如果f (x)在有限區(qū)間a,b以外等于掾/(x)>0 (或g / (x)<0 ),則Y=g (X)是連續(xù)型隨機(jī)y I y其它),g ( )= max (g (-),g ().,則 =min

13、(g (a),g (b)= max (g (a),g(b).第三章二維隨機(jī)變量及其概率分布一.二維隨機(jī)變量與聯(lián)合分布函數(shù)1 .定義 若X和Y是定義在樣本空間S上的兩個(gè)隨機(jī)變量，則由它們所組成的向量(X,Y)稱(chēng) 為二維隨機(jī)向量或二維隨機(jī)變量.對(duì)任意實(shí)數(shù)x,y,二元函數(shù)F(x,y)=PX w x,Y w y稱(chēng)為(X,Y)的(X和Y的聯(lián)合)分布函數(shù).2 .分布函數(shù)的性質(zhì)(1)F(x,y)分別關(guān)于x和y單調(diào)不減.(2)0 < F(x,y) <1 , F(x,-尸0, F(-,y)=0, F(-,-尸0, F( , )=1 .(3) F(x,y)關(guān)于每個(gè)變量都是右連續(xù)的，即 F(x+0,y)

14、= F(x,y), F(x,y+0)= F(x,y).(4)對(duì)于任意實(shí)數(shù)x 1<x 2 , y i<y 2Px 1 <X<x 2 , y ivYWy 2= F(x 2,y 2)- F(x 2,y 1)- F(x i,y 2)+ F(x i,y 1)二.二維離散型隨機(jī)變量及其聯(lián)合分布律1 .定義 若隨機(jī)變量(X,Y)只能取有限對(duì)或可列無(wú)限多對(duì)值(xi,yj) (i ,j =1,2,)稱(chēng)叱,丫) 為二維離散型隨機(jī)變量.并稱(chēng)PX= x i ,Y= y j = p i j為(X,Y)的聯(lián)合分布律.也可列表表示.2.性質(zhì)(1)非負(fù)性0 Wpi j < 1 .歸一性iPij

15、1 .3. (X,Y)的(X和Y的聯(lián)合)分布函數(shù)F(x,y)=pjxi x yj y三.二維連續(xù)型隨機(jī)變量及其聯(lián)合概率密度1.定義 如果存在非負(fù)的函數(shù)f (x,y),使對(duì)任意的x和y,有F(x,y)= y x f (u,v)dudv則稱(chēng)(X,Y)為二維連續(xù)型隨機(jī)變量，稱(chēng)f(x,y)為(X,Y)的(X和Y的聯(lián)合)概率密度.2.性質(zhì)(1)非負(fù)性f (x,y)>0 . (2) 歸一性f(x,y)dxdy 1 .若f (x,y) 在點(diǎn)(x,y)連續(xù)，則f (x, y)若G為xoy平面上一個(gè)區(qū)域，則P( x, y)2F(x,y)x yG f (x, y)dxdy .G四.邊緣分布1 . (X,Y)

16、關(guān)于 X的邊緣分布函數(shù) Fx (x) = PX <x , Y< = F (x ,).(X,Y)關(guān)于Y的邊緣分布函數(shù)F y (y) = PX< , Y <y= F ( ,y)2 .二維離散型隨機(jī)變量(X,Y)關(guān)于X的邊緣分布律PX= x i =pj = pi ( i =1,2,)歸一性pi?1 .j 1i 1,關(guān)于Y的邊緣分布律PY= y j =pj = p j ( j =1,2,)歸一性p?j1 .i 1j 13.二維連續(xù)型隨機(jī)變量(X,Y)關(guān)于X的邊緣概率密度f(wàn) x (x)= f (x, y)dy 歸一性 fX(x)dx 1關(guān)于Y的邊緣概率密度f(wàn) y (y尸 f (x

17、,y)dx 歸一性fY ( y)dy 1五.相互獨(dú)立的隨機(jī)變量1.定義 若對(duì)一切實(shí)數(shù)x,y,均有F(x,y尸F(xiàn) x (x) F Y(y),則稱(chēng)X和Y相互獨(dú)立.2 .離散型隨機(jī)變量X和Y相互獨(dú)立3 .連續(xù)型隨機(jī)變量X和Y相互獨(dú)立成立.六.條件分布1.二維離散型隨機(jī)變量的條件分布p i j = p i p j ( i ,j =1,2,)對(duì)一切 xi ,y j 成立.f (x,y)=f x (x)f y (y)對(duì)(X,Y)所有可能取值(x,y)都定義 設(shè)(X,Y)是二維離散型隨機(jī)變量，對(duì)于固定的j,若PY=yj>0,則稱(chēng)PXx“Yy.PY yPX=Xi |Y=y j為在Y= yj條件下隨機(jī)變量

18、X的條件分布律.同樣，對(duì)于固定的i,若PX=Xi>0,則稱(chēng)PY=y|X=x i PXXi，Yyj Pij一 心P£X為上一/邛 為在X=x條件下隨機(jī)變h Y的條件分布律.一.數(shù)學(xué)期望和方差的定義隨機(jī)變量X數(shù)學(xué)期望(均值)E(X)方差 D(X)=EX-E(X) 2=E(X2)-E(X) 1 2 3 4(函數(shù)數(shù)學(xué)期望E(Y)=Eg(X)標(biāo)準(zhǔn)差(X)= VD(X).二.數(shù)學(xué)期望與方差的性質(zhì)第四章 隨機(jī)變量的數(shù)字特征離散型隨機(jī)變量分布律 PX=x i= p i ( i =1,2,)xi pi (級(jí)數(shù)絕對(duì)收斂)i 12xi E(X)2ri 1級(jí)數(shù)絕對(duì)收斂)(g(xi)pi (級(jí)數(shù)絕對(duì)收斂

19、)i 1連續(xù)型隨機(jī)變量概率密度f(wàn) (x)xf(x)dx(積分絕對(duì)收斂)x E(X)2 f (x)dx積分絕對(duì)收斂)g(x) f (x)dx (積分絕對(duì)收斂)士 Y)=D(X)+D(Y).D(X)p (1- p)n p (1- p) U(a,b)(a+b)/2(b-a)2/12服從參數(shù)為的指數(shù)分布 n樣本k階矩Ak Xik ( k=1,2,) 樣本k階中心矩Bk n i 1二.抽樣分布即統(tǒng)計(jì)量的分布1. X的分布 不論總體X服從什么分布，E ( X ) = E(X) , D ( X ) = D(X) / n .特別，若 X N ( , 2)，則 X N ( , 2 /n).n2. 2分布(1)定

20、義 若XN (0,1 )，則Y = Xi2 2(n)自由度為n的2分布.i 1 (2)性質(zhì) 若 Y 2(n),則 E(Y) = n , D(Y) = 2n . 若 Y 2(n1) Y2 2(n2),貝UY+Y 2(n1 + n?). 若X N ( , 2),則(n?S2 2(n-1),且X與S2相互獨(dú)立. N ( , 2)2四.矩的概念隨機(jī)變量X的k階(原點(diǎn))矩E(X k)k=1,2,隨機(jī)變量X的k階中心矩EX-E(X) k隨機(jī)變量X和Y的k+l階混合矩E(X kYl) 1=1,2,隨機(jī)變量X和Y的k+l階混合中心矩EX-E(X) k Y-E(Y) l 第六章樣本和抽樣分布一i.基本概念總體X

21、即隨機(jī)變量X ;樣本Xi ,X2，,X n是與總體同分布且相互獨(dú)立的隨機(jī)變量；樣本值X1 ,x 2 ,X n為實(shí)數(shù);n是樣本容量.統(tǒng)計(jì)量是指樣本的不含任何未知參數(shù)的連續(xù)函數(shù).如: n nn 2樣本標(biāo)準(zhǔn)差S1 n一(Xi X)k ( k=1,2,)n i 1樣本均值X Xi樣本方差S2 Xi Xn i 1n 1 i 1的點(diǎn)2(n), 12 (n), 2/2(n)和；/2(n)分別稱(chēng)為2分布的上、下、雙側(cè) 分位點(diǎn).3. t分布定義若XN (0,1 ),Y2 (n),且X,Y相互獨(dú)立，則t= 丁鼠t(n)自由度為n的t分Y n布.(2)性質(zhì)ns時(shí),t分布的極限為標(biāo)準(zhǔn)正態(tài)分布 XN ( , 2 )時(shí)，

22、人t(n-1).S n兩個(gè)正態(tài)總體相互獨(dú)立的樣本樣本均值樣本方差X N ( i, i2 )且 12= 22= 2 X i ,X2,X n1S12Y- N ( 2, 22 )Y1 ,丫2,Yn2YS22則(X Y) ( 12)t (n 1+n-2),其中Sw(n1 . 1咫11n1 n22Sw一1】 血(3)分位點(diǎn) 若tt(n) ,0 <<1 ,則滿(mǎn)足的點(diǎn)t (n), t (n), t /2(n)分別稱(chēng)t分布的上、下、雙側(cè) 分位點(diǎn).注意：t 1- (n) = - t (n).22Un分布(1)定義 若U (n1), V(n2),且U,V相互獨(dú)立，則F = -1F(m,n 2)自由度為

23、V1(n1,n2)的F分布.(2)性質(zhì)(條件同3.(2)S； S；2212F(m-1,n 2-1) 分位點(diǎn) 若F F(n 1,n 2) ,0<<1,則滿(mǎn)足的點(diǎn) F (n1,n2), F1 (n1, n2), F /2(n1, n2)ffi F1 /2(n1, n2)分別稱(chēng)為 F分布的上、下、雙側(cè) 分、41位點(diǎn).注息：F1(n1,n2)；F (n2.n1)第七章參數(shù)估計(jì).點(diǎn)估計(jì)總體X的分布中有k個(gè)待估參數(shù)1, 2k.Xi ,X2 ,X n是X的一個(gè)樣本，X 1 ,x 2,x n是樣本值.1 .矩估計(jì)法11( 1， 2， k)11( 1，2，k)先求總體矩22( 1, 2, , k)解

24、此方程組，得到 22( 1, 2, , k)，kk( 1, 2, k)kk( 1,2,k)1( A1 , A2 ,Ak)以樣本矩A取代總體矩 ( l=1,2,k)得到矩估計(jì)量22(A1,A2, Ak),kk (A1, A2, Ak )若代入樣本值則得到矩估計(jì)值.2 .最大似然估計(jì)法若總體分布形式(可以是分布律或概率密度)為P(X, 1, 2,，k),稱(chēng)樣本X ,X2，,X nn的聯(lián)合分布L( 1, 2, , k)p(Xj, 1, 2, , k)為似然函數(shù).取使似然函數(shù)達(dá)到最大值的1 11, 2, , k，稱(chēng)為參數(shù)1,2,，k的最大似然估計(jì)值，代入樣本得到最大似然估計(jì)量.若L(1,2,，k)關(guān)于1,2,，k可微，則一般可由似然方程組 0或?qū)?shù)似然方程組 一1nL 0 (i =1,2,k)求出最大似然估計(jì). ii3.估計(jì)量的標(biāo)準(zhǔn)(1) 無(wú)偏性若£(尸，則估計(jì)量稱(chēng)為參數(shù)的無(wú)偏估計(jì)量.不論總體X服從什么分布，E ( X )= E(X) , E(S 2)=D(X), E(A k)= k=E(Xk),即樣本均值X ,樣本方差S2,樣本k階矩A分別是總體均值E(X), 方差D(X)，總體k階矩k的無(wú)偏估計(jì)，(2)有效性 若£( Q=E( 2)=,而D( )< D(2),則稱(chēng)估計(jì)量1比2