概率論與數(shù)理統(tǒng)計(jì)復(fù)習(xí)筆記】

1、概率論與數(shù)理統(tǒng)計(jì)復(fù)習(xí)第一章概率論的基本概念一 .基本概念隨機(jī)試驗(yàn)E:(1)可以在相同的條件下重復(fù)地進(jìn)行；(2)每次試驗(yàn)的可能結(jié)果不止一個(gè)，并且能事先 明確試驗(yàn)的所有可能結(jié)果；(3)進(jìn)行一次試驗(yàn)之前不能確定哪一個(gè)結(jié)果會(huì)出現(xiàn).樣本空間S: E的所有可能結(jié)果組成的集合.樣本點(diǎn)(基本事件):E的每個(gè)結(jié)果.隨機(jī)事件(事件):樣本空間S的子集.必然事件(S):每次試驗(yàn)中一定發(fā)生的事件.不可能事件“):每次試驗(yàn)中一定不會(huì)發(fā)生的事件.二. 事件間的關(guān)系和運(yùn)算1. A B(事件B包含事件A )事件A發(fā)生必然導(dǎo)致事件B發(fā)生.2. A U B(和事件)事件A與B至少有一個(gè)發(fā)生.3. A A B=AB(積事件)事件A

2、與B同時(shí)發(fā)生.4. A-B(差事件)事件A發(fā)生而B不發(fā)生.5. AB=門(A與B互不相容或互斥)事件A與B不能同時(shí)發(fā)生.6. AB二叮且A U B=S (A與B互為逆事件或?qū)α⑹录?表示一次試驗(yàn)中A與B必有一個(gè)且僅 有一個(gè)發(fā)生.B=A, A=B .運(yùn)算規(guī)則交換律結(jié)合律分配律德？摩根律A B= A B A B = A B三. 概率的定義與性質(zhì)1. 定義 對于E的每一事件A賦予一個(gè)實(shí)數(shù)，記為P(A),稱為事件A的概率.(1) 非負(fù)性P(A) > 0 ;(2)歸一性或規(guī)范性 P(S)=1 ；(3)可列可加性對于兩兩互不相容的事件 Ai,A2,(A iAj= © , i工j, i,j=

3、1,2,)，P(Ai U A2 U )=P( A i)+P(A 2)+ 2. 性質(zhì)(1) P(“)= 0 , 注意：A為不可能事件弍x" P(A)=0 .(2) 有限可加性對于n個(gè)兩兩互不相容的事件 Ai,A2,A n ,P(Al U A2 UU a n) = P(A 1)+ P(A2)+P(A n)(有限可加性與可列可加性合稱加法定理 )(3) 若 a B,則 P(A) < P(B), P(B-A)=P(B)-P(A).(4) 對于任一事件 A, P(A) < 1, P(A)=1-P(A).(5) 廣義加法定理對于任意二事件 A,B ,P(A U B)=P(A)+P(B

4、)-P(AB).對于任意n個(gè)事件Al,A2,A nnP A1A?An = ' P A -'、 P AjAj'、 P AjAjAk=11 <3 <j <n1 蘭icjckEn+(-1) n-1 P(AlA2A n)四等可能(古典)概型1. 定義 如果試驗(yàn)E滿足:(1)樣本空間的元素只有有限個(gè)，即S二ei,e2,e n;(2)每一個(gè)基本事 件的概率相等，即P(ei)=P(e2)=二P(e n ).則稱試驗(yàn)E所對應(yīng)的概率模型為等可能(古典)概型.2. 計(jì)算公式P(A)=k / n 其中k是A中包含的基本事件數(shù)，n是S中包含的基本事件總數(shù). 五條件概率1. 定

5、義 事件A發(fā)生的條件下事件B發(fā)生的條件概率P(B|A)=P(AB) / P(A) ( P(A)>0).2. 乘法定理P(AB)=P(A) P (B|A)(P(A)>0); P(AB)=P(B) P (A|B)(P(B)>0).P(AiA2 A n) = P(A 1)P(A2|Ai)P(A3|AiA2)P(A n|AlA2 A n-1) (n > 2, P(AiA2 A n-1) > 0)3. Bi,B2,B n 是樣本空間 S 的一個(gè)劃分(BiBj二 © 片j,i,j=1,2,n, Bi U B2 U U B n=S),則n當(dāng)P(B i)>0時(shí),有

6、全概率公式 P(A)八 P B P AB i W當(dāng)P(A)>0, P(B i)>0時(shí),有貝葉斯公式P (Bi|A)=P AB _ P B P A BP( A )nZ P(B )P(AB )i=1六.事件的獨(dú)立性1. 兩個(gè)事件A,B,滿足P(AB) = P(A) P(B)時(shí)，稱a,b為相互獨(dú)立的事件(1) 兩個(gè)事件A,B相互獨(dú)立二P(B)二P (B|A).(2) 若A與B,A與B , A與B, , A與B中有一對相互獨(dú)立，則另外三對也相互獨(dú)立.2. 三個(gè)事件 A,B,C 滿足 P(AB) =P(A) P(B), P(AC)= P(A) P(C), P(BC)= P(B) P(C),

7、稱 A,B,C 三 事件兩兩相互獨(dú)立.若再滿足P(ABC) =P(A) P(B) P(C),則稱A,B,C三事件相互獨(dú)立.3. n個(gè)事件Ai,A2,A n,如果對任意k (1<k < n),任意1 <ii<i 2<<i k< n.有P AiiAi Aik = P Aji P A?P Ajk，則稱這n個(gè)事件Ai,A2,A n相互獨(dú)立.第二章隨機(jī)變量及其概率分布一. 隨機(jī)變量及其分布函數(shù)1. 在隨機(jī)試驗(yàn)E的樣本空間S=e上定義的單值實(shí)值函數(shù) X=X (e)稱為隨機(jī)變量.2. 隨機(jī)變量X的分布函數(shù)F(x)=PX < x , x是任意實(shí)數(shù).其性質(zhì)為：(1

8、) 0 <F(x) <1 ,F(-馬=0,F(馬=1.(2)F(x)單調(diào)不減，即若 X1VX2,則 F(xi) <F(x 2).(3) F(x)右連續(xù)，即 F(x+0)=F(x).(4)PX1<X «2=F(X2)-F(X1).二. 離散型隨機(jī)變量(只能取有限個(gè)或可列無限多個(gè)值的隨機(jī)變量)1. 離散型隨機(jī)變量的分布律PX= x k= p k (k=1,2,)也可以列表表示.其性質(zhì)為：Q0(1) 非負(fù)性 0 < Pk < 1; (2)歸一性"pk = 1 .k±12. 離散型隨機(jī)變量的分布函數(shù)F(x)= ' Pk為階梯函數(shù)

9、，它在x=x k (k=1,2,)處具有跳躍點(diǎn)：Xk蘭x其跳躍值為p k = PX=X k.3. 三種重要的離散型隨機(jī)變量的分布(1) X(0-1)分布 PX=1= p ,PX=0=1-(0<p<1).f 、(2) Xb(n,p)參數(shù)為 n,p 的二項(xiàng)分布 PX=k=" pk(1 - p"k(k=0,1,2,n) (0<p<1)Ik丿(3) )X ()參數(shù)為-的泊松分布 PX=k=(k=0,1,2,)(>0)k!三. 連續(xù)型隨機(jī)變量1. 定義 如果隨機(jī)變量X的分布函數(shù)F(x)可以表示成某一非負(fù)函數(shù)f(x)的積分F(x)二二f tdt，-乂<

10、; x < 乂則稱X為連續(xù)型隨機(jī)變量，其中f (x)稱為X的概率密度(函數(shù)).2. 概率密度的性質(zhì)(1)非負(fù)性 f(x) >0 ;(2)歸一性二 f (x)dx=1 ;(3) Px i<X <x 2= ：f(x)dx ;若 f (x)在點(diǎn) x 處連續(xù)，則 f (x)=F / (x).注意：連續(xù)型隨機(jī)變量 X取任一指定實(shí)數(shù)值a的概率為零，即PX= a=0 .b1aa x b.0 其它3. 三種重要的連續(xù)型隨機(jī)變量的分布(1) XU (a,b)區(qū)間(a,b)上的均勻分布f(x)=若x 0 ”>o).亠-x/日(2) X服從參數(shù)為旳勺指數(shù)分布.f x二=eI 0“(X田

11、21廠(3)XN (二二2 )參數(shù)為 字 的正態(tài)分布f(x)二e- ：<x< ：,>0.特別，l=0,二2 =1時(shí)，稱X服從標(biāo)準(zhǔn)正態(tài)分布,記為XN (0,1),其概率密度t22 .21 1：:(x) - e 2 ,標(biāo)準(zhǔn)正態(tài)分布函數(shù)(xp x e 2dt , ：J(-x)=1-(x).V211亠Xx_Ax_p若 XN ( J52),貝y Z=N (0,1), PX1<X < X2=()-耿 ).CJcra若 PZ>z := PZ<-z:= P|Z|>z：/2=,則點(diǎn) z :,-z :, -z ：./ 2 分別稱為標(biāo)準(zhǔn)正態(tài)分布的上，下，雙側(cè)分位點(diǎn).注

12、意:：(z ：)=1- ? , z 1- :.= -z :.四隨機(jī)變量X的函數(shù)Y= g (X)的分布1離散型隨機(jī)變量的函數(shù)Xx 1X2x k p kp 1P2p k丫=g(xg(x1)g(x 2)g(x k)若g(x k) (k=1,2,)的值全不相等，則由上表立得Y二g(X)的分布律.若g(x k) (k=1,2,)的值有相等的，則應(yīng)將相等的值的概率相加，才能得到Y(jié)二g(X)的分布律.2連續(xù)型隨機(jī)變量的函數(shù)(1)分布函數(shù)法若X的概率密度為fx(x),則求其函數(shù)Y二g(X)的概率密度fY(y)常用兩種方法:先求 丫的分布函數(shù) FY(y)=PY < y=Pg(X) < y八 “ y

13、fX x dx k其中 k(y)是與g(X) <y對應(yīng)的X的可能值x所在的區(qū)間(可能不只一個(gè))，然后對y求導(dǎo)即得 fY(y)=F y /(y).公式法 若g(x)處處可導(dǎo),且恒有g(shù) /(x)>0 (或g / (x)<0 ),則Y=g (X)是連續(xù)型隨機(jī)變量、f X (h( y )|h(< y < P其概率密度為fY(y)=甘宀.0其它其中 h(y)是 g(x)的反函數(shù)，二 min (g (- : ),g ( ：)= max (g (- : ),g ( ：).如果 f (x)在有限區(qū)間a,b以外等于零貝S : = min (g (a),g (b) 二 max (g

14、(a),g (b).第三章二維隨機(jī)變量及其概率分布一 二維隨機(jī)變量與聯(lián)合分布函數(shù)1. 定義 若X和丫是定義在樣本空間S上的兩個(gè)隨機(jī)變量貝S由它們所組成的向量(X,Y)稱為 二維隨機(jī)向量或二維隨機(jī)變量.對任意實(shí)數(shù)x,y,二元函數(shù)F(x,y)=PX < x,YW y稱為(X,Y)的(X和Y的聯(lián)合)分布函數(shù).2. 分布函數(shù)的性質(zhì)(1) F(x,y)分別關(guān)于x和y單調(diào)不減.(2) 0 < F(x,y) < 1 , F(x,- : )=0,F(-= ,y)=0,F(/，/ )=0,)=1 .(3) F(x,y)關(guān)于每個(gè)變量都是右連續(xù)的，即 F(x+0,y)= F(x,y),F(x,y+

15、0)= F(x,y).對于任意實(shí)數(shù)x 1<x 2 , y 1<y 2Px 1 <X W x 2 , y 1<Y w y 2= F(x 2,y2)- F(x 2,y1)- F(x 1 ,y2)+ F(x 1 ,y1)二.二維離散型隨機(jī)變量及其聯(lián)合分布律1. 定義若隨機(jī)變量(X,Y)只能取有限對或可列無限多對值(x i,y j) (i ,j =1,2,)稱(X,Y)為二維離散型隨機(jī)變量并稱PX= x i,丫二y j = p i j為(X,Y)的聯(lián)合分布律也可列表表示.(2)歸一性2. 性質(zhì)(1)非負(fù)性0 < p i j < 1 .3. (X,Y)的(X和丫的聯(lián)合

16、)分布函數(shù)F(x,y)= a 、內(nèi) xVx yj My三二維連續(xù)型隨機(jī)變量及其聯(lián)合概率密度1. 定義如果存在非負(fù)的函數(shù)f (x,y),使對任意的x和y,有F(x,y)= f (u,v)dudv則稱(X,Y)為二維連續(xù)型隨機(jī)變量，稱f(x,y)為(X,Y)的(X和丫的聯(lián)合)概率密度.2F(x,y)xy2.性質(zhì)(1)非負(fù)性 f (x,y) >0 .歸一性j J(x, y)dxdy1 .若f (x,y)在點(diǎn)(x,y)連續(xù)則f(x,y)=若G為xoy平面上一個(gè)區(qū)域，則P( x, y) G二f (x, y)dxdy. G四. 邊緣分布1. (X,Y)關(guān)于X的邊緣分布函數(shù)Fx (x) = PX &l

17、t; x , Yv ： 二 F (x ,:).(X,Y)關(guān)于丫的邊緣分布函數(shù)Fy (y) = PXv 1 YW y= F (:y)2.二維離散型隨機(jī)變量(X,Y)關(guān)于X的邊緣分布律 PX= x i =、Pij = P i ( i =1,2,)歸一性；p“ = 1 . j 二1i =1QO關(guān)于Y的邊緣分布律 PY二y j 二' Pij = Pi i W(j =1,2,)歸一性j 1 .j=i3.二維連續(xù)型隨機(jī)變量(X,Y)關(guān)于X的邊緣概率密度f x (x)二二:f(x,y)dy關(guān)于Y的邊緣概率密度f y(y)二 二f (x, y)dx歸一性二 fx(x)dx= 1歸一性】fY(y)dy

18、二 1五.相互獨(dú)立的隨機(jī)變量1. 定義若對一切實(shí)數(shù)x,y,均有F(x,y)= F x (x) Fy (y),則稱X和丫相互獨(dú)立.2. 離散型隨機(jī)變量X和丫相互獨(dú)立=p i j= p i p j ( i ,j =1,2,)對一切Xi,yj成立.3連續(xù)型隨機(jī)變量X和丫相互獨(dú)立=f (x,y)=f x (x)f y (y)對(X,Y)所有可能取值(x,y)都成立.六.條件分布1 .二維離散型隨機(jī)變量的條件分布定義 設(shè)(X,Y)是二維離散型隨機(jī)變量PX=x i |Y=y jPX =人,丫二 yj，對于固定的j,若P丫二yj>0,則稱 PijPY = yj為在丫二y j條件下隨機(jī)變量X的條件分布律

19、.同樣，對于固定的i,若PX=x i>0,則稱PY二yj|X二X i二空 煜=21!PX=Xipj為在X=xi條件下隨機(jī)變量Y的條件分布律.第四章 隨機(jī)變量的數(shù)字特征連續(xù)型隨機(jī)變量分布律PX=x i= p i ( i =1,2,)概率密度f (x)qQxf(x)dx(積分絕對收斂)= X- E(X)2 f(x)dx(積分絕對收斂)二:g(x) f (x)dx(積分絕對收斂)一 數(shù)學(xué)期望和方差的定義隨機(jī)變量X數(shù)學(xué)期望(均值)E(X)方差 D(X)=EX-E(X) c 為為任意常數(shù)時(shí),E(c) = c , E(cX) = cE(X) , D(c) = 0 , D (cX) = c 2 D(X

20、). X,Y為任意隨機(jī)變量時(shí)，E (X±Y)=E(X) ±E(Y).=E(X2)-E(X) 2函數(shù)數(shù)學(xué)期望E(Y)二Eg(X) 標(biāo)準(zhǔn)差匚(X)= V D(X).二數(shù)學(xué)期望與方差的性質(zhì)離散型隨機(jī)變量7 xi Pi (級數(shù)絕對收斂)i =1qQ% - E(X)2Pji=1(級數(shù)絕對收斂)QOg(xi)pi (級數(shù)絕對收斂)i =1D(X)p (1- p)n p (1- p)z(b-a) 2/12-2；2隨機(jī)變量X和丫的k+l階混合矩E(X kY l)1=12 3. X 與 Y 相互獨(dú)立時(shí)，E(XY)二E(X)E(Y) , D(X 士Y)=D(X)+D(Y).4. D(X) =

21、0= PX = C=1 ,C 為常數(shù).三六種重要分布的數(shù)學(xué)期望和方差E(X)1. X (0-1)分布 PX=1= p (0<p<1)p2. X b (n ,p)(0<p<1)n p3. X ()4. X U(a,b)(a+b)/25. X服從參數(shù)為的指數(shù)分布二6. X N (學(xué)2)J四矩的概念隨機(jī)變量X的k階(原點(diǎn))矩E(X k )k=1,2,隨機(jī)變量X的k階中心矩EX-E(X) k隨機(jī)變量X和丫的k+l階混合中心矩EX-E(X) k Y -E( Y) 1 第六章樣本和抽樣分布一 .基本概念樣本值總體X即隨機(jī)變量X ；樣本X1 ,X2 ,X n是與總體同分布且相互獨(dú)立的

22、隨機(jī)變量X1 ,X2，,x n為實(shí)數(shù);n是樣本容量.統(tǒng)計(jì)量是指樣本的不含任何未知參數(shù)的連續(xù)函數(shù)如：1 n1 n 2樣本均值X = £ Xi樣本方差S2 =為(X i - X f樣本標(biāo)準(zhǔn)差Sn =in - 1 i =樣本k階矩AkXik ( k=1,2,) 樣本k階中心矩Bk(X X)k ( k=1,2,n i mn i n二抽樣分布即統(tǒng)計(jì)量的分布1. X的分布不論總體X服從什么分布，E (X ) = E(X) , D ( X ) = D(X) / n .特別，若 X N (罕2),則 X N (二二2 /n).n2. 2分布(1)定義 若XN (0,1)，則Y八Xi2 2(n)自由度

23、為n的2分布.i=1性質(zhì) 若丫 2(n),則 E(Y)二 n , D(Y)二 2n .若 Yi 2(ni) Y2 2(n2)，則 Yi+Y2 2(ni + n 2).若X N (學(xué)2 ),則(n1)S22(n-1),且X與S2相互獨(dú)立.(3) 分位點(diǎn) 若丫 2(n),0< : <1 ,則滿足PY 2(n)二 PY 7- (n)二 P(Y2/2(n) (Yf_ /2(n) =的點(diǎn)2(n), 12_ (n), 2/2(n)和 二十何分別稱為2分布的上、下、雙側(cè)分位點(diǎn).3. t分布X(1) 定義若XN(0'1 Z(n)，且X，丫相互獨(dú)立'則飾t(n)自由度為n的t分布-(

24、2) 性質(zhì)n-K時(shí),t分布的極限為標(biāo)準(zhǔn)正態(tài)分布.X-卜 XN ( T2 )時(shí)，t (n-1).S In 兩個(gè)正態(tài)總體相互獨(dú)立的樣本樣本均值樣本方差X N ( %匚12 )且匚12=匚22二匚2 X1 ,X2，,X n1XS12Y N (七產(chǎn)22 )Y1，丫2，,Y n2YS221 n2 t (n1+n 2-2),其中SW 二(m 1)S： (n2-1)S；n1 n2 - 2分位點(diǎn) 若t t (n) ,0 <: <1 ,貝卩滿足Pt t (n)二 Pt t： (n)二 Pt t： /2(n)八的點(diǎn)t(n), t(n), -t /2(n)分別稱t分布的上、下、雙側(cè)：-分位點(diǎn).注意：t

25、1- : (n) = - t ： (n).4. F分布(1)定義 若U 2(n 1), V 2(n2),且U,V相互獨(dú)立則F =丄旦F(n1,n 2)自由度V/n2為（ni,n2）的 F分布.性質(zhì)（條件同 3.（2）S；S： F（ni-1,n2-1）2分位點(diǎn)若F F（n i,n2）,0< : <1,則滿足PF F (ni 心) = PFF (ni，n2)二 P(FF：/2(ni,n2) (F 冃_ 的勵(lì))=的點(diǎn) F (n1? n2), F (n1? n2), F /2(n1,n2)和 F /2(n1?n2)分別稱為 F 分布的上、下、雙側(cè)分位點(diǎn).1注意：第七章參數(shù)估計(jì)一點(diǎn)估計(jì) 總體

26、X的分布中有k個(gè)待估參數(shù)“乜,%Xi ,X2，,X n是X的一個(gè)樣本,X1 ,X2，,x n是樣本值.1.矩估計(jì)法飛1 “1（日1，日2,兒）1“1岸1出, 兒）先求總體矩乜=k）解此方程組，得到卩2= 82（氣半2廠 嚴(yán)k），I叮二耳碼；孑2；兀）憶門兀（叮尸異二兀）I 以樣本矩Ai取代總體矩J i （ 1=1,2,k）得到矩估計(jì)量"2 = 2（A1? A2/ ,耳）,I A嘰“譏州人廠,Ak）若代入樣本值則得到矩估計(jì)值.2. 最大似然估計(jì)法若總體分布形式（可以是分布律或概率密度）為P（X, 5,乜,%）,稱樣本Xi ,X2，,X n的聯(lián)n合分布L（t廣2,廣k）二口 P（Xi廣1廣2,<k）為似然函數(shù).取使似然函數(shù)達(dá)到最大值的 i =二1廠2,廠k，稱為參數(shù)3乜,耳的最大似然估計(jì)值，代入樣本得到最大似然估計(jì)量.若L(m, *,“)關(guān)于巧，花,祿可微