432統(tǒng)計(jì)學(xué)讀書筆記

1、第五章 概率與概率分布 概率的三種定義1. 古典定義：如果某一隨機(jī)試驗(yàn)的結(jié)果有限，而且各個結(jié)果出現(xiàn)的可能性相對，則某一A發(fā)生的概率為該所包含的基本個數(shù)m與樣本空間中所包含的基本個數(shù)n的比值，記為P(A)。古典模型特點(diǎn)：其一，結(jié)果有限，即基本空間中只含有限個元素；其二，各個結(jié)果出現(xiàn)的可能性被認(rèn)為是相同的 。A出現(xiàn)m次(𝑚 𝑛)，則m/n2.統(tǒng)計(jì)定義：在相同條件下隨機(jī)試驗(yàn)n次，某稱為A發(fā)生的概率。隨著n的增大，該頻率某一常數(shù)p上下波動，且波動的幅度逐漸減小，趨于穩(wěn)定，這個頻率的穩(wěn)定值即為該的概率，記為：𝑃(𝐴) = 𝑚

2、 = 𝑝𝑛3.息對該定義：一個決策者根據(jù)跟人對某個是否發(fā)生以及本人掌握的信發(fā)生的可能性的。二 概率運(yùn)算（這部分大量習(xí)題可以從數(shù)學(xué)三種找到）這部分是最基礎(chǔ)的概率知識，在數(shù)學(xué)三的概率板塊復(fù)習(xí)中會掌握，都包括：加法法則、條件概率、乘法公式、全概率公式、斥。公式、與互三 期望與方差(這個是基礎(chǔ)，的統(tǒng)計(jì)學(xué)配備資料上有習(xí)題)離散和連續(xù)形式類似，這里只介紹連續(xù)形式設(shè)連續(xù)隨量X的密度函數(shù)為p(x)，若：+ |𝑥|𝑝(𝑥)𝑑𝑥 <+ 則稱+ 𝐸(𝑥) = 

3、9909;𝑝(𝑥)𝑑𝑥 為x的數(shù)學(xué)期望。稱：+ 𝐷(𝑥) = (𝑥 𝐸(𝑥)2𝑝(𝑥)𝑑𝑥 為x的方差。如果隨量方差存在，則期望一定存在；但是期望存在，方差不一定存在。另外，掌握期望和方差的運(yùn)算性質(zhì)。四概率分布（注意離散與連續(xù)、概率密度函數(shù)與分布函數(shù)的區(qū)別，這里要記住一句話：同一連續(xù)分布的不同密度函數(shù)在不等處點(diǎn)組成集合的概率為0）1.單點(diǎn)分布（或分布）：隨量X只取一個值c0,⻔

4、3; < 𝑐𝐹(𝑋) =1,𝑋 𝑐2.分布函數(shù)：它是一個沒有期望和方差的分布函數(shù)()12𝐹(𝑋) =𝑎𝑟𝑐𝑡𝑎𝑛𝑋 + < 𝑥 <+ 3.切比雪夫不等式：（這個2013年復(fù)試考過證明題）設(shè)隨量X的數(shù)學(xué)期望和方差都存在，則對任意常數(shù) > 0，有𝑃(|𝑋 𝐸𝑋| ) 

5、9863;𝑋2切比雪夫不等式給出了大偏差發(fā)生概率的上屆，這個上界與方差呈正比。推論：若隨量X的方差存在，則DX=0X幾乎處處為常數(shù)a，即P(X=a)=14.幾何分布與指數(shù)分布的無記憶性𝑃(𝑋 > 𝑠 + 𝑡𝑋 > 𝑠) = 𝑃(𝑋 > 𝑡)𝑃(𝑋 = 𝑠 + 𝑡𝑋 > 𝑠) = 𝑃(𝑋

6、= 𝑡)5.負(fù)二項(xiàng)分布：在試驗(yàn)序列中，記每次中A發(fā)生的概率為p，如果X為A第r次出現(xiàn)時的試驗(yàn)次數(shù)，則X取值為r，r+1,···，r+m，···.則稱X服從負(fù)二項(xiàng)分布。記為XNb(r, p) (X r)；當(dāng)r=1時為幾何分布Ge(p).𝑃(𝑋 = 𝑘) = 𝐶𝑟 1𝑝𝑟(1 𝑝)𝑘 𝑟 ,𝑘 = 𝑟,𝑟 + 1,&#

7、119896; 1𝐸𝑋 = 𝑟,𝐷𝑋 = 𝑟(1 𝑝)𝑝𝑝2𝑋𝑖𝐺𝑒(𝑝)𝑋 = 𝑋1 + 𝑋2 + + 𝑋𝑟𝑁𝑏(𝑟,𝑝)6.正態(tài)分布：是最重要的分布，必須全面掌握。若𝑋(,2)，則其密度函數(shù):212(ү

8、09; ) 22𝑓(𝑥) =exp , < 𝑥 <+ (,1) ± 2密度函數(shù)圖像在處取得拐點(diǎn)，分布函數(shù)圖像在處取得拐點(diǎn)。在復(fù)習(xí)時，將正態(tài)分布和二元正態(tài)分布結(jié)合起來梳理。（復(fù)試考到二元正態(tài)分布）7.指數(shù)分布： X Exp() ，概率密度函數(shù)是：ìe -x , x ³ 0p(x) = íî(> 0)0, x < 0Ex = 1 , Dx =12若某設(shè)備在任何長為t的時間0,t發(fā)生故障的次數(shù)N(t)服從參數(shù)為t的泊松分布，則相繼兩次故障之間的時間間隔T服從參數(shù)為的指數(shù)分布。分布

9、： X Ga(,)8.+¥ò函數(shù)： G() =xe dx ，-1 - x函數(shù)具有的性質(zhì)（需要記住）：01（1） G(1) = 1, G( ) = ；2（2） G(+ 1) = × G() ；（3） 當(dāng)n Î N +時，G(n + 1 = n!；分布的密度函數(shù)：ìp(x) = ïxe, x ³ 00, x < 0-1 - xíG()ïîEx = = , Dx2分布密度函數(shù)圖像隨變化而變化，>2時，p(x)是單峰函數(shù)，且越大，P(x)近似于正態(tài)密度函數(shù)圖像。注：（1）=1時， Ga(1,

10、) = Exp() ；（2） Ga( n , 1 ) = 2 (n) ；（3）若 X Ga(,) ，則Y = kX Ga( ,)(k > 0) ；（42 2）任一k分布可以轉(zhuǎn)化為卡方分布：X Ga(,) Þ 2X Ga( 1, ) = 2 (2)2電子失效常由外界的“沖擊”引起，若在(0,t)內(nèi)發(fā)生沖擊的次數(shù)N(t)P(t)，則第n次沖擊到來的時間 Sn Ga(n,) .9.分布： X Be(a, b)1ò函數(shù)： B(a, b) =，函數(shù)具有的性質(zhì)：0（1） B(a, b) = B(b, a) ；（2） B(a, b) = G(a) × G(b)G(a +

11、b)分布的密度函數(shù)：ìG(a) × G(b)< 1p(x) = ïíïîG(a + b)0, 其他注：當(dāng)a=b=1時，Be(1,1)=U(0,1)（0-1均勻分布）aab1Ex =, Dx =××a + ba + b a + b a + b + 1不10、維修率、市場占有率和射擊中率選用分布合適。對數(shù)正態(tài)分布： Y LN (,2 ) ，設(shè)隨量 X N (,2 ) ，則Y = ex 的概率密度函數(shù)可以求出對數(shù)正態(tài)分布的密度函數(shù)。（這個留給讀者練筆）。另外，家中兩個小孩的差服從 LN (,2 ) 。11.超幾何分

12、布：XH(N,n,M)，設(shè)有N件，其中M件次品，現(xiàn)從中任取n件(n £ N ) ，則n件中所含次品數(shù)X是一個隨量：Cm × Cn-m= m) = MN -M P( XCnN× N - M × N - nEX = n × M , DX = n × MNNN - 1N泊松分布（泊松定理）、幾何分布和二項(xiàng)分布（二項(xiàng)分布的正態(tài)近似）這些簡單知識點(diǎn)便不在此累述。五 求連續(xù)隨量函數(shù)的分布這一部分參見數(shù)學(xué)三復(fù)習(xí)全書，主要有公式法和分布函數(shù)法。這部分如果出題，則會很難，所以要多做各種習(xí)題。（數(shù)學(xué)三復(fù)習(xí)全書和卯詩松的概論對應(yīng)課后習(xí)題）六 分布的其他特征

13、數(shù)1.矩估計(jì)量X和Y均為隨量， k, l Î N + ： = E( X k ) Þ X的k階原點(diǎn)矩；kvk = E( X - Ex) Þ X的k階中心矩；kE( X kY l ) Þ X與Y的k+l階混合原點(diǎn)矩；E( X - Ex)k (Y - EY )l Þ X與Y的k+l階混合中心矩；2.協(xié)方差與相關(guān)系數(shù)COV ( X ,Y ) = E( X - Ex)(Y - EY ) = EXY - EX × EYX與Y相互是COV（X,Y）=0的充分不必要條件。COV ( X ,Y )=DX ×DY根據(jù)的范圍，可得不等式：COV

14、( X ,Y )2 £ DX × DY量，ij = COV ( X i , X j ) 則稱下列矩陣B為協(xié)方差矩設(shè)n 為隨陣：é11ê2112 22M1n ùLLOL2n úB = êúúêMMêúënn ûn1n2其中矩陣B是對稱的非負(fù)定矩陣，協(xié)方差矩陣將在多元回歸和多元正態(tài)分布中用到。3.偏度與峰度（2013年考過）設(shè)X的三階矩存在，則v3 =Þ X分布的偏度13v221 >0：稱分布正偏或右偏； 1 =0：稱分布對稱； 1 <0

15、：稱分布左偏或負(fù)偏。設(shè)X的四階矩存在，則：v4 =- 3 Þ X分布的峰度22v22 <0，則標(biāo)準(zhǔn)化后的分布形狀比標(biāo)準(zhǔn)正態(tài)分布更平坦，稱為低峰度；2 =0，則標(biāo)準(zhǔn)化后的分布形狀與標(biāo)準(zhǔn)正態(tài)分布相當(dāng)；2 >0，則標(biāo)準(zhǔn)化后的分布形狀比標(biāo)準(zhǔn)正態(tài)分布更尖峭，稱為低峰度；4.特征函數(shù)與函數(shù)（函數(shù)12年考過）設(shè)X為隨量，其分布函數(shù)為F(x)，f(x)為密度函數(shù)，則X的特征函數(shù)和矩母函數(shù)分別定義為：+¥òf (t) = E(e ) =ef (x)dx, t ³ 0 ，i為虛數(shù)；itxitx-¥+¥M (t) = E(etx ) =etx

16、f (x)dx, t ³ 0òX-¥（1）函數(shù)原點(diǎn)總存在，且 M X (0) = 1；（2）有二個分布函數(shù)，若它們的函數(shù)相同，則 F1 (x) = F2 (x) ；（3）k階原點(diǎn)矩= M (k) (0), k = 1,2,L .其中 EX = M ' (0) ；kXXnn（4） X = å X i ， Xi 相互，則： M X (t) = Õ M Xi (t) ；i =1i=1（5） Y = aX + b ，則 MY (t) = e M (ta) ；btX（6）若隨量為常數(shù)c，則MC (t) = E(e ) = e ；ctct（7）若X

17、B(n,p)，則 M X (t) = ( pe + q) .tn七1.后，看分布均勻分布，多項(xiàng)分布，超幾何分布，多元正態(tài)分布都只需了解。然隨量分布密度函數(shù)參看卯詩松概論第三章，這部分難點(diǎn)多，不必全部掌握。時注重結(jié)合例題，然后課后習(xí)題結(jié)合2.二元正態(tài)分布如果隨量（X，Y）的密度函數(shù)為：(x - )211p(x, y) = exp-12(1 - 2 )221 - 211 2(x - )( y - )(x - )2- 2+2,-¥ < x, y < +¥1221 22則稱（X,Y）服從二元正態(tài)分布，記為( X ,Y ) N (, ,2 ,2 ,) .其中五個參1212

18、數(shù)的取值范圍分別為：- ¥ < 1 ,2 < +¥1 ,2 > 0;-1 £ £ 1.二元正態(tài)密度函數(shù)的圖象很像一頂四周無限延伸的草帽，其中心點(diǎn)在(1 ,2 ) 處，其等高線是橢圓。另外，多項(xiàng)分布的邊際分布仍為是多項(xiàng)分布，二維正態(tài)分布的邊際分布是一維正態(tài)分布。3.隨量分布的可加性（復(fù)試考過）（1）泊松分布： X i P()(i = 1,2,L, n) ， X i 之間相互，則nX = å X i P(1 + 2 +L + n ) ；注： X ii=1- X j從泊松分布。nn（2）二項(xiàng)分布： X i B(ni , p) ， X

19、 i 之間相互，則 X = å X i B(å ni , p) .i=1i=1（3）正態(tài)分布： X N (,2 ) ， X 之間相互，iiiinnnX = å Xi=1åi å i N (, ) .i=1i=12i分布： X Ga(1 ,),Y Ga(2 ,) ，且X與Y相互（4），則Z = X + Y Ga(1 +2 ,) 。由此，我們也可以證明卡方分布也是具有類似的可加性的，因?yàn)榍懊嫣岬饺我环植伎梢赞D(zhuǎn)化成卡方分布。思考題：（1）X與Y相互，請問X+Y與X-Y是否？（2）X與Y均服從指數(shù)分布且相互，請問X-Y服從什么分布？4.最大、小值分布最

20、大值分布：設(shè)n 是相互的n個隨量，若Y = max(n ), Z = min(n ) 且每個 X i 服從同分布F(x)，則：最大值分布：F ( y) = F ( y)nY最小值分布：F (z) = 1 -1 - F (z)nZ若在特殊情況下，當(dāng) X i Exp(i = 1,2,L, n) 則：最大值分布：F ( y) = (1 - e-y )n ( y ³ 0)Y最小值分布：F (z) = 1 - e-nz (z ³ 0)Z思考題：卯詩松概論P(yáng)179例3.4.11第六章 統(tǒng)計(jì)量及其分布 大數(shù)定律1.收斂依概率收斂：設(shè)n 是一個隨量序列，X為隨量，若對">

21、0 ，- X< = 1，則稱： lim P X nn 依概率收斂n®¥于X，記作： X n ¾¾® X .P弱收斂:設(shè)隨量n 的分布函數(shù)分別為： F1 (x), F2 (x),L, Fn (x)： lim Fn (x) = F (x) ，則稱Fn (x)弱收斂于F(x)，若對F(x)的任意連續(xù)點(diǎn)x，n®¥記作： F (x) ¾¾W ® F (x) .n2.n 之間相互，并且都服從參數(shù)為p的大數(shù)定律：量0-1分布，則對"> 0 ，有：1nnåiX - p< =

22、 1lim Pn®¥i =13.切比雪夫大數(shù)定律：設(shè)X n 為一列兩兩不相關(guān)的隨量序列，若每個 X i 的方差存在，且有公共上界，即DXi £ c, i = 1,2,L, 則X n 服從大數(shù)定律，對"> 0 ，有：1nn1 n-åå< = 1lim PXEXiinn®¥i=1i=14.大數(shù)定律1nn 2åi條件：D(X ) ® 0i=1條件成立，則X n 服從大數(shù)定律，即對"> 0 ，有：若1nn1 n-åå< = 1lim PXEXiinn

23、®¥i=1i=1可以發(fā)現(xiàn)切比雪夫大數(shù)定律是大數(shù)定律的特殊化。5.大數(shù)定律：設(shè)X n 為同分布的隨量序列，若 EXi 存在，則X n 服從大數(shù)定律，對"> 0 ，有：n1 n-å1nåi< = 1lim PXEXinn®¥i=1i=1可以發(fā)現(xiàn)，各種大數(shù)定律共同點(diǎn)，其實(shí)都源自條件。二 中心極限定理1.-勒維中心極限定理（同分布條件下）設(shè)X n 為同分布的隨量序列，并且EXi = , DXi = > 0,即方差有限, 記"x Î R ，恒有：當(dāng)2x - n ® ¥時， N

24、(0,1)/n2.棣-拉斯定理（二項(xiàng)分布條件下）設(shè)Yn 服從二項(xiàng)分布B(n,p)， 記"x Î R ，則有：Yn - np£ x = F(x)lim Pnp(1 - p)n®¥其F(x) 為正態(tài)分布。當(dāng)用正態(tài)分布來作為二項(xiàng)分布的近似計(jì)算時，需要作出修正， P(L £ n £ U ) = P(L - 0.5 £ n £ U + 0.5)三 統(tǒng)計(jì)量1.統(tǒng)計(jì)量定義：設(shè)n 是從總體X中抽取的容量為n的一個樣本，若由此樣本構(gòu)造一個函數(shù)T (n ) 不依賴于任何未知參數(shù)，則稱函數(shù)T (n ) 是一個統(tǒng)計(jì)量。2.經(jīng)驗(yàn)分

25、布函數(shù)：設(shè)(n ) 為總體樣本(n ) 的一個觀測值，若將樣本觀測值 xi 由小到大進(jìn)行排列，為數(shù)：(n) ，對任意實(shí)數(shù)，稱函0, x < x(1)ìï kF (x) =, k = 1,2,L, n - 1í n(k +1)nïî1, x ³ x(n)為樣本(n ) 的經(jīng)驗(yàn)分布函數(shù)。3.n 是取自總體分布函數(shù)為F(x)的樣本， Fn (x) 為其紋科定理：設(shè)經(jīng)驗(yàn)分布函數(shù)，當(dāng)n ® ¥ 時，有：Fn (x) - F (x)® 0 = 1P SUP-¥< x<+¥表明：當(dāng)

26、n相當(dāng)大時，經(jīng)驗(yàn)分布函數(shù)是總體分布F(x)的近似。四 重要統(tǒng)計(jì)量分布統(tǒng)計(jì)推斷的三個中心內(nèi)容：抽樣分布、參數(shù)估計(jì)和假設(shè)檢驗(yàn)。在總體分布已知時，對"n Î N + ，都能導(dǎo)出T (n ) 的分布的數(shù)學(xué)表，這種分布稱為精確的抽樣分布。21.樣本均值：若總體分布為正態(tài)分布 N (, ) 時，樣本均值 x N (2,) ，這n表明用樣本均值 x 去估計(jì)總體均值時，平均來說是無偏差的。當(dāng)然，這只是中心極限定理的特殊情況。另外，樣本均值的性質(zhì)：n（1）若把 xi 與 x 的差稱為偏差，則å(xi - x) = 0 ；i=1（2）在形如å(xi - c) 的函數(shù)中， &

27、#229;(x - x)最小。22in 是來自總體分布為正態(tài)分布 N (, ) 的樣本，則：22.樣本方差：若n= 1 å(x - x)2 稱為樣本方差， å(s 22 - nx 2 。樣本方差的分n - 1iii=1(n - 1)s 2 (n - 1)2布：2 N (,(1 -)p樣本比例：設(shè)總體比例是，則樣本比例3.n4.兩樣本均值之差：若 X N (,2 ) ，其樣本均值為 X ，樣本個數(shù)為n ，11111X N ( ,2 ) ，其樣本均值為 X ，樣本個數(shù)為n ，則：2222222X - X N ( - , 1 + 2 )1212nn12一般的當(dāng)n1 ， n2 &#

28、179; 30 時，可用正態(tài)分布近似。來自 N (,2 ) ， Y ,Y ,L,Y 來自 N (,2 ) ，5.兩樣本方差比：若n1112n22X i 與Yi 相互，則：S 2 /2 x1 F (n - 1, n - 1)12S 2 /2y26.兩樣本比例之差：設(shè)分別從1和2 的二項(xiàng)總體中抽取n1 ， n2 ³ 30 的，則兩個樣本比例之差：樣本 (1- ) (1- )p - p N ( - ,+1122)1212nn127.次序統(tǒng)計(jì)量：設(shè)n 是取自總體X的的樣本， x(i ) 稱為該樣本的第i個次序統(tǒng)計(jì)量，它的取值是樣本觀測值由小到大的排列后得到的第i個觀測值。設(shè)總體X的密度函數(shù)為

29、 p(x) ，分布函數(shù)為F(x)，則第k個次序統(tǒng)計(jì)量 x(k ) 分布的密度函數(shù)為：n!p (x) =×F (x)k-1 ×1 - F (x)n-k × p(x)k(k - 1)!×(n - k )!由此可得：最小值分布密度函數(shù)為： p (x) = n ×1 - F (x)n-1 × p(x)1n-1最大值分布密度函數(shù)為： p2 (x) = n ×F (x)× p(x)另外，中位數(shù)，四分位數(shù)，內(nèi)距，全距都是次序統(tǒng)計(jì)量。8.充分統(tǒng)計(jì)量：統(tǒng)計(jì)量是把樣本中的信息進(jìn)行處理的結(jié)果，不損失信息的統(tǒng)計(jì)量就是充分統(tǒng)計(jì)量。統(tǒng)計(jì)量是否

30、為充分統(tǒng)計(jì)量的方法是因子分解定理因子分解定理（僅作了解）：設(shè)總體概率函數(shù)為 f (x;) ，n 是取自總體X的的樣本， T = T (n ) 是充分統(tǒng)計(jì)量等價于：存在兩個函數(shù)g(t,)和h(n ) 使得對"和一組觀測值n 有：n ;) = gT (n ), × h(f (n )其中， g(t,) 是通過統(tǒng)計(jì)量T的取值而依賴于樣本的。值得注意的是，上面所有的抽樣分布都是基于重復(fù)抽樣方式，當(dāng)抽樣分布為不重復(fù)抽樣時，標(biāo)準(zhǔn)差都要乘上修正系數(shù)。例如：重復(fù)抽樣方式下，樣本均值分布的標(biāo)準(zhǔn)差為，在不重復(fù)抽樣方式下，樣本均值分布的標(biāo)準(zhǔn)差為nN - n ×2?？梢钥闯觯煌闃臃绞较?/p>

31、，抽樣分布的離散程度會不同，前者N - 1n更大。五 統(tǒng)計(jì)三大分布1. 2 分布（右偏分布）設(shè)同分布于標(biāo)準(zhǔn)正態(tài)分布N(0,1)，則n2=2 的分布稱為自由度為n的卡方分布，記2 2 (n) .nE2 = n, D2 = 2n .當(dāng)n ® +¥ 時， 2 分布的極限分布是正態(tài)分布；當(dāng)n很大時， 22 (n) N ( 2n - 1,1) ；1當(dāng)n>45時， (n) »(u +2n - 1)2 （ u 為正態(tài)p分位數(shù)）2ppp22.t分布X量X與Y， X N (0,1),Y 2 (n) ，則稱t =設(shè)隨的分布為自Y / n由度為n的t分布，記為： t t(n) .

32、t分布的密度函數(shù)是偶函數(shù)。當(dāng)n=1時：t分布即分布，它的均值不存在；當(dāng)n ³ 2 時：Et=0；n當(dāng)n ³ 3 時： Dt =（當(dāng)n增大時，Dt不斷減?。?；n - 23.F分布（右偏分布）量Y與Z相互，且Y與Z分別服從自由度為m和n的2 分布，則設(shè)隨：X = Y / m F (m, n)Z / n2n 2 (m + n - 2)nEX =(n > 2), DX =(n > 4)n - 2m(n - 2)(n - 4)1F (m, n) =pF(n, m)1- p量 X t(n) ，則2 F (1, n) ，這在回歸分析的回歸系數(shù)檢驗(yàn)中有若隨用。4.重要結(jié)論n 是

33、來自 N (, ) 的樣本，其樣本均值和樣本方差分別為：2設(shè)nx = 1 ån= 1 å(x - x)2 ，則有：x ， s 2iin - 1ni=1i=1（1） x 與s2 相互；2（2） x N (,) ；n(n - 1)s 2 (n - 1) ；2（3）2（4） n (x - ) t(n - 1) .s是來自 N (,2 ) 的樣本， y , y ,L, y 來自 N (,2 ) 的樣本設(shè)m1112n22m1nåi=12) ， sy =2( y - y) ，其2，且此兩樣本相互，記 sn - 1ii=11mm1nnåi=1åi=1中： x

34、 =x ， y =y ，則：ii2 /2sF = x1 F (m - 1, n - 1)2 /2sy2(m - 1)s 2 + (n - 1)s 2xy當(dāng)2 = 2 = 2 時：令s 2 =，則：12wm + n - 2= (x - y) - (1 - 2 ) t(m + n - 2)T1 + 1mns ×w第七章 參數(shù)估計(jì)ì統(tǒng)計(jì)描述ïïï數(shù)理統(tǒng)計(jì)íì統(tǒng)計(jì)檢驗(yàn)ïïì非參數(shù)估計(jì)ï統(tǒng)計(jì)推斷í統(tǒng)計(jì)估計(jì)ïì點(diǎn)估計(jì)í參數(shù)估計(jì)íï

35、9;îïïîïîî區(qū)間估計(jì)參數(shù)估計(jì)：用樣本統(tǒng)計(jì)量去估計(jì)總體的參數(shù)；估計(jì)量：用來估計(jì)總體參數(shù)的統(tǒng)計(jì)量(n ) ；估計(jì)值：一個具體樣本觀測值計(jì)算出來的估計(jì)量數(shù)值(n ) . 矩法估計(jì)與極大似然估計(jì)1.點(diǎn)估計(jì)之矩法估計(jì)矩法估計(jì)是值用樣本矩去替換總體矩（原點(diǎn)矩和中心矩均可），或者是用樣本矩的函數(shù)去替換相應(yīng)的總體矩的函數(shù)。根據(jù)大數(shù)定律可知：樣本矩、樣本矩的函數(shù)依概率收斂于相應(yīng)的總體矩、總體矩的連續(xù)函數(shù)。所求的估計(jì)量稱為矩估計(jì)量，相應(yīng)的觀測值稱為矩估計(jì)值。實(shí)質(zhì)：用經(jīng)驗(yàn)分布函數(shù)去替換總體分布。理論基礎(chǔ)：紋科定理+¥ò-

36、¥第一步：計(jì)算總體X的前k階原點(diǎn)矩： ul = EX l =x f (x;l, ,L, )dx ，12kl = 1,2,L, k第二步：令樣本矩等于總體矩，則：n1 å= EX l Þ 可得含k個未知參數(shù), ,L, 的矩法方程X li12kni=1第三步：求解矩法方程，可得 = ()lln條件：矩法估計(jì)不要求總體服從什么分布，只須 EX l 存在即可。約定：用矩法方程求總體未知參數(shù)估計(jì)量時，矩一般從低階開始。2.點(diǎn)估計(jì)之極大似然估計(jì)（復(fù)試考過）設(shè)總體的概率函數(shù)為 p(x;),Î Q ，其中是一個未知參數(shù)或幾個未知參數(shù)組成的參數(shù)向量， Q 是參數(shù)可能取值的

37、參數(shù)空間，n 是來自總體的樣本，則將樣本的概率密度函數(shù)看成為的函數(shù)，即：nn ;) = Õ f (xi ;),Î Qi=1L() = L(稱 L() 為樣本的似然函數(shù)。若某統(tǒng)計(jì)量 =(n ) 滿足 L() = max L() 則稱(n ) 為ÎQ的極大似然估計(jì)值（MLE），(n ) 為的極大似然估計(jì)量。條件：要求MLE 需要知道總體的概率分布或密度函數(shù)。中心思想：取的估計(jì)值使得發(fā)生的概率最大。極大似然估計(jì)不變性：設(shè) 是總體X的概率密度或分布律中未知參數(shù)的極大似然估計(jì)，的函數(shù)u = u() 具有單值反函數(shù)= (u) ，則u = u() 是u() 的 最大似然估計(jì)。二

38、 點(diǎn)估計(jì)與區(qū)間估計(jì)比較注意的是，用于參數(shù)估計(jì)的統(tǒng)計(jì)量不是唯一的。在區(qū)間估計(jì)中，由樣本統(tǒng)計(jì)量所構(gòu)造的總體參數(shù)的估計(jì)區(qū)間稱為置信區(qū)間。一般地，如果構(gòu)造置信區(qū)間的步驟重復(fù)多次，置信區(qū)間中包含總體參數(shù)真值的次數(shù)所占的比例稱為置信水平。注：（1）樣本量一定時，置信系數(shù)增大，區(qū)間寬度也增大，可靠性上升，區(qū)間估計(jì)：是在點(diǎn)估計(jì)的基礎(chǔ)上，給出總體參數(shù)的一個區(qū)間范圍，該區(qū)間通常由樣本統(tǒng)計(jì)量加減估計(jì)誤差得到。區(qū)間估計(jì)三要素：點(diǎn)估計(jì)值，抽樣平均度，估計(jì)的可靠度參數(shù)估計(jì)點(diǎn)估計(jì)：就是用樣本統(tǒng)計(jì)量的某個取值直接作為總體參數(shù)的估計(jì)值。（一個點(diǎn)估計(jì)值的可靠性由抽樣標(biāo)準(zhǔn)誤差來衡量），但計(jì)算時不考慮抽樣誤差及可靠程度。但是精度下降；置信水平固定時，樣本量增大，區(qū)間寬度的下降，可靠性和精度均上升。（2）注意把握對置信水平的理解。一個特定的區(qū)間總是包含或絕對不包含參數(shù)真值，在多次抽樣得到的區(qū)間中有95%的區(qū)間包含參數(shù)真值。而不是以多大的概率包含參數(shù)真值。三 點(diǎn)估計(jì)的評價標(biāo)準(zhǔn)1.相合性（大樣本）參數(shù)， = (設(shè)Î Q) 是的一個估計(jì)量，n為樣本容nnn量，若對"> 0 ，有：lim P( - ³ ) = 0nn®¥則稱 為參數(shù)的相合估計(jì)。相合性是對估計(jì)的一個最基本的要求（一般由大n數(shù)定律或定義來證）。n 是來自 N (, )