參數(shù)估計完整版本

第六章

參數(shù)估計

§6.1

點估計的幾種方法§6.2

點估計的評價標準§6.3

最小方差無偏估計§6.5

區(qū)間估計

參數(shù)估計問題是利用從總體抽樣得到的信息來估計總體的某些參數(shù).

為何要進行參數(shù)估計？⑴什么是參數(shù)？刻劃總體數(shù)字特征參數(shù)刻劃樣本數(shù)字特征樣本統(tǒng)計量參數(shù)EXDX⑵為什么參數(shù)需要估計？若總體分布類型已知（根據(jù)人們長期的實踐經驗判斷）不知道參數(shù)，還是不能確切地知道分布規(guī)律，從而也就無法解決實際問題。某生考試是否通過，但p因人而異檢查n

個產品，其中次品個數(shù)降雨量但其中含有未知參數(shù).這類問題稱為參數(shù)估計.參數(shù)估計問題的一般提法X1,X2,…,Xn要依據(jù)該樣本對參數(shù)作出估計,或估計的某個已知函數(shù).現(xiàn)從該總體抽樣，得樣本

設有一個統(tǒng)計總體,總體的分布函數(shù)為F(x,)，其中為未知參數(shù)(可以是向量).

點估計參數(shù)估計方法區(qū)間估計（假定身高服從正態(tài)分布）設這5個數(shù)是:1.651.681.701.751.78

估計

為1.712，這是點估計.這是區(qū)間估計.估計在區(qū)間[1.67,1.76]內，例如我們要估計某隊男生的平均身高.

現(xiàn)從該總體選取容量為5的樣本，我們的任務是要根據(jù)選出的樣本（5個數(shù)）求出總體均值的估計.而全部信息就由這5個數(shù)組成.點估計的概念

定義設X1，…，Xn是總體X的一個樣本，其分布函數(shù)為F(x;

),

。其中

為未知參數(shù),

為參數(shù)空間,若統(tǒng)計量可作為

的一個估計,則稱其為的一個點估計量，記為。若x1，…，

xn是樣本的一個觀測值，則稱為的點估計值.§6.1點估計的幾種方法

替換原理是指用樣本矩及其函數(shù)去替換相應的總體矩及其函數(shù)，譬如：用樣本均值估計總體均值E(X)，即；用未修正的樣本方差估計總體方差，即用樣本的p分位數(shù)估計總體的p分位數(shù)，用樣本中位數(shù)估計總體中位數(shù)。

一、矩法估計

矩估計法是英國統(tǒng)計學家K.皮爾遜最早提出來的.

1.原理：用樣本矩作為總體同階矩的估計，即2.方法：設總體X的分布中含有k個未知參數(shù)?1，?2，…，?k共k個未知參數(shù)，總體的前k階矩都存在自主學習書中P193

例6.1.1令解出其中的未知參數(shù)即可得到相應的矩估計量.實際應用：1、總體數(shù)學期望E(X)的估計2、總體方差Var(X)的估計以樣本均值估計總體均值以樣本的二階中心距估計總體方差例1習題6.2第3題未知，例2設X1，…，Xn為取自總體X的樣本，X的概率密度為求的矩估計量。書中P198

例6.2.2說明什么問題例3

設X1，…，Xn為來自總體X~U(a,b)的樣本，求未知參數(shù)a,b的矩估計量。作業(yè)習題6.2第1、4、7題書中P198

例6.2.3計算中有沒有錯誤？討論習題6.2第5、7題二、6.2

極(最)大似然估計

有兩個射手，一人的命中率為0.9,另一人的命中率為0.1,現(xiàn)在他們中的一個向目標射擊了一發(fā)，結果命中了，估計是誰射擊的？

若在一次抽樣中,得到了樣本觀測值,則選擇使得這組觀測值出現(xiàn)的概率達到最大的那個?，作為未知參數(shù)?的估計值.1.極大似然思想（1）若總體X為離散型隨機變量，它的分布列為P{X=x}=p(x；?)得到樣本觀察值x1,x2,…,xn,稱為似然函數(shù)，使L(?)達到最大的那個?稱為它的極大似然估計量，簡記為MLE（MaximumLikelihoodEstimate）.

2.似然函數(shù)（2）若總體X為連續(xù)型隨機變量，它的概率密度為P(x；?),得到樣本觀察值x1,x2,…,xn,稱為似然函數(shù)，使L(?)達到最大的那個?稱為它的極大似然估計量.3.求極大似然估計的步驟(1)寫出似然函數(shù)L(?),設總體X的分布中含有k個未知參數(shù)(2)求對數(shù)似然函數(shù)lnL(?),(3)求導得似然方程組若該方程組有惟一解，則其解就是所求的極大似然估計值例4設X1，…，Xn為取自總體X的樣本，求下列未知參數(shù)的極大似然估計.（1）總體X~P(),

未知（2）總體X的概率密度為未知（3）總體的分布律如下，?未知X123P?22?(1-?)(1-?)20<?<1,?未知，現(xiàn)得樣本值x1=1,x2=2,x3=1,求?的極大似然估計.例5設一個試驗有三種可能結果，其發(fā)生概率分別為現(xiàn)做了n次試驗，觀測到三種結果發(fā)生的次數(shù)分別為n1,n2,n3(n1+n2+n3=n)，求θ的矩估計和最大似然估計.第二次捕出的有記號的魚數(shù)X是r.v,X具有超幾何分布：為了估計湖中的魚數(shù)N，第一次捕上r條魚，做上記號后放回.隔一段時間后,再捕出S條魚,結果發(fā)現(xiàn)這S條魚中有k條標有記號.根據(jù)這個信息，如何估計湖中的魚數(shù)呢？最后，我們用極大似然法估計湖中的魚數(shù)應取使L(N;k)達到最大的N，作為N的極大似然估計.但用對N求導的方法相當困難,我們考慮比值：把上式右端看作N的函數(shù)，記作L(N;k).經過簡單的計算知，這個比值大于或小于1，或而定.由這就是說，當N增大時，序列P(X=k;N)先是上升而后下降;當N為小于的最大整數(shù)時,達到最大值.故N的極大似然估計為例6設X1，…，Xn為取自總體X~N(μ,σ2)的樣本，求μ,σ2的極大似然估計量.注：由似然方程解不出

的極大似然估計時，可由定義通過分析直接推求得到其極大似然估計。事實上例7設X1，…，Xn為取自U[0,]

總體的樣本，>0未知，求參數(shù)

的極大似然估計.思考：習題6.3第3題(3),2(3)4.不變原則若是未知參數(shù)的極大似然估計，g()是的連續(xù)函數(shù)，且有唯一反函數(shù)，則g()的極大似然估計為例8從一批燈泡中隨機抽取10只,測得壽命(h)為1067919119678511269369181156920948設燈泡的壽命服從正態(tài)分布,用極大似然估計法估計燈泡使用壽命超過1300小時的概率.作業(yè)：習題6.3第1、2題標準1：無偏性

定義

設是

的一個估計，

的參數(shù)空間為Θ，若對任意的

∈Θ，有

則稱是

的無偏估計，否則稱為有偏估計.

§6.2點估計的評價標準

例1P1964.設X1，…，Xn為取自總體X的樣本，E(X)=μ,Var(X)=σ2，（1）求c使是σ2的無偏估計量；（2）求c使是μ2的無偏估計量.自主學習書中例6.1.2，體會如何修偏.注意：無偏估計不具有不變性，即如果是?的一個無偏估計,g(?)是?的一個實值函數(shù),那么不一定是g(?)的無偏估計.思考：設總體為X~P(λ),試構造λ2的一個無偏估計.

例2

習題6.1第3題標準2：有效性

定義

設是

的兩個無偏估計，如果對任意的

∈Θ,有且至少有一個

∈Θ使得上述不等號嚴格成立，則稱比有效.

例3設X1，X2

，X3為取自總體X的樣本，E(X)=μ,Var(X)=σ2>0，下列哪些是μ的無偏估計量，哪個最有效？例4設總體X~Exp(1/θ),X1,X2,…,Xn是其樣本，（1）求證和nX(1)都是θ的無偏估計量；（2）比較兩者的有效性.自主學習:書中例6.1.4，注意最大值的分布如何使用.定義

設

∈Θ為未知參數(shù)，是

的一個估計量，n是樣本容量，若對任何一個ε>0，有

(6.2.1)

則稱為

參數(shù)的相合估計。

相合性可用依概率收斂的性質、或辛欽大數(shù)定理的結論或者切比雪夫不等式證明.標準3：相合性

判別定理

設是

的一個估計量，若

則是

的相合估計.例5設X1，…，Xn為取自U(0,)

總體的樣本，>0未知，求證

的極大似然估計是它的相合估計.相合估計的不變性

若分別是

1,

…,

k的相合估計，

=g(

1

,

…,

k)是

1,

…,

k的連續(xù)函數(shù)，則是

的相合估計.設E(X)=μ,Var(X)=σ2，則有以下常用結論：樣本均值X是總體均值μ的相合估計；樣本的二階中心距和S2都是總體方差σ2的相合估計；樣本標準差S是總體標準差σ的相合估計.作業(yè)

習題6.1第7題習題6.3第7題§6.5

區(qū)間估計

6.5.1區(qū)間估計的概念

定義6.5.1

設

是總體的一個參數(shù)，其參數(shù)空間為Θ，x1,x2

,

…,xn是來自該總體的樣本，對給定的一個

(0<

<1)，若有兩個統(tǒng)計量和，若對任意的

∈Θ，有

（6.6.1）則稱隨機區(qū)間[]為

的置信水平為1-

的置信區(qū)間，或簡稱[]是

的1-

置信區(qū)間.

這里置信水平1-

的含義是指在大量使用該置信區(qū)間時，至少有100(1-

)%的區(qū)間含有

。

例1

設x1,x2,…,x10是來自N(,

2)的樣本，則

的置信水平為1-

的置信區(qū)間為

其中，,s分別為樣本均值和樣本標準差。若取

=0.10，則t0.95(9)=1.8331，上式化為

由圖6.6.1可以看出，這100個區(qū)間中有91個包含參數(shù)真值15，另外9個不包含參數(shù)真值。

圖6.6.1

的置信水平為0.90的置信區(qū)間

取

=0.50，我們也可以給出100個這樣的區(qū)間，見圖6.6.2?？梢钥闯?，這100個區(qū)間中有50個包含參數(shù)真值15，另外50個不包含參數(shù)真值。

圖6.6.2

的置信水平為0.50的置信區(qū)間

一對矛盾:一方面我們希望估計的可信度高,即隨機區(qū)間包含

真值的概率要大;另一方面,我們還希望估計精度要高,即區(qū)間的長度要小.實際上,在樣本容量n固定的情況下,這兩個要求往往不能同時兼顧.如何化解？我們可以得到未知參數(shù)的的任何置信水平小于1的置信區(qū)間，并且置信水平越高，相應的置信區(qū)間平均長度越長.

也就是說，要想得到的區(qū)間估計可靠度高，區(qū)間長度就長，估計的精度就差.這是一對矛盾.實用中應在保證足夠可靠的前提下，盡量使得區(qū)間的長度短一些.

也就是說，要想得到的區(qū)間估計可靠度高，區(qū)間長度就長，估計的精度就差.這是一對矛盾.實用中應在保證足夠可靠的前提下，盡量使得區(qū)間的長度短一些.我們總是希望置信區(qū)間盡可能短.我們可得到若干個不同的置信區(qū)間.任意兩個數(shù)a和b，只要它們的縱標包含f(u)下95%的面積，就確定一個95%的置信區(qū)間.在概率密度為單峰且對稱的情形，當a=-b時求得的置信區(qū)間的長度為最短.a=-b即使在概率密度不對稱的情形，如分布，F(xiàn)分布，習慣上仍取對稱的百分位點來計算未知參數(shù)的置信區(qū)間.定義6.5.2

沿用定義6.6.1的記號，如對給定的

(0<

<1)，對任意的

∈Θ，有

稱為

的1-

同等置信區(qū)間。

定義6.5.3

若對給定的

(0<

<1)和任意的

∈Θ，有

則稱為

的置信水平為1-

的（單側）置信下限。若對給定的

(0<

<1)和任意的

∈Θ，有則稱為

的置信水平為1-

的（單側）置信上限。6.5.2樞軸量法

1.設法構造一個樣本和

的函數(shù)G=G(x1,x2,…,xn,

)

使得G的分布不依賴于未知參數(shù)。一般稱具有這種性質的G為樞軸量。2.適當選擇兩個常數(shù)c,d，使對給定的

(0<

<1)有P(c≤G≤d)=1-

3.假如能將c≤G

≤d

進行不等式等價變形化為則[，]是

的1-

同等置信區(qū)間。實際中，選平均長度盡可能短的c與d，這往往很難實現(xiàn)，因此，常這樣選擇

c與d，使得兩個尾部概率各為

/2，即P(G<c)=P(G>d)=

/2，這樣的置信區(qū)間稱為等尾置信區(qū)間。這是在G的分布為偏態(tài)分布場合常采用的方法。

溫馨提醒設x1，…，xn為取自總體X~N(μ,σ2)的樣本,置信度為1-α1.σ2已知時求μ的置信區(qū)間可得到

的置信度為1

的置信區(qū)間為6.5.3單個正態(tài)總體參數(shù)的置信區(qū)間

例2

用天平秤某物體的重量9次，得平均值為（克），已知天平秤量結果為正態(tài)分布，其標準差為0.1克。（1）試求該物體重量的0.95置信區(qū)間；（2）試求該物體重量的0.9置信區(qū)間.例3

設某批大學生身高的總體X~N(μ,16)(cm)，為使總體平均身高的的置信度為0.95的置信區(qū)間的長度小于1.2cm，問至少應抽取多少名學生測其身高？思考：如何求σ2已知時μ的單側置信區(qū)間？

2.

2未知時求μ的置信區(qū)間即得m的1-a置信區(qū)間為

同理可得即得m的下側1-a置信區(qū)間為即得m的上側1-a置信區(qū)間為例4

有一大批糖果，現(xiàn)隨機抽取16袋，稱得重量（克）如下：506508499503504510497512514505493496506502509496設袋裝糖果的重量服從正態(tài)分布，求總體均值的0.95置信區(qū)間.3.單正態(tài)總體方差σ2的置信區(qū)間s2的置信度為1

的置信區(qū)間為假定m未知，例5

某廠生產的零件重量服從N(,2)，現(xiàn)從該廠生產的零件中抽取9個，測得其重量為（單位：克）45.345.445.145.345.545.745.445.345.6

試求總體標準差

的0.95置信區(qū)間。思考：習題6.5第3題作業(yè)：習題6.5第2、4題

設x1,…,xn是來自b(1,p)的樣本,有對給定

，，不易變形.

如何得到p的置信區(qū)間呢？6.5.4大樣本置信區(qū)間

1.總體比例的置信區(qū)間例6

為了解某地區(qū)某一指定時間段內的居民上網的比例，隨機調查400名居民，發(fā)現(xiàn)有108名居民上網，求該地區(qū)居民的上網率p的95%置信區(qū)間.例7

某傳媒公司欲調查電視臺某綜藝節(jié)目收視率p，為使得p

的1-

置信區(qū)間長度不超過2d0，問應調查多少用戶？作業(yè)：習題6.5第5題復習：樞軸量法

1.設法構造一個樣本和

的函數(shù)G=G(x1,x2,…,xn,

)

使得G的分布不依賴于未知參數(shù)。一般稱具有這種性質的G為樞軸量。2.適當選擇兩個常數(shù)c,d，使對給定的

(0<

<1)有P(c≤G≤d)=1-

3.假如能將c≤G

≤