概率論與數(shù)理統(tǒng)計：第七章 參數(shù)估計

1、第七章 參數(shù)估計 參數(shù)估計問題是利用從總體抽樣得到的信息來估計總體的某些參數(shù)或者參數(shù)的某些函數(shù).在參數(shù)估計問題中，假定總體分布形式已知，未知的僅僅是一個或幾個參數(shù).估計廢品率估計新生兒的體重估計湖中魚數(shù)估計降雨量 均事先假定總體分布形式已知，只有分布中的參數(shù)未知.X1, X2, , Xn要依據(jù)該樣本對參數(shù)作出估計, 或估計的某個已知函數(shù)g(). 這類問題為參數(shù)估計中的點估計問題.現(xiàn)從該總體抽樣，得樣本設(shè)有一個統(tǒng)計總體, 總體的分布函數(shù)為F(x; )，其中為未知參數(shù) (可以是向量).7.1 點估計4隨機抽查100個嬰兒,得100個體重數(shù)據(jù)10, 7, 6, 6.5, 5, 5.2, 據(jù)此, 我們

2、應(yīng)如何估計和呢 ?而全部信息就由這100個數(shù)組成 .例 已知某地區(qū)新生嬰兒的體重X N(, 2), (, 未知).5為估計:我們需要構(gòu)造出適當(dāng)?shù)臉颖镜暮瘮?shù)T(X1,X2,Xn)，每當(dāng)有了樣本，就代入該函數(shù)中算出一個值，用來作為的估計值 .T(X1, X2, Xn) 稱為參數(shù)的估計量，把樣本值代入T(X1, X2, Xn) 中，得到的一個估計值 .使用什么樣的統(tǒng)計量去估計？問題是: 6我們知道,若X N(, 2), 則E(X) = .由大數(shù)定律, 樣本體重的平均值類似地，用樣本體重的方差 S2估計2.自然想到把樣本體重的平均值 作為總體平均體重的一個估計.71. 矩估計法2. 極大似然法尋求點估

3、計量的方法8矩估計法由辛欽大數(shù)定理, 若總體X的數(shù)學(xué)期望E(X) = 存在,則有其中g(shù)為連續(xù)函數(shù) .9(X為連續(xù)型)(X為離散型)10矩估計量的觀察值稱為矩估計值.矩估計法的具體做法11例 設(shè)總體X的概率密度為其中, ( 0)為待估參數(shù)，設(shè)X1, X2, Xn是來自X的一個樣本，求, 的矩估計量.解 總體X 的一階、二階矩分別為12分別以一階、二階樣本矩A1, A2代替上兩式中的1, 2,有從中解得, , 即得到, 的矩估計量為13解根據(jù)矩估計法,14解解方程組得到矩估計量分別為15矩估計法的優(yōu)點是簡單易行,并不需要事先知道總體是什么分布 .缺點是，當(dāng)總體類型已知時，沒有充分利用分布提供的信息

4、. 一般情況下, 矩估計量不具有唯一性, 其主要原因在于建立矩法方程時，選取哪些總體矩用相應(yīng)樣本矩代替帶有一定的隨意性.矩估計法的優(yōu)缺點16一個簡單例子：某位同學(xué)與一位獵人一起外出打獵. 一只野兔從前方竄過.如果要你推測，最有可能是誰打中的呢?只聽一聲槍響，野兔應(yīng)聲倒下.最大似然法17只發(fā)一槍便打中, 獵人命中的概率一般大于這位同學(xué)命中的概率. 看來這一槍是獵人射中的.這個例子所作的推斷已經(jīng)體現(xiàn)了極大似然法的基本思想.18例如: 有兩外形相同的箱子,各裝100個球 一箱 99個白球 1 個紅球 一箱 1 個白球 99個紅球現(xiàn)從兩箱中任取一箱, 并從箱中任取一球,結(jié)果所取得的球是白球.答: 第一

5、箱.問: 所取的球來自哪一箱？思想方法：選擇參數(shù)使得事件的出現(xiàn)有較大的概率19似然函數(shù)2021222324求最大似然估計量的步驟:25 最大似然估計法也適用于分布中含有多個未知參數(shù)的情況. 此時只需令對數(shù)似然方程組對數(shù)似然方程26解似然函數(shù)解X 的似然函數(shù)為2930解31作業(yè)：2(2), 3(2), 6(并求p的矩估計值)32對于同一個參數(shù), 用不同的估計方法求出的估計量可能不相同, 問題對于同一個參數(shù)究竟采用哪一個估計量好?評價估計量的標(biāo)準是什么?幾個常用的估計量評價標(biāo)準:問題的提出7.3 估計量的評選標(biāo)準1無偏性2有效性3相合性33 估計量是隨機變量，對于不同的樣本值會得到不同的估計值.

6、我們希望估計值在未知參數(shù)真值附近擺動，而它的期望值等于未知參數(shù)的真值. 這就導(dǎo)致無偏性這個標(biāo)準 . 則稱 為的無偏估計.設(shè) 是未知參數(shù)的估計量，若無偏性34是總體X 的樣本.是 的無偏估計量.證例 設(shè)總體X 的 k 階矩 存在,請證明: 不論 X 服從什么分布,35證36(這種方法稱為無偏化).37例 設(shè)總體 X N ( , 2),為 X 的一個樣本.求常數(shù) k , 使為 的無偏估計量.解注意到是 X1, X2, Xn 的線性函數(shù).3839故40證所以 是參數(shù) 的無偏估計量.41而具有概率密度故知即 也是參數(shù) 的無偏估計量.Fmin(x)=1-1-FX(x)n42由以上例子可知, 一個參數(shù)可以

7、有不同的無偏估計量. 由于方差是隨機變量取值與其數(shù)學(xué)期望的偏離程度, 所以無偏估計以方差小者為好.這就引進了有效性這一概念 .43有效性44證故有而故有當(dāng) n 1 時,故 較 有效 .46對于任意 , 有為 的相合估計量相合性 相合性是對估計量的一個基本要求, 不具備相合性的估計量是不予以考慮的.47由辛欽定理, 若總體 的k階矩 存在, 則有故為 的相合估計量 . 48關(guān)于相合性的兩個常用結(jié)論1. 樣本 k 階矩是總體 k 階矩的相合估計量. 是 的相合估計量.2.設(shè) 是 的無偏估計量, 且 , 則由大數(shù)定律證明用切比雪夫不等式證明矩法得到的估計量一般為相合估計量.在一定條件下, 極大似然估

8、計具有相合性.49例為常數(shù)則 是 的相合估計量.證所以 是 的相合估計量.作業(yè)：1550顯然 是 的無偏估計量. 且7.4 區(qū)間估計51置信區(qū)間與置信水平52說明 置信區(qū)間包含兩方面含義 1.置信水平 2.區(qū)間長度置信水平高，則區(qū)間大，區(qū)間精度差置信區(qū)間小，則精度高，但置信水平低53 7.5 正態(tài)總體均值與方差的區(qū)間估計54 從以上分析的過程，我們歸納出求置信區(qū)間的一般步驟如下:1. 明確問題, 是求什么參數(shù)的置信區(qū)間? 置信水平 是多少?2. 尋找參數(shù) 的一個良好的點估計 T(X1,X2,Xn) 3. 尋找一個待估參數(shù) 和估計量 T 的函數(shù) W(T, ),且其分布為已知. W稱為樞軸量55 4. 對于給定的置信水平 ，根據(jù)W(T, )的分布，確定常數(shù)a, b，使得 P(a W(T, )b) = 5. 對“aW(T, )b”作等價變形,得到如下形式:即于是 就是 的 置信區(qū)間.5657區(qū)間短精度高區(qū)間長精度低606162636465例 兩臺機床生產(chǎn)同一個型號的滾珠，從甲機床生產(chǎn)的滾珠中抽取8個，從乙機床生產(chǎn)的滾珠中抽取9個，測得這些滾珠的直徑(毫米)如下: 甲機床 15.0 14.8 15.2 15.4 14