概率論參數(shù)估計(jì)習(xí)題課.pdf

第六章第六章 參數(shù)估計(jì)參數(shù)估計(jì) 習(xí)習(xí) 題題 課課 一、重點(diǎn)與難點(diǎn)一、重點(diǎn)與難點(diǎn) 三、典型例題三、典型例題 二、主要內(nèi)容二、主要內(nèi)容 一、重點(diǎn)與難點(diǎn)一、重點(diǎn)與難點(diǎn) 1.重點(diǎn)重點(diǎn) 最大似然估計(jì)最大似然估計(jì). 一個(gè)正態(tài)總體參數(shù)的區(qū)間估計(jì)一個(gè)正態(tài)總體參數(shù)的區(qū)間估計(jì). 2.難點(diǎn)難點(diǎn) 顯著性水平顯著性水平 與置信區(qū)間與置信區(qū)間. 矩估計(jì)量矩估計(jì)量 估 計(jì) 量 的 評 選 估 計(jì) 量 的 評 選 二、主要內(nèi)容二、主要內(nèi)容 最大似然估最大似然估 計(jì)量計(jì)量 最大似然估計(jì)的性質(zhì)最大似然估計(jì)的性質(zhì) 似 然 函 數(shù) 似 然 函 數(shù) 無偏性無偏性 正態(tài)總正態(tài)總 體均值體均值 方差的方差的 置信區(qū)置信區(qū) 間與上間與上 下限下限 有效性有效性 置信區(qū)間和上下限置信區(qū)間和上下限 求置信區(qū)間的求置信區(qū)間的 步驟步驟 相合性相合性 矩估計(jì)量矩估計(jì)量 用樣本矩來估計(jì)總體矩用樣本矩來估計(jì)總體矩, ,用樣本矩的連續(xù)用樣本矩的連續(xù) 函數(shù)來估計(jì)總體矩的連續(xù)函數(shù)函數(shù)來估計(jì)總體矩的連續(xù)函數(shù), ,這種估計(jì)法稱這種估計(jì)法稱 為為矩估計(jì)法矩估計(jì)法. 矩估計(jì)法的具體做法矩估計(jì)法的具體做法: , 2, 1,klAl l 令令 , 21 的方程組的方程組個(gè)未知參數(shù)個(gè)未知參數(shù)這是一個(gè)包含這是一個(gè)包含 k k ., 21k 解出其中解出其中 ., , , , 2121 量量這個(gè)估計(jì)量稱為矩估計(jì)這個(gè)估計(jì)量稱為矩估計(jì)估計(jì)量估計(jì)量 的的分別作為分別作為用方程組的解用方程組的解 kk 最大似然估計(jì)量最大似然估計(jì)量 )(, 21 Lxxx n 選取使似然函數(shù)選取使似然函數(shù)時(shí)時(shí)得到樣本值得到樣本值 , 的估計(jì)值的估計(jì)值作為未知參數(shù)作為未知參數(shù)取得最大值的取得最大值的 ).;,(max) ;,( 2121 nn xxxLxxxL 即即 )(可能的取值范圍可能的取值范圍是是其中其中 ),( , 21 21 n n xxx xxx 記為記為有關(guān)有關(guān)與樣本值與樣本值這樣得到的這樣得到的 ),( 21n XXX , 的最大似然估計(jì)值的最大似然估計(jì)值參數(shù)參數(shù) . 的最大似然估計(jì)量的最大似然估計(jì)量參數(shù)參數(shù) 最大似然估計(jì)的性質(zhì)最大似然估計(jì)的性質(zhì) .)() (, )();( , )( , )( 的最大似然估計(jì)的最大似然估計(jì)是是則則計(jì)計(jì) 的最大似然估的最大似然估中的參數(shù)中的參數(shù)形式已知形式已知 的概率密度函數(shù)的概率密度函數(shù)是是又設(shè)又設(shè)數(shù)數(shù) 具有單值反函具有單值反函的函數(shù)的函數(shù)設(shè)設(shè) uuu fxf XUuu uu 似然函數(shù)似然函數(shù) 屬離散型屬離散型設(shè)總體設(shè)總體X. 1 ),;();,()( 1 21 n i in xpxxxLL .)(稱為樣本似然函數(shù)稱為樣本似然函數(shù) L 屬連續(xù)型屬連續(xù)型設(shè)總體設(shè)總體X. 2 ),;();,()( 1 21 n i in xfxxxLL .)(稱為樣本的似然函數(shù)稱為樣本的似然函數(shù) L 正態(tài)總體均值方差的置信區(qū)間與上下限正態(tài)總體均值方差的置信區(qū)間與上下限 . 1的置信區(qū)間的置信區(qū)間均值均值 單個(gè)正態(tài)總體單個(gè)正態(tài)總體 ,)1( 2為已知 為已知 1 的置信區(qū)間的置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為 . 2/ z n X ,)2( 2為未知 為未知 1 的置信區(qū)間的置信區(qū)間的置信水平為的置信水平為 .)1( 2/ nt n S X 1 2 的置信區(qū)間的置信區(qū)間的置信水平為的置信水平為方差方差 . )1( )1( , )1( )1( 2 2/1 2 2 2/ 2 n Sn n Sn . 2 2 的置信區(qū)間的置信區(qū)間方差方差 , 未知未知 1的置信區(qū)間的置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為標(biāo)準(zhǔn)差標(biāo)準(zhǔn)差 . )1( 1 , )1( 1 2 2/1 2 2/ n Sn n Sn . 1 21 的置信區(qū)間的置信區(qū)間兩個(gè)總體均值差兩個(gè)總體均值差 ,)1( 2 2 2 1 均為已知均為已知和和 1 21 的置信區(qū)間的置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為 . 2 2 2 1 2 1 2/ nn zYX 兩個(gè)正態(tài)總體兩個(gè)正態(tài)總體 ,)2( 2 2 2 1 均為未知均為未知和和 1 21 的近似置信區(qū)間的近似置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為 . 2 2 2 1 2 1 2/ n S n S zYX ,)3( 22 2 2 2 1 為未知為未知但但 1 21 的置信區(qū)間的置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為 . 11 )2( 21 212/ nn SnntYX w ., 2 )1()1( 2 21 2 22 2 11 2 www SS nn SnSn S 其中其中 . 2 2 2 2 1 的置信區(qū)間的置信區(qū)間兩個(gè)總體方差比兩個(gè)總體方差比 . , 21 為未知的情況為未知的情況僅討論總體均值僅討論總體均值 1 2 2 2 1 的置信區(qū)間的置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為 . )1, 1( 1 , )1, 1( 1 212/1 2 2 2 1 212/ 2 2 2 1 nnFS S nnFS S 正態(tài)總體均值與方差的單側(cè)置信區(qū)間正態(tài)總體均值與方差的單側(cè)置信區(qū)間 ,),1( nt n S X 1的置信下限的置信下限的置信水平為的置信水平為 ).1( nt n S X 1的單側(cè)置信區(qū)間的單側(cè)置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為 , )( , 2 均為未知均為未知方差是方差是的均值是的均值是設(shè)正態(tài)總體設(shè)正態(tài)總體 X 1 2 的單側(cè)置信區(qū)間的單側(cè)置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為 , )1( )1( , 0 2 1 2 n Sn 1 2 的單側(cè)置信上限的單側(cè)置信上限的置信水平為的置信水平為 . )1( )1( 2 1 2 2 n Sn 的置信區(qū)間是的置信區(qū)間是 的置信水平為的置信水平為則則為未知參數(shù)為未知參數(shù)其中其中 的分布律為的分布律為布的總體布的總體 分分它來自它來自的大樣本的大樣本設(shè)有一容量設(shè)有一容量 1 , 1, 0 ,)1();( , )10(,50 1 ppx pppxfXX n xx , 2 4 , 2 4 22 a acbb a acbb , 2 2/ zna 其中其中),2( 2 2/ zXnb . 2 Xnc 分布的置信區(qū)間分布的置信區(qū)間 )10( 無偏性無偏性 的一個(gè)樣本，的一個(gè)樣本，為總體為總體若若XXXX n , 21 ,的分布中的待估參數(shù)的分布中的待估參數(shù)是包含在總體是包含在總體X )(的取值范圍的取值范圍是是 . ,) ( ,) ( ),( 21 的無偏估計(jì)量的無偏估計(jì)量是是 則稱則稱有有且對于任意且對于任意存在存在 的數(shù)學(xué)期望的數(shù)學(xué)期望若估計(jì)量若估計(jì)量 EE XXX n 有效性有效性 . , , , 212 1 21 有效有效較較則認(rèn)為則認(rèn)為更密集更密集的附近較的附近較 的觀察值在真值的觀察值在真值相同的情況下相同的情況下在樣本容量在樣本容量 如果如果和和的兩個(gè)無偏估計(jì)量的兩個(gè)無偏估計(jì)量比較參數(shù)比較參數(shù) n 由于方差是隨機(jī)變量取值與其數(shù)學(xué)期望的由于方差是隨機(jī)變量取值與其數(shù)學(xué)期望的 偏離程度偏離程度, 所以無偏估計(jì)以方差小者為好所以無偏估計(jì)以方差小者為好. . ), () ( , ),( ),( 21 21 21222111 有效有效較較則稱則稱 若有若有的無偏估計(jì)量的無偏估計(jì)量都是都是 與與設(shè)設(shè) DD XXXXXX nn 相合性相合性 . , ),( , ,),( 21 21 的相合估計(jì)量的相合估計(jì)量為為則稱則稱依概率收斂于依概率收斂于 時(shí)時(shí)當(dāng)當(dāng)若對于任意若對于任意 的估計(jì)量的估計(jì)量為參數(shù)為參數(shù)若若 n n XXXn XXX 置信區(qū)間和置信上限、置信下限置信區(qū)間和置信上限、置信下限 ,1),(),( ),(),( , 1),(0 , );( 2121 2121 21 nn nn n XXXXXXP XXXXXX X XX xFX 滿足滿足和和 確定的兩個(gè)統(tǒng)計(jì)量確定的兩個(gè)統(tǒng)計(jì)量 若由樣本若由樣本對于給定值對于給定值數(shù)數(shù) 含有一個(gè)未知參含有一個(gè)未知參的分布函數(shù)的分布函數(shù)設(shè)總體設(shè)總體 .1 , 1 , 1),( 為置信水平為置信水平上限上限區(qū)間的置信下限和置信區(qū)間的置信下限和置信 的雙側(cè)置信的雙側(cè)置信分別稱為置信水平為分別稱為置信水平為和和區(qū)間區(qū)間 的置信的置信的置信水平為的置信水平為是是則稱隨機(jī)區(qū)間則稱隨機(jī)區(qū)間 單側(cè)置信區(qū)間的定義單側(cè)置信區(qū)間的定義 ,1 , ),( , ,1)(0 21 21 P XXXX XX nn 滿足滿足 對于任意對于任意確定的統(tǒng)計(jì)量確定的統(tǒng)計(jì)量 若由樣本若由樣本對于給定值對于給定值 . 1 , 1) ,( 信下限信下限 的單側(cè)置的單側(cè)置的置信水平為的置信水平為稱為稱為側(cè)置信區(qū)間側(cè)置信區(qū)間 的單的單的置信水平為的置信水平為是是則稱隨機(jī)區(qū)間則稱隨機(jī)區(qū)間 ,1 ),( 21 P XXX n 滿足滿足意意 對于任對于任又如果統(tǒng)計(jì)量又如果統(tǒng)計(jì)量 . 1 , 1 ), ( 信上限信上限 的單側(cè)置的單側(cè)置的置信水平為的置信水平為稱為稱為側(cè)置信區(qū)間側(cè)置信區(qū)間 的單的單的置信水平為的置信水平為是是則稱隨機(jī)區(qū)間則稱隨機(jī)區(qū)間 求置信區(qū)間的一般步驟求置信區(qū)間的一般步驟 . )( , );,( :, )1( 21 21 包括包括數(shù)數(shù)且不依賴于任何未知參且不依賴于任何未知參 的分布已知的分布已知并且并且其中僅包含待估參數(shù)其中僅包含待估參數(shù) 的函數(shù)的函數(shù)尋求一個(gè)樣本尋求一個(gè)樣本 Z XXXZZ XXX n n .1);,( ,1 )2( 21 bXXXZaP ba n 使使 定出兩個(gè)常數(shù)定出兩個(gè)常數(shù)對于給定的置信水平對于給定的置信水平 .1 ),( ,),( , ),( , );,( )3( 21 21 21 的置信區(qū)間的置信區(qū)間的一個(gè)置信水平為的一個(gè)置信水平為 就是就是那么那么都是統(tǒng)計(jì)量都是統(tǒng)計(jì)量 其中其中的不等式的不等式 得到等價(jià)得到等價(jià)若能從若能從 n n n XXX XXX bXXXZa 三、典型例題三、典型例題 解解 . , )10(, 21 的無偏估計(jì)量的無偏估計(jì)量并驗(yàn)證它是達(dá)到方差界并驗(yàn)證它是達(dá)到方差界 的最大似然估計(jì)量的最大似然估計(jì)量求參數(shù)求參數(shù)分布的一個(gè)樣本分布的一個(gè)樣本 的的是來自參數(shù)為是來自參數(shù)為設(shè)設(shè) pp pXXX n , 1, 0,)1();( 1 xpppxf xx );()( 1 pxfpL n i i ,)1( 11 n i i n i i xnx pp )(lnpL),1ln(ln 11 pxnpx n i i n i i 例例1 p pL d )(lnd , 1 11 p xn p x n i i n i i , 0 d )(lnd p pL 由由,)1( 11 n i i n i i xnpxp得得 的最大似然估計(jì)值為的最大似然估計(jì)值為故參數(shù)故參數(shù) p, 1 1 n i i x n p 的最大似然估計(jì)量為的最大似然估計(jì)量為參數(shù)參數(shù) p, 1 1 XX n p n i i )()(XEpE n i i X n E 1 1 ,)( 1 1 pXE n n i i . 的無偏估計(jì)量的無偏估計(jì)量是是所以所以pp , 1, 0,)1();( 1 xpppxf xx 又因?yàn)橛忠驗(yàn)?),1ln()1(ln);(lnpxpxpxf p pxf);(ln , 1 1 p x p x 2 );(ln p pxf E 1 ,0 1 2 )1( 1 1 x xx pp p x p x p p p p 22 1 )1( )1( 1 , )1( 1 pp 都滿足不等式都滿足不等式 的任何一個(gè)無偏估計(jì)量的任何一個(gè)無偏估計(jì)量的參數(shù)的參數(shù)因?yàn)橐驗(yàn)?), ( );( 21n XXXp ppxf , )1( );(ln )( 2 n pp p pxf E n pD 的無偏估計(jì)量的無偏估計(jì)量對于參數(shù)對于參數(shù) p, 1 1 n i i X n Xp n i i X n DpD 1 1 )( n i i XD n1 2 )( 1 )1( 1 2 ppn n ),1( 1 pp n . 偏估計(jì)量偏估計(jì)量 的無的無的達(dá)到方差界的達(dá)到方差界是總體分布參數(shù)是總體分布參數(shù)故故pXp 解解 ?)05. 0( ,0025. 0 ,7 .12 ,16,0.01 , , ),( 2 2 問此儀器工作是否穩(wěn)定問此儀器工作是否穩(wěn)定 算得算得個(gè)點(diǎn)個(gè)點(diǎn)今抽測今抽測