概率論參數估計習題課.pdf

第六章第六章 參數估計參數估計 習習 題題 課課 一、重點與難點一、重點與難點 三、典型例題三、典型例題 二、主要內容二、主要內容 一、重點與難點一、重點與難點 1.重點重點 最大似然估計最大似然估計. 一個正態(tài)總體參數的區(qū)間估計一個正態(tài)總體參數的區(qū)間估計. 2.難點難點 顯著性水平顯著性水平 與置信區(qū)間與置信區(qū)間. 矩估計量矩估計量 估 計 量 的 評 選 估 計 量 的 評 選 二、主要內容二、主要內容 最大似然估最大似然估 計量計量 最大似然估計的性質最大似然估計的性質 似 然 函 數 似 然 函 數 無偏性無偏性 正態(tài)總正態(tài)總 體均值體均值 方差的方差的 置信區(qū)置信區(qū) 間與上間與上 下限下限 有效性有效性 置信區(qū)間和上下限置信區(qū)間和上下限 求置信區(qū)間的求置信區(qū)間的 步驟步驟 相合性相合性 矩估計量矩估計量 用樣本矩來估計總體矩用樣本矩來估計總體矩, ,用樣本矩的連續(xù)用樣本矩的連續(xù) 函數來估計總體矩的連續(xù)函數函數來估計總體矩的連續(xù)函數, ,這種估計法稱這種估計法稱 為為矩估計法矩估計法. 矩估計法的具體做法矩估計法的具體做法: , 2, 1,klAl l 令令 , 21 的方程組的方程組個未知參數個未知參數這是一個包含這是一個包含 k k ., 21k 解出其中解出其中 ., , , , 2121 量量這個估計量稱為矩估計這個估計量稱為矩估計估計量估計量 的的分別作為分別作為用方程組的解用方程組的解 kk 最大似然估計量最大似然估計量 )(, 21 Lxxx n 選取使似然函數選取使似然函數時時得到樣本值得到樣本值 , 的估計值的估計值作為未知參數作為未知參數取得最大值的取得最大值的 ).;,(max) ;,( 2121 nn xxxLxxxL 即即 )(可能的取值范圍可能的取值范圍是是其中其中 ),( , 21 21 n n xxx xxx 記為記為有關有關與樣本值與樣本值這樣得到的這樣得到的 ),( 21n XXX , 的最大似然估計值的最大似然估計值參數參數 . 的最大似然估計量的最大似然估計量參數參數 最大似然估計的性質最大似然估計的性質 .)() (, )();( , )( , )( 的最大似然估計的最大似然估計是是則則計計 的最大似然估的最大似然估中的參數中的參數形式已知形式已知 的概率密度函數的概率密度函數是是又設又設數數 具有單值反函具有單值反函的函數的函數設設 uuu fxf XUuu uu 似然函數似然函數 屬離散型屬離散型設總體設總體X. 1 ),;();,()( 1 21 n i in xpxxxLL .)(稱為樣本似然函數稱為樣本似然函數 L 屬連續(xù)型屬連續(xù)型設總體設總體X. 2 ),;();,()( 1 21 n i in xfxxxLL .)(稱為樣本的似然函數稱為樣本的似然函數 L 正態(tài)總體均值方差的置信區(qū)間與上下限正態(tài)總體均值方差的置信區(qū)間與上下限 . 1的置信區(qū)間的置信區(qū)間均值均值 單個正態(tài)總體單個正態(tài)總體 ,)1( 2為已知 為已知 1 的置信區(qū)間的置信區(qū)間的一個置信水平為的一個置信水平為 . 2/ z n X ,)2( 2為未知 為未知 1 的置信區(qū)間的置信區(qū)間的置信水平為的置信水平為 .)1( 2/ nt n S X 1 2 的置信區(qū)間的置信區(qū)間的置信水平為的置信水平為方差方差 . )1( )1( , )1( )1( 2 2/1 2 2 2/ 2 n Sn n Sn . 2 2 的置信區(qū)間的置信區(qū)間方差方差 , 未知未知 1的置信區(qū)間的置信區(qū)間的一個置信水平為的一個置信水平為標準差標準差 . )1( 1 , )1( 1 2 2/1 2 2/ n Sn n Sn . 1 21 的置信區(qū)間的置信區(qū)間兩個總體均值差兩個總體均值差 ,)1( 2 2 2 1 均為已知均為已知和和 1 21 的置信區(qū)間的置信區(qū)間的一個置信水平為的一個置信水平為 . 2 2 2 1 2 1 2/ nn zYX 兩個正態(tài)總體兩個正態(tài)總體 ,)2( 2 2 2 1 均為未知均為未知和和 1 21 的近似置信區(qū)間的近似置信區(qū)間的一個置信水平為的一個置信水平為 . 2 2 2 1 2 1 2/ n S n S zYX ,)3( 22 2 2 2 1 為未知為未知但但 1 21 的置信區(qū)間的置信區(qū)間的一個置信水平為的一個置信水平為 . 11 )2( 21 212/ nn SnntYX w ., 2 )1()1( 2 21 2 22 2 11 2 www SS nn SnSn S 其中其中 . 2 2 2 2 1 的置信區(qū)間的置信區(qū)間兩個總體方差比兩個總體方差比 . , 21 為未知的情況為未知的情況僅討論總體均值僅討論總體均值 1 2 2 2 1 的置信區(qū)間的置信區(qū)間的一個置信水平為的一個置信水平為 . )1, 1( 1 , )1, 1( 1 212/1 2 2 2 1 212/ 2 2 2 1 nnFS S nnFS S 正態(tài)總體均值與方差的單側置信區(qū)間正態(tài)總體均值與方差的單側置信區(qū)間 ,),1( nt n S X 1的置信下限的置信下限的置信水平為的置信水平為 ).1( nt n S X 1的單側置信區(qū)間的單側置信區(qū)間的一個置信水平為的一個置信水平為 , )( , 2 均為未知均為未知方差是方差是的均值是的均值是設正態(tài)總體設正態(tài)總體 X 1 2 的單側置信區(qū)間的單側置信區(qū)間的一個置信水平為的一個置信水平為 , )1( )1( , 0 2 1 2 n Sn 1 2 的單側置信上限的單側置信上限的置信水平為的置信水平為 . )1( )1( 2 1 2 2 n Sn 的置信區(qū)間是的置信區(qū)間是 的置信水平為的置信水平為則則為未知參數為未知參數其中其中 的分布律為的分布律為布的總體布的總體 分分它來自它來自的大樣本的大樣本設有一容量設有一容量 1 , 1, 0 ,)1();( , )10(,50 1 ppx pppxfXX n xx , 2 4 , 2 4 22 a acbb a acbb , 2 2/ zna 其中其中),2( 2 2/ zXnb . 2 Xnc 分布的置信區(qū)間分布的置信區(qū)間 )10( 無偏性無偏性 的一個樣本，的一個樣本，為總體為總體若若XXXX n , 21 ,的分布中的待估參數的分布中的待估參數是包含在總體是包含在總體X )(的取值范圍的取值范圍是是 . ,) ( ,) ( ),( 21 的無偏估計量的無偏估計量是是 則稱則稱有有且對于任意且對于任意存在存在 的數學期望的數學期望若估計量若估計量 EE XXX n 有效性有效性 . , , , 212 1 21 有效有效較較則認為則認為更密集更密集的附近較的附近較 的觀察值在真值的觀察值在真值相同的情況下相同的情況下在樣本容量在樣本容量 如果如果和和的兩個無偏估計量的兩個無偏估計量比較參數比較參數 n 由于方差是隨機變量取值與其數學期望的由于方差是隨機變量取值與其數學期望的 偏離程度偏離程度, 所以無偏估計以方差小者為好所以無偏估計以方差小者為好. . ), () ( , ),( ),( 21 21 21222111 有效有效較較則稱則稱 若有若有的無偏估計量的無偏估計量都是都是 與與設設 DD XXXXXX nn 相合性相合性 . , ),( , ,),( 21 21 的相合估計量的相合估計量為為則稱則稱依概率收斂于依概率收斂于 時時當當若對于任意若對于任意 的估計量的估計量為參數為參數若若 n n XXXn XXX 置信區(qū)間和置信上限、置信下限置信區(qū)間和置信上限、置信下限 ,1),(),( ),(),( , 1),(0 , );( 2121 2121 21 nn nn n XXXXXXP XXXXXX X XX xFX 滿足滿足和和 確定的兩個統(tǒng)計量確定的兩個統(tǒng)計量 若由樣本若由樣本對于給定值對于給定值數數 含有一個未知參含有一個未知參的分布函數的分布函數設總體設總體 .1 , 1 , 1),( 為置信水平為置信水平上限上限區(qū)間的置信下限和置信區(qū)間的置信下限和置信 的雙側置信的雙側置信分別稱為置信水平為分別稱為置信水平為和和區(qū)間區(qū)間 的置信的置信的置信水平為的置信水平為是是則稱隨機區(qū)間則稱隨機區(qū)間 單側置信區(qū)間的定義單側置信區(qū)間的定義 ,1 , ),( , ,1)(0 21 21 P XXXX XX nn 滿足滿足 對于任意對于任意確定的統(tǒng)計量確定的統(tǒng)計量 若由樣本若由樣本對于給定值對于給定值 . 1 , 1) ,( 信下限信下限 的單側置的單側置的置信水平為的置信水平為稱為稱為側置信區(qū)間側置信區(qū)間 的單的單的置信水平為的置信水平為是是則稱隨機區(qū)間則稱隨機區(qū)間 ,1 ),( 21 P XXX n 滿足滿足意意 對于任對于任又如果統(tǒng)計量又如果統(tǒng)計量 . 1 , 1 ), ( 信上限信上限 的單側置的單側置的置信水平為的置信水平為稱為稱為側置信區(qū)間側置信區(qū)間 的單的單的置信水平為的置信水平為是是則稱隨機區(qū)間則稱隨機區(qū)間 求置信區(qū)間的一般步驟求置信區(qū)間的一般步驟 . )( , );,( :, )1( 21 21 包括包括數數且不依賴于任何未知參且不依賴于任何未知參 的分布已知的分布已知并且并且其中僅包含待估參數其中僅包含待估參數 的函數的函數尋求一個樣本尋求一個樣本 Z XXXZZ XXX n n .1);,( ,1 )2( 21 bXXXZaP ba n 使使 定出兩個常數定出兩個常數對于給定的置信水平對于給定的置信水平 .1 ),( ,),( , ),( , );,( )3( 21 21 21 的置信區(qū)間的置信區(qū)間的一個置信水平為的一個置信水平為 就是就是那么那么都是統(tǒng)計量都是統(tǒng)計量 其中其中的不等式的不等式 得到等價得到等價若能從若能從 n n n XXX XXX bXXXZa 三、典型例題三、典型例題 解解 . , )10(, 21 的無偏估計量的無偏估計量并驗證它是達到方差界并驗證它是達到方差界 的最大似然估計量的最大似然估計量求參數求參數分布的一個樣本分布的一個樣本 的的是來自參數為是來自參數為設設 pp pXXX n , 1, 0,)1();( 1 xpppxf xx );()( 1 pxfpL n i i ,)1( 11 n i i n i i xnx pp )(lnpL),1ln(ln 11 pxnpx n i i n i i 例例1 p pL d )(lnd , 1 11 p xn p x n i i n i i , 0 d )(lnd p pL 由由,)1( 11 n i i n i i xnpxp得得 的最大似然估計值為的最大似然估計值為故參數故參數 p, 1 1 n i i x n p 的最大似然估計量為的最大似然估計量為參數參數 p, 1 1 XX n p n i i )()(XEpE n i i X n E 1 1 ,)( 1 1 pXE n n i i . 的無偏估計量的無偏估計量是是所以所以pp , 1, 0,)1();( 1 xpppxf xx 又因為又因為 ),1ln()1(ln);(lnpxpxpxf p pxf);(ln , 1 1 p x p x 2 );(ln p pxf E 1 ,0 1 2 )1( 1 1 x xx pp p x p x p p p p 22 1 )1( )1( 1 , )1( 1 pp 都滿足不等式都滿足不等式 的任何一個無偏估計量的任何一個無偏估計量的參數的參數因為因為 ), ( );( 21n XXXp ppxf , )1( );(ln )( 2 n pp p pxf E n pD 的無偏估計量的無偏估計量對于參數對于參數 p, 1 1 n i i X n Xp n i i X n DpD 1 1 )( n i i XD n1 2 )( 1 )1( 1 2 ppn n ),1( 1 pp n . 偏估計量偏估計量 的無的無的達到方差界的達到方差界是總體分布參數是總體分布參數故故pXp 解解 ?)05. 0( ,0025. 0 ,7 .12 ,16,0.01 , , ),( 2 2 問此儀器工作是否穩(wěn)定問此儀器工作是否穩(wěn)定 算得算得個點個點今抽測今抽測