6-1參數(shù)的點(diǎn)估計(jì).ppt

1、概率論與數(shù)理統(tǒng)計(jì),一、問題的提出,二、矩估計(jì)法,第一節(jié) 參數(shù)的點(diǎn)估計(jì),三、最大似然估計(jì),為相應(yīng)的一個樣本值. 我們希望用樣本值去估計(jì),一、點(diǎn)估計(jì)問題的提出,已知某電話局在單位時間內(nèi)收到用戶呼喚次,的形式已知 . 利用樣本值 估計(jì),的值.,例1,已知某種燈泡的壽命 ，即,的分布密度,的形式已知，但參數(shù) 未知 . 利用樣本值,，估計(jì) ， .,例2,考慮某廠生產(chǎn)的一批電子元件的壽命這個,總體 ；不知道 的分布形式 ，根據(jù)樣本值,估計(jì)元件的平均壽命和元件壽命,例3,在數(shù)理統(tǒng)計(jì)中稱統(tǒng)計(jì)量,點(diǎn)估計(jì)常用方法：矩估計(jì)和最大似然估計(jì)法.,解決上述參數(shù) 的點(diǎn)估計(jì)問題的思路是: 設(shè)法,作出合理的估計(jì) .,的估計(jì)值

2、.,矩估計(jì)法是由英國統(tǒng)計(jì)學(xué)家,矩估計(jì)法的基本思想是用樣本的 階原點(diǎn)矩,去估計(jì)總體 的 階原點(diǎn)矩 ;,皮爾遜(K.Pearson)在1894年提出.,并由此得到未知參數(shù)的估計(jì)量 .,二、矩估計(jì)法,的k階中心矩,設(shè)總體 的分布函數(shù)為 ,是 個待估計(jì)的未知參數(shù) . 設(shè),存在，對任意 ,現(xiàn)用樣本矩作為總體矩的估計(jì)，即令,這便得到含 個參數(shù) 的 個方程組,解該方程組得,以 作為參數(shù) 的估計(jì)量. 這種求出估計(jì)量的方法,稱為矩估計(jì)法 .,解,例4,求總體 的均值 和方差 的矩估計(jì).,解,設(shè) 是總體 的一個樣本，,由于,故令,解得,例5,解,設(shè) 是總體 的一個樣本，,容易求得,例6,故令,解得 和 的矩估計(jì)量

3、為,設(shè)總體 的分布 密度為,為總體 的一個樣本，求參數(shù),的矩估計(jì)量 .,由于 只含有一個未知參數(shù) ,一般,只需求出 便能得到 的矩估計(jì)量，但是,解,即 不含有 ,故不能由此得到 的矩估計(jì)量.,例7,于是解得 的矩估計(jì)量為,本例 的矩估計(jì)量也可以這樣求得,故令,即 的矩估計(jì)量為,該例表明參數(shù)的矩估計(jì)量不唯一.,最大似然估計(jì)作為一種點(diǎn)估計(jì)方法最初是由,德國數(shù)學(xué)家高斯(Gauss)于1821年提出，英國統(tǒng)計(jì),學(xué)家費(fèi)歇爾(R.A.Fisher)在1922年作了進(jìn)一步發(fā)展,使之成為數(shù)理統(tǒng)計(jì)中最重要應(yīng)用最廣泛的方法之一.,Gauss,Fisher,三、最大似然估計(jì),設(shè)總體 的分布律為 或,分布密度為 ，其

4、中 是未,知參數(shù)， 的分布律(或分布密度),為 ,當(dāng)給定樣本值 后，,它只是參數(shù) 的函數(shù)，記為 ，即,則稱 為似然函數(shù)，似然函數(shù)實(shí)質(zhì)上是樣本的,分布律或分布密度.,1. 似然函數(shù),最大似然原理的直觀想法：在試驗(yàn)中概率,最大的事件最有可能出現(xiàn) .一個試驗(yàn)如有若干個,可能結(jié)果 ,若在一次試驗(yàn)中，結(jié)果 出現(xiàn),則認(rèn)為 出現(xiàn)的概率最大.,2. 最大似然估計(jì)法,假定一個盒中黑球和白球兩種球的數(shù)目之比,為 3:1，但不知哪種球多， 表示從盒中任取一球,是黑球的概率，那么 或 , 現(xiàn)在有放回地,從盒中抽3個球，試根據(jù)樣本中的黑球數(shù) 來估計(jì),參數(shù) .,解,隨機(jī)變量 ，即,例8,估計(jì) 只需在 和 之間作出選擇.,

5、計(jì)算這兩種情況下 的分布律：,的估計(jì),既然在一次試驗(yàn)中得到的樣本值 ，,那么樣本取該樣本值的概率應(yīng)較大，所以選取使,這似然函數(shù) 達(dá)到最大的參數(shù)值作為估計(jì)值 ，,稱為最大似然估計(jì)法.,的概率為,則樣本,設(shè)總體 的分布密度(或分布律)為 ，,其中 為未知參數(shù) . 又設(shè),分別為 的最大似然估計(jì)量.,定義6.1,由于,與 有相同的最大值點(diǎn) .因此， 為,最大似然估計(jì)的必要條件為,稱它為似然方程, 其中,求最大似然估計(jì)量的一般步驟為：,1求似然函數(shù) ；,2求出 及似然方程,3解似然方程得到最大似然估計(jì)值,4最后得到最大似然估計(jì)量,設(shè)總體 服從泊松分布 ,其中 為未知,參數(shù)，試求參數(shù) 的最大似然估計(jì)量 .

6、,設(shè)樣本 的一個觀測值為,解,由于總體 ,故有,似然函數(shù)為,例9,取對數(shù),即,所以 的最大似然估計(jì)量為 .,設(shè)總體 ，求參數(shù) 的最大,似然估計(jì)量 .,解,設(shè) 是總體 的樣本，,其觀測值為 , 由總體 ,分布密度為,例10,似然函數(shù),解似然方程得,最大似然估計(jì)量為 .,兩種求點(diǎn)估計(jì)的方法:,矩估計(jì)法,最大似然估計(jì)法,在統(tǒng)計(jì)問題中往往先使用最大似然估計(jì)法,在最大似然估計(jì)法使用不方便時, 再用矩估計(jì)法.,內(nèi)容小結(jié),第二次捕出的有記號的魚數(shù)X是r.v, X具有超幾何分布：,試用最大似然法估計(jì)湖中的魚數(shù).,為了估計(jì)湖中的魚數(shù)N，第一次捕上r條魚，做,上記號后放回. 隔一段時間后, 再捕出 S 條魚,結(jié)果

7、發(fā)現(xiàn)這S條魚中有k條標(biāo)有記號. 根據(jù)這個,信息, 如何估計(jì)湖中的魚數(shù)呢?,思考題,應(yīng)取使L(N;k)達(dá)到最大的N, 作為N的最大似然估計(jì).,把上式右端看作N的函數(shù)，記作L(N;k) .,經(jīng)過簡單的計(jì)算知，這個比值大于或小于1，,但用對N求導(dǎo)的方法相當(dāng)困難, 我們考慮比值：,經(jīng)過簡單的計(jì)算知，這個比值大于或小于1，,這就是說，當(dāng)N增大時，序列P(X=k;N)先是上,達(dá)到最大值 . 故N的最大似然估計(jì)為,再見,解,則X1,X2,Xn是取自B(1, p)的樣本，p是每次抽取 時取到白球的概率，p未知 .,先求 p 的最大似然估計(jì)：,一罐中裝有白球和黑球，有放回地抽,取一個容量為n的樣本，其中有 k 個白球，,求罐中黑球與白球之比 R 的最大似然估計(jì).,備用題例9-1,我們?nèi)菀浊蟮?由前述最大似然估計(jì)的性質(zhì)不難求得,p的最大似然估計(jì)為,