矩估計(jì)和極大似然估計(jì)

關(guān)于矩估計(jì)和極大似然估計(jì)第1頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五第七章第一節(jié)矩法估計(jì)二、常用分布參數(shù)的矩法估計(jì)一、矩法估計(jì)第2頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五矩估計(jì)步驟：連續(xù)型離散型第3頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五所以參數(shù)p的矩估計(jì)量為例：總體X的分布列為：

是來自總體X的樣本，解：由于總體X的分布為二項(xiàng)分布，第4頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五設(shè)某炸藥廠一天中發(fā)生著火現(xiàn)象的次數(shù)X例1服從第5頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五下面我們通過幾個(gè)例子說明利用矩估計(jì)法求未知參數(shù)的過程。二、常用分布常數(shù)的矩法估計(jì)第6頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五例2解第7頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五注:

總體均值方差的矩估計(jì)量與總體分布無關(guān)。做矩估計(jì)時(shí),也可用中心矩建立關(guān)于未知參數(shù)的方程組，因而矩估計(jì)不唯一。λ未知，求參數(shù)λ的矩估計(jì)。例3解：第8頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五解不合格品率p的矩法估計(jì)

分析設(shè)總體X為抽的不合格產(chǎn)品數(shù)，相當(dāng)于抽取了一組樣本X1，X2，…，Xn,且因p=EX,故

p

的矩估計(jì)量為

設(shè)某車間生產(chǎn)一批產(chǎn)品，為估計(jì)該批產(chǎn)品不合格品(即出現(xiàn)不合格產(chǎn)品的頻率).例4率，抽取了n件產(chǎn)品進(jìn)行檢查.第9頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五例5解第10頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五第11頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五θ是未知參數(shù)，X1，X2，…,Xn，是X

的一組樣本，解設(shè)總體X的概率密度為解得例6求θ的矩估計(jì)量.第12頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五其中θ＞0，μ與θ是未知參數(shù)，X1，X2，…,Xn，是X

的一組樣本，求μ與θ的矩估計(jì)量.解例7.

設(shè)總體X的概率密度為令第13頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五令注意到DX=E(X2)－(EX)2=θ2=θ2+(θ+μ)2第14頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五第七章第二節(jié)極大似然估計(jì)極大似然估計(jì)第15頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五極大似然估計(jì)法:設(shè)是的一個(gè)樣本值事件發(fā)生的概率為為的函數(shù)，形式已知(如離散型)X的分布列為的聯(lián)合分布列為：為樣本的似然函數(shù)。定義7.1第16頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五即取使得：與有關(guān),記為稱為參數(shù)θ的極大似然估計(jì)值。稱為參數(shù)θ的極大似然估計(jì)量。達(dá)到最大的參數(shù)作為θ的估計(jì)值?，F(xiàn)從中挑選使概率樣本的似然函數(shù)第17頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五若總體X屬連續(xù)型,其概率密度的形式已知，θ為待估參數(shù)；則的聯(lián)合密度：一般，關(guān)于θ可微，故θ可由下式求得：因此的極大似然估計(jì)θ也可從下式解得：在同一點(diǎn)處取極值。第18頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五第19頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五故似然函數(shù)為例1設(shè)是來自總體X的一個(gè)樣本，試求參數(shù)

p

的極大似然估計(jì)值.解：設(shè)是一個(gè)樣本值。X的分布列為：而令第20頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五它與矩估計(jì)量是相同的。解得p的極大似然估計(jì)值p的極大似然估計(jì)量令解得第21頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五設(shè)總體X的分布列為：是來自總體X的樣本，求p的極大解：似然函數(shù)為似然估計(jì)值。例2第22頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五令即所以參數(shù)的極大似然估計(jì)量為第23頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五解例3設(shè)X1,X2,…,Xn

是取自總體X

的一個(gè)樣本,，求參數(shù)λ的極大似然估計(jì)值。似然函數(shù)為:第24頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五例4設(shè)未知，是一個(gè)樣本值求的極大似然估計(jì)量.解

設(shè)的概率密度為：似然函數(shù)為第25頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五等價(jià)于因?yàn)閷τ跐M足的任意有即時(shí),取最大值在似然函數(shù)為第26頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五故的極大似然估計(jì)值為:故的極大似然估計(jì)量為:即時(shí),取最大值在似然函數(shù)為第27頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五今取得一組樣本Xk數(shù)據(jù)如下，問如何估計(jì)θ？162950681001301402702803404104505206201902108001100

某電子管的使用壽命X（單位：小時(shí))服從指數(shù)分布例5

指數(shù)分布的點(diǎn)估計(jì)

分析

可用兩種方法：矩法估計(jì)和極大似然估計(jì).第28頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五1）矩法估計(jì)第29頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五2）極大似然估計(jì)構(gòu)造似然函數(shù)當(dāng)xi>0,（i=1,2,…,n)時(shí)，似然函數(shù)為取對數(shù)建立似然方程第30頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五5.得極大似然估計(jì)量：求解得極大似然估計(jì)值第31頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五似然函數(shù)為：例6設(shè)為未知參數(shù)，是來自X的一個(gè)樣本值，求的極大似然估計(jì)值。解：X的概率密度為：第32頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五解得：令即：它們與相應(yīng)的矩估計(jì)量相同.第33頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五

注：lnx是

x

的嚴(yán)格單增函數(shù)，lnL與L有相同的極大值，一般只需求lnL的極大值.求極大似然估計(jì)的一般步驟：寫出似然函數(shù)2.

對似然函數(shù)取對數(shù)3.對i(i=1,…,m)分別求偏導(dǎo),建立似然方程(組)解得分別為的極大估計(jì)值.第34頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五例7

矩估計(jì)與似然估計(jì)不等的例子設(shè)總體概率密度為求參數(shù)θ的極大似然估計(jì),并用矩法估計(jì)θ.解

1)極大似然估計(jì)法構(gòu)造似然函數(shù)2.取對數(shù)：當(dāng)0<xi<1,(i=1,2,…,n)時(shí)第35頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五2.取對數(shù)：當(dāng)0<xi<1,(i=1,2,…,n)時(shí)建立似然方程求解得極大似然估計(jì)值為5.極大似然估計(jì)量為第36頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五2)矩估計(jì)法第37頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五1.矩法估計(jì)量與極大似然估計(jì)量不一定相同；2.用矩法估計(jì)參數(shù)比較簡單,但有信息量損失；3.極大似然估計(jì)法精度較高,但運(yùn)算較復(fù)雜；4.不是所有極大似然估計(jì)法都需要建立似然方程小結(jié)求解.第38頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五解例6.

不合格品率的矩法估計(jì)

分析設(shè)總體X即抽一件產(chǎn)品的不合格產(chǎn)品數(shù)，相當(dāng)于抽取了一組樣本X1，X2，…，Xn,且因p=EX,故p

的矩估計(jì)量為

設(shè)某車間生產(chǎn)一批產(chǎn)品，為估計(jì)該批產(chǎn)品不合格品率，抽取了n件產(chǎn)品進(jìn)行檢查.(即出現(xiàn)不合格產(chǎn)品的頻率).第39頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五不合格品率p

的估計(jì)設(shè)總體X是抽一件產(chǎn)品的不合格品數(shù)，記

p=P{X=1}=P{產(chǎn)品不合格}則X的分布列可表示為

現(xiàn)得到X的一組樣本X1，X2，…,Xn的實(shí)際觀察值為x1,x2,…,xn,則事件{X1=x1，X2=x2，…,Xn=xn}例7出現(xiàn)的可能性應(yīng)最大,其概率為第40頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五

應(yīng)選取使L(p)達(dá)到最大的值作為參數(shù)

p的估計(jì).第41頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五令解得（頻率值）注意到第42頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五其中θ＞0，μ與θ是未知參數(shù)，X1，X2，…,Xn，解設(shè)總體X的概率密度為是X

的一組樣本，求μ與θ的矩估計(jì)量.例8第43頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五令注意到DX=E(X2)－[E(X)]2=θ2=θ2+(θ+μ)2第44頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五例9

均勻分布的極大似然估計(jì)

設(shè)樣本X1，X2，…，Xn來自在區(qū)間[0,]上均勻分布的總體X,求的極大似然估計(jì).解設(shè)x1,x2,…,xn是X1,X2,…,Xn的樣本值，似然函數(shù)為第45頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五#

如圖所示，似然函數(shù)L在取到最大值，故θ的極大似然估計(jì)量為第46頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五注意：該似然函數(shù)不能通過求導(dǎo)構(gòu)造似然方程.嘗試用其他方法求解！分析

θ的估計(jì)應(yīng)滿足：2.θ的值不能小于任何一個(gè)xi.1.θ的值盡可能小；第47頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五第48頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五第七章參數(shù)估計(jì)§3估計(jì)標(biāo)準(zhǔn)說明：退出前一頁后一頁目錄第49頁，共53頁，2022年，5月20日，13點(diǎn)48分，星期五第七章參數(shù)估計(jì)§3