數(shù)理統(tǒng)計(jì)課件：抽樣分布

抽樣分布及若干預(yù)備知識(shí)2.1抽樣分布的概念2.2三大分布和分位數(shù)2.3抽樣分布定理

抽樣分布2.4指數(shù)族2.5充分統(tǒng)計(jì)量2.6完備統(tǒng)計(jì)量2.1抽樣分布的概念統(tǒng)計(jì)量是樣本X1，X2,…,Xn的函數(shù)，而樣本X1，X2,…,Xn又是隨機(jī)變量，故統(tǒng)計(jì)量也是隨機(jī)變量，統(tǒng)計(jì)量的分布稱為“抽樣分布”.用樣本對(duì)總體進(jìn)行統(tǒng)計(jì)推斷的做法如下首先,根據(jù)需要研究的總體特性，構(gòu)造包含這個(gè)總體特性信息的統(tǒng)計(jì)量；然后，求出統(tǒng)計(jì)量的分布即抽樣分布，并由此給出統(tǒng)計(jì)推斷的結(jié)論或解釋.研究統(tǒng)計(jì)量的性質(zhì)和評(píng)價(jià)一個(gè)統(tǒng)計(jì)推斷的優(yōu)良性，取決于抽樣分布的性質(zhì)，確定統(tǒng)計(jì)量的抽樣分布是數(shù)理統(tǒng)計(jì)的一個(gè)基本問題.近代統(tǒng)計(jì)學(xué)的創(chuàng)始人之一，英國統(tǒng)計(jì)學(xué)家費(fèi)歇(R.A.Fisher)把抽樣分布、參數(shù)估計(jì)和假設(shè)檢驗(yàn)列為統(tǒng)計(jì)推斷的三個(gè)中心內(nèi)容.因此尋求抽樣分布的理論和方法很重要.抽樣分布精確分布極限分布(漸近分布)當(dāng)總體分布類型已知，若對(duì)于任一自然數(shù)n，都能導(dǎo)出統(tǒng)計(jì)量T分布的表達(dá)式，這種分布稱為T的精確抽樣分布.說明1：能求出統(tǒng)計(jì)量精確分布的情形不多.已知的精確分布大多是在正態(tài)分布條件下得到.說明2：有些情形下雖然能求出統(tǒng)計(jì)量的精確分布，但是其表達(dá)式太復(fù)雜，使用不便；更多情形下，統(tǒng)計(jì)量的精確分布很難求出.精確抽樣分布當(dāng)樣本容量n趨于無窮時(shí)，統(tǒng)計(jì)量T的分布稱為極限分布.極限分布說明：只要樣本容量足夠大，且極限分布的形式比較簡單，可以用統(tǒng)計(jì)量的極限分布作為其精確分布的近似.例2.1.1設(shè)X1,X2,…,Xn是來自兩點(diǎn)分布總體B(1,p)，0<p<1的樣本，即P{X1=1}=p，P{X1=0}=1–p，求的分布.

解：由于因此例2.1.2設(shè)X1，X2,…,Xn是來自正態(tài)總體N(μ，σ2)的樣本，求的抽樣分布.

解：因?yàn)椋涮卣骱瘮?shù)為而X1，X2,…,Xn相互獨(dú)立，根據(jù)特征函數(shù)的性質(zhì)得到的特征函數(shù)為因此例2.1.3設(shè)X1，X2,…,Xn是來自總體X的樣本，且X的分布函數(shù)為F(x)，(

X(1)，X(2),…,X

(n))

是其順序統(tǒng)計(jì)量，則對(duì)1≤r≤n，X

(r)的分布函數(shù)為若總體X為連續(xù)型且有密度函數(shù)f(x)

,則X

(r)也有密度函數(shù)為因?yàn)橛泟t證明：這一事件的概率可用二項(xiàng)分布B(n,F(x))表示，因此于是有利用恒等式可知若總體X為連續(xù)型且有密度函數(shù)f(x)

,則X

(r)也有密度函數(shù)為特別當(dāng)r=1時(shí)，得最小順序統(tǒng)計(jì)量X(1)的分布函數(shù)和密度函數(shù)分別為特別當(dāng)r=n時(shí)，得最大順序統(tǒng)計(jì)量X(n)的分布函數(shù)和密度函數(shù)分別為例2.1.4設(shè)X1，X2,…,Xn是來自均勻分布總體U[0,

]的樣本，求X

(1)，X

(n)的密度函數(shù)解：X

1的分布函數(shù)為X

1的密度函數(shù)為因此，X(1)的密度函數(shù)為X(n)的密度函數(shù)為作業(yè)：習(xí)題2.1：2，4，6，72.2三大分布和分位數(shù)記做

ξ

所服從的分布稱為自由度為

n

的χ2分布.其中

n為獨(dú)立隨機(jī)變量的個(gè)數(shù).1定義2.2.1(χ

2分布)：設(shè)X1，X2，…，Xn

獨(dú)立同分布，

且都服從標(biāo)準(zhǔn)正態(tài)分布N(0,1)，令則稱隨機(jī)變量ξ

是自由度為n的χ2變量.2.2.1

χ

2分布來定義.其中伽瑪函數(shù)通過積分設(shè)隨機(jī)變量，則ξ

的密度函數(shù)為2定理2.2.1(χ

2分布的密度函數(shù))

的聯(lián)合密度函數(shù)為的分布函數(shù)為當(dāng)x>0時(shí)，證明：作球坐標(biāo)變換

令令當(dāng)x>0時(shí)，當(dāng)x≤0時(shí)，因此，ξ

的密度函數(shù)為特別，當(dāng)n=2時(shí)，其密度函數(shù)為是數(shù)學(xué)期望為2的指數(shù)分布.下圖畫出了n=1,4,10,20幾種不同自由度的χ2分布的密度函數(shù)的圖形.說明1.χ2(n)的密度函數(shù)的支撐集(使密度函數(shù)為正的自變量的集合)是(0,+∞)；

2.當(dāng)自由度n

越大，χ2(n)的密度函數(shù)的曲線越趨于對(duì)稱，且

根據(jù)中心極限定理趨于正態(tài)分布；3.當(dāng)自由度n

越小，χ2(n)的密度函數(shù)的曲線越不對(duì)稱.性質(zhì)1:

設(shè)

，則

3χ2分布的性質(zhì)E(ξ)=n,D(ξ)=2n.(2)ξ

的數(shù)學(xué)期望和方差分別為(1)ξ

的特征函數(shù)為證明：(1)由特征函數(shù)定義，得其中

X1，X2，…，Xn獨(dú)立同分布，且X1~N(0,1)，則(2)法一：定義法法二：特征函數(shù)法由于因此χ2分布的可加性(再生性)證明：由χ2分布的定義知：其中，Ui~N(0,1),i=1,2,…,n1，且相互獨(dú)立Vj~N(0,1)

,

j=1,2

,…,n2，且相互獨(dú)立又由于X1,X2相互獨(dú)立，得Ui

與Vj獨(dú)立同分布，均服從N(0,1)因此性質(zhì)2(可加性)：設(shè)且X1與X2相互獨(dú)立，則法一：定義法法二：特征函數(shù)法由性質(zhì)1，得X1，X2的特征函數(shù)分別為因?yàn)?，X1,X2相互獨(dú)立，因此，X1＋X2的特征函數(shù)是由特征函數(shù)和分布函數(shù)相互唯一確定，得X1＋X2也服從卡方分布，自由度為n1+n2推廣例2.2.1設(shè)總體X~N(0,1),X1,X2,…,X6為來自總體X的樣本,記X1+X2

+X3~N(0,3),X4+X5

+X6~N(0,3)

由于X1,X2,…,X6獨(dú)立同分布，且都服從N(0,1)，因此因此c=1/3.解：試確定常數(shù)c，使cY

服從χ2分布.相互獨(dú)立其中α>0為形狀參數(shù),λ>0為尺度參數(shù)，則稱X服從參數(shù)為(α,λ)的伽瑪(Gamma)分布，記作X~

Ga(α,λ).伽瑪(Gamma)分布Ga(α

,λ)如果

X的密度函數(shù)是是數(shù)學(xué)期望為1/λ的指數(shù)分布.1.當(dāng)α=1時(shí)，Ga(1,λ)

的密度函數(shù)為說明2.如果α=n/2，λ=1/2，其中n為自然數(shù)，則有是自由度n的χ2分布.記做T～t(n).其分布稱為自由度為n的t分布.t分布又稱學(xué)生氏(student)分布.為自由度為n的t變量.2.2.2

t分布1定義2.2.2(t分布)設(shè)隨機(jī)變量X～N(0,1),Y～χ2(n)，且X與Y相互獨(dú)立，則稱隨機(jī)變量(X,Y)的聯(lián)合密度函數(shù)為2定理2.2.2設(shè)隨機(jī)變量T~t

(n)，則T的密度函數(shù)為證明：則令該變換的雅可比行列式為因此，(T,U)的聯(lián)合密度函數(shù)為T的密度函數(shù)為：下圖畫出了n=2,5兩種不同自由度的t分布的密度函數(shù)的圖形.3t分布的性質(zhì)性質(zhì)1：

t分布的密度函數(shù)關(guān)于y軸對(duì)稱，且性質(zhì)2：

t分布的密度函數(shù)曲線形狀是中間高，兩邊低，左右對(duì)稱，與標(biāo)準(zhǔn)正態(tài)分布的密度函數(shù)圖像類似，且

t(2)與N(0,1)的密度函數(shù)曲線的對(duì)比對(duì)于較小的n，t分布與N(0,1)分布相差很大.

t

分布與標(biāo)準(zhǔn)正態(tài)分布的一個(gè)重要區(qū)別是:在尾部t分布比標(biāo)準(zhǔn)正態(tài)分布有更大的概率.

t(20)與N(0,1)的密度函數(shù)曲線的對(duì)比當(dāng)n充分大時(shí)，t

分布近似N(0,1)分布.特別地設(shè)T~t(n)

數(shù)學(xué)期望為:當(dāng)n>1時(shí)，

E(T)=0方差為:當(dāng)n>2時(shí)

，D(T)=n/(n-2)性質(zhì)3：證明：因此性質(zhì)4：當(dāng)n=1時(shí)，其密度函數(shù)為此時(shí)，t分布就是柯西分布，其數(shù)學(xué)期望不存在.例2.2.2設(shè)總體X與總體Y相互獨(dú)立，且X~N(0,16),Y~N(0,9),X1,X2,…,X9

與

Y1,Y2,…,Y16

分別是來自總體X與總體

Y的樣本，

求統(tǒng)計(jì)量所服從的分布.解：X1+X2

+…+X9~N(0,144)

且上述兩個(gè)隨機(jī)變量相互獨(dú)立，因此且上述兩個(gè)隨機(jī)變量相互獨(dú)立，因此根據(jù)t分布的定義得到其所服從的分布稱為F分布，記做為自由度為m和n的F變量.2.2.3

F分布1定義2.2.3(F分布)設(shè)隨機(jī)變量，且X與Y相互獨(dú)立，則稱隨機(jī)變量其中m稱為第一自由度，n稱為第二自由度.2定理2.2.3設(shè)隨機(jī)變量F~F(m,n)

，則F的密度函數(shù)為證明：(X,Y)的聯(lián)合密度函數(shù)為令則該變換的雅可比行列式為于是(U,V)的聯(lián)合密度函數(shù)為U的密度函數(shù)為因此F的密度函數(shù)為下圖畫出了幾種不同自由度的F

分布的密度函數(shù)的圖形.思考：峰值與多少接近，為什么？證明：根據(jù)F分布的定義設(shè)且X與Y相互獨(dú)立，則隨機(jī)變量性質(zhì)1：因此3F分布的性質(zhì)設(shè)隨機(jī)變量F~F(m,n)，則1/F~F(n,m).因?yàn)?/p>

T~t(n)

因此存在X~N(0,1),Y~χ2(n)，且X與Y相互獨(dú)立，使得

性質(zhì)2：證明：由于X2~χ2(1)，且X2與Y相互獨(dú)立，使得

特別地性質(zhì)3：設(shè)

X~F(m,n),則對(duì)r>0，有

練習(xí)：隨機(jī)變量X和Y都服從標(biāo)準(zhǔn)正態(tài)分布,則(1)X+Y服從正態(tài)分布(2)X2+Y2服從

2分布(3)X2和Y2都服從

2分布(4)X2/Y2服從F分布

三大分布的定義(構(gòu)造性)及其性質(zhì)1

χ2分布，t分布，F(xiàn)分布奠定了后續(xù)正態(tài)分布統(tǒng)計(jì)推斷的基礎(chǔ)2三大分布小結(jié)2.2.4分位數(shù)定義2.2.4(分位數(shù))設(shè)隨機(jī)變量X的分布函數(shù)為F(x),對(duì)于實(shí)數(shù)

，0<

<1，若x

滿足P{X>x

}=

，則稱x

為X的概率分布的上

分位數(shù)(或分位點(diǎn))，簡稱

分位數(shù).若X的密度函數(shù)為f(x)，則xα滿足

x

上分位數(shù)x

是

的單調(diào)遞減函數(shù).一標(biāo)準(zhǔn)正態(tài)分布

設(shè)隨機(jī)變量X~N(0,1)，給定實(shí)數(shù)

(0<

<1),若u

滿足P{X>u

}=

，則稱

u

為標(biāo)準(zhǔn)正態(tài)分布N(0,1)的上

分位數(shù)(分位點(diǎn)).Φ(u

)=P{X≤u

}=1?P{X>u

}=1?

u

1?

性質(zhì)1：Φ(u

)=1?

證明：性質(zhì)2：u1?

=

?u

得?X~N(0,1)

P{X>?u

}=P{?X<u

}=1?P{?X≥u

}

=1?

P{X>u1?

}=1?

因此

u1?

=

?u

u

u1?

常用數(shù)字u0.05=

1.645u0.025=1.96證明：由

X~N(0,1)

-u

例2.2.3設(shè)隨機(jī)變量X~N(0,1)，求常數(shù)c,使其滿足P{|X|>c}=.解：由X~N(0,1)

c

=u

/2得

α=

P{|X|>c}=

P{X>c}+P{X<?c}=2P{X>c}因此P{X>c}=

/2即P{|X|>u

/2}=

，

P{|X|≤u

/2}=

1-

u

/2/2-u

/2/2區(qū)間估計(jì)假設(shè)檢驗(yàn)二t分布設(shè)隨機(jī)變量X~t(n)，給定實(shí)數(shù)

(0<

<1)

，若t

(n)滿足P{X>t

(n)}=

，則稱t

(n)為自由度為n的t分布的上

分位數(shù)(分位點(diǎn)).性質(zhì)2：當(dāng)n較大(n>45)時(shí),t

(n)≈u

性質(zhì)1：t1?

(n)=?t

(n)t

(n)

t1?

(n)

例2.2.4求

t0.025(200).解：根據(jù)u0.025=1.96

及

t

(n)≈u

得到

t0.025(200)≈u0.025=1.96

.t

/2

(n)

/2

/2-t

/2

(n)f(x)例2.2.5設(shè)隨機(jī)變量X~t(n)，求常數(shù)c,使其滿足P{|X|>c}=.解：由X~t(n)

得

α=

P{|X|>c}=

P{X>c}+P{X<?c}=2P{X>c}因此P{X>c}=

/2即P{|X|>t

/2(n)}=

，

P{|X|≤t

/2(n)}=

1-

區(qū)間估計(jì)假設(shè)檢驗(yàn)三

2分布：設(shè)隨機(jī)變量X~

χ2(n)

，給定實(shí)數(shù)

(0<

<1)，若χ2α(n)滿足P{X>χ2α(n)}=

，則稱χ2α(n)為自由度為n的

2分布的上

分位數(shù)(分位點(diǎn)).f(x)αα例2.2.6設(shè)隨機(jī)變量X~

χ2(n)，則f(x)α/2α/2區(qū)間估計(jì)假設(shè)檢驗(yàn)四F分布

設(shè)隨機(jī)變量X~F(m,n)，給定實(shí)數(shù)0<

<1，

若Fα(m,n)滿足

則稱

Fα(m,n)

為自由度為m,n的F分布的上

分位數(shù)(分位點(diǎn)).f(x)αα設(shè)隨機(jī)變量X~

F

(m,n)，則f(x)α/2α/2區(qū)間估計(jì)假設(shè)檢驗(yàn)證明性質(zhì)：因此設(shè)隨機(jī)變量X~F(m,n)，則解：例2.2.7查表得到查表計(jì)算根據(jù)公式得到N(0,1),t分布,χ2分布,F分布小結(jié)1分位數(shù)區(qū)間估計(jì)和假設(shè)檢驗(yàn)2應(yīng)用對(duì)于固定的α(0<α<1)，書后附表分別給出了相應(yīng)的分位數(shù).作業(yè)：習(xí)題2.2：2，6，8，1，3，7，102.3抽樣

分布定理定理2.3.1：設(shè)隨機(jī)變量X1，X2，…，Xn

相互獨(dú)立，且

令c1，c2，…，cn為常數(shù)且不全為0，記2.3.1精確抽樣分布其中則證明：利用特征函數(shù)證明.一

相互獨(dú)立正態(tài)隨機(jī)變量線性函數(shù)的分布證明：因?yàn)槠涮卣骱瘮?shù)為因此T的特征函數(shù)為T的特征函數(shù)為其中由特征函數(shù)和分布函數(shù)相互唯一確定，得在定理2.3.1中，若在推論2.3.1中，若推論2.3.1：則推論2.3.2：則對(duì)于獨(dú)立同分布的正態(tài)隨機(jī)變量的線性變換，有如下結(jié)論為nｘn的常數(shù)方陣，記Y=AX，即則有定理2.3.2：設(shè)隨機(jī)變量X1，X2，…，Xn獨(dú)立同分布，且1.Y1,Y2,···,Yn是正態(tài)隨機(jī)變量，且2.

當(dāng)為n階正交陣時(shí)，Y1,···,Yn也相互獨(dú)立，且其中3.

若μ=0，則Y1,Y2,···,Yn獨(dú)立同分布，且證明：1.因?yàn)?，根?jù)推論2.3.1有因此2.當(dāng)為n階正交陣時(shí)，根據(jù)正交陣A的不同行和列的正交性得到當(dāng)i≠j時(shí)因此于是Y1,···,Yn相互獨(dú)立，且其中3.若μ=0，則因此,Y1,Y2,···,Yn獨(dú)立同分布，且引理2.3.1：設(shè)X1,X2,…,Xn是來自總體X(不管是什么分布)的一個(gè)樣本，且EX=μ,DX=σ2，則其中為樣本均值為樣本方差二幾個(gè)重要定理證明：定理2.3.3：設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ,σ2)的樣本，且分別表示樣本均值和樣本方差.則有即和相互獨(dú)立.(1)由推論2.3.2得：為一正交陣作正交變換Y=AX，其中Y和X如定理2.3.2所示.(2)設(shè)證明:由正交變換保持向量長度不變可知因此所以由定理2.3.2知由A的行向量正交性得Y1,Y2,···,Yn相互獨(dú)立，且于是因此，Y2,···,Yn獨(dú)立同分布，且(3)由(2)的證明可知只和Y2,···,Yn有關(guān)只和Y1有關(guān)因此和相互獨(dú)立.Y1,Y2,···,Yn相互獨(dú)立則定理2.3.4:設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ,σ2)的樣本，證明:則Y1,Y2···,Yn獨(dú)立同分布，且Y1~N(0，1).因此由于

X1,X2,…,Xn獨(dú)立同分布，且X1~N(μ,σ2)，令定理2.3.5:設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ,σ2)的樣本，分別為樣本均值和樣本方差.則有證明：根據(jù)定理2.3.3且和相互獨(dú)立.由t

分布的定義，得到定理2.3.6(兩正態(tài)總體樣本均值差的分布）設(shè)Y1,Y2,…,Yn是來自總體Y的樣本，設(shè)X1,X2,…,Xm是來自總體X的樣本，設(shè)總體X~N(μ1,σ2)，Y~N(μ2,σ2)，且X與Y相互獨(dú)立，分別為樣本均值.分別為樣本方差.則有其中證明：且可得由U,V獨(dú)立，及t分布的定義，得獨(dú)立獨(dú)立獨(dú)立定理2.3.7(兩正態(tài)總體樣本方差比的分布）設(shè)Y1,Y2,…,Yn是來自總體Y的樣本，設(shè)X1,X2,…,Xm是來自總體X的樣本，設(shè)總體X~N(μ1,σ12)，Y~N(μ2,σ22)，且X與Y相互獨(dú)立，分別為樣本均值.分別為樣本方差.則有證明：由于由于與相互獨(dú)立，根據(jù)F分布的定義，得證明由于2λX1的密度函數(shù)為恰好是自由度為2的χ2分布，即其中λ>0定理2.3.8(指數(shù)分布總體樣本均值的分布)設(shè)X1,X2,…,Xn是來自指數(shù)分布總體X的樣本，且X的密度函數(shù)為證明：由獨(dú)立同分布，得到根據(jù)χ2分布的可加性，得到獨(dú)立同分布，且都服從χ2(2)分布.例2.3.1設(shè)X1,X2

,…,Xn是來自正態(tài)總體N(μ,σ2)的樣本，

又設(shè)Xn+1~N(μ,σ2)，且Xn+1與X1,X2

,…,Xn相互獨(dú)立，分別為樣本均值和樣本方差，

則有證明：由定理2.3.3(1)(2)，得且它們相互獨(dú)立.由于Xn+1與X1,X2

,…,Xn相互獨(dú)立.所以與Xn+1相互獨(dú)立，且因此由

t分布的定義，得從而又與相互獨(dú)立根據(jù)相互獨(dú)立正態(tài)隨機(jī)變量的線性組合服從正態(tài)分布，得例2.3.2設(shè)總體X~N(1,σ2)，總體Y~N(2,σ2)，且X與Y相互獨(dú)立，X1,X2,…,Xm

是來自總體X的樣本，Y1,Y2,…,Yn是來自總體Y的樣本，

和

是兩個(gè)固定的實(shí)數(shù)，求T的分布.分別為樣本均值.分別為樣本方差.解：根據(jù)定理2.3.3(1)，有根據(jù)相互獨(dú)立正態(tài)隨機(jī)變量線性組合仍服從正態(tài)分布，得又根據(jù)定理2.3.3(2)，有根據(jù)兩樣本的獨(dú)立性和定理2.3.3(3)，得U與V相互獨(dú)立.根據(jù)兩樣本的獨(dú)立性和卡方分布的可加性得因此，根據(jù)

t分布的定義得到當(dāng)樣本容量n趨于無窮時(shí)，統(tǒng)計(jì)量的分布趨于一確定分布，則后者的分布稱為統(tǒng)計(jì)量的極限分布，也稱為大樣本分布.當(dāng)樣本容量n充分大時(shí)，極限分布可作為統(tǒng)計(jì)量的近似分布.當(dāng)樣本容量n趨于無窮時(shí)，一個(gè)統(tǒng)計(jì)量或統(tǒng)計(jì)推斷方法的性質(zhì)稱為大樣本性質(zhì);定義2.3.1定義2.3.2當(dāng)樣本容量n固定時(shí)，統(tǒng)計(jì)量或者統(tǒng)計(jì)推斷方法的性質(zhì)稱為小樣本性質(zhì).2.3.2極限分布1.當(dāng)統(tǒng)計(jì)量的精確分布很難求，建立統(tǒng)計(jì)量的極限分布提供了一種近似獲得抽樣分布的方法.2.有時(shí)統(tǒng)計(jì)量的精確分布雖然可求出，但是表達(dá)式過于復(fù)雜，使用不方便.若極限分布較簡單，可使用極限分布.3.有些統(tǒng)計(jì)推斷方法的優(yōu)良性本身就是研究其極限性質(zhì)，如相合性、漸近正態(tài)性.研究統(tǒng)計(jì)量的極限分布有如下意義：設(shè)為樣本均值.解:(1)根據(jù)大數(shù)定律，得刻畫了樣本均值的相合性(大樣本性質(zhì)).例2.3.3設(shè)X1,X2

,…,Xn是來自總體X的樣本，且X~F，其中總體均值μF和方差σF2都存在.討論樣本均值的大樣本性質(zhì)和小樣本性質(zhì).(2)根據(jù)中心極限定理，得刻畫了樣本均值的漸近正態(tài)性(大樣本性質(zhì)).(3)由于刻畫了樣本均值的無偏性(小樣本性質(zhì)).大樣本性質(zhì)只有在n趨于無窮時(shí)才有意義.這條性質(zhì)的意義是在樣本容量n固定時(shí)去理解.例2.3.4若X~χ2(n)，則證明：由χ2分布的定義，X可以寫成如下形式其中，Ui~N(0,1),i=1,2,…,n1，且相互獨(dú)立由EX=n,DX=2n，根據(jù)中心極限定理得到令{Xn,n≥1}

和{Yn,n≥1}是兩個(gè)隨機(jī)變量序列，滿足當(dāng)n→∞時(shí)為常數(shù)定理2.3.9(Slutsky引理)則有例2.3.5設(shè)X1,X2,…,Xn是來自兩點(diǎn)分布總體B(1,p)，0<p<1的樣本，證明證明：令則由中心極限定理得到由大數(shù)定律得到且因此，根據(jù)Slutsky引理可知由于作業(yè)：習(xí)題2.3：2，4，6，8，1219，20，212.4指數(shù)族統(tǒng)計(jì)理論問題中，許多統(tǒng)計(jì)推斷方法的優(yōu)良性，對(duì)一類范圍廣泛的統(tǒng)計(jì)模型(也稱為分布族)有比較滿意的結(jié)果，這類分布族稱為指數(shù)型分布族.常見的分布，如二項(xiàng)分布、Poisson分布、幾何分布、指數(shù)分布、正態(tài)分布和伽瑪(Gamma)分布都可以統(tǒng)一在指數(shù)型分布族中.2.4.1指數(shù)族的定義與例子定義2.4.1設(shè)是定義在樣本空間χ

上的分布族,其中Θ為參數(shù)空間.若f(x,

θ)可以表示為如下形式則稱此分布族為指數(shù)型分布族(簡稱指數(shù)族).其中f(x,

)在離散情形表示分布列，連續(xù)情形表示密度函數(shù)，k為自然數(shù)，C(

)>0和Qi(

)(i=1,2,…,k)都是定義在參數(shù)空間

Θ上的函數(shù).

h(x)>0，

和Ti(x)(i=1,2,…,k)都是定義在樣本空間χ上的函數(shù).一指數(shù)族的定義的表示不唯一.1支撐集與

無關(guān)，即23或說明例2.4.1二項(xiàng)分布族{B(n,

):0<

<1}是指數(shù)族.樣本空間為χ={0,1,2,…,n}.參數(shù)空間為Θ={

:0<

<1}.

設(shè)X~B(n,

)，其分布列為證明:二指數(shù)族的例子其中滿足指數(shù)族的定義，因此二項(xiàng)分布族是指數(shù)族.證明:例2.4.2泊松分布族{P(

):

>0}是指數(shù)族.設(shè)X~P(

)，其分布列為樣本空間為χ={0,1,2,…,}.參數(shù)空間為Θ={

:>0}.

其中滿足指數(shù)族的定義，因此泊松分布族是指數(shù)族.樣本X1,X2,…,Xn的聯(lián)合密度函數(shù)為記=(μ,σ2)，則參數(shù)空間為證明：例2.4.3設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ,σ2)的樣本，則樣本分布族是指數(shù)族.其中滿足指數(shù)族的定義，因此上述樣本分布族是指數(shù)族.特別地，取樣本容量n=1，X1的密度函數(shù)為滿足指數(shù)族的定義，因此正態(tài)分布族是指數(shù)族.其中X1的密度函數(shù)為證明：例2.4.4設(shè)X1,X2,…,Xn是從伽瑪分布Ga(α,

)，α>0,

>0中抽取的樣本,則樣本分布族是指數(shù)族.則樣本X1,X2,…,Xn的聯(lián)合密度函數(shù)為記

=(α,

)，則參數(shù)空間為其中滿足指數(shù)族的定義，因此上述樣本分布族是指數(shù)族.與未知參數(shù)

有關(guān)，因此均勻分布族族{U(0，

):

>0}不是指數(shù)族.均勻分布族的支撐集為證明：例2.4.5均勻分布族{U(0，

):

>0}不是指數(shù)族.其中-∞<

<

∞和μ

>0是為未知參數(shù)，它的支撐集為證明：雙參數(shù)指數(shù)分布的密度函數(shù)為與未知參數(shù)μ有關(guān)，若μ已知，如μ=0，因此雙參數(shù)指數(shù)分布不是指數(shù)族.例2.4.6雙參數(shù)分布族{Exp(

，μ):

>0，-∞<μ<∞}不是指數(shù)族.則單參數(shù)指數(shù)分布族{Exp(

):

>0}是指數(shù)族.2.6.2指數(shù)族的自然形式及自然參數(shù)空間則稱它為指數(shù)族的自然形式(標(biāo)準(zhǔn)形式).此時(shí)集合稱為自然參數(shù)空間.定義2.4.2:如果指數(shù)族有下列形式一指數(shù)族自然形式的定義例2.4.7把二項(xiàng)分布族表示成指數(shù)族的自然形式(標(biāo)準(zhǔn)形式)，

并求出自然參數(shù)空間.解：二項(xiàng)分布的指數(shù)族形式為令參數(shù)空間為可知解出二指數(shù)族自然形式的例子其中因此二項(xiàng)分布族的自然形式(標(biāo)準(zhǔn)形式)為自然參數(shù)空間為解:例2.4.8把泊松布族表示成指數(shù)族的自然形式，并求出自然參數(shù)空間.泊松分布的指數(shù)族形式參數(shù)空間為Θ={

:>0}.

令可知解出其中因此泊松分布族的自然形式(標(biāo)準(zhǔn)形式)為自然參數(shù)空間為正態(tài)分布的指數(shù)族形式為記=(μ,σ2)，則參數(shù)空間為解：例2.4.9設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ,σ2)的樣本，將樣本分布族表示為指數(shù)族的自然形式(標(biāo)準(zhǔn)形式)，并求出自然參數(shù)空間.令解出其中因此樣本分布族的自然形式(標(biāo)準(zhǔn)形式)為自然參數(shù)空間為在指數(shù)族的自然形式下，自然參數(shù)空間為凸集.證明：指數(shù)族的自然形式為自然參數(shù)空間為定理2.4.1：設(shè)任取則即此處用了Holder不等式.則因此，在指數(shù)族的自然形式下，自然參數(shù)空間為凸集.作業(yè)：習(xí)題2.4：3，4，5，6，72.5充分統(tǒng)計(jì)量統(tǒng)計(jì)量是對(duì)樣本的簡化，希望：簡化程度高，同時(shí)信息損失少.一個(gè)統(tǒng)計(jì)量能集中樣本中信息的多少，與統(tǒng)計(jì)量的具體形式有關(guān)，也依賴于問題的統(tǒng)計(jì)模型，我們希望所用的統(tǒng)計(jì)量能把樣本中關(guān)于未知參數(shù)的信息全部“提煉”起來，即說不損失(重要)信息的統(tǒng)計(jì)量——充分統(tǒng)計(jì)量.問題：如何定義一個(gè)統(tǒng)計(jì)量是充分統(tǒng)計(jì)量？引例：設(shè)X=(X1,X2,…,Xn)是從0-1分布中抽取的簡單隨機(jī)樣本，且P{Xi=1}=

,P{Xi=0}=1-

,記若只對(duì)

作推斷，

T(X)與樣本含的信息一樣，即T(X)應(yīng)該是充分統(tǒng)計(jì)量.則T(X)與樣本(X1,X2,…,Xn)相差的僅僅是，

X1,X2,…,Xn中1的具體位置.樣本(X1,X2,…,Xn)加工成統(tǒng)計(jì)量T(X1,X2,…,Xn)后，一般來說在信息上會(huì)有所損失，但是如果加工抓住了問題的實(shí)質(zhì)，回到引例直觀上：如果一個(gè)統(tǒng)計(jì)量滿足這個(gè)要求，就稱其為充分統(tǒng)計(jì)量.即：統(tǒng)計(jì)量T(X1,X2,…,Xn)保留了樣本(X1,X2,…,Xn)中所含參數(shù)

的全部信息，丟掉的就是一些無關(guān)緊要的東西.樣本X1,X2,…,Xn的分布，記

如何定義充分統(tǒng)計(jì)量？統(tǒng)計(jì)量T(X)的分布關(guān)于樣本X=(X1,X2,…,Xn)的信息可以設(shè)想成如下公式{樣本X中的信息}={T(X)中所含樣本的信息}+{除了T(X)中的信息外，樣本X含有的信息}因此T(X)為充分統(tǒng)計(jì)量的要求歸結(jié)為要求后一項(xiàng)信息為0用統(tǒng)計(jì)語言描述為，即要求與

無關(guān)，其中A為任一事件.2.5.1充分統(tǒng)計(jì)量的定義和例子定義2.5.1設(shè)樣本X1,X2,…,Xn的分布族為設(shè)T=T(X1,X2,…,Xn)為一統(tǒng)計(jì)量，若在給定T的條件下，樣本X1,X2,…,Xn的條件分布與參數(shù)

無關(guān)，則稱統(tǒng)計(jì)量T(X1,X2,…,Xn)為參數(shù)

的充分統(tǒng)計(jì)量.說明：1.充分統(tǒng)計(jì)量必存在.2.條件分布的作用是抽取信息.實(shí)際應(yīng)用時(shí)，條件分布用條件概率(離散情形)和條件密度函數(shù)(連續(xù)情形)代替.樣本本身是充分統(tǒng)計(jì)量，順序統(tǒng)計(jì)量是充分統(tǒng)計(jì)量.3.充分統(tǒng)計(jì)量可以是向量，即不一定與參數(shù)的維數(shù)相同.(例2.5.9)為充分統(tǒng)計(jì)量.記T=T(X1,X2,…,Xn)，按照定義只要證明下列條件概率與參數(shù)

無關(guān).證明：例2.5.1

設(shè)X1,X2,…,Xn是來自兩點(diǎn)分布總體B(1,

)的樣本，證明兩點(diǎn)分布的分布列為當(dāng)T=t

時(shí)，有因此，有上述條件概率與參數(shù)

無關(guān).因此是充分統(tǒng)計(jì)量.為充分統(tǒng)計(jì)量.記T=T(X1,X2,…,Xn)，按照定義只要證明下列條件概率與參數(shù)

無關(guān).證明：例2.5.2

設(shè)X1,X2,…,Xn是來自幾何分布總體G(

)的樣本，證明幾何分布的分布列為由幾何分布的性質(zhì)知，T的分布列為當(dāng)T=t

時(shí)，有因此，有上述條件概率與參數(shù)

無關(guān).因此是充分統(tǒng)計(jì)量.因此，T(X1,X2,…,Xn)=X1不是充分統(tǒng)計(jì)量.證明：與μ有關(guān).例2.5.3設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ，1)的樣本，則不是充分統(tǒng)計(jì)量.記T=T(X1,X2,…,Xn)，在T=x1條件下，X1,X2,…,Xn的條件密度函數(shù)為證明：例2.5.4設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ，1)的樣本，證明為充分統(tǒng)計(jì)量.記T=T(X1,X2,…,Xn)，由正態(tài)分布的性質(zhì)知，在給定在T=t

條件下，X1,X2,…,Xn的條件密度函數(shù)為上述條件密度函數(shù)與參數(shù)與μ

有關(guān)，因此為充分統(tǒng)計(jì)量.例2.5.4中，僅有一個(gè)未知參數(shù)

μ

，如果其方差也是未知的，則利用定義來求充分統(tǒng)計(jì)量比較困難；從上面的例子也可以看出，求充分統(tǒng)計(jì)量，必須先猜測(cè)一個(gè)統(tǒng)計(jì)量，之后再用定義證明，這很不便于利用，于是有如下的因子分解定理.2.5.2因子分解定理因子分解定理是由R.A.Fisher在20世紀(jì)20年代提出，它的一般形式和嚴(yán)格數(shù)學(xué)證明是由Halmos和Savage在1949年給出.T=T(X1,X2,…,Xn)是充分統(tǒng)計(jì)量的充要條件是f(x1,x2,…,xn,

),可以分解為定理2.5.1(因子分解定理)設(shè)樣本X1,X2,…,Xn的聯(lián)合密度函數(shù)(或聯(lián)合分布列)為f(x1,x2,…,xn,

),T=T(X1,X2,…,Xn)是一個(gè)統(tǒng)計(jì)量，則其中

h(x1,x2,…,xn)不依賴于參數(shù)

.充分統(tǒng)計(jì)量的一一變換不改變統(tǒng)計(jì)量的充分性.證明：存在逆函數(shù)T=k(S)，因?yàn)?/p>

S

(T)是單值可逆函數(shù)，根據(jù)因子分解定理取則根據(jù)因子分解定理，S

(T)是

的充分統(tǒng)計(jì)量.推論2.5.1設(shè)T=T(X1,X2,…,Xn)為

的充分統(tǒng)計(jì)量，S(T)是單值可逆函數(shù)，則S(T)也是

的充分統(tǒng)計(jì)量.證明：例2.5.5設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ，1)的樣本，證明為充分統(tǒng)計(jì)量.由例2.5.4是參數(shù)μ的充分統(tǒng)計(jì)量,因?yàn)?/p>

與一一對(duì)應(yīng).因此是μ的充分統(tǒng)計(jì)量.但是不是μ的充分統(tǒng)計(jì)量.樣本X1,X2,…,Xn的聯(lián)合分布列為根據(jù)因子分解定理，知為充分統(tǒng)計(jì)量.證明:其中h(x1,x2,…,xn)=1.為充分統(tǒng)計(jì)量.例2.5.6

設(shè)X1,X2,…,Xn是來自兩點(diǎn)分布總體B(1,

)的樣本，則樣本X1,X2,…,Xn

的聯(lián)合密度函數(shù)為為充分統(tǒng)計(jì)量.

證明:其中h(x1,x2,…,xn)=1.例2.5.7設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ，σ2)的樣本，令

=(μ，σ2)，則根據(jù)因子分解定理，知為充分統(tǒng)計(jì)量.由于與為一一對(duì)應(yīng)的變換.根據(jù)推論2.5.1可知也為充分統(tǒng)計(jì)量.為充分統(tǒng)計(jì)量.根據(jù)因子分解定理，知為充分統(tǒng)計(jì)量.其中例2.5.8設(shè)X1,X2,…,Xn是來自均勻分布總體U[0，

]的樣本，則樣本X1,X2,…,Xn

的聯(lián)合密度函數(shù)為證明:為充分統(tǒng)計(jì)量.例