概率統(tǒng)計(jì)第五章 大數(shù)定律

第五章大數(shù)定律與中心極限定理

5.1大數(shù)定律

5.2中心極限定理5.1大數(shù)定律

第一章引入概率概念時(shí)，曾經(jīng)指出，事件發(fā)生的頻率在一、二次或少數(shù)次試驗(yàn)中具有隨機(jī)性的，但隨著試驗(yàn)次數(shù)n的增大，頻率將會(huì)逐漸穩(wěn)定且趨近于概率。特別，當(dāng)n很大時(shí)，頻率與概率會(huì)非?！敖咏钡?。這個(gè)非?！敖咏笔鞘裁匆馑?？這與高等數(shù)學(xué)中的極限概念有否聯(lián)系？本章將從理論上討論這一問題。

定理1設(shè)隨機(jī)變量的數(shù)學(xué)期望E=，方差D

=2，則對(duì)任意的正數(shù)，不等式(1.1)成立。這個(gè)不等式稱為契貝雪夫(Chebyshev)不等式。

證我們僅就連續(xù)型隨機(jī)變量情形加以證明。

設(shè)的概率密度為f(x)，于是

證畢。式(1.1)表明當(dāng)D

很小時(shí)，概率更小。這就是說在上述條件下，隨機(jī)變量落入

的鄰域之外的可能性很小，落入

的鄰域內(nèi)可能性很大。由此說明的取值比較集中，也即離散程度較小，這正是方差的意義所在。契貝雪夫不等式在理論研究和實(shí)際應(yīng)用中都有很重要的價(jià)值。

例1已知正常男性成人血液中，每一毫升血液中白細(xì)胞的平均數(shù)是7300，均方差是700。試估計(jì)每毫升血液中白細(xì)胞數(shù)在5200～9400之間的概率。解設(shè)每一毫升血液中白細(xì)胞數(shù)為，則由上式有

契貝雪夫不等式也可以寫成如下等價(jià)形式定理2（伯努利(Bernoulli)大數(shù)定律）設(shè)是n次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù)，p是事件A在每次試驗(yàn)中發(fā)生的概率，則對(duì)任意正數(shù)>0，有或

證令則1，2，…，n是n個(gè)相互獨(dú)立的隨機(jī)變量，且易知

于是

由契貝雪夫不等式得又由1，2，…，n的獨(dú)立性可知從而有

證畢

上述伯努利大數(shù)定律從理論上給出了頻率“接近”概率這種“現(xiàn)象”的更加確切的含意，它反映了大數(shù)次重復(fù)試驗(yàn)下隨機(jī)現(xiàn)象所呈現(xiàn)的客觀規(guī)律性。

設(shè)1，2，…，n，…是一個(gè)隨機(jī)變量序列，a是一個(gè)常數(shù)，若對(duì)任意的正數(shù)，有

則稱隨機(jī)變量序列{}依概率收斂于a，記作定理2′

是n次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù)，p是事件A在每次試驗(yàn)中發(fā)生的概率，則定理3（契貝雪夫大數(shù)定律）設(shè)1，2，…，n，…是相互獨(dú)立的隨機(jī)變量序列，又設(shè)它們的方差有界，即存在常數(shù)c>0，使得

則對(duì)任意的>0，有證明（略）或

伯努利大數(shù)定律是契貝雪夫大數(shù)定律的特例,在它們的證明中,都是以契貝雪夫不等式為基礎(chǔ)的,所以要求隨機(jī)變量具有方差。但進(jìn)一步的研究表明，方差存在這個(gè)條件并不是必要的。下面我們介紹獨(dú)立同分布的辛欽大數(shù)定律。定理4(辛欽(ХИНЧИН)大數(shù)定律)設(shè)1，2，…，n，…是相互獨(dú)立的隨機(jī)變量序列，且數(shù)學(xué)期望存在:則對(duì)任意的>0，有證明（略）這就為尋找隨機(jī)變量的期望值提供了一條實(shí)際可行的途徑。

伯努利大數(shù)定律說明了當(dāng)n很大時(shí)，事件發(fā)生的頻率會(huì)非?！敖咏备怕?，而這里的辛欽大數(shù)定律則表明，當(dāng)n很大時(shí)，隨機(jī)變量在n次觀察中的算術(shù)平均值也會(huì)“接近”它的期望值，即5.2中心極限定理

在第二章介紹正態(tài)分布時(shí)曾經(jīng)特別強(qiáng)調(diào)了它在概率論與數(shù)理統(tǒng)計(jì)中的地位與作用，為什么會(huì)有許多隨機(jī)變量遵循正態(tài)分布？僅僅是經(jīng)驗(yàn)猜測還是確有理論根據(jù)？這當(dāng)然是一個(gè)需要弄清的問題。實(shí)踐表明，客觀實(shí)際中有很多隨機(jī)變量，它們往往是由大量的相互獨(dú)立的隨機(jī)因素的綜合作用所形成的。而其中每一個(gè)別因素在總的影響中所起的作用是微小的。下面將要介紹的中心極限定理從理論上闡明了這樣的隨機(jī)變量總是近似地服從正態(tài)分布的。

定理5（獨(dú)立同分布的林德貝爾格-勒維(Lindeberg－Levy)中心極限定理）設(shè)1，2，…，n，…是相互獨(dú)立，且服從同一分布的隨機(jī)變量序列，并具有數(shù)學(xué)期望和方差：

則對(duì)任意的x有證明（略）兩點(diǎn)說明：

1°無論隨機(jī)變量1，2，…，n，…服從同一分布的情況如何，只要{i}滿足定理的條件，則隨機(jī)變量序列：當(dāng)n無限增大時(shí)，總以標(biāo)準(zhǔn)正態(tài)分布為其極限分布。或者說，當(dāng)n充分大時(shí)，n近似服從標(biāo)準(zhǔn)正態(tài)分布。根據(jù)這一點(diǎn)，在實(shí)際應(yīng)用中，只要n充分大，我們便可把n個(gè)獨(dú)立同分布的隨機(jī)變量的和當(dāng)作正態(tài)隨機(jī)變量。

2°因?yàn)閷?duì)

中每一被加項(xiàng)

有故有

即n中每一被加項(xiàng)對(duì)總和的影響都很微小，但它們迭加的和卻以標(biāo)準(zhǔn)正態(tài)分布作為極限。例1設(shè)有100個(gè)電子器件，它們的使用壽命1，2，…，100均服從參數(shù)為=0.05(h-1)的指數(shù)分布，其使用情況為：第一個(gè)損壞第二個(gè)立即使用，第二個(gè)損壞第三個(gè)立即使用等等。令表示這100個(gè)電子器件使用的總時(shí)間，試求超過1800h小時(shí)的概率。解由于i服從參數(shù)為=0.05的指數(shù)分布。因此又由題設(shè)知，因此由定理5得：

作為定理5的推論有

定理6（德莫佛—拉普拉斯(DeMoivre-Laplace)定理）在n重貝努里試驗(yàn)中，事件A在每次試驗(yàn)中出現(xiàn)的概率為p，n為n次試驗(yàn)中事件A出現(xiàn)的次數(shù)，則對(duì)任意的x，有

證由§5.1的定理2的證明可知，n可以看成是n個(gè)相互獨(dú)立，且服從同一(0－1)分布的隨機(jī)變量1，2，…，n之和，即由定理5得：

對(duì)于相互獨(dú)立但不同分布的隨機(jī)變量和的分布的極限問題,有李雅普諾夫中心極限定理。

定理7（李雅普諾夫Liapunov定理）設(shè)隨機(jī)變量1，2，…，

n，…相互獨(dú)立，且

若存在>0，使得則對(duì)任意的x，有證略。

定理表明，二項(xiàng)分布的極限分布是正態(tài)分布。因此，當(dāng)n充分大時(shí)，我們可以利用(2.2)式來計(jì)算二項(xiàng)分布的概率。

不難看出，當(dāng)n很大時(shí)，

近似服從標(biāo)準(zhǔn)正態(tài)分布N(0，1)，也即

近似服從正態(tài)分布：

這就是說，無論各個(gè)隨機(jī)變量

i

(i=1，2，…)服從什么樣的分布，只要滿足定理7的條件，那么它們的和

當(dāng)n很大時(shí)，就近似地服從正態(tài)分布。這也就說明了為什么正態(tài)隨機(jī)變量在概率論與數(shù)理統(tǒng)計(jì)中占有重要地位的一個(gè)最基本的原因。

例2某單位有300架電話分機(jī)，每個(gè)分機(jī)有5%的時(shí)間要用外線通話，可以認(rèn)為各個(gè)電話分機(jī)用不用外線是相互獨(dú)立的。試問該單位總機(jī)至少應(yīng)配備多少條外線，才能以95%的把握保證各個(gè)分機(jī)在用外線時(shí)不必等待？解令

顯然300是服從參數(shù)n=300，p=0.05的二項(xiàng)分布。根據(jù)題意，要求確定最小的正整數(shù)x，使得

則i服從(0－1)分布，且p=0.05。如果假定300架分機(jī)中同時(shí)要求使用外線的分機(jī)數(shù)為300，則運(yùn)用定理6，有因此應(yīng)有

查正態(tài)分布表得由此可取

解得取最接近的整數(shù)x=22，即總機(jī)至少應(yīng)配備22條外線，才能有95%以上的把握保證各個(gè)分機(jī)在使用外線時(shí)不必等候。

思考題：1、隨機(jī)變量表示對(duì)概率為p的事件A做n次重復(fù)獨(dú)立試驗(yàn)時(shí)，A出現(xiàn)的次數(shù)。試分別用契貝雪夫不等式及中心極限定理估計(jì)滿足下式的n：2、某藥廠斷言，該廠生產(chǎn)的某種藥品對(duì)于醫(yī)治一種疑難的血液病的治愈率為0.8。醫(yī)院檢驗(yàn)員任意抽查100個(gè)服用此藥品的人，如果其中多于75人治愈，就接受這一斷言，否則就拒絕這一斷言。(1)若實(shí)際上此藥品對(duì)這種疾病的治愈率是0.8，問接受這一斷言的概率是多少？(2)若實(shí)際上此藥品對(duì)這種疾病的治愈率為0.7，問接受這一斷言的概率是多少？1、解：記由于~B(n，p)，故E=np，E=p，(1)根據(jù)契貝雪夫不等式，有(2)以i表示每次試驗(yàn)時(shí)A出現(xiàn)的次數(shù)，則i服從參數(shù)為p的0-1分布，且Ei

=p，Di=p(1-p)1/4，而是n個(gè)獨(dú)立同分布的隨機(jī)變量之和，故由中心極限定理知因此有2、解：(1)以表示100人中治愈人數(shù)，則~B(100，0.8)所求概率為(2)依題~B(100，0.7)所求概率為練習(xí)題一、填空1．已知P（A）=P（B）=P（C）=1/4，P（AB）=0，P(AC)=(BC)=1/16，則事件A、B、C全不發(fā)生的概率為

。2．設(shè)P(A1)=P(A2)=P(A3)=1/3；A1，A2，A3相互獨(dú)立，則A1，A2，A3最多出現(xiàn)一個(gè)的概率為

.3．若隨機(jī)變量在（1，6）上服從均勻分布，則方程x2+

x+1=0有實(shí)根的概率是

。4．設(shè)隨機(jī)事件A，B互不相容，且已知P(A)=p1,P(B)=p2，0<p1+p2<1，則

。5.若隨機(jī)變量~N(5，4)，且P{<a}=0.9，則a=

(已知（1.28）=0.8997)。6.已知隨機(jī)變量X的概率密度函數(shù)為則X的概率分布函數(shù)F(x)=

。7.二.選擇1.設(shè)A，B為兩隨機(jī)事件，且BA，則下列式子正確的是（A）P(A+B)=P(A) （B）P(AB)=P(A)（C）P(B|A)=P(B) （D）P(B-A)=P(B)-P(A)2.若二事件A和B同時(shí)出現(xiàn)的概率P(AB)=0，則（）(A)A和B不相容(相斥)(B)AB是不可能事件(C)AB未必是不可能事件(D)P(A)=0或P(B)=0。已知隨機(jī)變量服從正態(tài)分布N(2,22)，且=a+b服從標(biāo)準(zhǔn)正態(tài)分布N(0,1)，則()。(A)a=2，b=－2(B)a=－2，b=－1(C)a=1/2，b=－1(D)a=1/2，b=1

。計(jì)算題1.

設(shè)100個(gè)產(chǎn)品中有10個(gè)次品，從中有放回地抽取4個(gè)，每次一個(gè)。求：（1）抽到的次品數(shù)的分布列；（2）恰好抽到3個(gè)次品的概率；（3）沒有抽到次品的概率。2.設(shè)隨機(jī)變量的概率密度為試求系數(shù)a及E和D。3.

設(shè)隨機(jī)變量的分布律為

-1012

p0.40.20.30.1

試求隨機(jī)變量及的分布律。5.某儀器裝有四只獨(dú)立工作的同型號(hào)電氣元件，其壽命(單位：小時(shí))都服從同一指數(shù)分布，密度函數(shù)為：

f(x)=試求在儀器使用的最初500小時(shí)內(nèi)，至少有一個(gè)電子元件損壞的概率.6.某商店出售的燈泡來自甲、乙兩個(gè)工廠，甲廠產(chǎn)品占70%，乙廠產(chǎn)品占30%，甲廠、乙廠的產(chǎn)品合格率分別為0.92和0.87。某顧客從該商店