大數(shù)定律和中心極限定理

1、第五章大數(shù)定律和中心極限定理我們知道，概率論與數(shù)理統(tǒng)訃是硏究隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性的數(shù)學(xué)分之。但是，只 有對大量隨機(jī)現(xiàn)象進(jìn)行觀測時，隨機(jī)現(xiàn)象的統(tǒng)汁規(guī)律性才會呈現(xiàn)出來。為了考察 “大量”的隨機(jī)現(xiàn)象，就導(dǎo)致了極限定理的研究。概率論中極限定理的內(nèi)容是很 廣泛的，其中最主要的是大數(shù)定律和中心極限定理。大數(shù)定理在引入大數(shù)定理之前，我們先證明一個重要的定理.切貝雪夫不等式 對于任何具有有限方差的隨機(jī)變量X都有7（1 兀一應(yīng)（七 |其中是任一正數(shù)。證設(shè)嚴(yán)住）是X的分布函數(shù)，則顯然有 r 二叫（或F（| X-EX）1-切貝雪夫不等式也可以表示成2 。由于切貝雪夫不等式只利用隨機(jī)變量的數(shù)學(xué)期望E（及方差就可對X的概

2、率分布進(jìn)行估計(jì)， 因此它在理論研究及實(shí)際應(yīng)用中有價值。從切貝雪夫不等式還可以看出，當(dāng)方差 越小時，事件巧於-圻i矽乘翅發(fā)生的概率也越小，從而可知，方差確實(shí)是一個 描述隨機(jī)變量與其期望值離散程度的一個量。例I設(shè)電站供電網(wǎng)有10000盞電燈，夜晚每盞燈開燈的概率均為，假定燈的開、 關(guān)是相互立的，使用切貝雪夫不等式估計(jì)夜晚同時開著的燈數(shù)在6800到7200 盞之間的概率。解令蠱表示在夜晚同時開著的燈數(shù)li,則X服從“l(fā)oo。，的二項(xiàng)分布，這時 力2,山切貝雪夫不等式可得?(6800 X 7200) =?(| X-7000|1-21002001倉 0.95事實(shí)上，這個概率的近似值表明，在1OOOO盞燈

3、中，開著的燈數(shù)在6800到7200 的概率大于。而實(shí)際此概率的精確值可山貝努里公式求得為。山此可知，切貝雪 夫不等式雖可用來估計(jì)概率，但精度不夠高，它的重要意義是在理論上的應(yīng)用， 在大數(shù)定律的證明中，用切貝雪夫不等式可使證明非常簡潔。貝努里大定理 噸用=1設(shè)用是,2重貝奴里試驗(yàn)中事件/出現(xiàn)的次數(shù)，而0是事件山在每次試驗(yàn)中出現(xiàn)的概率，則對任意都有 在證明這個定理之前，先看看它的具體含義。用是”重貝努里試驗(yàn)中衛(wèi)出現(xiàn)的次數(shù)，則h便是這,2次試驗(yàn)中衛(wèi)出現(xiàn)的頻率，上式表明，當(dāng)次數(shù)聽艮大時，事件/ 出現(xiàn)的頻率與事件A出現(xiàn)的概率p的偏差超過任意正數(shù) 的可能性很小，或者基本上說，是不可能的。也就是說，要從理論

4、上證明：對于任意的，lim - | 4 = 0lim-去 | 身=1有“北它等價于o貝努里大數(shù)定律是研究這種極限定理的第一個定律，也是一個從理論上證明隨機(jī) 現(xiàn)象的頻率具有穩(wěn)定性的定律。下面我們給出山貝奴里在1713年發(fā)表的這個定 律的證明。證 設(shè)益是第i次試驗(yàn)中事件衛(wèi)發(fā)生的次數(shù)，山鳥服從參數(shù)為耳的(0-1)分布,久D(XJ - PG其中? -1 - 1,2,3,.刃.石,2 Xn 相互獨(dú)立，且“ 0,從而知. 1 1 呼化滬)氓轉(zhuǎn)r山切貝雪夫不等式有因此 応列些_尹|2冷=0n亦即曲尸|些一去|幼=129)2貝努里大數(shù)定律證明了在大量重復(fù)實(shí)驗(yàn)時，隨機(jī)事件的頻率在它的概率的附近擺 動，若事件/的

5、概率很小，則正如貝努里定律所指出的，事件/的頻率也很小, 或者說事件/很少發(fā)生。“概率很小的隨機(jī)事件在個別試驗(yàn)中是兒乎不能發(fā)生的”這一原理稱為小概率事 件的實(shí)際不可能性原理。它在國家經(jīng)濟(jì)建設(shè)中有著廣泛的應(yīng)用。至于“小概率” 小到什么程度才能看作實(shí)際上不可能發(fā)生，則要視具體情況的要求和性質(zhì)而定。 例如，自動車床加工零件岀現(xiàn)次品的概率為，若零件的重要性不大而價格乂低， 則完全可允許有1%的次品率，即可忽視100個零件中出現(xiàn)一個次品的可能性。 但如果制造一批降落傘出現(xiàn)的次品的概率為，顯然在這種情況下，這1%的忽視 也是絕對不允許的，因?yàn)樗赡芪＜斑@白分之一跳傘者的生命。貝努里大數(shù)定律還提供了通過試驗(yàn)

6、來確定事件概率的方法。既然頻率七與概率 p有較大偏差的可能性很小，那么我們就可以通過做試驗(yàn)確定某事件發(fā)生的頻 率并把它作為相應(yīng)概率的估計(jì)，這種方法稱為參數(shù)估計(jì)，它是數(shù)理統(tǒng)計(jì)中主要的 研究課題之一。參數(shù)估計(jì)的一個重要理論基礎(chǔ)就是大數(shù)定律。設(shè)禺必”是一個互相獨(dú)立的隨機(jī)變量序列，。是一個常數(shù)，若對于任意正 數(shù),有鹽列FKc令-1,則稱序列1，2，人依概率收斂于6因此，山貝奴里大數(shù)定律可得：設(shè)用是”次獨(dú)立試驗(yàn)中事件/出現(xiàn)的次數(shù)，而0是事件/在每次試驗(yàn)中出現(xiàn)的概率，則頻率h依概率收斂于概率戸。人們在事件中還發(fā)現(xiàn)，除了頻率具有穩(wěn)定性之外，大量觀察值的平均值也具有穩(wěn) 定性。這就是切貝雪夫大數(shù)定律。切貝雪夫大

7、數(shù)定律設(shè)隨機(jī)變量益屁，覽，相互獨(dú)立,每一隨機(jī)變量都有數(shù)學(xué)期望E（Xi）,E（疋J 和有限的方差D（X）,D（*2），,門（扎），并且它們有 公共上界C,即D3J ，（血），。（血）,，則對任意的,皆有1 X1limHIZ血-氓坦）|1.29相互獨(dú)立，所以1 1 丑（_藝紜）=5?（扎）乂因 妊沁 Z，山切貝雪夫不等式可得 （ 血） r戸|丄忑-丄$（益）|i- 所以ip（|1Ja-1A）I a,刃JIm必1 1 于是，時咗署如51在1866年山俄國數(shù)學(xué)家切貝雪夫證明的大數(shù)定律是關(guān)于大數(shù)定律大的一個相當(dāng) 普遍的結(jié)論。貝努里大數(shù)定律就是切貝雪夫大數(shù)定律的一個特例。1 切貝雪夫大數(shù)定律表明相互獨(dú)立的隨機(jī)變量的算術(shù)平均值“I與數(shù)學(xué)期望的算術(shù)平均值的差在乜充分大時是一個無窮小量，這也意味著在花從分大時, 經(jīng)算術(shù)平均后得到的隨機(jī)變量圮的值將比較緊密地聚集在它的數(shù)學(xué)期望 涇曲的附近。有切貝雪夫大數(shù)定律還得益的下面的推論：設(shè)獨(dú)立隨機(jī)變量益，屁，,紅，.服從同一分布，并且有數(shù)學(xué)期望。及方差則 1 兀竝血的算術(shù)平均值血在8時，依概率收斂與數(shù)學(xué)期望S1 lim_a|幼=1即對任意正數(shù),有9妊駐1 上述推論，是我們關(guān)于算術(shù)平均值的法則有了理論上的依據(jù)。如我們要測量某一