概率1收斂與強(qiáng)大數(shù)定律

1、§3 概率1收斂與強(qiáng)大數(shù)定律 一、以概率1收斂二、強(qiáng)大數(shù)定律本章補(bǔ)充與注記 本章習(xí)題  一、以概率1收斂大家知道, 隨機(jī)變量是定義在概率空間上取值為實(shí)數(shù)的函數(shù). 因此我們可以像數(shù)學(xué)分析討論函數(shù)序列逐點(diǎn)收斂性那樣去討論隨機(jī)變量序列在每個(gè)樣本點(diǎn)處的值的收斂性. 然而, 由于隨機(jī)變量取值的隨機(jī)性, 我們常常不可能期望隨機(jī)變量序列在所有點(diǎn)處都存在極限. 現(xiàn)在的問(wèn)題是研究極限是否在一個(gè)概率為1的點(diǎn)集上存在. 定義1 設(shè)和是定義在概率空間 (, F, P)上的隨機(jī)變量序列. 1. 如果存在F, P()=0, 且對(duì)任意，有，則稱(chēng)以概率1收斂（converge

2、 with probability one）或幾乎處處收斂(almost surely converge)于，記作(a. s. ). 2. 如果存在F, P()=0, 且對(duì)任意，數(shù)列()是柯西基本列，即()-()0，(n > m), 則稱(chēng)以概率1是柯西基本列. 注 (a. s. ) 意味著最多除去一個(gè)零概率事件外, 逐點(diǎn)收斂于. 根據(jù)柯西基本數(shù)列一定存在極限的原則, 以概率1收斂當(dāng)且僅當(dāng)以概率1是柯西基本列. 下面給出以概率1收斂的判別準(zhǔn)則. 定理1 設(shè)和是定義在概率空間 (, F, P)上的隨機(jī)變量序列. (1) (a. s. ) 當(dāng)且僅當(dāng)對(duì)任意>0, 或者等價(jià)地. (2) 以概

3、率1是柯西基本列當(dāng)且僅當(dāng)對(duì)任意>0, 或者等價(jià)地. 證 (1) 對(duì)任意>0, 令. 那么. 由連續(xù)性定理（第一章§3）, . 則下列關(guān)系式成立:0 = P() , 對(duì)任意m, 對(duì)任意m, 對(duì)任意m, 對(duì)任意>0 . (2). 對(duì)任意>0, 令, 那么不是柯西基本列=. 以下類(lèi)似于(1)即可證明. 推論 如果對(duì)任意>0, , 則(a. s. ). 證 注意到即可. 注 定理1表明(a. s. )可推出. 反之, 存在例子表明并不能導(dǎo)出(a. s. )（見(jiàn)補(bǔ)充與注記4）.  二、強(qiáng)大數(shù)定律與以概率1收斂密切相關(guān)的是強(qiáng)大數(shù)定律. 定義2 設(shè)是定義在概

4、率空間(, F, P)上的隨機(jī)變量序列, 如果存在常數(shù)列和使得 (a. s. ) , 則稱(chēng)服從強(qiáng)大數(shù)定律(strong law of large numbers). 由于幾乎處處收斂性強(qiáng)于依概率收斂性, 故強(qiáng)大數(shù)定律也比弱大數(shù)定律更深入一步. 我們?cè)诘诙?jié)知道，貝努里通過(guò)對(duì)二項(xiàng)分布的精確估計(jì)得到貝努里弱大數(shù)定律，即貝努里隨機(jī)試驗(yàn)中事件發(fā)生的頻率依概率收斂于該事件的概率. 直到1909年波雷爾才證明了下面更強(qiáng)的結(jié)果. 定理2（波雷爾強(qiáng)大數(shù)定律） 設(shè)是定義在概率空間(, F, P)上的獨(dú)立同分布隨機(jī)變量序列，P(=1)= p, P(=0)=1-p, 0<p<1. 記, 則 (a. s.

5、 ). (1)定理2進(jìn)一步表達(dá)了“頻率穩(wěn)定到概率”這句話的含義. 柯?tīng)柲缏宸?930年將上述結(jié)果從二項(xiàng)分布的隨機(jī)變量推廣到一般隨機(jī)變量. 定理3（柯?tīng)柲缏宸驈?qiáng)大數(shù)定律） 設(shè)是定義在概率空間 (, F, P)上的獨(dú)立同分布隨機(jī)變量序列，E. 記, 則 (a. s. ). (2)事實(shí)上, 定理3的逆也成立: 如果存在常數(shù), 使得(2)式成立, 那么的數(shù)學(xué)期望存在且等于.這兩個(gè)定理的證明從略. 例1 （蒙特卡羅方法） 令f (x) 是定義在0, 1上的連續(xù)函數(shù), 取值于0,1. 令是一列服從于0, 1上的均勻分布的獨(dú)立隨機(jī)變量序列. 定義 , 則也獨(dú)立同分布. 而且,由定理3, (a. s. )

6、. (3)因此我們可以通過(guò)模擬來(lái)計(jì)算積分值, 方法是：在xoy平面的正方形0x1, 0y1上隨機(jī)投點(diǎn), 統(tǒng)計(jì)落在區(qū)域0x1, 0yf (x)內(nèi)的頻率（即為(3)式的左邊）, 當(dāng)投點(diǎn)次數(shù)充分多時(shí), 此頻率可充分接近所求積分. 至此, 我們已經(jīng)介紹了概率論中一些經(jīng)典的極限定理.   補(bǔ)充與注記 1. 在18和19 世紀(jì), 極限定理一直是概率論研究的中心課題. 貝努里大數(shù)定律是第一個(gè)從數(shù)學(xué)上被嚴(yán)格證明的概率論定律, 它由貝努里在其1713年出版的名著 推測(cè)術(shù)中詳細(xì)給出. 大數(shù)律這個(gè)名稱(chēng)則是泊松（Poisson 1781-1840）于1837年提出的. 中心極限定理這個(gè)名詞1920年由波利亞

7、（）給出，用于統(tǒng)稱(chēng)隨機(jī)變量序列部分和的分布漸近于正態(tài)分布的一類(lèi)定理. 它是概率論中最為重要的一類(lèi)定理, 并有著廣泛的實(shí)際背景. 最初的中心極限定理是關(guān)于重貝努里試驗(yàn)的, 1716年，德莫佛對(duì)的情形作了討論，隨后拉普拉斯將其推廣到的情形. 從19世紀(jì)中葉到20世紀(jì)初期，一批著名的俄國(guó)數(shù)學(xué)家對(duì)概率論的發(fā)展做出了重要貢獻(xiàn). 他們運(yùn)用嚴(yán)格的、強(qiáng)有力的數(shù)學(xué)分析工具，如富里埃變換等，將貝努里大數(shù)律、德莫佛-拉普拉斯中心極限定理推廣到一般隨機(jī)變量和的情形. 2. 在18世紀(jì)以前，證明貝努里大數(shù)律是一件相當(dāng)困難的事情，它涉及到下列和式的計(jì)算：直到德莫佛-拉普拉斯的重要發(fā)現(xiàn)以后，貝努里大數(shù)律才有了新的、較為簡(jiǎn)單

8、的證明. 事實(shí)上, 德莫佛-拉普拉斯證明了如下的局部和整體中心極限定理：對(duì)足夠大的和，從上述漸近結(jié)果，我們不難得到貝努里大數(shù)定律. 3. 特征函數(shù)的泰勒漸近展開(kāi) 作為第三章結(jié)果的一個(gè)推論，如果分布函數(shù)有階有限矩，那么它的特征函數(shù)次連續(xù)可導(dǎo). 這樣我們可以在處對(duì)進(jìn)行泰勒展開(kāi). 定理 假設(shè)隨機(jī)變量有階有限矩，記這些矩分別為. 那么它的特征函數(shù)在處有如下形式的泰勒展開(kāi)： = ,其中, |. 4. 依概率收斂不能推出以概率1收斂, 例如: 令=0,1, F為0,1上所有波雷爾集構(gòu)成的域，P為0,1上的勒貝格測(cè)度（長(zhǎng)度）. 定義 i=1,2,n ; n=1,2,. 考慮隨機(jī)變量序列, 并重新記成. 首先

9、注意到, 對(duì)任意>0, , 即. 另一方面, 對(duì)任意(), n=1,2,中有無(wú)窮多個(gè)1，也有無(wú)窮多個(gè)0, 因此()不存在極限.  習(xí)題1. 下列分布函數(shù)列是否弱收斂于分布函數(shù)？(1) x <-1/ n時(shí), ; x時(shí), ;(2) 2. 設(shè)的分布列為: P(=0)=1-1/ n, P(=1)=1/ n, n=1,2,. 求證相應(yīng)的分布函數(shù)列收斂于分布函數(shù), 但E不收斂于相應(yīng)分布的期望. 3. 設(shè)為獨(dú)立同分布隨機(jī)變量序列, 的分布列為 , . 求證的分布收斂于0, 1上的均勻分布. 4. 某計(jì)算機(jī)系統(tǒng)有120個(gè)終端. (1) (1)    

10、;       每個(gè)終端有5 %時(shí)間在使用，若各終端使用與否是相互獨(dú)立的, 求有10個(gè)或更多終端在使用的概率;(2) (2)           若每個(gè)終端有20%時(shí)間在使用, 求解上述問(wèn)題. 5. 現(xiàn)有一大批種子，其中良種占1/ 6. 在其中任取6000粒，問(wèn)在這些種子中良種所占的比例與1/ 6之差小于1 %的概率是多少？6. 某車(chē)間有200臺(tái)車(chē)床，工作時(shí)每臺(tái)車(chē)床60 %時(shí)間在開(kāi)動(dòng)，每臺(tái)開(kāi)動(dòng)時(shí)耗電1千瓦. 問(wèn)應(yīng)供給這個(gè)車(chē)間多少電力才能

11、有0. 999的把握保證正常生產(chǎn)？7. 一家保險(xiǎn)公司里有10000個(gè)同類(lèi)型人參加某種事故保險(xiǎn)，每人每年付12元保險(xiǎn)費(fèi)，在一年中一個(gè)人發(fā)生此種事故的概率為0. 006，發(fā)生事故時(shí)該人可向保險(xiǎn)公司領(lǐng)得1000元. 問(wèn)：(1) 對(duì)該項(xiàng)保險(xiǎn)保險(xiǎn)公司虧本的概率有多大？(2) 對(duì)該項(xiàng)保險(xiǎn)保險(xiǎn)公司一年的利潤(rùn)不少于60000元的概率有多大？ 8. 一家火災(zāi)保險(xiǎn)公司承保160幢房屋，最高保險(xiǎn)金額有所不同，數(shù)值如下表所示: 最大保險(xiǎn)金額（萬(wàn)元）投保房屋數(shù)10203050100 803525155 假設(shè) 1) 每幢房屋每年一次理賠概率0.04，大于一次理賠概率為0； 2) 各幢房屋是否發(fā)生火災(zāi)相互獨(dú)立；

12、3) 如果理賠發(fā)生，理賠量服從0到最高保險(xiǎn)金額間的均勻分布. 記N為一年中理賠次數(shù)，S為理賠總量, a. 計(jì)算N的期望值和方差； b. 計(jì)算S的期望值和方差； c. 確定相對(duì)保證附加系數(shù)，即(每份保單保費(fèi)收入-平均理賠量)/ 平均理賠量，以確保保險(xiǎn)公司的保費(fèi)收入大于理賠總量的概率等于0. 99. 9. 某保險(xiǎn)公司開(kāi)辦5種人壽險(xiǎn)，每種險(xiǎn)別（一旦受保人死亡）的賠償額及投保人數(shù)如下表所示.  類(lèi)別k賠償額（萬(wàn)元）投保人數(shù)123451235108000350025001500500  設(shè)死亡是相互獨(dú)立的, 其概率皆為0. 02. 保險(xiǎn)公司為安全起見(jiàn), 對(duì)每位受保人尋求再保險(xiǎn). 其機(jī)

13、制如下：確定一個(gè)自留額，設(shè)為2萬(wàn)元；若某人的索賠在2萬(wàn)元以下，則都由該保險(xiǎn)公司償付；若賠償金超過(guò)2萬(wàn)元，則超過(guò)部分由再保險(xiǎn)公司償付；再保險(xiǎn)率為投保金額的2. 5%. 該保險(xiǎn)公司（相對(duì)于再保險(xiǎn)公司而言，也稱(chēng)為分出公司）希望它的全部費(fèi)用（即實(shí)際索賠總額S+再保險(xiǎn)費(fèi)）不超過(guò)825萬(wàn)元，求實(shí)際費(fèi)用突破此限額的概率. 10. 設(shè)獨(dú)立同分布，其分布分別為 (1) -a, a 上的均勻分布；(2) 泊松分布. 記 . 計(jì)算的特征函數(shù)，并求n時(shí)的極限, 從而驗(yàn)證林德貝格勒維定理在這種情況成立. 11. 用德莫佛拉普拉斯定理證明：在貝努里試驗(yàn)中，若0< p <1，則不管k是多大的常數(shù)，總有P(|,(

14、 n). 12. 求證：泊松分布的標(biāo)準(zhǔn)化變量當(dāng)參數(shù)時(shí)趨近標(biāo)準(zhǔn)正態(tài)分布. 13. 13.       求證：當(dāng)n時(shí)，. 14. 14.       設(shè)各自獨(dú)立同分布, 也相互獨(dú)立. E=0, Var=1， P. 求證：的分布函數(shù)弱收斂于N (0,1). 15. 15.       設(shè)為獨(dú)立隨機(jī)變量序列，都服從(0,)上的均勻分布. 記，其中且. 證明服從中心極限定理.16. 設(shè)服從柯西分布，其密度為(x)=. 求證：.

15、 17. 設(shè)獨(dú)立同分布，密度為 p(x)=. 令. 求證：. 18. 18.       求證：(1) (1)  若, 則; (2) (2)  若, 則; (3) (3)  若, c為常數(shù), 與c都不為0，則; (4) (4)  設(shè),c為常數(shù), 則 ; , (c0). 19. 19.       求證下列各獨(dú)立的隨機(jī)變量序列服從大數(shù)定律. (1) P(P(;(2) P(;(3) P(=, n=1, 2, ;(4) P(=n)=n=2,

16、3, ; c為常數(shù). 20. 設(shè)服從同一分布，Var<+, 與相關(guān), k=1,2, 但當(dāng)|k-l|2時(shí), 與獨(dú)立. 求證這時(shí)大數(shù)定律成立. 21. （伯恩斯坦(Bernstein)定理）設(shè)的方差有界：Varc, 且當(dāng)|i-j|時(shí), Cov(,)0，則服從大數(shù)定律. 試證明之. 21. 在貝努里試驗(yàn)中，事件A出現(xiàn)的概率為p，令= ,求證服從大數(shù)定律. 23. 設(shè)獨(dú)立同分布，都服從0, 1上的均勻分布，令, 求證：(常數(shù))，并求出c. 24. 設(shè)獨(dú)立同分布，E=a, Var<. 求證：a . 25. 設(shè)獨(dú)立同分布，都服從N (0, 1) 分布，. 求證：的分布函數(shù)(0, 1). 26. 設(shè)為獨(dú)立同分布隨機(jī)變量序列，Var<. 為絕對(duì)收斂級(jí)數(shù)，令, 則服從大數(shù)定律. 27. 設(shè)為獨(dú)立同分布隨機(jī)變量序列，為常數(shù)列，. 求證：. 28. , 相互獨(dú)立，均服從N