概率論與統(tǒng)計(jì)大數(shù)定律

概率論與統(tǒng)計(jì)大數(shù)定律第1頁，共37頁，2023年，2月20日，星期五一、問題的提出二、隨機(jī)變量序列的收斂性第一節(jié)大數(shù)定律三、常用的四種大數(shù)定律第2頁，共37頁，2023年，2月20日，星期五一、問題的提出在第一章有關(guān)概率的統(tǒng)計(jì)定義中講到,隨機(jī)現(xiàn)象在大量重復(fù)試驗(yàn)中呈現(xiàn)明顯的統(tǒng)計(jì)規(guī)律性,即事件發(fā)生的頻率具有穩(wěn)定性.貝努里于1713年首先提出關(guān)于頻率穩(wěn)定性的定理,被稱為貝努里大數(shù)定律.第3頁，共37頁，2023年，2月20日，星期五大量拋擲硬幣正面出現(xiàn)頻率生產(chǎn)過程中的廢品率字母使用頻率在實(shí)踐中,人們認(rèn)識(shí)到大量測量值的算術(shù)平均值也具有穩(wěn)定性.大數(shù)定律就是用于研究大量隨機(jī)現(xiàn)象中平均結(jié)果的穩(wěn)定性的理論.大數(shù)定律的客觀背景第4頁，共37頁，2023年，2月20日，星期五二、隨機(jī)變量序列的收斂性

定義4.1的分布函數(shù)分別為和若在的所有連續(xù)點(diǎn)

上都有

則稱隨機(jī)變量序列

依分布收斂與隨機(jī)變量Y，簡記為和隨機(jī)變量Y

設(shè)隨機(jī)變量第5頁，共37頁，2023年，2月20日，星期五依分布收斂表示：當(dāng)n充分大時(shí)，

的分布函數(shù)收斂于Y的分布函數(shù)

它是概率論中較弱的一種收斂性.定義4.2任意實(shí)數(shù)有或和隨機(jī)變量Y，若對設(shè)隨機(jī)變量序列第6頁，共37頁，2023年，2月20日，星期五則稱隨機(jī)變量序列

依概率收斂與隨機(jī)變量Y，簡記為依概率收斂表示：

與Y的絕對誤差小于任意小大，直至趨于1.定理4.1為一隨機(jī)變量序列，且

(常數(shù))，又函數(shù)

在點(diǎn)C處連續(xù)，則有的可能性(即概率)將隨著n增大而愈來愈的正數(shù)

設(shè)第7頁，共37頁，2023年，2月20日，星期五證由

在C處連續(xù)可知，對任意實(shí)數(shù)

存在實(shí)數(shù)

使當(dāng)

時(shí)，總有

從而這就表明：

第8頁，共37頁，2023年，2月20日，星期五定義4.3和隨機(jī)變量對時(shí)，有和

，若

則稱隨機(jī)變量序列階收斂于隨機(jī)變量Y，簡記為設(shè)隨機(jī)變量序列

第9頁，共37頁，2023年，2月20日，星期五

特別的有1-階收斂又稱為平均收斂，2-階收斂又稱為均方收斂。可以證明：均方收斂則平均收斂。第10頁，共37頁，2023年，2月20日，星期五

定義4.4設(shè)隨機(jī)變量序列和隨機(jī)變量，若

或簡記為以概率1（或幾乎處處）收斂于隨機(jī)變量簡記為

。則稱隨機(jī)變量序列以概率1（或幾乎處處）第11頁，共37頁，2023年，2月20日，星期五下面定理揭示了四種收斂之間的關(guān)系。。(3)若，則和隨機(jī)變量定理4.2設(shè)隨機(jī)變量序列

(1)若，則(2)若，則。(4)若，則第12頁，共37頁，2023年，2月20日，星期五定義4.5三、常用的四種大數(shù)定理令第13頁，共37頁，2023年，2月20日，星期五定理4.3切比謝夫大數(shù)定律第14頁，共37頁，2023年，2月20日，星期五證第15頁，共37頁，2023年，2月20日，星期五注1

這種接近是概率意義下的！通俗地說,在定理?xiàng)l件下,n個(gè)隨機(jī)變量的算術(shù)平均值,當(dāng)n無限增加時(shí),幾乎變成一個(gè)常數(shù).第16頁，共37頁，2023年，2月20日，星期五2

切比謝夫大數(shù)定理的另一種敘述第17頁，共37頁，2023年，2月20日，星期五解設(shè)X1,X2,,

Xn

是獨(dú)立同分布的隨機(jī)變量例1第18頁，共37頁，2023年，2月20日，星期五從而對任意給定的0,由切比謝夫不等式得第19頁，共37頁，2023年，2月20日，星期五解設(shè)隨機(jī)變量相互獨(dú)立,具有如下分布律:問是否滿足切比謝夫大數(shù)定理?由題意可知獨(dú)立性.可見,每個(gè)隨機(jī)變量的數(shù)學(xué)期望都存在.檢驗(yàn)是否有數(shù)學(xué)期望例2第20頁，共37頁，2023年，2月20日，星期五檢驗(yàn)是否有有限方差故滿足切比謝夫大數(shù)定理的條件.第21頁，共37頁，2023年，2月20日，星期五定理4.4定理4.5貝努里大數(shù)定理第22頁，共37頁，2023年，2月20日，星期五證由定理4.3對任意的0,有第23頁，共37頁，2023年，2月20日，星期五證畢.第24頁，共37頁，2023年，2月20日，星期五注1

用嚴(yán)格的數(shù)學(xué)形式表達(dá)頻率的穩(wěn)定性!當(dāng)n很大時(shí),事件發(fā)生的頻率與概率有較大偏差的可能性很小.在實(shí)際應(yīng)用中,當(dāng)試驗(yàn)次數(shù)很大時(shí),便可以用事件發(fā)生的頻率來代替事件的概率.第25頁，共37頁，2023年，2月20日，星期五都有定理4.6泊松大數(shù)定理證令由定理4.3可得結(jié)論.第26頁，共37頁，2023年，2月20日，星期五注1

與切比謝夫大數(shù)定理相比,不要求方差存在且有界.2

貝努里大數(shù)定理是辛欽大數(shù)定理的特例.定理4.7辛欽大數(shù)定理第27頁，共37頁，2023年，2月20日，星期五設(shè)隨機(jī)變量獨(dú)立同分布,證明對任意解例3由辛欽大數(shù)定理知,第28頁，共37頁，2023年，2月20日，星期五設(shè)f(x)

(axb)

是連續(xù)函數(shù),試用概率論方法近似計(jì)算積分.解設(shè)|f(x)|的一個(gè)上界為M(M>0),f(x)的最小值為h,則故不妨假定0

f(x)1,引進(jìn)新變量z:x

(ba)za后,可將x軸上的區(qū)間[a,b]變?yōu)閦軸上[0,1],

故不妨設(shè)a

0,b

1.例4Oyxy＝f(x)A11第29頁，共37頁，2023年，2月20日，星期五考慮幾何型隨機(jī)試驗(yàn)E:向矩形0x1,0y1中均勻分布地?cái)S點(diǎn),將E獨(dú)立地重復(fù)做下去,以A表示此矩形中曲線y

f(x)下的區(qū)域,即A={(x,y):0yf(x);x[0,1]}并定義隨機(jī)變量序列則{Xk:k1}獨(dú)立同分布,而且E(Xk)

P(Xk

1)

|A|第30頁，共37頁，2023年，2月20日，星期五|A|表示A的面積,由貝努里大數(shù)定理知這表示當(dāng)n充分大時(shí),前n次試驗(yàn)中落于A中的點(diǎn)數(shù)除以n后,以任意接近于1的概率與近似.這種近似計(jì)算法叫蒙特卡洛(Monte-Carlo)方法.第31頁，共37頁，2023年，2月20日，星期五四個(gè)大數(shù)定理內(nèi)容小結(jié)頻率的穩(wěn)定性是概率定義的客觀基礎(chǔ),而貝努里大數(shù)定理以嚴(yán)密的數(shù)學(xué)形式論證了頻率的穩(wěn)定性.第32頁，共37頁，2023年，2月20日，星期五再見第33頁，共37頁，2023年，2月20日，星期五設(shè)Xn為獨(dú)立同分布的隨機(jī)變量序列,其共同分布為例3-1試問Xn是否服從大數(shù)定律?即EXn存在,由辛欽大數(shù)定律知服從大數(shù)定律.解備用題第34頁，共37頁，2023年，2月20日，星期五貝努里(JacobBernoulli)1654-1705提出貝努里大數(shù)定理,建立了貝努里概型.在無窮級數(shù)理論、變分法和概率論等反面都有貢獻(xiàn).瑞士人,貝努里家族的三大杰出的數(shù)學(xué)家之一.首先發(fā)展無窮小分析,1960年提出懸連線問題,首創(chuàng)積分“integral”這一術(shù)語.第35頁，共37頁，2023年，2月20日，星期五切比謝夫(PafnutyChebyshev)1821-1894俄國數(shù)學(xué)家、機(jī)械學(xué)家.對數(shù)論、積分理論、概率論和力學(xué)都有很大貢獻(xiàn).證明了貝爾特蘭公式,關(guān)于自然數(shù)列中素?cái)?shù)分布的定理,大數(shù)定律的一般公式以及中心極限定理.創(chuàng)立了