隨機(jī)過(guò)程--★【漢魅HanMei―課程講義】

1、1,隨 機(jī) 過(guò) 程,2,關(guān)鍵詞： 隨機(jī)過(guò)程 狀態(tài)和狀態(tài)空間 樣本函數(shù) 有限維分布函數(shù) 均值函數(shù) 方差函數(shù) 自相關(guān)函數(shù)自協(xié)方差函數(shù) 互相關(guān)函數(shù)互協(xié)方差函數(shù) 正態(tài)過(guò)程 獨(dú)立增量過(guò)程 泊松過(guò)程 維納過(guò)程,第十章 隨機(jī)過(guò)程及其統(tǒng)計(jì)描述,3,1 隨機(jī)過(guò)程的概念,隨機(jī)過(guò)程被認(rèn)為是概率論的“動(dòng)力學(xué)”部分，即它的研究對(duì)象是隨時(shí)間演變的隨機(jī)現(xiàn)象，它是從多維隨機(jī)變量向一族(無(wú)限多個(gè))隨機(jī)變量的推廣。 給定一隨機(jī)試驗(yàn)E，其樣本空間S=e，將樣本空間中的每一元作如下對(duì)應(yīng)，便得到一系列結(jié)果：,4,一維、二維或一般的多維隨機(jī)變量的研究是概率論的研究?jī)?nèi)容，而隨機(jī)序列、隨機(jī)過(guò)程則是隨機(jī)過(guò)程學(xué)科的研究?jī)?nèi)容。從前面的描述中看到，

2、它的每一樣本點(diǎn)所對(duì)應(yīng)的，是一個(gè)數(shù)列或是一個(gè)關(guān)于t的函數(shù)。,5,例1：拋擲一枚硬幣的試驗(yàn)，樣本空間是S=H,T，現(xiàn)定義：,6,7,8,9,例5：考慮拋擲一顆骰子的試驗(yàn)：,10,隨機(jī)過(guò)程的分類： 隨機(jī)過(guò)程可根據(jù)參數(shù)集T和任一時(shí)刻的狀態(tài)分為四類，參數(shù)集T可分為離散集和連續(xù)集兩種情況，任一時(shí)刻的狀態(tài)分別為離散型隨機(jī)變量和連續(xù)型隨機(jī)變量?jī)煞N： 連續(xù)參數(shù)連續(xù)型的隨機(jī)過(guò)程，如例2，例3 連續(xù)參數(shù)離散型的隨機(jī)過(guò)程，如例1，例4 離散參數(shù)離散型的隨機(jī)過(guò)程，如例5 離散參數(shù)連續(xù)型的隨機(jī)過(guò)程，,11,2 隨機(jī)過(guò)程的統(tǒng)計(jì)描述,12,例1：拋擲一枚硬幣的試驗(yàn)，定義一隨機(jī)過(guò)程：,13,例1：拋擲一枚硬幣的試驗(yàn)，定義一隨機(jī)

3、過(guò)程：,14,15,(二) 隨機(jī)過(guò)程的數(shù)字特征,16,17,18,19,續(xù),20,21,(三) 二維隨機(jī)過(guò)程的分布函數(shù)和數(shù)字特征,22,23,24,3 泊松過(guò)程及維納過(guò)程,25,獨(dú)立增量過(guò)程的性質(zhì)：,26,27,(一) 泊松分布,28,29,續(xù),30,證畢,31,32,33,34,35,36,定理一：強(qiáng)度為的泊松流(泊松過(guò)程)的點(diǎn)間間距是相互獨(dú)立的隨 機(jī)變量，且服從同一指數(shù)分布 定理二：如果任意相繼出現(xiàn)的兩個(gè)質(zhì)點(diǎn)的點(diǎn)間間距是相互獨(dú)立， 且服從同一個(gè)指數(shù)分布： 這兩個(gè)定理刻畫出了泊松過(guò)程的特征，定理二告訴我們，要確定一個(gè)計(jì)數(shù)過(guò)程是不是泊松過(guò)程，只要用統(tǒng)計(jì)方法檢驗(yàn)點(diǎn)間間距是否獨(dú)立，且服從同一個(gè)指數(shù)

4、分布。,則質(zhì)點(diǎn)流構(gòu)成強(qiáng)度為的泊松過(guò)程,37,(二) 維納過(guò)程,維納過(guò)程是布朗運(yùn)動(dòng)的數(shù)學(xué)模型 以W(t)表示運(yùn)動(dòng)中一微粒從時(shí)刻t=0到時(shí)刻t0的位移的橫坐標(biāo)，且設(shè)W(0)=0。由于微粒的運(yùn)動(dòng)是受到大量隨機(jī)的、相互獨(dú)立的分子碰撞的結(jié)果，于是: 粒子在時(shí)段(s,t上的位移可看作是許多微小位移的 和，根據(jù)中心極限定理，假設(shè)位移W(t)-W(s)服從正態(tài)分布是合理的。 (2) 由于粒子的運(yùn)動(dòng)完全由液體分子不規(guī)則碰撞而引起的，這樣，在不相重疊的時(shí)間間隔內(nèi)，碰撞的次數(shù)、大小和方向可假設(shè)相互獨(dú)立，即W(t)具有獨(dú)立增量，同時(shí)W(t)的增量具有平穩(wěn)性。,38,39,40,41,關(guān)鍵詞： 無(wú)后效性(馬爾可夫性)

5、齊次馬爾可夫鏈 n步轉(zhuǎn)移概率 n步轉(zhuǎn)移概率矩陣 C-K方程 馬氏鏈的有限維分布律 遍歷性 極限分布(平穩(wěn)分布),第十一章 馬爾可夫鏈,42,1 馬爾可夫過(guò)程及其概率分布,馬爾可夫性(無(wú)后效性) 過(guò)程(或系統(tǒng))在時(shí)刻t0所處的狀態(tài)為已知的條件下，過(guò)程在時(shí)刻tt0所處狀態(tài)的條件分布與過(guò)程在時(shí)刻t0之前所處的狀態(tài)無(wú)關(guān)。 通俗地說(shuō)，就是在已經(jīng)知道過(guò)程“現(xiàn)在”的條件下，其“將來(lái)”不依賴于“過(guò)去”。,43,證畢！,44,由上例知，泊松過(guò)程是時(shí)間連續(xù)狀態(tài)離散的馬氏過(guò)程， 維納過(guò)程是時(shí)間狀態(tài)都連續(xù)的馬氏過(guò)程。 時(shí)間和狀態(tài)都離散的馬爾可夫過(guò)程稱為馬爾可夫鏈，簡(jiǎn)稱馬氏鏈， 記為：Xn=X(n),n=0,1,2,參

6、數(shù)集T=0,1,2,， 記鏈的狀態(tài)空間為：,45,46,Xm+1的狀態(tài),47,例2：(0-1傳輸系統(tǒng)) 如圖所示，只傳輸數(shù)字0和1的串聯(lián)系統(tǒng)中，設(shè)每一級(jí)的傳真率為p，誤碼率為q=1-p。并設(shè)一個(gè)單位時(shí)間傳輸一級(jí)，X0是第一級(jí)的輸入， Xn是第n級(jí)的輸出(n1)，那么Xn,n=0,1,2是一隨機(jī)過(guò)程， 狀態(tài)空間I=0,1，而且當(dāng)Xn=i為已知時(shí)，Xn+1所處的狀態(tài)的概率分布只與Xn=i有關(guān)，而與時(shí)刻n以前所處的狀態(tài)無(wú)關(guān)，所以它是一個(gè)馬氏鏈，而且還是齊次的，它的一步轉(zhuǎn)移概率和一步轉(zhuǎn)移概率矩陣 分別為：,48,例3：一維隨機(jī)游動(dòng)。設(shè)一醉漢Q(或看作一隨機(jī)游動(dòng)的 質(zhì)點(diǎn))在直線上的點(diǎn)集I=1,2,3,4

7、,5作隨機(jī)游動(dòng)， 且僅在1秒、2秒等時(shí)刻發(fā)生游動(dòng)，游動(dòng)的概率規(guī)則 是：如果Q現(xiàn)在位于點(diǎn)i(1i5)，則下一時(shí)刻各以 的概率向左或向右移動(dòng)一格，或以 的概率 留在原處；如果Q現(xiàn)在處于1(或5)這一點(diǎn)上，則下 一時(shí)刻就以概率1移動(dòng)到2(或4)這點(diǎn)上，1和5這 兩點(diǎn)稱為反射壁，這種游動(dòng)稱為帶有兩個(gè)反射壁的 隨機(jī)游動(dòng)。,49,解：以Xn表示時(shí)刻n時(shí)Q的位置，不同的位置就是Xn的不同 狀態(tài)；而且當(dāng)Xn=i為已知時(shí)，Xn+1所處的狀態(tài)的概率分布 只與Xn=i有關(guān)，而與Q在時(shí)刻n以前如何到達(dá)i完全無(wú)關(guān)， 所以Xn,n=0,1,2 是一馬氏鏈，且是齊次的。 它的一步轉(zhuǎn)移概率矩陣為： 如果把1這點(diǎn)改為吸收壁，即

8、Q一旦到達(dá)1這一點(diǎn)，則永遠(yuǎn)留在點(diǎn)1時(shí)，此時(shí)的轉(zhuǎn)移概率矩陣為：,50,例4：排隊(duì)模型 設(shè)服務(wù)系統(tǒng)由一個(gè)服務(wù)員和只可以容納兩個(gè)人的等候室組成。服務(wù)規(guī)則為：先到先服務(wù)，后來(lái)者需在等候室依次排隊(duì)，假設(shè)一個(gè)需要服務(wù)的顧客到達(dá)系統(tǒng)時(shí)發(fā)現(xiàn)系統(tǒng)內(nèi)已有3個(gè)顧客，則該顧客立即離去。 設(shè)時(shí)間間隔t內(nèi)有一個(gè)顧客進(jìn)入系統(tǒng)的概率為q，有一接受服務(wù)的顧客離開(kāi)系統(tǒng)(即服務(wù)完畢)的概率為p,又設(shè)當(dāng)t充分小時(shí)，在這時(shí)間間隔內(nèi)多于一個(gè)顧客進(jìn)入或離開(kāi)系統(tǒng)實(shí)際上是不可能的，再設(shè)有無(wú)顧客來(lái)到與服務(wù)是否完畢是相互獨(dú)立的。,51,現(xiàn)用馬氏鏈來(lái)描述這個(gè)服務(wù)系統(tǒng)： 設(shè)Xn=X(nt)表示時(shí)刻nt時(shí)系統(tǒng)內(nèi)的顧客數(shù)，即系統(tǒng)的狀態(tài)。Xn,n=0,1,

9、2是一隨機(jī)過(guò)程，狀態(tài)空間I=0,1,2,3,且如前例2、例3的分析可知，它是一個(gè)齊次馬氏鏈，它的一步轉(zhuǎn)移概率矩陣為：,52,例5：有甲、乙兩袋球，開(kāi)始時(shí),甲袋有3只球,乙袋有2只球；以后,每次任取一袋,并從袋中取出一球放入另一袋(若袋中無(wú)球則不取)。Xn表示第n次抽取后甲袋 的球數(shù)，n=1,2,.Xn,n=1,2,是一隨機(jī)過(guò)程， 狀態(tài)空間I=0,1,2,3,4,5,當(dāng)Xn=i時(shí)，Xn+1=j的概率只與i有關(guān)，與n時(shí)刻之前如何取到i值是無(wú)關(guān)的，這是一馬氏鏈，且是齊次的,一步轉(zhuǎn)移概率矩陣為：,53,例6：某計(jì)算機(jī)機(jī)房的一臺(tái)計(jì)算機(jī)經(jīng)常出故障，研究者每隔15分鐘觀察一次計(jì)算機(jī)的運(yùn)行狀態(tài)，收集了24個(gè)小

10、時(shí)的數(shù)(共作97次觀察)，用1表示正常狀態(tài)，用0表示不正常狀態(tài)，所得的數(shù)據(jù)序列如下： 11100100111111100111101111110011111111100011 01101111011011010111101110111101111110011011 111100111 設(shè)Xn為第n(n=1,2,97)個(gè)時(shí)段的計(jì)算機(jī)狀態(tài)，可以認(rèn)為它是一個(gè)齊次馬氏鏈. 求(1)一步轉(zhuǎn)移概率矩陣; (2)已知計(jì)算機(jī)在某一時(shí)段(15分鐘)的狀態(tài)為0，問(wèn)在此條件下，從此時(shí)段起，該計(jì)算機(jī)能連續(xù)正常工作45分鐘(3個(gè)時(shí)段)的條件概率.,54,解: (1) 設(shè)Xn為第n(n=1,2,97)個(gè)時(shí)段的計(jì)算機(jī)狀態(tài)，

11、 可以認(rèn)為它是一個(gè)齊次馬氏鏈，狀態(tài)空間I=0,1， 96次狀態(tài)轉(zhuǎn)移情況是： 00：8次； 01：18次； 10：18次； 11：52次； 因此一步轉(zhuǎn)移概率可用頻率近似地表示為：,55,56,57,58,2 多步轉(zhuǎn)移概率的確定,59,證畢！,60,61,62,從0出發(fā)，經(jīng)4步 首次回到0狀態(tài),63,續(xù),64,65,3 遍歷性,66,67,68,齊次馬氏鏈在什么條件下才具有遍歷性？如何求出它的 極 限分布？ 有限鏈的遍歷性的充分條件：,69,70,例1：一質(zhì)點(diǎn)在1,2,3三個(gè)點(diǎn)上作隨機(jī)游動(dòng)，1和3是 兩個(gè)反射壁，當(dāng)質(zhì)點(diǎn)處于2時(shí)，下一時(shí)刻處于1,2,3 是等可能的。寫出一步轉(zhuǎn)移概率矩陣，判斷此鏈?zhǔn)?

12、否具有遍歷性，若有，求出極限分布。,71,例2：一質(zhì)點(diǎn)在1,2,3三個(gè)點(diǎn)上作隨機(jī)游動(dòng)，1和3是 兩個(gè)反射壁，當(dāng)質(zhì)點(diǎn)處于2時(shí)，下一時(shí)刻轉(zhuǎn)移到1和3 的概率各為。寫出一步轉(zhuǎn)移概率矩陣，判斷此鏈?zhǔn)?否具有遍歷性，若有，求出極限分布。,72,例3：一質(zhì)點(diǎn)在1,2,3三個(gè)點(diǎn)上作隨機(jī)游動(dòng)，1和3是兩個(gè) 吸收壁，當(dāng)質(zhì)點(diǎn)處于2時(shí)，下一時(shí)刻轉(zhuǎn)移到1和3的 概率各為。寫出一步轉(zhuǎn)移概率矩陣，判斷此鏈?zhǔn)?否具有遍歷性? 若有，求出極限分布。,73,例4：設(shè)有6個(gè)球(2個(gè)紅球,4個(gè)白球)隨機(jī)平分放入甲, 乙兩個(gè)盒中.今每次從兩盒中各任取一球并進(jìn)行交換. 表示開(kāi)始時(shí)甲盒中的紅球數(shù),Xn(n0)表示經(jīng)n次交換 后甲盒中的紅

13、球數(shù). (1)求此馬氏鏈的初始分布; (2)求一步轉(zhuǎn)移概率矩陣; (3)計(jì)算 ; (4)判斷此鏈?zhǔn)欠窬哂斜闅v性，若有，求出極限分布。,74,75,76,關(guān)鍵詞： (寬)平穩(wěn)過(guò)程 時(shí)間均值 時(shí)間相關(guān)函數(shù) 各態(tài)歷經(jīng)性 譜密度,第十二章 平穩(wěn)隨機(jī)過(guò)程,77,1 平穩(wěn)隨機(jī)過(guò)程的概念,78,79,80,81,82,83,84,85,續(xù),86,87,2 各態(tài)歷經(jīng)性,如何根據(jù)實(shí)驗(yàn)記錄確定平穩(wěn)過(guò)程的均值和自相關(guān)函數(shù)呢？ 按照數(shù)學(xué)期望和自相關(guān)函數(shù)的定義，需要時(shí)，一個(gè)平穩(wěn) 過(guò)程重復(fù)進(jìn)行大量觀察，獲得一族樣本函數(shù) 用統(tǒng)計(jì)實(shí)驗(yàn)方法，均值和自相關(guān)函數(shù)近似地為：,88,平穩(wěn)過(guò)程的統(tǒng)計(jì)特性不隨時(shí)間的推移而變化， 根據(jù)這一特點(diǎn)，能否通過(guò)在一個(gè)很長(zhǎng)時(shí)間內(nèi)觀察得到的 一個(gè)樣本曲線來(lái)估計(jì)平穩(wěn)過(guò)程的數(shù)字特征呢？ 本節(jié)給出的各態(tài)歷經(jīng)定理證實(shí)，只要滿足某些條件， 那么均值和自相關(guān)函數(shù)實(shí)際上可以用一個(gè)樣本函數(shù)在整個(gè) 時(shí)間軸上的平均值來(lái)代替。,89,90,91,92,93,94,95,96,97,98,99,續(xù),100,證畢！,101,102,見(jiàn)下頁(yè),103,104,各態(tài)歷經(jīng)定理的重要價(jià)值在于它從理論上給出了如下保證：一個(gè)平穩(wěn)過(guò)程X(t)，若0t+，只要它滿足各態(tài)歷經(jīng)性條件，便可以根據(jù)“以概率1成立”的含義，從一次試驗(yàn)所得到的樣本函數(shù)