隨機過程與數(shù)學(xué)建模

隨機過程與數(shù)學(xué)建模第一頁，共三十一頁，編輯于2023年，星期四隨機過程與數(shù)學(xué)建模吉林大學(xué)方沛辰第二頁，共三十一頁，編輯于2023年，星期四隨機性和確定性是一對矛盾，它們既對立又統(tǒng)一。一般的問題不是能明確劃分的，常常兩種性質(zhì)都有，用不同的假設(shè)來處理。1.隨機型問題隨機型問題的最優(yōu)化常常是對目標(biāo)函數(shù)的數(shù)學(xué)期望求最優(yōu)。因此首先需要知道概率分布，再寫出目標(biāo)函數(shù)的數(shù)學(xué)期望的表達(dá)式進而解決問題。這里很可能用到求函數(shù)的期望。例題：一個私人牙科診所很受歡迎，病人絡(luò)繹不絕。來的有病名概率治療時間平均

A

1/2

20分鐘

10

B

1/3

30分鐘

10

C

1/6

90分鐘

15三種病，一名醫(yī)生每天上午和下午分別工作3.5小時，都是早8點掛的號，上午和下午分別掛多少號最適合？第三頁，共三十一頁，編輯于2023年，星期四平均看一個病人的時間顯然是35分鐘，3.5小時應(yīng)該看6人。大家想過沒有，這樣將會有一半的時間不能正常吃午飯！如果6個人都是C病，全看完要9個小時！那我們應(yīng)該有什么樣的結(jié)論呢？好像沒什么好做的。真正要解決這個問題就要用到隨機過程的理論和方法。再舉一例：豹在逐漸靠近羊的時候是匍匐前進，一旦羊發(fā)現(xiàn)了豹開始逃走時豹就起身追趕。假設(shè)羊不能發(fā)現(xiàn)50米之外的豹，到了15米羊就必然發(fā)現(xiàn)豹，怎樣描述羊和豹在相距x米時的發(fā)現(xiàn)概率。這是一個很讓人深思的問題。從視覺角度看發(fā)現(xiàn)一個物體應(yīng)該和物體的像的面積成正比，這樣概率可看作是x的函數(shù)p(x)，并且是在15處取1，50處取0,中間是遞減的，進而是x的二次函數(shù)。但是注意p(x)不是密度函數(shù)，那它是什么呢？第四頁，共三十一頁，編輯于2023年，星期四2.隨機過程初步知識在概率論中學(xué)過隨機向量(x1,x2,…,xn)，相關(guān)學(xué)過聯(lián)合分布、邊緣分布、條件分布等概念，一起研究許多個比單個研究方便。把隨機向量的概念推廣，一起研究無窮多個隨機變量，就是隨機過程。注意無窮多有兩種：可列多和連續(xù)多，對應(yīng)就有隨機序列和隨機過程兩個概念。有限多和無限多有本質(zhì)區(qū)別。例1用x(t,ω)記（0，t)中電話接到的呼叫數(shù)。不同的t是不同隨機變量,不同的ω是不同的樣本曲線。例2用x(t,ω)記微粒在水面布朗運動漂浮時橫坐標(biāo)。例3用x(n,ω),n=1,2,…記相互獨立同分布的伯努利隨機變量序列，取值0和1，相應(yīng)概率q和p，稱為伯努利過程。取值為0,1,2,…,稱為二項計數(shù)過程，或隨機游動。例4用x(n,ω)記第n代生物群體的數(shù)量。第五頁，共三十一頁，編輯于2023年，星期四定義設(shè){X(t),t>0}是一個隨機過程，取定t,X(t)是一個隨機變量，它的分布函數(shù)稱為X(t)的一維分布函數(shù)，相應(yīng)也有一維概率密度等概念。定義設(shè){X(t),t>0}是一個隨機過程，取定s,t,X(s),X(t)是一個二維隨機變量，它的分布函數(shù)稱為(X(s),X(t))的二維分布函數(shù)。定義設(shè){X(t),t>0}是一個隨機過程，取定t1,t2,…,tn，

X(t1),X(t2),…,X(tn)是一個n維隨機變量，它的分布函數(shù)第六頁，共三十一頁，編輯于2023年，星期四隨機過程的數(shù)字特征，對于稱為均值函數(shù)；定義：稱為方差函數(shù)；稱為協(xié)方差函數(shù)；稱為相關(guān)函數(shù)；介紹一本教材：研究生教學(xué)用書“隨機過程及應(yīng)用”電子科技大學(xué)應(yīng)用數(shù)學(xué)學(xué)院陳良均朱慶棠高教出版社第七頁，共三十一頁，編輯于2023年，星期四定義：如果對任意的正整數(shù)n及任意的t1,t2,…,tn∈T,隨機變量X(t1),X(t2),…X(tn)相互獨立，稱過程是獨立過程。3.幾種重要的隨機過程例伯努利過程是獨立過程。定義：如果對任意的正整數(shù)n及任意的t1<t2<…<tn,隨機過程的增量X(t2)-X(t1),X(t3)-X(t2),…,X(tn)-X(tn-1)相互獨立，稱過程是獨立增量過程。定義：如果獨立增量過程對任意的s,t∈T及任意的h>0,隨機變量X(t+h)-X(s+h)與X(t)-X(s)有相同的概率分布，稱過程是平穩(wěn)的獨立增量過程。例二項計數(shù)過程是平穩(wěn)的獨立增量過程性質(zhì)1如果{X(t),t≥0}是平穩(wěn)獨立增量過程，X(0)=0，則(1)均值函數(shù)m(t)=mt,m為常數(shù)；(2)方差函數(shù)D(t)=σ2t,σ為常數(shù)；

(3)協(xié)方差函數(shù)C(s,t)=σ2min{s,t}。第八頁，共三十一頁，編輯于2023年，星期四性質(zhì)2獨立增量過程的有限維分布由一維分布和增量分布確定。定義：給定隨機過程{X(t),t∈T}如果對任意的正整數(shù)n及任意的t1,t2,…,tn∈T,隨機變量X(t1),X(t2),…X(tn)的聯(lián)合概率分布為n維正態(tài)分布，稱過程{X(t),t∈T}是正態(tài)過程（高斯過程）。定義：如果隨機過程{W(t),t∈T}滿足下列條件：(1)W(0)=0;(2)E[W(t)]=0;(3)具有獨立增量；(4)t>0,W(t)～N(0,σ2t),(σ>0)

稱{W(t),t∈T}是參數(shù)為σ2的維納過程。性質(zhì)1維納過程是平穩(wěn)獨立增量過程。性質(zhì)2維納過程是正態(tài)過程。性質(zhì)3維納過程是馬爾可夫過程。性質(zhì)4維納過程是均方連續(xù)、均方不可導(dǎo)、均方可積二階矩過程。性質(zhì)5維納過程是非平穩(wěn)過程，但為平穩(wěn)獨立增量過程。第九頁，共三十一頁，編輯于2023年，星期四4.泊松過程定義1：如果取非負(fù)整數(shù)值的計數(shù)過程{N(t),t≥0}滿足：(1)N(0)=0;(2)具有獨立增量;(3)對任意的0≤s<t,N(t)-N(s)服從參數(shù)為λ(t-s)的泊松分布,稱{N(t),t≥0}是參數(shù)為λ的(齊次)泊松過程。定義2：如果取非負(fù)整數(shù)值的計數(shù)過程{N(t),t≥0}滿足：(1)N(0)=0;(2)具有平穩(wěn)獨立增量;(3)P{N(h)=1}=λh+o(h);(4)P{N(h)≥2}=o(h).稱{N(t),t≥0}是參數(shù)為λ的(齊次)泊松過程?？勺C，定義1與定義2等價。所以復(fù)旦數(shù)學(xué)系的概率書上的結(jié)論是：滿足：平穩(wěn)性、普通性和馬爾可夫性三性質(zhì)的就是泊松過程。第十頁，共三十一頁，編輯于2023年，星期四泊松過程是非常重要的一種隨機過程，應(yīng)用很廣。下面我們仔細(xì)學(xué)習(xí)這個過程。考慮在[0,t)內(nèi)：(1)到達(dá)某超級市場的顧客數(shù)N(t)；(2)某電話交換臺的呼喚數(shù)N(t)；(3)某車間發(fā)生故障的機器數(shù)N(t)；(4)某計數(shù)器收到的粒子數(shù)N(t)；(5)某通訊系統(tǒng)出現(xiàn)的誤碼數(shù)N(t)等都是典型實例。一維分布對任意的t>0,N(t)～P(λt)，即二維分布對任意的t>s>0

第十一頁，共三十一頁，編輯于2023年，星期四協(xié)方差函數(shù)C(s,t)=λmin(s,t)相關(guān)函數(shù)R(s,t)=λmin(s,t)+λ2st泊松過程的性質(zhì)性質(zhì)1

泊松過程是平穩(wěn)獨立增量過程；性質(zhì)2

泊松過程是馬爾可夫過程；性質(zhì)3

泊松過程是生滅過程；性質(zhì)4

泊松過程是均方連續(xù)、均方不可導(dǎo)、均方可積的二階矩過程；性質(zhì)5

泊松過程是非平穩(wěn)過程，但為平穩(wěn)增量過程；N(t)表示[0,t)內(nèi)出現(xiàn)的事件次數(shù)，用τ1,τ2,…,τn分別表示第一、二、…、n次事件發(fā)生的時間，稱τk為事件第k次出現(xiàn)的時間，又叫事件點；Tk表示從第k-1次事件發(fā)生到第k次事件的等待時間，又稱為點間間距。Tk=τk-τk-1,k=1,2,…n,τ0=0τk=T1+T2+…+Tk,k=1,2,…,n第十二頁，共三十一頁，編輯于2023年，星期四證：{T1>t}表示第一次事件在t之后出現(xiàn)，于是{N(t)=0}，反之也是，那么{T1>t}={N(t)=0}，進而P{T1>t}=P{N(t)=0}。性質(zhì)6設(shè){N(t),t≧0}為參數(shù)為λ的泊松過程，{Tn,n=1,2,…}為點間間距序列，則Tn,n=1,2,...是相互獨立的隨機變量，且都服從參數(shù)為λ的指數(shù)分布。所以FT1(t)=1-P{N(t)=0}=1-e-λt,t>0,又顯然有FT1(t)=0,t≦0,于是T1服從參數(shù)為λ的指數(shù)分布。P{T2>t∣T1=s1}=P{在(s1,s1+t)內(nèi)沒有事件出現(xiàn)∣T1=s1}=P{N(s1+t)-N(s1)=0}=P{N(t)=0}=e-λt同樣得到T2服從指數(shù)分布，由增量的獨立性知T1與T2獨立。再從數(shù)學(xué)歸納法得證。λ的含義是強度，比如單位時間里進入超市的平均人數(shù)，從而1/λ的含義應(yīng)該是單位人數(shù)的時間，即每人的平均間隔時間。第十三頁，共三十一頁，編輯于2023年，星期四幾何分布是離散型的無記憶型分布。伯努利實驗場合首次成功出現(xiàn)所在的次數(shù)服從幾何分布。P{η=k}=qk-1p,k=1,2,…無記憶性就是需證:P{η=m+k∣η>m}=P{η=k}.證：指數(shù)分布是連續(xù)型的無記憶型分布無記憶性就是需證:P{ξ>s+t∣ξ>s}=P{ξ>t}.證：兩種無記憶分布常被用來描述無磨損性的壽命。比如酒店使用的玻璃杯，用次數(shù)記錄的壽命。比如窗戶上面安裝的玻璃，用時間長度記錄的壽命。第十四頁，共三十一頁，編輯于2023年，星期四性質(zhì)7設(shè){N(t),t≧0}為參數(shù)為λ的泊松過程，{τn,n=1,2,…}為事件點序列，則τn～Г(n,λ),即概率密度為證:從{τn≦t}={N(t)≧n}知，τn的分布函數(shù)此性質(zhì)也可用隨機變量的再生性來證明：Tn,n=1,2,...是相互獨立且都服從參數(shù)為λ的同指數(shù)分布的隨機變量，指數(shù)分布即是Г(1,λ),而Г分布在λ相同的情況下具有再生性，所以τn=T1+T2+…+Tn～Г(n,λ)。第十五頁，共三十一頁，編輯于2023年，星期四更新計數(shù)過程：設(shè){N(t),t≧0}是一個計數(shù)過程，如果它的點間間距Tn,n=1,2,…相互獨立同分布，稱為更新計數(shù)過程。這是泊松過程的一個推廣。{N(t),t≧0}是泊松過程的充分必要條件是它的點間間距Tn,n=1,2,…相互獨立同指數(shù)分布。定義：如果取非負(fù)整數(shù)值的計數(shù)過程{N(t),t≥0}滿足：(1)N(0)=0;(2)具有獨立增量;(3)P{N(t+⊿t)-N(t)=1}=λ(t)⊿t+o(⊿t);(4)P{N(h)≥2}=o(⊿t).稱{N(t),t≥0}是參數(shù)為λ(t)的非齊次泊松過程。復(fù)合泊松過程：設(shè){N(t),t≧0}是平均率為λ的齊次泊松過程，{Yn,n=1,2,…}是相互獨立同分布的隨機變量序列，且二者獨立，稱為復(fù)合泊松過程。第十六頁，共三十一頁，編輯于2023年，星期四性質(zhì)：E[X(t)]=λtE(Y)=E[N(t)]·E(Y),這是非常直觀的式子；D[X(t)]=λtE(Y2)=E[N(t)]·E(Y2)。5.馬爾可夫過程定義對{X(t),t∈T},如果對于任意n個時刻ti>0,i=1,2,…,nT1<t2<…<tn有則稱{X(t),t∈T}為馬爾可夫過程，簡稱馬氏過程，定義中的性質(zhì)稱為馬爾可夫性，也是一種無記憶性，稱無后效性。定義對馬爾可夫過程{X(t),t∈T},條件概率

p(s,t;x,y)=P{X(t)<y|X(s)=x}稱為馬氏過程的轉(zhuǎn)移概率函數(shù)。X(t)取值的全體稱為狀態(tài)空間，T稱為參數(shù)集。根據(jù)狀態(tài)空間和參數(shù)集的無窮多性質(zhì)可以分類。第十七頁，共三十一頁，編輯于2023年，星期四離散參數(shù)馬氏鏈?zhǔn)且粋€重要的基礎(chǔ)理論部分，有很多結(jié)果。對連續(xù)參數(shù)馬氏鏈我們比較細(xì)致地學(xué)習(xí)。定義1{X(t),t≧0},狀態(tài)空間為E={0,1,2,…}，如果對于任意n個時刻0<T1<t2<…<tn<tn+1及非負(fù)整數(shù)i1,i2,…,in,in+1有則稱{X(t),t≧0}為連續(xù)參數(shù)馬氏鏈。定義2連續(xù)參數(shù)馬氏鏈{X(t),t≧0}對任意的i,j∈E,任意的非負(fù)實數(shù)s,t,條件概率pij(s,t)=P{X(t+s)=j|X(s)=i}稱為此馬氏鏈的轉(zhuǎn)移概率函數(shù)。顯然0≦pij(s,t)≦1,稱P(s,t)=(pij(s,t))i,j∈E為馬氏鏈的轉(zhuǎn)移矩陣。上式的和為1就是矩陣中的每行和為1.第十八頁，共三十一頁，編輯于2023年，星期四定義3如果連續(xù)參數(shù)馬氏鏈{X(t),t≧0}的轉(zhuǎn)移概率pij(s,t)與時間起點s無關(guān)，即

pij(s,t)=P{X(t+s)=j∣X(s)=i}=pij(t)則稱{X(t),t≧0}為連續(xù)參數(shù)齊次馬氏鏈。類似地P(t)=(pij(t))i,j∈E稱為齊次馬氏鏈的轉(zhuǎn)移矩陣。一般地，要求齊次馬氏鏈的轉(zhuǎn)移概率函數(shù)滿足如下連續(xù)性條件定義4連續(xù)參數(shù)齊次馬氏鏈{X(t),t≧0}(1)pj=P{X(0)=j},j∈E稱{pj,j∈E}為該馬氏鏈的初始分布。(2)pj(t)=P{X(t)=j},j∈E稱{pj(t),j∈E}為該馬氏鏈的絕對分布。引入兩個行向量：就是前面的普通性則寫成矩陣形式就是第十九頁，共三十一頁，編輯于2023年，星期四定義5齊次馬氏鏈{X(t),t≧0}，如果轉(zhuǎn)移概率極限存在，與i無關(guān),則稱此鏈為遍歷的馬氏鏈。此鏈具有遍歷性。若則稱{πj,j∈E}是齊次馬氏鏈{X(t),t≧0}的極限分布。定義6

如果{vj,j∈E}滿足則稱{vj,j∈E}為連續(xù)參數(shù)齊次馬氏鏈{X(t),t≧0}的平穩(wěn)分布.引入兩個行向量：則定義6的等價描述是概率分布，且滿足那么是平穩(wěn)分布。第二十頁，共三十一頁，編輯于2023年，星期四連續(xù)參數(shù)齊次馬氏鏈{X(t),t