概率論與數(shù)理統(tǒng)計：第十章隨機過程及其統(tǒng)計描述

1、2關(guān)鍵詞： 隨機過程 狀態(tài)和狀態(tài)空間 樣本函數(shù) 有限維分布函數(shù) 均值函數(shù) 方差函數(shù) 自相關(guān)函數(shù) 自協(xié)方差函數(shù) 互相關(guān)函數(shù) 互協(xié)方差函數(shù) 正態(tài)過程 獨立增量過程 泊松過程 維納過程第十章 隨機過程及其統(tǒng)計描述31 隨機過程的概念 隨機過程隨機過程被認為是概率論的“動力學”部分，即它的研究對象是隨時間演變的隨機現(xiàn)象，它是從多維隨機變量向一族(無限多個)隨機變量的推廣。 給定一隨機試驗E，其樣本空間S=e，將樣本空間中的每一元作如下對應(yīng)，便得到一系列結(jié)果：( ), ( ),eX e Y e12( ),( ),( ),neX e XeXe12( ),( ),),eX e Xe( ),eX e( , )

2、 (,),eX e tt X一維即隨機變量(, )X Y即二維隨機變量12(,)XX 即隨機序列12(,)nXXXn維即隨機變量( ),(,)X t t 即隨機過程4 一維、二維或一般的多維隨機變量的研究是概率論的研究內(nèi)容，而隨機序列、隨機過程則是隨機過程學科的研究內(nèi)容。從前面的描述中看到，它的每一樣本點所對應(yīng)的，是一個數(shù)列或是一個關(guān)于t的函數(shù)。 ( , ),( , ),TX e t eS tTetSTtT X e tX e t eS tT設(shè) 是一無限實數(shù)集，是對應(yīng)于 和 的實數(shù)， 即為定義在 和 上的二元函數(shù)。 若此函數(shù)對任意固定的是一個隨機變量， 定義： 則稱是隨機過程；,( , )Tet

3、 X e t為參數(shù)集，對固過程定的 和稱為的狀態(tài)；( , )X e t 所有可能的值狀的全體稱為態(tài)空間；( , )( )X e tX t今后將簡記為( , ),tX e t eS tTe對于隨機過程進行一次試驗，即 給定，它是 的函數(shù)，稱為隨機過程的樣本函數(shù)。5 例1：拋擲一枚硬幣的試驗，樣本空間是S=H,T，現(xiàn)定義： 1( ) ,()( )2 ( ),cos tHX ttP HP TtTX t t 當出現(xiàn)，其中當出現(xiàn)則是一隨機過程。,( )t X tcos tt解：對任意固定的是隨機變量，取值為和1234( )X t1( )X t2( )Xtt1( )( )2P X tcos tP X tt

4、12( ),( )X tcos t Xtt此隨機過程的樣本函數(shù)只有兩個，即62 ( )(),(0,2 ),( )(),(0,2 ),( )(), X tcosttt X tcostx tcost 例 ：考慮式中 和 是 正常數(shù), 是在上服從均勻分布的隨機變量, 這是一個隨機過程。 對每一固定的時刻是隨機變量 的函數(shù),從而也是隨機變量。它的狀態(tài)空間是-. 在內(nèi)隨機取一數(shù)相應(yīng)的就得到一個樣本函數(shù)這族樣本函數(shù)的差異在于它們相位 的不同, 故這一過程稱為隨機相位正弦波。 73( ) , 0,1( ) ( ) 0,1( ).X tVcos ttVX ttX tVcos tVcos tvx tvcos t

5、 例 ：設(shè)其中 是常數(shù)；在上服從均勻分布,則是一個隨機過程。對每一固定的 ，是隨機變量 乘以常數(shù)，故也是隨機變量,對上隨機變量取一 值, 就得到相應(yīng)的一個樣本函數(shù) 84120( )0,0( )( ),00,1,2,.X tttX tX t t例 ：設(shè)某城市的急救中心電話臺遲早會接到用戶的呼叫。 以表示時間間隔內(nèi)接到的呼叫次數(shù)， 它是一個隨機變量，且對于不同的，是不同 的隨機變量，于是是一隨機過程，且它的 狀態(tài)空間是1t2t3t4t1t2t4t3t14231( )x t2( )x t( )x tt 例5：考慮拋擲一顆骰子的試驗：16(1)(1)1,2, (),1,2,3,4,5,6,1nnnnX

6、nnnXP XiiXn 設(shè)是第 次拋擲的點數(shù)，對于的不同值，是隨機變量，服從相同的分布， 因而構(gòu)成一隨機過程，稱為伯努利過程或伯努利隨機序列, 它的狀態(tài)空間為 1,2,3,4,5,6 。(2) ,11,2,3,4,5,6nnYnY n設(shè) 是前 次拋擲中出現(xiàn)的最大點數(shù),也是 一隨機過程，它的狀態(tài)空間仍是。 下面分別給出它們的一條樣本函數(shù)：n87654321nx321654nx(1)(2)n87654321ny321654ny10隨機過程的分類：隨機過程的分類： 隨機過程可根據(jù)參數(shù)集T和任一時刻的狀態(tài)分為四類，參數(shù)集T可分為離散集和連續(xù)集兩種情況，任一時刻的狀態(tài)分別為離散型隨機變量和連續(xù)型隨機變量

7、兩種：1. 連續(xù)參數(shù)連續(xù)型的隨機過程，如例2，例32. 連續(xù)參數(shù)離散型的隨機過程，如例1，例43. 離散參數(shù)離散型的隨機過程，如例54. 離散參數(shù)連續(xù)型的隨機過程，12,2,( ),()nnTttn tX tXXXXX n t 對于隨機相位正弦波， 若只在時間集上觀察，就得到 例子 隨機序列是連續(xù)型隨如下：機變量。112 隨機過程的統(tǒng)計描述分布函數(shù)兩種描述特征數(shù)() 一隨機過程的分布函數(shù)族1212121111222221( , ,)( ),( )(2,3,), ,( ),( ),( ),1,2,( ),( ,; , ,) ( ),( )XnnnniXnnnniFx xxt ttP X tx X

8、 txX tn nt ttTnX tX tX txR inX t tTFx xx t tttTX t tnxnT一般地，對任意個不同的時刻，維隨機變量的分布函數(shù)：稱為隨機變；，量的稱為的維分布函數(shù)維分布函數(shù)族1212( ,; , ,),1,2, ( ),XnniFx xx t ttntTX t tT有限維分布一般地，稱為隨機過程的它完全確定了隨機過程函數(shù)族的統(tǒng)計特性( ),( ),( , ),( , )(XXFx tP X txxRX t tTtTX t tTFx t tT 設(shè)隨機，過程對每一固定的稱為隨機一過程的稱維分布函數(shù)一為，維分布函數(shù)族12 例1：拋擲一枚硬幣的試驗，定義一隨機過程：1

9、2cos 1( ) ,()( ),2 ( )(1)( ;0)( ;1); (2) ( ,;0,1);tHX ttP HP TtTX tF xF xF x x 出現(xiàn)，設(shè)出現(xiàn)試確定的： 一維分布函數(shù) ，二維分布函數(shù) 1 (0)0 HXT出現(xiàn)解：出現(xiàn) 0 01( ;0) 012 1 1xF xxx故1 (1)1 HXT出現(xiàn)出現(xiàn) 0 11( ;1) 112 1 1xF xxx 故13 例1：拋擲一枚硬幣的試驗，定義一隨機過程：12cos 1( ) ,()( ),2 ( )(1)( ;0)( ;1); (2) ( ,;0,1);tHX ttP HP TtTX tF xF xF x x 出現(xiàn)，設(shè)出現(xiàn)試確定

10、的： 一維分布函數(shù) ，二維分布函數(shù) 1, 1 (0),(1)0, 1 HXXT出現(xiàn)出現(xiàn)12121212120 11 10( ,;0,1)1 11xxxxF x xxx 且或故且 其他1234( )X t1( )X t2( )Xtt1x2x142( ),0,130,( )442X tVcos t tVtX t 例 ：設(shè)隨機過程， 在上均勻分布 求在時的密度函數(shù)。 ,0,tcos tacos t解：對給定的 若記，( )X taV則的密度函數(shù)為： 1 011 ;0 XVxxaafx tfaa其他01acos1 01;00 Xxfx于是 其他2,42acos22 0;240 Xxfx其他23,42a

11、cos 22 03;240 Xxfx其他1,acos 1 10;0 Xxfx 其他0,2acos012P X1522222( ),( )( )( )( )( )( )( )( )( )( ) XXXXXXXX t tTtE X ttE XttDtEX tttt均值函數(shù)均方值函給定隨機過程-數(shù)方差函數(shù)標準差函數(shù)-各數(shù)字特征之間的關(guān)系如下：(二二) 隨機過程的數(shù)字特征隨機過程的數(shù)字特征12121212121122,( , )( )( )( , )( ),( ) ( )( )( )( )( )( )XXXXXXt tTRt tE X t X tCt tCov X tX tEX ttX tt又設(shè)任自相

12、關(guān)函數(shù)自協(xié)意方差函數(shù) 2,XXtRt t 121212,XXXXCt tRt ttt 22,XXXXtCt tRt tt162( ), ( )( )X t tTtT E XtX t隨機過程，如果對每一都存在， 則稱是， 二階矩過程的均值函數(shù)和相關(guān)二階函數(shù)定總義：是程 矩過存在的。1212( ),1, , ( ),( ),( )( ),nnX t tTnt ttTX tX tX tnX t tT 是一隨機過程，若它的每一個有限維分布 都是正態(tài)分布，即對任意整數(shù)及任意服從 維正態(tài)分布， 則稱是正態(tài)過程的全部統(tǒng)計特性完全由它的均值函數(shù)和自協(xié)方差正函定義：態(tài)過程數(shù)所確定。173, ( )3 , ,1,

13、4 ,0,2 ,( )A BX tAtB tTA BANBUX t 例 ：設(shè)是兩個隨機變量，試求隨機過程:的均值函數(shù)和自相關(guān)函數(shù)。如果相互獨立，且問的均值函數(shù)和自相關(guān)函數(shù)又是怎樣的？ ( )( )XtE X t解： ( )3 ( )tE AE B1212( , )( )( )XRt tE X t X t221 21212()3() ()9 () ,t t E AttE ABE Bt tT1,4 ,0,2ANBU當時，224( )1,()5,( )1,()3E AE AE BE B,A B又因為獨立，()( ) ( )1E ABE A E B故121 21212( )3,( , )53() 12

14、 ,XXttRt tt tttt tT 18( )() , (0,2 )X tacostt 例4：求隨機相位正弦波在上均勻分布 的均值函數(shù)、方差函數(shù)和自相關(guān)函數(shù)。 解：由假設(shè) 的概率密度為：1212( , )( )( )XRt tE X t X t 1 022 0 f 其他( )( )XtE X t于是E acost20102acostd212()()E a costcost221()2acostt221201()()2acostcostd2122ttacos22( )( , )( )XXXtRt tt2( , )2XaRt t19225( ), ,(0,)( )X tABtCttA B CN

15、X t 例 ：設(shè)其中是相互獨立,且都服從正態(tài)分布的隨機變量， 試證明是正態(tài)過程,并求它的均值函數(shù)和自相關(guān)函數(shù)。 ( )X t解：是正態(tài)過程121122,( )( )( )nnnu uu u X tu X tu X t對任意一組數(shù) 服從一維正態(tài)分布21122111( )( )( )nnnnnii ii iiiiu X tu X tu X tAuButCut而, ,( , ,)A B CA B C因為是相互獨立的正態(tài)變量，故是三維正態(tài)變量，( )X t所以是正態(tài)過程1212, ,( ),( ),( )nnt ttTX tX tX tn對任意一組實數(shù)服從 維正態(tài)分布2111, ,nnnii ii i

16、iiiAuBututA B CC是的線性組合，因此它服從一維正態(tài)分布，續(xù)續(xù)20下面計算均值函數(shù)和自相關(guān)函數(shù):( )( )( )()()()0,E AE BE CE ABE ACE BC因為2222()()()E AE BE C2( )XtE ABtCt故2( )( )( )0E AE B tE C t1212( , )( , )XXCt tRt t221122()()E ABtCtABtCt2221 212(1)t tt t21( ), ( ),( ), ( )( ), ( ) X t Y ttTtT X t Y tX t Y ttT 設(shè)是依賴于同一參數(shù)的隨機過程，對于不同的()是不同的二維隨

17、二機變量，稱為維隨機過程(三三) 二維隨機過程的分布函數(shù)和數(shù)字特征二維隨機過程的分布函數(shù)和數(shù)字特征1211121212121212( ), ( ) , ,; , ,( ),( ),( ); ( ), ( ),()( ,; , ,;,; , ,)nmnmnnmmX t Y ttTt tt t ttTnmX tX tX tY tY tY tF x xx t tty yytmtnt 給定二維隨機過程，是 中任意兩組實數(shù)，則維隨機變量的分布函數(shù)：稱為二維隨機過程的維分布函數(shù)12111212( ), ( ) , ,; , ,( ),( ),( )( ), ( ),()( )( )nmnmX t Y tt

18、Tn mt ttT t ttTnX tX tX tmY tY tY tX tY t 給定二維隨機過程對任意的正整數(shù)，任意的數(shù)組維隨機變量與 維隨機變量相互獨立，稱隨機變量和是相互獨立的22( ), ( )X t Y t關(guān)于數(shù)字特征，除了各自的均值函數(shù)和自相關(guān)函數(shù)，還有如下兩個數(shù)字特征:1212( ), ( ),( , )0,( )( )XYX t Y tt tTCt tX tY t如果二維隨機過程對任意的恒有稱和是不相關(guān)的。121212121212( , )( ) ( ) ,( , ) ( )( ) ,XYYXRt tE X t Y tt tTRt tE Y t X tt tT互相關(guān)函數(shù)121

19、12212121212121212( , )( )( ) ( )( ) ( , )( )( ) ,( , )( , )( )( ) ,XYXYXYXYYXYXYXCt tEX ttY ttRt tttt tTCt tRt tttt tT互協(xié)方差函數(shù)2312121212121212( )( ), ( ),( )( ),( ),( ),( , ),( , ),( , ), ( , ),( , ),( , )( ),( , ).XYZXYZXYYZZXWWW tX t Y t Z ttttRt tR t tRt tRt tRt tRt ttRt t例6：隨機過程是三個隨機過程之和， 已知，求 ( )

20、( )( )( )W tX tY tZ t解：( )( )( )( )WXYZtttt12121212( , )( , )( , )( , )WXYZRt tRt tR t tRt t121212( , )( , )( , )XYYXXZRt tRt tRt t121212( , )( , )( , )ZXYZZYRt tRt tRt t12121212( , )( , )( , )( , )WXYZRt tRt tR t tRt t則( )( )( )0XYZttt若特，別的， ( ), ( ),( )X t Y t Z t 兩兩不相關(guān)1212( , )( )( )0,XYXYRt ttt即

21、1212( , )0,( , )0XZYZRt tRt t243 泊松過程及維納過程0110211( ),0,0( )( )0,( )( ),( )( ),( )(),( ),0nnnX t ts tstX tX sntttnX tX tX tX tX tX tX ts tt給定二階矩過程，對，上的增量；獨立的增量過若稱隨機變量為隨機過程在區(qū)間對任意選定的正整數(shù) 和任意選定的個增量相互獨立，稱為；它具有“在互不重疊的區(qū)間上，狀態(tài)的增量是相互獨立”的程這直觀地說，一特征；0,()()( )( )( )()(0)0,(X tXhsX tsXshthX thX shX tX stsstts 若對任意

22、的實數(shù)和與具有相同的分布，稱；這時，增量的分布函數(shù)與的分布函數(shù)相同，即只依賴于時間差而不依賴于 和 本身，當增量具有平穩(wěn)性時，稱相應(yīng)的獨立增量過增量程是具有平穩(wěn)性齊次的；25 獨立增量過程的性質(zhì)：( ),0(0)0,X t tX若是獨立增量過程，且則：( )( )( ) (0)1. X tX tX sst的有限維分布函數(shù)族可以由增量的 分布所確定；121212121111121211, , ( ),( ),( )( )(0),( )( )( )(0),.,( )()( ),( ),( )( )(0),( )( ),( )() nnnniiinnnnt tttttX tX tX tX tXX t

23、X tX tXX tX tX tX tX tX tXX tX tX tX t事實上，對任意的 及任意的，不妨設(shè),則：即的分布函數(shù)可由：的分布函數(shù)確定26( )( , )( ,2.) XXXDtCs tDmin s t設(shè)已知，則( )( )( )( )XY tX ttX t證明：記，則當具有獨立增量性時，(0)0, ( )0,( )( )YXYE Y tD tDt且( )Y t 也具有獨立增量性，2 ( )(0) ( )( ) ( )(0)E Y sYY tY sY sY,( , ) ( ) ( )XstCs tE Y s Y t設(shè)則 2 ( )(0) ( )( )( )E Y sYY tY s

24、E Ys 2( )(0)( )( )( )( )XE Y sYE Y tY sE YsDs,( , )( )XXtsCs tDt同理當時 可證得27(一) 泊松分布( ) 00,( ),0N tttN t t以表示在時間間隔內(nèi)出現(xiàn)得質(zhì)點數(shù)，是一狀態(tài)取非負整數(shù)、時間連續(xù)的隨機過程，稱為計數(shù)過程。000000( , )( )( ) 0,( , )( , ) 0,1,2kN t tN tN tttt tP t tP N t tkk記它表示時間間隔內(nèi)出現(xiàn)的質(zhì)點數(shù)，其概率記為：5t4t3t2t1t( )N t等間隔的不等間隔的28( )N t計數(shù)過程滿足如下條強度為定義的泊件：，稱作松過程。1. 在不相

25、重疊的區(qū)間上的增量具有獨立性12. ,( ,)( ,)1() ,( )t P t ttP N t tttotN t 對于充分小的其中常數(shù)稱為常數(shù)的強度22 3. ( ,),()jjjtP t ttP N t ttjot對于充分小的，4. (0)0N290000,0P t ttP N t tt證明：0()00000( )()( , ), 0,1,2,!,()kt tkN ttteP t tP N t tkkkN t ttt 若是強度為 的泊松過程，則：即000,P t t P t tt條件100,0P N t tN t tt000000,P t ttP t tP t ttot 即00,0,0P

26、N t tN t tt2 300,1P t ttot 條件 ，0000,dP t tP t tdt 00000( , )0( , )1,N t tP t t由即為初始條件0()000( , ) t tP t tett解得：0tt 等式兩邊除以，令，得：續(xù)續(xù)30證畢證畢0( , ) 1kP t tk 再來計算00( ,),kkP t ttPN t tN t ttk00,kjP N t ttj P N t tkj00010( ,)( , ),kkkkP t ttP t tP t tPt ttot 000()0002,3, ,(), , 0,1,2!kt tkkt tkttP t tP N t tk

27、ettkk如此重復(fù)，即逐次令就可求得：在內(nèi)出現(xiàn) 個質(zhì)點的概率為：0011002,kkkjkjjP t tt P t tP t tt Pt tP t tt Pt t0101,kktotP t ttotPt tot 0tt 兩邊除以，令，得：00100, kkkdP t tP t tPt tttdt 00,01kP t tk初始條件，010001, t tkP t tttett令即可解得31000( , )N t ttttt ，增量的概率分布是參數(shù)為 ()的泊松分布由，且只與時間差有關(guān)，所以強度為 的泊松過程是一齊次的獨立此可見增量過程。000( ),0 2. 0,( )( ) 3. (0)0(

28、),0N t tttN tN tttNN t t 若計數(shù)過程滿足下列三個條件：1. 它是泊松過程也可用另一形式定義獨立增量過程對任意的增量則稱是強度為 的：一泊松過程32強度為 的泊松過程的數(shù)字特征： 0001. ,E N t tE N tN ttt 00002. ,000 ,NND N t tD N tN ttttNtE N tt DtD N tt 特別地，由假設(shè)，可得：3. , ,0NNCs tDmin s tmin s ts t 24. , ,0NNNNRs tCs tstmin s tsts t33( ),0(5)4;(5)4,(7.5)6,(12)9;(12)9(5)4;(4)(5)

29、,(5),(5),(12).N t tP NP NNNP NNE ND NCov NN例7：設(shè)服從強度為 的泊松過程，求(1) (2) (3) 45(1) P54(5 )4!Ne解： (4) EN(5)=5 ,55 ,(5),(12)55 .D NCov NND N 4522.534.5(2) P54,(7.5)6,(12)9P54,(7.5)(5)2,(12)(7.5)3(5 )4!(2.5 )2!(4.5 )3!NNNNNNNNeee57(3) (12)9(5)4(12)(5)5(5)4(12)(5)5(7 )5!P NNP NNNP NNe(5)4(12)9P NN問題：求49 4495

30、51.1212C 答案：34 N t設(shè)是強度為 的泊松過程 1 ,nnnWWnWft是第 個質(zhì)點出現(xiàn)的等待時間，下面給出的概率密度 0,nnWnWFtP WtP N tnnttn 的分布函數(shù) 即第 個質(zhì)點出現(xiàn)的時間內(nèi)至少 個質(zhì)點出現(xiàn) 0!0 0nktWk nk ntP N tketFtkt于是 111 0! 1 !0 0nnnnk kkkWtttk nk nWWdFttktteeetdtkkftnt 因此，的概率密度為：,nWn即服從分布。 11 00 0tWWetftt特別地，質(zhì)點首次出現(xiàn)地等待時間服從指數(shù)分布： 35 11110111 0 0 2 1,2, 0 1 iiiiitiiiiTT

31、itP TtP N ttN tetFtTWWiWii 。 下面來求 的分布，設(shè)第個質(zhì)點出現(xiàn)的時刻為，記 稱為相繼出現(xiàn)的第個質(zhì)點和第點間間距 個質(zhì)點的 則 ,1,2 , 0 00 0iitiTT itetTftt即 于是 的概率密度為： 點間間距序列服從同一個指 數(shù)分布。36 定理一：強度為的泊松流(泊松過程)的點間間距是相互獨立的隨 機變量，且服從同一指數(shù)分布 定理二：如果任意相繼出現(xiàn)的兩個質(zhì)點的點間間距是相互獨立， 且服從同一個指數(shù)分布： 這兩個定理刻畫出了泊松過程的特征，定理二告訴我們，要確定一個計數(shù)過程是不是泊松過程，只要用統(tǒng)計方法檢驗點間間距是否獨立，且服從同一個指數(shù)分布。 00 0t

32、etf tt則質(zhì)點流構(gòu)成強度為的泊松過程37(二) 維納過程維納過程維納過程是布朗運動的數(shù)學模型 以W(t)表示運動中一微粒從時刻t=0到時刻t0的位移的橫坐標，且設(shè)W(0)=0。由于微粒的運動是受到大量隨機的、相互獨立的分子碰撞的結(jié)果，于是:(1) 粒子在時段(s,t上的位移可看作是許多微小位移的 和，根據(jù)中心極限定理，假設(shè)位移W(t)-W(s)服從正態(tài)分布是合理的。(2) 由于粒子的運動完全由液體分子不規(guī)則碰撞而引起的，這樣，在不相重疊的時間間隔內(nèi)，碰撞的次數(shù)、大小和方向可假設(shè)相互獨立，即W(t)具有獨立增量，同時W(t)的增量具有平穩(wěn)性。38 2( ),0 1. 2. 00,0 3. (

33、0)0W t ttsW tW sNtsW給定二階矩過程，如果它滿足：具有獨立增量對任意，增量 且 稱此過程為定義：維納過程39維納過程的性質(zhì)：1. 維納過程是齊次的獨立增量過程2. ()維納過程是正態(tài)過程，因此其分布完全由它的均值 函數(shù)和自協(xié)方差函數(shù) 即自相關(guān)函數(shù) 所確定 223. ( )0 ( ) , ,0WWWWWtE W tDtD W ttCs tRs tDmin s tmin s ts t維納過程的數(shù)字特征:40( ),0( )( 1)( )W t tX tW tW t例8：設(shè)是一個維納過程，求+ -的均值函數(shù)和相關(guān)函數(shù)。( )( )( 1)( )0XtE X tE W tE W t解

34、：+-( , )(1)( )( 1)( )R s tE W sW sW tW t+(1)(1)( )(1)(1)( )( )( )E W sW tE W s W tE W sW tE W s W t+(min(1,1)(min( ,1)(min(1, )(min( , )DstDs tDstDs t22222(min(1,1)(1),(min( ,1),(1),1(min( , ),(min(1, ),1stDstsDs tsstsDs ts Dsttts設(shè)，則20,1( , )(1),1tsR s tts ts 于是，20,1( , )(1),1sttsR s ttsts類似討論的情況，合起

35、來有41關(guān)鍵詞： 無后效性(馬爾可夫性) 齊次馬爾可夫鏈 n步轉(zhuǎn)移概率 n步轉(zhuǎn)移概率矩陣 C-K方程 馬氏鏈的有限維分布律 遍歷性 極限分布(平穩(wěn)分布)第十一章 馬爾可夫鏈1 馬爾可夫過程及其概率分布馬爾可夫性(無后效性) 過程(或系統(tǒng))在時刻t0所處的狀態(tài)為已知的條件下，過程在時刻tt0所處狀態(tài)的條件分布與過程在時刻t0之前所處的狀態(tài)無關(guān)。通俗地說，通俗地說，就是在已經(jīng)知道過程“現(xiàn)在”的條件下，其“將來”不依賴于“過去”。用分布函數(shù)表述馬爾可夫性：12( ),3,niX t tTITnttt ntT設(shè)隨機過程其狀態(tài)空間為對參數(shù)集 中任意 個數(shù)值 111111( )|( )|nnnnnnnnP

36、 X txX txX txP X txX tx( ),X t tT則稱過程具有或，并稱此過程馬爾可夫性無后效性馬爾為可夫過程。43 1,000,0X ttXX tt例：設(shè)是獨立增量過程，且 證明：是一個馬爾可夫過程。 121,nnTntttt證：對 中任意 個數(shù)值 1111( )|,nnnnP X txX txX tx 112211110,0,( ),0nnnnnnX tXx X tXxP X tX txxX tXx 1111( )|0nnnnnnP X tX txxX tXx ,0X tt 由定義知，是一個馬爾可夫過程。 證畢！證畢！11( )|nnnnP X txX tx44由上例知，泊松

37、過程泊松過程是時間連續(xù)狀態(tài)離散的馬氏過程， 維納過程維納過程是時間狀態(tài)都連續(xù)的馬氏過程。時間和狀態(tài)都離散的馬爾可夫過程稱為馬爾可夫鏈馬爾可夫鏈，簡稱馬氏鏈，記為：Xn=X(n),n=0,1,2,參數(shù)集T=0,1,2,，記鏈的狀態(tài)空間為：112212,0; ,|, |,rrrim njtititimim njmiijn rtttm t m mnTP XaXaXaXaXaP XaXaP m mn記為馬對任意的正整數(shù)和，有爾可夫鏈用條件分布律來表示為：12, iIa aaR45,|ijm njmiijP m mnP XaXamamna條件概率： 稱為馬氏鏈在時間 處于狀態(tài) 條件下，在時間轉(zhuǎn)移到狀態(tài)

38、的轉(zhuǎn)移概率112,1,1,2,ijjiP m mnjmamna a這是因為鏈在時刻 以任何一個狀態(tài) 出發(fā)，到另一個時刻必然轉(zhuǎn)移到諸狀轉(zhuǎn)移概率性質(zhì)： 態(tài)中的某一個。111213212223313233,1Pm mnPm mnPm mnPm mnPm mnPm mnP m mnPm mnPm mnPm mn此矩陣的每一轉(zhuǎn)移概率矩陣： 行元素之 和等于 46 0,|ijijijijm njminjiP m mni jnP nP nP m mnP XaXaXaanPX稱此轉(zhuǎn)移概率為馬氏鏈的當轉(zhuǎn)移概率當只與及 有關(guān)時，把具有這種平穩(wěn)性時，它記為稱此鏈步轉(zhuǎn)是移概率；齊，即次馬氏鏈。 11121321222

39、33132331111121322122233313233( )( )( )( )( )( ) ( )( )( )1|1 ijijmjminP nPnPnPnPnPnP nPnPnPnPPP XaXaaPPPaPPPPPaPPP在齊次馬氏鏈中， 步轉(zhuǎn)移概率矩陣為：一步轉(zhuǎn)移概率記為：一步轉(zhuǎn)移概率矩陣記為：的狀態(tài)Xm123aaaXm+1的狀態(tài)47 例2：(0-1傳輸系統(tǒng))如圖所示，只傳輸數(shù)字0和1的串聯(lián)系統(tǒng)中，設(shè)每一級的傳真率為p，誤碼率為q=1-p。并設(shè)一個單位時間傳輸一級，X0是第一級的輸入，Xn是第n級的輸出(n1)，那么Xn,n=0,1,2是一隨機過程，狀態(tài)空間I=0,1，而且當Xn=i為

40、已知時，Xn+1所處的狀態(tài)的概率分布只與Xn=i有關(guān)，而與時刻n以前所處的狀態(tài)無關(guān)，所以它是一個馬氏鏈，而且還是齊次的，它的一步轉(zhuǎn)移概率和一步轉(zhuǎn)移概率矩陣分別為：1 | ,0,1 ijnnpjiPP Xj Xii jqjin21X0X1X2XnXn-1pqPqp48 例3：一維隨機游動一維隨機游動。設(shè)一醉漢Q(或看作一隨機游動的 質(zhì)點)在直線上的點集I=1,2,3,4,5作隨機游動， 且僅在1秒、2秒等時刻發(fā)生游動，游動的概率規(guī)則 是：如果Q現(xiàn)在位于點i(1i0)表示經(jīng)n次交換 后甲盒中的紅球數(shù). (1)求此馬氏鏈的初始分布; (2)求一步轉(zhuǎn)移概率矩陣; (3)計算 ; (4)判斷此鏈是否具有

41、遍歷性，若有，求出極限分布。0242(1,1,0),(2)P XXXP X0X7401 32 30(2)1 2 95 92 9 ,202 31 3P07 2716 274 27(3) (2)1 16 8149 81 16 81 ,24 2716 277 27P3312304602462130246(0)1 5, (1)3 5,(2)1 5,P XCCP XC CCP XC CC解:(1)00121 53 51 5X即:024(1,1,0)P XXX2002012022(2)(0)(2)(1)(2)(2)(2)P XP XPP XPP XP3 5 49 81 16 812352 328050.0

42、7201110(1)(2)(2)P XPP1 5 4 273 5 16 81 1 5 7 271 50.27501 32 30(4)1 2 95 92 9 ,202 31 3P由定理知，此鏈有遍歷性；1239522393219310011012212012方程組, 012設(shè)極限分布 =，07 2716 274 27(2)1 16 8149 81 16 81 ,24 2716 277 27鍵詞： (寬)平穩(wěn)過程 時間均值 時間相關(guān)函數(shù) 各態(tài)歷經(jīng)性 譜密度第十二章 平穩(wěn)隨機過程771 平穩(wěn)隨機過程的概念 , X ttT是一隨定義：機過程，121,2, ,nn nt ttT

43、h對任意的，和任意實數(shù)12, ,nth ththT當時 1212,nnX tX tX tX thX thX th和具有相同的分布函數(shù)， 12121212,; , ,;,nnnnF x xx t ttF x xx th ththX ttT平即： 則稱隨機過程具有， 穩(wěn)性嚴平穩(wěn)隨機過程 稱此過程為，簡稱嚴平穩(wěn)過程78 ,00, 1, 2, 0,1,2,T 平穩(wěn)過程的參數(shù)集 可以為連續(xù)的,如，； 可以為離散的,如 1212212121,0 ,00,XXXXXX ttTtE X tE XRt tE X tX tE XX ttRttRtt記為記為 設(shè)嚴平穩(wěn)過程是二階矩過程 則常嚴平穩(wěn)過程的數(shù)字數(shù)特征：7

44、9 121211221210 ,0 ,X tX thhtX tXX tX tX thX thhtX tX tXX tttt 事實上,與同分布，取 則與同分布，從而有相同的數(shù)學期望與同分布，取 則與同分布，因此 自相關(guān)函數(shù)僅是時間差的函數(shù) 2200XXXXXXXCRDtCR從而協(xié)方差函數(shù) 方差函數(shù) 是常數(shù)由于要確定一個隨機過程的分布函數(shù)，并進而判定其平穩(wěn)性在實際中是不易辦到的。因此，通常只在二階矩過程范圍內(nèi)考慮寬平穩(wěn)過程。80 , ,XXX ttTt tTE X tE X t X tRX ttT 給定二階矩過程，如果對任意的常數(shù) 則稱為寬平穩(wěn)過程 嚴平穩(wěn)過程二階矩存在寬平穩(wěn)過程；反之不一定成立.

45、 今后，平穩(wěn)過程均指寬平定義：穩(wěn)過程。 ,XYXYXYX tY ttTRRt tE X t X tRX tY t和是兩個平穩(wěn)過程 如果它們的互相關(guān)函數(shù)也只是時間差的函數(shù)，記為 即 稱和是， 或稱這兩個過程平是穩(wěn)相關(guān)的聯(lián)合定義：寬 平穩(wěn)的8122 1,0, 1, 2,0,:,0, 1, 2,kkkkXkE XE XXk 例 ：設(shè)是互不相關(guān)的隨機變量序列， 且.證明是寬平穩(wěn)的隨機序列. 2 :0,0 ,0, 1, 2,kXklkklE XRk lE X XklklXk 證明 即：相關(guān)函數(shù)只與有關(guān)， 所以它是寬平穩(wěn)的隨機序列，也稱為離散白噪聲。 注:如果又是獨立同分布的，則它還是嚴平穩(wěn)序列。82 0

46、0Nnkn kkE Ya E X證： 0012,0, 1, 2,1 0, 1, 2,0, 1, 2,kNnkn kkNnXkYa XnNa aaY n 例 ：設(shè)是例中的隨機序列， 作，其中 是自然數(shù)，而是常數(shù). 證明：是平穩(wěn)序列,Ynn mRn nmE Y Y又相關(guān)系數(shù)00NNkn kjn mjkjEa Xa X00NNkjn kn mjkja a E XXnnY它與 無關(guān)，所以是平穩(wěn)序列。2 00Nkm kkm k Na a 83 30,S tTTX tS t例 ：設(shè)是一周期為 的函數(shù)， 是在上服從均勻分布的隨機變量， 稱為隨機相位周期過程，試討論它的平穩(wěn)性。 1 00 TTf解：由假設(shè)，

47、的概率密度為: 其他 ,XRt tE S tS t01TS tdT 1t TtSdT 01TSdT周期性常數(shù)所以隨機相位周期過程是平穩(wěn)的。 ,E X tE S t于是 1t TtSSdT 01TS tS tdT 01TXSSdRT周期性記為84 41 ,2, ,0,1,2,!0kX tIIP X tIt tN t tN t teP N t tkkkX t 例 ：考慮隨機電報信號，信號由只取或的電流給出。而正負號在區(qū)間內(nèi)變化的次數(shù)是隨機的，且假設(shè)服從泊松分布，即： 其中是單位時間內(nèi)變號次數(shù)的數(shù)學期望，試討論的平穩(wěn)性. t( )x t85 022IIE X tI P X tII P X tI 解：

48、 2222I P X t X tII P X t X tI 0, ,XRt tE X t X t設(shè) 2,X t X tIt t事件等價于電流在內(nèi)變號偶數(shù)次， 20,2kP X t X tIP N t tk因此202!kkek續(xù)續(xù)86221200,2!21 !kkXkkeeRt tIkk 所以2220!kkI eI ek 220,XtttRt tE X tX tI e 此結(jié)果與 無關(guān)，若只要令則有22,.XRt tI e綜合得，僅與 有關(guān)，故是平穩(wěn)過程。 20,21kP X t X tIP N t tk 同理21021 !kkek872 各態(tài)歷經(jīng)性 如何根據(jù)實驗記錄確定平穩(wěn)過程的均值和自相關(guān)函數(shù)

49、呢？ 按照數(shù)學期望和自相關(guān)函數(shù)的定義，需要時，一個平穩(wěn)過程重復(fù)進行大量觀察，獲得一族樣本函數(shù)用統(tǒng)計實驗方法，均值和自相關(guān)函數(shù)近似地為： 121121111, NNXkXkkkkxtRttxtxtNN 12,nx txtxt88 平穩(wěn)過程的統(tǒng)計特性不隨時間的推移而變化，根據(jù)這一特點，能否通過在一個很長時間內(nèi)觀察得到的一個樣本曲線來估計平穩(wěn)過程的數(shù)字特征呢？ 本節(jié)給出的各態(tài)歷經(jīng)定理證實，只要滿足某些條件，那么均值和自相關(guān)函數(shù)實際上可以用一個樣本函數(shù)在整個時間軸上的平均值來代替。( )x tt89隨機積分定義：兩種定義下的隨機變量在存在的情況下，以概率1相等 1. ,( ) , ,baX ttTx

50、taX ta bbTYX t dt Y給定二階矩過程，如果它的每一個樣本函數(shù)在上的隨機過程在上積分都存在，稱， 的積分存 記為是一在隨機變量； 012112012.,1,2,0,iniiiiiiniimax tia battttbttttt inYlimEYXtYX ta b 考慮內(nèi)的一組分點： 且記 若存在隨機變量 ，使 稱 為在上的均方積分90 ,.babbXaabaX ttTRs tE YE X tdsdtdX ta bY YX ttdt 是二階矩過程，若自相關(guān)函數(shù)的二重積分存在， 即存在，則在上均方積分存在 即存在隨機變量且定理：91 12TTTX tX t X tlimX t X t

51、dtT隨機過程的時間相關(guān)函數(shù)：= 12TTTX tX tlimX t dtT隨機過程的時間均值： 定 義：=92 1 X tacostX tX t X t。例：計算隨機相位正弦波：的時間平均和 1 2TTTX tlimacostdtT 解：0Tacos sin TlimT2Ta sinTsinTlimT 將 看作一定值93 XXE X tX tRE X t X tX t X t 對照第十章計算過的均值函數(shù)和自相關(guān)函數(shù)，可知： 2 12TTTX t X tlima costcostdtT22acos2224TTTalimcostcosdtT 222222422TsinTsinTaa coslim

52、T 941. ( )( )1( )XX tE X tX t如果以概率 成立， 均值具有 則各稱過程的態(tài)歷經(jīng)性 X t設(shè)是定義：一平穩(wěn)過程 2. ( )()( )()1( )0XX t X tE X t X tRX t如果對任意實數(shù) ，以概率 成立， 則稱過程的， 自相關(guān)函數(shù)具有各 特別當時，稱態(tài)歷經(jīng)性均方值具有各態(tài)歷經(jīng)性( )3. ( )X tX t如果的均值和自相關(guān)函數(shù)都具有各態(tài)歷經(jīng)性， 是各態(tài) 則稱歷經(jīng)過程95 12,12X tX tXP XX t 例 ：是隨機變量， 試確定的均值是否具有各態(tài)歷經(jīng)性。 X tX解：是平穩(wěn)過程， 1122TTTTTTX tlimX t dtlimXdtXTT

53、時間均值 0XtE X tEX因為 X t由定義知，的均值不具有各態(tài)歷經(jīng)性 00XPX tP X即 2,1XRt tE X t X tE Xt與 無關(guān)11 1x t 2xt96( )() ,2 , 01,A ( ),0,(0,2 )X tAcosttxxAf x 例3：證明:正弦波其中 是常數(shù)與 相互獨立其它在上均勻分布,是平穩(wěn)過程;并判斷其是否為各態(tài)歷經(jīng)過程. 1212( , )( )( )XRt tE X t X t:( )( )XtE X t證明E Acost( ) 0E A E cost212 ()()E A E costcost212111()cos.()44costttt22120

54、1()()2E Acostcostd( )X t所以,是平穩(wěn)過程.97 1 2TTTX tlimAcostdtT 0( )TAcos sin TlimE X tT2TA sinTsinTlimT 將A, 看作定值( ).X t即的均值具有各態(tài)歷經(jīng)性98 .X tX t的相關(guān)函數(shù)不具有各態(tài)歷經(jīng)性所以,不是各態(tài)歷經(jīng)過程 2 12TTTX t X tlimA costcostdtT22Acos2224TTTAlimcostcosdtT 222222422TsinTsinTA cosAlimT 1cos( ,)4XRt t99 2201102TXXTX tlimRdTT均值各態(tài)歷經(jīng)定理 平穩(wěn)過程的均值

55、具有各態(tài)歷經(jīng)性 的充要條件是：定理一： 1,0XXX tPX tEX tDX tX t 的均值具有各態(tài)歷經(jīng)性的定義為思路:： 下面只要計算的均值與方差就可以了 12TTTE limX ttdtEXT 12TTTlimE X tdtT12TXXTTlimdtT 22XEXDXtt 2212TXTTElimX t dtT 21122214TTXTTTlim EX tdtX tdtT 21212214TTXTTTlimE X tX tdt dtT 22112214TTXXTTTlimRttdt dtT 續(xù)續(xù)10011222122221212022222212122202,12,111224ttttT

56、TTXXXTTTTt tlimdRdRdT 雅可比式0222222222201224TXXXTTlimT RdTRdT22222222124XRTXXTTlimTRdT為偶函數(shù) 220112TXXTlimRdTT 220112TXXTlimRdTT 22010102TXXTDX tlimRdTT 即證畢！證畢！2t,T T1t,TT,T T,TT2t2 ,0T1t0, 2T0,2T2 ,0T101 222lim0XXXXXXXXXXXlimRlim Rlim Clim Clim Rlim CXRlim RtX t在存在的條件下， 若,則定理一條件成立，即 若,則定理一條件不成立,即注意： 均值

57、具有各態(tài)歷經(jīng)性均值不具有因此在或存在條件下，均值各態(tài)歷經(jīng)性的條件為：，即當時間差 充分大時，和各態(tài)推歷經(jīng)性論：呈 Xlim R現(xiàn)不相對隨機相位正弦波而言，不存在，但它的均值是各關(guān)性態(tài)歷經(jīng)的102 2211101111 102 XXTTX tRlimBRdTTBE X t X tX tX t自相關(guān)函數(shù)各態(tài)歷經(jīng)定理 平穩(wěn)過程的自相關(guān) 函數(shù)具有各態(tài)歷經(jīng)性的充要條件是： 定理二 ： 其中 00001 ( ) 1 ( )() TTTTttX tlimX t dtTX t X tlimX t X tdtT 在實際應(yīng)用中通常只考慮定義在上的平穩(wěn)過程，此時上面的所有時間平均都應(yīng)以上的時間平均來代替。即 X t

58、X t X t在定理一的證明中，將換成，就可得到：而相應(yīng)的各態(tài)歷經(jīng)定理可表示為下述形式： 見下頁103 2011 10XTXXTPX tlimRdTT 三： 定理 2111011 10XTXTPX t X tRlimBRdTT定四： 理104 各態(tài)歷經(jīng)定理的重要價值在于它從理論上給出了如下保證：一個平穩(wěn)過程X(t)，若0t+，只要它滿足各態(tài)歷經(jīng)性條件，便可以根據(jù)“以概率1成立”的含義，從一次試驗所得到的樣本函數(shù)x(t)來確定該過程的均值和自相關(guān)函數(shù)。 000,1( )11( ) ()( ) () 0XXTXTTXx tTRx t dtTRx t x tdtx t x tdtTTT如果試驗記錄只

59、在時間區(qū)間上給出，則相應(yīng)的的無偏估計為： 0011 TxTTxTlimx t dtTlimx t x tdtRT即 1053 相關(guān)函數(shù)的性質(zhì) 221. 00XXRE Xt , XYXYX tY tRRR 設(shè)和是平穩(wěn)相關(guān)過程，和分別是它們的自相關(guān)函數(shù)和互相關(guān)函數(shù)。相關(guān)函數(shù)具有如下的性質(zhì)： 2. , ,XXXXYYXRRRRR即是 的偶函數(shù)即互相關(guān)函數(shù)既不是奇函數(shù)，也不是偶函數(shù) 222.3. 0 ,00 00 ,00XXXXXXYXYXYXYRRCCRRRCCC 此不等式表明：自相關(guān)自協(xié)方差 函數(shù)在處取得最大值。 見下頁106 1212,1 4. , ,0XnnnXijiji jRt ttTna

60、aaRtta a是非負定的，即對任意數(shù)組和任意 個 不全為零的實數(shù)，都有： ,1,12,11 0nnXijijijiji ji jnnijijiii jiRtta aE X tX ta aEX tX ta aEX ta事實上， 自相關(guān)函數(shù)的非負定性是平穩(wěn)過程最本質(zhì)的特性， 因為任一連續(xù)函數(shù)，只要具有非負定性，那么該函數(shù)必是某平穩(wěn)過程的 自相 關(guān)函數(shù)。 見下頁107 001,X tP X tTXtTtX是平穩(wěn)過程，若滿足條件 則定義周期為 的：稱為平穩(wěn)過程。 005. X tTT是周期為 的平穩(wěn)過程的充分必要條件是： 其自相關(guān)函數(shù)是周期為 的函數(shù)。 00:1.XXP X tTX tRTR即108