隨機過程課件

1、第一章 概率論基礎1.從傳統(tǒng)的長度概念說起1.1 區(qū)間（a,b）、a,b等都有長度，用字母表示,而且知道(a,b)=b-a我們進而認為是一種（函數(shù)）運算，自變量*為一維數(shù)軸上的區(qū)間，顯然，應滿足：（1） L(*)非負性；（2）有限可加性；（3）甚至要求滿足可列可加性我們提出問題1：區(qū)間作為的子集，具有長度，那么的一般子集也有長度嗎？答案是否定的。因為傳統(tǒng)長度是集合的右端點與左端點之差值，而只有區(qū)間這種集合才有端點。問題2：是否可以推廣為某作為一般點集的長度呢？當然可以適當推廣成為某種運算，用以作為更廣泛的一類集合（包含全體區(qū)間）的“長度”。但是，事實表明，無論怎樣改進，都無法適應的全體子集。1

2、.2長度向某推廣的直接動力是，人們發(fā)現(xiàn)了積分的缺陷并希望加以改進。積分的缺陷1：也可寫成，積分符號的右下角就是積分區(qū)間，也就是積分范圍，此范圍不可以是一般的實數(shù)點集，只能是區(qū)間。缺陷2：按照黎曼積分的定義（工科高數(shù)教材）：（1）分割區(qū)間成為若干小區(qū)間，（2）任意取小區(qū)間的點，求值，進而得到第個小矩形的面積（3）做和，也即全體小矩形面積之和（4），這一步是對前三步工作的無窮細化。這種方法的核心思想是微小范圍內(nèi)以直代曲，例如，第個小矩形的面積應是，但這里卻以加以代替，依據(jù)是在很小區(qū)間上，函數(shù)的變化不大，可以近似看成常數(shù)。這就要求函數(shù)在區(qū)間上“基本連續(xù)”，否則，無論在多小的區(qū)間上，函數(shù)取值變化很大，

3、從而會因為第（2）步的不同而使得極限不存在，從而產(chǎn)生不可積的現(xiàn)象。這就大大減少了能夠在區(qū)間上可積的函數(shù)的數(shù)量。例如：函數(shù)在區(qū)間上就不可積分 為了克服黎曼積分定義的這種局限性，建立起一種全新的積分勒貝格積分將區(qū)間分割成若干小集合（注意：不是小區(qū)間?。指顦藴适牵涸诿總€小集合上的“變動不大”。，而且小集合兩兩互斥。我們觀察第個小集合，由于其上變化很小，故可以某常數(shù)（）替代，作為小集合的“高”，新的問題隨之產(chǎn)生，小集合的“底”也就是其“長度”怎樣求？這正是點集測度的由來。如果一般點集有了測度（長度），那么黎曼積分的缺陷1也隨之解決。 為此，有必要學習一下一維直線上實數(shù)點集合的有關內(nèi)容。2集合論初步

4、2.1對等的概念（不限于實數(shù)集合）若集合中的每個元素都可在集合中找到唯一的對應元素，反之也成立，則稱與對等，記做對等表明兩個集合所含元素的個數(shù)相等2.2基數(shù)2.3集合的分類有限集有限集的任意真子集都不能與對等無限集如果集合存在與自己對等的真子集，則稱集合為無限集無限集可以分為：（1）可列集（無限可數(shù)集），的基數(shù)是（2）不可列集（無限不可數(shù)集）2.4命題1：內(nèi)的有理數(shù)可列證明：任取，則,互質(zhì)，且唯一。則令，則，這是因為：取不同的數(shù)對、，反證法可得與不同；取不同的與，反證法可得數(shù)對、不同。因此結(jié)合，有是自然數(shù)，可從小至大排列：，因此可列，從而可列。 命題2：、 命題3：內(nèi)的全體有理數(shù)排列不構(gòu)成長度

5、命題4：區(qū)間是一個不可列集，記，稱為連續(xù)基數(shù)。證明：僅證不可列（反證法）假設可列，則具體的等等現(xiàn)取數(shù)，其中，等等一方面，另一方面，由的表達式可知，產(chǎn)生矛盾。2.5集合(序)列的極限（集）（1）若，則有極限集（2）若，則有極限集（3）對一般的集列，有上下極限集=證明：僅證(1)取， 則，即，所以反之，取，則，所以，即，從而有無限個包含元素，即綜上述，=證完。2.6三分集（介紹，了解）去掉中間三分之一開區(qū)間，去掉中間三分之一開區(qū)間，去掉中間三分之一開區(qū)間，無限次進行得到的集合?；鶖?shù)是，長度為，這表明：個點既可以構(gòu)成長度也可以不構(gòu)成長度。2.7開集與閉集（1）由內(nèi)點構(gòu)成的集合叫開集（）開集的構(gòu)造：開

6、集可表達為至多可列個互不相交的開區(qū)間之并；、各種區(qū)間、都是開集；有限個開集的交仍是開集；，任意個開集的并仍是開集。（2）包含自己的聚點的集合叫閉集（）；有限個閉集的并仍是閉集；，任意個閉集的交仍是閉集。2.8集系的定義，冪集2.9代數(shù)的定義（不限于實數(shù)集合）若是中一些子集組成的集類，且滿足：（1）；（2）若，則；（3）若，則，則稱為上的一個代數(shù)；并稱二元組為可測空間。2.10命題1：任給一集，則=與不對等證明：反證之。若，則可記=，即可將中的元素用的元素來標記（使與的元素一一對應）。對于，只有下列兩種情形之一發(fā)生：或。令=，有，因此可知，滿足若，則，即，矛盾；若，則，即，矛盾。證完命題2：最大

7、的基數(shù)不存在。 命題3：連續(xù)統(tǒng)假設 1.4測度論初步1點集的Lebesgue外測度（1902年） 設，稱=為點集的Lebesgue外測度。2外測度的性質(zhì)（1）若點集至多可列，則（2）（3） 非負性，（4） 單調(diào)性（5）半加性：人們已經(jīng)證明，存在集列，兩兩互斥，但有（這類集合不好！）這意味著，作為一般點集的“長度”，仍然不夠完善。事實上，勒貝格以前，等人都曾定義過長度（容度），但均有重大缺陷，勒貝格外測度是重大進步。既然存在一些“不好”的集合，人們就想辦法找出所有“好的”集合，以迎合勒貝格外測度。當然首先要制定評價“好壞”的標準。3Caratheodory條件（1918年）：設，若對于任意的點集

8、，有，則稱為(勒貝格）可測集，為試驗集。若為可測集，其外測度稱為測度，記為。4全體可測集組成的集系記作，則是一個代數(shù)可以證明：（）（）若，則（）若，則（此證明需分幾步，稍復雜，略去）5稱二元組為（勒貝格）可測空間。在此空間上，勒貝格測度滿足：（）非負性：，（）可列可加性：（）下連續(xù)性：若，且，則上連續(xù)性：若，且，又存在，則（）存在不滿足卡氏條件（即不可測）的點集6設是中一些子集組成的集類，則存在唯一的的代數(shù)，它包含而且被包含的任一代數(shù)所包含。稱為由生成的代數(shù)，或包含的最小代數(shù)。 Borel集（1898年）設，則集類：是的子集類，則域稱為域（代數(shù)），其元素稱為Borel集。Borel集是可測集，

9、從而（真包含）由于結(jié)構(gòu)較之于簡單，且對于一般研究足夠用，所以（，）取代，作為（勒貝格）可測空間。非Borel可測集，均為零測集。10我們注意到, 域的構(gòu)造過程與勒貝格測度無關,因此我們說：可以先構(gòu)造出可測空間（，），而是其上滿足非負性和可列可加性的集函數(shù)（即是測度），從而就產(chǎn)生了測度空間（，）11在抽象集合（假定全集是）上,也可以類似構(gòu)造測度空間：（）依據(jù)具體問題，選擇上的適當代數(shù)當然，上的代數(shù)是很多很多的有時為了某個問題的研究，總會假定某個可測空間（，）已經(jīng)存在（）在可測空間（，）上，適當定義一個滿足非負性和可列可加性的集函數(shù)，就構(gòu)成了一個抽象的測度空間（，），一般測度理論由此展開。第二章

10、概率空間與隨機變量1.概率空間（，）的產(chǎn)生（）在給定條件之下，試驗所產(chǎn)生的結(jié)果不能或不必再分，這些結(jié)果叫做基本事件，其全體構(gòu)成樣本空間（）至于在樣本空間上構(gòu)造滿足要求的代數(shù)，一般視情況而定。例如：（）若為至多可列點集，則取（）若，取或，等等。今后總假定已經(jīng)給出（盡管沒能夠真正找出來），中的元素稱為事件。（）對于可測空間，定義一個非負集函數(shù)，以度量中事件發(fā)生可能性大小，它滿足：非負性：，對于任何事件；規(guī)范性：；可列可加性：若，且兩兩不交，則稱為事件A的概率，稱為概率空間2.隨機變量設是一可測空間，若函數(shù)使得對任意，有則稱函數(shù)是關于（或上）的可測函數(shù)。在概率空間上定義的可測函數(shù)稱為隨機變量（）命題

11、1：，有F，有F證明：1）：，有2）：，有=命題2：，F(xiàn)，有F命題3：B,有F，有F3.分布函數(shù)設是定義在上的一個隨機變量，令，稱為隨機變量的分布函數(shù)4.定義設是概率空間上的一個隨機變量，對Borel集B，定義把稱為的分布5.兩個重要的離散型分布（1）二項分布（實際背景）若的分布為稱隨機變量服從參數(shù)為的二項分布注：表示第次試驗中事件發(fā)生，表示第次試驗中事件未發(fā)生，另，設，則，（2）泊松分布（實際背景）設，若的分布為稱隨機變量服從參數(shù)為的泊松分布6.三個重要的連續(xù)型分布（1）均勻分布（實際背景）如果連續(xù)型隨機變量的分布密度為則稱在區(qū)間上服從均勻分布，記為（2）指數(shù)分布（實際背景）如果連續(xù)型隨機變

12、量的分布密度為則稱服從參數(shù)為的指數(shù)分布注：指數(shù)分布具有無記憶性，即若服從指數(shù)分布，則對于任意，有反過來，如果一個非負連續(xù)型隨機變量的分布函數(shù)具有無記憶性，則它一定是指數(shù)分布（3）正態(tài)分布（實際背景）如果連續(xù)型隨機變量的分布密度為，式中，則稱服從參數(shù)為的正態(tài)分布或高斯分布，記為7.隨機變量的數(shù)字特征 （1）離散型隨機變量數(shù)字特征設離散型隨機變量的分布率為，則稱為隨機變量數(shù)學期望或均值令稱為隨機變量的方差令，稱為隨機變量的階矩令稱為函數(shù)的數(shù)學期望（2）連續(xù)型隨機變量數(shù)字特征設連續(xù)型隨機變量的分布密度為，則稱為隨機變量數(shù)學期望或均值令稱為隨機變量的方差令稱為隨機變量的階矩令稱為函數(shù)的數(shù)學期望注：數(shù)學

13、期望反映了隨機變量取值的平均水平；方差和標準方差體現(xiàn)了隨機變量與期望值的偏離程度。8.隨機向量及其聯(lián)合分布（1）n維隨機變量及其數(shù)字特征設，如果其中每一個分量是一維的、取值為實數(shù)的隨機變量，則稱為n維隨機向量。（2）分布函數(shù)設為n維隨機向量，則的聯(lián)合概率分布定義為其中,又簡稱為的分布函數(shù)設x為上非負可積函數(shù)，使得對任意，有則稱為連續(xù)型隨機變量，為的聯(lián)合概率密度設為隨機變量的概率密度，那么其中任意分量組都存在概率密度，把它們稱為的邊緣密度（3）隨機變量的協(xié)方差定義為隨機變量的相關系數(shù)定義為隨機變量的數(shù)學期望定義為隨機變量的協(xié)方差矩陣定義為其中，9隨機事件獨立和相關的定義（1）定義隨機變量稱為是相

14、互獨立的，如果有B即事件與是互相獨立的（2）定義如果隨機變量，對于任意,滿足B則稱隨機變量是相互獨立的，即事件是相互獨立的（3）相互獨立的隨機變量的性質(zhì)定理如果相互獨立且它們的數(shù)學期望存在，則對于任何實函數(shù)，有10條件數(shù)學期望（1）離散型隨機變量的條件數(shù)學期望設為離散型隨機變量，對一切使成立的，給定時，隨機變量的條件分布函數(shù)定義為設隨機變量可能的取值為，離散型條件數(shù)學期望定義為（2）連續(xù)型隨機變量的條件數(shù)學期望設為連續(xù)型隨機變量，對一切使成立的，給定時，隨機變量的條件概率密度定義為給定時，隨機變量的條件分布函數(shù)定義為連續(xù)型條件數(shù)學期望定義為（3）表示隨即變量的函數(shù)，當時，取值則有證明：（只對，

15、為離散型）=，證完思考題：設為取非負整值的隨即變量，證明：1矩母函數(shù)和特征函數(shù)（1）矩母函數(shù)設是上實隨機變量，的矩母函數(shù)定義為：對于任意，（2）特征函數(shù)設是上實隨機變量，的特征函數(shù)定義為：對于任意，式中，i是虛數(shù)單位，（3）特征函數(shù)性質(zhì)（），對任意；（）若互相獨立，則，對任意（4）常見分布的特征函數(shù)兩點分布 二項分布 泊松分布 均勻分布 指數(shù)分布 標準正態(tài)分布注：隨機變量，分布函數(shù)，特征函數(shù)，矩母函數(shù)之間相互惟一決定（惟一性定理）。（5）特征函數(shù)定理是n個互相獨立的實值隨機變量，其特征函數(shù)分別為。設為的特征函數(shù)，則有 97第三章 隨機過程3.1 隨機過程的基本概念1、隨機過程定義3-1設是給定

16、的概率空間，為一指標集，對于任意，都存在定義在上，取值于的隨機變量與它相對應，則稱依賴于的一族隨機變量為隨機過程，簡記，或。注：隨機過程是時間參數(shù)和樣本點的二元函數(shù)，對于給定的時間是是概率空間上的隨機變量；對于給定樣本點是定義在上的實函數(shù)，此時稱它為隨機過程對應于的一個樣本函數(shù)，也成為樣本軌道或?qū)崿F(xiàn)。稱為隨機過程的相空間，也成為狀態(tài)空間，通常用表示處于狀態(tài)。2、隨機過程分類：隨機過程按照時間和狀態(tài)是連續(xù)還是離散可以分為四類：連續(xù)型隨機過程、離散型隨機過程、連續(xù)隨機序列、離散隨機序列。3、有窮維分布函數(shù)定義3-2設隨機過程，在任意個時刻的取值構(gòu)成維隨機向量，其維聯(lián)合分布函數(shù)為： 其維聯(lián)合密度函數(shù)

17、記為。我們稱為隨機過程的有窮維分布函數(shù)。3.2 隨機過程的數(shù)字特征1、數(shù)學期望對于任何一個時間，隨機過程的數(shù)學期望定義為 是時間的函數(shù)。2、方差與矩隨機過程的二階中心矩稱為隨機過程的方差。隨機過程的二階原點矩定義為 注：是時間的函數(shù)，它描述了隨機過程的諸樣本對于其數(shù)學期望的偏移程度。3、協(xié)方差函數(shù)和自相關函數(shù)隨機過程對于任意，其協(xié)方差函數(shù)定義為當時，協(xié)方差函數(shù)就是方差。隨機過程的自相關函數(shù)（相關函數(shù)）定義為當時，自相關函數(shù)就是二階原點矩。4、實二階矩過程定義3-3設為實隨機過程，若對于任意的，其均方函數(shù)，則稱為實二階矩過程。 注：由柯西-施瓦茲（Cauchy-Schwarz）不等式：，可知，二

18、階矩過程自相關函數(shù)一定存在。5、例3-1判斷隨機過程在下列兩種情況下是否為二階矩過程。 （1）為常數(shù)； （2）具有概率密度解：（1）因為 所以是二階矩過程。 （2）因為 所以不時二階矩過程。3.3 離散時間和離散型隨機過程當時間參數(shù)取離散值時，這種隨機過程稱為離散隨機過程 。這時，是一串隨機變量所構(gòu)成的序列，即隨機序列。由于隨機序列的指標表示時間，所以常稱隨機序列為時間序列。1、例3-2設一維隨機游動過程，其中(即獨立同分布隨機序列，且。求。解：根據(jù)期望、方差的定義和性質(zhì)，有而且則2、例3-3考慮隨機點在時間區(qū)間內(nèi)發(fā)生的次數(shù)，若隨機點在內(nèi)發(fā)生的次數(shù)是偶數(shù)（視0為偶數(shù)），則令；若為奇數(shù)，且令；且

19、。又設在內(nèi)有個隨機點發(fā)生的概率與無關，且（即參數(shù)為的Poisson分布）其中由此計算可得于是有故得通過類似的計算，可以得到對于所以相關函數(shù)為同理可以計算當時的情況。綜合上面的結(jié)論有因此的方差為3.4 正態(tài)隨機過程1、正態(tài)隨機過程如果隨機過程的任意n維概率分布都是正態(tài)分布，則稱它為正態(tài)隨機過程或高斯隨機過程，簡稱正態(tài)過程或高斯過程。正態(tài)隨機過程的n維概率密度為其中，是n維向量，是階的矩陣，逆矩陣，它的第i行j列的元素為其中，為相關系數(shù)。 注：由上式可見，正態(tài)隨機過程的n維概率分布僅取決于它的一、二階矩函數(shù)，即只取決于它的數(shù)學期望、方差和相關系數(shù)。2、正態(tài)隨機過程性質(zhì)如果對正態(tài)過程在n個不同時刻采

20、樣，所得到的一組隨機變量兩兩互不相關，即則這些隨機變量也是相互獨立的。在的條件下，n維正態(tài)概率密度等于n個一維正態(tài)概率密度的連乘積。所以對于一個正態(tài)過程來說，不相關與獨立是等價的。3.5 Poisson過程1、獨立增量過程定義3-4設是一隨機過程，若對任意正整數(shù)n及，隨機變量的增量是相互獨立的，則稱是獨立增量過程。 注：設是獨立增量過程，若對任意的，增量的概率分布只依賴于而與無關，則稱隨機過程為齊次的或時齊的。 若只要時間間隔相同，那么增量服從的分布也相同，也稱此過程具有平穩(wěn)性。 具有獨立增量和平穩(wěn)增量的過程稱為獨立平穩(wěn)增量過程。常見的獨立平穩(wěn)增量過程有Poisson過程和Wiener（維納）

21、過程。2、計數(shù)過程定義3-5如果用表示內(nèi)隨機事件發(fā)生的總數(shù)，則隨機過程稱為一個計數(shù)過程。因此，計數(shù)過程滿足（1）；（2）是非負整數(shù)值；（3）對于任意兩個時刻，有；（4）對于任意兩個時刻，等于時間區(qū)間中發(fā)生的事件個數(shù)。如果計數(shù)過程在不相交時間區(qū)間中發(fā)生的事件個數(shù)是獨立的，則稱計數(shù)過程有獨立增量。3、Poisson過程的兩個定義定義3-6設隨機過程是一個計數(shù)過程，如果滿足（1）；（2）是獨立增量過程；（3）對于任意，增量具有參數(shù)的Poisson分布，即 則稱為具有參數(shù)的齊次Poisson過程。 注：Poisson過程有平穩(wěn)增量且，并稱為此過程的速率或強度，即單位時間內(nèi)發(fā)生的事件的平均個數(shù)。定義3-

22、7設隨機過程是一個計數(shù)過程，參數(shù)為，如果滿足（1）；（2）過程有平穩(wěn)的獨立增量；（3）；（4）則稱為具有參數(shù)的齊次Poisson過程。其中表示當時，對h的高階無窮小。定理3-1 上述定義3-6與定義3-7是等價的。4、例題例3-4顧客依Poisson過程到達某汽車站，其速率人/小時。試求：（1）的均值、方差、自相關函數(shù)和協(xié)方差函數(shù)；（2）在第三分鐘到第五分鐘之間到達汽車站的顧客人數(shù)的概率分布。解：（1）根據(jù)題意，強調(diào)，故的均值、方差、自相關函數(shù)和協(xié)方差函數(shù)分別為第三分鐘到第五分鐘之間到達的人數(shù)為，所以其分布率為例3-5顧客依Poisson過程到達到達某商店，速率人/小時，已知商店上午9：00開

23、門，求到9：30時僅到一位顧客，而到11：30時總計已達到5五位顧客的概率。解：3.6 平穩(wěn)隨機過程1、嚴格平穩(wěn)隨機過程定義3-8實隨機過程,若對任意正整數(shù)n及任意與任意，有或即隨機過程的有限分布在時間的平移下保持不變，則稱為嚴格平穩(wěn)隨機過程。2、嚴格平穩(wěn)隨機過程的一些特性如果是嚴平穩(wěn)隨機過程，則它的一維概率密度與時間無關，令，則有 由此可求得隨機過程的均值、矩和方差皆與時間無關的常數(shù)。嚴平穩(wěn)隨機過程的二維概率密度只與的時間間隔有關，而與時間起點無關，令，則有這表明二維概率密度僅依賴于時間差，而與時刻無關。由此可得，隨機變量的自相關函數(shù)、協(xié)方差函數(shù)只是單變量的函數(shù)。3、寬平穩(wěn)隨機過程定義3-9

24、若實隨機過程滿足：對于任意有（1）；（2）；（3）則稱為寬平穩(wěn)隨機過程。 注：由于寬平穩(wěn)隨機過程的定義只涉及與一、二維概率密度有關的數(shù)字特征，所以 一個嚴平穩(wěn)隨機過程只要二階原點矩有界，則它必定是寬平穩(wěn)的。但是反之不一定成立，但正態(tài)隨機過程。因為正態(tài)隨機過程的概率密度是由均值和自相關函數(shù)完全確定的，所以如果均值和自相關函數(shù)不隨時間平移而變化，則概率密度也不隨時間的平移而變化，于是一個寬平穩(wěn)的正態(tài)過程必定也是嚴平穩(wěn)的。4、平穩(wěn)隨機過程自相關函數(shù)的性質(zhì)性質(zhì)3-1設為平穩(wěn)過程的自相關函數(shù)，則（1）平穩(wěn)過程的自相關函數(shù)在上是非負值，即；（2）自相關函數(shù)是變量的偶函數(shù)，；（3）自相關函數(shù)在時取到最大值，

25、；（4）如果平穩(wěn)過程滿足條件，則稱它為周期平穩(wěn)過程，其中T為過程的周期；周期平穩(wěn)過程的自相關函數(shù)必為周期函數(shù)，并且它的周期與過程的周期相同；（5）如果平穩(wěn)過程含有一個周期分量，則也含有一個同周期的周期分量；（6）（非負定性）對于任意有限個和任意的實數(shù)，有（7）在上連續(xù)的充分必要條件為其自相關函數(shù)于處連續(xù)。5、平穩(wěn)隨機過程的相關系數(shù)令稱為隨機過程的自相關系數(shù)，簡稱相關系數(shù)。相關系數(shù)表現(xiàn)了隨機過程在兩個不同時刻隨機變量之間的線性相關程度，它滿足及。第四章 Poisson過程4.1 齊次Poisson過程到達時間間隔于等待時間的分布1、定理4-1強度為的齊次Poisson過程的到達時間間隔序列是獨立

26、同分布的隨機變量序列，且是具有相同均值的指數(shù)分布。證：事件發(fā)生當且僅當Poisson過程在區(qū)間內(nèi)沒有事件發(fā)生，即事件等價于，所以有因此，具有均值為的指數(shù)分布，再求已知的條件下，的分布。上式表明與相互獨立，而且也是一個具有均值為的指數(shù)分布的隨機變量，重復同樣的推導可以證明定理4-1的結(jié)論。2、定理4-2等待時間服從參數(shù)為n，的分布，即分布密度為證：因為第n個事件在時刻t或之前發(fā)生當且僅當?shù)綍r間t已發(fā)生的事件數(shù)目至少是n，即事件是等價的，因此上式兩邊對t求導得的分布密度為注：定理4-2又給出了定義Poisson過程的另一種方法。從一列均值為的獨立同分布的指數(shù)隨機變量序列出發(fā)，定義第n個事件發(fā)生的時

27、刻為，則這樣就定義了一個計數(shù)過程，且所得計數(shù)過程就是參數(shù)為的Poisson過程。3、定理4-3條件隨機變量，即在區(qū)間內(nèi)為均勻分布。證：對的分布函數(shù)為這說明在上服從均勻分布。4、順序統(tǒng)計量設是n個隨機變量，如果是中第k個最小值，則稱是對應與的順序統(tǒng)計量。5、定理4-4已知在的條件下，n個事件來到的時刻的聯(lián)合密度與n個獨立的上均勻分布隨機變量的順序統(tǒng)計量的聯(lián)合密度相同，即條件隨機向量具有聯(lián)合分布證：設，則把分成n+1個小部分，于是有所以對給定的n維條件密度函數(shù)是得證。6、定理4-5和是相互獨立的隨機變量，分別服從均值為和的Poisson分布，其中證：考慮中發(fā)生的任一事件，如果它在s時刻發(fā)生，則它是

28、1型的概率為。由定理4-4，時刻s服從上的均勻分布，所以而且與其他事件歸為什么類型相互獨立。因此正好是次Bernoulli試驗中，1型事件出現(xiàn)n次，2型事件出現(xiàn)m次的概率。故有所以有由此證明了定理4-5的結(jié)論成立。7、例題例4-1設乘客按參數(shù)的Poisson過程來到火車站，若火車在時刻啟程，計算在時間內(nèi)到達的乘客的等待時間總和的期望。解：設按照Poisson過程到達的第一位乘客的到達時間為，因此其等待時間為，而第i位乘客的等待時間為，在時間內(nèi)共來了位乘客，所以這些乘客總的等待時間為要求的就是上式的數(shù)學期望。為此先求條件期望令為互相獨立的上的均勻分布隨機變量，由定理4-4有因此從而容易看出，旅客

29、平均總等待時間和成正比，比例因子的大小決定于Poisson過程的強度。例4-2（無窮個服務員Poisson排隊服務系統(tǒng)）設顧客到達服務臺的過程式強度為的Poisson過程，每個顧客到達后的服務時間是獨立同分布的隨機變量，其分布函數(shù)為。服務員的人數(shù)是無窮多，即表示顧客到達服務臺后立即接受服務而無需等待。為了研究這一服務系統(tǒng)的運轉(zhuǎn)效率，需要管理者知道時間T已經(jīng)服務完的顧客數(shù)與未服務完的顧客數(shù)的聯(lián)合分布。設表示到時刻t已經(jīng)服務完的顧客數(shù)，表示到時刻t未服務完的顧客數(shù)。假設顧客與時刻s到達，那么他到t時刻已經(jīng)服務完畢就意味著他的服務時間，故其相應的概率為。由上面的定義有根據(jù)定理4-5，可得到和的聯(lián)合分

30、布及獨立性,而且（已經(jīng)服務完畢的顧客數(shù)）的分布是均值為的Poisson分布。（在時刻t未服務完畢的顧客數(shù)）的分布是均值為 的Poisson分布。4.2 非齊次Poisson過程和復合Poisson過程1、非齊次Poisson過程定義4-1計數(shù)過程稱為具有強度的非平穩(wěn)或非齊次Poisson過程，如果（1）(即仍從時刻0開始計數(shù))；（2）具有獨立增量；（3）；（4）。其中，表示當時，對h的高階無窮小。2、定理4-6 若是強度為的非齊次Poisson過程，令則其中，。即具有均值為的Poisson分布。3、復合Poisson過程設是獨立同分布的隨機變量序列，是強度為的Poisson過程，且與相互獨立。

31、令則稱隨機過程為復合Poisson過程 。4、定理4-7設是一個復合Poisson過程，則對于任意，（1）是一個獨立增量過程；（2）的特征函數(shù)為其中，是隨機變量的特征函數(shù)；若，則有。5、例題例4-5（保險公司保險金儲備問題）設某保險公司人壽保險者在時刻時死亡，其中是隨機變量（因為投保者何時死亡是一隨機現(xiàn)象），在時刻死亡者的家屬持保險單可領取保險金。設是一獨立同分布的隨機變量序列，令表示在內(nèi)死亡的人數(shù)，是強度為的Poisson過程，則保險公司在時間內(nèi)應準備支付的保險金總金額為顯然為一復合Poisson過程。若服從指數(shù)分布則由前面的定理4-7知，在時間內(nèi)保險公司平均支付的賠償費為又因為，所以方差（

32、或支付賠償費的偏差）為因為指數(shù)分布隨機變量的特征函數(shù)為所以由定理4-7可得的特征函數(shù)為例4-6(商店的營業(yè)額問題)設每天進入某商店的顧客數(shù)為一Poisson過程，進入該商店的第n位客人所花的錢為元。設是一獨立同分布的隨機變量序列，且與互相獨立，則在內(nèi)該商店的營業(yè)額可表示為顯然為一復合Poisson 過程。第五章 離散參數(shù)Markov鏈5.1 Markov鏈的基本概念1、Markov鏈和轉(zhuǎn)移概率矩陣定義5-1考慮只取有限個或可數(shù)個值的隨機過程。把過程所取可能值得全體稱為它的狀態(tài)空間，記之為E，通常假設。若就說“過程在時刻n處于狀態(tài)i”，假設每當過程處于狀態(tài)i，則在下一個時刻將處于狀態(tài)j的概率是固

33、定的，即對任意時刻n若對任意狀態(tài)有這樣的隨機過程稱為Markov鏈。稱矩陣是一步轉(zhuǎn)移概率矩陣，簡稱為轉(zhuǎn)移矩陣。由的定義可知，這是一種帶有平穩(wěn)轉(zhuǎn)移概率的Markov鏈，也稱作時間齊次Markov鏈或簡稱時齊次Markov鏈。2、例題例5-1（直線上的隨機游動）考慮在直線上整數(shù)點上運動的粒子，當它處于位置j時，向右轉(zhuǎn)移到j+1的概率為p，而向左移動到j-1的概率為q=p-1，又設時刻0時粒子處在原點，即。于是粒子在時刻n所處的位置就是一個Markov鏈，且具有轉(zhuǎn)移概率當時，稱為簡單對稱隨機游動。例5-6（排隊模型）考慮顧客到服務臺排隊等候服務，在每個服務周期中只要服務臺前有顧客在等待，就要對排隊在

34、隊前的一位顧客提供服務，若服務臺前無顧客時就不實施服務。設在第n個服務周期中到達的顧客數(shù)為一隨機變量，且序列是獨立同分布隨機序列，即且設為服務周期n開始時服務臺前顧客數(shù)，則有此時為一Markov鏈，其轉(zhuǎn)移概率矩陣為。例5-8（生滅鏈）觀察某種生物群體，以表示在時刻n群體的數(shù)目，設為i個數(shù)量單位，如在時刻n+1增生到i+1個數(shù)量單位的概率為，減滅到i-1個數(shù)量單位的概率為，保持不變的概率為，則為齊次馬爾可夫鏈，其轉(zhuǎn)移概率為,稱此馬爾可夫鏈為生滅鏈。3、定理5-1設隨機過程滿足：（1）其中，且取值在E上；（2）為獨立同分布隨機變量，且與也相互獨立，則是Markov鏈，而且其一步轉(zhuǎn)移概率為，對于任意

35、，證：設，由上面(1)、(2)可知，與互相獨立，所以有同理即是Markov鏈，由時間齊次性，其一步轉(zhuǎn)移概率為于是定理5-1得證。4、定理5-2時齊次Markov鏈完全由其初始狀態(tài)的概率分布和其轉(zhuǎn)移概率矩陣所確定。證：對于任意，計算有限維聯(lián)合分布，由概率的乘法公式及馬氏性可知定理5-2得證。5、例題例5-9（二項過程）設在每次試驗中，事件A發(fā)生的概率為，獨立地重復進行這項試驗，以表示到第n次為止事件A發(fā)生的次數(shù)，則是一個獨立平穩(wěn)增量過程。實際上，由二項分布知識可知，服從二項分布，故稱此為二項過程。若令增量易見是第n次試驗中事件A發(fā)生的次數(shù)，其概率為且即為一個獨立平穩(wěn)增量過程，當然是一齊次Mark

36、ov過程。5.2 Chapman-Kolmogorov方程1、定理5-3（Chapman-Kolmogorov（切普曼-柯爾莫哥洛夫）方程，C-K方程）對任何整數(shù)，有或證：這里只需要證明成立，再依次遞推即可證明定理5-3。因為根據(jù)矩陣的乘法規(guī)則，定理得證。 注：定義m步轉(zhuǎn)移概率 表示給定時刻n時，過程處于狀態(tài)i，間隔m步之后過程在時刻n+m轉(zhuǎn)移到了狀態(tài)j的條件概率。還約定。以表示第i行、第j列的元素矩陣，稱為Markov鏈的n步轉(zhuǎn)移概率矩陣。2、例題（兩狀態(tài)Markov鏈）例5-10在重復獨立貝努里（Bernoulli）試驗中，每次試驗有兩種狀態(tài)，設表示第n次試驗中出現(xiàn)的結(jié)果，且有其中，則顯然

37、是獨立同分布隨機序列，從而它是Markov鏈。于是經(jīng)過計算有所以，一步轉(zhuǎn)移概率矩陣為而且有5.3 Markov鏈的狀態(tài)分類1、互通定義5-2稱自狀態(tài)i可達狀態(tài)j，并記，如果存在，使，稱狀態(tài)i與j互通（相同，互達），并記為，如且。2、定理5-4可達關系與互通關系都具有傳遞性，即如果且，則。證：因為有，所以存在，使由C-K方程這里，所以成立。若將可達關系得證明正向進行，再反向進行，就可得出互通關系的傳遞性，證畢。3、周期定義5-3設為齊次Markov鏈，其狀態(tài)空間為E。對于任意，如果集合非空，則稱該集合的最大公約數(shù)為狀態(tài)i的周期，若就稱狀態(tài)i為有周期的，且周期為d；若就稱狀態(tài)i為非周期的。4、定理

38、5-5如果Markov鏈狀態(tài)i的周期為d，則存在正整數(shù)M，對一切，有。證：設，令則故存在正整數(shù)N，使得，因此故存在正整數(shù)M，對一切，由初等數(shù)論有由于，因而當時定理5-5得證。5、首達時間定義5-4設狀態(tài)，首達時間定義為表示Markov鏈從狀態(tài)i出發(fā)，首次到達狀態(tài)j的時間，稱為自i到j的首達時間。表示從i出發(fā)，首次回到i的時間。6、首達概率設狀態(tài)，首達概率定義為而且令表示過程從狀態(tài)i出發(fā)經(jīng)n步首次到達狀態(tài)j的概率，稱為首達概率。再令它表示過程從狀態(tài)i出發(fā)經(jīng)有限步到達狀態(tài)j的概率，即從狀態(tài)i出發(fā)經(jīng)有限步終于到達狀態(tài)j的概率。7、常返定義5-6稱狀態(tài)i為常返的，如果；稱狀態(tài)i為非常返的（或稱為瞬時的

39、），如果。定義5-7設狀態(tài)i為常返狀態(tài)（即），如果，則稱常返態(tài)i為正常返的；如果，則稱常返態(tài)i為零常返的。非周期的正常返態(tài)稱為遍歷狀態(tài)。 注：對于常返態(tài)i，由定義知，即構(gòu)成一概率分布，此分布的數(shù)學期望為，表示由i出發(fā)再返回到i的平均返回時間。8、定理5-6對任意狀態(tài)及，有證：由轉(zhuǎn)移概率的定義得定理5-6討論了首達概率與轉(zhuǎn)移概率之間的關系。C-K方程即上式是馬氏鏈的關鍵性公式，它們可以把分解成較低步轉(zhuǎn)移概率之和的形式。9、定理5-7對任意狀態(tài)，的充分條件是。證：充分性.如果，則存在，使得，由定理5-6有從而中至少有一個為正，所以必要性如果，由，至少有一個，使得。由定理5-6有即說明成立，證畢。1

40、0、定理5-8狀態(tài)i常返的充分條件為如果狀態(tài)i為非常返，當且僅當推論5-1 若狀態(tài)j為非常返的，則對于任意，有推論5-2若狀態(tài)j為常返態(tài)，則（1）當，有（2）當時（即不可達時），有11、定理5-9對任意狀態(tài)，有12、定理5-10狀態(tài)i常返當且僅當；如果i非常返，則。13、定理5-11設i常返且有周期d，則其中為i的平均返回時間。當時，。推論5-3設i是常返狀態(tài)，則i是零常返狀態(tài)i是遍歷狀態(tài)14、定理5-12如果（即互通），則i與j同為常返或非常返，如果為常返，則它們同為正常返或零常返；i與j有同樣的周期。5.4 閉集與狀態(tài)空間的分解1、閉集定義5-8狀態(tài)空間E的子集C稱為（隨機）閉集，如果對任

41、意及都有。若C的狀態(tài)是互通的，閉集C稱為不可約的。馬氏鏈稱為不可約的，如果其狀態(tài)空間不可約。2、相關引理引理5-1C是閉集的充要條件是對任意的，都有引理5-2設馬氏鏈的狀態(tài)空間為E，已知狀態(tài)i常返，若，則狀態(tài)必常返，且。證明： 引理5-3Markov鏈具有如下性質(zhì)：（1） Markov鏈所有常返態(tài)構(gòu)成一閉集；（2） 不可約Markov鏈或者全是常返態(tài)，或者全是非常返態(tài)。3、定理5-13（分解定理）任一馬氏鏈的狀態(tài)空間E，可唯一的分解成有限個或可列個互不相交的子集之和，使得（1） 每一是常返態(tài)組成的不可約閉集；（2） 中的狀態(tài)同類，或全是正常返，或全是零常返，它們有相同的周期且；（3） D由全體

42、非常返狀態(tài)組成，自中的狀態(tài)不能到達D中的狀態(tài)。注：分解定理中的集D不一定是閉集，但如果E為有限集，D一定是非閉集。因此，如果最初質(zhì)點是自某一非常返狀態(tài)出發(fā)，則它可能就一直在D中運動，也可能在某一時刻離開D轉(zhuǎn)移到某一常返閉集中。一旦質(zhì)點進入后，它將永遠在此中運動。4、例題例5-14（平面上（或二維）的對稱隨機游動）設質(zhì)點的位置是平面上的整數(shù)格點，每個位置有4 個相鄰的位置，質(zhì)點分別以1/4的概率轉(zhuǎn)移到這4個相鄰位置中的每一個上。討論平面上對稱隨機游動的常返性。解：可以看出，平面上對稱隨機游動是周期為2的不可約馬氏鏈。可以計算質(zhì)點經(jīng)過2n步仍回到原位置的概率。這時質(zhì)點必須與橫坐標平行地向右移動k步

43、，向左也移動k步；與縱坐標平行地向上移動步，向下也移動步，而且，所以因此有于是，平面上的對稱隨機游動也是常返的。5、隨機矩陣定義5-9稱矩陣為隨機矩陣，如果元素非負且對每個有顯然Markov鏈的一步轉(zhuǎn)移矩陣和n步轉(zhuǎn)移矩陣都為隨機矩陣。6、定理5-14引理5-4設為閉集，又是C上所得的（即與C相應的）m步轉(zhuǎn)移子矩陣，則G是隨機矩陣。定理5-14考慮周期為d的不可約馬氏鏈，其狀態(tài)空間C可唯一地分解為d個互不相交的子集之和，即，其中當時，而且使得自中任一狀態(tài)出發(fā)，經(jīng)一步轉(zhuǎn)移必進入中（其中）7、例題例題5-16設不可約Markov鏈的狀態(tài)空間，其轉(zhuǎn)移概率矩陣為試分解此鏈。解：由于第四行第四列都只有一個

44、非零元素，所以考慮狀態(tài)4，易知其周期，因此根據(jù)定理5-14，有于是有5.5 轉(zhuǎn)移概率的極限狀態(tài)與平穩(wěn)分布1、定理5-15定理5-15若j為非常返狀態(tài)或零常返狀態(tài)，則對任意，有證明：當j為常返狀態(tài)時，由推論5-1有且當j為零常返狀態(tài)時，取，有固定m，令，由推論5-3的結(jié)論知，故上式右方第一項趨于0；再令，第二項因為收斂而趨于0，于是有即證明了定理5-15成立。=（二次極限）推論5-4有限Markov鏈至少有一個常返態(tài)，但有限Markov鏈沒有零常返狀態(tài)。推論5-5不可約有限Markov鏈只有正常返狀態(tài)。推論5-6若Markov鏈有一零常返狀態(tài)，則必有無限多個零常返狀態(tài)。2、定理5-16若j為正常

45、返狀態(tài)，周期為d，則對任意及，有式中為狀態(tài)j的平均返回時間。3、遍歷鏈定義5-10若對于一切，極限存在，則稱該Markov鏈具有遍歷性。此鏈又稱為遍歷鏈。4、定理5-17定理5-17若j是非周期，正常返狀態(tài)（即遍歷態(tài)），則其中為狀態(tài)j的平均返回時間。推論5-7（1）對于不可約Markov鏈，若它的狀態(tài)是非周期、正常返的，則它是遍歷鏈，而且有（2）對于不可約Markov鏈，若它的狀態(tài)有限且非周期的，則它是遍歷鏈，而且有。5、平穩(wěn)分布定義5-11設Markov鏈有轉(zhuǎn)移概率矩陣，若存在一個概率分布，其滿足則稱為該Markov鏈的平穩(wěn)分布。6、定理5-18定理5-18不可約非周期Markov鏈是正常返的充要條件是它存在平穩(wěn)分布，且此時平穩(wěn)分布就是極限分布。推論5-8（1） 對于不可約非周期Markov鏈，若所有狀態(tài)是正常返（即鏈的遍歷的），則