第二章-隨機(jī)過程

第二章隨機(jī)過程2.1隨機(jī)過程的基本概念2.2平穩(wěn)隨機(jī)過程2.3高斯過程2.4噪聲2.5隨機(jī)過程通過線性系統(tǒng)2.6窄帶隨機(jī)過程1自然界中事物的變化過程可以大致分成為兩類：1.確定性過程其變化過程具有確定的形式。數(shù)學(xué)上，可以用一個(gè)或幾個(gè)時(shí)間t的確定函數(shù)來描述。2.隨機(jī)過程沒有確定的變化形式。每次對(duì)它的測(cè)量結(jié)果沒有一個(gè)確定的變化規(guī)律。數(shù)學(xué)上，這類事物變化的過程不可能用一個(gè)或幾個(gè)時(shí)間t的確定函數(shù)來描述。2.1隨機(jī)過程基本概念2隨機(jī)過程的基本特征：其一：在觀察區(qū)間內(nèi)是一個(gè)時(shí)間函數(shù)；其二：任一時(shí)間上觀察到的值是不確定的，是一個(gè)隨機(jī)變量。實(shí)現(xiàn)：每一個(gè)時(shí)間函數(shù)為一個(gè)實(shí)現(xiàn)。即一個(gè)樣本函數(shù)。隨機(jī)過程可看成是一個(gè)全部可能實(shí)現(xiàn)構(gòu)成的總體。即所有樣本函數(shù)的集合。

設(shè)Sk(k=1,2,…)是隨機(jī)試驗(yàn)。每一次試驗(yàn)都有一條時(shí)間波形（稱為樣本函數(shù)），記作xi(t)，所有可能出現(xiàn)的結(jié)果的總體{x1(t),x2(t)，…,xn(t)，…}構(gòu)成一隨機(jī)過程，記作ξ(t)。3圖2-1-1樣本函數(shù)的總體（隨機(jī)過程）4設(shè)ξ(t)表示一個(gè)隨機(jī)過程，在任意給定的時(shí)刻t1

其取值ξ(t1)是一個(gè)一維隨機(jī)變量。隨機(jī)變量的統(tǒng)計(jì)特性可以用分布函數(shù)或概率密度函數(shù)來描述。把隨機(jī)變量ξ(t1)小于或等于某一數(shù)值x1的概率記為F1(x1,t1)，稱為ξ(t1)的一維分布函數(shù)，即（2-1-1）5同理，任給t1,t2,…,tn∈T,則ξ(t)的n維分布函數(shù)被定義為為ξ(t)的n維概率密度函數(shù)。稱為ξ(t)的一維概率密度函數(shù)。如果F1對(duì)x1的導(dǎo)數(shù)存在，即（2-1-2）6隨機(jī)過程的數(shù)字特征用數(shù)字特征來描述隨機(jī)過程的統(tǒng)計(jì)特性，更簡(jiǎn)單直觀。數(shù)字特征是指均值、方差和相關(guān)系數(shù)。是從隨機(jī)變量的數(shù)字特征推廣而來的。(1)數(shù)學(xué)期望（均值）表示隨機(jī)過程的n個(gè)樣本函數(shù)曲線的擺動(dòng)中心。即均值（2-1-3）補(bǔ)充：離散數(shù)據(jù)的期望7(2)方差

表示隨機(jī)過程在時(shí)刻t對(duì)于均值a(t)的偏離程度。即均方值與均值平方之差。t時(shí)刻方差等于隨機(jī)變量平方的均值與均值平方之差。也常記作稱為隨機(jī)過程ξ(t)的方差或均方差。（2-1-4）8(3)協(xié)方差函數(shù)和相關(guān)函數(shù)協(xié)方差函數(shù)定義為相關(guān)函數(shù)(反映同一過程的相關(guān)程度)反映隨機(jī)過程在任意兩個(gè)時(shí)刻上獲得的隨機(jī)變量之間的關(guān)聯(lián)程度（2-1-5）（2-1-6）9式中若為零（或?yàn)榱悖﹦t：（2-1-6）協(xié)方差函數(shù)和相關(guān)函數(shù)的關(guān)系10互協(xié)方差函數(shù)（針對(duì)兩個(gè)隨機(jī)過程）互相關(guān)函數(shù)（針對(duì)兩個(gè)隨機(jī)過程）將相關(guān)函數(shù)的概念引伸到兩個(gè)隨機(jī)過程，也可以引伸到多個(gè)隨機(jī)過程和分別表示兩個(gè)隨機(jī)過程。（2-1-7）（2-1-8）11例題課后2.1，2.2122.3

平穩(wěn)隨機(jī)過程1平穩(wěn)隨機(jī)過程的定義任何n維分布函數(shù)或概率密度函數(shù)與時(shí)間起點(diǎn)無關(guān)。也稱為嚴(yán)平穩(wěn)隨機(jī)過程定義中n和τ是任意的，因此，一維分布與t無關(guān)，二維分布只與t1，t2間隔有關(guān)。（2-3-1）13平穩(wěn)隨機(jī)過程的數(shù)字特征：均值方差相關(guān)函數(shù)τ表示時(shí)間間隔。擺動(dòng)中心為一條直線。因?yàn)榕c時(shí)間t無關(guān)（2-2-2）（2-2-3）（2-2-4）結(jié)論：①均值，方差與時(shí)間無關(guān)。

②相關(guān)函數(shù)只與時(shí)間間隔有關(guān)。14滿足上式則稱ξ(t)為廣義平穩(wěn)隨機(jī)過程或?qū)捚椒€(wěn)隨機(jī)過程。嚴(yán)平穩(wěn)隨機(jī)過程（狹義平穩(wěn)隨機(jī)過程）只要均方值有界，它必定是廣義平穩(wěn)隨機(jī)過程。反之不一定成立。152各態(tài)歷經(jīng)性平穩(wěn)過程在一定條件下具有一個(gè)非常有用的特性，稱為各態(tài)歷經(jīng)性：具有各態(tài)歷經(jīng)性的過程，其數(shù)字特征完全由隨機(jī)過程的任一實(shí)現(xiàn)的時(shí)間平均值來代替統(tǒng)計(jì)平均。設(shè)x(t)是平穩(wěn)過程ξ(t)的任意一個(gè)樣本，則其時(shí)間均值和時(shí)間相關(guān)系數(shù)分別定義為（2-2-5）（2-2-6）（2-2-7）16如果平穩(wěn)過程使下式成立稱該平穩(wěn)過程ξ(t)具有各態(tài)歷經(jīng)性。意義：隨機(jī)過程中的任一次實(shí)現(xiàn)都經(jīng)歷了隨機(jī)過程的所有可能狀態(tài)。具有各態(tài)歷經(jīng)性隨機(jī)過程一定是平穩(wěn)過程，反之不一定成立。求解各種統(tǒng)計(jì)平均時(shí)（實(shí)際中很難獲得大量樣本），無需作無限多次考察，只要獲得一次考察，用一次實(shí)現(xiàn)的時(shí)間平均值代替過程的統(tǒng)計(jì)平均即可。（2-2-8）173.平穩(wěn)過程的自相關(guān)函數(shù)在平穩(wěn)過程中，均值、方差、自相關(guān)、互相關(guān)函數(shù)這四個(gè)數(shù)學(xué)特征中，自相關(guān)函數(shù)是最重要的一個(gè)。

基本性質(zhì)：①②③R(0)為ξ(t)的平均功率R(τ)為τ的偶函數(shù)R(0)：自己和自己相關(guān)值，最大（2-2-9）18⑤④證明：平均功率與均值的平方之差。當(dāng)τ→∞時(shí)ξ(t)與ξ(t+τ)變得沒有依賴關(guān)系(統(tǒng)計(jì)獨(dú)立),且ξ(t)不含有周期分量。19例題例題2-3-1204.平穩(wěn)過程的功率譜密度確定信號(hào)的功率譜密度確知信號(hào)分為能量信號(hào)和功率信號(hào)。對(duì)于能量信號(hào)發(fā)如滿足狄氏條件，且絕對(duì)可積，即則存在傅立葉變換，而它的能量E可表示為上式為帕塞伐爾等式，其中稱為的能譜密度。（2-2-10）（2-2-11）補(bǔ)充傅里葉變換21對(duì)于功率信號(hào)，其能量為無限大，只能考慮其平均功率P。0tt圖2-3-2功率信號(hào)及其截短（2-2-12）22為截短函數(shù)。能量及平均功率（2-2-13）（2-2-14）（2-2-15）23當(dāng)極限存在時(shí)，令于是的平均功率功率譜密度。稱為（2-2-16）（2-2-17）表示為24所以與為一傅立葉變換對(duì)。（2-2-19）確知功率信號(hào)的自相關(guān)函數(shù)與功率譜密度的關(guān)系25平穩(wěn)隨機(jī)過程的美一個(gè)實(shí)現(xiàn)是一個(gè)時(shí)間信號(hào)，并且為功率信號(hào)，因而每個(gè)實(shí)現(xiàn)的功率譜可以用來表示。但是隨機(jī)過程的每個(gè)實(shí)現(xiàn)是不能預(yù)知的，所以，每個(gè)實(shí)現(xiàn)的功率譜密度不能作為隨機(jī)過程的功率譜密度，必須進(jìn)行統(tǒng)計(jì)平均。26平穩(wěn)隨機(jī)過程的功率譜密度與自相關(guān)函數(shù)是一對(duì)傅里葉變換（2-2-20）（2-2-21）27功率譜密度有如下性質(zhì)：（1）功率譜密度為偶函數(shù)。28（2）功率譜密度在頻率上的面積等于隨機(jī)過程的平均功率。（3）為非負(fù)實(shí)函數(shù)。29練習(xí)例題2-3-230高斯隨機(jī)過程也稱正態(tài)隨機(jī)過程，是通信領(lǐng)域中最重要的一種隨機(jī)過程。大多數(shù)的噪聲是一種高斯隨機(jī)過程。（補(bǔ)充正態(tài)分布）定義若隨機(jī)過程X(t)的任意n維分布都服從正態(tài)分布，則稱之為高斯過程或正態(tài)過程。其n維正態(tài)概率密度函數(shù)為式中

|B|為歸一化協(xié)方差矩陣的行列式

|B|jk

為|B|中元素bjk

的代數(shù)余子式

bjk為歸一化協(xié)方差函數(shù)2.3.高斯隨機(jī)過程31若干重要性質(zhì)(1)高斯過程的n維分布只依賴于各個(gè)隨機(jī)變量的數(shù)學(xué)期望、方差，以及兩兩之間的歸一化協(xié)方差函數(shù)所決定，因此對(duì)于高斯過程的研究主要在于其數(shù)字特征。32

(2)如果以個(gè)高斯過程是廣義平穩(wěn)的，則它也是狹義平穩(wěn)的。廣義平穩(wěn)的隨機(jī)過程，其均值與時(shí)間無關(guān)，協(xié)方差函數(shù)只與時(shí)間間隔有關(guān)，而與時(shí)間起點(diǎn)無關(guān)。高斯過程的其n維分布由性質(zhì)（1）也與時(shí)間起點(diǎn)無關(guān)，故也是嚴(yán)平穩(wěn)的。(3)如果高斯過程在不同時(shí)刻的取值是不相關(guān)的，即對(duì)所有j

k，有bjk=0，此時(shí)有(4)高斯過程經(jīng)過線性變換后得到的過程仍然是高斯過程。即若線性系統(tǒng)的輸入為高斯過程，則其輸出也為高斯過程.這時(shí)n維概率密度函數(shù)可以用各自的概率密度函數(shù)的乘機(jī)表示。332.4噪聲物理系統(tǒng)中對(duì)信號(hào)的傳輸與處理起擾亂作用而又不能完全控制的一種不需要的波形稱為噪聲。散粒噪聲又稱散彈噪聲，它是電子器件中電流的離散性質(zhì)所引起的。散粒噪聲的平均值為零，幅度的概率函數(shù)為高斯分布。熱噪聲是指導(dǎo)體中電子的隨機(jī)運(yùn)動(dòng)所產(chǎn)生的一種電噪聲。它是均值為零的高斯分布。34高斯噪聲當(dāng)噪聲的任意n維分布都服從高斯分布，成為高斯噪聲。散粒噪聲和熱噪聲都屬于高斯分布。白噪聲：如果噪聲的功率譜密度在所有頻率上均為一常數(shù)，則稱該噪聲為白噪聲。記為：其中為單邊功率譜密度，單位為瓦/赫茲(W/Hz)（2-4-1）35圖2-5-1白噪聲的功率譜密度和自相關(guān)函數(shù)。白噪聲只是構(gòu)造的理想化的噪聲形式或數(shù)學(xué)抽象，在實(shí)際中，只要噪聲功率譜分布遠(yuǎn)遠(yuǎn)大于通頻帶，即可視為白噪聲。它在任意兩個(gè)不同時(shí)刻之間互不相關(guān)，且統(tǒng)計(jì)獨(dú)立。（2-4-2）36高斯噪聲與白噪聲高斯噪聲是指它的統(tǒng)計(jì)特性服從高斯分布，并不涉及其功率譜密度的形狀；白噪聲則是就其功率譜密度是均勻分布而言，不論它服從什么樣的概率分布。一般把既服從高斯分布而功率密譜密度又是均勻分布的噪聲稱為高斯白噪聲或白色的高斯噪聲。372.6

平穩(wěn)隨機(jī)過程通過線性系統(tǒng)通信的目的在于傳輸信號(hào)，信號(hào)和系統(tǒng)總是聯(lián)系在一起的。通信系統(tǒng)中的信號(hào)或噪聲一般都是隨機(jī)的，因此在以后的討論中我們必然會(huì)遇到這樣的問題：隨機(jī)過程通過系統(tǒng)（或網(wǎng)絡(luò)）后，輸出過程將是什么樣的過程？這里，我們只考慮平穩(wěn)過程通過線性時(shí)不變系統(tǒng)的情況。隨機(jī)信號(hào)通過線性系統(tǒng)的分析，完全是建立在確知信號(hào)通過線性系統(tǒng)的分析原理的基礎(chǔ)之上的。我們知道，線性系統(tǒng)的響應(yīng)y(t)等于輸入信號(hào)x(t)與系統(tǒng)的單位沖激響應(yīng)h(t)的卷積，即（2-5-1）38線性系統(tǒng):當(dāng)一個(gè)系統(tǒng)的行為滿足疊加原理時(shí)，這個(gè)系統(tǒng)稱為線性系統(tǒng)。單位沖激響應(yīng):在單位沖激信號(hào)δ(t)激勵(lì)下，系統(tǒng)的零狀態(tài)響應(yīng)稱為單位沖激響應(yīng)，用h(t)表示。零狀態(tài)響應(yīng):不考慮原始時(shí)刻系統(tǒng)的儲(chǔ)能作用(起始狀態(tài)為0)，由系統(tǒng)的外加激勵(lì)信號(hào)產(chǎn)生的響應(yīng)。線性時(shí)不變系統(tǒng)可由其單位沖激響應(yīng)h(t)或其頻率響應(yīng)H(f)來表示。39若線性系統(tǒng)是物理可實(shí)現(xiàn)的，則（2-5-2）（2-5-3）線性系統(tǒng)的響應(yīng)y(t)等于輸入信號(hào)x(t)與系統(tǒng)的單位沖激響應(yīng)h(t)的卷積40當(dāng)線性系統(tǒng)的輸入端加上隨機(jī)過程時(shí)，對(duì)于的每一個(gè)樣本函數(shù)（i=1,2,…），系統(tǒng)的輸出都有一個(gè)和它相對(duì)應(yīng)，而的整個(gè)集合就構(gòu)成了輸出過程（2-5-4）41如果是平穩(wěn)隨機(jī)過程，則：（2-5-5）輸出隨機(jī)過程的數(shù)學(xué)期望輸出表達(dá)式：42因?yàn)椋?-5-6）輸出過程的數(shù)學(xué)期望就等于輸入過程的數(shù)學(xué)期望乘以H

(0)。物理意義：平穩(wěn)隨機(jī)過程的數(shù)學(xué)期望就是它的直流分量，所以當(dāng)通過線性系統(tǒng)后，輸出的直流分量就是輸出的直流分量乘以系統(tǒng)的直流傳遞函數(shù)H(0).43自相關(guān)函數(shù)44根據(jù)平穩(wěn)性

于是可見,ξo(t)的自相關(guān)函數(shù)只依賴時(shí)間間隔τ而與時(shí)間起點(diǎn)t1無關(guān)。由以上輸出過程的數(shù)學(xué)期望和自相關(guān)函數(shù)證明，若線性系統(tǒng)的輸入過程是平穩(wěn)的，那么輸出過程也是平穩(wěn)的。（2-5-7）45輸出過程ξo(t)的功率譜密度令則：46可見，系統(tǒng)輸出功率譜密度是輸入功率譜密度與系統(tǒng)功率傳輸函數(shù)的乘積。這是十分有用的一個(gè)重要公式。當(dāng)我們想得到輸出過程的自相關(guān)函數(shù)時(shí)，比較簡(jiǎn)單的方法是先計(jì)算出功率譜密度，然后求其反變換，這比直接計(jì)算要簡(jiǎn)便得多。

例帶限白噪聲。試求功率譜密度為n0/2的白噪聲通過理想矩形的低通濾波器后的功率譜密度、自相關(guān)函數(shù)和噪聲平均功率。理想低通的傳輸特性為H(ω)=K0e-jwt0其他47解：由上式可得：則自相關(guān)函數(shù)功率譜密度為輸出噪聲的平均功率為：我們把正弦函數(shù)sin(t)與自變量t的比值稱為抽樣函數(shù)或Sa(t)函數(shù)，其表達(dá)式為Sa(t)=sin(t)/t48圖2-6-2帶限白噪聲的功率譜和自相關(guān)函數(shù)49總可以確定輸出過程的分布。其中一個(gè)十分有用的情形是：如果線性系統(tǒng)的輸入過程是高斯型的，則系統(tǒng)的輸出過程也是高斯型的。因?yàn)閺姆e分原理來看，上式可表示為一個(gè)和式的極限，即（2-5-8）

輸出過程ξo(t)的概率分布從原理上看，在已知輸入過程分布的情況下，50由于ξi(t)已假設(shè)是高斯型的，所以，在任一時(shí)刻的每項(xiàng)ξi(t-τk)h(τk)Δτk都是一個(gè)高斯隨機(jī)變量。因此，輸出過程在任一時(shí)刻得到的每一隨機(jī)變量，都是無限多個(gè)高斯隨機(jī)變量之和。由概率論得知，這個(gè)”和”的隨機(jī)變量也是高斯隨機(jī)變量。這就證明，高斯過程經(jīng)過線性系統(tǒng)后其輸出過程仍為高斯過程。更一般地說，高斯過程經(jīng)線性變換后的過程仍為高斯過程。但要注意，由于線性系統(tǒng)的介入，與輸入高斯過程相比，輸出過程的數(shù)字特征已經(jīng)改變了。512.7

窄帶隨機(jī)過程在通信系統(tǒng)中，許多實(shí)際的信號(hào)和噪聲都滿足“窄帶”的假設(shè)，即其頻譜被限制在“載波”或某中心頻率附近一個(gè)窄的頻帶上，而這個(gè)中心頻率fc離開零頻率又相當(dāng)遠(yuǎn)。例如：無線廣播系統(tǒng)中的中頻信號(hào)及噪聲就是如此。如果這時(shí)的信號(hào)或噪聲是一個(gè)隨機(jī)過程，則稱它們?yōu)檎瓗щS機(jī)過程。在通信系統(tǒng)中,許多實(shí)際信號(hào)和噪聲都滿足窄帶的假設(shè)窄帶隨機(jī)過程的一個(gè)樣本波形如同一個(gè)包絡(luò)和隨機(jī)相位緩變的正弦波。52圖2-7-1窄帶過程的頻譜和波形示意△f:窄帶帶寬fc：中心頻率53因此，窄帶隨機(jī)過程ξ(t)可用下式表示也可以表示成：其中（2-6-1）（2-6-2）54同相和正交分量的統(tǒng)計(jì)特性

設(shè)窄帶過程ξ(t)是平穩(wěn)高斯窄帶過程，且均值為零。下面將證明它的同相分量和正交分量也是零均值的平穩(wěn)高斯過程，而且與ξ(t)具有相同的方差。

數(shù)學(xué)期望

因?yàn)棣?t)為平穩(wěn)，且均值為零，那么對(duì)任意的時(shí)間t，又有期望為零。則：（2-6-3）（2-6-4）55自相關(guān)函數(shù)其中：（2-6-5）56因?yàn)棣?t)是平穩(wěn)的，則相關(guān)函數(shù)與時(shí)間t無關(guān)，僅與有關(guān)。可以令t=0，則可得：令可得：如果是平穩(wěn)的，則也是平穩(wěn)的。由上式可得：（2-6-6）（2-6-7）（2-6-9）（2-6-8）57將上式代入上式表明，為的奇函數(shù)，所以：同理：即：這表明窄帶隨機(jī)信號(hào)與它的同相分量和正交分量具有相同的方差。另外可得：（2-6-10）（2-6-11）糾錯(cuò)根據(jù)互相關(guān)函數(shù)的性質(zhì)58因?yàn)闉楦咚惯^程，所以是高斯隨機(jī)變量，那么也是高斯過程。

上所述，一個(gè)均值為零的窄帶平穩(wěn)高斯過程，它的同相分量和正