現(xiàn)代數(shù)字信號處理課件：離散隨機信號及信號模型

離散隨機信號及信號模型2.1離散隨機過程的概念及性質(zhì)2.2時域離散隨機信號的統(tǒng)計描述2.3隨機序列數(shù)字特征的估計2.4線性系統(tǒng)對隨機信號的響應(yīng)2.5時間序列信號模型

2.1離散隨機過程的概念及性質(zhì)

信號按其性質(zhì)分，有確定性信號和隨機信號。所謂確定性信號，就是信號的幅度隨時間的變化有一定的規(guī)律性，可以用一個明確的數(shù)學(xué)關(guān)系進(jìn)行描述，是可以再現(xiàn)的。而隨機信號隨時間的變化沒有明確的變化規(guī)律，在任何時間的信號大小都不能預(yù)測，因此不可能用一明確的數(shù)學(xué)關(guān)系進(jìn)行描述，但這類信號的分布存在著一定的統(tǒng)計信號規(guī)律，它可以用概率密度函數(shù)、概率分布函數(shù)、數(shù)字特征等進(jìn)行描述。實際中的隨機信號常有四種形式:

(1)連續(xù)隨機信號:時間變量和幅度均取連續(xù)值的隨機信號。

(2)時域離散隨機信號(簡稱隨機序列):時間變量取離散值，而幅度取連續(xù)值的隨機信號。

(3)幅度離散隨機信號:幅度取離散值，而時間變量取連續(xù)值的隨機信號。例如隨機脈沖信號，其取值只有兩個電平，不是高電平就是低電平，但高低電平的選取卻是隨機的。

(4)離散隨機序列(也稱為隨機數(shù)字信號):幅度和時間變量均取離散值的信號。定義1

設(shè)已給概率空間(Ω，Γ，P)，Z為整數(shù)集，若對每一整數(shù)n(n∈Z)，均有定義在(Ω，Γ，P)上的一個隨機變量x(ω，n)(ω∈Ω)與之對應(yīng)，則稱依賴于參數(shù)n的一列隨機變量x(ω，n)為一離散時間隨機過程或隨機序列，記為{x(ω，n)，ω∈Ω，n∈Z}，簡記為{x(n)，n∈Z}或{xn}。隨機序列有以下特點:

(1)隨機序列中任何一點上的取值都是不能先驗確定的隨機變量。一個隨機信號(或序列)是一個隨機過程，在它的每個時間點上的取值都是隨機的，可用一個隨機變量表示?；蛘哒f，一個隨機過程是由一個隨機試驗所產(chǎn)生的隨機變量依時序組合而得到的序列。今后我們用{x(n)}表示一個隨機序列，而用x(n)表示時間為n的點上的一個隨機變量。顯然，任何一個具體實驗所得到的序列(例如圖2.1所示的序列x1(n))都只能是隨機序列的一個樣本序列(或一個實現(xiàn))。圖2.1拋硬幣得到的隨機樣本序列

(2)隨機序列可以用它的統(tǒng)計平均特性來表征。一個隨機序列中的每一個隨機變量都可以用確定的概率分布特性來統(tǒng)計地描述，即可通過統(tǒng)計平均特性來表征。

(3)平穩(wěn)隨機信號的能量化表示。一隨機信號各頻率的能量稱為功率譜密度(簡稱功率譜)。一個平穩(wěn)的隨機信號的功率譜是確定的，因此，功率譜可以統(tǒng)計表征一個隨機過程的譜特性。我們將會知道，一個信號的功率譜是這個信號的自相關(guān)函數(shù)的傅立葉變換。功率譜和自相關(guān)函數(shù)是一個傅立葉變換對，它們相互唯一地確定，而且都是信號的一種(二維)統(tǒng)計平均表征，分別從不同域的側(cè)面表征著一個隨機過程的最本質(zhì)的性質(zhì)。因此，對于一個觀測到的隨機信號，重要的是確定它的功率譜密度函數(shù)和自相關(guān)函數(shù)。

2.2時域離散隨機信號的統(tǒng)計描述

2.2.1時域離散隨機信號(隨機序列)的概率描述

隨機序列和連續(xù)隨機信號一樣，可以用概率密度函數(shù)和概率分布函數(shù)進(jìn)行描述。

1.概率分布函數(shù)

對于隨機變量Xn，其概率分布函數(shù)用下式描述:

(2.2.1)

式中，P表示概率。

2.概率密度函數(shù)

如果Xn取連續(xù)值，其概率密度函數(shù)用下式描述:

(2.2.2)式(2.2.1)和式(2.2.2)分別稱為隨機序列的一維概率分布函數(shù)和一維概率密度函數(shù)，它們只描述隨機序列在某一時刻n的統(tǒng)計特性。而對于隨機序列，不同n的隨機變量之間并不是孤立的，為了更加完整地描述隨機序列，需要了解二維及多維統(tǒng)計特性。二維概率分布函數(shù):(2.2.3)對于連續(xù)隨機變量，其二維概率密度函數(shù)為(2.2.4)以此類推，N維概率分布函數(shù)為(2.2.5)對于連續(xù)隨機變量，其N維概率密度函數(shù)為(2.2.6)2.2.2隨機序列的數(shù)字特征

1.數(shù)學(xué)期望(統(tǒng)計平均值)

隨機序列的數(shù)學(xué)期望定義為(2.2.7)式中，E表示求統(tǒng)計平均值。由式(2.2.7)可見，數(shù)學(xué)期望是n的函數(shù)，如果隨機序列是平穩(wěn)的，則數(shù)學(xué)期望是常數(shù)，與n無關(guān)。

2.均方值與方差

隨機序列均方值定義為

(2.2.8)隨機序列的方差定義為(2.2.9)可以證明，上式也可以寫為:(2.2.10)一般均方值和方差都是n的函數(shù)，但對于平穩(wěn)隨機序列，它們與n無關(guān)，是常數(shù)。如果隨機變量Xn代表電壓或電流，則其均方值表示在n時刻消耗在1Ω電阻上的集合平均功率，方差則表示消耗在1Ω電阻上的交變功率的集合平均。有時將σx稱為標(biāo)準(zhǔn)方差。

3.隨機序列的相關(guān)函數(shù)和協(xié)方差函數(shù)

我們知道，在隨機序列不同時刻的狀態(tài)之間存在著關(guān)聯(lián)性，或者說不同時刻的狀態(tài)之間互相有影響，包括隨機序列本身或者不同隨機序列之間。這一特性常用自相關(guān)函數(shù)和互相關(guān)函數(shù)進(jìn)行描述。

自相關(guān)函數(shù)定義為

(2.2.11)自協(xié)方差函數(shù)定義為(2.2.12)式中的“*”表示復(fù)共軛。上式也可以寫成(2.2.13)對于零均值隨機序列，

，則這種情況下，自相關(guān)函數(shù)和自協(xié)方差函數(shù)沒有什么區(qū)別。對于兩個不同的隨機序列之間的關(guān)聯(lián)性，我們用互相關(guān)函數(shù)和互協(xié)方差函數(shù)描述。互相關(guān)函數(shù)的定義為(2.2.14)式中，表示Xn和Ym的聯(lián)合概率密度。

互協(xié)方差函數(shù)定義為(2.2.15)同樣，當(dāng)時，有cov(Xn，Ym)=rxy(n，m)2.2.3平穩(wěn)隨機序列及其數(shù)字特征

在信息處理與傳輸中，經(jīng)常遇到一類稱為平穩(wěn)隨機序列的重要信號。所謂平穩(wěn)隨機序列，是指它的N維概率分布函數(shù)或N維概率密度函數(shù)與時間n的起始位置無關(guān)。換句話說，平穩(wěn)隨機序列的統(tǒng)計特性不隨時間的平移而發(fā)生變化。如果將隨機序列在時間上平移k，其統(tǒng)計特性滿足下式:(2.2.16)那么這類隨機序列就稱為平穩(wěn)隨機序列。經(jīng)常將上面這類隨機序列稱為狹義(嚴(yán))平穩(wěn)隨機序列，這一嚴(yán)平穩(wěn)的條件在實際情況下很難滿足。許多隨機序列不是嚴(yán)平穩(wěn)隨機序列，但它們的均值和均方差卻不隨時間而改變，其相關(guān)函數(shù)僅是時間差的函數(shù)。一般將這一類隨機序列稱為廣義(寬)平穩(wěn)隨機序列。下面我們重點分析廣義平穩(wěn)隨機序列。為簡單起見，將廣義平穩(wěn)隨機序列簡稱為平穩(wěn)隨機序列。

平穩(wěn)隨機序列的一維概率密度函數(shù)與時間無關(guān)，因此均值、方差和均方值均與時間無關(guān)，它們可分別用下式表示:

(2.2.17)(2.2.18)(2.2.19)二維概率密度函數(shù)僅決定于時間差，與起始時間無關(guān)；自相關(guān)函數(shù)與自協(xié)方差函數(shù)是時間差的函數(shù)。自相關(guān)函數(shù)

rxx(m)與自協(xié)方差函數(shù)covxx(m)分別用下式表示:

(2.2.20)(2.2.21)

對于兩個各自平穩(wěn)且聯(lián)合平穩(wěn)的隨機序列，其互相關(guān)函數(shù)為(2.2.22)顯然，對于自相關(guān)函數(shù)和互相關(guān)函數(shù)，下面的公式成立:(2.2.23)(2.2.24)如果對于所有的m，滿足公式:rxy(m)=0，則稱兩個隨機序列互為正交。如果對于所有的m，滿足公式:rxy(m)=mxmy，

covxy(m)=0，則稱兩個隨機序列互不相關(guān)。

實平穩(wěn)隨機序列的相關(guān)函數(shù)、協(xié)方差函數(shù)具有以下重要性質(zhì):

(1)自相關(guān)函數(shù)和自協(xié)方差函數(shù)是m的偶函數(shù)，用下式表示:

rxx(m)=rxx(－m)，covxx(m)=covxx(－m)

(2.2.25)

rxy(m)=ryx(－m)，covxy(m)=covyx(－m)

(2.2.26)

(2)

(2.2.27)

rxx(0)數(shù)值上等于隨機序列的平均功率。

(3)

(2.2.28)(4)(2.2.29)(2.2.30)上式說明大多數(shù)平穩(wěn)隨機序列內(nèi)部的相關(guān)性隨著時間差的變大，將會愈來愈弱。(5)(2.2.31)三種定義之間的關(guān)系為對于實平穩(wěn)隨機序列，三種定義的自相關(guān)函數(shù)是一樣的。自相關(guān)函數(shù)與互相關(guān)函數(shù)如下本書采用第三種定義方法。2.2.4平穩(wěn)隨機序列的功率譜

我們知道，平穩(wěn)隨機序列是非周期函數(shù)，且是能量無限信號，無法直接利用傅立葉變換進(jìn)行分析。但自相關(guān)函數(shù)也是非周期序列，卻隨著時間差m的增大，而趨近于隨機序列的均值。如果隨機序列的均值為0，即mx=0，rxx(m)是收斂序列，其Z變換用Pxx(z)表示如下:(2.2.32)且(2.2.33)將式(2.2.33)進(jìn)行Z變換，得到

(2.2.34)如果z1是其極點，則(z1－1)*也是極點。如果z1在單位圓內(nèi)，則(z1－1)*必須在單位圓外。收斂域一定包含單位圓。pxx(z)的收斂域有以下形式:類似地，互相關(guān)函數(shù)的Z變換用Pxy(z)表示，有(2.2.35)(2.2.36)由于Pxx(z)的收斂域包含單位圓，因此rxx(m)的傅立葉變換存在。令z=exp(jω)，代入式(2.2.32)，有

(2.2.37)(2.2.38)將m=0代入上式，得到(2.2.39)按照式(2.2.27)，rxx(0)就等于隨機序列的平均功率，因此將Pxx(ejω)稱為功率譜密度，或者簡稱為功率譜。式(2.2.37)、式(2.2.38)表示的一對傅立葉變換式稱為維納—辛欽定理。對于實平穩(wěn)隨機序列功率譜，有以下性質(zhì):

(1)功率譜是ω的偶函數(shù):

Pxx(ω)=Pxx(－ω)

(2.2.40)

這一結(jié)果可直接由自相關(guān)函數(shù)是時間差的偶函數(shù)證明。由于功率譜和自相關(guān)函數(shù)都是實、偶函數(shù)，因此它們還可以表示為(2.2.41)(2.2.42)

(2)功率譜是實的非負(fù)函數(shù)，即

Pxx(ω)≥0

此性質(zhì)的證明見下節(jié)。類似地，對于互功率譜，有(2.2.43)(2.2.44)(2.2.45)2.2.5隨機序列的各態(tài)歷經(jīng)性

我們知道集合平均要求對大量的樣本進(jìn)行平均，實際中這種做法是不現(xiàn)實的。在很多情況下，可以用一條樣本曲線描述隨機序列，因此可以用樣本曲線進(jìn)行測量和分析。

設(shè)x(n)是平穩(wěn)隨機序列X(n)的一條樣本曲線，其時間平均值為

(2.2.46)類似地，其時間自相關(guān)函數(shù)為(2.2.47)式中，〈·〉表示時間平均算子。如果平穩(wěn)隨機序列的集合平均值與集合自相關(guān)函數(shù)值依概率趨于平穩(wěn)隨機序列樣本函數(shù)的時間平均值與時間自相關(guān)函數(shù)，即滿足下面兩式:

〈x(n)〉=mx=E[X(n)]

(2.2.48)

〈x*(n)x(n+m)〉=rxx(m)=E[X*(n)X(n+m)]

(2.2.49)

則稱該平穩(wěn)隨機序列具有各態(tài)歷經(jīng)性。平穩(wěn)隨機序列雖有各態(tài)歷經(jīng)性的和非各態(tài)歷經(jīng)性的兩種，但在實際中遇到的平穩(wěn)隨機序列，一般都是各態(tài)歷經(jīng)性的。這樣我們用研究平穩(wěn)隨機序列的一條樣本曲線代替研究其集合，用時間平均代替集合平均，就給研究平穩(wěn)隨機序列帶來了很大的方便。2.2.6隨機信號的采樣定理

對于平穩(wěn)隨機信號，如果其功率譜嚴(yán)格限制在某一有限頻帶內(nèi)，則該隨機信號稱為帶限隨機信號。如果平穩(wěn)隨機信號X(t)的功率譜Pxx(Ω)滿足下式:

Pxx(Ω)=0，|Ω|≥Ωc

則稱X(t)為低通性帶限隨機信號，式中Ωc表示功率譜的最高截止頻率。

設(shè)以采樣間隔T對平穩(wěn)隨機信號X(t)進(jìn)行采樣，采樣后隨機序列為X(n)，只要采樣頻率fs滿足

(2.2.50)或者則有以下采樣插值公式:(2.2.51)可以證明，在均方意義上，X(t)等于，即(2.2.52)

2.3隨機序列數(shù)字特征的估計

2.3.1估計準(zhǔn)則

一般來說，根據(jù)觀測數(shù)據(jù)對一個量(參數(shù))或者同時對幾個量(參數(shù))進(jìn)行推斷，是估計問題。例如，通信工程中的信號參數(shù)和波形，包括振幅、頻率、相位、時延和瞬時波形。這里無論對何種量都必須根據(jù)觀測值進(jìn)行估計，而觀測存在觀測誤差(或者把觀測誤差看成噪聲)。雖然被估計的參數(shù)是確定量，觀測數(shù)據(jù)卻是隨機的，由觀測值推算出的估計量存在隨機估計誤差。因此如何判定估計方法的好壞，是統(tǒng)計估計的基本問題。假定對隨機變量x觀測了N次，得到N個觀測值:x0,x1,x2,…,xN－1,希望通過這N個觀測值估計參數(shù)α，稱α為真值，它的估計值用表示。是觀測值的函數(shù)，假定該函數(shù)關(guān)系用F[·]表示為

(2.3.1)

估計誤差用表示，，這里和都是隨機變量。作為隨機變量，就存在一定的統(tǒng)計分布規(guī)律。設(shè)的概率密度曲線如圖2.2所示，圖中α是要估計的參數(shù)，如果估計值接近α的概率很大，則說這是一種比較好的估計方法。圖2.2估計量的概率密度曲線

1.偏移性

令估計量的統(tǒng)計平均值與真值之間的差值為偏移B。其公式為(2.3.2)如果B=0，稱為無偏估計。無偏估計表示估計量僅在它的真值附近擺動，這是我們希望有的估計特性。如果B≠0，則稱為有偏估計。如果隨著觀察次數(shù)N的加大，能夠滿足下式:(2.3.3)則稱為漸進(jìn)無偏估計，這種情況在實際中是經(jīng)常有的。

2.估計量的方差

如果兩個估計量的觀察次數(shù)相同，又都是無偏估計，哪一個估計量在真值附近的擺動更小一些，即估計量的方差更小一些，就說這一個估計量的估計更有效。

如果和都是x的兩個無偏估計值，對任意N，

它們的方差滿足下式:式中

3.一致性——均方誤差

在許多情況下，比較兩個有偏估計值是比較麻煩的。偏移較小的估計值可能有較大的方差，而方差較小的估計值可能有較大的偏移，此時使用與估計值有關(guān)的均方誤差會更方便。估計量的均方誤差用下式表示:(2.3.4)如果估計量的均方誤差隨著觀察次數(shù)的增加趨于0，即估計量隨N的加大，在均方意義上趨于它的真值，則稱該估計是一致估計。估計量的均方誤差與估計量的方差和偏移的關(guān)系推導(dǎo)如下:

(2.3.5)上式表示，隨N的加大，偏移和估計量方差都趨于零，是一致估計的充分必要條件。通常對于一種估計方法的選定，往往不能使上述的三種性能評價一致，此時只能對它們折衷考慮，盡量滿足無偏性和一致性。2.3.2均值的估計

假設(shè)已取得樣本數(shù)據(jù)xi(i=0，1，2，…，N－1)，均值的估計量用下式計算:(2.3.6)式中，N是觀察次數(shù)。下面用已介紹的方法評價它的估計質(zhì)量。

1.偏移(2.3.7)因此B=0，說明這種估計方法是無偏估計。

2.估計量的方差與均方誤差在計算上式時，與數(shù)據(jù)內(nèi)部的相關(guān)性有關(guān)，先假設(shè)數(shù)據(jù)內(nèi)部不相關(guān)，那么(2.3.8)(2.3.9)上式表明，估計量的方差隨觀察次數(shù)N的增加而減少，當(dāng)N→∞時，估計量的方差趨于0。這種情況下估計量的均方誤差為

這樣，當(dāng)N→∞時，B=0，，是一致估計。結(jié)論是:當(dāng)數(shù)據(jù)內(nèi)部不相關(guān)時，按照式(2.3.7)估計值，是一種無偏的一致估計，是一種好的估計方法。如果數(shù)據(jù)內(nèi)部存在關(guān)聯(lián)性，會使一致性的效果下降，估計量的方差比數(shù)據(jù)內(nèi)部不存在相關(guān)情況的方差要大，達(dá)不到信號方差的1/N。此時

當(dāng)序列的n與i相差m時，E[(xn－mx)(xi－mx)]=cov(m)，而N點數(shù)據(jù)中相距m點的樣本有N－m對，因此(2.3.10)式中

式(2.3.10)表明當(dāng)數(shù)據(jù)之間存在相關(guān)性時，按照式(2.3.6)估計均值，其估計量的方差下降不到真值的1/N。也可將式(2.3.10)表示成(2.3.11)如果希望估計量的方差改進(jìn)K倍，令，則可以利用式(2.3.11)估計需要的樣本數(shù)據(jù)的點數(shù)N。2.3.3方差的估計

已知N點樣本數(shù)據(jù)xi(i=0，1，2，…，N－1)，假設(shè)數(shù)據(jù)之間不存在相關(guān)性，且信號的均值mx已知，方差用下式估計:

(2.3.12)可以證明這是一致估計，但實際中一般mx是不知道的。下面分析數(shù)據(jù)之間不存在相關(guān)性，均值也不知道的情況下，方差的估計方法。方差估計用下式計算:(2.3.13)式中的均值估計值用式(2.3.7)計算。下面分析它的偏移性，按照式(2.3.13)，有

(2.3.14)式中的第二項已經(jīng)推出，即式(2.3.8)。式中的第三項推導(dǎo)如下:(2.3.15)將式(2.3.8)和式(2.3.15)代入式(2.3.14)，得到(2.3.16)上式表明，按照式(2.3.6)估計方差，是有偏估計，但是漸進(jìn)無偏。為了得到無偏估計，可以用下式計算:(2.3.17)和之間的關(guān)系是(2.3.18)將上式兩邊取統(tǒng)計平均值，并將式(2.3.17)代入，得到

(2.3.19)上式表明，按照式(2.3.17)計算方差，是無偏估計。另外可以證明它也是一致估計，證明從略。如果數(shù)據(jù)之間存在相關(guān)性，也按照式(2.3.18)進(jìn)行方差估計，可以證明是有偏估計，但是漸近無偏估計。方差估計值的統(tǒng)計平均值為(2.3.20)2.3.4隨機序列自相關(guān)函數(shù)的估計

設(shè)只觀測到實隨機序列x(n)的一段樣本數(shù)據(jù)，n=0，1，2，…，N－1，利用這一段樣本數(shù)據(jù)估計自相關(guān)函數(shù)的方法有兩種，即無偏自相關(guān)函數(shù)估計和有偏自相關(guān)函數(shù)估計。

1.無偏自相關(guān)函數(shù)的估計

無偏自相關(guān)函數(shù)的估計公式為將上面兩式寫成一個表達(dá)式:(2.3.21)下面分析這種自相關(guān)函數(shù)的估計質(zhì)量，首先分析偏移性:

(2.3.22)因此B=0，這是一種無偏估計。下面推導(dǎo)估計量的方差:(2.3.23)為了分析簡單，假設(shè)x(n)是實的、均值為0的高斯隨機信號，求和號內(nèi)的部分可以寫成下式:(2.3.24)

圖2.3求和域的變化式中，令r=k－n，此時求和域發(fā)生了變化，如圖2.3所示。根據(jù)變化后的求和域(k，r)，估計量的方差推導(dǎo)如下:

(2.3.25)一般觀測數(shù)據(jù)量N很大，則有(2.3.26)上式中，只有當(dāng)N>>m，N→∞時，估計量的方差才趨于0。但是當(dāng)m→N時，方差將很大，因此，這種估計方法在一般情況下不是一種好的估計方法；雖然是無偏估計，也不能算是一致估計。在推導(dǎo)過程中，曾假設(shè)信號為高斯信號，對于非高斯信號該結(jié)論也正確。

2.有偏自相關(guān)函數(shù)的估計

有偏自相關(guān)函數(shù)用表示，計算公式如下:(2.3.27)對比式(2.3.21)，不同點是求平均時只用N去除，這是不合理的，但下面可推導(dǎo)出它服從漸近一致估計的原則，比無偏自相關(guān)函數(shù)的估計誤差小，因此以后需要由觀測數(shù)據(jù)估計自相關(guān)函數(shù)時，均用上式進(jìn)行計算。下面先分析它的偏移性。無偏自相關(guān)函數(shù)與有偏自相關(guān)函數(shù)的關(guān)系式為(2.3.28)因為是無偏估計，因此得到(2.3.29)上式說明是有偏估計，但是漸近無偏，其偏移為(2.3.30)在式(2.3.29)中，的統(tǒng)計平均值等于其真值乘以三角窗函數(shù)ωB(m)(或稱巴特利特窗函數(shù))，即(2.3.31)三角窗函數(shù)的波形如圖2.4所示。只有當(dāng)m=0時，才是無偏的，其他m值都是有偏的，但當(dāng)N→∞時，ωB(m)→1，B→0，因此是漸近無偏。圖2.4三角窗函數(shù)下面推導(dǎo)它的估計量方差。

估計量的方差為

(2.3.32)可得到(2.3.32)顯然，當(dāng)N→∞時，并且

2.4線性系統(tǒng)對隨機信號的響應(yīng)

所謂系統(tǒng)，用數(shù)學(xué)語言來表述，就是從輸入序列{x(n)，n∈Z}到輸出序列{y(n)，n∈Z}的映射,記為L，如果輸入序列{x(n)，n∈Z}和輸出序列{y(n)，n∈Z}滿足如下關(guān)系:

(2.4.1)則稱L為線性(時不變)系統(tǒng)；稱{h(k)，k∈Z}為線性系統(tǒng)的沖激響應(yīng)，它是線性系統(tǒng)的時域表征。如果k<0時的h(k)=0，則L是因果的。此時(2.4.2)若沖激響應(yīng){h(k)，k∈Z}滿足條件(2.4.3)就稱L是穩(wěn)定的，穩(wěn)定意味著有界的輸入導(dǎo)致了有界的輸出。事實上，若有正數(shù)M使得對一切n∈Z，都有|x(n)|<M，那么在實踐中，常見的系統(tǒng)都是穩(wěn)定和因果的線性系統(tǒng)。2.4.1線性時不變系統(tǒng)對隨機輸入的響應(yīng)

定理1

設(shè)輸入{x(n)，n∈Z}是平穩(wěn)序列，jxx(m)和Pxx(ω)分別為其自相關(guān)函數(shù)和功率譜密度，且jxx(m)絕對可和，L是線性時不變系統(tǒng)，其沖激響應(yīng)為h(n)，響應(yīng)頻率為H(ω),且滿足(1)(2)則有:

(1)L的輸出{y(n)，n∈Z}為

(2.4.4)

(2){y(n)}的均值函數(shù)和相關(guān)函數(shù)分別為(2.4.5)

(3){y(n)}的功率譜密度存在，且(2.4.6)證明由所列(2)，根據(jù)均方收斂準(zhǔn)則可知，y(n)存在，且y(n)的均值my按定義為

這里h(·)是確定的系統(tǒng)特性。又因x(n)是平穩(wěn)的隨機過程，其E[x(n)]=E[x(n－k)]=mx所以(2.4.7)即當(dāng)mx是與時間無關(guān)的常數(shù)時，my也是與時間無關(guān)的常數(shù)。由于輸出y(n)的自相關(guān)函數(shù)為

因為x(n)是平穩(wěn)的，所以E[x*(n－k)x(n+m－r)]=jxx(m+k－r)可見(2.4.8)由于求和結(jié)果與n無關(guān),因此輸出自相關(guān)序列也只與時間差m有關(guān)。于是可以得出結(jié)論:對于線性非時變系統(tǒng),如果用一個平穩(wěn)隨機信號激勵,其輸出信號也將是一個平穩(wěn)隨機信號。按假設(shè)條件及維納-辛欽公式知，{x(n)，n∈Z}有譜密度Pxx(ω)，而

于是再由維納—辛欽公式即可斷言{y(n)，n∈Z}也有譜密度Pyy(ω)，—π≤ω≤π。并由式,可得

，式(2.4.6)得證，定理1證畢。令l=r－k，式(2.4.8)可表示為(2.4.9)這里

(2.4.10)v(l)可稱為h(·)的自相關(guān)序列，它是一個時間卷積的結(jié)果。h(n)是一確定的(而不是隨機的)序列，并無統(tǒng)計平均的含義可言，它是h(n)與h(－n)的卷積，具有相關(guān)函數(shù)的形式，隱含了系統(tǒng)特性h(·)的前后波及性，將式(2.4.10)代入式(2.4.9)得(2.4.11)這個公式與求確知信號響應(yīng)的卷積公式十分相似。確知信號的輸出等于輸入與系統(tǒng)的沖激響應(yīng)的卷積，而這里的輸出、輸入則是與輸出和輸入隨機序列相對應(yīng)的自相關(guān)函數(shù)。系統(tǒng)的“沖激響應(yīng)”h(n)則換成了h(n)的自相關(guān)序列v(m)。式(2.4.11)是隨機過程-線性系統(tǒng)理論中極為有用和重要的一個基本關(guān)系式。它可用文字作如下表述:x(n)與h(n)卷積的自相關(guān)，等于x(n)的自相關(guān)和h(n)的自相關(guān)的卷積。這可推廣為卷積的相關(guān)，等于相關(guān)的卷積(見后面的式(2.4.16)及圖2.5的例子)，并可用公式形式表示如下:

如果

e(n)=a(n)*b(n)

f(n)=c(n)*d(n)

則ef(m)=jac(m)*jbd(m)

(2.4.12)

這個關(guān)系稱為相關(guān)—卷積定理，它在許多信號處理問題的求解中十分有用。2.4.2系統(tǒng)輸入、輸出的互相關(guān)函數(shù)與互譜密度

現(xiàn)在讓我們來討論關(guān)于線性非時變系統(tǒng)的輸入和輸出之間的互相關(guān)函數(shù)jxy(m)及互譜密度Pxy(ω)。

定理2

設(shè)線性時不變系統(tǒng)L的輸入和輸出分別為平穩(wěn)序列{x(n)，n∈Z}和{y(n)，n∈Z},且{x(n)}存在譜密度Pxx(ω)，則系統(tǒng)的輸入{x(n)}與輸出{y(n)}平穩(wěn)相關(guān)，且它們的互譜密度函數(shù)為

Pxy(ω)=H(ω)Pxx(ω)，Pyx(ω)=H*(ω)Pxx(ω)

(2.4.13)

其中H(ω)為L的頻率響應(yīng)。證明按定義

(2.4.14)式(2.4.14)又稱為輸入—輸出互相關(guān)定理。將式(2.4.14)代入式(2.4.11)得(2.4.15)設(shè)mx=0(自相關(guān)函數(shù)的Z變換存在)，將式(2.4.14)與式(2.4.15)轉(zhuǎn)換到z域，則有

Φxy(z)=H(z)Φxx(z)

(2.4.16)

Φyy(z)=H(z－1)Φxy(z)

(2.4.17)如用功率譜表示則有Pxy(ω)=H(ejw)Pxx(ω)

(2.4.18)Pyy(ω)=H(e－jω)Pxy(ω)

(2.4.19)式(2.4.14)與式(2.4.15)說明了一個線性非時變系統(tǒng)的輸入與輸出間的互相關(guān)函數(shù)jxy(m)同輸入自相關(guān)函數(shù)jxx(m)及輸出自相關(guān)函數(shù)jyy(m)間的關(guān)系:jxy(m)等于jxx(m)與h(m)的卷積，而jyy(m)等于jxy(m)與h(－m)的卷積，這是兩個有用的關(guān)系式。當(dāng)輸入為白噪聲時，其功率譜密度Pxx(ω)為常數(shù)，按式

可得上式表明這個常數(shù)就是σ2x，故在白噪聲情況下有Pxx(ω)=σ2x=E[|x(n)|2]=平均功率，mx=0

(2.4.20)jxx(m)=F－1[Pxx(ω)]=σ2xδ(m)

(2.4.21)式(2.4.20)說明白噪聲的功率在頻率軸上的分布密度處處相同(等于σ2x)，并且它就等于輸入信號的平均功率。將式(2.4.21)代入式(2.4.14)，得jxy(m)=σ2xh(m)

(2.4.22)將式(2.4.21)代入式(2.4.18)則可得

Pxy(ω)=H(ejω)Pxx(ω)=σ2xH(ejω)

(2.4.23)

式(2.4.22)和式(2.4.23)說明由白噪聲激勵的線性非時變系統(tǒng)，其輸入、輸出互相關(guān)函數(shù)正比于系統(tǒng)的沖激響應(yīng)式h(m)，而其輸入、輸出的互功率譜正比于系統(tǒng)的頻率響應(yīng)

H(ejω)。因此,式(2.4.22)和式(2.4.23)常用于通過估計jxy(m)或Pxy(ω)來估計線性非時變系統(tǒng)的沖激響應(yīng)或頻率響應(yīng)。

例2.1

在圖2.5中，如果已知隨機序列x(n)與y(n)的互相關(guān)函數(shù)jxy(m)，試證明:

(1)Φyv(z)=H1(z)Φyx(z)

Φvy(z)=H1(z－1)Φxy(z)

(2)Φvw(z)=H2(z)Φvy(z)

Φwv(z)=H2(z－1)Φyv(z)

(3)Φvw(z)=H1(z－1)H2(z)Φxy(z)

Φwv(z)=H1(z)H2(z－1)Φyx(z)圖2.5證明:

(1)按定義有所以

Φyv(z)=Z[jyv(m)]=H1(z)Φyz(z)

(2.4.24)又因為Φxy(m)=Φyx(－m)jyv(m)=jvy(－m)所以有

Φxy(z)=Φyx(z－1)

Φyv(z)=Φvy(z－1)

將以上兩式代入式(2.4.24)得

Φvy(z－1)=H1(z)Φxy(z－1)

將上式中z用z－1代入即得

Φvy(z)=H1(z－1)Φxy(z)

(2.4.25)

(2)同理可證

jvw(m)=E[v(n)w(n+m)]=h2(m)jvy(m)

(2.4.26)

所以

Φvw(z)=H2(z)Φvy(z)

(2.4.27)

又因為Φvw(z)=Φwv(z－1)，所以，式(2.4.27)即為

Φwv(z－1)=H2(z)Φyv(z－1)將上式中z用z－1代入即得

Φwv(z)=H2(z－1)Φyv(z)

(2.4.28)

式(2.4.24)、式(2.4.25)、式(2.4.27)與式(2.4.28)正是我們所要證明的結(jié)果。例2.1的第(3)題作為習(xí)題，請讀者自行完成。建議按步驟證明而勿直接利用式(2.4.27)與式(2.4.28)。請把本例的結(jié)果轉(zhuǎn)入時域，利用相關(guān)卷積定理證明。

2.5時間序列信號模型

隨機序列主要采用自相關(guān)函數(shù)和功率譜密度函數(shù)進(jìn)行研究。對于平穩(wěn)隨機序列，近年來從時間序列分析角度，又提出了另外一種研究方法，即時間序列信號模型法。這種模型是一個線性模型，它具有連續(xù)功率譜的特性，在功率譜估計方面，表現(xiàn)出很大的優(yōu)點，對于研究平穩(wěn)隨機序列是一種很有效的方法。許多平穩(wěn)隨機序列都可以看成是由典型噪聲源激勵一個線性系統(tǒng)產(chǎn)生的，這種噪聲源一般是白噪聲序列源。假設(shè)該線性穩(wěn)定系統(tǒng)的系統(tǒng)函數(shù)用H(z)表示，如圖2.6所示，圖中ω(n)是均值為0、方差為σ2ω的白噪聲。圖2.6平穩(wěn)隨機序列的信號模型2.5.1三種時間序列模型

假設(shè)信號模型用一個p階差分方程描述:

x(n)+a1x(n－1)+…+apx(n－p)

=ω(n)+b1ω(n－1)+…+bqω(n－q)

(2.5.1)

式中，ω(n)是均值為0、方差為σ2ω的白噪聲；x(n)是我們要研究的隨機序列。根據(jù)系數(shù)取值，將模型分成以下三種。

1.滑動平均模型(MovingAverage，簡稱MA模型)

當(dāng)式(2.5.1)中ai=0，i=1，2，3，…，p時，該模型稱為MA模型。其模型差分方程和系統(tǒng)函數(shù)分別用下式表示:

x(n)=ω(n)+b1ω(n－1)+…+bqω(n－q)

(2.5.2)

H(z)=B(z)

B(z)=1+b1z－1+b2z－2+…+bqz－q…

(2.5.3)

上式表明該模型只有零點，沒有除原點以外的極點，因此該模型也稱為全零點模型。如果模型全部零點都在單位圓內(nèi)部，則是一個最小相位系統(tǒng)，且模型是可逆的。

2.自回歸模型(Autoregressive，簡稱AR模型)

當(dāng)式(2.5.1)中bi=0，i=1，2，3，…，q時，該模型稱為AR模型。其模型差分方程和系統(tǒng)函數(shù)分別用下式表示:

x(n)+a1x(n－1)+a2x(n－2)+…+apx(n－p)=ω(n)

(2.5.4)(2.5.5)上式表明該模型只有極點，沒有除原點以外的零點，因此該模型也稱為全極點模型。只有當(dāng)全部極點都在單位圓內(nèi)部時，模型才穩(wěn)定。

3.自回歸-滑動平均模型(簡稱ARMA模型)

該模型的差分方程用式(2.5.1)描述，系統(tǒng)函數(shù)用下式表示:(2.5.6)式中，分子部分稱為MA部分，分母部分稱為AR部分，這兩部分無公共因子，應(yīng)分別滿足穩(wěn)定性和可逆性的條件。2.5.2三種時間序列信號模型的適應(yīng)性

為了說明三種信號模型都有普遍適用性質(zhì)，我們首先介紹沃爾德(Wold)分解定理。

(1)沃爾德分解定理:任意一個實平穩(wěn)隨機序列x(n)均可以分解成:x(n)=u(n)+v(n),式中u(n)是確定性信號,v(n)是具有連續(xù)譜分布函數(shù)的平穩(wěn)隨機MA序列。這里確定性部分可以不存在或者事先去掉，MA部分常常是有限階的。該定理說明MA信號模型具有普遍使用的性質(zhì)。由于ARMA信號模型包含了MA模型部分，因此ARMA信號模型也具有普遍適用性質(zhì)。對于AR信號模型的適用性，下面予以說明。

(2)任意一個MA序列可用無限階AR信號模型表示，或者用階數(shù)足夠大的AR信號模型近似表示。證明如下:

設(shè)MA序列為對上式進(jìn)行Z變換得到

X(z)=B(z)W(z)式中，B(z)是MA信號模型的系統(tǒng)函數(shù)，或者說是bi(i=1，2，3，…)序列的Z變換。設(shè)MA信號模型滿足可逆性條件，即B－1(z)存在，令

B－1(z)=G(z)=1+g1z－1+g2z－2+…這樣

X(z)G(z)=(1+g1z－1+g2z－2+…)X(z)=W(z)

對上式進(jìn)行Z反變換，得到

x(z)+g1x(n－1)+g2x(n－2)+…=ω(n)

上式表示的就是x(n)的AR信號模型差分方程，因此證明了一個時間序列可以用有限階MA信號模型表示的同時，也可以用無限階的AR模型表示，對于ARMA模型也同樣可以證明。下面舉例說明。

例如，ARMA模型系統(tǒng)函數(shù)為

設(shè)AR模型系統(tǒng)函數(shù)用HAR(z)表示，即

令HAR(z)=H(z)，即可以求出ci系數(shù):以上說明MA和ARMA模型可以用無限階AR模型表示。反過來的結(jié)論也正確。例如:用MA模型表示:2.5.3自相關(guān)函數(shù)、功率譜與時