現(xiàn)代信號處理-維納和卡爾曼濾波ppt課件

1、 維納濾波和卡爾曼濾波 2.1 引言引言 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.3 離散維納濾波器的離散維納濾波器的z域解域解 2.4 維納預測維納預測 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.1 引引 言言 在消費實際中，觀測到的信號都是遭到噪聲干擾的。如何最大限制地抑制噪聲，并將有用信號分別出來，是信號處置中經(jīng)常遇到的問題。換句話說，信號處置的目的就是要得到不受干擾影響的真正信號。相應的處置系統(tǒng)稱為濾波器。這里，只思索加性噪聲的影響，即觀測數(shù)據(jù)x(n)是信號s(n)與噪聲v(n)之和如圖2.1.1所示, 即 x(n)=s(n)+v(n)2.1.1 圖

2、2.1.1 觀測信號的組成 x(n)s(n)v(n)2.1 引引 言言 2.1 引引 言言 為了得到不含噪聲的信號s(n)，也稱為期望信號，假設(shè)濾波系統(tǒng)的單位脈沖呼應為h(n)如圖2.1.2所示， 系統(tǒng)的期望輸出用yd(n)表示，yd(n)應等于信號的真值s(n)；系統(tǒng)的實踐輸出用y(n)表示，y(n)是s(n)的逼近或估計，用公式表示為yd(n)=s(n)， y(n) = 。因此對信號x(n)進展處置，可以看成是對期望信號的估計，這樣可以將h(n)看作是一個估計器，也就是說, 信號處置的目的是要得到信號的一個最正確估計。那么， 采用不同的最正確準那么，估計得到的結(jié)果能夠不同。 )( nsh(

3、n)x(n)s(n)v(n)y(n)圖 2.1.2 信號處置的普通模型 2.1 引引 言言 假假設(shè)知x(n-1), x(n-2), , x(n-m)，要估計當前及以后時辰的信號值 , N0，這樣的估計問題稱為預測問題；假設(shè)知x(n-1), x(n-2), , x(n-m) ，要估計當前的信號值 ，稱為過濾或濾波； 根據(jù)過去的觀測值x(n-1), x(n-2), , x(n-m)，估計過去的信號值 , N1，稱為平滑或內(nèi)插。 )( ns)( Nns)( Nns2.1 引引 言言 維納(Wiener)濾波與卡爾曼(Kalman)濾波就是用來處理這樣一類從噪聲中提取信號的過濾或預測問題, 并以估計的

4、結(jié)果與信號真值之間的誤差的均方值最小作為最正確準那么。維納濾波器的求解，要求知道隨機信號的統(tǒng)計分布規(guī)律自相關(guān)函數(shù)或功率譜密度，得到的結(jié)果是封鎖公式；維納濾波的最大缺陷是僅適用于一維平穩(wěn)隨機信號，這是由于采用頻域設(shè)計法所呵斥的 。 2.1 引引 言言 1950年，伯特和香農(nóng)給出了當信號的功率譜為有理譜時，由功率譜直接求取維納濾波器傳輸函數(shù)的設(shè)計方法。 采用譜分解的方法求解，簡單易行，具有一定的工程適用價值，并且物理概念清楚。 因此人們逐漸轉(zhuǎn)向在時域內(nèi)直接設(shè)計最正確濾波器的方法。 2.1 引引 言言 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.1 維納濾波器時域求解的方法

5、維納濾波器時域求解的方法根據(jù)線性系統(tǒng)的根本實際，并思索到系統(tǒng)的因果根據(jù)線性系統(tǒng)的根本實際，并思索到系統(tǒng)的因果性，可以得到濾波器的輸出性，可以得到濾波器的輸出y(n), 0)()()()()(mmnxmhnhnxnyn=0, 1, 2, 2.2.2 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.1 維納濾波器時域求解的方法維納濾波器時域求解的方法設(shè)期望信號為，誤差信號及其均方值設(shè)期望信號為，誤差信號及其均方值分別為分別為 ：2.2. 2022)()()(| )()(| )(|mmnxmhndEnyndEneE2.2. )()()()()(nynsnyndne)(nd)(n

6、e| )(|2neE2.2.1 維納濾波器時域求解的方法維納濾波器時域求解的方法要使均方誤差為最小，須滿足要使均方誤差為最小，須滿足因此，上式闡明，均方誤差到達最小值的充要條件因此，上式闡明，均方誤差到達最小值的充要條件是誤差信號與任一進入估計的輸入信號正交，這就是誤差信號與任一進入估計的輸入信號正交，這就是通常所說的正交性原理。是通常所說的正交性原理。0)()(2| )(|*2nejnxEhneEj2.2.5 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.1 維納濾波器時域求解的方法維納濾波器時域求解的方法它的重要意義在于提供了一個數(shù)學方法，用以它的重要意義在于提供了

7、一個數(shù)學方法，用以判別線性濾波系統(tǒng)能否任務于最正確形狀。判別線性濾波系統(tǒng)能否任務于最正確形狀。 下面計算輸出信號與誤差信號的相互關(guān)函數(shù)下面計算輸出信號與誤差信號的相互關(guān)函數(shù) 0*0*)()()( )()()()()(jjnejnxEjhnejnxjhEnenyE(2.2.6) 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.1 維納濾波器時域求解的方法維納濾波器時域求解的方法假定濾波器任務于最正確形狀，濾波器的輸出假定濾波器任務于最正確形狀，濾波器的輸出yopt(n)與期望信號與期望信號d(n)的誤差為的誤差為eopt(n)，把，把2.2.5式代入上式，得到式代入上式，得

8、到 0)()(*nenyEoptopt(2.2.7) eopt(n)d(n)yopt(n)圖 2.2.1 期望信號、 估計值與誤差信號的幾何關(guān)系 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.1 維納濾波器時域求解的方法圖2.2.1闡明在濾波器處于最正確任務形狀時， 估計值加上估計偏向等于期望信號， 即 )(e)()(optoptnnynd留意我們所研討的是隨機信號，圖2.2.1中各矢量的幾何表示應了解為相應量的統(tǒng)計平均或者是數(shù)學期望。再從能量的角度來看，假定輸入信號和期望信號都是零均值, 運用正交性原理,那么, 因此在濾波器處于最正確形狀時， 估計值的能量總是小于等于

9、期望信號的能量。 |2opt22dopteEy2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.2 維納維納霍夫方程霍夫方程將將2.2.5式展開，式展開， 可以得到可以得到將輸入信號分配進去，將輸入信號分配進去， 得到得到0)()()()(0*mmnxmhndknxE)()()(0*kmrmhkrmxxdxk=0, 1, 2, 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.2 維納維納霍夫方程霍夫方程對上式兩邊取共軛，利用相關(guān)函數(shù)的性質(zhì)對上式兩邊取共軛，利用相關(guān)函數(shù)的性質(zhì): 得到得到 ：上式稱為維納上式稱為維納-霍夫霍夫WienerHopf方程。方程

10、。當當h(n)是一個長度為是一個長度為M的因果序列的因果序列(即即h(n)是一個是一個長度為長度為M的的FIR濾波器濾波器)時，時， 維納維納-霍夫方程表述為霍夫方程表述為)()()()()(0krkhmkrmhkrxxmxxxdk=0, 1, 2, 2.2.8)()()()()(10krkhmkrmhkrxxMmxxxd2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 )()(*krkryxxy2.2.2 維納維納霍夫方程霍夫方程把把k的取值代入的取值代入(2.2.9)式，式， 得到：得到：當k=0時，h1rxx(0)+h2rxx(1)+hMrxx(M-1)=rxd(0)k=1時

11、， h1rxx(1)+ h2rxx(0)+ hMrxx(M-2)= rxd(+1) k=M-1時， h1rxx(M-1)+ h2rxx (M-2)+hMrxx(0)= rxd(M-1) (2.2.10) 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.2 維納維納霍夫方程霍夫方程定義定義可以寫成矩陣的方式，可以寫成矩陣的方式， 即即求逆，得到求逆，得到 ：)0()2() 1()2()0()0() 1() 1 ()0(xxxxxxxxxxxxxxxxxxxxrMrMrMrrrMrrrRhRRxxxdxdxxRRh1(2.2.11) 2.2 維納濾波器的離散方式維納濾波器的離

12、散方式時域解時域解 TxdxdxdxdTMMrrrRhhhh),1(,),1 (),0(,212.2.2 維納維納霍夫方程霍夫方程2.2.11式闡明知期望信號與觀測數(shù)據(jù)的相互式闡明知期望信號與觀測數(shù)據(jù)的相互關(guān)函數(shù)及觀測數(shù)據(jù)的自相關(guān)函數(shù)時，可以經(jīng)過矩陣關(guān)函數(shù)及觀測數(shù)據(jù)的自相關(guān)函數(shù)時，可以經(jīng)過矩陣求逆運算，得到維納濾波器的最正確解。同時可以求逆運算，得到維納濾波器的最正確解。同時可以看到，直接從時域求解因果的維納濾波器，看到，直接從時域求解因果的維納濾波器， 中選擇中選擇的濾波器的長度的濾波器的長度M較大時，較大時， 計算任務量很大，計算任務量很大， 并且并且需求計算需求計算Rxx的逆矩陣，從而要

13、求的存貯量也很大。的逆矩陣，從而要求的存貯量也很大。2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 2.2.2 維納維納霍夫方程霍夫方程此外，此外， 在詳細實現(xiàn)時，濾波器的長度是由實驗在詳細實現(xiàn)時，濾波器的長度是由實驗來確定的，假設(shè)想經(jīng)過添加長度提高逼近的精度，來確定的，假設(shè)想經(jīng)過添加長度提高逼近的精度，就需求在新就需求在新M根底上重新進展計算。因此，從時域求根底上重新進展計算。因此，從時域求解維納濾波器，并不是一個有效的方法。解維納濾波器，并不是一個有效的方法。 2.2 維納濾波器的離散方式維納濾波器的離散方式時域解時域解 假設(shè)不思索濾波器的因果性，2.2.8式可以寫為 )()

14、()()()(krkhmkrmhkrxxmxxxd設(shè)定d(n)=s(n)，對上式兩邊做Z變換，得到 Sxs(z)=Hopt(z)Sxx(z) )()()(zSzSzHxxxsopt2.3.12.3 離散維納濾波器的域解離散維納濾波器的域解 Sxs(z)=Sss(z)Sxx(z)=Sss(z)+Svv(z) 假設(shè)信號和噪聲不相關(guān)，即rsv(m)=0，那么 2.3.1式可以寫成 )()()()()()(zSzSzSzSzSzHvvssssxxxsopt2.3.2顯然，當噪聲為0時，信號全部經(jīng)過；當信號為0時， 噪聲全部被抑制掉，因此維納濾波確有濾除噪聲的才干。2.3 離散維納濾波器的域解離散維納濾

15、波器的域解 把信號的頻譜用Pss(ej)表示，噪聲的頻譜用Pvv(ej)表示，那么非因果的維納濾波器的傳輸函數(shù)Hopt(ej)的幅頻特性如圖2.3.1所示。 Hopt(ej)PSS(ej)Pvv(ej)0圖 2.3.1 非因果維納濾波器的傳輸函數(shù)的幅頻特性 2.3 離散維納濾波器的域解離散維納濾波器的域解 011)e (joptHPss(ej)0, Pvv(ej)=0 Pss(ej)0, Pvv(ej) 0 Pss(ej)=0, Pvv(ej) 0 然而實踐的系統(tǒng)都是因果的。對于一個因果系統(tǒng)，不能直接轉(zhuǎn)入頻域求解的緣由是由于輸入信號與期望信號的相互關(guān)序列是一個因果序列，假設(shè)可以把因果維納濾波器

16、的求解問題轉(zhuǎn)化為非因果問題，求解方法將大大簡化。2.3 離散維納濾波器的域解離散維納濾波器的域解 假設(shè)x(n)的信號模型B(z)知如圖2.3.2(a)所示，求出信號模型的逆系統(tǒng)B-1(z)， 并將x(n)作為輸入，那么逆系統(tǒng)B-1(z)的輸出(n)為白噪聲。普通把信號轉(zhuǎn)化為白噪聲的過程稱為白化，對應的濾波器稱為白化濾波器。 圖 2.3.2 x(n)的時間序列信號模型及其白化濾波器 B(z)(n)x(n)B 1(z)(n)x(n)2.3 離散維納濾波器的域解離散維納濾波器的域解 詳細思緒如圖2.3.3所示。用白噪聲作為待求的維納濾波器的輸入，設(shè)定1/B(z)為信號x(n)的白化濾波器的傳輸函數(shù)，

17、那么維納濾波器的傳輸函數(shù)G(z)的關(guān)系為： )()()(zBzGzH(2.3.3) 因此，維納濾波器的傳輸函數(shù)H(z)的求解轉(zhuǎn)化為G(z)的求解。 (n)x(n)G(z)y(n) s(n)(1zB圖 2.3.3 維納濾波解題思緒 2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解 假設(shè)待求維納濾波器的單位脈沖呼應為假設(shè)待求維納濾波器的單位脈沖呼應為(n)，期，期望信號望信號d(n)=s(n)，系統(tǒng)的輸出信號，系統(tǒng)的輸出信號y(n)=s(n)，g(n)是是G(z)的逆的逆Z變換，變換， 如圖如圖2.3.3所示。所示。 kknkgngnnsn

18、y)()()()()( )(2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解kskskkskskkkkkrkrkgrkrkgkrkgkgrnsknkgnsknkgErnknrgkgEnsEknkgnsEneE222ss*22ss*222|)()()0()()()()(| )(|)0()()()()()()()()()()(| )(|)()()(| )(|(2.3.4) 2.3 離散維納濾波器的域解離散維納濾波器的域解 0)()(krkgs -k (2.3.5) 因此g(n)的最正確值為 2)()(krkgsopt -k (2.3.6)

19、2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解可以看出，均方誤差的第一項和第三項都是非可以看出，均方誤差的第一項和第三項都是非負數(shù)負數(shù), 要使均方誤差為最小，當且僅當要使均方誤差為最小，當且僅當 2.3 離散維納濾波器的域解離散維納濾波器的域解 2)()(zSzGsopt(2.3.7) 2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解對上式兩邊同時做對上式兩邊同時做Z變換，得到：變換，得到：這樣，非因果維納濾波器的最正確解為： )()(1)()()(2optoptzBzSzBzGzHs(2.3.8) 2.3 離散維納濾波器的域解離散維納濾波器的域解 (2.3.9) 對上式兩邊

20、做Z變換，得到： 因此： )()()(1zBzSzSxss(2.3.10) 2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解由于，且，根由于，且，根據(jù)相關(guān)卷積定理據(jù)相關(guān)卷積定理, 得到得到 ：)()()(1zBzSzSsxs)(*)()(nbnrnrsxs)(*)()(nnsns)(*)()(nbnnx2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.1 非因果維納濾波器的求解將上式代入(2.3.)式，并根據(jù)x(n)的信號模型，得到非因果的維納濾波器的復頻域最正確解的普通表達式 )()()()()(11)(12optzSzSzBzSzBzHxxxsxs(2.3.11) 假定信號

21、與噪聲不相關(guān)，即當時，有： 0)()(nvnsE)()(*)()()(mrmnsnvnsEmrssxs)()()()(*)()()(mrmrmnvmnsnvnsEmrvvssxx2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.1 非因果維納濾波器的求解對上邊兩式做Z變換, 得到(2.3.12) (2.3.13) )()(zSzSssxs)()()(zSzSzSvvssxx把(2.3.12)式代入(2.3.10)式, 得到 )()()(1zBzSzSsss(2.3.14) 2.3 離散維納濾波器的域解離散維納濾波器的域解 )()()()()()(optzSzSzSzSzSzHvvsss

22、sxxxs)()()()e ()e ()e ()e (jjjjoptvvssssvvssssPPPSSSH(2.3.15) 2.3.1 非因果維納濾波器的求解將2.3.13式和2.3.14式代入2.3.11式, 得到信號和噪聲不相關(guān)時，非因果維納濾波器的復頻域最正確解和頻率呼應分別為(2.3.16) 2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.1 非因果維納濾波器的求解以下推出該濾波器的最小均方誤差E|e(n)|2min的計算, 重新寫出(2.3.4)式的最正確解 kssskrrneE22min2| )(|)0(| )(|2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.

23、1 非因果維納濾波器的求解非因果維納濾波器的求解根據(jù)圍線積分法求逆根據(jù)圍線積分法求逆Z變換的公式變換的公式, rss(m)用下用下式表示式表示: CmsssszzzSmrd)(j21)(1(2.3.17) 得出 CsssszzzSrd)(j21)0(1(2.3.18) 2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解由復卷積定理由復卷積定理 zzzYzXnynxCnd1)(j21)()(*(2.3.19) 取y(n)=x(n), 有 zzzXzXnxCnd)(j21| )(|12(2.3.20) 2.3 離散維納濾波器的域解離散維納濾波

24、器的域解 2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解因此因此 zzzSzSkrCssnsd)()(j21| )(|12(2.3.21) 把(2.3.18)式和(2.3.21)式代入(2.3.4)式， 得到 ：zzzSzSzSneEsssCd)()(1)(j21| )(|12min2(2.3.22) 2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解將將2.3.14式代入上式，式代入上式， 得到得到 zzzSzHzSzzzBzSzBzSzSneEssoptssCsssssCd)()()(j21d)()()()(1)(j21|

25、)(|1112min2(2.3.23) 由于實信號的自相關(guān)函數(shù)是偶函數(shù)，因此： )()(1zSzSssss)()(mrmrssss2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.1 非因果維納濾波器的求解非因果維納濾波器的求解假定信號與噪聲不相關(guān)，假定信號與噪聲不相關(guān)，Es(n)v(n)=0， 那么那么 CxxvvssCssxxsssszzzSzSzSzzzSzSzSzSneEd)()()(j21d)()()()(j21| )(|1min2(2.3.24) 2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.2 2.3.2 因果維納濾波器的求解因果維納濾波器的求解 假設(shè)維納濾波

26、器是一個因果濾波器，假設(shè)維納濾波器是一個因果濾波器， 要求要求 g(n)=0 n0 那么濾波器的輸出信號 0)()()()()( )(kknkgngnnsny(2.3.26) (2.3.25) 2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.2 2.3.2 因果維納濾波器的求解因果維納濾波器的求解估計誤差的均方值估計誤差的均方值 類似于2.3.4式的推導，得到 022202| )(|1)()()0(| )(|kskssskrkrkgrneE(2.3.27) 2.3 離散維納濾波器的域解離散維納濾波器的域解 )()(| )(|22nynsEneE2.3.2 因果維納濾波器的求解因果維納

27、濾波器的求解要使均方誤差獲得最小值，要使均方誤差獲得最小值， 當且僅當當且僅當 )()(000)()(22optnunrnnnrngss(2.3.28) 令 0)()()()(nnsnnssznrznunrzS(2.3.29) (2.3.30) 2.3 離散維納濾波器的域解離散維納濾波器的域解 )(1)(ZT)(2optzSngzGsopt2.3.2 因果維納濾波器的求解因果維納濾波器的求解又由又由2.3.15式得到式得到 )()(1)(12optzBzSzGxs(2.3.31) 所以因果維納濾波器的復頻域最正確解為 )()()(11)()()(12optzBzSzBzBzGzHxsopt(2

28、.3.32) 2.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.2 因果維納濾波器的求解因果維納濾波器的求解維納濾波的最小均方誤差為維納濾波的最小均方誤差為: ksssskrkukrr)()()(1)0(*2022min2| )(|)0(| )(|kssskrrneEzzzSzSrsCsssd)()(1j21)0(12zzzBzSzBzSzSxsxsssCd)()()()(1)(j211122.3 離散維納濾波器的域解離散維納濾波器的域解 2.3.2 因果維納濾波器的求解因果維納濾波器的求解即維納濾波的最小均方誤差為即維納濾波的最小均方誤差為: (2.3.33) zzzSzHzSneE

29、xsssCd)()()(j21| )(|1optmin22.3 離散維納濾波器的域解離散維納濾波器的域解 比較2.3.23式和2.3.33式，可以看出因果維納濾波器的最小均方誤差與非因果維納濾波器的最小均方誤差的方式一樣，但公式中的的表達式不同, 分別參見(2.3.11) 式和(2.3.32)式。)(optzH 2.3.2 因果維納濾波器的求解前面曾經(jīng)導出， 對于非因果情況，kssskrrneE22min2| )(|)0(| )(|對于因果情況， 022min2| )(|)0(| )(|kssskrrneE比較兩式，它們的第二項求和域不同，由于因果情況下，因此可以闡明非因果情況的一定小于等于因

30、果情況。在詳細計算時,可以選擇單位圓作為積分曲線， 運用留數(shù)定理， 計算積分函數(shù)在單位圓內(nèi)的極點的留數(shù)來得到。 2.3 離散維納濾波器的域解離散維納濾波器的域解 min2| )(|neEmin2| )(|neE 0k 2.3.2 因果維納濾波器的求解經(jīng)過前面的分析, 因果維納濾波器設(shè)計的普通方法可以按下面的步驟進展： (1) 根據(jù)觀測信號x(n)的功率譜求出它所對應的信號模型的傳輸函數(shù)，即采用譜分解的方法得到B(z)。詳細方法為，把單位圓內(nèi)的零極點分配給，單位圓外的零極點分配給，系數(shù)分配給。 2.3 離散維納濾波器的域解離散維納濾波器的域解 )()()(12zBzBzSwxx)(zB)(1zB

31、2w 2.3.2 因果維納濾波器的求解(2)求取其因果部分再做Z變換，即舍掉單位圓外的極點，得： (3) 積分曲線取單位圓，運用2.3.32式和2.3.33式，計算：)()(1zBzSIZTxs)()(1zBzSxs。 2.3 離散維納濾波器的域解離散維納濾波器的域解 min2opt| )(|)(neEzH和2.4 維維 納納 預預 測測 2.4.1 2.4.1 維納預測的計算維納預測的計算 在維納濾波中，期望的輸出信號，實在維納濾波中，期望的輸出信號，實踐的輸出為。在維納預測中，期望的輸出踐的輸出為。在維納預測中，期望的輸出信號，信號， 實踐的輸出。實踐的輸出。前面曾經(jīng)推導得到維納濾波的最正

32、確解為：前面曾經(jīng)推導得到維納濾波的最正確解為：)()()()()(optzSzSzSzSzHxxxdxxxs2.4.1 )()(nsnd)()(Nnsny)()(Nnsnd)()(nsny其中,是觀測數(shù)據(jù)的功率譜；是觀測數(shù)據(jù)與期望信號的互功率譜。)(zSxx)(zSxd2.4 維維 納納 預預 測測 2.4.1 維納預測的計算維納預測的計算相互關(guān)函數(shù)的傅里葉變換相互關(guān)函數(shù)的傅里葉變換 ：)()()(*kndnxEkrxd2.4.2 )(krxd 對應于維納預測器， 其輸出信號y(n)和預測誤差信號e(n+N)分別為 )( )()()()()( )(0NnsNnsNnemNnxmhNnsnym2

33、.4.3 2.4.4 2.4.1 維納預測的計算維納預測的計算同理，要使預測誤差的均方值為最小，須滿足同理，要使預測誤差的均方值為最小，須滿足 0| )(|2khNneE2.4.5 其中，hk表示h(k)。 2.4 維維 納納 預預 測測 觀測數(shù)據(jù)與期望的輸出的相互關(guān)函數(shù)rxyd(k)和互譜密度Sxyd(z)分別為 NxsxyzzSzSd)()(2.4.6 2.4.7 )()()()()()(*kNrkNnsnxEkndnxEkrxsxd2.4.1 維納預測的計算維納預測的計算這樣，非因果維納預測器的最正確解為這樣，非因果維納預測器的最正確解為 )()()()()(optzSzSzzSzSzH

34、xxxsNxxxyd2.4.8 因果維納預測器的最正確解為： )()()(11)()()(11)(1212optzBzSzzBzBzSzBzHxsNxyd2.4.9 2.4 維維 納納 預預 測測 2.4.1 維納預測的計算維納預測的計算維納預測的最小均方誤差為維納預測的最小均方誤差為 CxsssCxysszdzzSzHzSzdzzSzHzSNneEd)()()(j21)()()(j21| )(|1opt1optmin2從上面分析可以看出， 維納預測的求解和維納濾波器的求解方法是一致的。 2.4 維維 納納 預預 測測 2.4.10 2.4.2 2.4.2 純預測純預測 假設(shè)假設(shè) ，式中，式中

35、 是噪聲，且是噪聲，且 ，期望信號為，期望信號為 ，此種，此種情況稱為純預測。情況稱為純預測。 假定維納預測器是因果的，仍設(shè)假定維納預測器是因果的，仍設(shè)s(n)s(n)與與v(n)v(n)不相不相關(guān)，純預測情況下的輸入信號的功率譜及維納預測器關(guān)，純預測情況下的輸入信號的功率譜及維納預測器的最正確解分別為的最正確解分別為 )()()()()(12zBzBzSzSzSssxsxx2.4.11 2.4.12 2.4 維維 納納 預預 測測 )()(1)()()(11)(12optzBzzBzBzSzzBzHNxsN0)(nvE)()()(nvnsnx)(nv，Nns)( 2.4.2 純預測純預測純預

36、測器的最小均方誤差為純預測器的最小均方誤差為 CNNCNNCNxssszdzzBzzzBzBzBzdzzzBzBzBzBzzBzBzdzzzSzHzSNneE)()()()(j2)()()()()()(j21)()()(j21| )(|11212121optmin22.4.13 2.4 維維 納納 預預 測測 2.4.2 純預測純預測運用復卷積定理運用復卷積定理 zzzYzXnynxCnd1)(j21)()(*2.4.14 2.4 維維 納納 預預 測測 取y(n)=x(n) zzzXzXnxCnd)()(j21)(122.4.15 2.4.2 純預測純預測將上式代入將上式代入(2.4.13)

37、式式, 并思索到并思索到b(n)是因果系統(tǒng)，得到是因果系統(tǒng)，得到 nnNnbnuNnbnbNneE)()()()(| )(|22min2 可以看到，隨著N 添加， 也添加。這一點也容易了解，當預測的間隔越遠，預測的效果越差，偏向越大，因此 越大。 2.4 維維 納納 預預 測測 min2| )(|NneEmin2| )(|NneE )()(00222nnNnbnb)(1022nbNn2.4.3 2.4.3 一步線性預測的時域解一步線性預測的時域解 知知x(n-1), x(n-2)x(n-1), x(n-2)，,x(n-p), ,x(n-p), 預測預測x(n)x(n)，假，假設(shè)噪聲設(shè)噪聲v(n

38、)=0v(n)=0，這樣的預測稱為一步線性預測。設(shè)定，這樣的預測稱為一步線性預測。設(shè)定系統(tǒng)的單位脈沖呼應為系統(tǒng)的單位脈沖呼應為h(n)h(n)，根據(jù)線性系統(tǒng)的根本實，根據(jù)線性系統(tǒng)的根本實際，輸出信號：際，輸出信號： pkknxkhnxny1)()()( )(令apk=-h(k)，那么 pkpkknxanx1)()( 2.4.21 2.4 維維 納納 預預 測測 2.4.3 2.4.3 一步線性預測的時域解一步線性預測的時域解預測誤差預測誤差 pkpkpkpkknxaknxanxnxnxne01)()()()( )()(2.4.22 2.4 維維 納納 預預 測測 其中, ap0=1, 要使均方

39、誤差為最小值，要求：212)()(| )(|pkpkknxanxEneE2.4.23 planeEpl, 2 , 10| )(|2 2.4.3 一步線性預測的時域解同維納濾波的推導過程一樣, 可以得到 2.4.24 把(2.4.22)式代入(2.4.24)式, 得到 pllkralrpkxxpkxx, 2 , 10)()(12.4.25 pllnxneE, 2 , 10)()(*2.4 維維 納納 預預 測測 由于預測器的輸出 是輸入信號的線性組合，參見2.4.21)式, 得到 )( nx0)( )(*nxneE2.4.26 2.4.3 一步線性預測的時域解(2.4.24)式闡明誤差信號與輸入

40、信號滿足正交性原理， (2.4.26)式闡明預測誤差與預測的信號值同樣滿足正交性原理。 預測誤差的最小均方值 pkxxpkxxpkpkkrarnxknxanxEnxneEnxnxneEneE11*min2)()0()()()()()()( )()(| )(|(2.4.27 2.4 維維 納納 預預 測測 2.4.3 一步線性預測的時域解一步線性預測的時域解 將將(2.4.25)式和式和(2.4.27)式聯(lián)立，式聯(lián)立， 得到下面的方程得到下面的方程組：組： pkxxpkxxpkxxpkxxpllkralrneEkrar11min2, 2 , 10)()(| )(|)()0(2.4.28 2.4

41、維維 納納 預預 測測 2.4.3 一步線性預測的時域解一步線性預測的時域解 將方程組寫成矩陣方式將方程組寫成矩陣方式 00| )(|1)0() 1()() 1()0() 1 ()() 1 ()0(min21neEaarprprprrrprrrpppxxxxxxxxxxxxxxxxxx2.4.29 2.4 維維 納納 預預 測測 這就是有名的Yule-Walker方程 2.4.3 一步線性預測的時域解Yule-Walker方程具有以下特點： (1) 除了第一個方程外，其他都是齊次方程; (2) 與維納-霍夫方程相比，不需求知道觀測數(shù)據(jù)x(n)與期望信號s(n)的相互關(guān)函數(shù)。 2.4 維維 納納

42、 預預 測測 2.4.3 一步線性預測的時域解Yule-Walker方程組有p+1個方程，對應地，可以確定apk,k=1, 2, , p和Ee2(n)min，合計p+1個未知數(shù)，因此可用來求解AR模型參數(shù)。這就是后面要引見的AR模型法進展功率譜估計的原理，它再一次提示了時間序列信號模型、功率譜和自相關(guān)函數(shù)描畫一個隨機信號的等價性。 2.4 維維 納納 預預 測測 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 卡爾曼濾波是用形狀空間法描畫系統(tǒng)的，由形狀方程和量測方程所組成。卡爾曼濾波用前一個形狀的估計值和最近一個觀測數(shù)據(jù)來估計形狀變量的當前值， 并以形狀變量的估計值的方式給出。2.5 卡爾曼卡爾

43、曼(Kalman)濾波濾波 卡爾曼濾波具有以下的特點： (1) 算法是遞推的形狀空間法采用在時域內(nèi)設(shè)計濾波器的方法，因此適用于多維隨機過程的估計；離散型卡爾曼算法適用于計算機處置。2.5 卡爾曼卡爾曼(Kalman)濾波濾波 卡爾曼濾波具有以下的特點： (2) 用遞推法計算，不需求知道全部過去的值，用形狀方程描畫形狀變量的動態(tài)變化規(guī)律，因此信號可以是平穩(wěn)的，也可以是非平穩(wěn)的， 即卡爾曼濾波適用于非平穩(wěn)過程。 (3) 卡爾曼濾波采取的誤差準那么仍為估計誤差的均方值最小。 2.5.1 2.5.1 卡爾曼濾波的形狀方程和量測方程卡爾曼濾波的形狀方程和量測方程 假設(shè)某系統(tǒng)假設(shè)某系統(tǒng)k k時辰的形狀變量

44、為時辰的形狀變量為xkxk，形狀方程和量，形狀方程和量測方程也稱為輸出方程表示為測方程也稱為輸出方程表示為 ：kkkkwxAx1(2.5.1a) kkkkvxCy(2.5.1b) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.1 卡爾曼濾波的形狀方程和量測方程卡爾曼濾波的形狀方程和量測方程闡明：闡明：k表示時間，指第表示時間，指第k步迭代時，相應信號的取值步迭代時，相應信號的取值k輸入信號白噪聲輸入信號白噪聲vk輸出信號的觀測噪聲白噪聲輸出信號的觀測噪聲白噪聲Ak表示形狀變量之間的增益矩陣，可以隨時間發(fā)表示形狀變量之間的增益矩陣，可以隨時間發(fā)生變化生變化Ck 表示形狀變量與輸出信號之間

45、的增益矩陣，可表示形狀變量與輸出信號之間的增益矩陣，可以隨時間變化以隨時間變化2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.1 卡爾曼濾波的形狀方程和量測方程卡爾曼濾波的形狀方程和量測方程信號模型如圖信號模型如圖2.5.1所示。所示。z1Ak1Ckk1xk1xkvkyk2.5 卡爾曼卡爾曼(Kalman)濾波濾波 圖 2.5.1 卡爾曼濾波器的信號模型 2.5.1 卡爾曼濾波的形狀方程和量測方程卡爾曼濾波的形狀方程和量測方程將形狀方程中時間變量將形狀方程中時間變量k用用k-1替代，得到的形狀替代，得到的形狀方程和量測方程如下所示：方程和量測方程如下所示： 其中，xk是形狀變量;k-1表

46、示輸入信號是白噪聲; vk是觀測噪聲; yk是觀測數(shù)據(jù)。 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 11kkkkwxAxkkkkvxCy 2.5.1 卡爾曼濾波的形狀方程和量測方程為了后面的推導簡單起見，假設(shè)形狀變量的增益矩陣A不隨時間發(fā)生變化，k,vk都是均值為零的正態(tài)白噪聲，方差分別是Qk和Rk，并且初始形狀與k,vk都不相關(guān)，i,j表示相關(guān)系數(shù)。2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.1 卡爾曼濾波的形狀方程和量測方程用數(shù)學方式表示為：kjkvvkvkkkjkkkkRRvEvQQEjkjk,2,2, 0:, 0:其中 jkjkkj012.5 卡爾曼卡爾曼(Kalman)

47、濾波濾波 2.5.2 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法 卡爾曼濾波是采用遞推的算法實現(xiàn)的，其根本思卡爾曼濾波是采用遞推的算法實現(xiàn)的，其根本思想是先不思索輸入信號想是先不思索輸入信號kk和觀測噪聲和觀測噪聲vkvk的影響，得的影響，得到形狀變量和輸出信號即觀測數(shù)據(jù)的估計值，再到形狀變量和輸出信號即觀測數(shù)據(jù)的估計值，再用輸出信號的估計誤差加權(quán)后校正形狀變量的估計值，用輸出信號的估計誤差加權(quán)后校正形狀變量的估計值，使形狀變量估計誤差的均方值最小。使形狀變量估計誤差的均方值最小。 因此因此, , 卡爾曼卡爾曼濾波的關(guān)鍵是計算出加權(quán)矩陣的最正確值。濾波的關(guān)鍵是計算出加權(quán)矩陣的最正確值

48、。2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法 當不思索觀測噪聲和輸入信號時，形狀方程和量當不思索觀測噪聲和輸入信號時，形狀方程和量測方程為：測方程為： 11 kkkkkkkkkxACxCyxAx(2.5.4) (2.5.5) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法顯然，由于不思索觀測噪聲的影響，輸出信號的顯然，由于不思索觀測噪聲的影響，輸出信號的估計值與實踐值是有誤差的，用估計值與實踐值是有誤差的，用 表示表示 kykkkyyy(2.5.6) 為了提高形狀估計的質(zhì)量，

49、用輸出信號的估計誤差 來校正形狀變量 。ky2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法如如(2.5.7)所示：所示：)()(111kkkkkkkkkkkkkxACyHxAyyHxAx(2.5.7) 其中，Hk為增益矩陣，本質(zhì)是一加權(quán)矩陣。2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法經(jīng)過校正后的形狀變量的估計誤差及其均方值分別用 和Pk表示，把未經(jīng)校正的形狀變量的估計誤差的均方值用 表示 kxkP2.5 卡爾曼卡爾曼(Kalman)濾波濾波 kkkxxx(2.5.8) (2.5.9) (

50、2.5.10) )(TkkkkkxxxxEP)(TkkkkkxxxxEP 卡爾曼濾波要求形狀變量的估計誤差的均方值Pk為最小， 因此卡爾曼濾波的關(guān)鍵就是要得到Pk與Hk的關(guān)系式，即經(jīng)過選擇適宜的Hk,使Pk獲得最小值。 首先推導形狀變量的估計值 和形狀變量的估計誤差 ， 然后計算 的均方值Pk ，并經(jīng)過化簡Pk ，得到一組卡爾曼濾波的遞推公式。 kx kxkx 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法將2.5.3、 (2.5.5)式代入2.5.7式： kkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkvHxACHxA

51、CHIvHxCHxACHIxACvxCHxAyyHxAx)()()()()(1111111(2.5.11) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法同理，形狀變量的估計誤差 為： xkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkvHxxACHIvHCHIxxACHIvHACHxxACHxxAvHxACHxACHIxAxxx11111111111111111)()()()()()()()(2.5.12) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾

52、曼濾波的遞推算法由上式可以看出，形狀變量的估計誤差 由三部分組成， 可記為 ：xcbax其中 kkkkkkkkkkvHcCHIbxxACHIa111)()()(2.5.13b) (2.5.13c) (2.5.13d) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法那么，形狀變量的估計誤差的均方值Pk就由9項組成:)(,TTTTTTTTTTTcbcabcbaacabccbbaaEcbacbaExxEPkkk(2.5.14a) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法TkTkkkkkkkk

53、kvHcCHIbCHIAxxaTTT1TTTT11T)()()(2.5.14b) (2.5.14d) (2.5.14c) 其中 下面化簡Pk的表達式，根據(jù)假設(shè)的條件，形狀變量的增益矩陣A不隨時間發(fā)生變化，起始時辰為k0，那么2.5.2式經(jīng)過迭代， 得到： 00011)(kkllkkkklkAxAx令l=k-k0-j，得到 10010000)(kkjjkkkkkkjkAxAx2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法取k0=0，k=k-1，得到 jkjjkkkAxAx202011(2.5.15) 所以xk-1僅依賴于x0,0, 1,k-2,

54、與k-1不相關(guān)，即： 0T11T11kkkkxexE(2.5.16) 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法2.5 卡爾曼卡爾曼(Kalman)濾波濾波 又據(jù)(2.5.7)式和(2.5.3)式， 得 )(2111111211kkkkkkkkkkxACvxCHxAx(2.5.17) 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法2.5 卡爾曼卡爾曼(Kalman)濾波濾波 所以 僅依賴于xk-1,vk-1，而與vk不相關(guān)，即 1kx0)()(T11T11kkkkkkxxvEvxxE0)()(T111T111kkkkkkxxExxE(2.5.18) (2.5.19) 把2.5.

55、152.5.19式代入(2.5.14)式, Pk中的9項可以分別化簡為: TT1TTT1111T)()()()()(kkkkkkkkkkkkkkkkkCHIAPACHICHIAxxxxACHIEaaET1TT11T)()()()(kkkkkkkkkkkCHIQCHICHICHIEbbE(2.5.20a) (2.5.20b) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法TTkkkkTkkkHRHHvvHEccE(2.5.20c) 0)(0)()(0)(0)()()(0)()(0)()()(TT1TTTTTT11TTT1TTTT111TTT11

56、TT11T111TkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkCHIvHEcbECHIAxxvHEcaEHvCHIEbcECHIAxxCHIEbaEHvxxACHIEacExxxxACHIEabE(2.5.20d) (2.5.20e) (2.5.20f) (2.5.20g) (2.5.20h) (2.5.20j) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法也就是說，Pk僅有其中的三項不為零， 化簡成 TkkkkkkTkkkkkTkkkkkkkkkkTkkkkkkHRHCHIQAPACHIHRHCHIQC

57、HICHIAPACHIccEbbEaaEPT11T1T1TTT)()()()()()(2.5.21) 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法2.5 卡爾曼卡爾曼(Kalman)濾波濾波 為了進一步化簡Pk，推導未經(jīng)誤差校正的形狀估計誤差的均方值Pk，由下面推導結(jié)果可以看出，Pk是一對稱矩陣，滿足Pk=(Pk)T。 1T1T11TT1111T111111T111111T)()()()()(defkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkQAPAEAxxxxEAxxAxxAExAxAxAxAExxxxEP(2.5.22) 2.5 卡爾曼卡爾曼(Kalman

58、)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法將(2.5.22)式代入(2.5.21)式，即把Pk代入Pk, TTTTTTTT)()()(kkkkkkkTkkkkkkkkkkkkkkTkkkkkkkkkkkkkkkHRHPCHHCPPCHPHRHHPCHHCPPCHPHRHCHIPCHIP(2.5.23) 其中, 是正定陣. kTkkkRCPC2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法TSSRCPCkTkkk(2.5.24) 記令 T TTT)(kkkkkkPCPCCPU(2.5.25) 2.5 卡爾曼卡爾曼(Kalma

59、n)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法將上式代入2.5.23式，得 TTTT)(kkTkkkkkHSSHUHUUUHPP(2.5.26) 將(2.5.26)式后三項配對 1TTT1T1TT1TT1T1T)()()()()()(kkkkkkkkkkkkkkkPCPCPCCPPSUSHSUSHUSSUPSUSHSUSHP(2.5.27) 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法2.5 卡爾曼卡爾曼(Kalman)濾波濾波 第二項和第三項均與Hk無關(guān)，第一項為一半正定陣，因此使Pk最小的Hk應滿足 01)(TSUSHk(2.5.28) (2.5.29) 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞推算法2.5 卡爾曼卡爾曼(Kalman)濾波濾波 1T1T11Topt)()()(kkkkTkkRCPCCPSSUSSUH將Hopt代入Pk，得到最小均方誤差陣 1TT)()(kkkkkkkkkkkkkkkkkPCHIPCHPPCRCPCCPPP 將(2.5.7)、 (2.5.22)、 (2.5.29)式和(2.5.30)式聯(lián)立， 得到一組卡爾曼遞推公式 (2.5.30) 2.5 卡爾曼卡爾曼(Kalman)濾波濾波 2.5.2 卡爾曼濾波的遞推算法卡爾曼濾波的遞