信號(hào)的統(tǒng)計(jì)濾波技術(shù)

1、2022-6-19大連理工大學(xué)1第第13章章信號(hào)的統(tǒng)計(jì)濾波技術(shù)信號(hào)的統(tǒng)計(jì)濾波技術(shù)大連理工大學(xué)碩士研究生校管課程大連理工大學(xué)碩士研究生校管課程信號(hào)處理與數(shù)據(jù)分析信號(hào)處理與數(shù)據(jù)分析電子信息與電氣工程學(xué)部電子信息與電氣工程學(xué)部邱天爽邱天爽2013年年12月月 內(nèi)容概要內(nèi)容概要 13.1 13.1 概述概述 13.2 13.2 維納濾波技術(shù)維納濾波技術(shù) 13.3 13.3 卡爾曼濾波技術(shù)卡爾曼濾波技術(shù) 13.4 13.4 統(tǒng)計(jì)濾波技術(shù)的應(yīng)用舉例統(tǒng)計(jì)濾波技術(shù)的應(yīng)用舉例13.1 概述概述 信號(hào)濾波信號(hào)濾波（filtering） 根據(jù)輸入信號(hào)根據(jù)輸入信號(hào)x(t)在當(dāng)前時(shí)刻和以前時(shí)刻的在當(dāng)前時(shí)刻和以前時(shí)刻的狀

2、態(tài)估計(jì)狀態(tài)估計(jì)輸出信號(hào)。輸出信號(hào)。 信號(hào)預(yù)測信號(hào)預(yù)測（prediction） 根據(jù)輸入信號(hào)根據(jù)輸入信號(hào)x(t)在當(dāng)前時(shí)刻和以前時(shí)刻的狀態(tài)來估在當(dāng)前時(shí)刻和以前時(shí)刻的狀態(tài)來估計(jì)其在未來某個(gè)時(shí)刻的狀態(tài)。計(jì)其在未來某個(gè)時(shí)刻的狀態(tài)。 信號(hào)平滑信號(hào)平滑（smoothing）或插值或插值（interpolation） 濾波器根據(jù)濾波器根據(jù)x(t)在在t時(shí)刻以外的數(shù)據(jù)估計(jì)出時(shí)刻以外的數(shù)據(jù)估計(jì)出x(t)在在t時(shí)刻時(shí)刻的數(shù)據(jù)。的數(shù)據(jù)。2022-6-19大連理工大學(xué)42022-6-19大連理工大學(xué)5 經(jīng)典濾波器和現(xiàn)代濾波器經(jīng)典濾波器和現(xiàn)代濾波器 經(jīng)典濾波器經(jīng)典濾波器 一般假定輸入信號(hào)一般假定輸入信號(hào)x(n)中的有用

3、成分和希望去除的成分各中的有用成分和希望去除的成分各自占有不同的自占有不同的頻段；頻段； 如果有用信號(hào)與噪聲干擾等無用成分的頻譜相互重疊時(shí)，如果有用信號(hào)與噪聲干擾等無用成分的頻譜相互重疊時(shí)，經(jīng)典濾波器就經(jīng)典濾波器就無能為力。無能為力。 現(xiàn)代濾波器現(xiàn)代濾波器 不依靠信號(hào)與噪聲的頻率差別來進(jìn)行不依靠信號(hào)與噪聲的頻率差別來進(jìn)行噪聲抑制噪聲抑制和信號(hào)和信號(hào)提?。惶崛。?依據(jù)某些統(tǒng)計(jì)最優(yōu)準(zhǔn)則，從帶噪聲的觀測信號(hào)中對(duì)與有用依據(jù)某些統(tǒng)計(jì)最優(yōu)準(zhǔn)則，從帶噪聲的觀測信號(hào)中對(duì)與有用信號(hào)或信號(hào)的參數(shù)進(jìn)行信號(hào)或信號(hào)的參數(shù)進(jìn)行估計(jì)；估計(jì)； 維納濾波器、卡爾曼濾波器、線性預(yù)測器和自適應(yīng)濾波器維納濾波器、卡爾曼濾波器、線性預(yù)

4、測器和自適應(yīng)濾波器等。等。2022-6-19大連理工大學(xué)6 維納濾波器的概念維納濾波器的概念 是一類線性最優(yōu)濾波器的統(tǒng)稱；是一類線性最優(yōu)濾波器的統(tǒng)稱； 目的是從噪聲中提取有用信號(hào)。目的是從噪聲中提取有用信號(hào)。 根據(jù)濾波器輸出信號(hào)與期望根據(jù)濾波器輸出信號(hào)與期望信號(hào)之差信號(hào)之差的均方值最小的的均方值最小的最小均方誤差準(zhǔn)則最小均方誤差準(zhǔn)則，求得最優(yōu)線性濾波器的系數(shù)，求得最優(yōu)線性濾波器的系數(shù)2022-6-19大連理工大學(xué)7 卡爾曼濾波器的概念卡爾曼濾波器的概念 是一種以卡爾曼的名字命名的用于線性時(shí)變系統(tǒng)的遞是一種以卡爾曼的名字命名的用于線性時(shí)變系統(tǒng)的遞歸濾波器。歸濾波器。 將過去的測量估計(jì)誤差合并到新

5、的測量誤差中來估計(jì)將過去的測量估計(jì)誤差合并到新的測量誤差中來估計(jì)將來的誤差，可以用包含正交狀態(tài)變量的微分方程來將來的誤差，可以用包含正交狀態(tài)變量的微分方程來描述。描述。 卡爾曼濾波器的首次實(shí)現(xiàn)是由施密特（卡爾曼濾波器的首次實(shí)現(xiàn)是由施密特（Schmidt）完成）完成的?？柭诿绹娇蘸教欤ǖ摹？柭诿绹娇蘸教欤∟ASA）研究中心訪問）研究中心訪問時(shí)，發(fā)現(xiàn)卡爾曼濾波器對(duì)于解決阿波羅計(jì)劃的軌道預(yù)時(shí)，發(fā)現(xiàn)卡爾曼濾波器對(duì)于解決阿波羅計(jì)劃的軌道預(yù)測很有意義，并且后來在阿波羅飛船的導(dǎo)航電腦中實(shí)測很有意義，并且后來在阿波羅飛船的導(dǎo)航電腦中實(shí)現(xiàn)上使用了這種濾波器?，F(xiàn)上使用了這種濾波器。13.2 維納濾波技

6、術(shù)維納濾波技術(shù)2022-6-19大連理工大學(xué)9 思路思路 設(shè)計(jì)維納濾波器的過程，即是在設(shè)計(jì)維納濾波器的過程，即是在最小均方誤差準(zhǔn)則最小均方誤差準(zhǔn)則下，尋求濾波器的單位脈沖響應(yīng)，或系統(tǒng)傳遞函數(shù)。下，尋求濾波器的單位脈沖響應(yīng)，或系統(tǒng)傳遞函數(shù)。2022-6-1910 因果維納濾波器因果維納濾波器 設(shè)線性離散系統(tǒng)的單位脈沖響應(yīng)為設(shè)線性離散系統(tǒng)的單位脈沖響應(yīng)為h(n)，若，若h(n)是因果的是因果的,其輸其輸入信號(hào)入信號(hào)x(n)是有用信號(hào)是有用信號(hào)s(n)與觀測噪聲與觀測噪聲v(n)的線性組合的線性組合 維納濾波器的任務(wù)是使輸出維納濾波器的任務(wù)是使輸出y(n)是是s(n)的估計(jì)。若的估計(jì)。若h(n)是因

7、果是因果的，則輸出的的，則輸出的 可以看作是由當(dāng)前時(shí)刻的觀測值與可以看作是由當(dāng)前時(shí)刻的觀測值與過去時(shí)刻的觀測值過去時(shí)刻的觀測值x(n-1),x(n-2),的線性組合來估計(jì)的。的線性組合來估計(jì)的。( )( )( )x ns nv n( )( )y ns n0( )( )* ( )( ) ()my nx nh nh m x nm2022-6-1911 因果維納濾波器（續(xù)）因果維納濾波器（續(xù)） 誤差函數(shù)的最小均方誤差準(zhǔn)則表示為：誤差函數(shù)的最小均方誤差準(zhǔn)則表示為： 為了使均方誤差達(dá)到最小，對(duì)上式各為了使均方誤差達(dá)到最小，對(duì)上式各h(m),m=0,1,求偏導(dǎo)，求偏導(dǎo)，并令導(dǎo)數(shù)為并令導(dǎo)數(shù)為0，有，有 用用

8、相關(guān)函數(shù)表示上式，則得到相關(guān)函數(shù)表示上式，則得到維納維納-霍夫方程霍夫方程的離散形式的離散形式220( )( ( )( ) () mE e nE s nh m x nm002 ( )( ) ()()0, 0,1,. ( ) ()( ) () (), 0,1,.mmEs nh m x nmx nllE s n x nlh m E x nm x nll0( )( )(), 0,1,.xsxxmRlh m Rlml2022-6-19大連理工大學(xué)12 因果維納濾波器（續(xù)）因果維納濾波器（續(xù)） 從維納從維納-霍夫方程中解出系統(tǒng)單位脈沖響應(yīng)霍夫方程中解出系統(tǒng)單位脈沖響應(yīng)h(n)，這就是最小，這就是最小均方

9、誤差意義上的最優(yōu)均方誤差意義上的最優(yōu) ，并得到最小均方誤差為，并得到最小均方誤差為opth2022-6-19大連理工大學(xué)13 維納維納霍夫方程的求解霍夫方程的求解 （1 1）有限脈沖響應(yīng)求解法）有限脈沖響應(yīng)求解法 設(shè)設(shè)h(n)的序列長度為的序列長度為N，則則改寫改寫為為 （6.27） 將式（將式（6.27）對(duì)）對(duì)h(m)求導(dǎo)數(shù)，并令導(dǎo)數(shù)等于求導(dǎo)數(shù)，并令導(dǎo)數(shù)等于0，得：，得：則，則，有有 （6.30）10( )( )* ( )( ) ()Nmy nx nh nh m x nm1220( )( ( )( ) () NmE e nE s nh m x nm10 ( ) ()( ) () (), 0,

10、1,.,1NmE s n x nlh m E x nm x nllN10( )( )(), 0,1,.,1NxsxxmRlh m RlmlN0( )( )* ( )( ) ()my nx nh nh m x nm2022-6-19大連理工大學(xué)14 于是可以得到于是可以得到N個(gè)線性方程，即個(gè)線性方程，即 寫成矩陣形式寫成矩陣形式2022-6-19大連理工大學(xué)15 若滿足自相關(guān)陣是非奇異的，則通過矩陣求逆有若滿足自相關(guān)陣是非奇異的，則通過矩陣求逆有 最小均方誤差為：最小均方誤差為： 若已知自相關(guān)函數(shù)若已知自相關(guān)函數(shù) 和互相關(guān)函數(shù)和互相關(guān)函數(shù) ，則可以，則可以求出最優(yōu)系統(tǒng)的單位脈沖響應(yīng)求出最優(yōu)系統(tǒng)的

11、單位脈沖響應(yīng) 。 若信號(hào)和噪聲滿足互不相關(guān)的條件，即若信號(hào)和噪聲滿足互不相關(guān)的條件，即 則：則：1xxxsHR R12min0( )(0)( )( )NssoptxsmE e nRhm Rm( )xxRm( )xsRmopth( )( )0svvsRmRm2022-6-19大連理工大學(xué)16 2022-6-19大連理工大學(xué)172022-6-19大連理工大學(xué)18 維納維納霍夫方程的求解霍夫方程的求解 （2 2）預(yù)白化求解法（略）預(yù)白化求解法（略） 方法關(guān)鍵是利用預(yù)白化濾波器將輸入信號(hào)方法關(guān)鍵是利用預(yù)白化濾波器將輸入信號(hào)x(n)轉(zhuǎn)化轉(zhuǎn)化為白噪聲過程為白噪聲過程w(n),并進(jìn)一步求解維納并進(jìn)一步求解維

12、納-霍夫方程霍夫方程 只要求得白化濾波器只要求得白化濾波器 ，就可以實(shí)現(xiàn)預(yù)白化，就可以實(shí)現(xiàn)預(yù)白化，并進(jìn)一步確定對(duì)輸入信號(hào)的最優(yōu)估計(jì)。隨機(jī)信號(hào)并進(jìn)一步確定對(duì)輸入信號(hào)的最優(yōu)估計(jì)。隨機(jī)信號(hào)x(n)可以看做白噪聲激勵(lì)一個(gè)線性系統(tǒng)所產(chǎn)生的響可以看做白噪聲激勵(lì)一個(gè)線性系統(tǒng)所產(chǎn)生的響應(yīng)。應(yīng)。()jwwHe2022-6-19大連理工大學(xué)19 設(shè)該線性系統(tǒng)的設(shè)該線性系統(tǒng)的z域系統(tǒng)函數(shù)為域系統(tǒng)函數(shù)為 其中其中 ， 表示隨機(jī)信號(hào)表示隨機(jī)信號(hào)x(n)自功率譜密度函數(shù)的自功率譜密度函數(shù)的z域域形式；形式； 和和 分別對(duì)應(yīng)分別對(duì)應(yīng) 中極點(diǎn)、零點(diǎn)在中極點(diǎn)、零點(diǎn)在單位圓內(nèi)和單位圓外的部分。單位圓內(nèi)和單位圓外的部分。 由于由于

13、 的零點(diǎn)和極點(diǎn)均在單位圓內(nèi)，是一個(gè)物理可實(shí)的零點(diǎn)和極點(diǎn)均在單位圓內(nèi)，是一個(gè)物理可實(shí)現(xiàn)的最小相位系統(tǒng)，現(xiàn)的最小相位系統(tǒng)，1/B(z)也是一個(gè)物理可實(shí)現(xiàn)的最小也是一個(gè)物理可實(shí)現(xiàn)的最小相位系統(tǒng)。相位系統(tǒng)。 把把x(n)作為系統(tǒng)的輸入，作為系統(tǒng)的輸入，w(n)作為系統(tǒng)的輸出，從而實(shí)作為系統(tǒng)的輸出，從而實(shí)現(xiàn)輸入信號(hào)現(xiàn)輸入信號(hào)x(n)的預(yù)白化處理。的預(yù)白化處理。( )B z21( )( ) ()xxwRzB z B z( )xxRz( )B z1()B z( )xxRz2022-6-19大連理工大學(xué)20 虛線框的部分記為虛線框的部分記為 由圖由圖6.3有：有： 1( )( )( )W zX zB z1(

14、)( )WHzB zopt( )hnopt( )( )( ) ( )( )WG zHzHz G zB z0( )( )( ) ()my ns ng m w nm2022-6-19大連理工大學(xué)21均方誤差為均方誤差為其中其中 表示表示 的單位脈沖響應(yīng)的單位脈沖響應(yīng)將將 代入上式，代入上式，使均方誤差使均方誤差 最小，等價(jià)于令最小，等價(jià)于令于是有于是有220000( )( ( )( ) () (0)2( )( )( )( )()msswswwmmrE e nE S ng m w nmRG m Rmg mg r Rmr( )g n( )G z2( )( )wwwRmm 2( )E e n( )( )

15、0wswwRmg m2( )( ),0wsoptwRmgmm2022-6-19大連理工大學(xué)222022-6-19大連理工大學(xué)232022-6-19大連理工大學(xué)24【例例】2022-6-19大連理工大學(xué)252022-6-19大連理工大學(xué)26 關(guān)于維納濾波的說明關(guān)于維納濾波的說明 維納濾波從理論上完美地解決了在最小均方誤差條維納濾波從理論上完美地解決了在最小均方誤差條件下的信號(hào)最佳估計(jì)問題。件下的信號(hào)最佳估計(jì)問題。 但是，從實(shí)際應(yīng)用角度來看，卻存在不足：但是，從實(shí)際應(yīng)用角度來看，卻存在不足： 為了得到維納濾波器的單位沖激響應(yīng)，必須知道觀測信號(hào)為了得到維納濾波器的單位沖激響應(yīng)，必須知道觀測信號(hào)的自相

16、關(guān)函數(shù)與互相關(guān)函數(shù)。的自相關(guān)函數(shù)與互相關(guān)函數(shù)。 自相關(guān)函數(shù)可以利用觀測信號(hào)進(jìn)行估計(jì)。自相關(guān)函數(shù)可以利用觀測信號(hào)進(jìn)行估計(jì)。 互相關(guān)函數(shù)則需要信號(hào)的更多的信息?；ハ嚓P(guān)函數(shù)則需要信號(hào)的更多的信息。 即使即使得到得到上述兩個(gè)相關(guān)函數(shù)，求解維納上述兩個(gè)相關(guān)函數(shù)，求解維納霍夫方程仍是比霍夫方程仍是比較復(fù)雜的過程。較復(fù)雜的過程。13.3 卡爾曼濾波技術(shù)卡爾曼濾波技術(shù)2022-6-19大連理工大學(xué)28 卡爾曼卡爾曼 卡爾曼（卡爾曼（Rudolf E. Kalman），匈牙利數(shù)學(xué)家；），匈牙利數(shù)學(xué)家； 1930年出生于匈牙利首都布達(dá)佩斯。年出生于匈牙利首都布達(dá)佩斯。1953，1954年于麻省理工學(xué)院分別獲得電機(jī)

17、工程學(xué)士及碩士年于麻省理工學(xué)院分別獲得電機(jī)工程學(xué)士及碩士學(xué)位。學(xué)位。1957年于哥倫比亞大學(xué)獲得博士學(xué)位；年于哥倫比亞大學(xué)獲得博士學(xué)位； 19641971年任職斯坦福大學(xué)。年任職斯坦福大學(xué)。19711992年任年任佛羅里達(dá)大學(xué)數(shù)學(xué)系統(tǒng)理論中心主任。佛羅里達(dá)大學(xué)數(shù)學(xué)系統(tǒng)理論中心主任。1972起任起任瑞士蘇黎世聯(lián)邦理工學(xué)院數(shù)學(xué)系統(tǒng)理論中心主任瑞士蘇黎世聯(lián)邦理工學(xué)院數(shù)學(xué)系統(tǒng)理論中心主任. 2009年獲美國國家科學(xué)獎(jiǎng)?wù)?。年獲美國國家科學(xué)獎(jiǎng)?wù)隆?卡爾曼濾波器源于他的博士論文和卡爾曼濾波器源于他的博士論文和1960年發(fā)表的年發(fā)表的論文論文A New Approach to Linear Filtering

18、 and Prediction Problems2022-6-19大連理工大學(xué)29 卡爾曼濾波器的基本原理卡爾曼濾波器的基本原理 卡爾曼濾波器（卡爾曼濾波器（Kalman filter）可以認(rèn)為）可以認(rèn)為是維納濾是維納濾波器的推廣波器的推廣； 它不僅可以適用于平穩(wěn)過程，而且可以它不僅可以適用于平穩(wěn)過程，而且可以適用于非平適用于非平穩(wěn)過程穩(wěn)過程； 不僅可以用于線性濾波問題，還可以用于不僅可以用于線性濾波問題，還可以用于非線性控非線性控制問題制問題，甚至可以用于，甚至可以用于多輸入多輸入- -多輸出系統(tǒng)多輸出系統(tǒng)。其其基本特點(diǎn)基本特點(diǎn)是在時(shí)域內(nèi)分析，并且應(yīng)用是在時(shí)域內(nèi)分析，并且應(yīng)用狀態(tài)空間分狀態(tài)空

19、間分析方法析方法。2022-6-19大連理工大學(xué)30 卡爾曼濾波器的進(jìn)一步說明卡爾曼濾波器的進(jìn)一步說明受噪聲干擾的狀態(tài)量是個(gè)隨機(jī)量，不可能測得精確受噪聲干擾的狀態(tài)量是個(gè)隨機(jī)量，不可能測得精確值，但可對(duì)它進(jìn)行一系列觀測，并依據(jù)一組觀測值，值，但可對(duì)它進(jìn)行一系列觀測，并依據(jù)一組觀測值，按某種統(tǒng)計(jì)觀點(diǎn)對(duì)它進(jìn)行估計(jì)。按某種統(tǒng)計(jì)觀點(diǎn)對(duì)它進(jìn)行估計(jì)。使估計(jì)值盡可能準(zhǔn)確地接近真實(shí)值，這就是最優(yōu)估使估計(jì)值盡可能準(zhǔn)確地接近真實(shí)值，這就是最優(yōu)估計(jì)。真實(shí)值與估計(jì)值之差稱為估計(jì)誤差。若估計(jì)值計(jì)。真實(shí)值與估計(jì)值之差稱為估計(jì)誤差。若估計(jì)值的數(shù)學(xué)期望與真實(shí)值相等，這種估計(jì)稱為無偏估計(jì)。的數(shù)學(xué)期望與真實(shí)值相等，這種估計(jì)稱為無偏

20、估計(jì)?？柭岢龅倪f推最優(yōu)估計(jì)理論，卡爾曼提出的遞推最優(yōu)估計(jì)理論，采用狀態(tài)空間描采用狀態(tài)空間描述法，在算法采用遞推形式述法，在算法采用遞推形式，卡爾曼濾波能處理多，卡爾曼濾波能處理多維和非平穩(wěn)的隨機(jī)過程。維和非平穩(wěn)的隨機(jī)過程。2022-6-19大連理工大學(xué)31 卡爾曼濾波器的卡爾曼濾波器的通俗解釋通俗解釋簡單來說，卡爾曼濾波器是一個(gè)簡單來說，卡爾曼濾波器是一個(gè)“optimal optimal recursive data processing algorithmrecursive data processing algorithm（最優(yōu)化（最優(yōu)化自回歸數(shù)據(jù)處理算法）自回歸數(shù)據(jù)處理算法）”。對(duì)于

21、解決很大部分的問題，它是最優(yōu)，效率最高甚對(duì)于解決很大部分的問題，它是最優(yōu)，效率最高甚至是最有用的。至是最有用的。它的廣泛應(yīng)用已經(jīng)超過它的廣泛應(yīng)用已經(jīng)超過3030年，包括機(jī)器人導(dǎo)航，控年，包括機(jī)器人導(dǎo)航，控制，傳感器數(shù)據(jù)融合甚至在軍事方面的雷達(dá)系統(tǒng)以制，傳感器數(shù)據(jù)融合甚至在軍事方面的雷達(dá)系統(tǒng)以及導(dǎo)彈追蹤等等。及導(dǎo)彈追蹤等等。近來更被應(yīng)用于計(jì)算機(jī)圖像處理，例如頭臉識(shí)別，近來更被應(yīng)用于計(jì)算機(jī)圖像處理，例如頭臉識(shí)別，圖像分割，圖像邊緣檢測等等。圖像分割，圖像邊緣檢測等等。2022-6-19大連理工大學(xué)32 卡爾曼濾波器的通俗解釋（卡爾曼濾波器的通俗解釋（2） 為了可以更加容易的理解卡爾曼濾波器，這里會(huì)

22、應(yīng)為了可以更加容易的理解卡爾曼濾波器，這里會(huì)應(yīng)用形象的描述方法來講解，而不是像大多數(shù)參考書用形象的描述方法來講解，而不是像大多數(shù)參考書那樣羅列一大堆的數(shù)學(xué)公式和數(shù)學(xué)符號(hào)。那樣羅列一大堆的數(shù)學(xué)公式和數(shù)學(xué)符號(hào)。 但是，他的但是，他的5條公式是其核心內(nèi)容。結(jié)合現(xiàn)代的計(jì)條公式是其核心內(nèi)容。結(jié)合現(xiàn)代的計(jì)算機(jī)，其實(shí)卡爾曼的程序相當(dāng)?shù)暮唵?，只要你理解算機(jī)，其實(shí)卡爾曼的程序相當(dāng)?shù)暮唵危灰憷斫饬怂哪橇怂哪?條公式。條公式。2022-6-19大連理工大學(xué)33 卡爾曼濾波器的通俗解釋（一個(gè)例子）卡爾曼濾波器的通俗解釋（一個(gè)例子） 假設(shè)我們要研究的對(duì)象是一個(gè)房間的溫度。假設(shè)我們要研究的對(duì)象是一個(gè)房間的溫度。

23、根據(jù)經(jīng)驗(yàn)根據(jù)經(jīng)驗(yàn)判斷，這個(gè)房間的溫度是恒定的，也就是下一判斷，這個(gè)房間的溫度是恒定的，也就是下一分鐘的溫度等于現(xiàn)在這一分鐘的溫度（假設(shè)我們用一分分鐘的溫度等于現(xiàn)在這一分鐘的溫度（假設(shè)我們用一分鐘來做時(shí)間單位）。鐘來做時(shí)間單位）。 假設(shè)你對(duì)你的經(jīng)驗(yàn)不是假設(shè)你對(duì)你的經(jīng)驗(yàn)不是100%的相信，可能會(huì)有上下偏的相信，可能會(huì)有上下偏差幾度。我們把這些偏差看成是高斯白噪聲（差幾度。我們把這些偏差看成是高斯白噪聲（White Gaussian Noise），也就是這些偏差跟前后時(shí)間是沒有），也就是這些偏差跟前后時(shí)間是沒有關(guān)系的而且符合高斯分布（關(guān)系的而且符合高斯分布（Gaussian Distribution

24、）。）。 另外，我們在房間里放一個(gè)溫度計(jì)，但是這個(gè)溫度計(jì)也另外，我們在房間里放一個(gè)溫度計(jì)，但是這個(gè)溫度計(jì)也不是絕對(duì)準(zhǔn)確不是絕對(duì)準(zhǔn)確的，測量值會(huì)的，測量值會(huì)比真實(shí)值有偏差比真實(shí)值有偏差。我們也把。我們也把這些偏差也看成是高斯白噪聲這些偏差也看成是高斯白噪聲。2022-6-19大連理工大學(xué)34 卡爾曼濾波器的通俗解釋（例續(xù)）卡爾曼濾波器的通俗解釋（例續(xù)） 現(xiàn)在對(duì)于某一分鐘有現(xiàn)在對(duì)于某一分鐘有2個(gè)該房間的溫度個(gè)該房間的溫度值值：（：（1）你你根據(jù)經(jīng)驗(yàn)根據(jù)經(jīng)驗(yàn)的預(yù)測值（的預(yù)測值（系統(tǒng)的預(yù)測值系統(tǒng)的預(yù)測值）；（）；（2）溫度計(jì)）溫度計(jì)的值（的值（測量值測量值）。要要用這兩個(gè)值結(jié)合其各自的噪聲來估算出房間

25、的實(shí)際溫度值。用這兩個(gè)值結(jié)合其各自的噪聲來估算出房間的實(shí)際溫度值。 若若我們要估算我們要估算k時(shí)刻時(shí)刻的實(shí)際的實(shí)際溫度值。先要根據(jù)溫度值。先要根據(jù)k-1時(shí)刻的溫度值時(shí)刻的溫度值來預(yù)測來預(yù)測k時(shí)刻的溫度。因?yàn)槟阆嘈艤囟仁呛愣ǖ?，所以你?huì)得時(shí)刻的溫度。因?yàn)槟阆嘈艤囟仁呛愣ǖ?，所以你?huì)得到到k時(shí)刻的溫度預(yù)測值是與時(shí)刻的溫度預(yù)測值是與k-1時(shí)刻的一樣時(shí)刻的一樣，例如例如是是23度度。 同時(shí)該值的高斯噪聲的同時(shí)該值的高斯噪聲的偏差是偏差是5度度（5這樣得到：如果這樣得到：如果k-1時(shí)刻時(shí)刻估算出的最優(yōu)溫度值的偏差是估算出的最優(yōu)溫度值的偏差是3，你對(duì)自己預(yù)測的不確定度是，你對(duì)自己預(yù)測的不確定度是4度度，二

26、者的平方，二者的平方相加再開方，就是相加再開方，就是5，相當(dāng)于是協(xié)方差相當(dāng)于是協(xié)方差）。）。 然后，你從溫度計(jì)那里得到了然后，你從溫度計(jì)那里得到了k時(shí)刻的溫度值，假設(shè)是時(shí)刻的溫度值，假設(shè)是25度度，同時(shí)該值的同時(shí)該值的偏差是偏差是4度度。2022-6-19大連理工大學(xué)35 卡爾曼濾波器的通俗解釋（例續(xù)）卡爾曼濾波器的通俗解釋（例續(xù)） 由于我們用于估算由于我們用于估算k時(shí)刻的實(shí)際溫度有兩個(gè)溫度值時(shí)刻的實(shí)際溫度有兩個(gè)溫度值，分別是，分別是23度（預(yù)測值）和度（預(yù)測值）和25度（測量值）。度（測量值）。 究竟實(shí)際溫度是多少呢？相信自己還是相信溫度計(jì)究竟實(shí)際溫度是多少呢？相信自己還是相信溫度計(jì)呢？究竟

27、相信誰多一點(diǎn)，我們可以用他們的呢？究竟相信誰多一點(diǎn)，我們可以用他們的covariance來判斷。來判斷。 因?yàn)橐驗(yàn)镵g=52/(52+42)，所以，所以Kg=0.61，我們可以，我們可以估算出估算出k時(shí)刻的實(shí)際溫度值時(shí)刻的實(shí)際溫度值是：是：23+0.61*(25-23)=24.22度度。 可以看出，因?yàn)闇囟扔?jì)的可以看出，因?yàn)闇囟扔?jì)的covariance比較?。ū容^比較?。ū容^相信溫度計(jì)），所以估算出的最優(yōu)溫度值偏向溫度相信溫度計(jì)），所以估算出的最優(yōu)溫度值偏向溫度計(jì)的計(jì)的值，為值，為24.22度。度。2022-6-19大連理工大學(xué)36 卡爾曼濾波器的通俗解釋（例續(xù)）卡爾曼濾波器的通俗解釋（例續(xù)）

28、 現(xiàn)在我們已經(jīng)得到現(xiàn)在我們已經(jīng)得到k時(shí)刻的最優(yōu)溫度值了時(shí)刻的最優(yōu)溫度值了，下一步，下一步就是要進(jìn)入就是要進(jìn)入k+1時(shí)刻，進(jìn)行新的最優(yōu)估算。時(shí)刻，進(jìn)行新的最優(yōu)估算。 在進(jìn)入在進(jìn)入k+1時(shí)刻之前，我們還要算出時(shí)刻之前，我們還要算出k時(shí)刻那個(gè)最優(yōu)時(shí)刻那個(gè)最優(yōu)值（值（24.22度）的偏差。度）的偏差。 算法如下：算法如下：(1-Kg)*52)0.5=3.12。這里的。這里的5就是上就是上面的面的k時(shí)刻你預(yù)測的那個(gè)時(shí)刻你預(yù)測的那個(gè)23度溫度值的偏差，得出度溫度值的偏差，得出的的3.12就是進(jìn)入就是進(jìn)入k+1時(shí)刻以后時(shí)刻以后k時(shí)刻時(shí)刻估算估算出的最優(yōu)溫出的最優(yōu)溫度值的偏差（對(duì)應(yīng)于上面的度值的偏差（對(duì)應(yīng)于上

29、面的3）。）。2022-6-19大連理工大學(xué)37 卡爾曼濾波器的通俗解釋卡爾曼濾波器的通俗解釋 這樣，卡爾曼濾波器不斷地把這樣，卡爾曼濾波器不斷地把covariance遞歸，從遞歸，從而估算出最優(yōu)的溫度值。而估算出最優(yōu)的溫度值。 它運(yùn)行的很快，而且它只保留了上一時(shí)刻的它運(yùn)行的很快，而且它只保留了上一時(shí)刻的covariance。 上面的上面的Kg，就是，就是卡爾曼增益卡爾曼增益（Kalman Gain）。他）。他可以隨不同的時(shí)刻而改變他自己的值，是不是很神可以隨不同的時(shí)刻而改變他自己的值，是不是很神奇！奇！2022-6-19大連理工大學(xué)38 卡爾曼濾波器的介紹卡爾曼濾波器的介紹 現(xiàn)描述源于現(xiàn)描述

30、源于Dr Kalman 的卡爾曼濾波器，會(huì)涉及一些基本的的卡爾曼濾波器，會(huì)涉及一些基本的概念知識(shí)，包括概率（概念知識(shí)，包括概率（Probability），隨機(jī)變量（），隨機(jī)變量（Random Variable），高斯或正態(tài)分布（），高斯或正態(tài)分布（Gaussian Distribution）還有）還有State-space Model等等。等等。 引入一個(gè)離散控制過程的系統(tǒng)。該系統(tǒng)可用一個(gè)線性隨機(jī)微引入一個(gè)離散控制過程的系統(tǒng)。該系統(tǒng)可用一個(gè)線性隨機(jī)微分方程（分方程（Linear Stochastic Difference Equation）描述：）描述： X(k)=A X(k-1)+B U(k

31、)+W(k) 再加上系統(tǒng)的測量值：再加上系統(tǒng)的測量值： Z(k)=H X(k)+V(k)2022-6-19大連理工大學(xué)39 卡爾曼濾波器的介紹卡爾曼濾波器的介紹 上兩式子中，上兩式子中，X(k)是是k時(shí)刻的系統(tǒng)狀態(tài)，時(shí)刻的系統(tǒng)狀態(tài)，U(k)是是k時(shí)刻對(duì)時(shí)刻對(duì)系統(tǒng)的控制量。系統(tǒng)的控制量。A和和B是系統(tǒng)參數(shù)，對(duì)于多模型系統(tǒng)，他是系統(tǒng)參數(shù)，對(duì)于多模型系統(tǒng)，他們?yōu)榫仃?。們?yōu)榫仃?。Z(k)是是k時(shí)刻的測量值，時(shí)刻的測量值，H是測量系統(tǒng)的參數(shù)是測量系統(tǒng)的參數(shù)，對(duì)于多測量系統(tǒng)，對(duì)于多測量系統(tǒng)，H為矩陣。為矩陣。W(k)和和V(k)分別表示分別表示過過程程噪聲噪聲和測量噪聲和測量噪聲。他們被假設(shè)成高斯白噪聲。

32、他們被假設(shè)成高斯白噪聲(White Gaussian Noise)，他們的，他們的covariance 分別是分別是Q，R（這里（這里我們假設(shè)他們不隨系統(tǒng)狀態(tài)變化而變化）。我們假設(shè)他們不隨系統(tǒng)狀態(tài)變化而變化）。 對(duì)于滿足上面的條件（線性隨機(jī)微分系統(tǒng)，過程和測量對(duì)于滿足上面的條件（線性隨機(jī)微分系統(tǒng)，過程和測量都是高斯白噪聲），卡爾曼濾波器是最優(yōu)信息處理器。都是高斯白噪聲），卡爾曼濾波器是最優(yōu)信息處理器。 下面我們結(jié)合他們的下面我們結(jié)合他們的covariances 來估算系統(tǒng)的最優(yōu)化輸來估算系統(tǒng)的最優(yōu)化輸出（類似上一節(jié)那個(gè)溫度的例子）。出（類似上一節(jié)那個(gè)溫度的例子）。X(k)=A X(k-1)+B

33、 U(k)+W(k)Z(k)=H X(k)+V(k)2022-6-19大連理工大學(xué)40 卡爾曼濾波器的介紹卡爾曼濾波器的介紹（1 1）預(yù)測系統(tǒng)的狀態(tài)：）預(yù)測系統(tǒng)的狀態(tài)： 現(xiàn)利用系統(tǒng)的過程模型，來預(yù)測系統(tǒng)的下一狀態(tài)：現(xiàn)利用系統(tǒng)的過程模型，來預(yù)測系統(tǒng)的下一狀態(tài)： 假設(shè)假設(shè)現(xiàn)在的系統(tǒng)狀態(tài)是現(xiàn)在的系統(tǒng)狀態(tài)是k，根據(jù)系統(tǒng)的模型，可以，根據(jù)系統(tǒng)的模型，可以基于系統(tǒng)的基于系統(tǒng)的上一狀態(tài)上一狀態(tài)而預(yù)測而預(yù)測現(xiàn)在的狀態(tài)現(xiàn)在的狀態(tài)： X(k|k-1)=A X(k-1|k-1)+B U(k) (1) 式式(1)中，中，X(k|k-1)是利用上一狀態(tài)預(yù)測的結(jié)果，是利用上一狀態(tài)預(yù)測的結(jié)果，X(k-1|k-1)是上一狀態(tài)

34、最優(yōu)的結(jié)果，是上一狀態(tài)最優(yōu)的結(jié)果，U(k)為現(xiàn)在狀態(tài)為現(xiàn)在狀態(tài)的控制量，如果沒有控制量，它可以為的控制量，如果沒有控制量，它可以為0。2022-6-19大連理工大學(xué)41 卡爾曼濾波器的介紹卡爾曼濾波器的介紹（2 2）預(yù)測狀態(tài)的協(xié)方差：）預(yù)測狀態(tài)的協(xié)方差： 到現(xiàn)在為止，我們的系統(tǒng)到現(xiàn)在為止，我們的系統(tǒng)結(jié)果結(jié)果已經(jīng)更新了，可是，已經(jīng)更新了，可是，對(duì)應(yīng)于對(duì)應(yīng)于X(k|k-1)的的covariance還沒更新。我們用還沒更新。我們用P表表示示covariance： P(k|k-1)=A P(k-1|k-1) A+Q (2) 式式(2)中，中，P(k|k-1)是是X(k|k-1)對(duì)應(yīng)的對(duì)應(yīng)的covari

35、ance，P(k-1|k-1)是是X(k-1|k-1)對(duì)應(yīng)的對(duì)應(yīng)的covariance，A表示表示A的轉(zhuǎn)置矩陣，的轉(zhuǎn)置矩陣，Q是系統(tǒng)過程的是系統(tǒng)過程的covariance。式式(1)和和(2)就是就是卡爾曼濾波器卡爾曼濾波器5個(gè)公式當(dāng)中的前兩個(gè)，也就個(gè)公式當(dāng)中的前兩個(gè)，也就是對(duì)是對(duì)系統(tǒng)狀態(tài)的預(yù)測（或稱為估計(jì)）。系統(tǒng)狀態(tài)的預(yù)測（或稱為估計(jì)）。2022-6-19大連理工大學(xué)42 卡爾曼濾波器的介紹卡爾曼濾波器的介紹（3 3）計(jì)算當(dāng)前狀態(tài)）計(jì)算當(dāng)前狀態(tài) 我們有了現(xiàn)在狀態(tài)的我們有了現(xiàn)在狀態(tài)的預(yù)測預(yù)測結(jié)果，然后我們再收集現(xiàn)結(jié)果，然后我們再收集現(xiàn)在狀態(tài)的在狀態(tài)的測量值測量值。結(jié)合預(yù)測值和測量值，我們可以。

36、結(jié)合預(yù)測值和測量值，我們可以得到現(xiàn)在狀態(tài)得到現(xiàn)在狀態(tài)(k)的最優(yōu)化估算值的最優(yōu)化估算值X(k|k)： X(k|k)= X(k|k-1)+Kg(k) (Z(k)-H X(k|k-1) (3)（4 4）計(jì)算當(dāng)前時(shí)刻的卡爾曼增益）計(jì)算當(dāng)前時(shí)刻的卡爾曼增益 Kg為卡爾曼增益為卡爾曼增益(Kalman Gain)： Kg(k)= P(k|k-1) H / (H P(k|k-1) H + R) (4)2022-6-19大連理工大學(xué)43 卡爾曼濾波器的介紹卡爾曼濾波器的介紹（5 5）計(jì)算當(dāng)前時(shí)刻狀態(tài)的協(xié)方差）計(jì)算當(dāng)前時(shí)刻狀態(tài)的協(xié)方差 到現(xiàn)在為止，我們已經(jīng)得到了到現(xiàn)在為止，我們已經(jīng)得到了k狀態(tài)下最優(yōu)的估算狀態(tài)

37、下最優(yōu)的估算值值X(k|k)。但是為了要令卡爾曼濾波器不斷的運(yùn)行。但是為了要令卡爾曼濾波器不斷的運(yùn)行下去直到系統(tǒng)過程結(jié)束，我們還要更新下去直到系統(tǒng)過程結(jié)束，我們還要更新k狀態(tài)下狀態(tài)下X(k|k)的的covariance： P(k|k)=（I-Kg(k) H）P(k|k-1) (5) 其中其中I 為單位矩陣，對(duì)于單模型單測量，為單位矩陣，對(duì)于單模型單測量，I=1。當(dāng)系。當(dāng)系統(tǒng)進(jìn)入統(tǒng)進(jìn)入k+1狀態(tài)時(shí)，狀態(tài)時(shí)，P(k|k)就是式就是式(2)的的P(k-1|k-1)。這樣，算法就可以自回歸的運(yùn)算下去。這樣，算法就可以自回歸的運(yùn)算下去。2022-6-19大連理工大學(xué)44 卡爾曼濾波器的介紹卡爾曼濾波器的

38、介紹 卡爾曼濾波器的原理基本描述了，式卡爾曼濾波器的原理基本描述了，式1，2，3，4和和5就是其就是其5 個(gè)基本公式。個(gè)基本公式。 根據(jù)這根據(jù)這5個(gè)公式，可以很容易用計(jì)算機(jī)編程實(shí)現(xiàn)。個(gè)公式，可以很容易用計(jì)算機(jī)編程實(shí)現(xiàn)。 卡爾曼濾波的卡爾曼濾波的實(shí)質(zhì)實(shí)質(zhì)是由量測值重構(gòu)系統(tǒng)的狀態(tài)向量是由量測值重構(gòu)系統(tǒng)的狀態(tài)向量。它以。它以“預(yù)測預(yù)測實(shí)測實(shí)測修正修正”的順序遞推，根據(jù)系的順序遞推，根據(jù)系統(tǒng)的量測值來消除隨機(jī)干擾，再現(xiàn)系統(tǒng)的狀態(tài)，或統(tǒng)的量測值來消除隨機(jī)干擾，再現(xiàn)系統(tǒng)的狀態(tài)，或根據(jù)系統(tǒng)的量測值從被污染的系統(tǒng)中恢復(fù)系統(tǒng)的本根據(jù)系統(tǒng)的量測值從被污染的系統(tǒng)中恢復(fù)系統(tǒng)的本來面目。來面目。2022-6-19大連理

39、工大學(xué)45 狀態(tài)方程與觀測方程（又稱輸出方程）狀態(tài)方程與觀測方程（又稱輸出方程） 其中：其中： 為狀態(tài)矢量，是被估計(jì)的量；為狀態(tài)矢量，是被估計(jì)的量； 是輸入信號(hào)；是輸入信號(hào)； 是觀測數(shù)據(jù)；是觀測數(shù)據(jù)； 表示表示 時(shí)刻的狀態(tài)矩陣；時(shí)刻的狀態(tài)矩陣； 表示系統(tǒng)白噪表示系統(tǒng)白噪聲；聲； 表示系統(tǒng)噪聲影響各狀態(tài)的程度；表示系統(tǒng)噪聲影響各狀態(tài)的程度； 表示量測矩陣；表示量測矩陣； 為輸入矩陣。為輸入矩陣。 噪聲噪聲 和和 為互不相關(guān)的為互不相關(guān)的0 0均值白噪聲，滿足：均值白噪聲，滿足：( )(1)(1)(1)kkkkkkkxA xB u w( )( )( )kkx kkyCv( )kx( )ku( )k

40、ykAk( )kwkkCkB( )kw( )kv22,wkvkQR2022-6-19大連理工大學(xué)46 卡爾曼濾波的基本思路與步驟卡爾曼濾波的基本思路與步驟卡爾曼濾波采用遞推算法；卡爾曼濾波采用遞推算法；第一步第一步：先不考慮系統(tǒng)噪聲：先不考慮系統(tǒng)噪聲 的影響，由的影響，由 時(shí)時(shí)刻的狀態(tài)變量估計(jì)值刻的狀態(tài)變量估計(jì)值 估計(jì)狀態(tài)變量和輸出信估計(jì)狀態(tài)變量和輸出信號(hào)的初步估計(jì)值：號(hào)的初步估計(jì)值：這樣，初步估計(jì)輸出值與實(shí)測輸出值的誤差為：這樣，初步估計(jì)輸出值與實(shí)測輸出值的誤差為：( )kw1k (1)k x( ,1)(1)(1)kkk kkkxA xB u( )( ,1)kkk kyC x( )( )kk

41、yy2022-6-19大連理工大學(xué)47第二步第二步：用第一步得到的輸出信號(hào)的誤差加權(quán)后校：用第一步得到的輸出信號(hào)的誤差加權(quán)后校正狀態(tài)變量的估計(jì)值，即按照以下卡爾曼濾波方程正狀態(tài)變量的估計(jì)值，即按照以下卡爾曼濾波方程求得濾波結(jié)果：求得濾波結(jié)果：式中，加權(quán)矩陣（增益矩陣）為：式中，加權(quán)矩陣（增益矩陣）為：預(yù)測誤差的方差矩陣定義為：預(yù)測誤差的方差矩陣定義為：可以證明：可以證明：( )( ,1) ( )( )kkk kkkxxL yyT1( ,1)( ,1)kkkkkk kk kLPCC PCRTT111( ,1)(1)kkkkkk kkPA PAQT( ,1) ( )( ,1) ( )( ,1) k

42、 kEkk kkk kPxxxx2022-6-19大連理工大學(xué)48其中其中 時(shí)刻的誤差方差矩陣定義為時(shí)刻的誤差方差矩陣定義為而它與而它與 的關(guān)系為的關(guān)系為卡爾曼濾波的關(guān)鍵卡爾曼濾波的關(guān)鍵：是計(jì)算加權(quán)矩陣：是計(jì)算加權(quán)矩陣 的最佳值，的最佳值，使?fàn)顟B(tài)變量估計(jì)的誤差最小。使?fàn)顟B(tài)變量估計(jì)的誤差最小。只要只要 滿足：滿足：就可以實(shí)現(xiàn)上述目標(biāo)。就可以實(shí)現(xiàn)上述目標(biāo)。T( ) ( )( ) ( )( ) kEkkkkPxxxxk( ,1)k k P( ) ( ,1)kkkk kPIL C PkLkLT1( ,1)( ,1)kkkkkk kk kLPCC PCR2022-6-19大連理工大學(xué)49T1TT111(1) ( ,1)(1)(1)(2) ( )( ,1)(3) ( )( ,1) ( )( )(4) ( ,1)( ,1)(5) ( ,1)(1)(6) ( ) ( ,1)kkkkkkkkkkkkkkkkk kkkkk kkk kkkk kk kk kkkk kxA xB uyC xxxL yyLPCC PCRPA PAQPIL C P計(jì)算公式：計(jì)算公式：計(jì)算流程計(jì)算流程2022-6-19大連理工大學(xué)50 【例例】 假定隨機(jī)信號(hào)假定隨機(jī)信號(hào) 是由一個(gè)是由一個(gè)0均值白噪聲序列均值白噪聲序列 激激勵(lì)的一階遞歸系統(tǒng)所產(chǎn)生的廣義馬爾可夫過程，