卡爾曼濾波簡介和實例講解

1、word卡爾曼，美國數(shù)學(xué)家和電氣工程師。1930年5月19日生于匈牙利首都布達(dá)佩斯。1953年在美國麻省理工學(xué)院畢業(yè) 獲理學(xué)士學(xué)位,1954年獲理學(xué)碩士學(xué)位，1957年在哥倫比亞大學(xué)獲科學(xué)博士學(xué)位。19571958年在國際商業(yè)機(jī)器公 司（IBM）研究大系統(tǒng)計算機(jī)控制的數(shù)學(xué)問題。19581964年在巴爾的摩高級研究院研究控制和數(shù)學(xué)問題。19641971 年到斯坦福大學(xué)任教授。1971年任佛羅里達(dá)大學(xué)數(shù)學(xué)系統(tǒng)理論研究中心主任，并兼任蘇黎世的瑞士聯(lián)邦高等工業(yè)學(xué)校教授。1960年卡爾曼因提出著名的卡爾曼濾波器而聞名于世?？柭鼮V波器在隨機(jī)序列估計、空間技術(shù)、工程系 統(tǒng)辨識和經(jīng)濟(jì)系統(tǒng)建模等方面有許多重要

2、應(yīng)用。1960年卡爾曼還提出能控性的概念。能控性是控制系統(tǒng)的研究和實 現(xiàn)的根本概念，在最優(yōu)控制理論、穩(wěn)定性理論和網(wǎng)絡(luò)理論中起著重要作用?？柭€利用對偶原理導(dǎo)出能觀測性概 念，并在數(shù)學(xué)上證明了卡爾曼濾波理論與最優(yōu)控制理論對偶。為此獲電氣與電子工程師學(xué)會（IEEE）的最高獎榮譽(yù)獎?wù)隆？柭袛?shù)學(xué)系統(tǒng)概論（1968）等書。什么是卡爾曼濾波最優(yōu)線性濾波理論起源于40年代美國科學(xué)家 Wiener和前蘇聯(lián)科學(xué)家Ko刀MoropOB等人的研究工作， 后人統(tǒng)稱為維納濾波理論。從理論上說，維納濾波的最大缺點(diǎn)是必須用到無限過去的數(shù)據(jù)，不適用于實時處理。為 了克制這一缺點(diǎn)，60年代Kalman把狀態(tài)空間模型引入

3、濾波理論，并導(dǎo)出了一套遞推估計算法，后人稱之為卡爾曼 濾波理論?？柭鼮V波是以最小均方誤差為估計的最優(yōu)準(zhǔn)如此，來尋求一套遞推估計的算法，其根本思想是：采用 信號與噪聲的狀態(tài)空間模型，利用前一時刻地估計值和現(xiàn)時刻的觀測值來更新對狀態(tài)變量的估計，求出現(xiàn)時刻的估 計值。它適合于實時處理和計算機(jī)運(yùn)算?？柭鼮V波的實質(zhì)是由量測值重構(gòu)系統(tǒng)的狀態(tài)向量。它以“預(yù)測一實測一修正的順序遞推，根據(jù)系統(tǒng)的量測 值來消除隨機(jī)干擾，再現(xiàn)系統(tǒng)的狀態(tài)，或根據(jù)系統(tǒng)的量測值從被污染的系統(tǒng)中恢復(fù)系統(tǒng)的本來面目。釋文：卡爾曼濾波器是一種由卡爾曼Kalman提出的用于時變線性系統(tǒng)的遞歸濾波器。這個系統(tǒng)可用包含正 交狀態(tài)變量的微分方程模

4、型來描述，這種濾波器是將過去的測量估計誤差合并到新的測量誤差中來估計將來的誤 差。卡爾曼濾波的應(yīng)用斯坦利.施密特(Stanley Schmidt)首次實現(xiàn)了卡爾曼濾波器.卡爾曼在NASA埃姆斯研究中心訪問時，發(fā)現(xiàn)他的 方法對于解決阿波羅計劃的軌道預(yù)測很有用，后來阿波羅飛船的導(dǎo)航電腦使用了這種濾波器.關(guān)于這種濾波器的論 文由 Swerling (1958), Kalman (I960) 與 Kalman and Bucy (1961) 發(fā)表.目前，卡爾曼濾波已經(jīng)有很多不同的實現(xiàn).卡爾曼最初提出的形式現(xiàn)在一般稱為簡單卡爾曼濾波器除此以外， 還有施密特擴(kuò)展濾波器，信息濾波器以與很多Bierman,

5、Thornton 開發(fā)的平方根濾波器的變種.也行最常見的卡爾 曼濾波器是鎖相環(huán)，它在收音機(jī)，計算機(jī)和幾乎任何視頻或通訊設(shè)備中廣泛存在.卡爾曼濾波的一個典型實例是從一組有限的，對物體位置的，包含噪聲的觀察序列預(yù)測出物體的坐標(biāo)位置與速 度.在很多工程應(yīng)用（雷達(dá)，計算機(jī)視覺）中都可以找到它的身影.同時，卡爾曼濾波也是控制理論以與控制系統(tǒng)工 程中的一個重要話題.比如,在雷達(dá)中，人們感興趣的是跟蹤目標(biāo)，但目標(biāo)的位置，速度，加速度的測量值往往在任何時候都有噪聲.卡 爾曼濾波利用目標(biāo)的動態(tài)信息，設(shè)法去掉噪聲的影響，得到一個關(guān)于目標(biāo)位置的好的估計。 這個估計可以是對當(dāng)前目 標(biāo)位置的估計（濾波）,也可以是對于將

6、來位置的估計（預(yù)測），也可以是對過去位置的估計（插值或平滑）.擴(kuò)展卡爾曼濾波EKFEXTEND KALMAN FILTER擴(kuò)展卡爾曼濾波器是由kalman filter考慮時間非線性的動態(tài)系統(tǒng)，常應(yīng)用于目標(biāo)跟蹤系統(tǒng)?？柭鼮V波是一種高效率的遞歸濾波器（自回歸濾波器）,它能夠從一系列的不完全包含噪聲的測量（英文:measurement)中，估計動態(tài)系統(tǒng)的狀態(tài)。簡單來說，卡爾曼濾波器是一個“ optimal recursive data processi ng algorithm最優(yōu)化自回歸數(shù)據(jù)處理算法。對于解決很大局部的問題，他是最優(yōu)，效率最高甚至是最有用的。他的廣泛應(yīng)用已經(jīng)超過30年，包括機(jī)器

7、人導(dǎo)航，控制，傳感器數(shù)據(jù)融合甚至在軍事方面的雷達(dá)系統(tǒng)以與導(dǎo)彈追蹤等等。近年來更被應(yīng)用于計算機(jī)圖像 處理，例如頭臉識別，圖像分割，圖像邊緣檢測等等?？柭鼮V波的命名這種濾波方法以它的發(fā)明者魯?shù)婪?E.卡爾曼Rudolf E. Kalman丨命名.雖然Peter Swerling 實際上更早提 出了一種類似的算法.卡爾曼全名Rudolf Emil Kalman，匈牙利數(shù)學(xué)家，1930年出生于匈牙利首都布達(dá)佩斯。1953, 1954年于麻省 理工學(xué)院分別獲得電機(jī)工程學(xué)士與碩士學(xué)位。1957年于哥倫比亞大學(xué)獲得博士學(xué)位。我們現(xiàn)在要學(xué)習(xí)的卡爾曼濾波器，正是源于他的博士論文和 1960年發(fā)表的論文A Ne

8、wApproach to Linear Filteringand Prediction Problems線性濾波與預(yù)測問題的新方法。如果對這編論文有興趣，可以到這里的地址下載：卡爾曼濾波的應(yīng)用斯坦利.施密特(Stanley Schmidt)首次實現(xiàn)了卡爾曼濾波器.卡爾曼在NASA埃姆斯研究中心訪問時，發(fā)現(xiàn)他的方法對于解決阿波羅計劃的軌道預(yù)測很有用，后來阿波羅飛船的導(dǎo)航電腦使用了這種濾波器.關(guān)于這種濾波器的論 文由 Swerling （1958）, Kalman （I960）與 Kalman and Bucy （1961） 發(fā)表.目前，卡爾曼濾波已經(jīng)有很多不同的實現(xiàn).卡爾曼最初提出的形式現(xiàn)在一般

9、稱為簡單卡爾曼濾波器 除此以外， 還有施密特擴(kuò)展濾波器，信息濾波器以與很多Bierman, Thornton 開發(fā)的平方根濾波器的變種.也行最常見的卡爾 曼濾波器是鎖相環(huán)，它在收音機(jī)，計算機(jī)和幾乎任何視頻或通訊設(shè)備中廣泛存在.卡爾曼濾波的一個典型實例是從一組有限的，對物體位置的，包含噪聲的觀察序列預(yù)測出物體的坐標(biāo)位置與速 度.在很多工程應(yīng)用（雷達(dá)，計算機(jī)視覺）中都可以找到它的身影.同時，卡爾曼濾波也是控制理論以與控制系統(tǒng)工 程中的一個重要話題.比如,在雷達(dá)中，人們感興趣的是跟蹤目標(biāo)，但目標(biāo)的位置，速度，加速度的測量值往往在任何時候都有噪聲.卡 爾曼濾波利用目標(biāo)的動態(tài)信息，設(shè)法去掉噪聲的影響，得

10、到一個關(guān)于目標(biāo)位置的好的估計。這個估計可以是對當(dāng)前目標(biāo)位置的估計（濾波）,也可以是對于將來位置的估計（預(yù)測），也可以是對過去位置的估計（插值或平滑）. 實例分析為了可以更加容易的理解卡爾曼濾波器，這里會應(yīng)用形象的描述方法來講解，而不是像大多數(shù)參考書那樣羅列一大堆的數(shù)學(xué)公式和數(shù)學(xué)符號。但是，他的5條公式是其核心內(nèi)容。結(jié)合現(xiàn)代的計算機(jī)，其實卡爾曼的程序相當(dāng)?shù)暮唵?，只要你理解了他的?條公式。在介紹他的5條公式之前，先讓我們來根據(jù)下面的例子一步一步的探索。假設(shè)我們要研究的對象是一個房間的溫度。根據(jù)你的經(jīng)驗判斷，這個房間的溫度是恒定的，也就是下一分鐘的溫度等于現(xiàn)在這一分鐘的溫度假設(shè)我們用一分鐘來做時間

11、單位。假設(shè)你對你的經(jīng)驗不是100%勺相信，可能會有上下偏差幾度。我們把這些偏差看成是高斯白噪聲White Gaussian Noise，也就是這些偏差跟前后時間是沒有關(guān)系的而且符合高斯分配Gaussian Distribution 。另外，我們在房間里放一個溫度計，但是這個溫度計也不準(zhǔn) 確的，測量值會比實際值偏差。我們也把這些偏差看成是高斯白噪聲。好了，現(xiàn)在對于某一分鐘我們有兩個有關(guān)于該房間的溫度值：你根據(jù)經(jīng)驗的預(yù)測值系統(tǒng)的預(yù)測值和溫度計 的值測量值。下面我們要用這兩個值結(jié)合他們各自的噪聲來估算出房間的實際溫度值。假設(shè)我們要估算k時刻的是實際溫度值。首先你要根據(jù) k-1時刻的溫度值，來預(yù)測k時

12、刻的溫度。因為你相信 溫度是恒定的，所以你會得到 k時刻的溫度預(yù)測值是跟k-1時刻一樣的，假設(shè)是23度，同時該值的高斯噪聲的偏 差是5度5是這樣得到的：如果k-1時刻估算出的最優(yōu)溫度值的偏差（估計值誤差）是3,你對自己預(yù)測的不確定 度預(yù)測誤差是4度，他們平方相加再開方，就是5。然后，你從溫度計那里得到了 k時刻的溫度值測量值， 假設(shè)是25度，同時該值的偏差是4度測量誤差。由于我們用于估算k時刻的實際溫度有兩個溫度值，分別是 23度和25度。終究實際溫度是多少呢？相信自己 還是相信溫度計呢？終究相信誰多一點(diǎn)，我們可以用他們的協(xié)方差covarianee來判斷。因為KgA2=5A2/(5A2+4A2

13、)， 所以Kg=0.78,我們可以估算出k時刻的實際溫度值是：23+0.78*(25-23)=24.56 度?？梢钥闯觯驗闇囟扔嫷?covarianee比擬小比擬相信溫度計，所以估算出的最優(yōu)溫度值偏向溫度計的值。現(xiàn)在我們已經(jīng)得到k時刻的最優(yōu)溫度值了，下一步就是要進(jìn)入 k+1時刻，進(jìn)展新的最優(yōu)估算。到現(xiàn)在為止，好 似還沒看到什么自回歸的東西出現(xiàn)。對了，在進(jìn)入k+1時刻之前，我們還要算出k時刻那個最優(yōu)值24.56度的偏差。算法如下：(1-Kg)*5A2)A0.5=2.35 。這里的5就是上面的k時刻你預(yù)測的那個23度溫度值的偏差，得出的 2.35就是進(jìn)入k+1時刻以后k時刻估算出的最優(yōu)溫度值的偏

14、差對應(yīng)于上面的 3。就是這樣，卡爾曼濾波器就不斷的把covarianee遞歸，從而估算出最優(yōu)的溫度值。他運(yùn)行的很快，而且它只保存了上一時刻的covarianee。上面的Kg,就是卡爾曼增益Kalman Gain。他可以隨不同的時刻而改變他自己 的值，是不是很神奇！在學(xué)習(xí)卡爾曼濾波器之前，首先看看為什么叫“卡爾曼。跟其他著名的理論例如傅立葉變換，泰勒級數(shù)等等一樣，卡爾曼也是一個人的名字，而跟他們不同的是，他是個現(xiàn)代人！卡 爾曼全名Rudolf Emil Kalman,匈牙利數(shù)學(xué)家，1930年出生于匈牙利首都布達(dá)佩斯。1953, 1954年于麻省理工 學(xué)院分別獲得電機(jī)工程學(xué)士與碩士學(xué)位。1957年

15、于哥倫比亞大學(xué)獲得博士學(xué)位。我們現(xiàn)在要學(xué)習(xí)的卡爾曼濾波器，正是源于他的博士論文和 1960 年發(fā)表的論文A New Approach to Linear Filtering and Prediction Problems線性濾波與預(yù)測問題的新方法。如果對這編論文有興趣，可以到這里的地址下載：簡 單來說，卡爾曼濾波器是一個“ optimal recursive data processing algorithm最優(yōu)化自回歸數(shù)據(jù)處理算法。對于解決很大局部的問題，他是最優(yōu)，效率最高甚至是最有用的。他的廣泛應(yīng)用已經(jīng)超過30年，包括機(jī)器人導(dǎo)航，控制，傳感器數(shù)據(jù)融合甚至在軍事方面的雷達(dá)系統(tǒng)以與導(dǎo)彈追蹤等等

16、。近年來更被應(yīng)用于計算機(jī)圖像處理，例如頭 臉識別，圖像分割，圖像邊緣檢測等等。2. 卡爾曼濾波器的介紹Introduction to the Kalman Filter為了可以更加容易的理解卡爾曼濾波器，這里會應(yīng)用形象的描述方法來講解，而不是像大多數(shù)參考書那樣羅列一大 堆的數(shù)學(xué)公式和數(shù)學(xué)符號。但是，他的5條公式是其核心內(nèi)容。結(jié)合現(xiàn)代的計算機(jī)，其實卡爾曼的程序相當(dāng)?shù)暮唵危?只要你理解了他的那5條公式。在介紹他的5條公式之前，先讓我們來根據(jù)下面的例子一步一步的探索。假設(shè)我們要研究的對象是一個房間的溫度。根據(jù)你的經(jīng)驗判斷，這個房間的溫度是恒定的，也就是下一分鐘的溫度 等于現(xiàn)在這一分鐘的溫度假設(shè)我們用

17、一分鐘來做時間單位。假設(shè)你對你的經(jīng)驗不是100%勺相信，可能會有上下 偏差幾度。我們把這些偏差看成是高斯白噪聲 White Gaussian Noise，也就是這些偏差跟前后時間是沒有關(guān)系 的而且符合高斯分配Gaussian Distribution 。另外，我們在房間里放一個溫度計，但是這個溫度計也不準(zhǔn)確的， 測量值會比實際值偏差。我們也把這些偏差看成是高斯白噪聲。好了，現(xiàn)在對于某一分鐘我們有兩個有關(guān)于該房間的溫度值：你根據(jù)經(jīng)驗的預(yù)測值系統(tǒng)的預(yù)測值和溫度計的值測量值。下面我們要用這兩個值結(jié)合他們各自的噪聲來估算出房間的實際溫度值。假設(shè)我們要估算k時刻的是實際溫度值。首先你要根據(jù) k-1時刻的

18、溫度值，來預(yù)測k時刻的溫度。因為你相信溫度 是恒定的，所以你會得到k時刻的溫度預(yù)測值是跟k-1時刻一樣的，假設(shè)是23度，同時該值的高斯噪聲的偏差是 5度5是這樣得到的：如果k-1時刻估算出的最優(yōu)溫度值的偏差是 3,你對自己預(yù)測的不確定度是4度，他們平方相加再開方，就是5。然后，你從溫度計那里得到了 k時刻的溫度值，假設(shè)是25度，同時該值的偏差是4度。 由于我們用于估算k時刻的實際溫度有兩個溫度值，分別是 23度和25度。終究實際溫度是多少呢？相信自己還是 相信溫度計呢？終究相信誰多一點(diǎn)，我們可以用他們的covarianee來判斷。因為KgA2=5A2/(5A2+4A2)，所以Kg=0.78,我

19、們可以估算出k時刻的實際溫度值是：23+0.78*(25-23)=24.56度?？梢钥闯?，因為溫度計的covarianee 比擬小比擬相信溫度計，所以估算出的最優(yōu)溫度值偏向溫度計的值?，F(xiàn)在我們已經(jīng)得到k時刻的最優(yōu)溫度值了，下一步就是要進(jìn)入 k+1時刻，進(jìn)展新的最優(yōu)估算。到現(xiàn)在為止，好似還 沒看到什么自回歸的東西出現(xiàn)。 對了，在進(jìn)入k+ 1時刻之前，我們還要算出k時刻那個最優(yōu)值24.56度的偏差( 算法如下：(1-Kg)*5A2)A0.5=2.35 。這里的5就是上面的k時刻你預(yù)測的那個23度溫度值的偏差，得出的2.35 就是進(jìn)入k+1時刻以后k時刻估算出的最優(yōu)溫度值的偏差對應(yīng)于上面的3。就是這

20、樣，卡爾曼濾波器就不斷的把 covarianee遞歸，從而估算出最優(yōu)的溫度值。他運(yùn)行的很快，而且它只保存 了上一時刻的covarianee。上面的Kg,就是卡爾曼增益Kalman Gain。他可以隨不同的時刻而改變他自己的值， 是不是很神奇！下面就要言歸正傳，討論真正工程系統(tǒng)上的卡爾曼。3. 卡爾曼濾波器算法The Kalman Filter Algorithm在這一局部，我們就來描述源于 Dr Kalman的卡爾曼濾波器。下面的描述，會涉與一些根本的概念知識，包括概 率Probability ，隨即變量RandomVariable，高斯或正態(tài)分配Gaussian Distributen丨還有

21、 State-spaceModel等等。但對于卡爾曼濾波器的詳細(xì)證明，這里不能一一描述。首先，我們先要引入一個離散控制過程的系統(tǒng)。該系統(tǒng)可用一個線性隨機(jī)微分方程Linear Stochastic Differeneeequation來描述：X(k)=A X(k-1)+B U(k)+W(k)再加上系統(tǒng)的測量值：Z(k)=H X(k)+V(k)上兩式子中，X(k)是k時刻的系統(tǒng)狀態(tài)，U(k)是k時刻對系統(tǒng)的控制量。A和B是系統(tǒng)參數(shù)，對于多模型系統(tǒng)，他 們?yōu)榫仃?。Z(k)是k時刻的測量值，H是測量系統(tǒng)的參數(shù)，對于多測量系統(tǒng)，H為矩陣。W(k)和V(k)分別表示過程 和測量的噪聲。他們被假設(shè)成高斯白噪

22、聲 (White Gaussian Noise)，他們的covarianee分別是Q, R這里我們假 設(shè)他們不隨系統(tǒng)狀態(tài)變化而變化。對于滿足上面的條件(線性隨機(jī)微分系統(tǒng)，過程和測量都是高斯白噪聲)，卡爾曼濾波器是最優(yōu)的信息處理器。下面我們來用他們結(jié)合他們的covaria nces來估算系統(tǒng)的最優(yōu)化輸出類似上一節(jié)那個溫度的例子。首先我們要利用系統(tǒng)的過程模型，來預(yù)測下一狀態(tài)的系統(tǒng)。假設(shè)現(xiàn)在的系統(tǒng)狀態(tài)是k,根據(jù)系統(tǒng)的模型，可以基于系統(tǒng)的上一狀態(tài)而預(yù)測出現(xiàn)在狀態(tài)：X(k|k-1)=A X(k-1|k-1)+B U(k) (1)式(1)中，X(k|k-1)是利用上一狀態(tài)預(yù)測的結(jié)果，X(k-1|k-1)是

23、上一狀態(tài)最優(yōu)的結(jié)果，U(k)為現(xiàn)在狀態(tài)的控制量， 如果沒有控制量，它可以為0。到現(xiàn)在為止，我們的系統(tǒng)結(jié)果已經(jīng)更新了，可是，對應(yīng)于X(k|k-1)的covarianee還沒更新。我們用P表示covarianee :P(k|k-1)=A P(k-1|k-1) A ' +Q (2)式(2)中，P(k|k-1)是 X(k|k-1)預(yù)測值對應(yīng)的 covarianee , P(k-1|k-1)是 X(k-1|k-1)最優(yōu)值對應(yīng)的covarianee , A表示A的轉(zhuǎn)置矩陣，Q是系統(tǒng)過程的covarianee。式子1, 2就是卡爾曼濾波器5個公式當(dāng)中的前 兩個，也就是對系統(tǒng)的預(yù)測。現(xiàn)在我們有了現(xiàn)在狀

24、態(tài)的預(yù)測結(jié)果，然后我們再收集現(xiàn)在狀態(tài)的測量值。結(jié)合預(yù)測值和測量值，我們可以得到現(xiàn)在狀態(tài)(k)的最優(yōu)化估算值X(k|k)：X(k|k)二 X(k|k-1)+Kg(k) (Z(k)-H X(k|k-1) (3)其中Kg為卡爾曼增益(Kalman Gain):Kg(k)= P(k|k-1) H ' / (H P(k|k-1) H ' + R) (4)到現(xiàn)在為止，我們已經(jīng)得到了 k狀態(tài)下最優(yōu)的估算值X(k|k)。但是為了要另卡爾曼濾波器不斷的運(yùn)行下去直到系統(tǒng)過程完畢，我們還要更新 k狀態(tài)下X(k|k)的covarianee :P(k|k)=l-Kg(k) HP(k|k-1) (5)其中

25、I為1的矩陣，對于單模型單測量，1=1。當(dāng)系統(tǒng)進(jìn)入k+1狀態(tài)時，P(k|k)就是式子(2)的P(k-1|k-1)。這樣,算法就可以自回歸的運(yùn)算下去?？柭鼮V波器的原理根本描述了，式子1, 2, 3, 4和5就是他的5個根本公式。根據(jù)這5個公式，可以很容易的實現(xiàn)計算機(jī)的程序。下面，我會用程序舉一個實際運(yùn)行的例子。4. 簡單例子A Simple Example這里我們結(jié)合第二第三節(jié)，舉一個非常簡單的例子來說明卡爾曼濾波器的工作過程。所舉的例子是進(jìn)一步描述第二 節(jié)的例子，而且還會配以程序模擬結(jié)果。根據(jù)第二節(jié)的描述，把房間看成一個系統(tǒng)，然后對這個系統(tǒng)建模。當(dāng)然，我們見的模型不需要非常地準(zhǔn)確。我們所 知道的這個房間的溫度是跟前一時刻的溫度一樣的，所以A=1。沒有控制量，所以U(k)=0。因此得出：X(k|k-1)=X(k-1|k-1) (6)式子2可以改成：P(k|k-1)=P(k-1|k-1) +Q (7)因為測量的值是溫度計的，跟溫度直