自適應(yīng)濾波器原理

1、Adaptive Filters 自適應(yīng)濾波器自適應(yīng)濾波器第一節(jié)第一節(jié)引言引言一、自適應(yīng)一、自適應(yīng)DF 60年代以后才出現(xiàn)，發(fā)展很快。 所謂自適應(yīng)DF：利用前一時(shí)刻已獲得的濾波器參數(shù)等結(jié)果，自動(dòng)地調(diào)節(jié)現(xiàn)時(shí)刻的濾波器參數(shù)，以適應(yīng)信號(hào)與噪聲未知的或隨時(shí)間變化的統(tǒng)計(jì)特性，從而實(shí)現(xiàn)最優(yōu)濾波。 這個(gè)概念是從仿生學(xué)中引伸出來的，生物能以各種有效的方式適應(yīng)生存環(huán)境，生命力極強(qiáng)。二最小均方誤差（LMS） 自適應(yīng)DF：以均方誤差最小為準(zhǔn)則，能自動(dòng)調(diào)節(jié)單位脈沖響應(yīng)h(n),以達(dá)到最優(yōu)濾波的時(shí)變最佳DF也即：參數(shù)會(huì)變參數(shù)會(huì)變，隨著外界參數(shù)變化自動(dòng)調(diào)節(jié)，使濾波器效果最佳。 19571966年美國通用公司應(yīng)用于天線，為

2、了抑制旁瓣而提出。 奠定自適應(yīng)濾波器的人是：美國B.Windrow 及Hoff：提出自適應(yīng)DF算法，主要用于隨機(jī)信號(hào)處理。三、目的 設(shè)計(jì)自適應(yīng)DF，可以不必預(yù)先知道信號(hào)與噪聲的自相關(guān)函數(shù)。 在濾波過程中，即使信號(hào)與噪聲的自相關(guān)函數(shù)隨時(shí)間緩慢變化，DF也能自動(dòng)適應(yīng)，自動(dòng)調(diào)節(jié)到滿足均方誤差最小的要求。四、自適應(yīng)發(fā)展前景11、廣泛用于系統(tǒng)模型識(shí)別如系統(tǒng)建模：其中自適應(yīng)濾波器作為估計(jì)未知系統(tǒng)特性的模型。2、通信信道的自適應(yīng)均衡如：高速modem采用信道均衡器：用它補(bǔ)償信道失真，modem必須通過具有不同頻響特性而產(chǎn)生不同失真的信道有效地傳送數(shù)據(jù)，則要求信號(hào)均衡器具有可調(diào)系數(shù)，據(jù)信道特性對(duì)這些系數(shù)進(jìn)行優(yōu)

3、化，以使信道失真的某些量度最小化。又如：數(shù)字通信接收機(jī)：其中自適應(yīng)濾波器用于信道識(shí)別并提供碼間串?dāng)_的均衡器。四、自適應(yīng)發(fā)展前景23、雷達(dá)與聲納的波束形成如自適應(yīng)天線系統(tǒng)，其中自適應(yīng)濾波器用于波束方向控制，并可在波束方向圖中提供一個(gè)零點(diǎn)以便消除不希望的干擾。4、消除心電圖中的電源干擾如：自適應(yīng)回波相消器，自適應(yīng)噪聲對(duì)消器：其中自適應(yīng)濾波器用于估計(jì)并對(duì)消預(yù)期信號(hào)中的噪聲分量。5、噪聲中信號(hào)的濾波、跟蹤、譜線增強(qiáng)以及線性預(yù)測等。五、目前常見的自適應(yīng)濾波器 由于設(shè)計(jì)簡單、性能最佳，自適應(yīng)DF是目前數(shù)字濾波器領(lǐng)域是活躍的分支，也是數(shù)字濾波器研究的熱點(diǎn)。 主要自適應(yīng)濾波器：遞推最?。≧LS）濾波器，最小均

4、方（LMS）濾波器，格型濾波器、無限沖激響應(yīng)（IIR）濾波器。第二節(jié)最小均方誤差（LMS)自適應(yīng)DF的基本原理一、均方誤差 用統(tǒng)計(jì)方法，大量數(shù)求平均，提出均方誤差最小準(zhǔn)則，即輸出信號(hào)與進(jìn)行信號(hào)之間誤差最小。其定義為：22)( )()(nsnsEnE測量數(shù)據(jù)越多，則越準(zhǔn)確。h(n)x(n)=s(n)+w(n)( )(nsny其中s(n)信號(hào)（可以是隨機(jī)信號(hào)或規(guī)則信號(hào)。10)()()()()(Nmmnxnhnxnhny輸出：二、自適應(yīng)DF基本原理1.自適應(yīng)DF的原理框圖自適應(yīng)數(shù)字濾波器參考輸入-+d(j)(j)原始輸入x(j)y(j)x(j)表示j時(shí)刻的參考輸入，y(j)表示j時(shí)刻的輸出響應(yīng);d(

5、j)表示j時(shí)刻的原始輸入信號(hào)，即所期望的輸出響應(yīng)；(j)為誤差信號(hào)=d(j)-y(j);2、自適應(yīng)DF的原理(1)自適應(yīng)DF的h(n)單位脈沖響應(yīng)受(j)誤差信號(hào)控制。(2)根據(jù)(j)的值而自動(dòng)調(diào)節(jié)，使之適合下一刻(j+1)的輸入x(j+1)，以使輸出y(j+1)更接近于所期望的響應(yīng)d(j+1),直至均方誤差E2 (j)達(dá)到最小值.(3)y(j)最佳地逼近d(j)，系統(tǒng)完全適應(yīng)了所加入的兩個(gè)外來信號(hào)，即外界環(huán)境。注意： x(j)和d(j)兩個(gè)輸入信號(hào)可以是確定的，也可以是隨機(jī)的，可以是平穩(wěn)的隨機(jī)過程，也可以是非平穩(wěn)的隨機(jī)過程。從圖中可見：自適應(yīng)DF是由普通DF+相關(guān)抵消回路構(gòu)成。3、ADF實(shí)現(xiàn)

6、可以由FIR DF或IIR DF實(shí)現(xiàn)。但由于收斂性及穩(wěn)定性，目前用得多為FIR DF 實(shí)現(xiàn)。FIR濾波器結(jié)構(gòu)有：橫向型結(jié)構(gòu)(直接型)（Transveral Structure)對(duì)稱橫向型結(jié)構(gòu)(Symmetric Transveral Structure)格形結(jié)構(gòu)(Lattice Structure)4、FIR ADF實(shí)現(xiàn) 若FIR DF的單位脈沖響應(yīng)長度為，則其輸出為 可見:(1)是個(gè)現(xiàn)在或過去輸入值的加權(quán)和.(2)加權(quán)系數(shù)就是h(m)。(3)在自適應(yīng)DF中，這個(gè)加權(quán)系數(shù)常用符號(hào)wj表示,時(shí)間用j表示.(4)則輸出可表示為： (5)自適應(yīng)DF可變成自適應(yīng)線性組合器。10)()()(Nnmnxm

7、hnyNiiijxwjy1)()(5、FIR ADF的框圖（也即自適應(yīng)線性組合器）自適應(yīng)算法.x1jx2jxNj+-d(j)(j)y(j)w1w2wN 若設(shè)x1j, x2j , x3j xNj ,為同一信號(hào)的不同延時(shí)組成的延時(shí)線抽頭形式，即所謂橫向FIR結(jié)構(gòu)。它是最常見的一種自適應(yīng)DF結(jié)構(gòu)形式。 一般來講x1j, x2j , x3j xNj , 可以是任意一組輸入信號(hào)，并不一定要求當(dāng)時(shí)x1j = xj, x2j= x(j-1),x3j= x(j-2) ，xNj= x(j-N+1) ，即并不要求各xi(j)是由同一信號(hào)的不同延時(shí)組成.6、橫向FIR ADF的結(jié)構(gòu)自適應(yīng)算法.x(j)x(j-1)x

8、(j-N+1)+-d(j)(j)y(j)w1w2wN 若設(shè)x(j), x(j-1) , x(j-2) x(j-N+1)j ,為同一信號(hào)的不同延時(shí)組成的延時(shí)線抽頭形式，即為橫向FIR結(jié)構(gòu)。它是最常見的一種自適應(yīng)DF結(jié)構(gòu)形式。 AFy(j)(j)x(j)簡化符號(hào)為7、由橫向FIR AF組成的自適應(yīng)系統(tǒng).x1(j)x2(j)xN(j)+-d(j)(j)y(j)w1w2wNAFAFAF 當(dāng)所處理的輸入信號(hào)x1(j), x2(j) , x3(j) xN(j)來自不同的信號(hào)源時(shí)，它實(shí)際上就等于自適應(yīng)線性組合器。三、尋找E2(j)=min時(shí)的各wi值 自適應(yīng)DF的要害在于按照(j)和各xi(j)的值，通過某

9、種算法尋找出E2(j)=min時(shí)的各wi值，從而可自動(dòng)地調(diào)節(jié)各wi值。1.寫出均方誤差的式子 首先我們推導(dǎo)出自適應(yīng)線性組合器均方誤差E2(j)與加權(quán)系數(shù)wi的關(guān)系式。 )()()()()()()()()(,321)()()()(2110jXWjdjyjdjjxjxjxjXwwwWjXWWjXjxWjyTNTNnTii求均方誤差：此處大寫代表矩陣式中：寫成矩陣形式：2.x(j)信號(hào)與d(j)信號(hào)的自相關(guān)函數(shù)的自相關(guān)函數(shù)是的自相關(guān)矩陣稱為輸入信號(hào)）（令)()0()()()0()0(0)0()0()0()0()0()()(221222111211221222111221jdjdEjxRxxxxxxx

10、xxxxxxxEjXjXERddxNxNxNxxNxxxxxxNxxxxxjNjNjjNjjjjjjNjjjT3.x(j)信號(hào)與d(j)信號(hào)的互相關(guān)函數(shù)0)()0(),0(),0()()()()()()()()(12121mmmjxjdjxjdjxjdEjXjdEPdxTxNddxdxN為時(shí)間差，同一時(shí)間相關(guān)函數(shù)，與期待輸出的信號(hào)的互為輸入信號(hào)在隨機(jī)過程中令：4.求出E2(j)與wi的關(guān)系 單個(gè)值單個(gè)值單個(gè)值行方陣列列行單個(gè)值均方誤差為：代入式中求得，將)0( 2)()()0()()()()()()()()()(2)()()()()(2)()()()(2222222ddTTddTTTTTTTW

11、RWWPjdEjEjdEjXjXERjXjdEPWjXjXWEWjXjdEjdEWjXjXWjXWjdjdEjXWjdEjE5.求出自適應(yīng)濾波器的E2(j)與wi的關(guān)系11111122211122)(2)()0()()0(2)0()0()(1)0(2)0()0( 2)()(NiNmNidixxmiddxdxxddNiNmNidxixxmiddTTiWmiWWjEFIRWWjENWWWWRWWPjdEjEimi數(shù)字濾波器有橫向不難證明，對(duì)于自適應(yīng)時(shí)，只有一個(gè)信號(hào)當(dāng)由于均方誤差為：第二節(jié)性能函數(shù)E2(j)及其梯度一、研究E 2(j)與W的關(guān)系 11111122)(2)()0(2)()(NiNmNi

12、dixxmiddTTiWmiWWWRWWPjdEjE由于均方誤差為：看出：均方誤差E 2(j)是加權(quán)系數(shù)W的二次函數(shù)，它是一個(gè)中間上凹的超拋物形曲面，是具有唯一最小值的函數(shù)。二、E 2(j)與W的關(guān)系曲線)(2jE)(22jE)(12jEAB調(diào)節(jié)加權(quán)系數(shù)W使均方誤差最小，相當(dāng)于沿超拋物形曲面下降到最小值。w)(2jW)(1jW三、梯度法 在數(shù)學(xué)上，可用梯度法沿著該曲面調(diào)節(jié)權(quán)矢量 的各元素 得到這個(gè)均方誤差E 2(j)的最小值。1.均方誤差梯度 將對(duì)上式 均方誤差對(duì)權(quán)矢量的各wi進(jìn)行求導(dǎo)，得到均方誤差梯度：NdwjdEdwjdEj)()()(212)(2jE2.求最佳權(quán)矢量（用w*表示） （1）

13、對(duì)均方誤差梯度求導(dǎo) 00 , 0 , 12012)(00 , 0 , 100 , 0 , 1010100 , 0 , 10120)(0)(1212WRPdwjdERRRWRRWRWRWWRPdwjdEjTTTTTTTTT為對(duì)稱方陣，即：求最佳權(quán)矢量，則令（2）求出均方誤差梯度表示式 2222)(22)(22)(22)(00 , 0 , 12012,222211211PWRWRPjWRxddwjdEWRxddwjdEWRxddwjdEWRWRxdPxdxdPNjNjNjjjjjjTjNjjjT均方誤差梯度為：以此類推：個(gè)元素第第二元素第一元素第一元素（3）維納-霍夫方程霍夫方程這是著名的維納或達(dá)

14、最佳值。為最小，時(shí)，當(dāng)均方誤差梯度為：)(0)( 2 2 2 2)(1*2PRWPWRWjEjPWRWRPj(4)最小均方誤差算法,)()(*221*WPRPWjdEjEPRW即可以求出已知最小誤差為：最小權(quán)矢量為： 實(shí)際上，設(shè)計(jì)自適應(yīng)DF無需知道R和P。自適應(yīng)DF與維納（平穩(wěn)隨機(jī)過程）DF比較，其差別在于增加了一個(gè)識(shí)別控制環(huán)節(jié)，將輸出y(j)與所期望的響應(yīng)d(j)比較，看是否一樣，如果有誤差(j)，用(j)去控制w,使w為E2(j)=min時(shí)的W*. 因此，關(guān)鍵：找到LMS算法，尋找一個(gè)W的遞推式，由W=W0，起始值開始，沿著趨于W*的正確方向逐步遞推，直至W=W*，E2(j)=min為止。

15、這就是最小均方誤差算法，簡稱LMS算法。第三節(jié)LMS遞推算法 尋找一個(gè)W的遞推式，由W=W0，起始值開始，沿著趨于W*的正確方向逐步遞推，直至W=W*，E2(j)=min為止一、LMS算法遞推式 LMS遞推算法是Windrow與Hoff兩個(gè)提出的。 設(shè)w(j)是j時(shí)刻的權(quán)矢量，w(j+1)是j+1時(shí)刻的權(quán)矢量； 則LMS算法的遞推公式為： 式中0, 是一個(gè)控制穩(wěn)定性與收斂速度的參數(shù)。 因?yàn)镋2(j)是權(quán)矢量W的二次方程，即E2(j)與W的關(guān)系在幾何上是一個(gè)“碗形”的多維曲面。時(shí)刻的均方誤差梯度。是jj :)()()()1(jjWjW指引正確的遞推方向。導(dǎo)向參數(shù)是,:)(jj二、自適應(yīng)過程的物理

16、意義)(2jE)(22jE)(12jEAB)(2jW)(1jW點(diǎn)。即碗底：。，去尋找“碗”的底點(diǎn)連續(xù)地調(diào)節(jié)，據(jù)遞推式自適應(yīng)的物理意義：根*2, 0)()()() 1(wwdwjdEWjjWjWW 為了簡單，設(shè)W是一維的，則E2(j)與W的關(guān)系成為一個(gè)拋物線。三、自適應(yīng)遞推算法的遞推過程1、步驟1右邊。必在則時(shí)，當(dāng)左邊。必在則時(shí)，設(shè)當(dāng)WjWdwjdEjWWWjWdwjdEjWWjwwjww)(, 0)()()(, 0)()()(22)(21212.步驟2.) 1() 1)(, 0)()()() 1(, 0) 122*2*2)(2211*12WjWjWWjWWWjWdwjdEjWWWjWjWwWj

17、WWjww（應(yīng)為，更接近于（值為了使下一個(gè)右邊。必在即時(shí)，如果設(shè)，更接近（值為了使下一個(gè)3.步驟3-合并TNjWWdWjdEdWjdEdWjdEjjWjjWjWjWjWjWWWjWdWjdEjWjW)()()()()()()()1()(.)()1()(,0)()()1(,22212*)(2，可用矩陣表示：是多維的情況時(shí)，梯度當(dāng)表示：用梯度更接近于比值都能使下一個(gè)左邊或右邊，在不論原來式中得：將上兩式合并4.步驟4-結(jié)論*2*)()1(0)()()1()()()()()1(WjWjWjjjWWWLMSjEjWWjjWjW，當(dāng)確定。靠擾的步距由的方向向碗底靠擾。將沿著時(shí)，根據(jù)上式，當(dāng)。算法也稱為最

18、陡下降法因此下降最快的方向。代表因?yàn)檫@一點(diǎn)?？梢哉业接桑核摹MS自適應(yīng)濾波器遞推公式（1）LMS算法如何實(shí)時(shí)處理及實(shí)現(xiàn)的無偏估計(jì)是，得出的數(shù)學(xué)期望代入上式，得：得又的估值，有：作為均方誤差的梯度（用單樣本怎樣處理呢？參數(shù)，不能實(shí)時(shí)計(jì)算，是個(gè)集合平均的，可知：由：)()()()()()()(2)()()(,)(,)(),()()()(,)(,)()(2)(,)(,)()()()()()()() 1(21)(21)(222122jjjjEjjXjjjXdWjddWjddWjdjXWjdjdWjddWjddWjdjdWjddWjddWjdjjjjjjjWjWTNTTjWWNTjWWN（2） LMS

19、自適應(yīng)濾波器遞推公式的結(jié)構(gòu)圖。也可由此設(shè)計(jì)硬件實(shí)現(xiàn)型，軟件實(shí)現(xiàn)的編程數(shù)學(xué)模它們就是自適應(yīng)）可按上式遞推計(jì)算，（，）給定輸入（可任意設(shè)置。）（）起始條件（式中：自適應(yīng)濾波器遞推公式得出一組代入方程中將上式：由誤差方程：DFjxjxjxWWWLMSjXjjWjWjXjjWjWjXjjjjWjWNNNNN3)(),()(2)0(,),0(,01.)()(2)() 1()()(2)() 1()()(2)()()() 1(2121111五、自適應(yīng)濾波器的主要結(jié)論（1）低。誤差最大，估計(jì)精度最時(shí)不相關(guān)時(shí)，互相關(guān)系數(shù)與當(dāng))()(, 00)()()()(2min21*jdEjEPRWjXjdEPjdjX 2)

20、()(22WRWWPjdEjETT因?yàn)榫秸`差為：五、自適應(yīng)濾波器的主要結(jié)論（2）高。誤差減少，估計(jì)精度提則相關(guān)時(shí)，與當(dāng))()()()()(2*221*jdEPWjdEjEPRWjdjXT 2)()(22WRWWPjdEjETT因?yàn)榫秸`差為：五、自適應(yīng)濾波器的主要結(jié)論（3）高。，最準(zhǔn)確，估計(jì)精度最均方誤差為則時(shí)，即階數(shù)完全相關(guān)時(shí)，與當(dāng)00)(0)()()()()()(1)()(1)()(21*jEjyjdjjdjxjyPRWRPjdjXNjdjX 2)()(22WRWWPjdEjETT因?yàn)榫秸`差為：五、自適應(yīng)濾波器的主要結(jié)論（4） 自適應(yīng)數(shù)字濾波器是個(gè)線性系統(tǒng)，時(shí)變，服從疊加原理。第四節(jié)

21、自適應(yīng)數(shù)字濾波器的應(yīng)用 自適應(yīng)濾波器最重要特性：能有效地在未知環(huán)境中跟蹤時(shí)變的輸入信號(hào)，使輸出信號(hào)達(dá)到最優(yōu)。因而在電信，雷達(dá)，聲納，實(shí)時(shí)控制以及圖象處理等領(lǐng)域都有成功的應(yīng)用。一、應(yīng)用介紹 自適應(yīng)數(shù)字濾波器的應(yīng)用非常廣泛，這里介紹四種。 一、自適應(yīng)噪聲抵消器； 二、自適應(yīng)陷波濾波器； 三、自適應(yīng)預(yù)測系統(tǒng)。二自適應(yīng)噪聲抵消器1、自適應(yīng)噪聲抵消器引入 固定參數(shù)的數(shù)字濾波器利用自身的傳輸特性來抑制信號(hào)中的干擾成分，消除干擾的效果受到很大的限制。 若已知道干擾信號(hào)的來源，就可利用干擾源的輸出去抵消信號(hào)中的混雜的干擾。 但直接利用干擾源的輸出去抵消干擾的做法是危險(xiǎn)的，因?yàn)橛捎谘舆t的影響，不僅不能減小信號(hào)中

22、的干擾，反而有可能使干擾加強(qiáng)。 在自適應(yīng)噪聲抵消器中，是利用干擾源的輸出，通過一個(gè)數(shù)字濾波器，最佳地估計(jì)出干擾值，從而從混有干擾的輸入中減去干擾估值，實(shí)現(xiàn)了干擾與信號(hào)相當(dāng)完善的分離。2、自適應(yīng)噪聲抵消器的原理框圖信號(hào)源噪聲源自適應(yīng)濾波+-)(ne)( ns)(0nV)(1nV)()(0nVnS原始輸入互不相關(guān)。、與且程，為零均值的平穩(wěn)隨機(jī)過、設(shè)定誤差最小。最佳估值，即兩者均方為相關(guān)的噪聲參考輸入為與圖中：原始輸入為：)()()()()()(:)()()()()()(101000100nVnVnSnVnVnSnVnVnVnVnVnS3、自適應(yīng)噪聲抵消器的輸出1噪聲抵消。是相關(guān)，這樣才能進(jìn)行、要求

23、。時(shí)，。誤差最小求自適應(yīng)濾波是使均方無關(guān)，、與程為零均值的平穩(wěn)隨機(jī)過、出自適應(yīng)噪聲抵消器的輸)()(min)(0)()(min)(0)()()()()()(,)()()()()()(2)()()()()()()(2)()()()()()()()()(00220020010100020022002002200nVnVneEnVnVEneEnVnVnsEnVnVnSnVnVnSnVnVnsEnVnVEnSEneEnVnVnSnVnVnSnenVnVnSnene3、自適應(yīng)噪聲抵消器的輸出2相等則最佳。（一般為噪聲）相關(guān)，必須與被抵消信號(hào)參考輸入信號(hào)務(wù)條件：完成自適應(yīng)噪聲抵消任看出：自適應(yīng)濾波器要。這時(shí)自適應(yīng)濾波器關(guān)閉號(hào)，什么信號(hào)，出來什么信也表明：原始信號(hào)進(jìn)來那么：不相關(guān)，則、若)()(000)()()()()(2)()()()(0)()()()(0120202002020220000nVnVnVEnVEnSEnVnVEnVEnVEnSEneEnVnVEnVnV4、自適應(yīng)噪聲抵消器的應(yīng)用 （1）胎心心電