自適應(yīng)均衡算法LMS研究

1、文檔來源為：從網(wǎng)絡(luò)收集整理.word版本可編輯.歡迎下載支持自適應(yīng)均衡算法LMS研究一、自適應(yīng)濾波原理與應(yīng)用所謂自適應(yīng)濾波器，就是利用前一時刻已獲得的濾波器參數(shù)等結(jié)果，自動地調(diào)節(jié)現(xiàn)時刻的濾波器參數(shù)， 以適應(yīng)信號和噪聲未知的或隨時間變化的統(tǒng)計特性， 從而實現(xiàn)最優(yōu)濾波。根據(jù)環(huán)境的改變，使用自適應(yīng)算法來改變?yōu)V波器的參數(shù)和結(jié)構(gòu)。1.1 均衡器的發(fā)展及概況均衡是減少碼間串?dāng)_的有效措施。均衡器的發(fā)展有史已久，二十世紀(jì) 60 年代前，電話信道均衡器的出現(xiàn)克服了數(shù)據(jù)傳輸過程中的碼間串?dāng)_帶來的失真影響。但是均衡器要么是固定的， 要么其參數(shù)的調(diào)整是手工進(jìn)行。 1965年， Lucky 在均衡問題上提出了迫零準(zhǔn)則，

2、自動調(diào)整橫向濾波器的權(quán)系數(shù)。 1969 年， Gerhso 和 Porkasi ， Milier 分別獨立的提出采用均方誤差準(zhǔn)則(MSE)。1972年，ungeboekc將LM就法應(yīng)用于自適應(yīng)均衡。1974年，Gedard 在kalmna濾波理論上推導(dǎo)出遞推最小均方算法 RLS(Recursive least-squares) 。LMS類 算法和RLS類算法是自適應(yīng)濾波算法的兩個大類。自適應(yīng)濾波在信道均衡、回波抵消、譜線增強、噪聲抑制、天線自適應(yīng)旁瓣抑制、雷達(dá)雜波抵消、相參檢測、譜估計、窄帶干擾抑制、系統(tǒng)辨識、系統(tǒng)建模、語音信號處理、生物醫(yī)學(xué)、電子學(xué)等方面獲得廣泛的應(yīng)用。1.2 均衡器種類均衡

3、技術(shù)可分為兩類：線性均衡和非線性均衡。這兩類的差別主要在于自適應(yīng)均衡器的輸出被用于反饋控制的方法。如果判決輸出沒有被用于均衡器的反饋邏輯中，那么均衡器是線性的；如果判決輸出被用于反饋邏輯中并幫助改變了均衡器的后續(xù)輸出，那么均衡器是非線性的。圖 1.1 均衡器的分類1.3 自適應(yīng)算法LMS算法LMST法是由widrow和Hoff于1960年提出來的，是統(tǒng)計梯度算法類的很重 要的成員之一。它具有運算量小，簡單，易于實現(xiàn)等優(yōu)點。LMS算法是建立在Wiener濾波的基礎(chǔ)上發(fā)展而來的。Wiener解是在最小均方誤差 (MMSE®義下使用均方誤差作為代價函數(shù)而得到的在最小誤差準(zhǔn)則下的最優(yōu)解。因其

4、結(jié)構(gòu) 簡單、穩(wěn)定性好，一直是自適應(yīng)濾波經(jīng)典有效的算法之一，被廣泛應(yīng)用于雷達(dá)、通信、聲納、 系統(tǒng)辨識及信號處理等領(lǐng)域。1.3.1 MSE的含義MSE為基礎(chǔ)。下LMS算法的推導(dǎo)以估計誤差平方的集平均或時平均(即均方誤差, 面先介紹MSE勺概念。設(shè)計一個均衡系統(tǒng)如下圖所示：圖1.2圖1.2中的均衡器為一 FIR橫式濾波器，其結(jié)構(gòu)如圖1,3所示。其輸入矢量為(1.1 )(1.(2)(1.(3)(1.(4)x(n) x(n),x(n 1), , x(n M 1)加權(quán)矢量(即濾波器抽頭系數(shù)矢量)為TwW1,W2, ,Wm可知濾波器的輸出M *HT ,、?(n) wi x(n i 1) w x(n) x (

5、n)w i 1則有He(n) d(n) y?(n) d(n) w x(n)其中H表示共腕轉(zhuǎn)置。根據(jù)最小均方誤差準(zhǔn)則，最佳的濾波器抽頭系數(shù)矢量wopt應(yīng)f (w) Ee(n)(1.5)使得性能函數(shù)一均方誤差為最小。式(1.5)稱為均方誤差性能函數(shù)。圖1.3時域FIR橫式濾波器在指定的信道條件下，f (w)為各濾波器抽頭系數(shù)的函數(shù)?，F(xiàn)在來研究系統(tǒng)處于平穩(wěn)3文檔來源為：從網(wǎng)絡(luò)收集整理.word版本可編輯.歡迎下載支持狀態(tài)時的情況。將式(1.4)代入式(1.5)可得E d(n) 2 wHrxd (wH")* wH RxxW2HHE d(n) 2 2RewHrxd wH Rxxw(1.(6)其

6、中rxd表示d(n)和x(n)的互相關(guān)矢量。Rxx(n)表示x(n)的自相關(guān)矩陣。對(1.6)式兩端對w求導(dǎo)，并令導(dǎo)數(shù)為零，得到：Rxxwrxd(1.(7)當(dāng)Rxx為滿秩時，從而可得到該橫式濾波器抽頭系數(shù)的最優(yōu)維納解為:wopt Rxx rxd(1.(8)LMS4代算法由式(1.8)知Wiener濾波器的抽頭系數(shù)的直接計算需要矩陣求逆，當(dāng) M較大時，計 算量較大且由于信號和干擾環(huán)境的變化常須對求逆過程不斷進(jìn)行。所以常用其它遞推求解 的方法。下面我們介紹從最陡下降法來推導(dǎo) LMST法。根據(jù)最陡下降法，有：w(n 1) w(n) w f (w)(1.(9)其中，wf(w)為f(w)的梯度，而 為常

7、數(shù)并被稱為步長因子。又因為:wf(w) 2Rxxw 2rxd(1.10)為了實現(xiàn)上述迭代算法需要知道梯度wf(w)的精確值，這就要求輸入信號x(n)和d(n)平穩(wěn)且其二階統(tǒng)計特性已知。這時才能根據(jù)信號x(n)和需要信號d(n)的采樣值來估 計Rxx和"，從而尋找wopt 0為了克服上述困難和減少求解每次迭代的計算量的問題。一種粗略的但是卻是十分有效的計算wf(w)的近似方法是：直接取2e(n)作為均方誤差e(n)2的估計值，即?wf(w)?wEe(n) 2 w e(n)由式(1.4)可得 2 w e(n) 2e(n)x(n)將式(1.11 )和式(1.12)代入式(1.9)得(1.1

8、1 )(1.12)文檔來源為：從網(wǎng)絡(luò)收集整理.word版本可編輯.歡迎下載支持w(n 1) w(n) 2 e(n)x(n)(1.13)上式就是B.Windrow在60年代初提出的LMS自適應(yīng)迭彳t算法。LMST法的流程歸納如初始化：wm 0 00T更新：n 1，2，H ， 、 7在第二步中，若取二常數(shù)，則稱之為基本 LMS算法；若取 = x (n)x(n),其中(0,2),0,則得到歸一化LMSB法。LMS算法的重要特點是將其期望值近似為瞬時值。故在迭代收斂后，加權(quán)矢量不會等 于最優(yōu)的加權(quán)矢量，而是在最優(yōu)加權(quán)矢量附近隨機性的波動，等效于在最優(yōu)加權(quán)矢量上疊 加了一個噪聲，也就是說這種近似存在誤差

9、。所以，LMS算法又被稱為隨機梯度法。此法可以被視為最陡下降法的近似。其另一個重要的特點是每次迭代需要M 1次乘法和M次加法，因而運算處理相當(dāng)簡單。LMS算法采用瞬時值代替期望值，則會存在著一個算法收斂、穩(wěn)定性的問題。在本節(jié) 中，主要來討論LMSB法的收斂性及穩(wěn)定性。§ LMS算法的穩(wěn)定性比較LMSB法遞推公式(1.13)和最陡下降法遞推公式(1.9)可以看出，LMSB法用2Ea(n) 2l /一w e(n)作為wEe(n)估計。從而可以想象，LM新法的加權(quán)矢量平均值Ew(n)將按最陡下降法的加權(quán)矢量的變化規(guī)律變化。現(xiàn)在，假設(shè)x(n)和w(n)不相關(guān)來尋找LMS算法的加權(quán)矢量平均值的

10、變化規(guī)律。將式(1.4)代入(1.13) LMSB法的遞推公式可寫為：(2.1 )(2.(2)(2.(3)w(n 1) w(n) 2 x(n)d(n) x(n)xH (n)w(n)w(n 1) I 2 x(n)xH (n)w(n) 2 x(n)d(n)對式(2.2 )求均值,可得E w(n 1) I 2 RxxE w(n) 2 4并令誤差矢量v(n)為4文檔來源為：從網(wǎng)絡(luò)收集整理.word版本可編輯.歡迎下載支持.文檔來源為 :從網(wǎng)絡(luò)收集整理.word 版本可編輯.歡迎下載支持6 文檔來源為 :從網(wǎng)絡(luò)收集整理.word 版本可編輯.歡迎下載支持為對角線元素的對角線陣。則由式（ 2.3 ）可得和

11、式中根據(jù)矩陣?yán)碚撚衅渲?Q 是可以將 Rxx 對角化的酉矩陣，在令2.7 ）可得當(dāng)且僅當(dāng)時v(n) w(n) woptE v(n) E w(n) woptE v(n 1) I 2 RxxE v(n)E v(n) I 2 Rxxnv(0)v(0)w(0) wopt1Rxx Q AQE v (n) I 2 Anv2.5 ）還有E w(n)2.11 ）和（ 2.12 ）可得：v (n)A (八 Diag( i,1Q 1v(n)'1E v'(n) Q 1E v(n)(0)wopt2,QI 2 AnQ 1w(0)1/maxlim E w(n)woptnwopt 2.4)2.5)2.6)(

12、2.(7)(2.(8)(2.(9)M ） ）是以 Rxx 的特征值2.10)2.11 )2.12)2.13)2.14)其中max為濾波器對應(yīng)的輸入信號相關(guān)矩陣Rxx的最大特征值。式（2.13）即為LMS算法的加權(quán)矢量平均值的收斂條件。實際上，有maxTr Rxx2.15)式中TrRxx為Rxx的跡，且文檔來源為：從網(wǎng)絡(luò)收集整理.word版本可編輯.歡迎下載支持TrRxx iEx2(n i 1) MS.(2.16)i 1i 1式中Sin為濾波器輸入信號X(n)的功率。這樣還可以得到加權(quán)矢量收斂的充分條件(2.17)0 (MSin)式(2.17)導(dǎo)出了一個大M的LM酊法濾波器步長參數(shù) 穩(wěn)定性界的必

13、要條件，濾波 器步長參數(shù)對M為較小長度時，至今沒有理論上得到的固定上界。但是對于步長小的時候：小步長理論對收斂性提供了理論描述9即滿足式(2.13)的要求。由上面的收斂穩(wěn)定性分析可以看出，LMSB法的收斂是有條件的。步長 必須要滿 足一定的要求。§ LMS算法的收斂速度對信道均衡自適應(yīng)算法的選擇，除了算法本身的穩(wěn)定性，我們還要考慮它的收斂速度。收斂速度是指對于恒定輸入，當(dāng)?shù)惴ǖ牡Y(jié)果已經(jīng)充分接近最優(yōu)解時，即已經(jīng)收斂 時，算法所需的迭代次數(shù)。一般來說快速的收斂算法可以快速地適應(yīng)穩(wěn)定的環(huán)境，而且也 可以及時地跟上非穩(wěn)定環(huán)境的特性變化。從均方誤差來看，LMS算法的最終收斂速度要取決于

14、最慢的一個指數(shù)過程，相應(yīng)的時問常數(shù)為msemax (2 min )(2.18)min為矩陣Rxx的最小特征值。從式(2.13)可知，為了保證自適應(yīng)算法收斂受限于max,將式(2.13)代入時(2.18)有maxmsem ax 2 min(2.19)所以，當(dāng)Rxx的特征值分散時，即max和相差很大時，LMSf法的收斂速度性能將變的很差。特征值分散定義為：cond(Rxx)maxmin(2.20)10文檔來源為：從網(wǎng)絡(luò)收集整理.word版本可編輯.歡迎下載支持它反映了一個矩陣Rxx的條件數(shù)。當(dāng)cOnd(Rxx)大時，稱矩陣Rxx及相應(yīng)的Rxx方程為病態(tài)，所以當(dāng)Rxx為病態(tài)時，LMS»法的

15、收斂性能很差。由上分析可知，LMST法的收斂速度主要是由兩個參數(shù)來決定：步長 和特征值分散。 即對Rxx的特征值分散敏感。也就是說，對于不同的特征值分散，LMSB法的收斂速度不同。 另一方面，LMS算法的收斂速度和步長 之間也有關(guān)系。由(2.13)和(2.18)可知在收 斂范圍內(nèi)，愈大，LMSJJ法的收斂速度愈快。但過大時，過渡過程將出現(xiàn)振蕩70§ LMS算法的性能學(xué)習(xí)曲線及穩(wěn)態(tài)誤差自適應(yīng)算法的均方誤差的過渡過程又稱為學(xué)習(xí)曲線，均方誤差學(xué)習(xí)曲線是研究自適應(yīng)2濾波器的統(tǒng)計特性的一種通用的方法。它是基于均方估計誤差e(n)的集平均值。這個學(xué)習(xí)曲線因此也是均方誤差Ee(n)2在時亥n的圖形

16、。由，LMS算法的均方誤差E e(n) 2將近似地按最陡下降法的均方誤差的變化規(guī)律變化。這就是說，LMSB法的學(xué)習(xí)曲線近似地為幾個不同的時間常數(shù)的指數(shù)之和由式(2.4)及式(1.4)有，、 H ，、，、eopt(n) v (n)x(n)而H ，、，、eopt (n) d(n) Wopt(n)x(n)(2.21 )(2.22)為w W0Pt時的誤差信號，稱為最佳誤差信號。最佳誤差信號對應(yīng)于最小均方誤差(維納誤差)min2E eopt (n)o由于LMS»法的加權(quán)矢量w(n)具有隨機性，使得LMST法的Ee(n) 2將高于最陡下降法的Eeo特別是，對于LMSJJ法來說，在Ew(n)收斂到

17、最佳值wopt后，加 權(quán)矢量繼續(xù)按式(1.13)變化，其校正值2 36次5)不為零，而是繼續(xù)隨機起伏的，從而使w(n)繼續(xù)隨機起伏。這就使得LMSB法的Ew(n)收斂到wopt后，均方誤差 將大于維納 誤差m%B.Widrow為此引入了失調(diào)系數(shù)minmin(2.23)來描述LMSB法(和其他算法)的穩(wěn)態(tài)均方誤差對維納誤差的相對偏差。并且有MSin(2.24)可知濾波器階數(shù)愈高，步長因子和輸入信號功率愈大，就使得失調(diào)系數(shù)愈大。由上分析可知，使LMSB法的性能達(dá)到最佳，要選擇合適的步長因子、濾波器抽頭數(shù)、輸入信號能量及特征值分散?？偠灾瑢τ谄椒€(wěn)系統(tǒng)，算法的參數(shù)選擇應(yīng)保證較小 的穩(wěn)態(tài)誤差和較快的

18、收斂速度，這時均衡才能得到較理想的效果。本文著重對自適應(yīng)濾波器算法進(jìn)行理論分析。LMS算法簡單，計算代價小，易于實現(xiàn)等特點是其主要優(yōu)點。但其缺點是速度慢且收斂速度強烈依賴于輸入信號相關(guān)矩陣特征值。 LMS算法是一種遞歸運算，它不需要對信號的統(tǒng)計特性有先驗的了解，而只是使用它們的 瞬時估計值，運算得到的只是權(quán)重系數(shù)的估計值，但隨著時間的增加，權(quán)數(shù)逐步調(diào)整，估 計值也逐步調(diào)整，估計值也逐步改善，最終得到收斂值。就經(jīng)典的LMS#法提出了改進(jìn)算法：誤差歸一化的變步長 LMSB法。算法的基本指導(dǎo) 思想是先指定一個較大的步長，使算法有較快的收斂速度；算法在若干次迭代以后會進(jìn)入 穩(wěn)態(tài)鄰域，這時減小步長，算法

19、就會在先前穩(wěn)態(tài)的基礎(chǔ)上進(jìn)一步收斂，從而和維納解更接 近，進(jìn)入范圍更小的穩(wěn)態(tài)鄰域?？梢钥闯鲞x擇一個可以反映穩(wěn)態(tài)鄰域大小的參量是變步長 算法核心問題。并且對改進(jìn)算法進(jìn)行了 MATLA時真。計算機仿真結(jié)果表明，改進(jìn)算法有快速的收斂 能力，很好的跟蹤能力和較小的穩(wěn)態(tài)誤差。通過自適應(yīng)算法的研究，尤其是LMST法的深入研究，使我們對自適應(yīng)濾波器有了更為透徹的認(rèn)識。§ LMS算法的仿真實現(xiàn)采用線性橫向均衡器與LMS#法%LMSf法1次實驗clear;N=500;db=25;sh1=sqrt(10A(-db/10);文檔來源為 :從網(wǎng)絡(luò)收集整理.word 版本可編輯.歡迎下載支持u=1;error_

20、s=zeros(1,N);for loop=1:1w=0.05*ones(1,11)'V=sh1*randn(1,N );K=randn(1,N)-0.5;x=sign(K);for n=3:N;M(n)=0.3*x(n)+0.9*x(n-1)+0.3*x(n-2);endz=M+V;for n=8:N;d(n)=x(n-7);enda(1)=z(1)A2;for n=2:11;a(n)=z(n).A2+a(n-1);endfor n=12:N;a(n)=z(n).A2-z(n-11)A2+a(n-1);endfor n=11:N;z1=z(n) z(n-1) z(n-2) z(n-3

21、) z(n-4) z(n-5) z(n-6) z(n-7) z(n-8) z(n-9) z(n-10)'y(n)=w'*z1;e(n)=d(n)-y(n);w=w+u./(eps+a(n).*z1.*conj(e(n);enderror_s=error_s+e.A2;endwerror_s=error_s./1;n=1:N;plot(n,error_s);xlabel('n (當(dāng) u=1;DB=25 時) ');ylabel('e(n)A2');title('LMS 算法 1 次實驗誤差平方的均值曲線');%LMSJ法20次實驗clear;N=500;db=20;sh1=sqrt(10A(-db/10);u=1;error_s=zeros(1,N);for loop=1:20w=0.05*