第5節(jié)(552)均方誤差準(zhǔn)則(MSE)和LMS算法

1、146數(shù)字通信輔導(dǎo)材料 第5章 在有ISI及加性高斯噪聲信道中的數(shù)字信號(hào)傳輸5.5.2均方誤差準(zhǔn)則（MSE）和LMS算法引言：均方誤差準(zhǔn)則同時(shí)考慮ISI及噪聲的影響，使其最小化。本節(jié)討論問(wèn)題：1. 均方誤差準(zhǔn)則；2. 無(wú)限長(zhǎng)LMS均衡器（C(z)，Jmin）；3. 有限長(zhǎng)LMS均衡器（Copt，Jmin）；4. LMS算法；5. 均衡器的操作；6. 遞推LMS算法收斂特性的分析。一. 均方誤差準(zhǔn)則 Tx+ch+MF+WF vk + （白） 系統(tǒng)模型 （白） 判決器信息符號(hào)的估計(jì)值： （無(wú)限長(zhǎng)均衡器情況）其中，接收數(shù)據(jù)樣本為：，為白噪聲。估計(jì)誤差：定義：估計(jì)值為均衡器的性能指數(shù)。均方誤差準(zhǔn)則：使

2、均方誤差性能指數(shù)最小（），此準(zhǔn)則同時(shí)考慮使ISI及噪聲影響最小。獲得的途徑：調(diào)整，當(dāng)時(shí)，(最佳抽頭系數(shù))尋找的方法：1)根據(jù)正交性原理（線性均方估計(jì)）：。（注：與ZF準(zhǔn)則不同的是，這里的輸入是經(jīng)過(guò)兩個(gè)輸入濾波器的數(shù)據(jù)樣本，這就包含了噪聲）。即。2)求函數(shù)極值方法：令2013年5月3日星期五上午講于此處，已經(jīng)是第十次矣。這兩種方法是等價(jià)的，證明如下。證明：求導(dǎo)置零方法與正交性原理等價(jià)。 假如均衡器為有限長(zhǎng)，則其中，以及。故另一種方法：可見(jiàn)，是的平方函數(shù)（二次型）。求導(dǎo)置零可得： 即， ，結(jié)論：求導(dǎo)方法與正交性原理是等價(jià)的，滿足正交條件，就可以獲得最小MSE。二、無(wú)限長(zhǎng)LMS均衡器（性能）1. 求

3、：從正交原理出發(fā)，(10-2-27)即即（*） 正交條件注: 是收數(shù)據(jù)樣本，其中的噪聲已經(jīng)白化。在（*）式左邊可以得到：式中利用了。注：都是Kroenecker沖激或離散沖激的不同寫(xiě)法。因此我們有： (A)注：，代表了序列的共軛顛倒序列。或者說(shuō)代表了的MF(零時(shí)延)。（注：令）故，其支撐為：或者說(shuō)，可以得到也可以寫(xiě)為（*）式右邊： 式中，由此可得 (B)將（A）、（B）兩式代入（*）式：上式就是: 取Z變換： (10-2-31)則MMSE均衡器 (10-2-32) 等效MMSE均衡器： (10-2-33)2. 求（最小均方誤差）（1） 時(shí)域利用正交原理第二項(xiàng)為零，所以（利用(B)式）令信息符號(hào)

4、的平均功率為1，則（2）頻域通過(guò)z變換及令將式的全傳輸系統(tǒng)響應(yīng)： (10-2-35) 以z反變換（留數(shù)法）求： (10-2-36) (10-2-37)代入 ，得 將以信道折疊譜表示。因?yàn)榈母道锶~變換為，故又所以 (10-2-18)所以 (10-2-38)所以，當(dāng)ISI=0時(shí)， (10-2-39)因，故,，利用正交原理，易證：，即。 輸出SNR: (10-2-40)三、有限長(zhǎng)LMS均衡器 (, )均方誤差： 1、 求：無(wú)限長(zhǎng)均衡器仿上面無(wú)限長(zhǎng)均衡器的推導(dǎo)：根據(jù)正交條件：令則 （注: 的支撐為。） 令 得 （10-2-43）矩陣形式： （10-2-46）所以， （10-2-47） 說(shuō)明：, 為有個(gè)

5、元素的列向量 為(2K+1)×(2K+1)的Hermitian矩陣。因?yàn)樽韵嚓P(guān)函數(shù)且，所以中元素滿足。是共軛轉(zhuǎn)置陣（Hermite）陣。2、求均衡器的性能即求最小能達(dá)到的均方差：前已經(jīng)證明 將代入式： (10-2-48)注：的支撐為。 工程實(shí)用方法： 采用簡(jiǎn)單的迭代過(guò)程最速下降法。四. LMS算法：內(nèi)容: a)算法： (理論算法) b)梯度： c) 工程實(shí)用算法： d) 均衡器結(jié)構(gòu)：圖11-1-2 1、 算法：LMS算法是一種最陡下降法，其實(shí)質(zhì)是一個(gè)迭代過(guò)程，而迭代過(guò)程是通過(guò)遞推運(yùn)算來(lái)進(jìn)行的。設(shè)有（2K+1）個(gè)抽頭遞推運(yùn)算： 每次迭代變化量： 令 則 或矩陣形式： ，式中為調(diào)節(jié)階距（

6、步長(zhǎng)）注：可以看到，即強(qiáng)制要求抽頭系數(shù)向著誤差下降的方向變化。則 或矩陣形式： ，式中為調(diào)節(jié)階距（步長(zhǎng)step），其中第k符號(hào)時(shí)間的抽頭系數(shù)列矢量（即均衡器）為：2、 梯度：討論：1)理想情況下，經(jīng)過(guò)若干次迭代（），2)實(shí)際情況中，計(jì)算困難 統(tǒng)計(jì)平均, 不實(shí)時(shí)為克服這一困難，用估計(jì)值取代梯度真值對(duì)的無(wú)偏估計(jì)有：則 為梯度真值，為真值的無(wú)偏估計(jì)量。3. 工程實(shí)用LMS算法： (11-1-9) 即 (11-1-11)或 在商用的自適應(yīng)均衡器中，為簡(jiǎn)化乘法運(yùn)算次數(shù)，僅取和（或）的正負(fù)號(hào)進(jìn)行運(yùn)算，而不管大小。其優(yōu)點(diǎn)是簡(jiǎn)單，易實(shí)現(xiàn)，運(yùn)算次數(shù)少；缺點(diǎn)是收斂慢。 如： (11-1-14)定義復(fù)符號(hào)函數(shù)： (

7、11-1-15)4. 均衡器結(jié)構(gòu)圖11-1-2 基于MSE準(zhǔn)則的線性自適應(yīng)均衡器五. 均衡器的操作過(guò)程圖1 方框圖1. 方框圖 2. 兩種工作模式（狀態(tài)）（1）訓(xùn)練模式（training mode）: （2）工作模式（run mode）: , 在完成訓(xùn)練之后，進(jìn)入正常的工作模式情況下，即使有錯(cuò)判，由于很小，由此引起的誤調(diào)整影響很小。3. 步長(zhǎng)選擇與收斂特性 訓(xùn)練時(shí)： 大加速初始調(diào)整，接近 工作時(shí)： 小穩(wěn)態(tài)誤差小，步長(zhǎng)選擇考慮：穩(wěn)定且收斂快 穩(wěn)態(tài)MSE小六. 遞推LMS算法收斂特性的分析1、引言說(shuō)明三個(gè)問(wèn)題：要解決什么問(wèn)題；分析從何入手；分析的方法。（1） 算法表示理論上LMS算法：， （A）實(shí)

8、用的遞推算法： （B）梯度向量有噪無(wú)偏估計(jì)值：（2） 問(wèn)題l 收斂特性與的關(guān)系？l 如何選擇，以確保收斂？因?yàn)?，即為真值的無(wú)偏估計(jì)，所以，對(duì)收斂特性的影響，對(duì)（A）（B）兩式是相同的。為數(shù)學(xué)分析方便，我們只研究（A）式的收斂特性。（3） 收斂特性的分析方法采用反饋系統(tǒng)穩(wěn)定性的分析方法：l 建立以輸出的閉環(huán)系統(tǒng)模型，定性分析的影響；l 建立系統(tǒng)的差分方程，定量分析的影響。2、閉環(huán)系統(tǒng)模型定性分析收斂特性算法： （A）式中， （B）接收信號(hào)自相關(guān)矩陣，由確定。互相關(guān)矩陣，由確定。分析：由（A）式可看出（1）的迭代過(guò)程可以看作：每次迭代增量()的累積過(guò)程由保持器實(shí)現(xiàn)；（2）第k時(shí)刻計(jì)算的增量()應(yīng)在

9、第(k+1)時(shí)刻反映出來(lái)由延遲(Z-1)來(lái)實(shí)現(xiàn)。圖3(A) 決定閉環(huán)的主干回路(B) 決定閉環(huán)的反饋回路結(jié)論：對(duì)閉環(huán)輸出收斂特性影響因素：3、系統(tǒng)的差分方程定量分析收斂特性由(A)式得 （） (11-1-20)為一階差分方程組，即因?yàn)椴皇菍?duì)角矩陣，故，（2K+1）個(gè)一階差分方程是相互耦合的，必須聯(lián)解。所以，用解聯(lián)立方程組來(lái)定量分析收斂特性是困難的。解決方法：利用線性變換（酉變換）來(lái)解耦。為Hermite（厄米特）矩陣，可用U(酉矩陣)表示為 (U-1) (11-1-21) 式中，U(酉矩陣)由的特征向量確定。 (對(duì)角矩陣)的對(duì)角元素為的特征值，特征值為特征方程的根。再利用U矩陣的性質(zhì)： (U-

10、2) 將(U-1)式代入()式，兩邊再乘，然后利用(U-2)式，可得 (11-1-22) 式中， 說(shuō)明：(1)因?yàn)闉閷?duì)角矩陣，所以一階差分方程組是線性不相關(guān)的（即解耦）。 (2) 收斂特性取決于其齊次方程組： (11-1-23)即表示成（2K+1）個(gè)一階差分方程組： 可見(jiàn)，（2K+1）個(gè)與（2K+1）個(gè)對(duì)應(yīng)。對(duì)第j個(gè)抽頭系數(shù)Cj的差分方程為 圖4其相應(yīng)的閉環(huán)系統(tǒng)模型為：系統(tǒng)函數(shù)為： 令，得極點(diǎn)：要使迭代過(guò)程收斂，應(yīng)使極點(diǎn)在單位圓內(nèi)，即 (11-1-24)即， 又因?yàn)闉榈?2K+1)個(gè)特征值；而為自相關(guān)矩陣、Hermite型、正定的，因此，則 。又因?yàn)楦鞒轭^用統(tǒng)一的步長(zhǎng)，為保證穩(wěn)定收斂，以確定。因此，若步長(zhǎng)滿足：，則遞推算法是穩(wěn)定的，收斂的。式中，是的最大特征值，其上界為 4、收斂特性的分析（1）收斂特性在滿足穩(wěn)定遞推運(yùn)算條件下（即）， 矛盾解決方法：分(一般)。LMS算法的優(yōu)點(diǎn)：簡(jiǎn)單，各抽頭用同一個(gè)。LMS算法每次迭代時(shí)，