多任務(wù)自適應(yīng)網(wǎng)絡(luò)設(shè)計(jì)和實(shí)現(xiàn) 電子信息工程專業(yè)

目錄摘要 [24]。在多任務(wù)網(wǎng)絡(luò)中，簇內(nèi)節(jié)點(diǎn)的數(shù)據(jù)更新不僅僅依靠共同簇內(nèi)節(jié)點(diǎn)的數(shù)據(jù)融合，還需要結(jié)合相鄰簇間的融合數(shù)據(jù)。擴(kuò)散協(xié)作策略有數(shù)據(jù)融合和數(shù)據(jù)自適應(yīng)更新兩個(gè)階段，若先進(jìn)行數(shù)據(jù)融合階段再進(jìn)行數(shù)據(jù)自適應(yīng)更新，則為CTA(Combine-then-Adapt)策略，使用該策略的多任務(wù)分布式LMS算法公式如下：(3-6)若先經(jīng)歷數(shù)據(jù)自適應(yīng)更新階段再進(jìn)行數(shù)據(jù)融合，即為ATC(Adapt-then-Combine)策略，使用該策略的多任務(wù)分布式LMS算法公式如下：(3-7)由于ATC策略在某些情況下能實(shí)現(xiàn)更低的穩(wěn)態(tài)失調(diào)，目前的應(yīng)用十分廣泛，所以可用ATC策略來處理多任務(wù)問題。在多任務(wù)分布式LMS算法中通常根據(jù)先驗(yàn)信息或用戶偏好來預(yù)先設(shè)置參數(shù)?？梢钥吹?，如果被設(shè)置為0，則該算法變?yōu)樵诿總€(gè)簇內(nèi)使用擴(kuò)散LMS，沒有了任務(wù)之間的信息交換。在多任務(wù)分布式LMS算法中，正則化常數(shù)越大，在整個(gè)網(wǎng)絡(luò)中對未知系統(tǒng)的估計(jì)也就越均勻。人們可以根據(jù)任務(wù)的不同、問題的不同來調(diào)整正則化常數(shù)，也可以根據(jù)網(wǎng)絡(luò)的不同拓?fù)浣Y(jié)構(gòu)來調(diào)整，以便能更好地解決多任務(wù)問題。3.3性能指標(biāo)采用全局均方偏差(MeanSquareDeviation,簡記MSD)來表示網(wǎng)絡(luò)在經(jīng)過自適應(yīng)學(xué)習(xí)后達(dá)到穩(wěn)定的標(biāo)準(zhǔn)，能夠用來評判算法的性能。公式定義如下： (3-8)其中，表示各自節(jié)點(diǎn)需要估計(jì)的未知向量，表示第節(jié)點(diǎn)在時(shí)刻的權(quán)值向量。3.4MATLAB仿真3.4.1仿真要求基于MATLAB，采用多任務(wù)分布式LMS算法對不同的未知系統(tǒng)進(jìn)行估計(jì)，通過MSD收斂曲線來判定算法的性能。圖3-2多任務(wù)網(wǎng)絡(luò)拓?fù)?1)未知系統(tǒng)為個(gè)矩陣,每個(gè)矩陣的大小為。該實(shí)驗(yàn)中取，未知系統(tǒng)1為，未知系統(tǒng)2為，未知系統(tǒng)3為，未知系統(tǒng)4為。(2)輸入信號為相關(guān)度較高的有色信號，由均值為零的高斯白噪聲通過系統(tǒng)產(chǎn)生，大小為。本實(shí)驗(yàn)中，取1000。(3)干擾噪聲為零均值的高斯白噪聲。(4)選用的多任務(wù)網(wǎng)絡(luò)拓?fù)鋱D見圖3-2。該多任務(wù)網(wǎng)絡(luò)中有20個(gè)節(jié)點(diǎn)，每5個(gè)節(jié)點(diǎn)為一個(gè)簇，4個(gè)簇之間都相鄰。存在4個(gè)未知系統(tǒng)，節(jié)點(diǎn)1、2、3、4、5估計(jì)未知系統(tǒng)，節(jié)點(diǎn)6、7、8、9、10估計(jì)未知系統(tǒng)，節(jié)點(diǎn)11、12、13、14、15估計(jì)未知系統(tǒng)，節(jié)點(diǎn)16、17、18、19、20估計(jì)未知系統(tǒng)。接下來的仿真都是基于該網(wǎng)絡(luò)拓?fù)鋱D進(jìn)行。3.4.2仿真結(jié)果與分析(1)考慮到不同步長因子會對算法的性能造成影響，本節(jié)先在相同的正則化常數(shù)下對不同的步長因子做多任務(wù)分布式LMS算法的MATLAB仿真，仿真結(jié)果用100次單獨(dú)實(shí)驗(yàn)得到的MSD收斂曲線表示，本實(shí)驗(yàn)中步長因子選用、以及，正則化常數(shù)和，當(dāng)正則化常數(shù)時(shí)，對不同的步長因子、、進(jìn)行仿真。見仿真圖3-3，規(guī)定正則化常數(shù)，當(dāng)步長因子時(shí)，MSD曲線大約在迭代30次后趨于穩(wěn)定，收斂值為；當(dāng)步長因子時(shí)，MSD曲線大約在迭代100次后趨于穩(wěn)定，收斂值為；當(dāng)步長因子時(shí)，MSD曲線大約在迭代200次后趨于穩(wěn)定，收斂值為。圖3-3多任務(wù)分布式LMS算法仿真圖當(dāng)正則化常數(shù)時(shí)，對不同的步長因子、、進(jìn)行仿真。見仿真圖3-4，規(guī)定正則化常數(shù)，當(dāng)步長因子時(shí)，MSD曲線大約在迭代30次后趨于穩(wěn)定，收斂值為；當(dāng)步長因子時(shí)，MSD曲線大約在迭代100次后趨于穩(wěn)定，收斂值為；當(dāng)步長因子時(shí)，MSD曲線大約在迭代200次后趨于穩(wěn)定，收斂值為。圖3-4多任務(wù)分布式LMS算法仿真圖結(jié)合上面兩個(gè)仿真結(jié)果分析，無論正則化常數(shù)在理想范圍內(nèi)取何值，多任務(wù)分布式LMS算法的性能都會受步長因子的影響，步長因子較大時(shí)(),收斂曲線的收斂速度較快，即對未知系統(tǒng)的估計(jì)速度會加快，但是穩(wěn)態(tài)偏差會加大也就是對未知系統(tǒng)的估計(jì)精確度會降低；步長因子較小時(shí)(),收斂曲線的收斂速度較慢，即對未知系統(tǒng)的估計(jì)速度會變慢，不過穩(wěn)態(tài)偏差會減少也就是對未知系統(tǒng)的估計(jì)精確度會增加。(2)考慮到不同正則化常數(shù)會對算法的性能造成影響，在相同的步長因子下對不同的正則化常數(shù)做多任務(wù)分布式LMS算法的MATLAB仿真，仿真結(jié)果用100次單獨(dú)實(shí)驗(yàn)得到的MSD收斂曲線表示，本實(shí)驗(yàn)中正則化常數(shù)選用、，步長因子用、，選用網(wǎng)絡(luò)圖見圖3-2。從仿真圖3-5可看到，在步長因子情況下，當(dāng)正則化常數(shù)時(shí)，MSD曲線大約在迭代30次后趨于穩(wěn)定，收斂值為，當(dāng)正則化常數(shù)時(shí)，MSD曲線大約在迭代30次后趨于穩(wěn)定，收斂值為；在步長因子情況下，當(dāng)正則化常數(shù)時(shí)，MSD曲線大約在迭代100次后趨于穩(wěn)定，收斂值為，當(dāng)正則化常數(shù)時(shí)，MSD曲線大約在迭代100次后趨于穩(wěn)定，收斂值為。從這次仿真結(jié)果來看，在步長因子相同的情況下，不同的正則化常數(shù)對多任務(wù)分布式LMS算法的影響較小。對于該網(wǎng)絡(luò)拓?fù)鋪碚f，無論步長因子取值如何，正則化常數(shù)在理想范圍內(nèi)取值越大，MSD的收斂值越小，對未知向量的估計(jì)越精確，在整個(gè)網(wǎng)絡(luò)中對未知系統(tǒng)的估計(jì)也越均勻。圖3-5不同正則化常數(shù)的多任務(wù)分布式LMS算法仿真圖(3)為了比較出多任務(wù)分布式LMS算法在整個(gè)網(wǎng)絡(luò)上的性能，還需要對在多任務(wù)網(wǎng)絡(luò)上所有節(jié)點(diǎn)進(jìn)行不作數(shù)據(jù)協(xié)作的LMS算法的仿真，比較出在多任務(wù)網(wǎng)絡(luò)上進(jìn)行分布式LMS算法與只進(jìn)行LMS算法的差別。如果將多任務(wù)分布式LMS算法中的正則化常數(shù)設(shè)置為0，則表示任務(wù)間數(shù)據(jù)不進(jìn)行數(shù)據(jù)協(xié)作。仿真結(jié)果用100次單獨(dú)實(shí)驗(yàn)得到的MSD收斂曲線表示，本實(shí)驗(yàn)中步長因子選用、以及，正則化常數(shù)選用以及。如圖3-6，這是步長因子為的多任務(wù)網(wǎng)絡(luò)中分布式LMS算法和不參與聯(lián)合的節(jié)點(diǎn)的LMS算法仿真圖。從圖中可看到，當(dāng)收斂因子較大時(shí)，多任務(wù)網(wǎng)絡(luò)中不參與聯(lián)合的節(jié)點(diǎn)進(jìn)行LMS算法的MSD收斂曲線圖會出現(xiàn)發(fā)散的現(xiàn)象，然而在多任務(wù)網(wǎng)絡(luò)中進(jìn)行了分布式LMS算法的MSD收斂曲線圖會趨于穩(wěn)定。當(dāng)正則化常數(shù)時(shí)，即進(jìn)行了任務(wù)間數(shù)據(jù)融合算法的MSD收斂值為，而不參與聯(lián)合的節(jié)點(diǎn)的LMS算法的MSD收斂值為,收斂值相差；當(dāng)正則化常數(shù)時(shí)，即任務(wù)間數(shù)據(jù)沒有融合算法的MSD收斂值為。三者的收斂速度是一致的，大約在迭代30次的時(shí)候趨于穩(wěn)定。如圖3-7，這是步長因子為的多任務(wù)網(wǎng)絡(luò)中分布式LMS算法和不參與聯(lián)合的節(jié)點(diǎn)的LMS算法仿真圖。從圖中可看到，當(dāng)正則化常數(shù)時(shí)，即進(jìn)行了任務(wù)間數(shù)據(jù)融合算法的MSD收斂值為，而不參與聯(lián)合的節(jié)點(diǎn)的LMS算法的MSD收斂值為,收斂值相差；當(dāng)正則化常數(shù)時(shí)，即任務(wù)間數(shù)據(jù)沒有融合算法的MSD收斂值為。三者的收斂速度是一致的，大約在迭代100次的時(shí)候趨于穩(wěn)定。圖3-6多任務(wù)分布式LMS算法在網(wǎng)絡(luò)中的性能圖3-7多任務(wù)分布式LMS算法在網(wǎng)絡(luò)中的性能圖3-8多任務(wù)分布式LMS算法在網(wǎng)絡(luò)中的性能如圖3-8，這是步長因子為的多任務(wù)網(wǎng)絡(luò)中分布式LMS算法和不參與聯(lián)合的節(jié)點(diǎn)的LMS算法仿真圖。從圖中可看到，當(dāng)正則化常數(shù)時(shí)，即進(jìn)行了任務(wù)間數(shù)據(jù)融合算法的MSD收斂值為，而不參與聯(lián)合的節(jié)點(diǎn)的LMS算法的MSD收斂值為,收斂值相差；當(dāng)正則化常數(shù)時(shí)，即任務(wù)間數(shù)據(jù)沒有融合算法的MSD收斂值只比大一些。三者的收斂速度是一致的，大約在迭代100次的時(shí)候趨于穩(wěn)定。結(jié)合以上的仿真結(jié)果進(jìn)行分析，多任務(wù)網(wǎng)絡(luò)中分布式LMS算法比不參與聯(lián)合的節(jié)點(diǎn)的LMS算法的MSD的穩(wěn)態(tài)偏差更少。在多任務(wù)網(wǎng)絡(luò)中，分布式LMS算法的MSD收斂值比不參與聯(lián)合的節(jié)點(diǎn)的LMS算法的MSD收斂值少,而在單任務(wù)網(wǎng)絡(luò)中，分布式LMS算法的MSD收斂值比不參與聯(lián)合的節(jié)點(diǎn)的LMS算法的MSD收斂值少，且兩者的收斂速度是一致的，所以，多任務(wù)分布式LMS算法的性能比單任務(wù)分布式LMS算法的性能要好一些，對未知系統(tǒng)的估計(jì)會更加精確。若在多任務(wù)網(wǎng)絡(luò)分布式LMS算法中使正則化常數(shù)，即任務(wù)間的數(shù)據(jù)不進(jìn)行融合，那么多任務(wù)網(wǎng)絡(luò)中分布式LMS算法的性能就會降低，所以多任務(wù)網(wǎng)絡(luò)分布式LMS算法的關(guān)鍵在于任務(wù)間的數(shù)據(jù)能進(jìn)行交換，但前提是任務(wù)間具有相似性。第4章總結(jié)本文首先簡單介紹了自適應(yīng)濾波器原理、分布式網(wǎng)絡(luò)和分布式算法，然后再分別介紹了單任務(wù)分布式LMS算法和多任務(wù)分布式LMS算法。在單任務(wù)分布式LMS算法章節(jié)中，介紹了單任務(wù)網(wǎng)絡(luò)以及算法的原理，并用MATLAB在不同步長因子下進(jìn)行了仿真，得到如下結(jié)論：在單任務(wù)網(wǎng)絡(luò)中使用分布式LMS算法會使整個(gè)網(wǎng)絡(luò)更具有穩(wěn)定性，并且對未知系統(tǒng)的估計(jì)也會更加精確，并且單任務(wù)分布式LMS算法的性能受步長因子的影響，步長因子較大時(shí)，對未知系統(tǒng)的估計(jì)速度會加快，但是對未知系統(tǒng)的估計(jì)精確度會降低；步長因子較小時(shí),對未知系統(tǒng)的估計(jì)速度會變慢，不過對未知系統(tǒng)的估計(jì)精確度會增加。在多任務(wù)分布式LMS算法章節(jié)中，介紹了多任務(wù)網(wǎng)絡(luò)以及算法的原理，并用MATLAB在不同步長因子和不同正則化常數(shù)下進(jìn)行了仿真，得到如下結(jié)論：多任務(wù)分布式LMS算法在網(wǎng)絡(luò)上的性能比單任務(wù)分布式LMS算法的性能好一些，且正則化常數(shù)越大，對整個(gè)網(wǎng)絡(luò)的估計(jì)越均勻，對未知向量的估計(jì)越精確，這其中起關(guān)鍵作用的就是任務(wù)間的數(shù)據(jù)進(jìn)行了協(xié)作?？傮w來說，在網(wǎng)絡(luò)上應(yīng)用分布式算法會提高對未知系統(tǒng)估計(jì)的速度和精確度，若有多個(gè)相似的未知系統(tǒng)需要同時(shí)進(jìn)行估計(jì)，則應(yīng)該采用多任務(wù)分布式LMS算法，多任務(wù)分布式LMS算法在網(wǎng)絡(luò)上的性能會比單任務(wù)分布式LMS算法的性能要好一些。參考文獻(xiàn)馬蘭申.自適應(yīng)網(wǎng)絡(luò)的分布式估計(jì)研究[D].蘇州大學(xué),2014.迪尼茲（DinizPSR）著,劉郁林等譯.自適應(yīng)濾波算法與實(shí)現(xiàn)（第四版）[M].電子工業(yè)出版社,2014:55-81.赫金（HaykinS）著,鄭寶玉等譯.自適應(yīng)濾波器原理（第五版）[M].電子工業(yè)出版社,2016:3-13,175-179.胡偉.子帶自適應(yīng)濾波器及其應(yīng)用[D].蘇州大學(xué),2016.劉貴云.無線傳感器網(wǎng)絡(luò)中的分布式估計(jì)[D].華南理工大學(xué),2012.王碩.分布式協(xié)同估計(jì)方法研究[D].北京理工大學(xué),2015.魏巍,李先河.惡意攻擊下改進(jìn)的分布式擴(kuò)散最小均方算法[J].西安郵電大學(xué)學(xué)報(bào),2016,(04):23-26.陳文曉.無線傳感器網(wǎng)絡(luò)中分布式LMS算法的研究[D].西安郵電大學(xué),2014.黃松延.網(wǎng)絡(luò)上的分布式自適應(yīng)估計(jì)算法研究[D].浙江大學(xué),2016.龍慧.無線傳感器網(wǎng)絡(luò)分布式目標(biāo)跟蹤問題研究[D].中南大學(xué),2013胡家琦.遞增式自適應(yīng)網(wǎng)絡(luò)設(shè)計(jì)[D].大學(xué)生論文聯(lián)合比對庫,2017.盧光躍,陳文曉,黃慶東.基于信譽(yù)機(jī)制的分布式擴(kuò)散最小均方算法[J].電與信息學(xué)報(bào),2015,37(5):1234-1240.邱保志,甄倩倩,唐耀華.無線傳感器網(wǎng)絡(luò)中缺失數(shù)據(jù)估計(jì)算法[D].計(jì)算機(jī)應(yīng)用,2013,33(12):3457-3459.師黎明.仿射投影類自適應(yīng)濾波算法的改進(jìn)算法研究[D].重慶郵電大學(xué),2015.王凡.非安全環(huán)境下分布式DLMS算法研究與應(yīng)用[D].西安郵電大學(xué),2016.ChenJ,CédricR,AliH.MultitaskDiffusionAdaptationOverNetworks[J].IEEEtransactionsonsignalprocessing,2014,62(16):4129-4144.FedericoS,Cattivelli,AliH.DiffusionLMSStrategiesforDistributedEstimation[J].IEEEtransactionsonsignalprocessing,2010,58(3):1035-1048.喬俊峰,劉三陽,曹祥宇.無線傳感器網(wǎng)絡(luò)中基于節(jié)點(diǎn)密度的簇算法[J].計(jì)算機(jī)科學(xué),2009,36(12):46-49.WeeW,YamadaI.Aproximalsplittingapproachtoregularizeddistributedadaptiveestimationindiffusionnetwork[J].IEEEICASSP,2013:5420-5424.TuST,AH.Distributeddecision-makingoveradaptivenetworks[J].IEEEtransactionsonsignalprocessing,2014,62(5):1054-1069.Bogdanovi?N,PlataCJ,BerberidisK.Distributedincremental-basedLMSfornode-specificparameterestimationoveradaptivenetworks[J].IEEEICASSP,2013:5425-5429.ChenJ,TangL,LiuJ,YeJ,Aconvexformulationforleaningsharedstructuresfrommulipletasks[J].ICML,2009:137-144.RichardC,JC,BermudezM,HoneineP.Onlinepredictionoft