矩陣分析作業(yè)

矩陣分析在信號(hào)處理中的應(yīng)用班級(jí)：2010級(jí)專(zhuān)業(yè)碩士班在二十一世紀(jì)，人們普遍認(rèn)為對(duì)人類(lèi)社會(huì)發(fā)展最有影響的科學(xué)領(lǐng)域?qū)⑹切畔⒖茖W(xué)和生命科學(xué)。事實(shí)上，我們確實(shí)強(qiáng)烈感受到信息科學(xué)的飛速發(fā)展對(duì)我們?nèi)粘Ｉ罘矫娴挠绊?，信息科學(xué)的發(fā)展讓世界變成了地球村。概括起來(lái)說(shuō)，信息科學(xué)研究的是作為信息載體的信號(hào)的獲取、存儲(chǔ)、傳輸和處理?？梢?jiàn)信號(hào)處理是信息科學(xué)的核心研究?jī)?nèi)容之一。信號(hào)處理在理論上涉及的范圍極其廣泛，并不斷有新的分支出現(xiàn)。從所處理的信號(hào)的性質(zhì)上來(lái)看，可分為確定性信號(hào)處理和隨機(jī)信號(hào)處理。確定性信號(hào)處理研究的確定性信號(hào)的分析、線性濾波、重構(gòu)，反卷積（線性失真補(bǔ)償）等。除了大家比較熟悉的線性濾波器設(shè)計(jì)與實(shí)現(xiàn)理論、信號(hào)分析的各種快速變換算法等之外，還包括信號(hào)重構(gòu)理論、多抽樣率信號(hào)處理、小波分析等較新的學(xué)科分支。確定性信號(hào)處理時(shí)隨機(jī)信號(hào)處理的重要理論基礎(chǔ)之一。本文就是研究基于確定性信號(hào)處理的矩陣分析應(yīng)用。平穩(wěn)隨機(jī)過(guò)程的功率譜估計(jì)方法可以分為經(jīng)典譜估計(jì)方法和現(xiàn)代譜估計(jì)方法。經(jīng)典譜估計(jì)的基本方法包括19世紀(jì)末由Schuster提出的周期圖法和1949年Tukey根據(jù)維納—辛欽定理提出的自相關(guān)法即BT法?，F(xiàn)代譜估計(jì)方法主要是針對(duì)經(jīng)典譜估計(jì)分辨率低和估計(jì)質(zhì)量差提出的，因此也稱(chēng)作高分辨率譜估計(jì)?，F(xiàn)代譜估計(jì)是基于隨機(jī)信號(hào)的參數(shù)化模型表示的方法。在現(xiàn)代譜估計(jì)中，對(duì)未能得到的樣本數(shù)據(jù)或未能估計(jì)出來(lái)的自相關(guān)函數(shù)，不是簡(jiǎn)單地當(dāng)作零處理，而是與所得到的樣本數(shù)據(jù)服從同一模型。根據(jù)譜表示定理，從功率譜等價(jià)的角度，規(guī)則過(guò)程可以用AR、MA或ARMA模型來(lái)描述。根據(jù)我們所學(xué)的信號(hào)與系統(tǒng)、數(shù)字信號(hào)處理等課程中系統(tǒng)的幅頻特性與系統(tǒng)零、極點(diǎn)之間的關(guān)系，可以明確知道AR模型適合于具有尖峰但沒(méi)有深谷的譜，MA模型適合于具有深谷但無(wú)尖峰的譜，ARMA模型是較通用的，對(duì)兩種極端情況能夠表示的模型。通過(guò)建立平穩(wěn)隨機(jī)過(guò)程的AR模型來(lái)獲得功率譜估計(jì)的方法叫做AR譜估計(jì)。歷史上，最早提出AR模型并用于時(shí)間序列建模的是Yule，他在1927年采用AR建模的方法研究太陽(yáng)黑子的活動(dòng)周期。Walker在1931年用最小二乘法建立了自回歸模型參數(shù)與自相關(guān)函數(shù)關(guān)系的Yule-Walker方程。已知AR過(guò)程的前p+1個(gè)延遲的自相關(guān)函數(shù)，就可以解一組線性方程組來(lái)確定AR參數(shù)。Yule－Walker方程用矩陣形式表示：對(duì)于平穩(wěn)過(guò)程，我們知道，自相關(guān)矩陣是非負(fù)定的，也就是說(shuō)可能是正定的，也可能是半正定的。但對(duì)平穩(wěn)非可預(yù)測(cè)過(guò)程，可以證明是正定的，即自相矩陣是滿(mǎn)秩的。因此，由Yule－Walker方程可以唯一確定出AR系數(shù)。再由：可以確定白噪聲的方差。一般將這兩個(gè)方程用矩陣形式聯(lián)立表示為：無(wú)論是p階自相關(guān)矩陣，還是p+1階自相關(guān)矩陣，它們?cè)诮Y(jié)構(gòu)上都有特殊的性質(zhì)，根據(jù)自相關(guān)函數(shù)的共軛對(duì)稱(chēng)性，它們是共軛對(duì)稱(chēng)的，即實(shí)平穩(wěn)過(guò)程的自相關(guān)矩陣是對(duì)稱(chēng)的Toeplitz矩陣，而復(fù)平穩(wěn)過(guò)程的自相關(guān)矩陣是共軛對(duì)稱(chēng)的Toeplitz矩陣。正是利用了自相關(guān)矩陣的共軛對(duì)稱(chēng)Toeplitz結(jié)構(gòu)，Levinson提出了一種快速求解Yule—Walker方程的遞推算法并由Durbin進(jìn)行了改進(jìn)，這種算法稱(chēng)為L(zhǎng)evinson—Durbin算法。對(duì)于實(shí)際譜估計(jì)問(wèn)題，過(guò)程的自相關(guān)函數(shù)是不可能精確知道的。一般只能得到過(guò)程的有限長(zhǎng)度觀測(cè)樣本。最簡(jiǎn)單的AR模型參數(shù)估計(jì)方法是，在Yule—Walker方程中，用樣本自相關(guān)函數(shù)估計(jì)代替自相關(guān)函數(shù)真值，并求解所得到的Yule－Walker近似方程，也就是說(shuō)自相關(guān)法。具體地說(shuō)，就是求解以下方程組：以及顯然自相關(guān)矩陣估計(jì)是共軛對(duì)稱(chēng)的且具有Toeplitz結(jié)構(gòu)，同時(shí)可以驗(yàn)證：因此，是正定的。所以，該方程組可用Levinson遞推算結(jié)果求解，并且可以保證估計(jì)出來(lái)的AR模型的穩(wěn)定性。另一種方法是協(xié)方差法。在自相關(guān)法中，預(yù)測(cè)誤差功率的估計(jì)包含了一些不適當(dāng)?shù)捻?xiàng)。協(xié)方差法與自相關(guān)法的唯一差別就是在估計(jì)預(yù)測(cè)誤差功率時(shí)不取那些不適當(dāng)?shù)捻?xiàng)。即前向線性預(yù)測(cè)誤差功率估計(jì)為：其中：，，。由前向線性預(yù)測(cè)誤差功率的極小化來(lái)估計(jì)AR模型的參數(shù)，即：為求這個(gè)二次函數(shù)極小化問(wèn)題，求關(guān)于的導(dǎo)數(shù)，并令其等于零，可以得到：即：具體寫(xiě)出來(lái)就是：求解這個(gè)方程就可以得到。這個(gè)方程稱(chēng)為AR參數(shù)估計(jì)的協(xié)方差方程。對(duì)應(yīng)的最小線性預(yù)測(cè)誤差功率估計(jì)為：由于，因此，矩陣是共軛對(duì)稱(chēng)的，但不具備Toeplitz結(jié)構(gòu)，方程的求解不再可以用Levinson算法。如果x(n)為非可預(yù)測(cè)過(guò)程，矩陣是正定的，因此，可以采用運(yùn)算量較小的平方根法（Cholesky分解法）來(lái)求解。同時(shí)，利用由Toeplitz矩陣的乘積構(gòu)成這一特點(diǎn)，還提出了其它更有效的求解方法。協(xié)方差法的缺點(diǎn)是理論上不能保證估計(jì)出的AR參數(shù)對(duì)應(yīng)于一個(gè)穩(wěn)定的AR模型。但其譜分辨率要優(yōu)于自相關(guān)法。對(duì)于AR參數(shù)估計(jì)和AR功率譜估計(jì)的統(tǒng)計(jì)性能分析，是件很復(fù)雜、很困難的事。AR參數(shù)估計(jì)方法，AR參數(shù)估計(jì)值和AR功率譜估計(jì)都是樣本數(shù)據(jù)的高度非線性函數(shù)，因此，要獲得它們的偏差、方差等的一般解析表達(dá)式，幾乎是不可能的。目前所能得到的僅是假設(shè)樣本長(zhǎng)度N很大情況下的一些近似結(jié)果，也即大樣本漸近統(tǒng)計(jì)特性。在這種情況下，前面所介紹的各種AR參數(shù)估計(jì)方法都是十分接近的，也即它們有相同的漸近統(tǒng)計(jì)特性。設(shè)服從AR(p)模型，即其中的零點(diǎn)全部位于復(fù)平面的單位圓內(nèi)，為零均值的獨(dú)立同分布隨機(jī)過(guò)程即純白噪聲過(guò)