最小二乘參數(shù)辨識方法及原理

1、系統(tǒng)辨識第第4章章 最小二乘參數(shù)辨識方法最小二乘參數(shù)辨識方法1、最小二乘辨識的基本概念2、一般最小二乘辨識方法3、加權(quán)最小二乘辨識方法4、遞推最小二乘參數(shù)辨識方法5、增廣最小二乘辨識方法6、多變量最小二乘辨識方法 本章內(nèi)容本章內(nèi)容 本章的學(xué)習(xí)目的本章的學(xué)習(xí)目的1、掌握最小二乘參數(shù)辨識方法的基本原理2、掌握常用的最小二乘辨識方法3、熟練應(yīng)用最小二乘參數(shù)辨識方法進(jìn)行模型參數(shù)辨識4、能夠編程實現(xiàn)最小二乘參數(shù)辨識1、問題的提出、問題的提出1、問題的提出、問題的提出辨識目的：辨識目的：根據(jù)過程所提供的測量信息，在某種準(zhǔn)則意 義下，估計模型的未知參數(shù)。ProcessInputOutput工程實踐 目 的模

2、型結(jié)構(gòu)參數(shù)辨識模型校驗?zāi)Ｐ痛_定1、問題的提出、問題的提出極大似然：極大似然：構(gòu)造一個以數(shù)據(jù)和未知參數(shù)為自變量的似然函數(shù)。ProcessInputOutput)|(maxZPJ要求：獨(dú)立觀測條件下，知道輸出量的概率分布要求：獨(dú)立觀測條件下，知道輸出量的概率分布缺點(diǎn)：輸出量概率密度分布未知，極大似然無法工作缺點(diǎn)：輸出量概率密度分布未知，極大似然無法工作 計算量大，得不到解析解計算量大，得不到解析解VaX,tdttavv00)(tdttvXX00)(1、問題的提出、問題的提出慣性器件標(biāo)定慣性器件標(biāo)定1、問題的提出、問題的提出慣性器件標(biāo)定慣性器件標(biāo)定POOPOIIOPPOOIIFaaKaaKaKaKa

3、KKy222PPPOOOIIIIPPIaKaKaKaaKSOOSOIIOSSOOIIdaaKaaKaKaKaKK222SSSOOOIIIISSIaKaKaKaaK零偏標(biāo)度因數(shù)輸出軸靈敏度誤差系數(shù)擺軸靈敏度誤差系數(shù)二階非線性誤差系數(shù)1、問題的提出、問題的提出慣性器件標(biāo)定慣性器件標(biāo)定1、問題的提出、問題的提出慣性器件標(biāo)定慣性器件標(biāo)定POOPOIIOPPOOIIFaaKaaKaKaKaKKy222PPPOOOIIIIPPIaKaKaKaaKyxnybxbbyaxaafhhyxfcr,210210101、問題的提出、問題的提出景像匹配景像匹配1、問題的提出、問題的提出景像匹配景像匹配1、問題的提出、問

4、題的提出攝像機(jī)標(biāo)定攝像機(jī)標(biāo)定攝攝像像機(jī)機(jī)坐坐標(biāo)標(biāo)系系ZXYOMm),(cccZYXccXZfx ccYZfy xypfy0Sx0o1、問題的提出、問題的提出攝像機(jī)標(biāo)定攝像機(jī)標(biāo)定1、問題的提出、問題的提出攝像機(jī)標(biāo)定攝像機(jī)標(biāo)定110tR010000001T00wwwyxcZYXvuvuZwwwcZYXmmmmmmmmmmmmvuZ34333231242322211413121111、問題的提出、問題的提出攝像機(jī)標(biāo)定攝像機(jī)標(biāo)定3433323114131211muZmuYmuXmumZmYmXmiwiiwiiwiiwiwiwi3433323124232221mvZmvYmvXmvmZmYmXmiwii

5、wiiwiiwiwiwiNi, 2 , 1m次獨(dú)立試驗的數(shù)據(jù)),(11yt),(22yt),(mmyt)()()()(22110thathathaatynn )(kG )(kt)(ky)(kv)(kz )(kG )(kt)(ky1、問題的提出、問題的提出)()()(kvkykzm次獨(dú)立試驗的數(shù)據(jù)),(11yt),(22yt),(mmyt)()()()()(22110kvkhakhakhaakznn zt)(tf1795年，高斯提出了最小二乘方法。 )(kG )(kt)(ky)(kv)(kz1、問題的提出、問題的提出 未知量的最可能值是使各項實際觀測值和計算值之間差的平方乘以其精確度的數(shù)值以后的

6、和為最小。1795年，高斯提出的最小二乘的基本原理是1、問題的提出、問題的提出Gauss（1777-1855）)()()(kvkykz使使 最小最小mkkykzkw12| )()(| )( 未知量的最可能值是使各項實際觀測值和計算值之間差的平方乘以其精確度的數(shù)值以后的和為最小。1795年，高斯提出的最小二乘的基本原理是1、問題的提出、問題的提出Gauss（1777-1855）)()()(kvkykz使使 最小最小mkkykzkw12| )()(| )(2、最小二乘辨識方法的基本概念、最小二乘辨識方法的基本概念通過試驗確定熱敏電阻阻值和溫度間的關(guān)系 當(dāng)測量沒有任何誤差時，僅需2個測量值。 每次測

7、量總是存在隨機(jī)誤差。btaRiiiiiibtayvRyv或2.1 利用最小二乘法求模型參數(shù)利用最小二乘法求模型參數(shù)根據(jù)最小二乘的準(zhǔn)則有NiiiNiibtaRvJ1212min)(根據(jù)求極值的方法，對上式求導(dǎo)NiiiibbNiiiaatbtaRbJbtaRaJ110)(20)(2NiiiibbNiiiaatbtaRbJbtaRaJ110)(20)(2NiNiiiNiiiNiNiiitRtbtaRtbaN1112112112111211211121NiiNiiNiiNiiNiiiNiiNiiNiiNiiiNiiNiittNtRtRNbttNttRtRa2.1 利用最小二乘法求模型參數(shù)利用最小二乘法

8、求模型參數(shù)762.702 a4344. 3bCt 70168.943R2112111211211121NiiNiiNiiNiiNiiiNiiNiiNiiNiiiNiiNiittNtRtRNbttNttRtRabtaR2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法 )(kG )(ku)(ky)(kv)(kz圖 3.4 SISO 系統(tǒng)的“灰箱”結(jié)構(gòu) nnnnzazazazbzbzbzuzyzG221122111)()()(niiniiikubikyaky11)()()(2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法 )(zG )(ku)(ky)(kv)(kz圖 SISO 系統(tǒng)的

9、“灰箱”結(jié)構(gòu) 若考慮被辨識系統(tǒng)或觀測信息中含有噪聲 )()()()(11kvikubikyakzniinii)()()()(11kvikubikyakzniinii)(,),2(),1(),(,),2(),1()(nkukukunkykykykh如果定義Tnnbbbaaa,2121)()()(kvkhkz2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法)()()(kvkhkz)()2() 1 (mzzzZm)() 1()() 1()2 () 1 ()2 () 1 ()1 () 0 ()1 () 0 ()() 2 () 1 (nmumunmymynuunyynuunyymhhhHmTnn

10、bbaa11TmmvvvV)()2() 1 (2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法mmmVHZ )(zG )(ku)(ky)(kv)(kz圖 SISO 系統(tǒng)的“灰箱”結(jié)構(gòu) 2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法min)()()(mmTmmHZHZJ0)(2mmTmHZHJmTmmTmZHHH2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法mTmmTmZHHH1)(2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法mTmmTmZHHH1)(mmmVHZ zt)(tf2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法 最小二乘法的幾何解釋m

11、mmVHZ)()2() 1 (mzzzZm)() 1()() 1()2 () 1 ()2 () 1 ()1 () 0 ()1 () 0 ()() 2 () 1 (nmumunmymynuunyynuunyymhhhHmTnnbbaa11的線性組合維空間中基向量是)(),2(),1 (mhhhmZm的近似是在最小二乘意義下對mmZH的張成的空間的投影。在應(yīng)該等于)(),2(),1 (mhhhZHmm2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法 最小二乘法的幾何解釋222VHZ2Z) 1 (h)2(hV2H)2() 1 (2zzZTnnbbaa11)2() 1 (2hhH2.2 一般最

12、小二乘法原理及算法一般最小二乘法原理及算法11)()()(mTmmTmmTmTHHRHHHHE0)|(|limmmp最小證明：mTmmTmZHHH1)()()()(1mTmmTmVHHHEEE)()(1mmTmmTmZHHHHmTmmTmVHHH1)(0mTmmTmmTmmTmZHHHHHHH11)()()()()(1mTmmTmVEHHH2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法如果由測量噪聲及模型誤差等引起的誤差如果由測量噪聲及模型誤差等引起的誤差v 的均值為的均值為0，且，且v 與輸入矢量與輸入矢量X是統(tǒng)計獨(dú)立的，最小二乘的估計值是無偏的。是統(tǒng)計獨(dú)立的，最小二乘的估計值是無

13、偏的。11)()()(mTmmTmmTmTHHRHHHHE證明：11)()()()(mTmmTmmTmmTmTHHHVVEHHHE11)()(mTmmTmmTmHHRHHHH根據(jù)第（1）式的證明，顯然有2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法112)()(mTmmTmmTmHHHHHH12)(mTmHH獨(dú)立隨機(jī)變量同分布、零均值、中的各個量是mVIR2證明：2.2 一般最小二乘法原理及算法一般最小二乘法原理及算法0)|(|limmmp12121)(limlimmTmmmTmmHHmmHH0)(12limmTmmHH奇異常數(shù)陣是非mTmHH2.2 一般最小二乘法原理及算法一般最小

14、二乘法原理及算法解：由題意得量測方程222VHZ212zzZ112HrrR400)(2111111121211zzzzrrrrET45111111400111111)(112.2 一般最小二乘法原理及算法一般最小二乘法原理及算法222VHZ212zzZ112HrrR4002.3 加權(quán)最小二乘法原理及算法加權(quán)最小二乘法原理及算法 一般最小二乘估計精度不高的原因之一是對測量數(shù)據(jù)同等對待 各次測量數(shù)據(jù)很難在相同的條件下獲得的 有的測量值置信度高，有的測量值置信度低 對不同置信度的測量值采用加權(quán)的辦法分別對待 置信度高的，權(quán)重取得大些；置信度低的，權(quán)重取的小些min)()()(mmTmmHZHZJmi

15、n)()()(mmmTmmHZWHZJ )(,),2(),1 (diagmwwwWmmin)()()(mmmTmmHZWHZJ2.3 加權(quán)最小二乘法原理及算法加權(quán)最小二乘法原理及算法0)(2mmmTmHZWHJmmTmmmTmZWHHWH1)(2.2 加權(quán)最小二乘法原理及算法加權(quán)最小二乘法原理及算法0)|(|limmmp1)()(mTmTRHHE2.3 加權(quán)最小二乘法原理及算法加權(quán)最小二乘法原理及算法11)()()(mmTmmmmTmmmTmTHWHHRWWHHWHE2.3 加權(quán)最小二乘法原理及算法加權(quán)最小二乘法原理及算法mmTmmmTmZWHHWH1)(mTmmTmZRHHRH111)(馬爾

16、可夫估計馬爾可夫估計11)()()(mmTmmmmTmmmTmTHWHHRWWHHWHE1111)()()(mTmmmTmmmmTmmmTmHRHHWHHRWWHHWH2.3 加權(quán)最小二乘法原理及算法加權(quán)最小二乘法原理及算法例例3.2 用用2臺儀器對未知標(biāo)量各直接測量一次，臺儀器對未知標(biāo)量各直接測量一次，量測量分別為量測量分別為z1和和z2，儀器的測量誤差均值為，儀器的測量誤差均值為0，方，方差分別為差分別為r和和4r的隨機(jī)量，求其最小二乘估計，并的隨機(jī)量，求其最小二乘估計，并計算估計的均方誤差。計算估計的均方誤差。2.3 加權(quán)最小二乘法原理及算法加權(quán)最小二乘法原理及算法212zzZ112H解

17、：由題意得量測方程222VHZrrRWm4100112121151544100111114100111zzzzrrrrrrrrrrrrET541141001111140011114100111)(11例3.4 考慮仿真對象)() 2(5 . 0) 1() 2(7 . 0) 1(5 . 1)(kVkukukzkzkz)() 2() 1() 2() 1()(2121kVkubkubkzakzakz選擇如下的辨識模型進(jìn)行一般的最小二乘參數(shù)辨識。 IWm2.3 加權(quán)最小二乘法原理及算法加權(quán)最小二乘法原理及算法4階M序列輸出信號)16()4() 3(zzzZm)14()15()14()15()2()3(

18、)2()3() 1 ()2() 1 ()2()16()4()3(uuzzuuzzuuzzhhhHm2121bbaamTmmTmZHHH1)( 開始 產(chǎn)生輸入信號 M 序列 產(chǎn)生輸出信號 z（k） 給出樣本矩陣mH和mZ 估計參數(shù) 分離估計參數(shù)1a、2a、1b和2b 結(jié)束 畫圖：輸入/輸出信號和估計參數(shù) 一般最小二乘參數(shù)辨識流程圖3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法 )(kG )(ku)(ky)(kv)(kz圖 SISO 系統(tǒng)的“灰箱”結(jié)構(gòu) 一般最小二乘或加權(quán)最小二乘為一次完成算法或批處理算法。 計算量大、存儲大、不適合在線辨識。 采用參數(shù)遞推估計遞推最小二乘算法。 3.3

19、遞推最小二乘法原理及算法遞推最小二乘法原理及算法mmTmmmTmmZWHHWH1)() 1() 1() 1(mvmhmz111mmmVHZ3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法111mmmVHZ) 1(1mzZZmm) 1(1mhHHmm) 1(1mvVVmm11111111)(mmTmmmTmmZWHHWHmmTmmmTmmZWHHWH1)() 1(001mwWWmm3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法1mmTmmHWHP11111mmTmmHWHP如果設(shè)則有11111111)(mmTmmmTmmZWHHWHmmTmmmTmmZWHHWH1)(mmTmm

20、mZWHP11111mmTmmmZWHP) 1(1mzZZmm) 1(1mhHHmm) 1(001mwWWmm) 1() 1(00) 1(11mzZmwWmhHPmmTTmmm) 1() 1() 1(11mzmwmhPZWHPTmmmTmmmmTmmmZWHPmmmmTmPZWH1) 1() 1() 1(1111mzmwmhPPPTmmmmm3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法1)1() 1() 1(mhmwmhHWHTmmTm11) 1() 1(00) 1(mhHmwWmhHPmmTTmm1111111)()(DAB

21、DACBAABCDAmTmTmmmPmhmhPmhmwmhPPP) 1()1() 1() 1()1(111) 1() 1() 1(111mhmwmhPPTmm111)1() 1() 1(mhmwmhPPTmm) 1() 1() 1(1111mzmwmhPPPTmmmmm3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法mTmmmmhmwmhPP)1() 1() 1(1111) 1() 1() 1(1mzmwmhPTmmTmmmmhmwmhP) 1() 1() 1(11) 1() 1() 1(1mzmwmhPTm) 1() 1()1() 1(11mTmmmmhmzmwmhP) 1() 1(

22、)1() 1(11mTmmmmhmzmwmhP3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法) 1() 1(11mwmhPKTmm令mTmTmmmPmhmhPmhmwmhPPP) 1()1() 1() 1()1(111111)1() 1() 1()1(mhPmhmwmhPKTmTmmmTmTmmmPmhmhPmhmwmhPPP) 1()1() 1() 1()1(111111)1() 1() 1()1(mhPmhmwmhPKTmTmm3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法) 1() 1(11mmmmmhmzK3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法)(

23、)() 1(maxmmmiiii3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法例3.5 對3.4采用遞推最小二乘估計辨識模型參數(shù) )() 2(5 . 0) 1() 2(7 . 0) 1(5 . 1)(kVkukukzkzkz)() 2() 1() 2() 1()(2121kVkubkubkzakzakz選擇如下的辨識模型進(jìn)行遞推最小二乘參數(shù)辨識。 IWm 1a2a1b2b3.3 遞推最小二乘法原理及算法遞推最小二乘法原

24、理及算法mTmTmmmPmhmhPmhmwmhPPP) 1()1() 1() 1()1(111111)1() 1() 1()1(mhPmhmwmhPKTmTmm) 1() 1(11mmmmmhmzKIWmmTmTmmmPmhmhPmhmhPPP) 1()1() 1(1)1(1111)1()1(1)1(mhPmhmhPKTmTmm) 1() 1(11mmmmmhmzK3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法 數(shù)據(jù)飽和后，由于遞推計算的舍入誤差，不僅新的觀測數(shù)據(jù)飽和后，由于遞推計算的舍入誤差，不僅新的觀測值對參數(shù)估計不起修正作用，反而使值對參數(shù)估計不起修正作用，反而使 失去正定性，

25、導(dǎo)致失去正定性，導(dǎo)致估計誤差增加。估計誤差增加。)(mP) 1() 1(11mmmmmhmzKmTmTmmmPmhmhPmhmhPPP) 1()1() 1(1)1(1111)1()1(1)1(mhPmhmhPKTmTmm數(shù)據(jù)飽和數(shù)據(jù)飽和3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法 當(dāng)系統(tǒng)參數(shù)隨時間變化時，因新數(shù)據(jù)被舊數(shù)據(jù)所當(dāng)系統(tǒng)參數(shù)隨時間變化時，因新數(shù)據(jù)被舊數(shù)據(jù)所淹沒，遞推算法無法直接使用。為適應(yīng)時變參數(shù)的情淹沒，遞推算法無法直接使用。為適應(yīng)時變參數(shù)的情況，修改算法時舊數(shù)據(jù)的權(quán)重況，修改算法時舊數(shù)據(jù)的權(quán)重(降低降低)，增加新數(shù)據(jù)的，增加新數(shù)據(jù)的作用。作用。 主要方法有數(shù)據(jù)窗法和主要

26、方法有數(shù)據(jù)窗法和Kalman濾波法。濾波法。數(shù)據(jù)窗法主要有矩形窗和指數(shù)窗。數(shù)據(jù)窗法主要有矩形窗和指數(shù)窗。3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法 矩形窗矩形窗oi1mimi1ik0 . 1imiTimiTimiimiimiPmihmihPmihmiwmihPPP, 11, 11, 1, 1,)()()()()(1, 11, 1,)()()()(mihPmihimwmihPKTimiTimiimi)()(, 1, 1,imiimiimiimimihmizK，于是，獲得新觀測數(shù)據(jù)在)(mizmik3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法 矩形窗矩形窗oi1mimi1

27、ik0 . 1imiTimiTimiimiimiPihihPihmiwihPPP,1,1,1,)()()()()(1,11 ,1,)()() 1()(ihPihmwihPKTimiTmiimi)()(,1,1,imiimiimiimiihizK，于是時刻的觀測，剔除為了保持?jǐn)?shù)據(jù)窗的長度)(izim3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法 指數(shù)窗指數(shù)窗om1nk0 . 1) 1(111mmmmPmhKPP111)1()1()1(mhPmhmhPKTmmm) 1() 1(11mmmmmhmzKimmiVVJmTmim,2 , 1min,)(3.3 遞推最小二乘法原理及算法遞推最小二

28、乘法原理及算法) 1() 1(11mmmmmhmzK) 1(111mmmmPmhKPP111)1() 1()1(mhPmhmhPKTmmm加權(quán)最小二乘加權(quán)最小二乘) 1(11mmmmPmhKPP111)1() 1(1)1(mhPmhmhPKTmmm一般最小二乘一般最小二乘1可適用時變參數(shù)系統(tǒng)只適用于時不變系統(tǒng)0)|(|limmmp0limmmP0limmmK0limmmK0limmmP3.3 遞推最小二乘法原理及算法遞推最小二乘法原理及算法 指數(shù)窗指數(shù)窗om1nk0 . 1) 1(111mmmmPmhKPP111)1()1()1(mhPmhmhPKTmmm) 1() 1(11mmmmmhmzK

29、im99. 09 . 03.4 增廣最小二乘法原理及算法增廣最小二乘法原理及算法 )(kG )(ku)(ky)(kv)(kz圖 3.4 SISO 系統(tǒng)的“灰箱”結(jié)構(gòu) niiniiniiikvcikubikyaky111)()()()(niiniiniiikvckvikubikyakz111)()()()()( )(kG )(ku)(ky)(kv)(kz)(kN )(kvniiniiniiikvckvikubikyakz111)()()()()(3.4 增廣最小二乘法原理及算法增廣最小二乘法原理及算法)( ,),1( ),(,),2(),1(),(,),2(),1()(nkvkvnkukukun

30、kykykykhTnnnccbbbaaa,12121)()()(kvkhkz) 1() 1(11mmmmmhmzKmTmTmmmPmhmhPmhmwmhPPP) 1()1() 1() 1()1(111111)1() 1() 1()1(mhPmhmwmhPKTmTmm3.4 增廣最小二乘法原理及算法增廣最小二乘法原理及算法例3.6 考慮理想數(shù)學(xué)模型為選擇如下的辨識模型進(jìn)行增廣遞推最小二乘參數(shù)辨識。 IWm)2(2 . 0) 1()(2 . 1)2(5 . 0) 1()2(7 . 0) 1(5 . 1)(kvkvkvkukukzkzkz)2() 1()()2() 1()2() 1()(321212

31、1kvckvckvckubkubkzakzakz 1a1b2a2b1c2c3c3.5.1 多變量系統(tǒng)的最小二乘辨識的原理多變量系統(tǒng)的最小二乘辨識的原理 mrmmrwwwwww21112111v2vmv1u2uru1y2ymyMIMO系統(tǒng)3.5.1 多變量系統(tǒng)的最小二乘辨識的原理多變量系統(tǒng)的最小二乘辨識的原理 MIMO系統(tǒng)的子系統(tǒng) )()() 1()()() 1()(101kVnkUBkUBkUBnkYAkYAkYnn3.5.1 多變量系統(tǒng)的最小二乘辨識的原理多變量系統(tǒng)的最小二乘辨識的原理 )()() 1()()() 1()(101kVnkUBkUBkUBnkYAkYAkYnn)()()()(2

32、1kykykykYm)()()()(21kukukukUr)()()()(21kvkvkvkVmimmimimimiiimiiiaaaaaaaaaA212222111211ni, 1 imrimimiriiiriiibbbbbbbbbB212222111211ni, 1 , 03.5.1 多變量系統(tǒng)的最小二乘辨識的原理多變量系統(tǒng)的最小二乘辨識的原理 )()() 1()()() 1()(101kVnkUBkUBkUBnkYAkYAkYnn)()()()()(11kVkUzBkYzAiininnzAIzAzAIzA1111)(iininnzBzBzBBzB01101)(mrnnm) 1(2待辨識的

33、參數(shù)：3.5.1 多變量系統(tǒng)的最小二乘辨識的原理多變量系統(tǒng)的最小二乘辨識的原理 3.5.2 多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計 )()()()()(11kVkUzBkYzA)()() 1()()() 1()(101kVnkUBkUBkUBnkYAkYAkYnn)()()()(21212222111211ikyikyikyaaaaaaaaaikYAmimmimimimiiimiii)()()()(21212222111211ikuikuikubbbbbbbbbikUBrimrimimiriiiriii3.5.2 多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計多變量系統(tǒng)

34、的最小二乘辨識的算法與設(shè)計 )()()()()(11kVkUzBkYzA)()() 1()()() 1()(101kVnkUBkUBkUBnkYAkYAkYnn)2() 1() 1()(1211111kyakyakyakyjmjmjj)()()2(112nkyankyakyamnjmnjmjm) 1()()()(1110202101kubkubkubkubjrjrjj)() 1() 1(111212nkubkubkubnjrjrj)()()(22kvnkubnkubjrnjrnj3.5.2 多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計 Nk1令，可得到N個方程，并令

35、) 2() 1() 1()(1211111kyakyakyakyjmjmjj)(nkyamnjm) 1()()()(1110202101kubkubkubkubjrjrjj)() 1() 1(111212nkubkubkubnjrjrj)()()(22kvnkubnkubjrnjrnj)()2(112nkyakyanjmjm3.5.2 多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計 )()()()(21ikyikyikyikYmjni, 1 , 0)()()()(21ikuikuikuikUrni, 2 , 1)()()() 1()2()2()2() 1 ()1 ()

36、 1 ()1 ()0(nNUNUnNYNYnUUnYYnUUnYYHTTTjTjTTTjTjTTTjTjjTnjrnjjrjnjmnjjmjjbbbbaaaa10011111)()2()1 (NvvvVjjjj3.5.2 多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計 Nk1令，可得到N個方程，并令jjjjVHY) 2() 1() 1()(1211111kyakyakyakyjmjmjj)(nkyamnjm) 1()()()(1110202101kubkubkubkubjrjrjj)() 1() 1(111212nkubkubkubnjrjrj)()()(22kvnkubnkubjrnjrnj)()2(112nkyakyanjmjm3.5.2 多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計多變量系統(tǒng)的最小二乘辨識的算法與設(shè)計 jjjjVHYmj, 2 , 1m,21immimimimiiimiiaaaaaaaaa212222111211imrimimiriiiriib