第四章-系統(tǒng)參數(shù)辨識(shí)

第四章系統(tǒng)參數(shù)辨識(shí)1、掌握最小二乘參數(shù)辨識(shí)方法的基本原理2、掌握常用的最小二乘辨識(shí)方法4.1最小二乘參數(shù)估計(jì)法

高斯自己獨(dú)創(chuàng)了一套行星軌道計(jì)算理論。高斯僅用1小時(shí)就算出了谷神星的軌道形狀，并進(jìn)行了預(yù)測(cè)1795年，高斯提出了最小二乘的思想。一最小二乘估計(jì)問(wèn)題的提出

未知量的最可能值是使各項(xiàng)實(shí)際觀測(cè)值和計(jì)算值之間差的平方乘以其精確度的數(shù)值以后的和為最小。1795年，高斯提出的最小二乘的基本原理是線(xiàn)性離散觀測(cè)模型觀測(cè)值增益矩陣待估計(jì)向量量測(cè)噪聲考慮被辨識(shí)系統(tǒng)模型

如果定義獲得批處理法的最小二乘估計(jì)：例題：求最小二乘估計(jì)如果增加一個(gè)觀察值，如何求下一個(gè)估計(jì)值？

一般最小二乘為一次完成算法。

計(jì)算量大、存儲(chǔ)大、不適合在線(xiàn)辨識(shí)。

采用參數(shù)遞推估計(jì)——遞推最小二乘算法。

二.遞推最小二乘法原理及算法將新數(shù)據(jù)加入以前的觀測(cè)數(shù)據(jù)中，則：引進(jìn)加權(quán)矩陣，可以寫(xiě)成分塊形式：矩陣求逆引理遞推最小二乘算法：1.設(shè)置初值2.采樣當(dāng)前輸入輸出數(shù)據(jù)3.利用遞推公式，分別計(jì)算4.kk+1,返回第二步，繼續(xù)循環(huán)例題：

求遞推最小二乘估計(jì)例題三.指數(shù)加權(quán)遞推最小二乘法參數(shù)緩慢變化遞推最小二乘法存在局限性：數(shù)據(jù)飽和性，遞推最小二乘對(duì)信息的取用方式是按新、老數(shù)據(jù)相同信任度系統(tǒng)的動(dòng)態(tài)特性隨時(shí)間變換，最新的觀測(cè)值才能反映出對(duì)象當(dāng)前的特性。數(shù)據(jù)越老，偏離當(dāng)前對(duì)象特性的可能性越大為了強(qiáng)調(diào)新獲得的數(shù)據(jù)的作用，根據(jù)數(shù)據(jù)的“新”，“舊”程度采用不同的權(quán)值設(shè)，以的指數(shù)為數(shù)據(jù)的權(quán)值，表示對(duì)新老數(shù)據(jù)不同的信任度加權(quán)矩陣可以寫(xiě)成如下形式：矩陣求逆引理4.2最小二乘估計(jì)的統(tǒng)計(jì)特征

考慮方程最優(yōu)估計(jì)

最小二乘的統(tǒng)計(jì)性質(zhì)1.無(wú)偏性用來(lái)衡量估計(jì)值是否圍繞真值波動(dòng)的特性數(shù)學(xué)：如果估計(jì)值的期望等于隨機(jī)變量的期望，則稱(chēng)為估計(jì)值是隨機(jī)變量的無(wú)偏估計(jì)。如果V和H中所有分量獨(dú)立，并且E(V)=0則X估計(jì)值是X的無(wú)偏估計(jì)方差的最優(yōu)性設(shè)V的協(xié)方差陣為則設(shè)存在另外一個(gè)x的線(xiàn)性無(wú)偏估計(jì)根據(jù)著名的Schwatz不等式：3.估計(jì)的一致性當(dāng)時(shí)，依概率收斂到x二殘差的統(tǒng)計(jì)性質(zhì)1期望與方差獨(dú)立性計(jì)算順序例題：設(shè)有兩個(gè)觀測(cè)值不用遞推公式求的估計(jì)值用遞推公式求§4.3廣義最小二乘法一問(wèn)題的提出Z=Φx+υ若υ是相互獨(dú)立的，白噪聲，最小二乘估計(jì)——無(wú)偏估計(jì)。若υ是相關(guān)的，最小二乘估計(jì)——有偏估計(jì)?？朔@個(gè)缺點(diǎn)——廣義最小二乘法（方法之一）§4.3廣義最小二乘法考慮被辨識(shí)系統(tǒng)模型

廣義最小二乘法GLS原理GeneralizedLeastSquares

基本思想：引入白化（把相關(guān)的有色噪聲e(k)轉(zhuǎn)化為白噪聲υ（k））例題考慮下面的單變量系統(tǒng)其中，a需要辨識(shí)的參數(shù)，e(k)是白噪聲，求a的估計(jì)值是a的無(wú)偏估計(jì)的條件rye(1)ry(0)例題二廣義最小二乘的計(jì)算例題：1.確定初值>>a=[1;1;1];b=[111];a*bans=111111111>>eye(3)-ans/4ans=0.7500-0.2500-0.2500-0.25000.7500-0.2500-0.2500-0.25000.7500仿真實(shí)例考慮如下系統(tǒng)利用最小二乘算法進(jìn)行參數(shù)估計(jì)LSclearall;a=[1-1.50.7]';b=[10.5]';d=1;na=length(a)-1;nb=length(b)-1;L=500;uk=zeros(d+nb,1);yk=zeros(na,1);x1=1;x2=1;x3=1;x4=0;S=1;xi=randn(L,1);theta=[a(2:na+1);b];fork=1:Lphi(k,:)=[-yk;uk(d:d+nb)]';y(k)=phi(k,:)*theta+xi(k);IM=xor(S,x4);ifIM==0u(k)=-1;elseu(k)=1;endS=not(S);M=xor(x3,x4);x4=x3;x3=x2;x2=x1;x1=M;fori=d+nb:-1:2uk(i)=uk(i-1);enduk(1)=u(k);fori=na:-1:2yk(i)=yk(i-1);endyk(1)=y(k);endthetae=inv(phi'*phi)*phi'*y'thetae=-1.4874e+0006.9161e-0019.8242e-0014.2057e-001thetae=-1.4889e+0007.0332e-0011.0657e+0005.5176e-001仿真實(shí)例考慮如下系統(tǒng)clearall;closeall;

a=[1-1.50.7]';b=[10.5]';d=3;na=length(a)-1;nb=length(b)-1;

L=400;uk=zeros(d+nb,1);yk=zeros(na,1);u=randn(L,1);xi=sqrt(0.1)*randn(L,1);theta=[a(2:na+1);b];

thetae_1=zeros(na+nb+1,1);P=10^6*eye(na+nb+1);fork=1:Lphi=[-yk;uk(d:d+nb)];y(k)=phi'*theta+xi(k);

K=P*phi/(1+phi'*P*phi);thetae(:,k)=thetae_1+K*(y(k)-phi'*thetae_1);P=(eye(na+nb+1)-K*phi')*P;thetae_1=thetae(:,k);

fori=d+nb:-1:2uk(i)=uk(i-1);enduk(1)=u(k);

fori=na:-1:2yk(i)=yk(i-1);endyk(1)=y(k);endplot([1:L],thetae);xlabel('k');ylabel('2?êy1à??a?￠b');legend('a_1','a_2','b_0','b_1');axis([0L-22]);>>thetae(:,400)ans=-1.4831e+0006.8527e-0019.9597e-0015.1699e-001>>thetae(:,600)ans=-1.5013e+0007.0766e-0011.0004e+