基于人工神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識

基于人工神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識當(dāng)前第1頁\共有28頁\編于星期五\6點主要內(nèi)容人工神經(jīng)網(wǎng)絡(luò)的概述人工神經(jīng)元模型人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)幾種典型的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)辨識概述系統(tǒng)辨識的基本概念系統(tǒng)辨識的三要素系統(tǒng)辨識的基本過程基于神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識技術(shù)人工神經(jīng)網(wǎng)絡(luò)辨識的基本原理飛行器系統(tǒng)氣動力參數(shù)辨識當(dāng)前第2頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述1.1人工神經(jīng)元模型生物神經(jīng)元結(jié)構(gòu)當(dāng)前第3頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述1.1人工神經(jīng)元模型三個基本要素：1、連接權(quán)；2、求和單元；3、激活函數(shù)。數(shù)學(xué)模型當(dāng)前第4頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述激活函數(shù)：1、硬限幅(Heaviside)激活函數(shù)2、線性激活函數(shù)3、對數(shù)-S型(sigmoid)激活函數(shù)4、對稱硬極限激活函數(shù)5、飽和線性激活函數(shù)6、雙曲正切S型激活函數(shù)7、正線性激活函數(shù)……當(dāng)前第5頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述1.2神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)前饋型網(wǎng)絡(luò)（FNN）根據(jù)激活函數(shù)的不同，F(xiàn)NN又可分為多種類型。如多層感知器（MLP）、徑向基網(wǎng)絡(luò)（RBF）、小波網(wǎng)絡(luò)（WN）當(dāng)前第6頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述反饋（遞歸）型網(wǎng)絡(luò)全局反饋：Hopfield網(wǎng)絡(luò)、Elman網(wǎng)絡(luò)局部反饋網(wǎng)絡(luò)是在單個神經(jīng)元上進行反饋，類型很多當(dāng)前第7頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述1.3神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)通過向環(huán)境學(xué)習(xí)獲取知識并改進自身性能是神經(jīng)網(wǎng)絡(luò)的一個重要特點，在一般情況下，性能的改善是按某種規(guī)定的度量調(diào)節(jié)自身參數(shù)（如權(quán)值）并隨時間逐步達到的，學(xué)習(xí)方式（按環(huán)境所供信息的多少分）有以下三種：有監(jiān)督學(xué)習(xí)無監(jiān)督學(xué)習(xí)強化學(xué)習(xí)學(xué)習(xí)算法：δ學(xué)習(xí)規(guī)則（誤差糾正規(guī)則）Hebb學(xué)習(xí)規(guī)則競爭學(xué)習(xí)當(dāng)前第8頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述1.4幾種典型的人工神經(jīng)網(wǎng)絡(luò)感知機神經(jīng)網(wǎng)絡(luò)BP（BackPropagation）神經(jīng)網(wǎng)絡(luò)徑向基（RadialBasisFunction,RBF）神經(jīng)網(wǎng)絡(luò)競爭學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)Hopfield神經(jīng)網(wǎng)絡(luò)Boltzmann神經(jīng)網(wǎng)絡(luò)……當(dāng)前第9頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述BP神經(jīng)網(wǎng)絡(luò)隱含層和輸出層的激活函數(shù)采用對數(shù)-S型激活函數(shù)當(dāng)前第10頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述隱含層的第i個神經(jīng)元在樣本p作用下的輸入為：隱含層的第i個神經(jīng)元的輸出為：輸出層第k個神經(jīng)元的總輸入為：輸出層的第k個神經(jīng)元的實際輸出為：BP網(wǎng)絡(luò)的前饋計算當(dāng)前第11頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述BP網(wǎng)絡(luò)權(quán)系數(shù)的調(diào)整規(guī)則對于每一樣本p的輸入模式對的二次型誤差函數(shù)為：BP學(xué)習(xí)算法的基本原理是梯度最速下降法，它的中心思想是調(diào)整權(quán)值使網(wǎng)絡(luò)總誤差最小。學(xué)習(xí)過程按使誤差函數(shù)Jp減小最快的方向調(diào)整加權(quán)系數(shù)直到獲得滿意的加權(quán)系數(shù)為止。因此，權(quán)系數(shù)應(yīng)按Jp函數(shù)梯度變化的反方向調(diào)整，使網(wǎng)絡(luò)逐漸收斂。輸出層的神經(jīng)元權(quán)系數(shù)修改公式：隱含層的神經(jīng)元權(quán)系數(shù)修改公式：當(dāng)前第12頁\共有28頁\編于星期五\6點人工神經(jīng)網(wǎng)絡(luò)的概述BP網(wǎng)絡(luò)學(xué)習(xí)算法的計算步驟初始化：置所有的加權(quán)系數(shù)為最小的隨機數(shù)；提供訓(xùn)練集：給出輸入向量p和期望的輸出向量t。計算實際輸出；計算期望值與實際輸出的誤差；調(diào)整輸出層的加權(quán)系數(shù)；調(diào)整隱含層的加權(quán)系數(shù)；返回步驟（3），直到誤差滿足要求為止。當(dāng)前第13頁\共有28頁\編于星期五\6點系統(tǒng)辨識概述2.1系統(tǒng)辨識的基本概念設(shè)有一離散時不變因果系統(tǒng)，它的輸入和輸出分別為u(t)和yp(t)，并設(shè)u(t)是一致有界函數(shù)，那么辨識問題可以描述為尋求一數(shù)學(xué)模型,使得模型的輸出和被辨識系統(tǒng)的輸出盡量接近。當(dāng)前第14頁\共有28頁\編于星期五\6點系統(tǒng)辨識概述2.2系統(tǒng)辨識三要素辨識三要素和辨識要點輸入/輸出數(shù)據(jù)系統(tǒng)模型類型等價準(zhǔn)則能夠量測到的系統(tǒng)的輸入/輸出數(shù)據(jù)所考慮的系統(tǒng)的結(jié)構(gòu)給出辨識的優(yōu)化目標(biāo)輸入信號的選擇：必須能充分激勵系統(tǒng)的所有模態(tài)。模型的選擇：兼顧精確性和復(fù)雜性最常用的誤差準(zhǔn)則是誤差平方和函數(shù)當(dāng)前第15頁\共有28頁\編于星期五\6點系統(tǒng)辨識概述2.3系統(tǒng)辨識的基本過程⑴選定和預(yù)測被辨識系統(tǒng)的數(shù)學(xué)模型類型⑵試驗設(shè)計：選擇試驗信號，記錄輸入/輸出數(shù)據(jù)⑶參數(shù)估計：選擇估計方法，根據(jù)測量數(shù)據(jù)估計數(shù)學(xué)模型中的未知參數(shù)。⑷模型驗證：驗證所確定的模型是否恰當(dāng)?shù)乇硎玖讼到y(tǒng)當(dāng)前第16頁\共有28頁\編于星期五\6點基于神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識技術(shù)在正向建模問題中，神經(jīng)網(wǎng)絡(luò)與待辨識系統(tǒng)具有相同的輸入，兩者的輸出誤差作為網(wǎng)絡(luò)的訓(xùn)練信號，這是典型的有監(jiān)督學(xué)習(xí)問題。學(xué)習(xí)結(jié)束后，網(wǎng)絡(luò)模型將具有與實際系統(tǒng)相同的輸入輸出特性。3.1人工神經(jīng)網(wǎng)絡(luò)辨識的基本原理正向模型（1）正向模型當(dāng)前第17頁\共有28頁\編于星期五\6點基于神經(jīng)網(wǎng)絡(luò)的系統(tǒng)辨識技術(shù)（2）逆向模型直接逆模型間接逆模型直接逆向模型是把系統(tǒng)輸出作為網(wǎng)絡(luò)輸入，用網(wǎng)絡(luò)的輸出與系統(tǒng)的輸入作比較,兩者的誤差作為網(wǎng)絡(luò)的訓(xùn)練信號；而間接模型結(jié)構(gòu)中有一個已知的系統(tǒng)正向模型,同時將逆模型網(wǎng)絡(luò)與系統(tǒng)串聯(lián)，網(wǎng)絡(luò)輸入是系統(tǒng)的期望輸出，訓(xùn)練信號為系統(tǒng)的期望輸出與其實際輸出之差，或者是與己知神經(jīng)網(wǎng)絡(luò)正向模型的輸出之差。當(dāng)前第18頁\共有28頁\編于星期五\6點飛行器系統(tǒng)氣動力參數(shù)辨識3.2飛行器系統(tǒng)氣動力參數(shù)辨識飛行器系統(tǒng)各主要符號及其含義（6自由度）當(dāng)前第19頁\共有28頁\編于星期五\6點飛行器系統(tǒng)氣動力參數(shù)辨識滾轉(zhuǎn)姿態(tài)（副翼）當(dāng)前第20頁\共有28頁\編于星期五\6點飛行器系統(tǒng)氣動力參數(shù)辨識俯仰（水平尾翼）當(dāng)前第21頁\共有28頁\編于星期五\6點飛行器系統(tǒng)氣動力參數(shù)辨識偏航（垂直尾翼）當(dāng)前第22頁\共有28頁\編于星期五\6點飛行器系統(tǒng)氣動力參數(shù)辨識假設(shè)：◆飛行器具有對稱平面;◆運動中對稱平面處于鉛垂位置,且運動平面與飛機對稱平面重合;◆飛行器進行定常直線運動。線性小擾動方程可分為彼此獨立的兩組，即可在縱、橫兩個方向上進行解耦。注：系統(tǒng)方程見文檔當(dāng)前第23頁\共有28頁\編于星期五\6點飛行器系統(tǒng)氣動力參數(shù)辨識縱向系統(tǒng)仿真當(dāng)前第24頁\共有28頁\編于星期五\6點飛行器系統(tǒng)氣動力參數(shù)辨識通過MATLAB仿真得到縱向系統(tǒng)輸入如右(其中，左側(cè)輸入為寬度為3秒的單位幅度脈沖；右側(cè)輸入為寬度為1秒的單位幅度脈沖)當(dāng)前第25頁\共有28頁\編于星期五\6點飛行器系統(tǒng)氣動力參數(shù)辨識

利用神經(jīng)網(wǎng)絡(luò)的正向辨識模型，對飛行器系統(tǒng)在小擾動情況下的動態(tài)特性進行辨識。采用串并聯(lián)辨識模型，通過試驗發(fā)現(xiàn)當(dāng)輸入、輸