智能控制第3節(jié)人工神經(jīng)元網(wǎng)絡(luò)控制論網(wǎng)絡(luò)模型

第3章人工神經(jīng)元網(wǎng)絡(luò)控制論－網(wǎng)絡(luò)模型智能控制根底3.1引言3.2前向神經(jīng)網(wǎng)絡(luò)模型3.6神經(jīng)網(wǎng)絡(luò)控制根底3.7非線性動態(tài)系統(tǒng)的神經(jīng)網(wǎng)絡(luò)辨識3.8神經(jīng)網(wǎng)絡(luò)控制的學(xué)習(xí)機(jī)制3.9神經(jīng)網(wǎng)絡(luò)控制器的設(shè)計3.3動態(tài)神經(jīng)網(wǎng)絡(luò)模型3.10單一神經(jīng)元控制法目錄23.1引言人工神經(jīng)網(wǎng)絡(luò)就是模擬人腦細(xì)胞的分布式工作特點和自組織功能，且能實現(xiàn)并行處理、自學(xué)習(xí)和非線性映射等能力的一種系統(tǒng)模型。3開展歷史1943年，心理學(xué)家McCmloch和數(shù)學(xué)家Pitts合作提出形式神經(jīng)元數(shù)學(xué)模型(MP)，揭開了神經(jīng)科學(xué)理論的新時代。1944年Hebb提出了改變神經(jīng)元連接強(qiáng)度的Hebb規(guī)那么。1957年Rosenblatt首次引進(jìn)了感知器概念〔Perceptron)。。1976年，Grossberg提出了自適應(yīng)共振理論。1982年，美國加州工學(xué)院物理學(xué)家Hopfield提出了HNN模型，他引入了“計算能量函數(shù)〞的概念，給出了網(wǎng)絡(luò)的穩(wěn)定性判據(jù)。1986年，Rumelhart等PDP研究小組提出了多層前向傳播網(wǎng)絡(luò)的BP學(xué)習(xí)算法。4主要內(nèi)容53.1引言3.1.1神經(jīng)元模型3.1.2神經(jīng)網(wǎng)絡(luò)的模型分類3.1.3神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法3.1.4神經(jīng)網(wǎng)絡(luò)的泛化能力63.1.1神經(jīng)元模型神經(jīng)元模型是生物神經(jīng)元的抽象和模擬?？煽醋鞫噍斎?單輸出的非線性器件。ui

神經(jīng)元的內(nèi)部狀態(tài)，θi

閥值，

xi

輸入信號，j=1,2,…,n;wij

表示從單元uj

到單元ui

的連接權(quán)值;si

外部輸入信號7數(shù)學(xué)模型通常直接假設(shè) yi=f(Neti)f為鼓勵函數(shù)，有4種類型。8鼓勵函數(shù)類型1閾值型9鼓勵函數(shù)類型2分段線性型10鼓勵函數(shù)類型3Sigmoid函數(shù)型11鼓勵函數(shù)類型4Tan函數(shù)型123.1引言3.1.1神經(jīng)元模型3.1.2神經(jīng)網(wǎng)絡(luò)的模型分類3.1.3神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法3.1.4神經(jīng)網(wǎng)絡(luò)的泛化能力133.1.2神經(jīng)網(wǎng)絡(luò)的模型分類123414網(wǎng)絡(luò)結(jié)構(gòu)圖153.1引言3.1.1神經(jīng)元模型3.1.2神經(jīng)網(wǎng)絡(luò)的模型分類3.1.3神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法3.1.4神經(jīng)網(wǎng)絡(luò)的泛化能力163.1.3神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法ab17學(xué)習(xí)規(guī)那么18相關(guān)學(xué)習(xí)僅僅根據(jù)連接間的激活水平改變權(quán)系數(shù)。它常用于自聯(lián)想網(wǎng)絡(luò)。最常見的學(xué)習(xí)算法是Hebb規(guī)那么。η表示學(xué)習(xí)步長19糾錯學(xué)習(xí)有導(dǎo)師學(xué)習(xí)方法，依賴關(guān)于輸出節(jié)點的外部反響改變權(quán)系數(shù)。它常用于感知器網(wǎng)絡(luò)、多層前向傳播網(wǎng)絡(luò)和Boltzmann機(jī)網(wǎng)絡(luò)。其學(xué)習(xí)的方法是梯度下降法。最常見的學(xué)習(xí)算法有δ規(guī)那么、模擬退火學(xué)習(xí)規(guī)那么。20無導(dǎo)師學(xué)習(xí)學(xué)習(xí)表現(xiàn)為自適應(yīng)實現(xiàn)輸入空間的檢測規(guī)那么。它常用于ART、Kohonen自組織網(wǎng)絡(luò)。在這類學(xué)習(xí)規(guī)那么中,關(guān)鍵不在于實際節(jié)點的輸出怎樣與外部的期望輸出相一致，而在于調(diào)整參數(shù)以反映觀察事件的分布。例如Winner-Take-All學(xué)習(xí)規(guī)那么。213.1引言3.1.1神經(jīng)元模型3.1.2神經(jīng)網(wǎng)絡(luò)的模型分類3.1.3神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法3.1.4神經(jīng)網(wǎng)絡(luò)的泛化能力223.1.4神經(jīng)網(wǎng)絡(luò)的泛化能力當(dāng)輸入矢量與樣本輸入矢量存在差異時，其神經(jīng)網(wǎng)絡(luò)的輸出同樣能夠準(zhǔn)確地呈現(xiàn)出應(yīng)有的輸出。這種能力就稱為神經(jīng)網(wǎng)絡(luò)的泛化能力。在有導(dǎo)師指導(dǎo)下的學(xué)習(xí)中，泛化能力可以定義為訓(xùn)練誤差和測試誤差之差。與輸入矢量的個數(shù)、網(wǎng)絡(luò)的節(jié)點數(shù)和權(quán)值與訓(xùn)練樣本集數(shù)目之間存在密切的關(guān)系。233.1引言3.2前向神經(jīng)網(wǎng)絡(luò)模型3.6神經(jīng)網(wǎng)絡(luò)控制根底3.7非線性動態(tài)系統(tǒng)的神經(jīng)網(wǎng)絡(luò)辨識3.8神經(jīng)網(wǎng)絡(luò)控制的學(xué)習(xí)機(jī)制3.9神經(jīng)網(wǎng)絡(luò)控制器的設(shè)計3.3動態(tài)神經(jīng)網(wǎng)絡(luò)模型3.10單一神經(jīng)元控制法目錄243.2前向神經(jīng)網(wǎng)絡(luò)模型3.2.1網(wǎng)絡(luò)結(jié)構(gòu)3.2.2多層傳播網(wǎng)絡(luò)的BP學(xué)習(xí)算法3.2.3快速的BP改進(jìn)算法253.2.1網(wǎng)絡(luò)結(jié)構(gòu)單一神經(jīng)元12326單一神經(jīng)元w0

為閾值，

wj

決定第j個輸入的突觸權(quán)系數(shù)。27單層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)x0=128多層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)以單隱含層網(wǎng)絡(luò)為例：Oj為隱含層的鼓勵293.2前向神經(jīng)網(wǎng)絡(luò)模型3.2.1網(wǎng)絡(luò)結(jié)構(gòu)3.2.2多層傳播網(wǎng)絡(luò)的BP學(xué)習(xí)算法3.2.3快速的BP改進(jìn)算法303.2.2多層傳播網(wǎng)絡(luò)的BP學(xué)習(xí)算法根本思想單層網(wǎng)絡(luò)的學(xué)習(xí)算法多層前向網(wǎng)絡(luò)學(xué)習(xí)算法311.有導(dǎo)師學(xué)習(xí)的根本思想性能指標(biāo)為φ〔·〕是一個正定的、可微的凸函數(shù)，常取322.單層網(wǎng)絡(luò)的學(xué)習(xí)算法鼓勵函數(shù)為線性函數(shù)時，可通過最小二乘法來學(xué)習(xí)。

鼓勵函數(shù)為非線性函數(shù)時，可采用Delta規(guī)那么，即梯度法，有α是學(xué)習(xí)因子

333.多層前向網(wǎng)絡(luò)學(xué)習(xí)算法針對多層前向網(wǎng)絡(luò)有導(dǎo)師學(xué)習(xí)34網(wǎng)絡(luò)模型第r＋1個隱含層：輸出層35采用梯度法：其中：定義廣義誤差：可得：BP學(xué)習(xí)算法36反向誤差傳播輸出層時，有：隱含層時，有：37例3-1假設(shè)對于期望的輸入。

網(wǎng)絡(luò)權(quán)系數(shù)的初始值見圖。試用BP算法訓(xùn)練此網(wǎng)絡(luò)〔本例中只給出一步迭代學(xué)習(xí)過程〕。這里，取神經(jīng)元鼓勵函數(shù)： 學(xué)習(xí)步長為38圖3－1539當(dāng)前輸出40計算廣義誤差41連接權(quán)系數(shù)更新42學(xué)習(xí)流程43(1)初始化設(shè)置學(xué)習(xí)因子η>0。較大時，收斂快，但易振蕩。較小時，反之。最大容許誤差Emax。 用于判斷學(xué)習(xí)是否結(jié)束。隨機(jī)賦網(wǎng)絡(luò)初始權(quán)值。 一般選擇比較小的隨機(jī)數(shù)。44增量型學(xué)習(xí)累積型學(xué)習(xí)(2)學(xué)習(xí)方式45收斂性46(3)學(xué)習(xí)速率鼓勵函數(shù)，如用Sigmoid函數(shù)，應(yīng)增大斜率，減少飽和的情況。調(diào)節(jié)學(xué)習(xí)因子增加Momentum項47例3-2:非線性函數(shù)逼近目標(biāo)函數(shù)：48學(xué)習(xí)設(shè)置采用傳統(tǒng)的BP學(xué)習(xí)算法鼓勵函數(shù)都為Sigmoid函數(shù)。初始權(quán)系數(shù)陣由〔0，1〕之間的隨機(jī)數(shù)組成。學(xué)習(xí)步長η=0.09。學(xué)習(xí)樣本取20點，即：

校驗樣本取30點，即：49兩種MLP模型的學(xué)習(xí)效果503.2前向神經(jīng)網(wǎng)絡(luò)模型3.2.1網(wǎng)絡(luò)結(jié)構(gòu)3.2.2多層傳播網(wǎng)絡(luò)的BP學(xué)習(xí)算法3.2.3快速的BP改進(jìn)算法511.快速BP算法Fahlman在1988年首先提出當(dāng)問題滿足以下條件時：誤差外表呈拋物面、極值點附近凹面向上；某一權(quán)系數(shù)的梯度變化與其它權(quán)系數(shù)變化無關(guān)?？刹扇∪缦碌母鹿?22.共軛梯度學(xué)習(xí)算法共軛梯度算法是一種經(jīng)典優(yōu)化方法共軛梯度學(xué)習(xí)算法 特點：使用二階導(dǎo)數(shù)信息，但不計算Hessian矩陣53目標(biāo)函數(shù)的二階近似目標(biāo)函數(shù)：Taylor展開：其中：54最正確權(quán)系數(shù)求取函數(shù)取極小值時，最正確權(quán)系數(shù)可求解

獲得。由最優(yōu)化理論可知，解決H逆矩陣的計算問題方法之一是利用共軛梯度來間接地構(gòu)成H的逆矩陣值。55共軛方向如果diHdjT=0對于所有的i≠j,i,j,=1,2,...,n。 那么稱d1，d2，...，dn是H共軛的。可見d1，d2，...，dn是線性無關(guān)的，因此可作為一組基。56最優(yōu)矩陣的間接求解記W*是極值點的權(quán)系數(shù)矢量，那么有：

令Wk=Wk-1+αkdk，那么n次迭代后可得W*。57共軛梯度學(xué)習(xí)算法注意到那么58共軛矢量的遞推求取定義第一個矢量d1為初始點的負(fù)梯度矢量，即d1=-g1。根據(jù)gTk+1dk=0〔線性無關(guān)〕，可得 dk+1=-gk+1+βkdk βk=gk+1HdkT/(dkHdkT)注意到 (gk+1-gk)T=H(Wk+1-Wk)T=αkHdkT 所以βk=gk+1(gk+1-gk)T/[dk(gk+1-gk)T] αk可通過一維步長最優(yōu)搜索得到593.1引言3.2前向神經(jīng)網(wǎng)絡(luò)模型3.6神經(jīng)網(wǎng)絡(luò)控制根底3.7非線性動態(tài)系統(tǒng)的神經(jīng)網(wǎng)絡(luò)辨識3.8神經(jīng)網(wǎng)絡(luò)控制的學(xué)習(xí)機(jī)制3.9神經(jīng)網(wǎng)絡(luò)控制器的設(shè)計3.3動態(tài)神經(jīng)網(wǎng)絡(luò)模型3.10單一神經(jīng)元控制法目錄603.3動態(tài)神經(jīng)網(wǎng)絡(luò)模型動態(tài)神經(jīng)網(wǎng)絡(luò)帶時滯的多層感知器網(wǎng)絡(luò)Hopfield網(wǎng)絡(luò)回歸神經(jīng)網(wǎng)絡(luò)613.3.1帶時滯的多層感知器網(wǎng)絡(luò)有兩種實現(xiàn)：無輸出反響有輸出反響62帶時滯的多層感知器網(wǎng)絡(luò)1圖3-20時滯神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)63帶時滯的多層感知器網(wǎng)絡(luò)2圖3-21帶反響時滯神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)643.3.2Hopfield神經(jīng)網(wǎng)絡(luò)具有相互連接的反響型神經(jīng)網(wǎng)絡(luò)模型將其定義的“能量函數(shù)〞概念引入到神經(jīng)網(wǎng)絡(luò)研究中，給出了網(wǎng)絡(luò)的穩(wěn)定性判據(jù)。用模擬電子線路實現(xiàn)了所提出的模型，并成功地用神經(jīng)網(wǎng)絡(luò)方法實現(xiàn)了4位A/D轉(zhuǎn)換。65類型12661.二值型的Hopfield網(wǎng)絡(luò)全連接單層網(wǎng)絡(luò)神經(jīng)元模型yi取值通常為0和1或-1和1

67例3-4：狀態(tài)轉(zhuǎn)移關(guān)系假設(shè)一個3節(jié)點的離散Hopfield神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)權(quán)值與閾值如圖3-23(a)所示。采取隨機(jī)異步更新策略，求計算狀態(tài)轉(zhuǎn)移關(guān)系。68狀態(tài)轉(zhuǎn)移圖69動力學(xué)特征：能量井能量函數(shù)能量井：能量極小狀態(tài)〔與網(wǎng)絡(luò)的穩(wěn)定狀態(tài)一一對應(yīng)〕用途：聯(lián)想記憶、優(yōu)化70能量井設(shè)計能量井的分布是由連接權(quán)值決定的。一是根據(jù)求解問題的要求直接計算出所需要的連接權(quán)值。這種方法為靜態(tài)產(chǎn)生方法，一旦權(quán)值確定下來就不再改變；二是通過提供一種學(xué)習(xí)機(jī)制來訓(xùn)練網(wǎng)絡(luò)，使其能夠自動調(diào)整連接權(quán)值，產(chǎn)生期望的能量井。這種方法為動態(tài)產(chǎn)生方法。71〔1〕權(quán)值的靜態(tài)設(shè)計方法：例3-6如以下圖3節(jié)點DHNN模型為例要求設(shè)計的能量井為狀態(tài)y1y2y3=010和111。權(quán)值和閾值可在[-1,1]區(qū)間取值，確定網(wǎng)絡(luò)權(quán)值和閾值。72解對于狀態(tài)A，當(dāng)系統(tǒng)處于穩(wěn)態(tài)時，有

W12+θ1<0 θ2>0W23+θ3<0對于狀態(tài)B，當(dāng)系統(tǒng)處于穩(wěn)態(tài)時，有

W12+W13+θ1>0W12+W23+θ2>0W23+W13+θ3>073特解W12=0.5,W13=0.4,W23=0.1,θ1=-0.7,θ2=0.2,θ3=-0.4.W12=-0.5,W13=0.5,W23=0.4,θ1=0.1,θ2=0.2,θ3=-0.7.出現(xiàn)了假能量井10074〔2〕基于學(xué)習(xí)規(guī)那么的設(shè)計方法Hebb學(xué)習(xí)規(guī)那么〔主要方法〕δ學(xué)習(xí)規(guī)那么

75Hebb學(xué)習(xí)規(guī)那么原那么為：假設(shè)i與j兩個神經(jīng)元同時處于興奮狀態(tài)，那么它們之間的連接應(yīng)加強(qiáng)，即：

.76外積規(guī)那么對于一給定的需記憶的樣本向量{t1,t2,...,tN},如果初始權(quán)值為0，tk的狀態(tài)值為+1或-1，那么其連接權(quán)系數(shù)的學(xué)習(xí)可以利用“外積規(guī)那么〞，即：標(biāo)量形式：活潑值為1或0時：772.網(wǎng)絡(luò)的穩(wěn)定性定理3-2：令S=〔W，θ〕代表神經(jīng)網(wǎng)絡(luò)，W為一對稱矩陣。那么有：如果S工作在串行模式，W的對角元素非負(fù)〔包括對角元為0的情況〕，那么網(wǎng)絡(luò)總是收斂于穩(wěn)定狀態(tài)?！布丛跔顟B(tài)空間沒有極限環(huán)存在〕；如果S工作在并行模式時，網(wǎng)絡(luò)總是收斂于穩(wěn)定狀態(tài)或Hamming距離小于2的極限環(huán)。78證明定義能量函數(shù)為：

將E(k)在Y(k)展開Talyor級數(shù)，有：其中，

79不失一般性，假設(shè)閾值函數(shù)f(·)為符號函數(shù)sgn(·)。那么

其中：80顯然在串行工作方式下，81例3-7：假設(shè)神經(jīng)元的閾值矢量θ=0，網(wǎng)絡(luò)輸出只取兩值｛0，1｝。要求Hopfield網(wǎng)絡(luò)記憶如下穩(wěn)定狀態(tài)，t1=(1010)T。設(shè)采取并行更新，并對以下三種初始狀態(tài)下的網(wǎng)絡(luò)行為作出評價。y1〔0〕=(1001)T，y2〔0〕=(1000)T，y3〔0〕=(0001)T。82步驟1：權(quán)值設(shè)計根據(jù)得83步驟2：穩(wěn)定性分析對于y1(0)有： [1,0,0,1]T→[0,0,0,0]T→[0,0,0,0]T,

因此y1=[0,0,0,0]T,是一個穩(wěn)定態(tài)。對于y2(0)有： [1,0,0,0]T→[0,0,1,0]T→[1,0,0,0]T,

所以初始狀態(tài)2不屬于此Hopfield網(wǎng)絡(luò)記憶范圍。無法實現(xiàn)聯(lián)想。對于y3(0)有： [0,0,0,1]T→[0,1,0,0]T→[0,0,0,1]T,

也不屬于此Hopfield區(qū)的記憶范圍。843.應(yīng)用：聯(lián)想記憶功能必須具備兩個根本條件：能夠收斂于穩(wěn)定狀態(tài)，利用此穩(wěn)態(tài)來記憶樣本信息；具有回憶能力，能夠從某一局部輸入信息回憶起與其相關(guān)的其它記憶，或者由某一殘缺的信息回憶起比較完整的記憶。85舉例：數(shù)字識別X=[x1,x2,...,xN]T

、X∈{-1,1}N

，N=10×12=12086存在的問題假能量井現(xiàn)象并非任何一組樣本經(jīng)訓(xùn)練都可構(gòu)成一組穩(wěn)定的狀態(tài)。給定一個偏離樣本的初始狀態(tài)，最終不一定收斂到與其Hamming距離最近的標(biāo)準(zhǔn)樣本狀態(tài)。各樣本之間的Hamming距離分布對聯(lián)想記憶功能的正確實現(xiàn)有重要影響。假設(shè)樣本之間相互正交(dH=N/2)效果最好。反之，假設(shè)樣本特征相近那么易出現(xiàn)錯誤識別。樣本數(shù)M越小，聯(lián)想記憶功能出現(xiàn)的錯誤的可能性越小。仿真研究說明，取M=0.15N時，聯(lián)想的正確率較高。874.連續(xù)型的Hopfield網(wǎng)絡(luò)與二值型的Hopfield網(wǎng)絡(luò)模型具有相同的拓?fù)浣Y(jié)構(gòu)神經(jīng)元的狀態(tài)oj滿足：

N為網(wǎng)絡(luò)中神經(jīng)元的個數(shù)；

oj

為神經(jīng)元j的狀態(tài)；

cj

為常數(shù)且大于0；

Rj

為正數(shù)；

xj

為外部輸入；

yi

為神經(jīng)元i的輸出，滿足yi=f(oi)。88穩(wěn)定性引入一個能量函數(shù)E：定理3-3：假設(shè)f-1為單調(diào)遞增且連續(xù)， ,那么沿系統(tǒng)軌道有：且當(dāng)且僅當(dāng)時，89證明因為且當(dāng)時，905.優(yōu)化問題的應(yīng)用：TSP問題旅行商最優(yōu)路徑問題(TravellingSal