-s模糊遞歸神經(jīng)網(wǎng)絡(luò)的混沌優(yōu)化算法

-s模糊遞歸神經(jīng)網(wǎng)絡(luò)的混沌優(yōu)化算法

1混沌dna遺傳算法神經(jīng)網(wǎng)絡(luò)具有動態(tài)逼近器的特點，在描述各種復(fù)雜的非線性系統(tǒng)[1.3]。然而，如果按照神經(jīng)網(wǎng)絡(luò)模型進行控制和求解，結(jié)構(gòu)將復(fù)雜，計算將大量復(fù)雜。對于模糊回歸神經(jīng)網(wǎng)絡(luò)（frrn）的后部分，使用局部線性化模型。與神經(jīng)網(wǎng)絡(luò)模型相比，在處理多變量系統(tǒng)時，模型規(guī)則的數(shù)量可以減少，這有利于非線性優(yōu)化問題[4.6]。一般，t-s模糊回歸神經(jīng)網(wǎng)絡(luò)的參數(shù)包括模糊規(guī)則的數(shù)量、下屬函數(shù)參數(shù)等。現(xiàn)有的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)參數(shù)的辨識方法主要有聚類算法和遺傳算法等方法.其中,聚類算法如K-均值算法,對初始聚類中心十分敏感,并且只考慮輸入數(shù)據(jù),據(jù)此建立的模型不能很好反映系統(tǒng)特性.遺傳算法是一種模擬生物進化過程的仿生算法,具有很強的易操作性和全局優(yōu)化性能,被廣泛用于非線性規(guī)劃問題、組合優(yōu)化問題、參數(shù)辨識、控制器優(yōu)化等領(lǐng)域中.近年來,很多學者使用遺傳算法優(yōu)化模糊模型的結(jié)構(gòu)和參數(shù),取得了較好的結(jié)果[11～13].然而面對復(fù)雜系統(tǒng),特別是非線性系統(tǒng)時,遺傳算法仍存在著不足,如算法局部搜索能力較低,易早熟收斂等.傳統(tǒng)的遺傳算法采用0-1編碼,這種編碼方式不能表達豐富的遺傳信息,也不能反映遺傳信息對生物體生長、發(fā)育的調(diào)控作用.為了更好的發(fā)揮遺傳算法的仿生性能,近年來,基于堿基編碼的遺傳算法得到了人們的關(guān)注.這類遺傳算法使用DNA分子和RNA分子的基本組成單位-堿基,對問題的潛在解編碼,使算法中的個體可以攜帶更豐富的遺傳信息,方便引入更為復(fù)雜的遺傳算子操作,從而在一定程度上提高了遺傳算法的全局搜索能力,但在小區(qū)域內(nèi)搜索效率的提高并不顯著.而混沌是一種非線性現(xiàn)象,具有隨機性、遍歷性,同時又存在著一定的內(nèi)在規(guī)律性.一般而言,混沌優(yōu)化過程首先遍歷搜索可行點,然后以當前最優(yōu)點為中心,附加混沌擾動,在初始點周圍尋找更好的點.混沌優(yōu)化方法在搜索空間小時效果顯著,但當搜索空間大時其效果不一定讓人滿意.鑒于以上分析,本文受生物DNA分子遺傳機制的啟發(fā),結(jié)合混沌動力學特性,提出了一種混沌DNA遺傳算法(CDNA-GA).混沌DNA遺傳算法的基本思想是利用堿基對個體編碼,并引入DNA分子操作概念來改進遺傳算子,同時對于部分較差的個體引入混沌細搜索方法.應(yīng)用CDNA-GA來辨識T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)的前件參數(shù),同時采用遞推最小二乘法(RLS)整定網(wǎng)絡(luò)的后件參數(shù).最后采用基于CDNA-GA的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)對pH中和過程進行建模,仿真結(jié)果表明所建模型有較好的預(yù)測精度.2t-s模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的t-s-n一個典型的單輸入單輸出系統(tǒng)的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型由兩部分組成:前件部分網(wǎng)絡(luò)和后件部分網(wǎng)絡(luò),其規(guī)則如下:規(guī)則j:如果x(k)是Aj,則其中:X(k)=[1,u(k-d),···,u(k-d-m+1),y(k-1),···,y(k-n)],u為被控對象的輸入,y為被控對象的輸出,yj(k)為第j條規(guī)則所對應(yīng)的模糊模型輸出預(yù)測值,而m,n為被控對象的階次,Bj=[bj,0bj,1···bj,m+n]T為后件部分參數(shù),M為模糊規(guī)則數(shù),Aj為模糊神經(jīng)網(wǎng)絡(luò)的第j個輸入模糊集.對于單輸入單輸出系統(tǒng),x(k)=y(k).若模糊神經(jīng)網(wǎng)絡(luò)模型的前件部分采用高斯型隸屬度函數(shù),則前件部分輸出為其中αj為第j條規(guī)則的適用度:其中cj和σj為神經(jīng)網(wǎng)絡(luò)輸入模糊集Aj的高斯隸屬度函數(shù)的中心點和寬度值.T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的后件部分使用遞歸神經(jīng)元來表示.在后件部分中,前件部分的每一條規(guī)則對應(yīng)一個局部線性化模型.經(jīng)解模糊后,可以得到T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的輸出為:從以上分析中可以發(fā)現(xiàn),上述模糊神經(jīng)網(wǎng)絡(luò)模型需要整定的參數(shù)包括:前件部分的隸屬度函數(shù)的中心點cj,寬度σj及后件部分的局部線性化參數(shù)Bj,j=1,2,···,M.本文采用混沌DNA遺傳算法來辨識前件部分參數(shù),并利用遞推最小二乘法確定后件部分參數(shù).3采用混合遺傳傳記算法法識別前件參數(shù)遺傳傳遞容量3.1堿基串編碼原則眾所周知,DNA分子的基本組成元素是核苷酸.而核苷酸的區(qū)別僅在于堿基的不同.其中,腺嘌呤(A)、鳥嘌呤(G)、胞嘧啶(C)和胸腺嘧啶(T)是4種最常見的堿基.因此,核苷酸可以分為腺嘌呤核苷酸、鳥嘌呤核苷酸、胞嘧啶核苷酸和胸腺嘧啶核苷酸.這4種核苷酸按照一定的排列順序,以磷酸二脂鍵相連,可以形成一條核苷酸序列,也稱堿基序列.同時,一個核苷酸上的堿基可以與另一個核苷酸上的堿基通過氫鍵相結(jié)合,形成堿基對.遵守WatsonCrick互補性原則:A和T配對,C和G配對.這樣,一條核苷酸單鏈序列可以與另一條特定的核苷酸單鏈序列結(jié)合,從而構(gòu)成一條DNA雙鏈.根據(jù)生物DNA分子的構(gòu)成過程,DNA分子可以抽象為4個字母A,T,C,G的集合.受生物DNA分子結(jié)構(gòu)的啟發(fā),混沌DNA遺傳算法采用A,T,C,G這4種堿基對問題的潛在解進行編碼.由于這種編碼不能直接用于計算機處理,數(shù)字0/1/2/3被用來對這4種堿基進行編碼.其采用的映射形式為:0123/CGAT.同時這種映射也繼承了堿基的互補原則,即這4個數(shù)字按照01/23的原則配對互補.基于上述編碼原則,對模糊神經(jīng)網(wǎng)絡(luò)的前件部分參數(shù)進行編碼.設(shè)前件部分有M條規(guī)則,每條規(guī)則包含一個高斯隸屬度函數(shù)中心點參數(shù)和一個寬度參數(shù),則需要優(yōu)化的參數(shù)有2M個.設(shè)每一個參數(shù)均使用長度為l的堿基串編碼.遺傳算法中某一個體i的編碼結(jié)構(gòu)如下:其中:Mi為個體i所對應(yīng)的模糊神經(jīng)網(wǎng)絡(luò)模型的模糊規(guī)則數(shù),在初始化種群時隨機產(chǎn)生,D為最大規(guī)則數(shù).3.2模糊系統(tǒng)適應(yīng)度函數(shù)在混沌DNA遺傳算法中,經(jīng)解碼后,每一個個體對應(yīng)一個網(wǎng)絡(luò)的前件部分,與之相應(yīng)的網(wǎng)絡(luò)的后件部分可以通過遞推最小二乘法得到,從而構(gòu)造一個模糊神經(jīng)網(wǎng)絡(luò).而對于一個模糊神經(jīng)網(wǎng)絡(luò)而言,不僅要考慮網(wǎng)絡(luò)的擬合精度,還要考慮網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜度,即模糊規(guī)則數(shù).因此本文定義第i個個體的適應(yīng)度函數(shù)如下:其中:λ為權(quán)重因子,Ei為第i個個體對應(yīng)的模糊神經(jīng)網(wǎng)絡(luò)的輸入值與給定值的誤差:其中:y為模型輸出預(yù)測值,yd為過程實際輸出值,Ns為訓(xùn)練樣本數(shù).據(jù)式(4)和式(5),f值即適應(yīng)度值越小,該個體越優(yōu)秀.3.3遺傳操作算子genticprotos受生物DNA分子操作的啟發(fā),混沌DNA遺傳算法采用了更為復(fù)雜的遺傳操作,主要包括:選擇、交叉、變異.1精英保留機制本文采用的選擇操作是錦標賽選擇操作和精英保留策略.錦標賽選擇是從當前群體中隨機選擇兩個個體,將其中適應(yīng)度值較小的個體保存到下一代群體中.精英保留機制指將當前群體中適應(yīng)度值最小的個體直接保存到下一代種群中,這種保留機制可以保證算法的收斂性.通過這兩種選擇方法,可以在原種群中選擇一定數(shù)量的個體來形成新的種群.2子父體的編碼在種群中隨機挑選兩個個體,作為交叉操作的父體,交叉過程如圖1所示.首先將每個父體按照編碼參數(shù)的不同分成2D個子序列,并將編碼同一參數(shù)的子序列配對組成子父體,如圖1中均編碼cM的兩段子序列即配對為一對子父體.在每對子父體間,均執(zhí)行兩點交叉,將交叉點間的內(nèi)容互換,從而生成兩個新的個體:子代1和子代2.在交叉操作中,交叉點的位置是隨機決定的.交叉操作的執(zhí)行概率為pc.32突變操作變異操作是一種重要的遺傳操作,用來產(chǎn)生新的個體.本文采用的變異操作由3種變異算子組成:反密碼子變異算子與交叉操作相似,將執(zhí)行反密碼子變異的個體分成2D個序列片段,操作過程如圖2所示.首先在每一個序列片段中隨機選取一小段序列定義為密碼子,如112(密碼子的長度和位置是隨機決定的).隨后依據(jù)Watson-Crick互補性原則可生成一段與密碼子中的堿基互補的序列003,稱之為反密碼子.然后將反密碼子序列中的堿基進行倒位處理,得到倒轉(zhuǎn)的反密碼子序列300.最后將倒轉(zhuǎn)的反密碼子300代替密碼子112的位置,從而形成了一個新的個體.反密碼子變異算子的執(zhí)行概率為pIA.大最小變異操作將個體中出現(xiàn)頻率最高的堿基用個體中出現(xiàn)頻率最低的堿基來代替,這種變異方法稱為最大最小變異,操作過程如圖3所示.在個體中,堿基1的使用頻率最高,而堿基0的使用概率最低.這樣在新個體中,堿基1的位置就被堿基0所代替.這里要注意的是,最大最小變異操作將個體視為一個整體操作,而不需將個體按參數(shù)分塊,它的執(zhí)行概率為pMM.個體堿基以概率pm變異為例,與最大最小變異普通變異算子與普通二進制遺傳算法中的翻轉(zhuǎn)變異類似,它的操作方法為將個體中的每一位堿基以概率pm變異為另一種堿基.普通變異與最大最小變異相同,也是個體視為一個整體操作,而不需將個體按參數(shù)分塊.3.4混沌細搜索非小細胞為了增強算法跳出局部最優(yōu)解的能力,本文引入了混沌優(yōu)化方法.混沌狀態(tài)具有對初始值極其敏感的特點:取不同的初值,可得到不同軌跡的混沌變量.根據(jù)混沌狀態(tài)這一特點,本文對于種群中的適應(yīng)度值較大的個體,即較差的個體,采用混沌細搜索的方法,在原個體的周圍搜尋更優(yōu)秀的個體.這里采用Logistic映射形式生成混沌變量:其中:0<X0<1(且X0=0.25,0.5,0.75),取μ=4,則Xn在(0,1)內(nèi)遍歷.對于需要進行混沌細搜索的個體,首先將其對應(yīng)的各部分參數(shù)值映射到混沌變量區(qū)間,進行混沌迭代.若最后得到的新個體的適應(yīng)度值小于原有個體,則原有個體被新的個體代替;否則仍使用原有個體.3.5種群進化操作Step1設(shè)置算法運行參數(shù),種群大小size,編碼長度l,最大規(guī)則數(shù)D,最大進化代數(shù)Glim,遺傳算子操作概率pc,pIA,pMM,pm,并初始化群體.取當前進化代數(shù)t=0.Step2計算群體中每個個體的適應(yīng)度值,并且t=t+1.Step3對種群中的個體執(zhí)行交叉操作,并將新生成的個體插入原有種群中,不刪除原個體.Step4對種群中的每個個體(包括Step3中新生成的個體)依次按照變異概率執(zhí)行3種變異操作,新產(chǎn)生的個體將代替原有個體在種群中的位置.Step5對于種群中適應(yīng)度值較大的一半個體執(zhí)行混沌細搜索,若得到的新個體的適應(yīng)度值小于原個體,則新個體將代替原個體在種群中的位置;否則仍使用原有個體.Step6對種群中的所有個體執(zhí)行錦標賽選擇,直到Size-1個個體被選出進入下一代種群,并且將上一代群體中的最優(yōu)個體作為精英保留到下一代種群中.Step7判斷是否滿足進化原則:當前進化代數(shù)t等于最大進化代數(shù)Glim或者當前代數(shù)t的最優(yōu)個體與t-1代的最優(yōu)個體之間的差距小于閾值?.若滿足則將最優(yōu)結(jié)果輸出;否則回到Step2.4基于最小二乘估計的參數(shù)辨識當?shù)玫揭唤M模糊神經(jīng)網(wǎng)絡(luò)模型的前件參數(shù)后,需要對后件參數(shù)進行辨識才能構(gòu)造一個完整的神經(jīng)網(wǎng)絡(luò).最小二乘法是最常用的估計方法,但由于使用最小二乘算法,不僅占用內(nèi)存量大,而且當遇到奇異矩陣或近似奇異矩陣時,該算法無法實現(xiàn)參數(shù)辨識.為了減少計算量,減少數(shù)據(jù)在計算機中所占的存儲量,并保證系統(tǒng)參數(shù)的可辨識性,本文采用遞推最小二乘算法來辨識后件參數(shù)Bj,設(shè)辨識過程如下:5混沌dna遺傳算法優(yōu)化的模糊遞歸神經(jīng)網(wǎng)絡(luò)模型pH中和過程通過反應(yīng)物(堿液或酸液)來對流入物(酸液或堿液)來進行中和.一個典型的pH中和過程機理模型及過程正常操作參數(shù)見文獻.此過程模型中,堿液q3為控制量來控制pH輸出值.定義堿液q3為被控對象輸入u,pH輸出值pH4為被控對象輸出y.隨機產(chǎn)生500組數(shù)據(jù)(q3及相應(yīng)的pH4)作為T-S模糊神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和測試數(shù)據(jù).其中300組用于模糊遞歸神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,200組用于所建模型的測試.設(shè)混沌DNA遺傳算法的參數(shù)為:最大進化代數(shù)Glim=200,種群數(shù)size=30,每個參數(shù)的編碼長度l=10,交叉概率pc=0.6,變異概率pIA=0.5,pMM=0.5,pm=0.001,目標函數(shù)權(quán)重因子λ=0.8.經(jīng)混沌DNA遺傳算法優(yōu)化整定后,得到的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的前件部分中各輸入模糊集對應(yīng)的隸屬度函數(shù)如圖4所示.對應(yīng)的后件部分參數(shù)由遞推最小二乘法辨識得到:如果pH4(k)是A1,則如果pH4(k)是A2,則如果pH4(k)是A3,則如果pH4(k)是A4,則如果pH4(k)是A5,則因此,據(jù)式(1)～(3)可以得到本文所建立的T-S模糊遞歸神經(jīng)網(wǎng)絡(luò)模型的輸出.A1到A5為模型的5個輸入模糊集.其中:A1代表輸出液酸性最強,A2代表輸出液酸性較強,A3代表輸出液酸性中,A4代表輸出液酸性較弱,A5代表輸出液酸性最弱.為了測試建立模型的有效性,使用未參與訓(xùn)練的200組數(shù)據(jù)作為測試數(shù)據(jù)代入所建立的模型.建模誤差如圖5(a)所示.為了說明本文方法的有效性,將同樣的測試數(shù)據(jù)帶入基于遺傳算法得到的模型和模糊聚類法得到的模型,得到的建模誤差如圖5(b)和圖5(c)所示.這些不同建模方法的最大建模誤差和誤差平均值列于表1.由圖5及表1可見,基于同樣的測試數(shù)據(jù),采用混沌DNA遺傳算法優(yōu)化的模糊遞歸神經(jīng)網(wǎng)絡(luò)模型較好擬合