復(fù)雜非線性系統(tǒng)中的混沌第四章

1、 第四章第四章 高維非線性系統(tǒng)中的混沌高維非線性系統(tǒng)中的混沌高維非線性系統(tǒng)中的混沌高維非線性系統(tǒng)中的混沌n4.1神經(jīng)元網(wǎng)絡(luò)中的混沌n4.2對(duì)稱廣義Lorenz奇怪吸引子n4.3對(duì)稱廣義Rssler奇怪吸引子4.1.1 神經(jīng)元網(wǎng)絡(luò)理論的產(chǎn)生與發(fā)展n人工神經(jīng)元網(wǎng)絡(luò)成為非線性科學(xué)研究的重要內(nèi)容 n神經(jīng)科學(xué)的研究早在1943年就開始了 n對(duì)人工神經(jīng)元網(wǎng)絡(luò)的研究始于1962年由Rosenblatt提出的感知機(jī)模型 4.1.1 神經(jīng)元網(wǎng)絡(luò)理論的產(chǎn)生與發(fā)展n20世紀(jì)80年代，神經(jīng)元網(wǎng)絡(luò)研究復(fù)興 n神經(jīng)元的聯(lián)結(jié)模型、并行和分布式處理似乎是計(jì)算機(jī)進(jìn)一步全新發(fā)展的唯一途徑n隨著億次級(jí)超級(jí)計(jì)算機(jī)的出現(xiàn)，使得神經(jīng)元網(wǎng)

2、絡(luò)理論的研究有了突破性進(jìn)展 n神經(jīng)元網(wǎng)絡(luò)已在一些方面表現(xiàn)了潛在能力 4.1.2 混沌神經(jīng)元網(wǎng)絡(luò)研究概況n1986年，人們發(fā)現(xiàn)了腦中存在著混沌現(xiàn)象 n20世紀(jì)90年代，人們開始了對(duì)神經(jīng)元網(wǎng)絡(luò)與混沌相互交融的研究，即研究大腦中的混沌現(xiàn)象4.1.2 混沌神經(jīng)元網(wǎng)絡(luò)研究概況混沌在人腦中到底起什么作用混沌在人腦中到底起什么作用:nBabloyantz等人認(rèn)為混沌可以提高腦的共振容量而對(duì)外界刺激產(chǎn)生非常豐富的響應(yīng)； nNicolis認(rèn)為混沌是自參考邏輯發(fā)生器； nAmit認(rèn)識(shí)到混沌不僅不會(huì)妨礙新模式的學(xué)習(xí)，而且若沒有混沌可能只加深以前學(xué)習(xí)過的模式而不去記憶新模式；nTauda證明一個(gè)由低維混沌動(dòng)力學(xué)組成的

3、混沌神經(jīng)元網(wǎng)絡(luò)具有很強(qiáng)的從外界有效傳遞信息的能力，特別是對(duì)隨時(shí)間變化的外部輸入信息。 4.1.2 混沌神經(jīng)元網(wǎng)絡(luò)研究概況 在混沌神經(jīng)元網(wǎng)絡(luò)的研究中，人們已經(jīng)試圖利用混沌在混沌神經(jīng)元網(wǎng)絡(luò)的研究中，人們已經(jīng)試圖利用混沌來實(shí)現(xiàn)某種功能來實(shí)現(xiàn)某種功能: nIkeguchi等人嘗試著用合原一幸等人提出的混沌神經(jīng)元網(wǎng)絡(luò)作聯(lián)想記憶;nParodi等人利用混沌的偽隨機(jī)行為產(chǎn)生對(duì)應(yīng)于確定性輸入模式的噪聲模式來實(shí)現(xiàn)信息編碼;nNara等人利用非對(duì)稱遞歸神經(jīng)元網(wǎng)絡(luò)的復(fù)雜動(dòng)力學(xué)進(jìn)行復(fù)雜模式的搜尋，證明這種基于活化狀態(tài)空間中復(fù)雜的混沌軌道的搜尋比隨機(jī)搜尋更有效，并且混沌軌道的動(dòng)態(tài)結(jié)構(gòu)對(duì)搜尋行為的有效性影響很大;nYos

4、hizawa對(duì)非單調(diào)激活特性的神經(jīng)元網(wǎng)絡(luò)的研究表明可以利用混沌來消除網(wǎng)絡(luò)的偽記憶態(tài)，當(dāng)網(wǎng)絡(luò)不能回憶起正確的記憶時(shí)，表現(xiàn)出一種混沌行為，而不會(huì)給出偽記憶結(jié)果 。 4.1.2 混沌神經(jīng)元網(wǎng)絡(luò)研究概況n關(guān)于神經(jīng)元網(wǎng)絡(luò)系統(tǒng)混沌產(chǎn)生的途經(jīng)，目前已經(jīng)發(fā)現(xiàn)了倍周期分岔、同宿、異宿軌道產(chǎn)生混沌，另外Rulle-Takens-Newhouse道路也是神經(jīng)元網(wǎng)絡(luò)產(chǎn)生混沌的通常途徑4.1.3 神經(jīng)元網(wǎng)絡(luò)的生理結(jié)構(gòu)n神經(jīng)元是組成神經(jīng)元網(wǎng)絡(luò)的基本單元。神經(jīng)元雖然具有多樣性和微細(xì)結(jié)構(gòu)，但從信息處理的角度來看，可以看作是最基本的信息處理單元，由胞體、軸突、樹突等部分組成，如圖4.1所示。 神經(jīng)元的結(jié)構(gòu)4.1.3 神經(jīng)元網(wǎng)絡(luò)

5、的生理結(jié)構(gòu)n神經(jīng)元網(wǎng)絡(luò)突出的特性是大規(guī)模的處理單元及其相互聯(lián)結(jié)，單元雖然簡(jiǎn)單，由于非線性，其集合行為可以十分復(fù)雜，并有并行和分布處理能力n 從動(dòng)力學(xué)觀點(diǎn)看，腦的神經(jīng)元網(wǎng)絡(luò)系統(tǒng)是由大量的形式神經(jīng)元聯(lián)結(jié)而成的高度錯(cuò)綜復(fù)雜的一個(gè)超高維非線性系統(tǒng)，網(wǎng)絡(luò)的主要功能，前向網(wǎng)的學(xué)習(xí)功能和反饋網(wǎng)的聯(lián)想記憶功能可由它的兩個(gè)動(dòng)力學(xué)子系統(tǒng)（狀態(tài)動(dòng)力學(xué)系統(tǒng)和權(quán)值動(dòng)力學(xué)子系統(tǒng)）實(shí)現(xiàn) n神經(jīng)元網(wǎng)絡(luò)的這些優(yōu)良功能由神經(jīng)元網(wǎng)絡(luò)動(dòng)力學(xué)演化來實(shí)現(xiàn)4.1.3 神經(jīng)元網(wǎng)絡(luò)的生理結(jié)構(gòu)n 人工神經(jīng)元網(wǎng)絡(luò)是以人腦的生理研究成果為基礎(chǔ)的，其目的在于模擬人腦的某些機(jī)理與機(jī)制，實(shí)現(xiàn)某些方面的功能n本節(jié)主要對(duì)具有混沌特征的三層反饋神經(jīng)元網(wǎng)絡(luò)模型進(jìn)

6、行了研究：即利用Lyapunov指數(shù)作判據(jù)，構(gòu)造神經(jīng)元網(wǎng)絡(luò)的奇怪吸引子，分析奇怪吸引子的運(yùn)動(dòng)特征并計(jì)算奇怪吸引子的關(guān)聯(lián)維數(shù)，并在此基礎(chǔ)上以謀求應(yīng)用4.1.4 三層反饋神經(jīng)元網(wǎng)絡(luò)模型4.1.4 三層反饋神經(jīng)元網(wǎng)絡(luò)模型n其中輸入層含有D個(gè)單元 ,隱含層含有N個(gè)單元的 ，輸出層含有D個(gè)單元 。隱含層的變換函數(shù)為雙曲線正切函數(shù) ，網(wǎng)絡(luò)的輸出是隱含層輸出的線性組合，即n 4.1n 4.2y yyD12, , ,x xxN12,zzzD12,tanhxxw yiijjjDtanh1iN12 , ,zsxjjiiiN1jD12 , ,4.1.4 三層反饋神經(jīng)元網(wǎng)絡(luò)模型 式(4.1)中的tanh由下式定義 4

7、.3 隨著網(wǎng)絡(luò)的每一次迭代，每一個(gè)輸出都反饋到它所對(duì)應(yīng)的輸入上，其數(shù)學(xué)表示為 4.4 tanh ueu 1 212yzjjjD12 , ,4.1.4 神經(jīng)元網(wǎng)絡(luò)的奇怪吸引子 該網(wǎng)絡(luò)可以輸出D個(gè)無窮長(zhǎng)的數(shù)值序列，由于 為此作者沒有采用 ，而采用 作為自變量的時(shí)間序列去構(gòu)造吸引子。 參數(shù)選取如下：選取N=4，令 和 分別表示橫縱坐標(biāo)， 表示高度(由圖中右下方的投影來表示)， 用來線性地映射一個(gè)16種顏色的調(diào)色板； 取初始狀態(tài) ， 取 和xi 11 ,zjxix1x2x3x4yj 0jD12 , ,xi 05 .iN12 , ,D 16s 05 .4.1.4 神經(jīng)元網(wǎng)絡(luò)的奇怪吸引子 嘗試將該網(wǎng)絡(luò)隱含

8、層的變換函數(shù)雙曲線正切函數(shù)tanh用其它函數(shù)如非對(duì)稱Logistic映射 4.5 來代替，按上述方法又構(gòu)造了奇怪吸引子。 圖4.3為具有代表性的一組結(jié)果。 L uuu4 14.1.4 神經(jīng)元網(wǎng)絡(luò)的奇怪吸引子(a) 隱含層的變換函數(shù)為式(8) (b) 隱含層的變換函數(shù)為式(8)4.1.4 神經(jīng)元網(wǎng)絡(luò)的奇怪吸引子(c) 隱含層的變換函數(shù)為式(8) (d) 隱含層的變換函數(shù)為式(8) 4.1.4 神經(jīng)元網(wǎng)絡(luò)的奇怪吸引子(e) 隱含層的變換函數(shù)為式(10)(f) 隱含層的變換函數(shù)為式(10) 4.1.4 神經(jīng)元網(wǎng)絡(luò)的奇怪吸引子(g) 隱含層的變換函數(shù)為式(10) (h) 隱含層的變換函數(shù)為式(10)4

9、.1.5 神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的定量分析n根據(jù)Wolf等人的方法，作者采用FORTRAN語言編寫了1的計(jì)算程序，在尋找替換點(diǎn)時(shí)引入了快速排序的方法，提高了運(yùn)算速度。 n為了驗(yàn)證程序的正確性，作者計(jì)算了Hnon映射的1 nHnon映射 4.6xaxyybxnnnnn12114.1.5 神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的定量分析 求出圖4.3中神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的1如表4.1所示表4.1 神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的最大Lyapunov指數(shù)14.1.5 神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的定量分析n表4.2 Hnon映射的關(guān)聯(lián)維數(shù)D24.1.5 神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的定量分析n圖4.4 Hnon映射的 曲線：1m=4；2m=5

10、。lnr lnC r4.1.5 神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的定量分析n 利用網(wǎng)絡(luò)迭代9萬次后所得吸引子橫坐標(biāo)的時(shí)間序列，選取2000個(gè)數(shù)據(jù)點(diǎn)，作者作出圖4.3中奇怪吸引子的 關(guān)系曲線如圖4.5所示，D2的計(jì)算結(jié)果見表4.3。 lnC rlnr神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的 關(guān)系曲線lnr ln C r表4.3 神經(jīng)元網(wǎng)絡(luò)奇怪吸引子的關(guān)聯(lián)維數(shù)D2 分維數(shù)的大小反映了具有分形結(jié)構(gòu)的神經(jīng)元網(wǎng)絡(luò)奇怪吸引子所占空間的程度：分維數(shù)的大小反映了具有分形結(jié)構(gòu)的神經(jīng)元網(wǎng)絡(luò)奇怪吸引子所占空間的程度：奇怪吸引子的維數(shù)越大，空間被它占有的部分越大，其結(jié)構(gòu)越致密，系統(tǒng)越復(fù)雜；奇怪吸引子的維數(shù)越大，空間被它占有的部分越大，其結(jié)構(gòu)越致密

11、，系統(tǒng)越復(fù)雜；反之，則結(jié)構(gòu)越稀疏，系統(tǒng)越簡(jiǎn)單。反之，則結(jié)構(gòu)越稀疏，系統(tǒng)越簡(jiǎn)單。4.1.6 結(jié)論n本節(jié)研究了具有混沌特性的人工神經(jīng)元網(wǎng)絡(luò)的動(dòng)力學(xué)行為，結(jié)果表明：不同于僅有梯度下降特性的常規(guī)神經(jīng)元網(wǎng)絡(luò)，具有混沌特性的神經(jīng)元網(wǎng)絡(luò)具有更加豐富的和遠(yuǎn)離平衡點(diǎn)的動(dòng)力學(xué)特性，同時(shí)存在各種吸引子，不僅有不動(dòng)點(diǎn)、極限環(huán)和環(huán)面，而且有奇怪吸引子 n由于神經(jīng)元網(wǎng)絡(luò)系統(tǒng)是一個(gè)超高維、強(qiáng)非線性動(dòng)力學(xué)系統(tǒng)，雖然取得了一些成果，但當(dāng)前其理論基礎(chǔ)和對(duì)其動(dòng)力學(xué)行為的認(rèn)識(shí)還很不夠，為了更好地發(fā)展神經(jīng)元網(wǎng)絡(luò)的理論和應(yīng)用，需要進(jìn)一步研究它的動(dòng)力學(xué)問題 4.2對(duì)稱廣義Lorenz奇怪吸引子nLorenz討論的強(qiáng)迫耗散系統(tǒng)是 4.7nL

12、orenz從數(shù)值上發(fā)現(xiàn)當(dāng)Rayleigh數(shù)超過一個(gè)臨界值 后，系統(tǒng)就出現(xiàn)混沌動(dòng)態(tài)dx dtxydy dtxzrxydz dtxybz r22474.4.2.1 結(jié)果與分析n 基于Lorenz方程給出其廣義形式如下dx dt a x a ydy dt a xz a x a ydz dt a xy a z1234567n利用下式將直角坐標(biāo)轉(zhuǎn)換成極坐標(biāo) n然后再按下式將極坐標(biāo)轉(zhuǎn)回直角坐標(biāo)， rxxxxf yyyyS Nsminmaxminminmaxmin2 xwryhrczzzzpp0 510 5114.sin.cosminmaxminn構(gòu)造方程4.8的奇怪吸引子A，方法是選擇一個(gè)合適的時(shí)間間隔，

13、n則由方程4.11可得非線性差分方程 xxa xayyya x za xa yzza x ya znnnnnnnnnnnnnnn1121345167xaxayyax zaxayzax yaznnnnnnnnnnnn1121345167111n 定理定理4.1 構(gòu)造方程4.8的奇怪吸引子A，通過式4.9和式4.10的坐標(biāo)變換，當(dāng)時(shí)，有fXfX eknknijNS2kjNS12 3011, , , ,n構(gòu)造廣義Lorenz方程的奇怪吸引子4.2.2 結(jié)論n得到關(guān)于混沌的下述結(jié)論：n (1)混沌是服從決定性方程（微分形式或離散形式）的動(dòng)力學(xué)系統(tǒng)的一種復(fù)雜的運(yùn)動(dòng)形態(tài)。誠(chéng)如1976年May所說：“簡(jiǎn)單的

14、動(dòng)力系統(tǒng)不一定導(dǎo)致簡(jiǎn)單的動(dòng)力性質(zhì)?！眓 (2)由于混沌是在反復(fù)分離和折疊下才得以形成，而分離和折疊又只有映象并非一一對(duì)應(yīng)（自然也就是不可逆的?。┘捶蔷€性時(shí)才可能，因此混沌只可能在非線性系統(tǒng)中出現(xiàn)。n (3)混沌的存在，不僅與系統(tǒng)的非線性特性（非線性方程的形式）有關(guān)，而且還與方程中的參數(shù)數(shù)值有關(guān)。如在Logistic映射中，當(dāng)時(shí)就不可能出現(xiàn)混沌。因此混沌的存在往往與非線性系統(tǒng)的分岔相聯(lián)系。n (4)由于排斥和折疊，在混沌中，系統(tǒng)的運(yùn)動(dòng)（如代表點(diǎn)的迭代過程）往往對(duì)初始條件非常敏感：初始條件的微小差別，要引起迭代過程的巨大差異。n可以看出，以上這些結(jié)論，對(duì)微分方程的混沌解也同樣成立。4.3對(duì)稱廣義R

15、ssler奇怪吸引子n Rssler方程是1976年Rssler在研究具有中間產(chǎn)物的化學(xué)反應(yīng)問題時(shí)，通過適當(dāng)?shù)臉?biāo)度變換，所給出的一個(gè)很簡(jiǎn)單的非線性常微分方程組。目前人們對(duì)Rssler方程所產(chǎn)生的混沌已作了充分的研究，從而豐富了混沌理論 。4.3.1 研究結(jié)果n基于Rssler方程作者給出其廣義形式如下dx dta ya zdy dta xa ydz dtaa xza z1234567 4.14由一階差分算法將廣義Rssler方程變?yōu)榉蔷€性差分方程4.3.1 研究結(jié)果n由方程4.15可得非線性差分方程xxa ya zyya xa yzzaa x za znnnnnnnnnnnnn11213415

16、67xxa ya zya xayzaa x zaznnnnnnnnn nn1121341567114.15 4.164.3.1 研究結(jié)果n 定理定理4.2 構(gòu)造方程4.14的奇怪吸引子A，通過上述坐標(biāo)變換，當(dāng) 時(shí)，有 定理4.2說明若 ，則 。可見奇怪吸引子具有旋轉(zhuǎn)對(duì)稱性的結(jié)構(gòu)。fXfX eknknijNS2kjNS123011, , , ,XAnXeAnijNS2w h:11構(gòu)造廣義Rssler方程的奇怪吸引子 n控制參數(shù) 、扇區(qū)總數(shù) 和嵌套因子 的選取aa17Nsfn 廣義Rssler方程奇怪吸引子的最大Lyapunov指數(shù)1 廣義Rssler奇怪吸引子的 關(guān)系曲線 lnCr lnCrln

17、r lnCrln rlnr 廣義Rssler奇怪吸引子的 關(guān)系曲線 lnCr lnCrlnr lnCrln rlnr 廣義Rssler奇怪吸引子的 關(guān)系曲線 lnCr lnCrlnr lnCrln rlnr 廣義Rssler奇怪吸引子的 關(guān)系曲線 lnCr lnCrlnr lnCrln rlnr 廣義Rssler奇怪吸引子的關(guān)聯(lián)維數(shù)D2n分維數(shù)的大小反映了具有分形結(jié)構(gòu)的廣義Rssler奇怪吸引子所占空間的程度：維數(shù)越大，空間被它占有的部分越大，其結(jié)構(gòu)越致密；反之，則結(jié)構(gòu)越稀疏。4.3.2 結(jié)論n(1)本節(jié)構(gòu)造了具有旋轉(zhuǎn)對(duì)稱性的廣義Rssler奇怪吸引子，并分析了奇怪吸引子的結(jié)構(gòu)特征。n (2)可以看出，既然離散映射與由微分方程決定的連續(xù)流具有一些共同規(guī)律，這就表明離散映射與微分方程之間具有內(nèi)在關(guān)系。 習(xí)題n1、是不是所有非線性微分方程都可以有混沌解？n2、形式上相似的差分方程和微分方程（如 和 ）的解和奇點(diǎn)（定態(tài)或不動(dòng)點(diǎn)）是否相似或相同？為什么？n3、建立周期脈沖下轉(zhuǎn)子滿足的微分方程模型，且把該方程化成二維映射。n4、第3題中的二維映射，在什么條件下可以化成帳篷映射，從而出現(xiàn)混沌運(yùn)動(dòng)？在什么條件下可以化成Hnon映射？n5、證明Lorenz方程組n存在吸引子。)(1nnxFx)(1nnxFxxyzzxzyxyyxx38281010n6、論述第5題中的Lorenz方程從原點(diǎn)出