kohonen神經(jīng)網(wǎng)絡(luò)課件

1、Kohonen神經(jīng)網(wǎng)絡(luò) 組長：陳永興 組員：李文采 劉嬌 陳爽第1頁2kohonen神經(jīng)網(wǎng)絡(luò)競爭學習kohonen神經(jīng)網(wǎng)絡(luò)背景kohonen神經(jīng)網(wǎng)絡(luò)概念與原理kohonen神經(jīng)網(wǎng)絡(luò)應(yīng)用第2頁3背景在生物神經(jīng)系統(tǒng)中，存在著一個側(cè)抑制現(xiàn)象，即一個神經(jīng)細胞興奮以后，會對周圍其它神經(jīng)細胞產(chǎn)生抑制作用。這種抑制作用會使神經(jīng)細胞之間出現(xiàn)競爭，其結(jié)果是一些獲勝，而另一些則失敗。表現(xiàn)形式是獲勝神經(jīng)細胞興奮，失敗神經(jīng)細胞抑制。kohonen神經(jīng)網(wǎng)絡(luò)就是模擬上述生物神經(jīng)系統(tǒng)功效人工神經(jīng)網(wǎng)絡(luò)。第3頁4kohonen神經(jīng)網(wǎng)絡(luò)是一個無監(jiān)督學習，含有自組織功效神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)經(jīng)過本身訓練，能自動對輸入模式進行分類。自組織競

2、爭型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及其學習規(guī)則與其它神經(jīng)網(wǎng)絡(luò)相比有自己特點。在網(wǎng)絡(luò)結(jié)構(gòu)上，它普通是由輸入層和競爭層組成兩層網(wǎng)絡(luò)。兩層之間各神經(jīng)元實現(xiàn)雙向連接，而且網(wǎng)絡(luò)沒有隱含層。有時競爭層各神經(jīng)元之間還存在橫向連接。第4頁5在學習算法上，它模擬生物神經(jīng)元之間興奮、協(xié)調(diào)與抑制、競爭作用信息處理動力學原理來指導(dǎo)網(wǎng)絡(luò)學習與工作，而不像大多數(shù)神經(jīng)網(wǎng)絡(luò)那樣是以網(wǎng)絡(luò)誤差或能量函數(shù)作為算法準則。競爭型神經(jīng)網(wǎng)絡(luò)組成基本思想是網(wǎng)絡(luò)競爭層各神經(jīng)元競爭對輸入模式響應(yīng)機會，最終僅有一個神經(jīng)元成為競爭勝者。這一獲勝神經(jīng)元則表示對輸入模式分類。第5頁6kohonen神經(jīng)網(wǎng)絡(luò)經(jīng)典結(jié)構(gòu)競爭層輸入層kohonen概念與原理第6頁7分類分類是在類

3、別知識等導(dǎo)師信號指導(dǎo)下，將待識別輸入模式分配到各自模式類中去。聚類無導(dǎo)師指導(dǎo)分類稱為聚類，聚類目標是將相同模式樣本劃歸一類，而將不相同分離開。競爭學習概念第7頁8 相同性度量歐式距離法兩個模式向量歐式距離越小，兩個向量越靠近，所以認為這兩個模式越相同，當兩個模式完全相同時其歐式距離為零。假如對同一類內(nèi)各個模式向量間歐式距離作出要求，不允許超出某一最大值T，則最大歐式距離T就成為一個聚類判據(jù)，同類模式向量距離小于T，兩類模式向量距離大于T。第8頁9 相同性測量余弦法兩個模式向量越靠近，其夾角越小，余弦越大。當兩個模式向量完全相同時，其余弦夾角為1。假如對同一類內(nèi)各個模式向量間夾角作出要求，不允許

4、超出某一最大夾角a，則最大夾角就成為一個聚類判據(jù)。同類模式向量夾角小于a，兩類模式向量夾角大于a。余弦法適合模式向量長度相同和模式特征只與向量方向相關(guān)相同性測量。第9頁101981年芬蘭Helsink大學T.Kohonen教授提出一個自組織特征映射網(wǎng)，簡稱SOM網(wǎng)，又稱Kohonen網(wǎng)。Kohonen認為：一個神經(jīng)網(wǎng)絡(luò)接收外界輸入模式時，將會分為不一樣對應(yīng)區(qū)域，各區(qū)域?qū)斎肽Ｊ胶胁灰粯禹憫?yīng)特征，而且這個過程是自動完成。自組織特征映射正是依據(jù)這一看法提出來，其特點與人腦自組織特征相類似。kohonen神經(jīng)網(wǎng)絡(luò)第10頁11(1)初始化 對輸出層各權(quán)向量賦小隨機數(shù)并進行歸一化處理，得到 ，j=1,

5、2,m；建立初始優(yōu)勝鄰域Nj*(0)；學習率 賦初始值。(2)接收輸入 從訓練集中隨機選取一個輸入模式并進行歸一化處理，得到 ，p1,2,P。(3)尋找獲勝節(jié)點 計算 與 點積，j=1,2,m，從中選出點積最大獲勝節(jié)點j*。Kohonen 學習算法（勝者全?。┑?1頁12(4)定義優(yōu)勝鄰域Nj*(t) 以j*為中心確定t 時刻權(quán)值調(diào)整域，普通初始鄰域Nj*(0)較大，訓練過程中Nj*(t)隨訓練時間逐步收縮。第12頁13(5)調(diào)整權(quán)值 對優(yōu)勝鄰域Nj*(t)內(nèi)全部節(jié)點調(diào)整權(quán)值： i=1,2,n jNj*(t) 式中， 是訓練時間t 和鄰域內(nèi)第j 個神經(jīng)元與獲勝經(jīng)元 j* 之間拓撲距離N 函數(shù)，該函數(shù)普通有以下規(guī)律：(6)輸出結(jié)果 獲勝節(jié)點為1，其它節(jié)點為0；第13頁14(7