自組織神經(jīng)網(wǎng)絡(luò).ppt

1、2.6 自組織神經(jīng)網(wǎng)絡(luò)模型與學(xué)習(xí)算法,概述,自組織神經(jīng)網(wǎng)絡(luò)，又稱為自組織競爭神經(jīng)網(wǎng)絡(luò),特別適合于解決模式分類和識別方面的應(yīng)用問題。 自組織神經(jīng)網(wǎng)絡(luò)屬于前向神經(jīng)網(wǎng)絡(luò)類型，采用無導(dǎo)師學(xué)習(xí)算法， 自組織特征映射神經(jīng)網(wǎng)絡(luò)不僅能夠像自組織競爭神經(jīng)網(wǎng)絡(luò)一樣學(xué)習(xí)輸入的分布情況，而且可以學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)。,概述,自組織競爭神經(jīng)網(wǎng)絡(luò)類型 自適應(yīng)共振理論(Adaptive Resonance Theory，ART)網(wǎng)絡(luò) 自組織特征映射(self-Organizing Map，SOM)網(wǎng)絡(luò) 對傳(Counter Propagation，CP)網(wǎng)絡(luò) 協(xié)同神經(jīng)網(wǎng)絡(luò)(Synergetic Neural Networ

2、kSNN),2.6.1 自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),由芬蘭學(xué)者Teuvo Kohonen于1981年提出 基本上為輸入層和映射層的雙層結(jié)構(gòu),映射層的神經(jīng)元互相連接，每個輸出神經(jīng)元連接至所有輸入神經(jīng)元,Im Teuvo Kohonen,2.6.1 自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),SOM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),2.6.1 自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),SOM神經(jīng)網(wǎng)絡(luò)平面示意圖,2.6.1 自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),SOM神經(jīng)網(wǎng)絡(luò)立體示意圖,2.6.2自組織特征映射網(wǎng)絡(luò)的學(xué)習(xí)算法,自組織特征映射學(xué)習(xí)算法原理 Kohonen自組織特征映射算法，能夠自動找出輸入數(shù)據(jù)之間的類似度，將相似的輸入在網(wǎng)絡(luò)上就近配置。因此是一

3、種可以構(gòu)成對輸入數(shù)據(jù)有選擇地給予響應(yīng)的網(wǎng)絡(luò)。 類似度準(zhǔn)則 歐氏距離,2.6.2自組織特征映射網(wǎng)絡(luò)的學(xué)習(xí)算法,自組織特征映射學(xué)習(xí)算法步驟 (1)網(wǎng)絡(luò)初始化 用隨機數(shù)設(shè)定輸入層和映射層之間權(quán)值的初始值 (2)輸入向量 把輸入向量輸入給輸入層 (3) 計算映射層的權(quán)值向量和輸入向量的距離 映射層的神經(jīng)元和輸入向量的距離，按下式給出,2.6.2自組織特征映射網(wǎng)絡(luò)的學(xué)習(xí)算法,自組織特征映射學(xué)習(xí)算法步驟 (4) 選擇與權(quán)值向量的距離最小的神經(jīng)元 計算并選擇使輸入向量和權(quán)值向量的距離最小的神經(jīng)元，把其稱為勝出神經(jīng)元并記為 ，并給出其鄰接神經(jīng)元集合。 (5)調(diào)整權(quán)值 勝出神經(jīng)元和位于其鄰接神經(jīng)元的權(quán)值，按下式

4、更新： (6)是否達(dá)到預(yù)先設(shè)定的要求如達(dá)到要求則算法結(jié)束，否則返回(2)，進(jìn)入下一輪學(xué)習(xí),2.6.2自組織特征映射網(wǎng)絡(luò)的學(xué)習(xí)算法,鄰域函數(shù) 由鄰域函數(shù)可以看到，以獲勝神經(jīng)元為中心設(shè)定了一個鄰域半徑，稱為勝出鄰域。學(xué)習(xí)初期，勝出神經(jīng)元和其附近的神經(jīng)元全部接近當(dāng)時的輸入向量，形成粗略的映射。 隨著學(xué)習(xí)的進(jìn)行而減小，勝出鄰域變窄，勝出神經(jīng)元附近的神經(jīng)元數(shù)變少。因此，學(xué)習(xí)方法是一種從粗調(diào)整向微調(diào)整變化，最終達(dá)到預(yù)定目標(biāo)的過程。,2.6.3 自組織網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn),MATLAB中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能,2.6.3 自組織網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn),MATLAB中自組織神經(jīng)網(wǎng)

5、絡(luò)的重要函數(shù)和基本功能 newsom() 功能 創(chuàng)建一個自組織特征映射網(wǎng)絡(luò)函數(shù) 格式 net = newsom(PR，D1，D2，.，TFCN，DFCN，OLR，OSTEPS，TLR，TND) 說明 net為生成的新BP神經(jīng)網(wǎng)絡(luò)；PR為網(wǎng)絡(luò)輸入矢量取值范圍的矩陣Pmin Pmax；D1，D2，.為神經(jīng)元在多維空間中排列時各維的個數(shù)；TFCN為拓?fù)浜瘮?shù)，缺省值為hextop；DFCN為距離函數(shù)，缺省值為linkdist；OLR為排列階段學(xué)習(xí)速率，缺省值為0.9；OSTEPS為排列階段學(xué)習(xí)次數(shù)，缺省值為1000；TLR為調(diào)整階段學(xué)習(xí)速率，缺省值為0.02，TND為調(diào)整階段領(lǐng)域半徑，缺省值為1。,2

6、.6.3 自組織網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn),plotsom() 功能 繪制自組織特征映射網(wǎng)絡(luò)圖的權(quán)值向量 函數(shù) 格式 (1) plotsom(pos) (2) plotsom(W，D，ND) 說明 式中pos是網(wǎng)絡(luò)中各神經(jīng)元在物理空間分布的位置坐標(biāo)矩陣；函數(shù)返回神經(jīng)元物理分布的拓?fù)鋱D，圖中每兩個間距小于1的神經(jīng)元以直線連接；W為神經(jīng)元權(quán)值矩陣；D為根據(jù)神經(jīng)元位置計算出的間接矩陣；ND為領(lǐng)域半徑，缺省值為1；函數(shù)返回神經(jīng)元權(quán)值的分布圖，圖中每兩個間距小于ND的神經(jīng)元以直線連接。,2.6.3 自組織網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn),yec2ind() 功能 將單值向量組變換成下標(biāo)向量 格式 in

7、d = vec2ind(vec) 說明 式中，vec為m行n列的向量矩陣x，x中的每個列向量i，除包含一個1外，其余元素均為0， ind為n個元素值為1所在的行下標(biāo)值構(gòu)成的一個行向量。,2.6.3 自組織網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn),例2-5 人口分類是人口統(tǒng)計中的一個重要指標(biāo)，現(xiàn)有1999共10個地區(qū)的人口出生比例情況如下： 出生男性百分比分別為：0.5512 0.51230.50870.50010.60120.52980.50000.49650.51030.5003; 出生女性百分比分別為：0.4488 0.48770.49130.49990.39880.47020.50000.50350.48970.4997,2.6.3 自組織網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn),例2-5源程序,例2-5 SOM網(wǎng)絡(luò)權(quán)值分布圖,