第四章自組織競(jìng)爭(zhēng)學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)模型

第四章自組織競(jìng)爭(zhēng)學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)模型第一頁(yè)，共七十三頁(yè)，編輯于2023年，星期五在生物神經(jīng)網(wǎng)絡(luò)中，存在著一種側(cè)抑制現(xiàn)象，即當(dāng)一個(gè)神經(jīng)細(xì)胞興奮后，會(huì)對(duì)其周?chē)钠渌窠?jīng)細(xì)胞產(chǎn)生抑制作用。這種抑制使神經(jīng)細(xì)胞之間出現(xiàn)競(jìng)爭(zhēng)，“強(qiáng)者”越“強(qiáng)”，“弱者”越“弱”，最終形成一個(gè)強(qiáng)興奮的中心細(xì)胞，而在其周?chē)纳窠?jīng)細(xì)胞都處于抑制狀態(tài)。利用這種競(jìng)爭(zhēng)性的無(wú)導(dǎo)師學(xué)習(xí)策略，學(xué)習(xí)時(shí)只需輸入訓(xùn)練模式，網(wǎng)絡(luò)就會(huì)對(duì)輸入模式進(jìn)行自組織，達(dá)到識(shí)別和分類(lèi)的目的。第二頁(yè)，共七十三頁(yè)，編輯于2023年，星期五具有這種性質(zhì)的網(wǎng)絡(luò)有：自組織特征映射SOM對(duì)傳神經(jīng)網(wǎng)絡(luò)CPN自適應(yīng)共振模型ART認(rèn)知機(jī)模型等。第三頁(yè)，共七十三頁(yè)，編輯于2023年，星期五第一節(jié)自組織特征映射第四頁(yè)，共七十三頁(yè)，編輯于2023年，星期五自組織特征映射SOM是由芬蘭的Kohonen教授于1981年提出的一種神經(jīng)網(wǎng)絡(luò)模型，它的原理是基于生物神經(jīng)細(xì)胞的如下二種功能:1.實(shí)際的神經(jīng)細(xì)胞中有一種特征敏感細(xì)胞，在外界信號(hào)的刺激下，通過(guò)自學(xué)習(xí)形成對(duì)某一種特征特別敏感的神經(jīng)元。2.生物神經(jīng)細(xì)胞在外界的刺激下，會(huì)自動(dòng)聚集而形成一種功能柱，一個(gè)功能柱的細(xì)胞完成同一種功能。

第五頁(yè)，共七十三頁(yè)，編輯于2023年，星期五4.1.1自組織特征映射的結(jié)構(gòu)和

工作原理第六頁(yè)，共七十三頁(yè)，編輯于2023年，星期五自組織特征映射的基本結(jié)構(gòu)分成輸入和輸出（競(jìng)爭(zhēng)）兩層，如圖4.1所示。輸入層神經(jīng)元與輸出層神經(jīng)元為全互連方式，且輸出層中的神經(jīng)元按二維形式排列，它們中的每個(gè)神經(jīng)元代表了一種輸入樣本。第七頁(yè)，共七十三頁(yè)，編輯于2023年，星期五圖4.1SOM的基本構(gòu)造第八頁(yè)，共七十三頁(yè)，編輯于2023年，星期五所有輸入節(jié)點(diǎn)到所有輸出節(jié)點(diǎn)之間都有權(quán)值連接，而且在二維平面上的輸出節(jié)點(diǎn)相互間也可能是局部連接的。而對(duì)改變節(jié)點(diǎn)競(jìng)爭(zhēng)結(jié)果起決定作用的還是輸入層的加權(quán)和，所以在判斷競(jìng)爭(zhēng)網(wǎng)絡(luò)節(jié)點(diǎn)勝負(fù)的結(jié)果時(shí)，可忽略競(jìng)爭(zhēng)層節(jié)點(diǎn)之間的權(quán)值連接。第九頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

在興奮中心神經(jīng)元C周?chē)鶱c區(qū)域內(nèi)的神經(jīng)元都有不同程度的興奮，而在Nc以外的神經(jīng)元都被迫處于抑制狀態(tài)。這個(gè)Nc區(qū)域可以具有正方形、六角形等形狀，如圖4.2所示。第十頁(yè)，共七十三頁(yè)，編輯于2023年，星期五圖4.2Nc(t)隨時(shí)間變化及形狀第十一頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

設(shè)輸入信號(hào)模式為,輸出神經(jīng)元i與輸入神經(jīng)元連接的權(quán)值為則輸出神經(jīng)元i

的輸出為（4.1）但是只有滿(mǎn)足最大輸出條件的神經(jīng)元才產(chǎn)生輸出，即（4.2）第十二頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

對(duì)于輸出神經(jīng)元k以及其周?chē)?個(gè)相鄰的神經(jīng)元仍可按Hebb法則進(jìn)行自適應(yīng)權(quán)調(diào)整，即有（4.3）式中為學(xué)習(xí)系數(shù)，分母是分子的歐幾里德距離，此時(shí)的權(quán)值被正則化。第十三頁(yè)，共七十三頁(yè)，編輯于2023年，星期五自組織的過(guò)程就是通過(guò)學(xué)習(xí)，逐步把權(quán)向量旋轉(zhuǎn)到一個(gè)合適的方向上，即權(quán)值的調(diào)整方向總是與X的方向一致(無(wú)須決策和導(dǎo)師)，使正比于。其數(shù)學(xué)表示為（4.3）式中X為輸出神經(jīng)元的輸入向量，Xb為輸出神經(jīng)元的閾值向量，O為輸出神經(jīng)元的輸出向量，為學(xué)習(xí)系數(shù)。第十四頁(yè)，共七十三頁(yè)，編輯于2023年，星期五正則化后有或者（4.4）（4.5）（4.6）由此可得SOM模型的權(quán)值修正規(guī)則為第十五頁(yè)，共七十三頁(yè)，編輯于2023年，星期五上述介紹中的學(xué)習(xí)規(guī)則都是使用了最大輸出的學(xué)習(xí)規(guī)則。但是事實(shí)上有兩種學(xué)習(xí)規(guī)則。第十六頁(yè)，共七十三頁(yè)，編輯于2023年，星期五最大輸出規(guī)則：

最小歐氏距離規(guī)則：

（4.7）（4.8）第十七頁(yè)，共七十三頁(yè)，編輯于2023年，星期五4.1.2SOM的算法第十八頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

SOM算法有三個(gè)關(guān)鍵點(diǎn)：對(duì)于給定的輸入模式，確定競(jìng)爭(zhēng)層上的獲勝單元。按照學(xué)習(xí)規(guī)則修正獲勝單元及其臨域單元的連接權(quán)值。逐步減小臨域及學(xué)習(xí)過(guò)程中權(quán)值的變化量。第十九頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

具體步驟（共6步）為：1.隨機(jī)選取一組輸入層神經(jīng)元到輸出層神經(jīng)元之間的權(quán)值；2.選取輸出神經(jīng)元i

的鄰接神經(jīng)元集合Si，如圖4.3所示。Si(0)是初始時(shí)刻為0時(shí)的神經(jīng)元集合形狀，Si(t)為t時(shí)刻的神經(jīng)元集合形狀；3.輸入一個(gè)新樣本；第二十頁(yè)，共七十三頁(yè)，編輯于2023年，星期五圖4.3不同時(shí)刻t時(shí)的Si(t)的形狀變化第二十一頁(yè)，共七十三頁(yè)，編輯于2023年，星期五4.計(jì)算輸入樣本與每個(gè)輸出神經(jīng)元i

之間的歐幾里德距離，并選取一個(gè)有最小距離的輸出神經(jīng)元i*；

5.按照下式修改輸出神經(jīng)元i*及其相鄰神經(jīng)元的連接權(quán)值，即

式中為學(xué)習(xí)系數(shù)，且隨時(shí)間逐漸變?yōu)榱悖?.重復(fù)3－5的學(xué)習(xí)過(guò)程。（4.9）（4.10）第二十二頁(yè)，共七十三頁(yè)，編輯于2023年，星期五在這個(gè)算法中，是根據(jù)最小歐幾里德距離來(lái)選擇神經(jīng)元i*

的。實(shí)際應(yīng)用中也可以改成以最大響應(yīng)輸出作為選擇的依據(jù)，例如選用(4.2)式。（4.2）第二十三頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

在學(xué)習(xí)過(guò)程中，學(xué)習(xí)系數(shù)及鄰接集合Si(t)

的大小是逐漸變小的。的初值可以較大，隨著學(xué)習(xí)時(shí)間的增長(zhǎng)而減小，常用的計(jì)算式為（4.11）t表示當(dāng)前迭代次數(shù)，T為整個(gè)迭代的設(shè)定次數(shù)。

第二十四頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

鄰接集合的大小也隨學(xué)習(xí)過(guò)程的迭代而減小，設(shè)開(kāi)始的領(lǐng)域?qū)挾葹镾i(0)

，隨迭代次數(shù)減小的計(jì)算方法為（4.12）第二十五頁(yè)，共七十三頁(yè)，編輯于2023年，星期五4.1.3SOM網(wǎng)絡(luò)的應(yīng)用第二十六頁(yè)，共七十三頁(yè)，編輯于2023年，星期五例1：設(shè)一維的SOM分類(lèi)網(wǎng)絡(luò)如圖4.6所示，通過(guò)學(xué)習(xí)可將下列輸入模式集合分成A和B兩類(lèi)。設(shè)輸入模式為：P1=101，P2=100，P3=010，P4=011。圖4.4一維SOM網(wǎng)絡(luò)

第二十七頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

對(duì)于這四個(gè)輸入模式，我們先求出它們之間的歐幾里德距離，得到如下的一個(gè)距離關(guān)系矩陣D其中dij代表第i個(gè)模式與第j個(gè)模式之間的距離，（i，j＝1，2，3，4）。第二十八頁(yè)，共七十三頁(yè)，編輯于2023年，星期五顯然

d11=d22=d33=d44=0，d12=d21=d34=d43=1，d13=d31=d24=d42=3，d14=d41=d23=d32=2，因此有第二十九頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

定義兩個(gè)模式屬于同一類(lèi)是指它們的距離，此時(shí)P1和P2屬于A類(lèi)，而P3和P4屬于B類(lèi)，A和B之間的距離為2或3。把這四類(lèi)模式輸入一維SOM網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)后，最終可以得到正確的模式分類(lèi)。第三十頁(yè)，共七十三頁(yè)，編輯于2023年，星期五其中所有的輸入二進(jìn)制向量均位于三維立方體的頂點(diǎn)，競(jìng)爭(zhēng)層單元A的權(quán)向量WA最接近于A類(lèi)的(101)和(100)兩個(gè)模式；競(jìng)爭(zhēng)層單元B的權(quán)向量WB最接近于B類(lèi)的(011)和(010)的兩類(lèi)模式。各模式之間的距離從圖中可以明顯看出。

圖4.5權(quán)向量模式的空間分布第三十一頁(yè)，共七十三頁(yè)，編輯于2023年，星期五例2：聲音信號(hào)的識(shí)別

Kohonen利用SOM網(wǎng)絡(luò)的自組織功能實(shí)現(xiàn)了芬蘭語(yǔ)音素的分類(lèi)，并研制成功一臺(tái)可以聽(tīng)寫(xiě)的打字機(jī)。

第三十二頁(yè)，共七十三頁(yè)，編輯于2023年，星期五網(wǎng)絡(luò)的競(jìng)爭(zhēng)層是8×12的二維陣列結(jié)構(gòu)，輸入層的神經(jīng)元數(shù)為15個(gè)。聲音信號(hào)的預(yù)處理方法是先用低通濾波器去掉高頻噪聲，經(jīng)前置放大后，由12bit的A/D轉(zhuǎn)換器進(jìn)行采樣，采樣頻率為13.02kHz。然后用離散傅立葉變換(DFT)求其頻譜，經(jīng)過(guò)對(duì)數(shù)化和歸一化得到15個(gè)實(shí)數(shù)的頻譜值作為網(wǎng)絡(luò)的輸入。每個(gè)音素的學(xué)習(xí)樣本為50個(gè)，學(xué)習(xí)結(jié)果表明絕大多數(shù)輸出神經(jīng)元有唯一的正確結(jié)果，只有個(gè)別神經(jīng)元代表了兩種樣本。

第三十三頁(yè)，共七十三頁(yè)，編輯于2023年，星期五此后由PC機(jī)硬件電路把音素組合成單詞和句子，整個(gè)系統(tǒng)再與打字機(jī)連接構(gòu)成一個(gè)聽(tīng)寫(xiě)系統(tǒng)。當(dāng)發(fā)言者發(fā)出聲音后，打字機(jī)可直接輸出文字。

第三十四頁(yè)，共七十三頁(yè)，編輯于2023年，星期五第二節(jié)對(duì)傳神經(jīng)網(wǎng)絡(luò)模型第三十五頁(yè)，共七十三頁(yè)，編輯于2023年，星期五對(duì)傳神經(jīng)網(wǎng)絡(luò)CPN

是由美國(guó)HNC神經(jīng)計(jì)算機(jī)公司的創(chuàng)立者Hecht－Nielscn提出的。它組合了Kohonen和Grossberg的神經(jīng)網(wǎng)絡(luò)模型的工作原理，在功能上可用于統(tǒng)計(jì)最優(yōu)化和概率密度分析，也可用于聯(lián)想存儲(chǔ)、模式分類(lèi)、函數(shù)逼近和數(shù)據(jù)壓縮等。第三十六頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

從形式上看，CPN是一個(gè)多層的向前網(wǎng)絡(luò)，有三層式的標(biāo)準(zhǔn)結(jié)構(gòu)，各層之間采用全連接形式。它在形式上雖與BP網(wǎng)絡(luò)類(lèi)似，但工作機(jī)理不同。圖4.6CPN的模式結(jié)構(gòu)

Kohonen層，它包含有競(jìng)爭(zhēng)神經(jīng)元，采用無(wú)導(dǎo)師的競(jìng)爭(zhēng)學(xué)習(xí)算法

采用有導(dǎo)師的學(xué)習(xí)算法第三十七頁(yè)，共七十三頁(yè)，編輯于2023年，星期五CPN學(xué)習(xí)法則：1)在競(jìng)爭(zhēng)層（Kohonen層），通過(guò)競(jìng)爭(zhēng)對(duì)獲勝節(jié)點(diǎn)采用Kohonen規(guī)則調(diào)整與其相連的權(quán)矢量：

dW1=lr1*(P-W1)2)在Grossberg層，對(duì)與在競(jìng)爭(zhēng)層輸出為1的輸入相連的權(quán)值進(jìn)行如下的調(diào)整：

dW2=lr2*(G-W2)

其中，P是輸入矢量，G是目標(biāo)矢量，W1是輸入層到競(jìng)爭(zhēng)層之間的連接權(quán)值，W2是競(jìng)爭(zhēng)層到Grossberg層之間的連接權(quán)值，lr1和lr2分別是競(jìng)爭(zhēng)層和Grossberg層的學(xué)習(xí)系數(shù)。第三十八頁(yè)，共七十三頁(yè)，編輯于2023年，星期五CPN訓(xùn)練過(guò)程：1)初始化：

歸一化處理輸入、目標(biāo)矢量P和G；對(duì)權(quán)矢量W1和W2進(jìn)行歸一化隨機(jī)取值；選取最大循環(huán)次數(shù)、學(xué)習(xí)速率lr1和lr2。2)Kohonen層的無(wú)導(dǎo)師訓(xùn)練過(guò)程：

重復(fù)對(duì)輸入樣本進(jìn)行競(jìng)爭(zhēng)計(jì)算，對(duì)獲勝的Kohonen層獲勝節(jié)點(diǎn)按Kohonen法對(duì)其連接的權(quán)矢量進(jìn)行修正；3)Grossberg層有指導(dǎo)的訓(xùn)練過(guò)程：

尋找Grossberg層輸入為1的節(jié)點(diǎn)，并對(duì)與該節(jié)點(diǎn)相連的權(quán)矢量進(jìn)行修正；4)檢查最大循環(huán)數(shù)是否達(dá)到；

是，則停止訓(xùn)練。否，則轉(zhuǎn)入2)。第三十九頁(yè)，共七十三頁(yè)，編輯于2023年，星期五經(jīng)過(guò)充分訓(xùn)練后的CPN可使其Kohonen層的權(quán)矢量收斂到相似輸入矢量的平均值，而使Grossberg層權(quán)向量收斂到目標(biāo)矢量的平均值。第四十頁(yè)，共七十三頁(yè)，編輯于2023年，星期五當(dāng)CPN訓(xùn)練后工作時(shí)，只要對(duì)網(wǎng)絡(luò)輸入一矢量X，則在Kohonen層經(jīng)過(guò)競(jìng)爭(zhēng)后產(chǎn)生獲勝節(jié)點(diǎn)，并在Grossberg層使獲勝節(jié)點(diǎn)所產(chǎn)生的信息向前傳送，在輸出端得到輸出矢量Y，這種由矢量X得到矢量Y的過(guò)程有時(shí)也稱(chēng)為異聯(lián)想，更廣泛地說(shuō)，它實(shí)現(xiàn)了一種計(jì)算過(guò)程。第四十一頁(yè)，共七十三頁(yè)，編輯于2023年，星期五對(duì)傳神經(jīng)網(wǎng)絡(luò)CPN最突出的優(yōu)點(diǎn)是將監(jiān)督式和無(wú)監(jiān)督式的訓(xùn)練方法有機(jī)的結(jié)合起來(lái)了，從而提高了訓(xùn)練速度。第四十二頁(yè)，共七十三頁(yè)，編輯于2023年，星期五第三節(jié)自適應(yīng)共振理論ART第四十三頁(yè)，共七十三頁(yè)，編輯于2023年，星期五自適應(yīng)共振理論ART是由美國(guó)波士頓大學(xué)的S.Grossberg和A.Carpentet于1976年提出的一個(gè)神經(jīng)網(wǎng)絡(luò)模型。ART模型是一種能自組織產(chǎn)生認(rèn)知編碼的神經(jīng)網(wǎng)絡(luò)，它可以用來(lái)分析語(yǔ)音編碼、字符識(shí)別的視覺(jué)和嗅覺(jué)編碼等問(wèn)題。第四十四頁(yè)，共七十三頁(yè)，編輯于2023年，星期五ART模型的主要特點(diǎn)是：對(duì)輸入可進(jìn)行實(shí)時(shí)學(xué)習(xí)，且適應(yīng)非平穩(wěn)的環(huán)境；通過(guò)注意子系統(tǒng)，對(duì)已學(xué)習(xí)過(guò)的樣本具有快速穩(wěn)定的能力；通過(guò)定位子系統(tǒng)能迅速適應(yīng)未學(xué)習(xí)的新對(duì)象；具有自歸一能力，根據(jù)某些特征在全體中所占的比例，有時(shí)作為關(guān)鍵特征，有時(shí)則作為噪聲處理；不需要事先知道樣本的學(xué)習(xí)結(jié)果，具有無(wú)導(dǎo)師的學(xué)習(xí)方式；容量不受輸入通道數(shù)的限制，不要求存儲(chǔ)對(duì)象是正交的。第四十五頁(yè)，共七十三頁(yè)，編輯于2023年，星期五

ART模型有

ART1、ART2

和

ART3三種。ART1用于處理二進(jìn)制輸入的信息；ART2用于處理二進(jìn)制和模擬信息這兩種輸人；ART3用于進(jìn)行分級(jí)搜索。ART理論可以用于語(yǔ)音、視覺(jué)、嗅覺(jué)和字符識(shí)別等領(lǐng)域。第四十六頁(yè)，共七十三頁(yè)，編輯于2023年，星期五圖4.7ART的基本結(jié)構(gòu)輸出層（類(lèi)似于競(jìng)爭(zhēng)層）輸入層反饋第四十七頁(yè)，共七十三頁(yè)，編輯于2023年，星期五F1層有3個(gè)輸入向量：輸入觀察向量X，F(xiàn)2層的預(yù)期向量Z，增益控制神經(jīng)元G1。要使F1產(chǎn)生輸出信號(hào)，它的3個(gè)信號(hào)中一定要有2個(gè)起作用，這就是所謂的

2/3規(guī)則。

圖4.8ART模型F1和F2是短期記憶層STM，F(xiàn)1和F2之間是長(zhǎng)期記憶層LTM。

第四十八頁(yè)，共七十三頁(yè)，編輯于2023年，星期五注意子系統(tǒng)：完成由底向上向量的競(jìng)爭(zhēng)選擇以及完成由底向上向量和由頂向下向量的相似度比較。

作用是對(duì)熟悉事件進(jìn)行處理。

定位子系統(tǒng)：檢查預(yù)期向量Z和觀察向量X的相似程度。當(dāng)相似度低于某一標(biāo)準(zhǔn)時(shí)，取消第一個(gè)競(jìng)爭(zhēng)優(yōu)勝者，然后從其它類(lèi)別中選取優(yōu)勝者。

作用是對(duì)不熟悉事件產(chǎn)生響應(yīng)。第四十九頁(yè)，共七十三頁(yè)，編輯于2023年，星期五下面分4種情況來(lái)講述

2/3規(guī)則第五十頁(yè)，共七十三頁(yè)，編輯于2023年，星期五1．自上而下的單輸入情況

F1從三個(gè)輸入信號(hào)源中，只接收來(lái)自F2的自上而下的引發(fā)模式。故而，F(xiàn)1中的三個(gè)輸入信號(hào)源中，并沒(méi)有二個(gè)輸入信號(hào)源起作用；而只有一個(gè)輸入信號(hào)源即來(lái)自F2的自上而下的引發(fā)模式。所以F1中的神經(jīng)元不會(huì)被激活，F(xiàn)1的神經(jīng)元不會(huì)產(chǎn)生信號(hào)輸出。圖4.9(a)2/3規(guī)則第五十一頁(yè)，共七十三頁(yè)，編輯于2023年，星期五2．自下而上的二輸入情況

這時(shí)，在F1的三個(gè)輸入信號(hào)源中，有輸入信號(hào)I進(jìn)行輸入。并且有I通過(guò)增益控制后所產(chǎn)生的對(duì)F1的輸入；由于這兩個(gè)輸入信號(hào)起作用，故而F1中的神經(jīng)元被激活，F(xiàn)1能產(chǎn)生信號(hào)輸出。圖4.9(b)2/3規(guī)則第五十二頁(yè)，共七十三頁(yè)，編輯于2023年，星期五3．自下而上輸入及自上而下引發(fā)模式輸入的情況

這個(gè)過(guò)程也就是輸入模式I和來(lái)自F2的自上而下的引發(fā)模式匹配過(guò)程。在這時(shí)，F(xiàn)2的輸出信號(hào)會(huì)加到增益控制中對(duì)其中的輸入信號(hào)I產(chǎn)生抑制作用，所以，增益控制不會(huì)產(chǎn)生信號(hào)送去Fl。在F1中，同時(shí)接收到自下而上輸人信號(hào)以及自上而下的F2輸出信號(hào)的神經(jīng)元才會(huì)被激話(huà)；而只接收到其中一個(gè)信號(hào)的神經(jīng)元?jiǎng)t不會(huì)被激活。圖4.9(c)2/3規(guī)則第五十三頁(yè)，共七十三頁(yè)，編輯于2023年，星期五4．模態(tài)競(jìng)爭(zhēng)情況

當(dāng)注意子系統(tǒng)從一個(gè)模態(tài)向另一個(gè)模態(tài)轉(zhuǎn)移時(shí)，在這個(gè)轉(zhuǎn)移的瞬間中會(huì)禁止F1被激活；因?yàn)?，這種是一個(gè)過(guò)渡過(guò)程，它不反映模式的實(shí)質(zhì)內(nèi)容。所以Fl不能被激活。圖4.9(d)2/3規(guī)則第五十四頁(yè)，共七十三頁(yè)，編輯于2023年，星期五ART

網(wǎng)絡(luò)的學(xué)習(xí)分類(lèi)分為三步，即識(shí)別，比較和搜索。第五十五頁(yè)，共七十三頁(yè)，編輯于2023年，星期五（1）識(shí)別

初始化時(shí)，網(wǎng)絡(luò)無(wú)輸人信號(hào)，故I全部元素為0；識(shí)別層F2增益控制輸出為0；識(shí)別層F2輸出全部為0。在有模式I輸入后，I必有元素為1，故F1增益控制、F2增益控制均輸出1；比較層F1按2/3規(guī)則全部復(fù)制I作為輸出；接著在識(shí)別層F2中求出最優(yōu)匹配神經(jīng)元C。

第五十六頁(yè)，共七十三頁(yè)，編輯于2023年，星期五（2）比較

如果I與U不匹配，則產(chǎn)生的S只有少數(shù)元素為1，這也說(shuō)明模式U不是所要尋找的I模式。定位子系統(tǒng)對(duì)I和S的相符程度進(jìn)行判別，如果低于結(jié)定的警戒值，則發(fā)出重置信號(hào)，使識(shí)別層F2激活的神經(jīng)元清零；這也說(shuō)明該神經(jīng)元失去競(jìng)爭(zhēng)的資格。則到此這個(gè)階段分類(lèi)比較過(guò)程結(jié)束。如果I與U匹配，則輸入模式I所屬的類(lèi)別已找到，分類(lèi)結(jié)束。第五十七頁(yè)，共七十三頁(yè)，編輯于2023年，星期五（3）搜索

在I與U不匹配時(shí)，為了找到較好的匹配必須對(duì)其余的模式進(jìn)行搜索。重置信號(hào)把識(shí)別層F2的神經(jīng)元全部清0，則F1增益控制又輸出1，網(wǎng)絡(luò)返回到初始狀態(tài)。輸入模式I再進(jìn)行輸入，識(shí)別層的另一個(gè)神經(jīng)元會(huì)取得優(yōu)勝，則反饋一個(gè)新的存儲(chǔ)模式U送回比較層F1。接著又進(jìn)行匹配比較，如不匹配，則又重置識(shí)別層……不斷執(zhí)行下去。第五十八頁(yè)，共七十三頁(yè)，編輯于2023年，星期五這種算法學(xué)習(xí)速度快，邊學(xué)習(xí)邊運(yùn)行。輸出節(jié)點(diǎn)中，每次最多只有一個(gè)為1，每個(gè)節(jié)點(diǎn)被看成代表一類(lèi)樣本。ART1模型的輸入是二進(jìn)制數(shù)，ART2模型的輸入可以為任意的模擬向量。ART2的基本結(jié)構(gòu)類(lèi)似于ART1，其中把F1稱(chēng)為“特征表示場(chǎng)”，F(xiàn)2“類(lèi)別表示場(chǎng)”。F2層的功能是選擇競(jìng)爭(zhēng)優(yōu)勝者，與ART2中的相同，而F1與ART1中的不同，它有上、中、下三層結(jié)構(gòu)，是整個(gè)模型的核心部分。第五十九頁(yè)，共七十三頁(yè)，編輯于2023年，星期五第四節(jié)認(rèn)知機(jī)模型第六十頁(yè)，共七十三頁(yè)，編輯于2023年，星期五認(rèn)知機(jī)和神經(jīng)認(rèn)知機(jī)是日本學(xué)者福島邦彥提出的一種用于模式識(shí)別的視覺(jué)神經(jīng)網(wǎng)絡(luò)模型。它對(duì)于輸入樣本的位移、變形、縮小、擴(kuò)大和噪聲干擾都具有較強(qiáng)的適應(yīng)能力。網(wǎng)絡(luò)是由多層結(jié)構(gòu)相同的神經(jīng)元模塊和輸入層構(gòu)成的，學(xué)習(xí)時(shí)采用自組織競(jìng)爭(zhēng)算法。它的各層之間沒(méi)有大量的互連，連接是稀疏的和局部的，每層處理單元僅接受前層處理單元中有限的局部子集。

第六十一頁(yè)，共七十三頁(yè)，編輯于2023年，星期五4.4.1神經(jīng)認(rèn)知機(jī)的結(jié)構(gòu)

第六十二頁(yè)，共七十三頁(yè)，編輯于2023年，星期五認(rèn)知機(jī)每層由兩個(gè)部分組成：簡(jiǎn)單單元平面和復(fù)雜單元平面

圖4.10神經(jīng)認(rèn)知機(jī)的層結(jié)構(gòu)第六十三頁(yè)，共七十三頁(yè)，編輯于2023年，星期五在一個(gè)給定的簡(jiǎn)單平面中，其所有單元對(duì)同一個(gè)模式產(chǎn)生響應(yīng)，如圖4.15所示。圖4.11神經(jīng)認(rèn)知機(jī)的連接第六十四頁(yè)，共七十三頁(yè)，編輯于2023