我的人工神經(jīng)網(wǎng)絡(luò)-3 多級神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

上次課內(nèi)容回顧生物神經(jīng)網(wǎng)六個基本特征神經(jīng)元及其聯(lián)接、信號傳遞、學(xué)習(xí)、刺激與抑制、累積效果、“閾值”。人工神經(jīng)元的基本構(gòu)成xnwn∑x1w1x2w2net=XW…上次課內(nèi)容回顧激活函數(shù)與M-P模型

線性函數(shù)、非線性斜面函數(shù)、閾值函數(shù)

S形函數(shù)

M-P模型x2w2

∑fo=f（net）xnwn…net=XWx1w1第3章多層人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)主要內(nèi)容人工神經(jīng)網(wǎng)絡(luò)的拓?fù)涮匦詥渭壘W(wǎng)簡單單級網(wǎng)單級橫向反饋網(wǎng)多級網(wǎng)介紹求異或（XOR）操作是計算機(jī)中常用到的一種計算：

0XOR0=0

0XOR1=1

1XOR0=1

1XOR1=0

可以發(fā)現(xiàn)用原來的方法學(xué)習(xí)后的結(jié)果不能讓我們滿意，原因是單層神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)能力有限，需要使用更加復(fù)雜的網(wǎng)絡(luò)來學(xué)習(xí)。

該多層神經(jīng)網(wǎng)絡(luò)在單層神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上增加了一層“隱藏層”（Hidden）人工神經(jīng)網(wǎng)絡(luò)的拓?fù)涮匦?/p>

連接的拓?fù)浔硎?/p>

ANi wij ANj

聯(lián)接模式

用正號（“+”，可省略）表示傳送來的信號起刺激作用，它用于增加神經(jīng)元的活躍度；用負(fù)號（“-”）表示傳送來的信號起抑制作用，它用于降低神經(jīng)元的活躍度。層次（又稱為“級”）的劃分，導(dǎo)致了神經(jīng)元之間的三種不同的互連模式：

聯(lián)接模式

1、層（級）內(nèi)聯(lián)接層內(nèi)聯(lián)接又叫做區(qū)域內(nèi)（Intra-field）聯(lián)接或側(cè)聯(lián)接（Lateral）。用來加強和完成層內(nèi)神經(jīng)元之間的競爭2、

循環(huán)聯(lián)接反饋信號。

聯(lián)接模式3、層（級）間聯(lián)接

層間（Inter-field）聯(lián)接指不同層中的神經(jīng)元之間的聯(lián)接。這種聯(lián)接用來實現(xiàn)層間的信號傳遞前饋信號反饋信號

網(wǎng)絡(luò)的分層結(jié)構(gòu)

單級網(wǎng)

簡單單級網(wǎng)

單級橫向反饋網(wǎng)簡單單級網(wǎng)……x1x2…xno1o2omwnmw11w1mw2mwn1輸出層輸入層 簡單單級網(wǎng)W=（wij）輸出層的第j個神經(jīng)元的網(wǎng)絡(luò)輸入記為netj： netj=x1w1j+x2w2j+…+xnwnj其中,1≤j≤m。取NET=（net1，net2，…，netm）NET=XWO=F（NET）單級橫向反饋網(wǎng)輸出層x1o1w11w1mx2o2w2m………xnomwn1輸入層 V單級橫向反饋網(wǎng)

V=（vij）NET=XW+OVO=F（NET）時間參數(shù)——神經(jīng)元的狀態(tài)在主時鐘的控制下同步變化考慮X總加在網(wǎng)上的情況NET（t+1）=X（t）W+O（t）V O(t+1)=F(NET(t+1))O（0）=0考慮僅在t=0時加X的情況。

穩(wěn)定性判定多級網(wǎng)輸出層隱藏層輸入層o1o2om…x1x2xn………………層次劃分

信號只被允許從較低層流向較高層。層號確定層的高低：層號較小者，層次較低，層號較大者，層次較高。輸入層：被記作第0層。該層負(fù)責(zé)接收來自網(wǎng)絡(luò)外部的信息輸出層隱藏層輸入層o1o2om…x1x2xn………………第j層：第j-1層的直接后繼層（j>0），它直接接受第j-1層的輸出。輸出層：它是網(wǎng)絡(luò)的最后一層，具有該網(wǎng)絡(luò)的最大層號，負(fù)責(zé)輸出網(wǎng)絡(luò)的計算結(jié)果。隱藏層：除輸入層和輸出層以外的其它各層叫隱藏層。隱藏層不直接接受外界的信號，也不直接向外界發(fā)送信號輸出層隱藏層輸入層o1o2om…x1x2xn………………約定:輸出層的層號為該網(wǎng)絡(luò)的層數(shù)：n層網(wǎng)絡(luò)，或n級網(wǎng)絡(luò)。第j-1層到第j層的聯(lián)接矩陣為第j層聯(lián)接矩陣，輸出層對應(yīng)的矩陣叫輸出層聯(lián)接矩陣。今后，在需要的時候，一般我們用W（j）表示第j層矩陣。輸出層隱藏層輸入層o1o2om…x1x2xn………………W(1)W(2