人工神經網絡(網絡資料)

1、人工神經網絡1、 基本特征(1) 結構特征 并行處理（時間）、分布式存儲（空間）與容錯性(2) 能力特征 自適應性（自學習和自組織）2、 基本功能(1)聯(lián)想記憶 自聯(lián)想和異聯(lián)想(2)非線性映射(3)分類與識別(4)優(yōu)化計算(5)知識處理3、神經元建模：(1) 每個神經元都是一個多輸入單輸出的信息處理單元；(2) 神經元輸入分興奮性輸入和抑制性輸入兩種類型；(3) 神經元具有空間整合性和閾值特性；(4) 神經元輸入與輸出間有固定的時滯，主要取決于突觸延擱；(5) 忽略時間整合作用和不應期；(6) 神經元本身是非時變的，即其突觸時延和突觸強度均為常數(shù)。4、人工神經元模型令表示t時刻神經元j接收的來

2、自神經元i的輸入信息，表示t時刻神經元j的輸出信息，則神經元j的狀態(tài)可表達為：其中，為輸入輸出間的突觸時延，為神經元j的閾值，為神經元i到j的突觸連接系數(shù)或稱權重值，為神經元轉移函數(shù)。取，則有：輸入總和常稱為神經元在t時刻的凈輸入，用下式表示：體現(xiàn)了神經元j的空間整合性，而未考慮時間整合，當時，神經元才能被激活。上式還可表示為權重向量和輸入向量的點積：其中和均為列向量，定義為：如果令，則有，因此凈輸入與閾值之差可表達為：綜合以上各式，神經元模型可簡化為：5、神經元的轉移函數(shù)(1)閾值型轉移函數(shù)(M-P模型) 處理離散信號單極性閾值型轉移函數(shù) 單位階躍函數(shù)雙極性閾值型轉移函數(shù) sgn(x)(2)

3、非線性轉移函數(shù)（單極性/雙極性Sigmoid函數(shù)曲線）實數(shù)域R到0,1閉集的非減性連續(xù)函數(shù)，代表了狀態(tài)連續(xù)型神經元模型。(3)分段線性轉移函數(shù)（偽線性函數(shù)）(4)概率型轉移函數(shù)6、人工神經網絡模型人工神經網絡中的神經元常稱為節(jié)點或處理單元，每個節(jié)點均具有相同的結構其動作在時間和空間上均同步。人工神經網絡模型分類方法：按網絡連接的拓撲結構和按網絡內部的信息流向分類。神經元之間的連接方式不同，網絡的拓撲結構也不同。根據神經元之間的連接方式，可將神經網絡結構分為：(1) 層次型結構a.單純型層次網絡結構b.輸出層到輸入層有連接的層次網絡結構c.層內有互連的層次網絡結構(2) 互連型結構 a.全互連型

4、b.局部互連型c.稀疏連接型 網絡中的節(jié)點只與少數(shù)相距較遠的節(jié)點相連。根據網絡內部的信息流向，可將神經網絡結構分為：(1)前饋型網絡單層前饋型網絡的結構特點與單純型層次網絡結構完全相同。從信息處理能力來看，網絡中的節(jié)點可分為兩種：一種是輸入節(jié)點，只負責從外界引入信息后向前傳遞給第一隱層；另一種是具有處理能力的節(jié)點，包括各隱層和輸出層節(jié)點。前饋網絡中除輸出層外，任一層的輸出是下一層的輸入，信息的處理具有逐層傳遞進行的方向性，一般不存在反饋環(huán)路。因此，這類網絡很容易串聯(lián)起來建立多層前饋網絡。多層前饋網絡可用一個有向無環(huán)路的圖表示，如圖1所示。其中輸入層常記為網絡的第一層，第一個隱層記為網絡的第二層

5、，其余類推。網絡除輸入節(jié)點外，有一層或多層的隱含層節(jié)點，同層節(jié)點間無任何連接。由于同層節(jié)點間無任何耦合，故每一層節(jié)點的輸出只影響下一層節(jié)點，每個節(jié)點表示單個神經元，其對應的函數(shù)常為 Sigmoid 型函數(shù)，有時輸出層節(jié)點取線性函數(shù)。電影網圖1 前饋型網絡所以，當提到具有單層計算神經元的網絡時，指的應該是一個兩層前饋網絡（輸入層和輸出層）；當提到具有單隱層的網絡時，指的應該是一個三層前饋網絡（輸入層、隱層和輸出層）。(2)反饋型網絡單純反饋型網絡的結構特點與全互連型網絡結構完全相同，稱為反饋網絡是指其信息流向的特點。在反饋網絡中所有節(jié)點都居于信息處理功能，而且每個節(jié)點既可以從外界接收輸入，同時又

6、可以向外界輸出。其中也包括神經元射出信號引回到本身輸入構成的自環(huán)反饋。如圖 2所示，它可以畫成無向圖，其中每個連接線都是雙向的。圖2 反饋型網絡7、人工神經網絡學習人工神經網絡的學習算法有很多，根據一種廣泛采用的分類方法，可將人工神經網絡的學習算法歸納為：(1)有導師學習 有導師學習也稱為監(jiān)督學習，這種學習模式采用的是糾錯規(guī)則。在學習訓練過程中需要不斷給網絡成對提供一個輸入模式和一個期望網絡正確輸出的模式，稱為“教師信號”。將神經網絡的實際輸出同期望輸出進行比較，當網絡的輸出與期望的教師信號不符時，根據差錯的方向和大小按一定的規(guī)則調整權值，以使下一步網絡輸出更接近期望結果。(2)無導師學習 無

7、導師學習也稱為無監(jiān)督學習，在學習過程中，需要不斷地給網絡提供動態(tài)輸入信息，網絡能根據特有的內部結構和學習規(guī)則，在輸入信息流中發(fā)現(xiàn)任何可能存在的模式和規(guī)律，同時能根據王安利的功能和輸入信息調整權值，這個過程稱為網絡的自組織，其結果是使網絡能對屬于同一類的模式進行自動分類。在這種學習模式中，網絡的權值調整不取決于外來教師信號的影響，可以認為網絡的學習評價標準隱含于網絡的內部。網絡的運行一般分為訓練和工作兩個階段。訓練的目的是為了從訓練數(shù)據中提取隱含的知識和規(guī)律，并存儲于網絡中供工作階段使用?？梢哉J為一個神經元是一個自適應單元，其權值可以根據它所接受的輸入信號、它的輸出信號以及對應的監(jiān)督信號進行調整。不同的神經網絡權值調整的學習規(guī)則對學習信號有不同的定義，從而