2014神經網絡引論

人工神經網絡理論及其應用引論 神經生理學和神經解剖學的研究結果表明，神經元(Neuron)是腦組織的基本單元，是人腦信息處理系統(tǒng)的最小單元。生物神經元生物神經網絡一、生物神經網絡1、生物神經元的結構生物神經元在結構上由:細胞體(Cellbody)、樹突(Dendrite)、軸突(Axon)、突觸(Synapse)四部分組成。用來完成神經元間信息的接收、傳遞和處理。人工神經網絡的生物學基礎人工神經網絡的生物學基礎2、

生物神經元的信息處理機理1）信息的產生

神經元間信息的產生、傳遞和處理是一種電化學活動。

神經元狀態(tài)：靜息興奮抑制

膜電位：極化去極化超極化人工神經網絡的生物學基礎人工神經網絡的生物學基礎2、

生物神經元的信息處理機理2）信息的整合空間整合：同一時刻產生的刺激所引起的膜電位變化，大致等于各單獨刺激引起的膜電位變化的代數和。并且，不同刺激對神經元的影響權重不同。時間整合：各輸入脈沖抵達神經元的時間先后不一樣?？偟耐挥|后膜電位為一段時間內的累積。人工神經網絡的生物學基礎3、生物神經網絡的特點

由多個生物神經元以確定方式和拓撲結構

相互連接即形成生物神經網絡。

生物神經網絡的功能不是單個神經元信息

處理功能的簡單疊加。

神經元之間的突觸連接方式和連接強度不

同并且具有可塑性，這使神經網絡在宏觀

呈現(xiàn)出千變萬化的復雜的信息處理能力。人工神經網絡的生物學基礎二、簡單人工神經元模型(1)每個神經元都是一個多輸入單輸出的信息處理單元；(2)神經元輸入分興奮性輸入和抑制性輸入兩種類型；并且影響權重不同(6)神經元本身是非時變的，即其突觸強度均為常數。(3)神經元具有空間整合特性和閾值特性；(4)不考慮神經元輸入與輸出間的時滯；(5)忽略時間整合作用和不應期；1、模型的六點假設：神經元的人工模型假設1：多輸入單輸出圖(a)表明，正如生物神經元有許多激勵輸入一祥，人工神經元也應該有許多的輸入信號，圖中每個輸入的大小用確定數值xi表示，它們同時輸入神經元j，神經元的單輸出用oj表示。神經元的人工模型假設2：輸入類型：不同輸入影響不同生物神經元具有不同的突觸性質和突觸強度，其對輸入的影響是使有些輸入在神經元產生脈沖輸出過程中所起的作用比另外一些輸入更為重要。圖(b)中對神經元的每一個輸入都有一個加權系數wij，稱為權重值，其正負模擬了生物神經元中突觸的興奮和抑制，其大小則代表了突觸的不同連接強度。神經元的人工模型假設3：空間整合特性和閾值特性作為ANN的基本處理單元，必須對全部輸入信號進行整合，以確定各類輸入的作用總效果，圖(c)表示組合輸人信號的“總和值”，相應于生物神經元的膜電位。神經元激活與否取決于某一閾值電平，即只有當其輸入總和超過閾值時,神經元才被激活而發(fā)放脈沖,否則神經元不會產生輸出信號。神經元的人工模型神經元的輸出圖(d)人工神經元的輸出也同生物神經元一樣僅有一個，如用oj表示神經元輸出，則輸出與輸入之間的對應關系可用圖(d)中的某種非線性函數來表示，這種函數一般都是非線性的。神經元的人工模型神經元模型示意圖神經元的人工模型2、神經元的數學模型

——神經元j的閾值；

wij——神經元i到j的突觸連接系數或稱權重值；

f()——神經元轉移函數。(2.1)神經元的人工模型“與”運算（x1∧x2）(0,0)(1,1)(0,1)(1,0)圖5.10與運算問題圖示輸入輸出超平面閾值條件x1x2x1∧x2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0010w1*0+w2*1

-θ＜0θ＞w2100w1*1+w2*0-θ＜0θ＞w1

111w1*1+w2*1-θ≥0θ≤w1+w2

輸出為1用實心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對于上述輸入樣本，存在線性分類面將他們分開。例如，當取w1=1，w2=1，θ=1.5時，可將他們分類為兩類。x1x2簡單人工神經元模型在邏輯運算中的應用“或”運算（x1∨x2）輸入輸出超平面閾值條件x1x2x1∨x2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0011w1*0+w2*1

-θ≥0θ≤w2101w1*1+w2*0-θ≥0θ≤w1

111w1*1+w2*1-θ≥0θ≤w1+w2

(0,1)(0,0)(1,0)圖5.11或運算問題圖示(1,1)x2x1輸出為1用實心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對于上述輸入樣本，存在線性分類面將他們分開。例如，當取w1=1，w2=1，θ=0.5時，可將他們分類為兩類?！胺恰边\算（?x1）輸入輸出超平面閾值條件x1?x1w1*x1-θ=001w1*0-θ≥0θ≤010w1*1

–θ<0θ>w1圖5.12非運算問題圖示01輸出為1用實心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對于上述輸入樣本，存在線性分類面將他們分開。例如，當取w1=-1，θ=-0.5時，可將他們分類為兩類。“異或”運算（x1XORx2）輸入輸出超平面閾值條件x1x2X1XORx2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0011w1*0+w2*1-θ≥0θ≤w2101w1*1+w2*0-θ≥0θ≤w1

110w1*1+w2*1-θ<0θ>w1+w2

(0,1)(0,0)(1,0)圖5.