2014神經(jīng)網(wǎng)絡(luò)引論

人工神經(jīng)網(wǎng)絡(luò)理論及其應(yīng)用引論 神經(jīng)生理學(xué)和神經(jīng)解剖學(xué)的研究結(jié)果表明，神經(jīng)元(Neuron)是腦組織的基本單元，是人腦信息處理系統(tǒng)的最小單元。生物神經(jīng)元生物神經(jīng)網(wǎng)絡(luò)一、生物神經(jīng)網(wǎng)絡(luò)1、生物神經(jīng)元的結(jié)構(gòu)生物神經(jīng)元在結(jié)構(gòu)上由:細胞體(Cellbody)、樹突(Dendrite)、軸突(Axon)、突觸(Synapse)四部分組成。用來完成神經(jīng)元間信息的接收、傳遞和處理。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2、

生物神經(jīng)元的信息處理機理1）信息的產(chǎn)生

神經(jīng)元間信息的產(chǎn)生、傳遞和處理是一種電化學(xué)活動。

神經(jīng)元狀態(tài)：靜息興奮抑制

膜電位：極化去極化超極化人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2、

生物神經(jīng)元的信息處理機理2）信息的整合空間整合：同一時刻產(chǎn)生的刺激所引起的膜電位變化，大致等于各單獨刺激引起的膜電位變化的代數(shù)和。并且，不同刺激對神經(jīng)元的影響權(quán)重不同。時間整合：各輸入脈沖抵達神經(jīng)元的時間先后不一樣?？偟耐挥|后膜電位為一段時間內(nèi)的累積。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)3、生物神經(jīng)網(wǎng)絡(luò)的特點

由多個生物神經(jīng)元以確定方式和拓撲結(jié)構(gòu)

相互連接即形成生物神經(jīng)網(wǎng)絡(luò)。

生物神經(jīng)網(wǎng)絡(luò)的功能不是單個神經(jīng)元信息

處理功能的簡單疊加。

神經(jīng)元之間的突觸連接方式和連接強度不

同并且具有可塑性，這使神經(jīng)網(wǎng)絡(luò)在宏觀

呈現(xiàn)出千變?nèi)f化的復(fù)雜的信息處理能力。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)二、簡單人工神經(jīng)元模型(1)每個神經(jīng)元都是一個多輸入單輸出的信息處理單元；(2)神經(jīng)元輸入分興奮性輸入和抑制性輸入兩種類型；并且影響權(quán)重不同(6)神經(jīng)元本身是非時變的，即其突觸強度均為常數(shù)。(3)神經(jīng)元具有空間整合特性和閾值特性；(4)不考慮神經(jīng)元輸入與輸出間的時滯；(5)忽略時間整合作用和不應(yīng)期；1、模型的六點假設(shè)：神經(jīng)元的人工模型假設(shè)1：多輸入單輸出圖(a)表明，正如生物神經(jīng)元有許多激勵輸入一祥，人工神經(jīng)元也應(yīng)該有許多的輸入信號，圖中每個輸入的大小用確定數(shù)值xi表示，它們同時輸入神經(jīng)元j，神經(jīng)元的單輸出用oj表示。神經(jīng)元的人工模型假設(shè)2：輸入類型：不同輸入影響不同生物神經(jīng)元具有不同的突觸性質(zhì)和突觸強度，其對輸入的影響是使有些輸入在神經(jīng)元產(chǎn)生脈沖輸出過程中所起的作用比另外一些輸入更為重要。圖(b)中對神經(jīng)元的每一個輸入都有一個加權(quán)系數(shù)wij，稱為權(quán)重值，其正負模擬了生物神經(jīng)元中突觸的興奮和抑制，其大小則代表了突觸的不同連接強度。神經(jīng)元的人工模型假設(shè)3：空間整合特性和閾值特性作為ANN的基本處理單元，必須對全部輸入信號進行整合，以確定各類輸入的作用總效果，圖(c)表示組合輸人信號的“總和值”，相應(yīng)于生物神經(jīng)元的膜電位。神經(jīng)元激活與否取決于某一閾值電平，即只有當其輸入總和超過閾值時,神經(jīng)元才被激活而發(fā)放脈沖,否則神經(jīng)元不會產(chǎn)生輸出信號。神經(jīng)元的人工模型神經(jīng)元的輸出圖(d)人工神經(jīng)元的輸出也同生物神經(jīng)元一樣僅有一個，如用oj表示神經(jīng)元輸出，則輸出與輸入之間的對應(yīng)關(guān)系可用圖(d)中的某種非線性函數(shù)來表示，這種函數(shù)一般都是非線性的。神經(jīng)元的人工模型神經(jīng)元模型示意圖神經(jīng)元的人工模型2、神經(jīng)元的數(shù)學(xué)模型

——神經(jīng)元j的閾值；

wij——神經(jīng)元i到j(luò)的突觸連接系數(shù)或稱權(quán)重值；

f()——神經(jīng)元轉(zhuǎn)移函數(shù)。(2.1)神經(jīng)元的人工模型“與”運算（x1∧x2）(0,0)(1,1)(0,1)(1,0)圖5.10與運算問題圖示輸入輸出超平面閾值條件x1x2x1∧x2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0010w1*0+w2*1

-θ＜0θ＞w2100w1*1+w2*0-θ＜0θ＞w1

111w1*1+w2*1-θ≥0θ≤w1+w2

輸出為1用實心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對于上述輸入樣本，存在線性分類面將他們分開。例如，當取w1=1，w2=1，θ=1.5時，可將他們分類為兩類。x1x2簡單人工神經(jīng)元模型在邏輯運算中的應(yīng)用“或”運算（x1∨x2）輸入輸出超平面閾值條件x1x2x1∨x2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0011w1*0+w2*1

-θ≥0θ≤w2101w1*1+w2*0-θ≥0θ≤w1

111w1*1+w2*1-θ≥0θ≤w1+w2

(0,1)(0,0)(1,0)圖5.11或運算問題圖示(1,1)x2x1輸出為1用實心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對于上述輸入樣本，存在線性分類面將他們分開。例如，當取w1=1，w2=1，θ=0.5時，可將他們分類為兩類?！胺恰边\算（?x1）輸入輸出超平面閾值條件x1?x1w1*x1-θ=001w1*0-θ≥0θ≤010w1*1

–θ<0θ>w1圖5.12非運算問題圖示01輸出為1用實心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對于上述輸入樣本，存在線性分類面將他們分開。例如，當取w1=-1，θ=-0.5時，可將他們分類為兩類。“異或”運算（x1XORx2）輸入輸出超平面閾值條件x1x2X1XORx2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0011w1*0+w2*1-θ≥0θ≤w2101w1*1+w2*0-θ≥0θ≤w1

110w1*1+w2*1-θ<0θ>w1+w2

(0,1)(0,0)(1,0)圖5.