神經(jīng)系統(tǒng)的數(shù)學(xué)模型

1、神經(jīng)系統(tǒng)的數(shù)學(xué)模型類神經(jīng)網(wǎng)路由來類神經(jīng)網(wǎng)路理論起源於1950年代，當(dāng)時科學(xué)家仿造人類大腦的組織及運(yùn)作方式，開始提出稱之為感知機(jī)（Perceptron）的神經(jīng)元模型，這是最簡單也是最早的類神經(jīng)模型，感知機(jī)通常被拿來做分類器（Classifier）使用。但是在1980年之前，由於專家系統(tǒng)(expert system)則是當(dāng)時最流行的人工智慧基礎(chǔ)，加上類神經(jīng)網(wǎng)路的理論仍不成熟，因此類神經(jīng)網(wǎng)路並沒有受到很大的重視。一直到1980年代之後，由於霍普菲爾（Hopfield）神經(jīng)網(wǎng)路(1982年)被提出，而此時專家系統(tǒng)開始遇到了瓶頸，類神經(jīng)網(wǎng)路理論才逐漸受到重視。直到今日為止，類神經(jīng)網(wǎng)路仍然有新的架構(gòu)及理論

2、不斷的被提出，配合電腦運(yùn)算速度的增加，使得類神經(jīng)網(wǎng)路的功能更為強(qiáng)大，運(yùn)用層面也更為廣泛。一部機(jī)器的運(yùn)作或是一個事件的發(fā)生常常有相對應(yīng)的因果關(guān)係（例如：打開電器用品的開關(guān)，電器用品開始運(yùn)作；腳踩油門車子的速度增加），我們將打開開關(guān)與腳踩油門的動作稱為系統(tǒng)的輸入，電器用品與車子稱為系統(tǒng)，而電器用品的運(yùn)作與車子的速度稱為系統(tǒng)的輸出，整個輸入與輸出的關(guān)係可以用一個方塊圖來表示：類神經(jīng)網(wǎng)路的一個優(yōu)點(diǎn)在於並不需要瞭解系統(tǒng)的數(shù)學(xué)模型為何，而直接以神經(jīng)網(wǎng)路取代系統(tǒng)的模型，一樣可以得到輸入與輸出之間的關(guān)係。其方塊圖如下所示： 人類的大腦大約由1011個神經(jīng)細(xì)胞（Nerve Cells）組成，而每個神經(jīng)細(xì)胞又有1

3、04個突觸（Synapses）與其他細(xì)胞互相連結(jié)成一個非常複雜的神經(jīng)網(wǎng)路。一個神經(jīng)單元是由一個細(xì)胞主體（Cell body）所構(gòu)成，而細(xì)胞主體則具有一些分支凸起的樹狀突起(Dendrite)和一個單一分支的軸突(Axom)。樹狀突起由其它的神經(jīng)單元接收訊號，而當(dāng)其所接受的脈動(Impulse)超過某一特定的定限(Threshold)，這個神經(jīng)單元就會被點(diǎn)燃(Fire)，並產(chǎn)生一個脈動傳遞到軸突。在軸突末端的分支稱為胞突纏絡(luò)(Synapse)，它是神經(jīng)與神經(jīng)的連絡(luò)點(diǎn)它可以是抑制的或者是刺激的。抑制的胞狀纏絡(luò)會降低所傳送的脈動刺激的細(xì)胞纏絡(luò)則會加強(qiáng)之。當(dāng)人類的感官受到外界刺激經(jīng)由神經(jīng)細(xì)胞傳遞訊號到

4、大腦，大腦便會下達(dá)命令傳遞至相關(guān)的受動器（Effectors）做出反應(yīng)（例如：手的皮膚接觸到燙的物體立即放開），這樣的過程往往需要經(jīng)由反覆的訓(xùn)練，才能做出適當(dāng)?shù)呐袛啵瑏K且記憶於腦細(xì)胞中。如果大腦受到損害（例如中風(fēng)患者），便需要藉由復(fù)健的方式，重新學(xué)習(xí)。雖然以上只是對一個神經(jīng)的扼要描述，但實(shí)際上，已經(jīng)包含了類神經(jīng)計算模式的一些重要特色。我們可以了解，每一個計算單元只是一個簡單的定限裝置。它從別的單元接收訊號，當(dāng)這些訊號超過了它的定限，那麼它就會傳遞出訊號給其它單元。另外，我們也發(fā)現(xiàn)，知識不再是以明確的符號來表示，而是表現(xiàn)在由神經(jīng)和定限值所形成的整個網(wǎng)路。類神經(jīng)網(wǎng)路的運(yùn)作便源於此，藉由不同的演算法

5、訓(xùn)練類神經(jīng)網(wǎng)路使得神經(jīng)網(wǎng)路的輸出能達(dá)到我們所要求的結(jié)果。 類神經(jīng)網(wǎng)路簡介  類神經(jīng)網(wǎng)路（Artificial Neural Network）類似人類神經(jīng)結(jié)構(gòu)的一個平行計算模式，是一種基於腦與神經(jīng)系統(tǒng)研究，所啟發(fā)的資訊處理技術(shù)，通常也被稱為平行分散式處理模式（Parallel Distributed Processing Model）或連結(jié)模式（Connectionist Model）。在現(xiàn)代智慧型控制的領(lǐng)域裡，類神經(jīng)網(wǎng)路已成為現(xiàn)代智慧型控制的主流，類神經(jīng)網(wǎng)路(Artificial Neural Network)，或從字面直譯為人工類神經(jīng)網(wǎng)路，乃指模仿生物神經(jīng)網(wǎng)路的資料處理系

6、統(tǒng)，其為模仿生物神經(jīng)網(wǎng)路的能力之計算系統(tǒng)，故使用大量簡單的相連人工神經(jīng)元，從外界或其他神經(jīng)元取的資訊後，經(jīng)過簡單的運(yùn)算，最後將其結(jié)果輸出到外界或其它神經(jīng)元?？偠灾惿窠?jīng)網(wǎng)路即是利用現(xiàn)今電腦的優(yōu)點(diǎn)高速處理複雜計算的能力、以彌補(bǔ)其缺點(diǎn)對於樣本識別和專職決策能力的不足，而在其應(yīng)用上非常廣泛，幾乎涵蓋了各行各業(yè)以及其他相關(guān)的應(yīng)用科學(xué)。類神經(jīng)網(wǎng)路基本架構(gòu) 類神經(jīng)網(wǎng)路顧名思義，其網(wǎng)路架構(gòu)是模仿生物神經(jīng)網(wǎng)路，整個網(wǎng)路可大致分為三個部分，分述如下：（一）處理單元(Processing Element，PE)：或稱人工神經(jīng)元(Artificial Neuron)，為類神經(jīng)網(wǎng)路的基本組成單位。模型如圖.1所示，

7、而輸出值和輸入值間的關(guān)係可用下列函式表示：                                      i ：    輸入層之神經(jīng)元數(shù) j ：   

8、;  輸出層之神經(jīng)元數(shù)             ：    模仿生物神經(jīng)元模型的輸出訊號。            ：   模仿生物神經(jīng)元模型的轉(zhuǎn)換函數(shù)(Transfer function)是        

9、60;        一個用以將從其他處理單元輸入的加權(quán)值轉(zhuǎn)換成處理單元輸出值的數(shù)學(xué)公式。            ：   模仿生物神經(jīng)元模型的神經(jīng)元強(qiáng)度，又稱連結(jié)加權(quán)值，各示第i個處理單元對第j個處理單元之影響強(qiáng)度。            ：  &#

10、160; 模仿生物神經(jīng)元模型的輸入訊號。            ：    模仿生物神經(jīng)元模型的閥值。          圖.1        處理單元示意圖 (二)層（Layer）：若干個相同作用的處理單元之集合。依其作用可細(xì)分為正規(guī)化輸出、競爭化輸出以及競爭化學(xué)習(xí)。(三)網(wǎng)路（Netwo

11、rk）：幾個層進(jìn)行堆疊集合，就成為了網(wǎng)路。如同在生物神經(jīng)網(wǎng)路之中，神經(jīng)元的強(qiáng)度可視為生物神經(jīng)網(wǎng)路儲存資訊的所在，神經(jīng)網(wǎng)路的學(xué)習(xí)即在調(diào)整神經(jīng)結(jié)的強(qiáng)度。類神經(jīng)網(wǎng)路各處理單元之間則以連接鍵互相連結(jié)，整個類神經(jīng)網(wǎng)路的記憶就存放於這些連接鍵之中，以連接強(qiáng)度（權(quán)值Weight）來表示。圖.2.        類神經(jīng)網(wǎng)路示意圖這個網(wǎng)路由三層的類神經(jīng)單元所組成。第一層是由輸入單元所組成的輸入層，而這些輸入單元可接收樣本中各種不同特徵。這些輸入單元透過固定強(qiáng)度的連結(jié)連接到由特徵偵測單元後，再透過可調(diào)整強(qiáng)度的連結(jié)連接到輸出層中的輸出單元，最後，

12、每個輸出單元對映到某一種特定的分類，這個網(wǎng)路是由調(diào)整連結(jié)強(qiáng)度的程序來達(dá)成學(xué)習(xí)的目的。目前為止，許多的學(xué)者針對欲解決問題的不同，提出許多的類神經(jīng)網(wǎng)路模型，每一種類神經(jīng)網(wǎng)路的演算法並不相同。常見的網(wǎng)路有：倒傳遞網(wǎng)路（Back-propagation Network）、霍普菲爾網(wǎng)路（Hopfield Network）、半徑式函數(shù)網(wǎng)路（Radial Basis Function Network），這些類神經(jīng)網(wǎng)路並非適用所有的問題，我們必須針對欲解決問題的不同選擇適當(dāng)?shù)念惿窠?jīng)網(wǎng)路。神經(jīng)網(wǎng)路的運(yùn)作 類神經(jīng)網(wǎng)路的運(yùn)作過程可分為兩個階段，亦即：     

13、60;  （一）學(xué)習(xí)過程(Learning)：網(wǎng)路依學(xué)習(xí)演算法，從範(fàn)例中學(xué)習(xí)已調(diào)整網(wǎng)路連結(jié)加權(quán)值，使網(wǎng)路的輸出盡可能和期望的輸出值一樣。若網(wǎng)路達(dá)到穩(wěn)定的狀態(tài)時，則學(xué)習(xí)過程即可終止。    （二）回想過程(Recall) ：網(wǎng)路依回想演算法，以輸入資料決定輸出資料的過程。要使得類神經(jīng)網(wǎng)路能正確的運(yùn)作，則必須透過訓(xùn)練（training）的方式，讓類神經(jīng)網(wǎng)路反覆的學(xué)習(xí)，直到對於每個輸入都能正確對應(yīng)到所需要的輸出，因此在類神經(jīng)網(wǎng)路學(xué)習(xí)前，我們必須建立出一個訓(xùn)練樣本（training pattern）使類神經(jīng)網(wǎng)路在學(xué)習(xí)的過程中有一個參考，訓(xùn)練樣本的建立來

14、自於實(shí)際系統(tǒng)輸入與輸出或是以往的經(jīng)驗(yàn)。類神經(jīng)網(wǎng)路訓(xùn)練的目的，就是讓類神經(jīng)網(wǎng)路的輸出越接近目標(biāo)值，亦即，相同的輸入進(jìn)入到系統(tǒng)與類神經(jīng)網(wǎng)路，得到的輸出值亦要相同。類神經(jīng)網(wǎng)路未訓(xùn)練前，其輸出是凌亂的，隨著訓(xùn)練次數(shù)的增加，類神經(jīng)網(wǎng)路的鍵結(jié)值會逐漸的被調(diào)整，使得目標(biāo)值與神經(jīng)網(wǎng)路的輸出兩者誤差越來越小。當(dāng)兩者的誤差幾乎不再變化時，我們稱此類神經(jīng)網(wǎng)路已收斂（convergence），此時類神經(jīng)網(wǎng)路便訓(xùn)練完成。通常我們會定義一個價值函數(shù)（cost function）作為神經(jīng)網(wǎng)路收斂的指標(biāo)，價值函數(shù)將會隨著網(wǎng)路的訓(xùn)練次數(shù)越變越小最後幾乎不再變化。類神經(jīng)網(wǎng)路優(yōu)缺點(diǎn)一、 優(yōu)點(diǎn)類神經(jīng)網(wǎng)路與統(tǒng)計技術(shù)、歸納學(xué)習(xí)相比其優(yōu)點(diǎn)

15、有：1. 類神經(jīng)網(wǎng)路可以建構(gòu)非線性的模型，模型的準(zhǔn)確度高。2. 類神經(jīng)網(wǎng)路有良好的推廣性，對於未知的輸入亦可得到正確的輸出。3. 類神經(jīng)網(wǎng)路可以接受不同種類的變數(shù)作為輸入，適應(yīng)性強(qiáng)。4. 類神經(jīng)網(wǎng)路可應(yīng)用的領(lǐng)域相當(dāng)廣泛，模型建構(gòu)能力強(qiáng)。5. 類神經(jīng)網(wǎng)路具模糊推論能力，允許輸出入變數(shù)具模糊性，歸納學(xué)習(xí)較難具備此能力。二、 缺點(diǎn)類神經(jīng)網(wǎng)路與統(tǒng)計技術(shù)、歸納學(xué)習(xí)相比其缺點(diǎn)有：1. 類神經(jīng)網(wǎng)路因?yàn)槠渲虚g變數(shù)（即隱藏層）可以是一層或二層，數(shù)目也可設(shè)為任意數(shù)目，而且有學(xué)習(xí)速率等參數(shù)需設(shè)定，工作相當(dāng)費(fèi)時。2. 類神經(jīng)網(wǎng)路以迭代方式更新鍵結(jié)值與閥值，計算量大，相當(dāng)耗費(fèi)電腦資源。3. 類神經(jīng)網(wǎng)路的解有無限多組，無法得知哪一組的解為最佳解。4. 類神經(jīng)網(wǎng)路訓(xùn)練的過程中無法得知需要多少神經(jīng)元個數(shù)，太多或太少的神經(jīng)元均會影響系統(tǒng)的準(zhǔn)確性，因此往往需以試誤的方式得到適當(dāng)?shù)纳窠?jīng)元個數(shù)。5. 類神經(jīng)網(wǎng)路因?yàn)槭且越?shù)值結(jié)構(gòu)（含加權(quán)值的網(wǎng)路）來學(xué)習(xí)，其知識結(jié)構(gòu)是隱性的，缺乏解釋能力。而歸納學(xué)習(xí)以建立符號結(jié)構(gòu)（如：決策樹）來學(xué)習(xí)，其知識結(jié)構(gòu)是顯性的，具解釋能力。參考資料1. 張雅筑(2006，7月) 血壓與交感神