30人工智能及其應(yīng)用蔡自興第四版.pptx

1、人 工 智 能1神經(jīng)計(jì)算模糊計(jì)算第四章 計(jì)算智能(1)Computational Intelligence24.1概述信息科學(xué)與生命科學(xué)的相互交叉、相互滲透和相互促進(jìn)是現(xiàn)代科學(xué)技術(shù)發(fā)展的一個顯著特點(diǎn)。 計(jì)算智能涉及神經(jīng)網(wǎng)絡(luò)、模糊邏輯、進(jìn)化計(jì)算和人工生命等領(lǐng)域，它的研究和發(fā)展正反映了當(dāng)代科學(xué)技術(shù)多學(xué)科交叉與集成的重要發(fā)展趨勢。 3什么是計(jì)算智能 把神經(jīng)網(wǎng)絡(luò)（NN）歸類于人工智能（AI）可能不大合適，而歸類于計(jì)算智能（CI）更能說明問題實(shí)質(zhì)。進(jìn)化計(jì)算、人工生命和模糊邏輯系統(tǒng)的某些課題，也都?xì)w類于計(jì)算智能。 計(jì)算智能取決于制造者（manufacturers）提供的數(shù)值數(shù)據(jù)，不依賴于知識；另一方面，人

2、工智能應(yīng)用知識精品（knowledge tidbits）。人工神經(jīng)網(wǎng)絡(luò)應(yīng)當(dāng)稱為計(jì)算神經(jīng)網(wǎng)絡(luò)。 4.1 概述4計(jì)算智能與人工智能的區(qū)別和關(guān)系 輸入人類知識()傳感輸入知識()傳感數(shù)據(jù)計(jì)算()傳感器C數(shù)值的A符號的B生物的層次復(fù)雜性復(fù)雜性BNNBPRBIANNAPRAICNNCPRCI4.1 概述5上圖由貝茲德克于1994年提出，表示ABC與神經(jīng)網(wǎng)絡(luò)（NN）、模式識別（PR）和智能（I）之間的關(guān)系A(chǔ)Artificial，表示人工的（非生物的）； BBiological， 表示物理的化學(xué)的（？）生物的； CComputational，表示數(shù)學(xué)計(jì)算機(jī) 計(jì)算智能是一種智力方式的低層認(rèn)知，它與人工智能的區(qū)

3、別只是認(rèn)知層次從中層下降至低層而已。中層系統(tǒng)含有知識（精品），低層系統(tǒng)則沒有。4.1 概述6定義1：當(dāng)一個系統(tǒng)只涉及數(shù)值（低層）數(shù)據(jù)，含有模式識別部分，不應(yīng)用人工智能意義上的知識，而且能夠呈現(xiàn)出：（1）計(jì)算適應(yīng)性；（2）計(jì)算容錯性；（3）接近人的速度；（4）誤差率與人相近， 則該系統(tǒng)就是計(jì)算智能系統(tǒng)。定義2：當(dāng)一個智能計(jì)算系統(tǒng)以非數(shù)值方式加上知識（精品）值，即成為人工智能系統(tǒng)。 4.1 概述71943年麥卡洛克和皮茨提出神經(jīng)網(wǎng)絡(luò)模型（稱為MP模型）的概念。20世紀(jì)60年代威德羅和霍夫提出自適應(yīng)線性元件。60年代末期至80年代中期，整個神經(jīng)網(wǎng)絡(luò)研究處于低潮。 80年代后期以來，人工神經(jīng)網(wǎng)絡(luò)研究得

4、到復(fù)蘇和發(fā)展，在模式識別、圖象處理、自動控制等領(lǐng)域得到廣泛應(yīng)用。4.2 神經(jīng)計(jì)算4.2.1 人工神經(jīng)網(wǎng)絡(luò)研究的進(jìn)展8人工神經(jīng)網(wǎng)絡(luò)的特性并行分布處理非線性映射通過訓(xùn)練進(jìn)行學(xué)習(xí)適應(yīng)與集成硬件實(shí)現(xiàn)4.2 神經(jīng)計(jì)算94.2.2 人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)4.2 神經(jīng)計(jì)算-1W j 1X1X2Wj2X nW j n( )Yi圖4.2 神經(jīng)元模型1.神經(jīng)元及 其特性10 圖4.2中的神經(jīng)元單元由多個輸入xi，i=1,2,.,n和一個輸出y組成。中間狀態(tài)由輸入信號的權(quán)和表示，而輸出為（4.1） 式中，j為神經(jīng)元單元的偏置（閾值），wji為連接權(quán)系數(shù)。 n為輸入信號數(shù)目，yj為神經(jīng)元輸出，t為時間，f( )為輸出變換

5、函數(shù)，如圖4.3。 4.2 神經(jīng)計(jì)算11(a)xf(x)1x00圖4.3 神經(jīng)元中的某些變換（激發(fā)）函數(shù)(a) 二值函數(shù)(b) S形函數(shù) (c) 雙曲正切函數(shù)4.2 神經(jīng)計(jì)算(c)xf(x)1-1(b)f(x)x10122.人工神經(jīng)網(wǎng)絡(luò)的基本特性和結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)是具有下列特性的有向圖： 對于每個節(jié)點(diǎn) i 存在一個狀態(tài)變量xi ； 從節(jié)點(diǎn) j 至節(jié)點(diǎn) i ，存在一個連接權(quán)系統(tǒng)數(shù)wji； 對于每個節(jié)點(diǎn) i ，存在一個閾值 i；對于每個節(jié)點(diǎn) i ，定義一個變換函數(shù)fi ；對于最一般的情況，此函數(shù)取 形式。4.2 神經(jīng)計(jì)算13遞歸（反饋）網(wǎng)絡(luò):在遞歸網(wǎng)絡(luò)中，多個神經(jīng)元互連以組織一個互連神經(jīng)網(wǎng)絡(luò)，如圖

6、4.4。圖4.4 反饋網(wǎng)絡(luò)x1x2xnV1V2Vn輸入輸出x1x2xn4.2 神經(jīng)計(jì)算14前饋（多層）網(wǎng)絡(luò):前饋網(wǎng)絡(luò)具有遞階分層結(jié)構(gòu)，由同層神經(jīng)元間不存在互連的層級組成，如圖4.5。4.2 神經(jīng)計(jì)算x1x2輸入層輸出層隱層y1ynw11w1m圖4.5 前饋網(wǎng)絡(luò)反向傳播153.人工神經(jīng)網(wǎng)絡(luò)的主要學(xué)習(xí)算法有師學(xué)習(xí)算法：能夠根據(jù)期望輸出和實(shí)際網(wǎng)絡(luò)輸出（對應(yīng)于給定輸入）間的差別來調(diào)整神經(jīng)元間連接的強(qiáng)度（權(quán)）。無師學(xué)習(xí)算法：不需要知道期望輸出。強(qiáng)化學(xué)習(xí)算法：采用一個“評論員”來評價(jià)與給定輸入相對應(yīng)的神經(jīng)網(wǎng)絡(luò)輸出的優(yōu)度（質(zhì)量因數(shù)）。強(qiáng)化學(xué)習(xí)算法的一個例子是遺傳算法（GA）。4.2 神經(jīng)計(jì)算16BP算法BP

7、算法的權(quán)值調(diào)整方法：令輸出結(jié)點(diǎn)家j的誤差為 則k個訓(xùn)練樣本的誤差平方和為性能指標(biāo)隱層到輸出層的權(quán)值調(diào)整（梯度法）：輸入層到隱層的權(quán)值調(diào)整（梯度法）： BP網(wǎng)絡(luò)的訓(xùn)練步驟：用小隨機(jī)數(shù)初始化網(wǎng)絡(luò)各層權(quán)值；樣本數(shù)據(jù)輸入；誤差計(jì)算；權(quán)值變化量計(jì)算；權(quán)值調(diào)整4.2 神經(jīng)計(jì)算174.2.3 人工神經(jīng)網(wǎng)絡(luò)的典型模型4.2 神經(jīng)計(jì)算18續(xù)前表：4.2 神經(jīng)計(jì)算194.2.4 基于神經(jīng)網(wǎng)絡(luò)的知識表示與推理 1.基于神經(jīng)網(wǎng)絡(luò)的知識表示 在這里，知識并不像在產(chǎn)生式系統(tǒng)中那樣獨(dú)立地表示為每一條規(guī)則，而是將某一問題的若干知識在同一網(wǎng)絡(luò)中表示。例如，在有些神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，知識是用神經(jīng)網(wǎng)絡(luò)所對應(yīng)的有向權(quán)圖的鄰接矩陣及閾值向

8、量表示的。 4.2 神經(jīng)計(jì)算20 x1x2y000101011110“異或”邏輯問題真值表例1：表示“異或”問題的兩層感知器模型21例2：基于B-P網(wǎng)絡(luò)的醫(yī)療診斷系統(tǒng)該醫(yī)療診斷系統(tǒng)只考慮 6 種癥狀、2 種疾病、3種治療方案癥狀：對每一癥狀采集三種信息 有（1）、無（-1）、沒有記錄（0）疾?。簩γ恳患膊〔杉N信息 有（1）、無（-1）、沒有記錄（0）治療方案：對每一治療方案采集兩種信息 是、否每個病人的信息構(gòu)成一個訓(xùn)練樣例，用一批訓(xùn)練樣例對網(wǎng)絡(luò)進(jìn)行訓(xùn)練（B-P算法），假設(shè)得到的是如圖所示的神經(jīng)網(wǎng)絡(luò)x1 - x6 為癥狀（輸入）x7,x8 為疾病名x9,x10,x11 為治療方案（輸出）22

9、232.基于神經(jīng)網(wǎng)絡(luò)的推理 基于神經(jīng)網(wǎng)絡(luò)的推理是通過網(wǎng)絡(luò)計(jì)算實(shí)現(xiàn)的。把用戶提供的初始證據(jù)用作網(wǎng)絡(luò)的輸入，通過網(wǎng)絡(luò)計(jì)算最終得到輸出結(jié)果。 一般來說，正向網(wǎng)絡(luò)推理的步驟如下：把已知數(shù)據(jù)輸入網(wǎng)絡(luò)輸入層的各個節(jié)點(diǎn)。利用特性函數(shù)分別計(jì)算網(wǎng)絡(luò)中各層的輸出。用閾值函數(shù)對輸出層的輸出進(jìn)行判定，從而得到輸出結(jié)果。4.2 神經(jīng)計(jì)算24定義4.1 模糊集合(Fuzzy Sets)論域U到0,1區(qū)間的任一映射 ，即 ，都確定U的一個模糊子集F； 稱為F的隸屬函數(shù)或隸屬度。在論域U中，可把模糊子集表示為元素u與其隸屬函數(shù) 的序偶集合，記為： (4.7)4.3 模糊計(jì)算4.3.1 模糊集合、模糊邏輯及其運(yùn)算25若某模糊集

10、是論域U中所有滿足 的元素u構(gòu)成的集合，則稱該集合為模糊集F的支集。當(dāng)u滿足 ，稱為模糊單點(diǎn)。定義4.2 模糊支集模糊單點(diǎn)4.3 模糊計(jì)算26設(shè)A和B為論域U中的兩個模糊集，其隸屬函數(shù)分別為 和 ，則對于所有 ，存在下列運(yùn)算：A與B的并（邏輯或）記為 ，其隸屬函數(shù)定義為： (4.10)A與B的交（邏輯與）記為 ，其隸屬函數(shù)定義為： (4.11)A的補(bǔ)（邏輯非）記為 ，其傳遞函數(shù)定義為： (4.12)定義4.3 模糊集的運(yùn)算4.3 模糊計(jì)算27定義4.4 直積（笛卡兒乘積，代數(shù)積） 若 分別為論域 中的模糊集合，則這些集合的直積是乘積空間 中一個模糊集合，其隸屬函數(shù)為： (4.13)定義4.5

11、模糊關(guān)系 若U，V是兩個非空模糊集合，則其直積UV中的模糊子集R稱為從U到V的模糊關(guān)系，表示為： (4.14)4.3 模糊計(jì)算28式(4.9)中的 * 號可為三角范式內(nèi)的任意一種算子，包括模糊交、代數(shù)積、有界積和直積等。其隸屬函數(shù)為： ， (4.16)定義4.6 復(fù)合關(guān)系 若R和S分別為UV和VW中的模糊關(guān)系，則R和S的復(fù)合是一個從U到W的模糊關(guān)系，記為： (4.15)4.3 模糊計(jì)算29定義4.7 正態(tài)模糊集、凸模糊集和模糊數(shù) 以實(shí)數(shù)R為論域的模糊集F，若其隸屬函數(shù)滿足 則F為正態(tài)模糊集；若對于任意實(shí)數(shù)x，ax ？解：4.3 模糊計(jì)算模糊規(guī)則轉(zhuǎn)換為模糊關(guān)系矩陣如下：模糊事實(shí)與規(guī)則的合成推理：

12、334.3.3 模糊判決方法在推理得到的模糊集合中取一個相對最能代表這個模糊集合的單值的過程就稱作解模糊或模糊判決（Defuzzification）。模糊判決可以采用不同的方法：重心法、最大隸屬度方法、加權(quán)平均法、隸屬度限幅元素平均法。下面介紹各種模糊判決方法，并以“水溫適中”為例，說明不同方法的計(jì)算過程。這里假設(shè)“水溫適中”的隸屬函數(shù)為： = X: 0.0/0 + 0.0/10 + 0.33/20 + 0.67/30 + 1.0/40 + 1.0/50+ 0.75/60 + 0.5/70 + 0.25/80 + 0.0/90 + 0.0/100 4.3 模糊計(jì)算34 重心法就是取模糊隸屬函數(shù)曲線與橫坐標(biāo)軸圍成面積的重心作為代表點(diǎn)。理論上應(yīng)該計(jì)算輸出范圍內(nèi)一系列連續(xù)點(diǎn)的重心，即 (4.35)但實(shí)際上是計(jì)算輸出范圍內(nèi)整個采樣點(diǎn)的重心，用足夠小的取樣間隔來提供所需要的精度，即：=48.24.3 模糊計(jì)算1. 重心法35 這種方法最簡單，只要在推理結(jié)論的模糊集合中取隸屬度最大的那個元素作為輸出量即可。要求這種情況下其隸屬函數(shù)曲線一定是