人工智能第5章不確定性推理課件

第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述1第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論第四章不確定性推理概述2概述不精確思維并非專家的習(xí)慣或愛好所至，而是客觀現(xiàn)實(shí)的要求。很多原因?qū)е峦唤Y(jié)果推理所需的信息不完備背景知識(shí)不足信息描述模糊信息中含有噪聲規(guī)劃是模糊的推理能力不足解題方案不唯一在人類的知識(shí)和思維行為中，精確性只是相對的，不精確性才是絕對的。知識(shí)工程需要各種適應(yīng)不同類的不精確性特點(diǎn)的不精確性知識(shí)描述方法和推理方法。概述不精確思維并非專家的習(xí)慣或愛好所至，而是客觀現(xiàn)實(shí)的要求。3不確定性推理不確定性的類型隨機(jī)性模糊性不完全性（對事物認(rèn)識(shí)不足）不一致性 （隨著推理的進(jìn)行，原來成立的，變的不那么成立了）不確定性推理不確定性的類型4不確定性的表示（I）（1）知識(shí)不確定性的表示知識(shí)不確定性的表示方式是與不確定性推理方法密切相關(guān)的一個(gè)問題。在選擇知識(shí)的不確定性表示時(shí)，通常需要考慮以下兩個(gè)方面的因素：要能夠比較準(zhǔn)確地描述問題本身的不確定性便于推理過程中不確定性的計(jì)算一般將這兩個(gè)方面的因素結(jié)合起來綜合考慮。知識(shí)的不確定性通常為一個(gè)數(shù)值，也稱為知識(shí)的靜態(tài)強(qiáng)度。不確定性的表示（I）（1）知識(shí)不確定性的表示5不確定性的表示（II）知識(shí)的靜態(tài)強(qiáng)度可以是該知識(shí)在應(yīng)用中成功的概率，也可以是該知識(shí)的可信程度等。如果用知識(shí)在應(yīng)用中成功的概率來表示靜態(tài)強(qiáng)度，則其取值范圍為[0，1]，該值越接近于1，說明該知識(shí)越接近于“真”；其值越接近于0，說明該知識(shí)越接近于“假”。如果用知識(shí)的可信度來表示靜態(tài)強(qiáng)度，則其取值范圍為[-1，1]，當(dāng)該值大于0時(shí)，值越大說明知識(shí)越接近于"真"，當(dāng)其值小于0時(shí)，值越小說明知識(shí)越接近于"假"。在實(shí)際應(yīng)用中，知識(shí)的不確定性是由領(lǐng)域?qū)＜医o出的。不確定性的表示（II）知識(shí)的靜態(tài)強(qiáng)度可以是該知識(shí)在應(yīng)用中成6不確定性的表示（III）（2）證據(jù)的不確定性的表示推理中的證據(jù)有兩種來源：一種是用戶在求解問題時(shí)所提供的初始證據(jù)，如病人的癥狀、檢查結(jié)果等；另一種是在推理中得出的中間結(jié)果，即把當(dāng)前推理中所得到的中間結(jié)論放入綜合數(shù)據(jù)庫，并作為以后推理的證據(jù)來使用。一般來說，證據(jù)的不確定性表示應(yīng)該與知識(shí)的不確定性表示保持一致，以便推理過程能對不確定性進(jìn)行統(tǒng)一處理。證據(jù)的不確定性可以用概率來表示，也可以用可信度等來表示，其意義與知識(shí)的不確定性類似。不確定性的表示（III）（2）證據(jù)的不確定性的表示7要解決的問題事實(shí)的表示規(guī)則的表示邏輯運(yùn)算運(yùn)算規(guī)則運(yùn)算規(guī)則的合成要解決的問題事實(shí)的表示8不確定性推理法的類型（I）

關(guān)于不確定性推理的類型由多種不同的分類方法，如果按照是否采用數(shù)值來描述非精確性，可將其分為數(shù)值方法和非數(shù)值方法兩大類型。數(shù)值方法是一種用數(shù)值對非精確性進(jìn)行定量表示和處理的方法。非數(shù)值方法是指除數(shù)值方法以外的其他各種對不確定性進(jìn)行表示和處理的方法，如非單調(diào)推理等。不確定性推理法的類型（I）關(guān)于不確定性推理的類型由多種不同9不確定性推理法的類型（II）

對于數(shù)值方法，又可按其所依據(jù)的理論分為兩種類型一類是基于概率論的有關(guān)理論發(fā)展起來的方法，稱為基于概率的模型，如確定性理論、主管Bayes方法、證據(jù)理論、可能性理論等；另一類是基于模糊邏輯理論發(fā)展起來的可能性理論方法，稱為模糊推理。不確定性推理法的類型（II）對于數(shù)值方法，又可按其所依據(jù)的10概述不確定問題的數(shù)學(xué)模型表示的3方面問題表示問題： 表達(dá)要清楚。表示方法規(guī)則不僅僅是數(shù)，還要有語義描述。計(jì)算問題： 不確定性的傳播和更新。也是獲取新信息的過程。語義問題： 將各個(gè)公式解釋清楚。概述不確定問題的數(shù)學(xué)模型表示的3方面問題11第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述12第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述13不確定性推理模型的基本結(jié)構(gòu)規(guī)則的一般表示形式：IFETHENH(C(H，E))其中：E表示規(guī)則的前提條件，即證據(jù)H表示規(guī)則的結(jié)論部分，即假設(shè)C(H,E)表示規(guī)則的精確程度或可信度。任何一個(gè)不確定性推理模型必須解決三個(gè)問題：前提(證據(jù)，事實(shí))的不確定性描述規(guī)則(知識(shí))的不確定性描述不確定性的更新算法不確定性推理模型的基本結(jié)構(gòu)規(guī)則的一般表示形式：14不確定性推理模型的基本結(jié)構(gòu)證據(jù)的不確定性C(E),表示證據(jù)E為真的程度。需定義其在三種典型情況下的取值：E為真E為假對E一無所知(該情況下的取值稱為證據(jù)的單位元e(E))規(guī)則的不確定性C(H，E),表示規(guī)則的強(qiáng)度。需定義其在三種典型情況下的取值：若E為真則H為真若E為假則H為假E對H沒有影響(該情況下的取值稱為規(guī)則的單位元e(H,E))不確定性推理模型的基本結(jié)構(gòu)證據(jù)的不確定性C(E)15不確定性推理模型的基本結(jié)構(gòu)一個(gè)不確定性推理模型必須包括下列算法：(1)C(H)=g1[C(E),C(H,E)](2)C(H)=g2[C1(H),C2(H)](3)C(E1ANDE2)=g3[C(E1),C(E2)](4)C(E1ORE2)=g4[C(E1),C(E2)](5)C(~E)=~C(E)不確定性推理模型的基本結(jié)構(gòu)一個(gè)不確定性推理模型必須包括下列算16不確定性推理模型的基本結(jié)構(gòu)一個(gè)不確定性推理模型必須滿足下列條件：(1)當(dāng)全部證據(jù)和規(guī)則都是確定性的時(shí)候，此模型應(yīng)滿足確定性推理。(2)若算法(1)中，C(E)=e(H),則C(H)=e(H)(3)若算法(2)中，C1(H)=e(H)，則C(H)=C2(H)C2(H)=e(H)，則C(H)=C1(H)(4)若算法(1)中，C(H，E)=e(H),則C(H)=e(H)(5)在算法(3)中，g3(x1,…,xn)<=min(x1,…,xn)(6)在算法(4)中，g4(x1,…,xn)>=max(x1,…,xn)不確定性推理模型的基本結(jié)構(gòu)一個(gè)不確定性推理模型必須滿足下列條17第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述18第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述19確定性方法（可信度方法）E.Short和B.Buchanan在MYCIN系統(tǒng)研制過程中產(chǎn)生了不確定推理方法,第一個(gè)采用了不確定推理邏輯，70年代很有名。提出該方法時(shí)應(yīng)遵循的原則不采用嚴(yán)格的統(tǒng)計(jì)理論。使用的是一種接近統(tǒng)計(jì)理論的近似方法。用專家的經(jīng)驗(yàn)估計(jì)代替統(tǒng)計(jì)數(shù)據(jù)盡量減少需要專家提供的經(jīng)驗(yàn)數(shù)據(jù)，盡量使少量數(shù)據(jù)包含多種信息。新方法應(yīng)適用于證據(jù)為增量式地增加的情況。專家數(shù)據(jù)的輕微擾動(dòng)不影響最終的推理結(jié)論。確定性方法（可信度方法）E.Short和B.Buchana20理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法21理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。

規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法22理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法23規(guī)則(規(guī)則的不確定性度量）規(guī)則A→B， 可信度表示為CF(B,A)。規(guī)則(規(guī)則的不確定性度量）規(guī)則A→B， 可信度表24規(guī)則(規(guī)則的不確定性度量）CF(B,A)表示的意義證據(jù)為真時(shí)相對于P(～B)=1-P(B)來說，A對B為真的支持程度。即A發(fā)生更支持B發(fā)生。此時(shí)CF(B,A)≥0?；?，相對于P(B)來說，A對B為真的不支持程度。即A發(fā)生不支持B發(fā)生。此時(shí)CF(B,A)<0。結(jié)論-1≤CF(B,A)≤1規(guī)則(規(guī)則的不確定性度量）CF(B,A)表示的意義25規(guī)則(規(guī)則的不確定性度量）CF(B,A)的特殊值：CF(B,A)=1， 前提真，結(jié)論必真CF(B,A)=-1，前提真，結(jié)論必假CF(B,A)=0，前提真假與結(jié)論無關(guān)實(shí)際應(yīng)用中CF(B,A)的值由專家確定，并不是由P(B|A),P(B)計(jì)算得到的。規(guī)則(規(guī)則的不確定性度量）CF(B,A)的特殊值：26理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法27理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。

規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法28規(guī)則(證據(jù)的不確定性度量）證據(jù)A的可信度表示為CF(A) 同樣有：-1≤CF(A)≤1特殊值：CF(A)=1， 前提肯定真 CF(A)=-1， 前提肯定假

CF(A)=0， 對前提一無所知CF(A)＞0，表示A以CF(A)程度為真 CF(A)＜0，表示A以CF(A)程度為假規(guī)則(證據(jù)的不確定性度量）證據(jù)A的可信度表示為CF(A)29理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法30理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。

規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法31規(guī)則(推理計(jì)算－1）“與”的計(jì)算：

A1

∧A2

→B CF(A1

∧A2)=min{CF(A1),CF(A2)}“或”的計(jì)算： A1

∨A2

→B CF(A1

∨A2)=max{CF(A1),CF(A2)}“非”的計(jì)算： CF(～A

)=～CF(A

)由A，

A→B，

求B： CF(B)=CF(A

)·CF(B,A

) (CF(A

)＜0時(shí)可以不算即為“0”)規(guī)則(推理計(jì)算－1）“與”的計(jì)算： A1∧A232規(guī)則(推理計(jì)算－2）更新，由兩條規(guī)則求出再合并：由CF１(B)、CF２(B)，求CF(B)

規(guī)則(推理計(jì)算－2）更新，由兩條規(guī)則求出再合并：33規(guī)則(推理計(jì)算－3）由CF(A)、A→B、CF(B,A

)、CF(B)，求

B

：當(dāng)A必然發(fā)生，CF(A)=1時(shí)：規(guī)則(推理計(jì)算－3）由CF(A)、A→B、CF(B,34規(guī)則(推理計(jì)算－4）當(dāng)A不必然發(fā)生，CF(A)<1時(shí)：0<CF(A)<1，

用CF(A)CF(B,A)代替CF(A)=1時(shí)的CF(B,A)即可。CF(A)<0， 規(guī)則AB不可使用，即此計(jì)算不必進(jìn)行。 （如MYCIN系統(tǒng)CF(A)0.2就認(rèn)為是不可使用的。其目的是使專家數(shù)據(jù)經(jīng)輕微擾動(dòng)不影響最終結(jié)果。）注意：以上公式不滿足組合交換性。（應(yīng)在分母加項(xiàng)）規(guī)則(推理計(jì)算－4）當(dāng)A不必然發(fā)生，CF(A)<1時(shí)：35規(guī)則(推理計(jì)算－5）評(píng)論可信度方法的宗旨不是理論上的嚴(yán)密性，而是處理實(shí)際問題的可用性。不可一成不變地用于任何領(lǐng)域，甚至也不能適用于所有科學(xué)領(lǐng)域。推廣至一個(gè)新領(lǐng)域時(shí)必須根據(jù)情況修改。規(guī)則(推理計(jì)算－5）評(píng)論36第四章不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述37第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述38主觀貝葉斯方法概述在Prospector的探礦系統(tǒng)的研究過程中提出的。 原有貝葉斯公式只考慮A出現(xiàn)對B的影響，沒有考慮A不出現(xiàn)的影響。貝葉斯規(guī)則：當(dāng)B為n個(gè)互不相容事件的集合時(shí)，貝葉斯公式可寫為：主觀貝葉斯方法概述39主觀貝葉斯方法思路先定好應(yīng)該怎么辦，再湊公式。主要是避開P(A|B)的計(jì)算。規(guī)則的不確定性定義：

表示A為真時(shí)，對B的影響。（規(guī)則成立的充分性）主觀貝葉斯方法思路表示A為真時(shí)，對B的影響。（規(guī)則成立的充分40主觀貝葉斯方法（規(guī)則的不確定性）

表示A為假時(shí)，對B的影響。（規(guī)則成立的必要性）（確定性理論中沒有考慮這點(diǎn)）幾率函數(shù)O(X)主觀貝葉斯方法（規(guī)則的不確定性）表示A為假時(shí)，對B的影41主觀貝葉斯方法（規(guī)則的不確定性）O(X)的性質(zhì)P(X)=0時(shí),O(X)=0 假P(X)=0.5時(shí),O(X)=1P(X)=1時(shí),O(X)=∞ 真O(X)與LN，LS的關(guān)系O(B|A)=LS?O(B)O(B|~A)=LN?O(B)主觀貝葉斯方法（規(guī)則的不確定性）O(X)的性質(zhì)42主觀貝葉斯方法（規(guī)則的不確定性），且必須滿足：主觀貝葉斯方法（規(guī)則的不確定性），且必須滿足：43主觀貝葉斯方法（規(guī)則的不確定性）LS、LN≥０，不獨(dú)立。LS,LN不能同時(shí)＞１或＜１LS,LN可同時(shí)＝1主觀貝葉斯方法（規(guī)則的不確定性）LS、LN≥０，不獨(dú)立。44主觀貝葉斯方法（證據(jù)A的不確定性）P(A)或O(A)表示證據(jù)A的不確定性主觀貝葉斯方法（證據(jù)A的不確定性）P(A)或O(A)表示證據(jù)45主觀貝葉斯方法（推理計(jì)算1）A必出現(xiàn)時(shí)：O(B|A)=LS?O(B)O(B|~A)=LN?O(B)

若需要概率時(shí)：主觀貝葉斯方法（推理計(jì)算1）A必出現(xiàn)時(shí)：46主觀貝葉斯方法（推理計(jì)算2）A不確定時(shí)：即P(A)1（1976年的算法）向前看一步A’，A’為與A有關(guān)的所有觀察P(B|A’)=P(B|A)P(A|A’)+P(B|～A)P(～A|A’)

P(A|A’)=1時(shí)，證據(jù)A必然出現(xiàn)（P95）

P(A|A’)=0時(shí)，LN代替上式的LS，公式（2）P(A|A’)=P(A)時(shí)，(A’對A無影響)，由上式

P(B|A’)=P(B)

主觀貝葉斯方法（推理計(jì)算2）A不確定時(shí)：即P(A)147主觀貝葉斯方法（推理計(jì)算2）P(A|A’)與P(B|A’)坐標(biāo)系上的三點(diǎn)：(p.96)

總之是找一些P(A|A’)與P(B|A’)的相關(guān)值，兩點(diǎn)也可以做曲線（或折線、直線）。由差值法從線上得到其它點(diǎn)的結(jié)果，具體過程見教科書上例題。主觀貝葉斯方法（推理計(jì)算2）48主觀貝葉斯方法（推理計(jì)算3）兩個(gè)證據(jù)時(shí)：

主觀貝葉斯方法（推理計(jì)算3）兩個(gè)證據(jù)時(shí)：49主觀貝葉斯方法主觀Bayes方法的評(píng)價(jià)優(yōu)點(diǎn)：計(jì)算方法直觀、明了。缺點(diǎn)：要求Bj相互無關(guān)（實(shí)際不可能）。P(A|B’)與P(Bi)很難計(jì)算。應(yīng)用困難。主觀貝葉斯方法主觀Bayes方法的評(píng)價(jià)50第四章不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述51第四章不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述52證據(jù)理論(EvidentTheory)概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論(EvidentTheory)概述53證據(jù)理論(EvidentTheory)概述由Dempster首先提出，并由他的學(xué)生Shafer發(fā)展起來，也稱D-S理論。在專家系統(tǒng)的不精確推理中已得到廣泛的應(yīng)用。（也用在模式識(shí)別中）證據(jù)理論中引入了信任函數(shù)，它滿足概率論弱公理。在概率論中，當(dāng)先驗(yàn)概率很難獲得，但又要被迫給出時(shí)，用證據(jù)理論能區(qū)分不確定性和不知道的差別。所以它比概率論更合適于專家系統(tǒng)推理方法。當(dāng)概率值已知時(shí)，證據(jù)理論就成了概率論。因此，概率論是證據(jù)理論的一個(gè)特例，有時(shí)也稱證據(jù)淪為廣義概率論。證據(jù)理論(EvidentTheory)概述54證據(jù)理論(EvidentTheory)概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論(EvidentTheory)概述55證據(jù)理論(EvidentTheory)概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論(EvidentTheory)概述56證據(jù)理論(證據(jù)的不確定性)證據(jù)：用集合U來表示：如U中的每個(gè)元素代表一種疾病。討論一組疾病A發(fā)生的可能性時(shí)，A變成了單元（某些假設(shè)）的集合。U內(nèi)元素Ai間是互斥的，但Ai中元素間是不互斥的。證據(jù)理論(證據(jù)的不確定性)證據(jù)：57證據(jù)理論(證據(jù)的不確定性)基本概率分配函數(shù)：

m：２Ｕ→［0,1］ （在U的冪集２Ｕ上定義，取值[0,1］） m(A)表示了證據(jù)對Ｕ的子集A成立的一種信任度

有：空集為零

意義 若A屬于Ｕ，且不等于Ｕ，表示對A的精確信任度 若A等于Ｕ，表示這個(gè)數(shù)不知如何分配證據(jù)理論(證據(jù)的不確定性)基本概率分配函數(shù)：58證據(jù)理論(證據(jù)的不確定性)信任函數(shù)２Ｕ→［0,1］。（在Ｕ的冪集２Ｕ上定義，取值［0,1］） Bel(A)=有:Bel(Φ)=m(Φ)=0, Bel(Ｕ)==1

Bel類似于概率密度函數(shù)，表示A中所有子集的基本概率分配數(shù)值的和，用來表示對A的總信任度。

證據(jù)理論(證據(jù)的不確定性)信任函數(shù)59證據(jù)理論(證據(jù)的不確定性)似然函數(shù)Pl：２Ｕ→［0,1］。 （在Ｕ的冪集２Ｕ上定義，取值［0,1］） Pl(A)=1-Bel(～A)=

性質(zhì)：

0≤Bel(A)≤Pl(A)≤1(Bel是Pl的一部分)

稱Bel(A)和Pl(A)是A的下限不確定性值和上限不確定性值。證據(jù)理論(證據(jù)的不確定性)似然函數(shù)60證據(jù)理論(證據(jù)的不確定性)設(shè)函數(shù)f(Bel(A),Pl(A))，則有如下特殊值： f(１,１)：表示A為真

f(1,0)：表示A為假f(０,１)：表示對A一無所知

f(0,０)：不可能成立證據(jù)理論(證據(jù)的不確定性)設(shè)函數(shù)f(Bel(A),Pl(61證據(jù)理論概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論概述62證據(jù)理論概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論概述63證據(jù)理論(規(guī)則的不確定性)定義：

其中|A|、|U|為集合內(nèi)元素個(gè)數(shù)。性質(zhì)：對于AU

f1(Φ)=0，f1(Ｕ)=1，0≤f1(A)≤1證據(jù)理論(規(guī)則的不確定性)定義：64證據(jù)理論(規(guī)則的不確定性)推理形式：設(shè)子集合A、B，其中A={a1,a2,…,al}, B={b1,b2,…,bk}，用相應(yīng)的向量(c1,c2,…,ck)描述規(guī)則A→B， 其中：ci≥0,1≤i≤k,且∑cj≤1，1≤j≤k

已知事件A，由f1(A)求bk，bk=f1(A)ck

證據(jù)理論(規(guī)則的不確定性)推理形式：65證據(jù)理論概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論概述66證據(jù)理論概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論概述67證據(jù)理論(推理計(jì)算)f1(A1∧A2)=min{f1(A1),f1(A2)}

f1(A1∨A2)=max{f1(A1),f1(A2)}

已知:f1(A)，A→B，(c1,c2,…,ck)。求:f1(B)

規(guī)定：m({b1},{b2},…,{bk})= (f1(A)c1,f1(A)c2,…,f1(A)ck)

m(U)=1–證據(jù)理論(推理計(jì)算)f1(A1∧A2)=min{f68證據(jù)理論(推理計(jì)算)證據(jù)的組合：m1,m2在U上的合成（對于同樣的證據(jù)，由于來源不同，得到二個(gè)概率分配函數(shù)m1,m2）定義：m=

m1⊙m2

規(guī)定：m(Φ)=0，

m(A)=

其中K－1＝1－且K－10。若K－1＝0，認(rèn)為m1，m2矛盾，沒有聯(lián)合基本概率分配函數(shù)。證據(jù)理論(推理計(jì)算)證據(jù)的組合：m1,m2在U上的合成69第四章不確定性推理 TheEnd第四章不確定性推理70第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述71第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論第四章不確定性推理概述72概述不精確思維并非專家的習(xí)慣或愛好所至，而是客觀現(xiàn)實(shí)的要求。很多原因?qū)е峦唤Y(jié)果推理所需的信息不完備背景知識(shí)不足信息描述模糊信息中含有噪聲規(guī)劃是模糊的推理能力不足解題方案不唯一在人類的知識(shí)和思維行為中，精確性只是相對的，不精確性才是絕對的。知識(shí)工程需要各種適應(yīng)不同類的不精確性特點(diǎn)的不精確性知識(shí)描述方法和推理方法。概述不精確思維并非專家的習(xí)慣或愛好所至，而是客觀現(xiàn)實(shí)的要求。73不確定性推理不確定性的類型隨機(jī)性模糊性不完全性（對事物認(rèn)識(shí)不足）不一致性 （隨著推理的進(jìn)行，原來成立的，變的不那么成立了）不確定性推理不確定性的類型74不確定性的表示（I）（1）知識(shí)不確定性的表示知識(shí)不確定性的表示方式是與不確定性推理方法密切相關(guān)的一個(gè)問題。在選擇知識(shí)的不確定性表示時(shí)，通常需要考慮以下兩個(gè)方面的因素：要能夠比較準(zhǔn)確地描述問題本身的不確定性便于推理過程中不確定性的計(jì)算一般將這兩個(gè)方面的因素結(jié)合起來綜合考慮。知識(shí)的不確定性通常為一個(gè)數(shù)值，也稱為知識(shí)的靜態(tài)強(qiáng)度。不確定性的表示（I）（1）知識(shí)不確定性的表示75不確定性的表示（II）知識(shí)的靜態(tài)強(qiáng)度可以是該知識(shí)在應(yīng)用中成功的概率，也可以是該知識(shí)的可信程度等。如果用知識(shí)在應(yīng)用中成功的概率來表示靜態(tài)強(qiáng)度，則其取值范圍為[0，1]，該值越接近于1，說明該知識(shí)越接近于“真”；其值越接近于0，說明該知識(shí)越接近于“假”。如果用知識(shí)的可信度來表示靜態(tài)強(qiáng)度，則其取值范圍為[-1，1]，當(dāng)該值大于0時(shí)，值越大說明知識(shí)越接近于"真"，當(dāng)其值小于0時(shí)，值越小說明知識(shí)越接近于"假"。在實(shí)際應(yīng)用中，知識(shí)的不確定性是由領(lǐng)域?qū)＜医o出的。不確定性的表示（II）知識(shí)的靜態(tài)強(qiáng)度可以是該知識(shí)在應(yīng)用中成76不確定性的表示（III）（2）證據(jù)的不確定性的表示推理中的證據(jù)有兩種來源：一種是用戶在求解問題時(shí)所提供的初始證據(jù)，如病人的癥狀、檢查結(jié)果等；另一種是在推理中得出的中間結(jié)果，即把當(dāng)前推理中所得到的中間結(jié)論放入綜合數(shù)據(jù)庫，并作為以后推理的證據(jù)來使用。一般來說，證據(jù)的不確定性表示應(yīng)該與知識(shí)的不確定性表示保持一致，以便推理過程能對不確定性進(jìn)行統(tǒng)一處理。證據(jù)的不確定性可以用概率來表示，也可以用可信度等來表示，其意義與知識(shí)的不確定性類似。不確定性的表示（III）（2）證據(jù)的不確定性的表示77要解決的問題事實(shí)的表示規(guī)則的表示邏輯運(yùn)算運(yùn)算規(guī)則運(yùn)算規(guī)則的合成要解決的問題事實(shí)的表示78不確定性推理法的類型（I）

關(guān)于不確定性推理的類型由多種不同的分類方法，如果按照是否采用數(shù)值來描述非精確性，可將其分為數(shù)值方法和非數(shù)值方法兩大類型。數(shù)值方法是一種用數(shù)值對非精確性進(jìn)行定量表示和處理的方法。非數(shù)值方法是指除數(shù)值方法以外的其他各種對不確定性進(jìn)行表示和處理的方法，如非單調(diào)推理等。不確定性推理法的類型（I）關(guān)于不確定性推理的類型由多種不同79不確定性推理法的類型（II）

對于數(shù)值方法，又可按其所依據(jù)的理論分為兩種類型一類是基于概率論的有關(guān)理論發(fā)展起來的方法，稱為基于概率的模型，如確定性理論、主管Bayes方法、證據(jù)理論、可能性理論等；另一類是基于模糊邏輯理論發(fā)展起來的可能性理論方法，稱為模糊推理。不確定性推理法的類型（II）對于數(shù)值方法，又可按其所依據(jù)的80概述不確定問題的數(shù)學(xué)模型表示的3方面問題表示問題： 表達(dá)要清楚。表示方法規(guī)則不僅僅是數(shù)，還要有語義描述。計(jì)算問題： 不確定性的傳播和更新。也是獲取新信息的過程。語義問題： 將各個(gè)公式解釋清楚。概述不確定問題的數(shù)學(xué)模型表示的3方面問題81第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述82第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述83不確定性推理模型的基本結(jié)構(gòu)規(guī)則的一般表示形式：IFETHENH(C(H，E))其中：E表示規(guī)則的前提條件，即證據(jù)H表示規(guī)則的結(jié)論部分，即假設(shè)C(H,E)表示規(guī)則的精確程度或可信度。任何一個(gè)不確定性推理模型必須解決三個(gè)問題：前提(證據(jù)，事實(shí))的不確定性描述規(guī)則(知識(shí))的不確定性描述不確定性的更新算法不確定性推理模型的基本結(jié)構(gòu)規(guī)則的一般表示形式：84不確定性推理模型的基本結(jié)構(gòu)證據(jù)的不確定性C(E),表示證據(jù)E為真的程度。需定義其在三種典型情況下的取值：E為真E為假對E一無所知(該情況下的取值稱為證據(jù)的單位元e(E))規(guī)則的不確定性C(H，E),表示規(guī)則的強(qiáng)度。需定義其在三種典型情況下的取值：若E為真則H為真若E為假則H為假E對H沒有影響(該情況下的取值稱為規(guī)則的單位元e(H,E))不確定性推理模型的基本結(jié)構(gòu)證據(jù)的不確定性C(E)85不確定性推理模型的基本結(jié)構(gòu)一個(gè)不確定性推理模型必須包括下列算法：(1)C(H)=g1[C(E),C(H,E)](2)C(H)=g2[C1(H),C2(H)](3)C(E1ANDE2)=g3[C(E1),C(E2)](4)C(E1ORE2)=g4[C(E1),C(E2)](5)C(~E)=~C(E)不確定性推理模型的基本結(jié)構(gòu)一個(gè)不確定性推理模型必須包括下列算86不確定性推理模型的基本結(jié)構(gòu)一個(gè)不確定性推理模型必須滿足下列條件：(1)當(dāng)全部證據(jù)和規(guī)則都是確定性的時(shí)候，此模型應(yīng)滿足確定性推理。(2)若算法(1)中，C(E)=e(H),則C(H)=e(H)(3)若算法(2)中，C1(H)=e(H)，則C(H)=C2(H)C2(H)=e(H)，則C(H)=C1(H)(4)若算法(1)中，C(H，E)=e(H),則C(H)=e(H)(5)在算法(3)中，g3(x1,…,xn)<=min(x1,…,xn)(6)在算法(4)中，g4(x1,…,xn)>=max(x1,…,xn)不確定性推理模型的基本結(jié)構(gòu)一個(gè)不確定性推理模型必須滿足下列條87第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述88第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述89確定性方法（可信度方法）E.Short和B.Buchanan在MYCIN系統(tǒng)研制過程中產(chǎn)生了不確定推理方法,第一個(gè)采用了不確定推理邏輯，70年代很有名。提出該方法時(shí)應(yīng)遵循的原則不采用嚴(yán)格的統(tǒng)計(jì)理論。使用的是一種接近統(tǒng)計(jì)理論的近似方法。用專家的經(jīng)驗(yàn)估計(jì)代替統(tǒng)計(jì)數(shù)據(jù)盡量減少需要專家提供的經(jīng)驗(yàn)數(shù)據(jù)，盡量使少量數(shù)據(jù)包含多種信息。新方法應(yīng)適用于證據(jù)為增量式地增加的情況。專家數(shù)據(jù)的輕微擾動(dòng)不影響最終的推理結(jié)論。確定性方法（可信度方法）E.Short和B.Buchana90理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法91理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。

規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法92理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法93規(guī)則(規(guī)則的不確定性度量）規(guī)則A→B， 可信度表示為CF(B,A)。規(guī)則(規(guī)則的不確定性度量）規(guī)則A→B， 可信度表94規(guī)則(規(guī)則的不確定性度量）CF(B,A)表示的意義證據(jù)為真時(shí)相對于P(～B)=1-P(B)來說，A對B為真的支持程度。即A發(fā)生更支持B發(fā)生。此時(shí)CF(B,A)≥0?；颍鄬τ赑(B)來說，A對B為真的不支持程度。即A發(fā)生不支持B發(fā)生。此時(shí)CF(B,A)<0。結(jié)論-1≤CF(B,A)≤1規(guī)則(規(guī)則的不確定性度量）CF(B,A)表示的意義95規(guī)則(規(guī)則的不確定性度量）CF(B,A)的特殊值：CF(B,A)=1， 前提真，結(jié)論必真CF(B,A)=-1，前提真，結(jié)論必假CF(B,A)=0，前提真假與結(jié)論無關(guān)實(shí)際應(yīng)用中CF(B,A)的值由專家確定，并不是由P(B|A),P(B)計(jì)算得到的。規(guī)則(規(guī)則的不確定性度量）CF(B,A)的特殊值：96理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法97理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。

規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法98規(guī)則(證據(jù)的不確定性度量）證據(jù)A的可信度表示為CF(A) 同樣有：-1≤CF(A)≤1特殊值：CF(A)=1， 前提肯定真 CF(A)=-1， 前提肯定假

CF(A)=0， 對前提一無所知CF(A)＞0，表示A以CF(A)程度為真 CF(A)＜0，表示A以CF(A)程度為假規(guī)則(證據(jù)的不確定性度量）證據(jù)A的可信度表示為CF(A)99理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法100理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個(gè)最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。

規(guī)則規(guī)則的不確定性度量證據(jù)（前提）的不確定性度量。推理計(jì)算。確定性方法理論基礎(chǔ)確定性方法101規(guī)則(推理計(jì)算－1）“與”的計(jì)算：

A1

∧A2

→B CF(A1

∧A2)=min{CF(A1),CF(A2)}“或”的計(jì)算： A1

∨A2

→B CF(A1

∨A2)=max{CF(A1),CF(A2)}“非”的計(jì)算： CF(～A

)=～CF(A

)由A，

A→B，

求B： CF(B)=CF(A

)·CF(B,A

) (CF(A

)＜0時(shí)可以不算即為“0”)規(guī)則(推理計(jì)算－1）“與”的計(jì)算： A1∧A2102規(guī)則(推理計(jì)算－2）更新，由兩條規(guī)則求出再合并：由CF１(B)、CF２(B)，求CF(B)

規(guī)則(推理計(jì)算－2）更新，由兩條規(guī)則求出再合并：103規(guī)則(推理計(jì)算－3）由CF(A)、A→B、CF(B,A

)、CF(B)，求

B

：當(dāng)A必然發(fā)生，CF(A)=1時(shí)：規(guī)則(推理計(jì)算－3）由CF(A)、A→B、CF(B,104規(guī)則(推理計(jì)算－4）當(dāng)A不必然發(fā)生，CF(A)<1時(shí)：0<CF(A)<1，

用CF(A)CF(B,A)代替CF(A)=1時(shí)的CF(B,A)即可。CF(A)<0， 規(guī)則AB不可使用，即此計(jì)算不必進(jìn)行。 （如MYCIN系統(tǒng)CF(A)0.2就認(rèn)為是不可使用的。其目的是使專家數(shù)據(jù)經(jīng)輕微擾動(dòng)不影響最終結(jié)果。）注意：以上公式不滿足組合交換性。（應(yīng)在分母加項(xiàng)）規(guī)則(推理計(jì)算－4）當(dāng)A不必然發(fā)生，CF(A)<1時(shí)：105規(guī)則(推理計(jì)算－5）評(píng)論可信度方法的宗旨不是理論上的嚴(yán)密性，而是處理實(shí)際問題的可用性。不可一成不變地用于任何領(lǐng)域，甚至也不能適用于所有科學(xué)領(lǐng)域。推廣至一個(gè)新領(lǐng)域時(shí)必須根據(jù)情況修改。規(guī)則(推理計(jì)算－5）評(píng)論106第四章不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述107第四章不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述108主觀貝葉斯方法概述在Prospector的探礦系統(tǒng)的研究過程中提出的。 原有貝葉斯公式只考慮A出現(xiàn)對B的影響，沒有考慮A不出現(xiàn)的影響。貝葉斯規(guī)則：當(dāng)B為n個(gè)互不相容事件的集合時(shí)，貝葉斯公式可寫為：主觀貝葉斯方法概述109主觀貝葉斯方法思路先定好應(yīng)該怎么辦，再湊公式。主要是避開P(A|B)的計(jì)算。規(guī)則的不確定性定義：

表示A為真時(shí)，對B的影響。（規(guī)則成立的充分性）主觀貝葉斯方法思路表示A為真時(shí)，對B的影響。（規(guī)則成立的充分110主觀貝葉斯方法（規(guī)則的不確定性）

表示A為假時(shí)，對B的影響。（規(guī)則成立的必要性）（確定性理論中沒有考慮這點(diǎn)）幾率函數(shù)O(X)主觀貝葉斯方法（規(guī)則的不確定性）表示A為假時(shí)，對B的影111主觀貝葉斯方法（規(guī)則的不確定性）O(X)的性質(zhì)P(X)=0時(shí),O(X)=0 假P(X)=0.5時(shí),O(X)=1P(X)=1時(shí),O(X)=∞ 真O(X)與LN，LS的關(guān)系O(B|A)=LS?O(B)O(B|~A)=LN?O(B)主觀貝葉斯方法（規(guī)則的不確定性）O(X)的性質(zhì)112主觀貝葉斯方法（規(guī)則的不確定性），且必須滿足：主觀貝葉斯方法（規(guī)則的不確定性），且必須滿足：113主觀貝葉斯方法（規(guī)則的不確定性）LS、LN≥０，不獨(dú)立。LS,LN不能同時(shí)＞１或＜１LS,LN可同時(shí)＝1主觀貝葉斯方法（規(guī)則的不確定性）LS、LN≥０，不獨(dú)立。114主觀貝葉斯方法（證據(jù)A的不確定性）P(A)或O(A)表示證據(jù)A的不確定性主觀貝葉斯方法（證據(jù)A的不確定性）P(A)或O(A)表示證據(jù)115主觀貝葉斯方法（推理計(jì)算1）A必出現(xiàn)時(shí)：O(B|A)=LS?O(B)O(B|~A)=LN?O(B)

若需要概率時(shí)：主觀貝葉斯方法（推理計(jì)算1）A必出現(xiàn)時(shí)：116主觀貝葉斯方法（推理計(jì)算2）A不確定時(shí)：即P(A)1（1976年的算法）向前看一步A’，A’為與A有關(guān)的所有觀察P(B|A’)=P(B|A)P(A|A’)+P(B|～A)P(～A|A’)

P(A|A’)=1時(shí)，證據(jù)A必然出現(xiàn)（P95）

P(A|A’)=0時(shí)，LN代替上式的LS，公式（2）P(A|A’)=P(A)時(shí)，(A’對A無影響)，由上式

P(B|A’)=P(B)

主觀貝葉斯方法（推理計(jì)算2）A不確定時(shí)：即P(A)1117主觀貝葉斯方法（推理計(jì)算2）P(A|A’)與P(B|A’)坐標(biāo)系上的三點(diǎn)：(p.96)

總之是找一些P(A|A’)與P(B|A’)的相關(guān)值，兩點(diǎn)也可以做曲線（或折線、直線）。由差值法從線上得到其它點(diǎn)的結(jié)果，具體過程見教科書上例題。主觀貝葉斯方法（推理計(jì)算2）118主觀貝葉斯方法（推理計(jì)算3）兩個(gè)證據(jù)時(shí)：

主觀貝葉斯方法（推理計(jì)算3）兩個(gè)證據(jù)時(shí)：119主觀貝葉斯方法主觀Bayes方法的評(píng)價(jià)優(yōu)點(diǎn)：計(jì)算方法直觀、明了。缺點(diǎn)：要求Bj相互無關(guān)（實(shí)際不可能）。P(A|B’)與P(Bi)很難計(jì)算。應(yīng)用困難。主觀貝葉斯方法主觀Bayes方法的評(píng)價(jià)120第四章不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述121第四章不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論第四章不確定性推理概述122證據(jù)理論(EvidentTheory)概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論(EvidentTheory)概述123證據(jù)理論(EvidentTheory)概述由Dempster首先提出，并由他的學(xué)生Shafer發(fā)展起來，也稱D-S理論。在專家系統(tǒng)的不精確推理中已得到廣泛的應(yīng)用。（也用在模式識(shí)別中）證據(jù)理論中引入了信任函數(shù)，它滿足概率論弱公理。在概率論中，當(dāng)先驗(yàn)概率很難獲得，但又要被迫給出時(shí)，用證據(jù)理論能區(qū)分不確定性和不知道的差別。所以它比概率論更合適于專家系統(tǒng)推理方法。當(dāng)概率值已知時(shí)，證據(jù)理論就成了概率論。因此，概率論是證據(jù)理論的一個(gè)特例，有時(shí)也稱證據(jù)淪為廣義概率論。證據(jù)理論(EvidentTheory)概述124證據(jù)理論(EvidentTheory)概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論(EvidentTheory)概述125證據(jù)理論(EvidentTheory)概述證據(jù)的不確定性規(guī)則的不確定性推理計(jì)算證據(jù)理論(EvidentTheory)概述