人工智能第5章不確定性推理ppt課件

1、 第四章 不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論 第四章 不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論概述不精確思維并非專家的習(xí)慣或愛好所至，而是客觀現(xiàn)實的要求。很多原因?qū)е峦唤Y(jié)果推理所需的信息不完備背景知識不足信息描述模糊信息中含有噪聲規(guī)劃是模糊的推理能力不足解題方案不唯一 在人類的知識和思維行為中，精確性只是相對的，不精確性才是絕對的。知識工程需要各種適應(yīng)不同類的不精確性特點的不精確性知識描述方法和推理方法。不確定性推理不確定性的類型隨機性模糊性不完全性 （對事物認(rèn)識不足）不一致性（隨著推理的進(jìn)行，原來成

2、立的，變的不那么成立了）不確定性的表示不確定性的表示 （I）（1知識不確定性的表示 知識不確定性的表示方式是與不確定性推理方法密切相關(guān)的一個問題。在選擇知識的不確定性表示時，通常需要考慮以下兩個方面的因素：要能夠比較準(zhǔn)確地描述問題本身的不確定性便于推理過程中不確定性的計算 一般將這兩個方面的因素結(jié)合起來綜合考慮。 知識的不確定性通常為一個數(shù)值，也稱為知識的靜態(tài)強度。不確定性的表示不確定性的表示 （II）知識的靜態(tài)強度可以是該知識在應(yīng)用中成功的概率，也可以是該知識的可信程度等。如果用知識在應(yīng)用中成功的概率來表示靜態(tài)強度，則其取值范圍為0，1，該值越接近于1，說明該知識越接近于“真”；其值越接近于

3、0，說明該知識越接近于“假”。如果用知識的可信度來表示靜態(tài)強度，則其取值范圍為-1，1，當(dāng)該值大于0時，值越大說明知識越接近于真，當(dāng)其值小于0時，值越小說明知識越接近于假。在實際應(yīng)用中，知識的不確定性是由領(lǐng)域?qū)＜医o出的。不確定性的表示不確定性的表示 （III）（2證據(jù)的不確定性的表示推理中的證據(jù)有兩種來源：一種是用戶在求解問題時所提供的初始證據(jù)，如病人的癥狀、檢查結(jié)果等；另一種是在推理中得出的中間結(jié)果，即把當(dāng)前推理中所得到的中間結(jié)論放入綜合數(shù)據(jù)庫，并作為以后推理的證據(jù)來使用。一般來說，證據(jù)的不確定性表示應(yīng)該與知識的不確定性表示保持一致，以便推理過程能對不確定性進(jìn)行統(tǒng)一處理。 證據(jù)的不確定性可以

4、用概率來表示，也可以用可信度等來表示，其意義與知識的不確定性類似。 要解決的問題事實的表示規(guī)則的表示邏輯運算運算規(guī)則運算規(guī)則的合成不確定性推理法的類型不確定性推理法的類型I） 關(guān)于不確定性推理的類型由多種不同的分類方關(guān)于不確定性推理的類型由多種不同的分類方法，如果按照是否采用數(shù)值來描述非精確性，法，如果按照是否采用數(shù)值來描述非精確性，可將其分為數(shù)值方法和非數(shù)值方法兩大類型。可將其分為數(shù)值方法和非數(shù)值方法兩大類型。數(shù)值方法是一種用數(shù)值對非精確性進(jìn)行定量表數(shù)值方法是一種用數(shù)值對非精確性進(jìn)行定量表示和處理的方法。示和處理的方法。非數(shù)值方法是指除數(shù)值方法以外的其他各種對非數(shù)值方法是指除數(shù)值方法以外的其

5、他各種對不確定性進(jìn)行表示和處理的方法，如非單調(diào)推不確定性進(jìn)行表示和處理的方法，如非單調(diào)推理等。理等。 不確定性推理法的類型不確定性推理法的類型II） 對于數(shù)值方法，又可按其所依據(jù)的理論分為兩對于數(shù)值方法，又可按其所依據(jù)的理論分為兩種類型種類型一類是基于概率論的有關(guān)理論發(fā)展起來的方法，一類是基于概率論的有關(guān)理論發(fā)展起來的方法，稱為基于概率的模型，如確定性理論、主管稱為基于概率的模型，如確定性理論、主管Bayes方法、證據(jù)理論、可能性理論等；方法、證據(jù)理論、可能性理論等；另一類是基于模糊邏輯理論發(fā)展起來的可能性另一類是基于模糊邏輯理論發(fā)展起來的可能性理論方法，稱為模糊推理。理論方法，稱為模糊推理。

6、 概述不確定問題的數(shù)學(xué)模型表示的3方面問題表示問題：表達(dá)要清楚。表示方法規(guī)則不僅僅是數(shù)，還要有語義描述。計算問題：不確定性的傳播和更新。也是獲取新信息的過程。語義問題：將各個公式解釋清楚。 第四章 不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論 第四章 不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論不確定性推理模型的基本結(jié)構(gòu)規(guī)則的一般表示形式： IF E THEN H ( C ( H， E ) ) 其中： E 表示規(guī)則的前提條件，即證據(jù) H 表示規(guī)則的結(jié)論部分，即假設(shè) C ( H, E ) 表示規(guī)則的精確程度或

7、可信度。任何一個不確定性推理模型必須解決三個問題： 前提(證據(jù)，現(xiàn)實)的不確定性描述 規(guī)則(知識)的不確定性描述 不確定性的更新算法不確定性推理模型的基本結(jié)構(gòu)證據(jù)的不確定性 C ( E ) ,表示證據(jù)E為真的程度。需定義其在三種典型情況下的取值： E 為真 E 為假 對 E 一無所知 ( 該情況下的取值稱為證據(jù)的單位元e(E) )規(guī)則的不確定性 C ( H，E ) ,表示規(guī)則的強度。需定義其在三種典型情況下的取值： 假設(shè) E 為真則H為真 假設(shè) E 為假則H 為假 E對 H沒有影響( 該情況下的取值稱為規(guī)則的單位元 e( H,E )不確定性推理模型的基本結(jié)構(gòu)一個不確定性推理模型必須包括下列算法

8、：(1) C ( H ) = g1 C( E ), C ( H, E) (2) C ( H ) = g2 C1(H), C2(H) (3) C ( E1 AND E2 ) = g3 C(E1), C(E2) (4) C ( E1 OR E2 ) = g4 C(E1), C(E2)(5) C ( E ) = C( E )不確定性推理模型的基本結(jié)構(gòu)一個不確定性推理模型必須滿足下列條件：(1) 當(dāng)全部證據(jù)和規(guī)則都是確定性的時候，此模型應(yīng)滿足確定性推理。(2) 若算法(1)中，C ( E ) = e(H),則C(H) = e(H)(3) 若算法(2)中，C1(H)=e(H)，則C(H)=C2(H) C

9、2(H)=e(H)，則C(H)=C1(H)(4) 若算法(1)中，C(H，E) = e(H),則C(H) = e(H) (5) 在算法(3)中，g3 (x1, xn) = max(x1,xn) 第四章 不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論 第四章 不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論確定性方法可信度方法）E.Short 和B.Buchanan 在MYCIN系統(tǒng)研制過程中產(chǎn)生了不確定推理方法,第一個采用了不確定推理邏輯，70年代很有名。 提出該方法時應(yīng)遵循的原則不采用嚴(yán)格的統(tǒng)計理論。使用的是一

10、種接近統(tǒng)計理論的近似方法。用專家的經(jīng)驗估計代替統(tǒng)計數(shù)據(jù)盡量減少需要專家提供的經(jīng)驗數(shù)據(jù)，盡量使少量數(shù)據(jù)包含多種信息。新方法應(yīng)適用于證據(jù)為增量式地增加的情況。專家數(shù)據(jù)的輕微擾動不影響最終的推理結(jié)論。 理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。 規(guī)則規(guī)則的不確定性度量證據(jù)前提的不確定性度量。推理計算。確定性方法理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。

11、 規(guī)則規(guī)則的不確定性度量證據(jù)前提的不確定性度量。推理計算。確定性方法理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。 規(guī)則規(guī)則的不確定性度量證據(jù)前提的不確定性度量。推理計算。確定性方法 規(guī)則 (規(guī)則的不確定性度量）規(guī)則 A B， 可信度表示為CF(B, A)。P(B)A)|P(B , P(B)P(B)-A)|P(BP(B)A)|P(B , P(B)1P(B)-A)|P(BA) CF(B,當(dāng)當(dāng) 規(guī)則 (規(guī)則的不確定性度量）CF(B, A)表示的意義證據(jù)為真時相對于P(B) =

12、1 - P(B)來說，A對B為真的支持程度。即A發(fā)生更支持B發(fā)生。 此時 CF(B, A) 0。 或，相對于P(B)來說，A對B為真的不支持程度。即A發(fā)生不支持B發(fā)生。 此時 CF(B, A) 0。 結(jié)論-1 CF(B, A) 1規(guī)則 (規(guī)則的不確定性度量）CF(B, A)的特殊值：CF(B, A) = 1， 前提真，結(jié)論必真CF(B, A) = -1，前提真，結(jié)論必假CF(B, A) = 0 ， 前提真假與結(jié)論無關(guān)實際應(yīng)用中CF(B, A)的值由專家確定，并不是由P(B|A), P(B)計算得到的。理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只

13、給出一個最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。 規(guī)則規(guī)則的不確定性度量證據(jù)前提的不確定性度量。推理計算。確定性方法理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。 規(guī)則規(guī)則的不確定性度量證據(jù)前提的不確定性度量。推理計算。確定性方法規(guī)則 (證據(jù)的不確定性度量）證據(jù)A的可信度表示為CF( A)同樣有：-1 CF( A) 1特殊值：CF( A) = 1， 前提肯定真 CF(A) = -1， 前提肯定假CF(A) = 0，對前提一無所知CF( A) 0，

14、表示A以CF( A)程度為真CF( A) 0， 表示A以CF( A)程度為假理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。 規(guī)則規(guī)則的不確定性度量證據(jù)前提的不確定性度量。推理計算。確定性方法理論基礎(chǔ)以定量法為工具，比較法為原則的相對確認(rèn)理論。采用此方法的MYCIN系統(tǒng)的診斷結(jié)果不是只給出一個最可信結(jié)論及其可信度，而是給出可信度較高的前幾位，供人們比較選用。 規(guī)則規(guī)則的不確定性度量證據(jù)前提的不確定性度量。推理計算。確定性方法規(guī)則 (推理計算 1）“與的計算： A1 A2 BC

15、F(A1 A2 ) = min CF(A1), CF(A2 )“或的計算： A1 A2 BCF(A1 A2 ) = max CF(A1), CF(A2 ) “非的計算：CF(A ) = CF(A ) 由A， A B，求 B： CF(B) = CF(A )CF(B,A ) (CF(A ) 0 時可以不算即為“0”)規(guī)則 (推理計算 2）更新，由兩條規(guī)則求出再合并： 由CF(B)、 CF(B)，求 CF(B) 符號不同與當(dāng)當(dāng) 當(dāng)(B)CF(B)CF (B)CF(B)CF0(B)CF0(B)CF (B)CF (B)CF(B)CF(B)CF0(B)CF0(B)CF (B)CF (B)CF-(B)CF(

16、B)CFCF(B)2121212121212121，規(guī)則 (推理計算 3）由CF(A)、A B、CF(B, A )、CF(B)，求 B ：當(dāng)A必然發(fā)生，CF(A)=1時：符號不同與當(dāng)當(dāng)當(dāng)A) CF(B,CF(B) A) CF(B,CF(B)0A) CF(B,0CF(B) CF(B)A)(1 CF(B,CF(B)0A) CF(B,0CF(B) CF(B)-A)(1 CF(B,CF(B)A)|CF(B，規(guī)則 (推理計算 4）當(dāng)A不必然發(fā)生，CF(A)1時：0 CF(A) 1，用CF(A)CF(B, A)代替CF(A)=1時的CF(B, A)即可。CF(A) 0，規(guī)則A B不可使用，即此計算不必進(jìn)行

17、。（如MYCIN系統(tǒng)CF(A)0.2就認(rèn)為是不可使用的。其目的是使專家數(shù)據(jù)經(jīng)輕微擾動不影響最終結(jié)果。）留意：以上公式不滿足組合交換性。（應(yīng)在分母加項）規(guī)則 (推理計算 5）評論可信度方法的宗旨不是理論上的嚴(yán)密性，而是處理實際問題的可用性。 不可一成不變地用于任何領(lǐng)域，甚至也不能適用于所有科學(xué)領(lǐng)域。推廣至一個新領(lǐng)域時必須根據(jù)情況修改。 第四章 不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論 第四章 不確定性推理概述不確定性推理模型的基本結(jié)構(gòu)確定性方法主觀Bayes方法證據(jù)理論可能性理論主觀貝葉斯方法概述在Prospector的探礦系統(tǒng)的研究過程中提出的。 原有貝葉斯公式只考慮A出

18、現(xiàn)對B的影響，沒有考慮A不出現(xiàn)的影響。 貝葉斯規(guī)則：當(dāng)B為n個互不相容事件的集合時，貝葉斯公式可寫為： P(A)B)P(B)|P(AA)|P(Bn1jjjiii)P(BB|P(A)P(BB|P(AA)|P(Bn 1i主觀貝葉斯方法思緒先定好應(yīng)該怎么辦，再湊公式。主要是避開P(A| B)的計算。 規(guī)則的不確定性定義：B)|P(AB)|P(ALS表示A為真時，對B的影響。（規(guī)則成立的充分性）主觀貝葉斯方法規(guī)則的不確定性） B)|AP(B)|AP(LN 表示A為假時，對B的影響。（規(guī)則成立的必要性） （確定性理論中沒有考慮這點）P(X)-1P(X)O(X) 幾率函數(shù)O(X)主觀貝葉斯方法規(guī)則的不確定

19、性）O(X)的性質(zhì)P(X) = 0時, O(X) = 0假P(X) = 0.5時, O(X) = 1P(X) = 1時, O(X) = 真O(X)與LN，LS的關(guān)系O(B|A) = LS O(B)O(B|A) = LN O(B)主觀貝葉斯方法規(guī)則的不確定性）BA O(B)A)|B O( 1BA O(B)A)|O(B 1BA O(B)A)|O(B 1LS不支持支持沒影響對BA O(B)A)|B O( 1BA O(B)A)|O(B 1BA O(B)A)|O(B 1LN不支持支持沒影響對，且必須滿足：主觀貝葉斯方法規(guī)則的不確定性）LS、LN，不獨立。LS, LN不能同時 或 LS, LN可同時1主觀

20、貝葉斯方法證據(jù)A的不確定性）一般情況），（真當(dāng)，假當(dāng)0, 0)(1)()(AAAPAPAOP(A)或O(A)表示證據(jù)A的不確定性主觀貝葉斯方法推理計算1）A必出現(xiàn)時：O(B|A) = LSO(B)O(B|A) = LNO(B) 若需要概率時：)(1)()(AOAOAP主觀貝葉斯方法推理計算2）A不確定時：即P(A) 1 （1976年的算法）向前看一步A， A 為與A有關(guān)的所有觀察 P(B|A) = P(B|A)P(A| A)+P(B|A)P(A| A) P(A| A) = 1時，證據(jù)A必然出現(xiàn)P95）P(A| A) = 0時，LN代替上式 的LS， 公式2）P(A| A) = P(A) 時，(

21、A對A無影響)，由上式 P(B| A) = P(B) 1 (1)() 1()()|() |(BPLSBPLSABPABP主觀貝葉斯方法推理計算2）P(A| A)與P(B| A)坐標(biāo)系上的三點：(p.96) 總之是找一些P(A| A)與P(B| A)的相關(guān)值， 兩點也可以做曲線或折線、直線）。由差值法從線上得到其它點的結(jié)果，具體過程見教科書上例題。)()()2(0) 1 (1) |(BPAPAAP公式公式主觀貝葉斯方法推理計算3）兩個證據(jù)時：) |(),|(min) |(2121AAPAAPAAAP) |(),|(max) |(2121AAPAAPAAAP主觀貝葉斯方法主觀Bayes方法的評價優(yōu)

22、點：計算方法直觀、明了。缺陷：要求Bj相互無關(guān)實際不可能）。P(A| B)與P(Bi) 很難計算。應(yīng)用困難。 第四章 不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論 第四章 不確定性推理概述確定性方法主觀Bayes方法證據(jù)理論可能性理論證據(jù)理論 (Evident Theory)n概述n證據(jù)的不確定性n規(guī)則的不確定性n推理計算證據(jù)理論 (Evident Theory)概述由Dempster首先提出，并由他的學(xué)生Shafer發(fā)展起來，也稱D-S理論。在專家系統(tǒng)的不精確推理中已得到廣泛的應(yīng)用。 （也用在模式識別中）證據(jù)理論中引入了信任函數(shù)，它滿足概率論弱公理。在概率論中，當(dāng)先驗概率很

23、難獲得，但又要被迫給出時，用證據(jù)理論能區(qū)分不確定性和不知道的差別。所以它比概率論更合適于專家系統(tǒng)推理方法。當(dāng)概率值已知時，證據(jù)理論就成了概率論。因此，概率論是證據(jù)理論的一個特例，有時也稱證據(jù)淪為廣義概率論。證據(jù)理論 (Evident Theory)概述證據(jù)的不確定性規(guī)則的不確定性推理計算證據(jù)理論 (Evident Theory)概述證據(jù)的不確定性規(guī)則的不確定性推理計算證據(jù)理論 (證據(jù)的不確定性)證據(jù)： 用集合U來表示：如U中的每個元素代表一種疾病。討論一組疾病A發(fā)生的可能性時，A變成了單元某些假設(shè)的集合。U內(nèi)元素Ai間是互斥的，但Ai中元素間是不互斥的。證據(jù)理論 (證據(jù)的不確定性)基本概率分配

24、函數(shù)： m：0,1（在U的冪集上定義，取值0,1）m(A)表示了證據(jù)對的子集A成立的一種信任度有： 空集為零 意義若A屬于，且不等于，表示對A的精確信任度若A等于，表示這個數(shù)不知如何分配1)(AmUA0)(m證據(jù)理論 (證據(jù)的不確定性)信任函數(shù)0,1。（在的冪集上定義，取值0,1）Bel(A) = 有: Bel() = m() = 0 , Bel() = = 1 Bel類似于概率密度函數(shù)，表示A中所有子集的基本概率分配數(shù)值的和，用來表示對A的總信任度。 ABm(B)ABBm)(證據(jù)理論 (證據(jù)的不確定性)似然函數(shù)Pl：0,1。（在的冪集上定義，取值0,1）Pl(A) = 1 - Bel(A) = 性質(zhì)：0 Bel(A) Pl(A) 1 ( Bel是Pl的一部分) 稱Bel(A)和Pl(A)是A的下限不確定性值和上限不確定性值