人工智能第四章非經(jīng)典推理

1、人工智能第四章非經(jīng)典推理第1頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日4.1 不確定性推理不確定性推理是研究復(fù)雜系統(tǒng)不完全性和不確定性的有力工具。有三種不確定性，即關(guān)于知識的不確定、關(guān)于證據(jù)的不確定性和關(guān)于結(jié)論的不確定性。關(guān)于結(jié)論的不確定性也叫做規(guī)則的不確定性，它表示當(dāng)規(guī)則的條件被完全滿足時，產(chǎn)生某種結(jié)論的不確定程度。第2頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日不確定性推理的定義 不確定性推理，就是從不確定性的初始證據(jù)（即已知事實(shí)）出發(fā)，通過運(yùn)用不確定性的知識，最終推出具有一定程度的不確定性但卻是合理或近乎合理的結(jié)論的思維過程。4.1.2 造成知識不精確性的主要原

2、因 （1）很多原因?qū)е峦唤Y(jié)果。如醫(yī)學(xué)上導(dǎo)致低燒的病因就很多，醫(yī)生只能作出猜測性判斷。 （2）信息的不完備性。如戰(zhàn)場態(tài)勢估計(jì)、股市波動預(yù)測等。 （3）背景知識的不充分性。如人類目前對癌癥機(jī)理還不了解。 （4）信息描述的模糊性。如“今天天氣比較好”。第3頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 （5）推理規(guī)則的模糊性。如“若物價(jià)上漲過快，就要緊縮信貸”等模糊規(guī)則。 （6）推理能力的局限性。如天氣預(yù)報(bào)，氣象專家只能滿足于時間不太長、精度盡可能好的預(yù)測算法。 （7）解題方案的不唯一性。無論是政治、經(jīng)濟(jì)、文化，還是軍事領(lǐng)域中的很多問題，一般都有多種可選方案，在無法絕對地判斷各方案優(yōu)劣的

3、情況下，只好選擇主觀上認(rèn)為相對較優(yōu)的方案，這又是一種不精確推理。不確定性推理的基本問題 除了必須解決經(jīng)典推理方法中同樣存在的推理方向、推理方法、控制策略等基本問題外，一般還需要著重解決不確定性的表示與度量、不確定性匹配、不確定性的傳遞算法，以及不確定性的合成等問題。第4頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日（1）不確定性的表示與度量選擇不確定性表示方法時應(yīng)考慮的因素：根據(jù)領(lǐng)域問題的特征將其不確定性比較準(zhǔn)確地描述出來，以滿足問題求解的需要；便于推理過程中對不確定性的推算。 知識的不確定性表示 靜態(tài)強(qiáng)度：表示相應(yīng)知識的不確定性程度的某個數(shù)值。它可以是相應(yīng)知識在應(yīng)用中成功的概率，也

4、可以是該條知識的可信程度等，其值范圍因其意義與使用方法的不同而不同。 證據(jù)的不確定性表示 推理中證據(jù)的來源：用戶在求解問題時提供的初始證據(jù)及推理中得到的中間結(jié)果。第5頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 動態(tài)強(qiáng)度：表示相應(yīng)證據(jù)的不確定性程度的數(shù)值。初始證據(jù)的動態(tài)強(qiáng)度由用戶給出；推理過程中所得到的中間結(jié)論（或中間結(jié)果）的動態(tài)強(qiáng)度由不確定性傳遞算法計(jì)算得到。 不確定性的度量：對于不同的知識及不同的證據(jù)，其不確定性的程度一般是不相同的，需要用不同的數(shù)據(jù)表示其不確定性程度，還需事先規(guī)定其取值范圍，只有這樣每個數(shù)據(jù)才會有確定的意義。例如，在專家系統(tǒng)MYCIN中， 可信度：表示知識及證

5、據(jù)的不確定性； 取值范圍：-1, 1； 當(dāng)可信度0時，其值越大表示相應(yīng)的知識或證據(jù)越接近于“真”； 當(dāng)可信度0，稱為事件B已發(fā)生條件下，事件A發(fā)生的條件概率第13頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日3.全概率公式與Bayes公式（1）全概率公式設(shè)事件A1，A2，An滿足：(1)任意兩個事件都互不相容，即當(dāng)ij時，有AiAj=(i=1，2，n；j=1，2， ，n)；(2)P(Ai)0 (i=1，2，n)；(3) 對任何事件B有： 第14頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日例：A1=取紅桃牌 A2=取方塊牌 A3=取黑桃牌 A4=取梅花牌 A5=取王牌 B=

6、取花臉牌 解: P(B)=P(A1)P(B|A1)+P(A2)P(B|A2) +P(A3)P(B|A3)+P(A4)P(B|A4) +P(A5)P(B|A5) =(13/543/13)4+2/540 =12/54第15頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日（2）Bayes公式設(shè)事件A1，A2，An兩兩互不相容，且它們構(gòu)成全部樣本空間，則對任何事件B有：稱這個公式為Bayes公式，同時稱P(Ai)，P(B|Ai)的值為先驗(yàn)概率；P(Ai|B)的值為后驗(yàn)概率。Bayes公式就是從先驗(yàn)概率推導(dǎo)出后驗(yàn)概率的公式。 【注意】：貝葉斯公式與全概率公式的區(qū)別。 （1）全概率公式是由原因到結(jié)

7、果的計(jì)算公式； （2）貝葉斯公式是在已知某種結(jié)果發(fā)生的情況下，尋求使這個結(jié)果發(fā)生的原因。貝葉斯公式在實(shí)際問題中有著十分重要的應(yīng)用。第16頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日4.3 確定性理論（可信度方法）1、可信度的概念 可信度是指人們根據(jù)以往經(jīng)驗(yàn)對某個事物或現(xiàn)象為真的程度的一個判斷，即人們對某個事物或現(xiàn)象為真的相信程度。在確定性理論中不確定性是用可信度表示的。2、C-F模型（1）知識的不確定性在C-F模型中，知識是用產(chǎn)生式規(guī)則表示的。 IF E THEN H （CF(H,E) E是知識的前提條件（證據(jù)），可以是一個簡單條件，也可以是由合取和析取構(gòu)成的復(fù)合條件。H是知識的結(jié)

8、論，可以是一個或多個結(jié)論。第17頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日CF(H,E)是知識的可信度。CF(H,E)的具體值由領(lǐng)域?qū)＜医o出，其取值范圍為一1，1。CF(H,E)0表示證據(jù)存在，增加結(jié)論為真的確定性程度，CF(H,E)越大結(jié)論越真，CF(H,E)1表示證據(jù)存在結(jié)論為真。相反，CF(H,E)0表示證據(jù)存在，增加結(jié)論為假的確定性程度，CF(H,E)越小結(jié)論越假，CF(H,E)一1表示證據(jù)存在結(jié)論為假。CF(H,E)0時，則表示證據(jù)與結(jié)論無關(guān)。例如： IF 發(fā)燒 AND 流鼻涕 THEN 感冒 (0.8)第18頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 （

9、2）可信度的定義 CF(H,E)=MB(H,E)-MD(H,E) MB(H,E):信任增長度，表示證據(jù)E的出現(xiàn)，使結(jié)論H為真的信任增長度。 若P（H）=1 否則 MD(H,E)：不信任增長度，表示證據(jù)E的出現(xiàn)，對結(jié)論H的不信任增長度。 若P（H）=0 否則 P（H）為H的先驗(yàn)概率，P（H|E）為H的條件概率第19頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 MB（H，E）0表示因證據(jù)E的出現(xiàn)增加對結(jié)論H為真的信任增長度，即P（H|E）P（H） MD（H，E）0表示因證據(jù)E的出現(xiàn)增加對結(jié)論H為真的不信任增長度，即P（H|E）P(H) 若P(H|E)=P(H) 若P(H|E)0時，MD

10、(H,E)=0 當(dāng)MD（H，E）0時，MB(H,E)=0第20頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日值域 0MB(H,E)1 0MD(H,E)1 -1CF(H,E)1典型值 -1 則P（H|E）=0 CF(H/E)= 0 則P（H|E）=P（H） 1 則P（H|E）=1對H的信任增長度等于對非H的不信任增長度 MD(H,E)=MB(H,E)CF不同于概率P 對于概率有：P(H)+P(H)=1 且0 P(H),P(H) 1 而 CF(H|E)+CF(H|E)=0 即：對H的可信度與對非H的可信度之和等于0第21頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日對同一前提E

11、，若支持若干個不同的結(jié)論Hi，則 （3）證據(jù)的不確定性 證據(jù)的不確定性是用證據(jù)的確定性因子CF(E)表示的。原始證據(jù)的確定性因子由用戶主觀地給出，非原始證據(jù)的確定性因子由不確定性推理獲得。值域當(dāng)證據(jù)E以某種程度為真時，有0CF(E)l。當(dāng)證據(jù)E以某種程度為假時，有-1CF(E)0。當(dāng)證據(jù)E一無所知時，有CF(E)0。典型值 當(dāng)證據(jù)E肯定為真時，有CF(E)l。 當(dāng)證據(jù)E肯定為假時，有CF(E)-1。 當(dāng)證據(jù)E一無所知時，有CF(E)0。第22頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日（4）不確定性推理算法E肯定存在 在證據(jù)E肯定存在時有CF(E)1，那么結(jié)論H的確定性因子為規(guī)則的

12、確定性因子，即 CF(H)CF(H，E)E不是肯定存在 在客觀的現(xiàn)實(shí)世界中，對證據(jù)的觀察往往也是不確定的。除此之外，證據(jù)E可能還是另一條規(guī)則的結(jié)論，這時也常常是不確定的。在這種情況下，結(jié)論H的確定性因子CF(H)不僅取決于規(guī)則的確定性因子CF(H，E)，而且還取決于證據(jù)E的確定性因子CF(E)。計(jì)算公式為 CF(H)CF(H，E)max0，CF(E)第23頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日證據(jù)是多個條件的邏輯組合證據(jù)是合取連接 即 E= E1 AND E2 ANDAND En 則 CF(E)CF(E1 AND E2 AND.AND En) minCF(E1)，CF(E2)

13、，. ，CF(En)證據(jù)是析取連接 這時，EE1 OR E2 OR . OR En，有 CF(E)CF(E1 OR E2 0R . OR En) maxCF(E1)，CF(E2)，. ，CF(En)第24頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日（5）結(jié)論不確定性的合成 當(dāng)多條知識推出相同結(jié)論，且這些知識的前提相互獨(dú)立，結(jié)論的可信度又不相同，則可用不確定性的合成算法求出該結(jié)論的綜合可信度。 若有兩條規(guī)則分別是 IF E1 THEN H (CF(H，E1) IF E2 THEN H (CF(H，E2) 那末首先分別計(jì)算出CF1(H)和CF2(H)： CF1(H)CF(H，E1) m

14、ax0，CF(E1) CF2(H)CF(H，E2) max0，CF(E2)第25頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日然后用公式 CF1(H)十CF2(H)-CF1(H)CF2(H) 若CF1(H)0 且CF2(H)0CF12(H) CF1(H)十CF2(H)十CF1(H)CF2(H)； 若CF1(H)0且CF2(H)0 (CF1(H)十CF2(H)/(1-min|CF1(H)|,|CF2(H)|)； 其他計(jì)算出由E1和E2組合而導(dǎo)出的確定性因子CF12(H)。第26頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日舉例有如下的推理規(guī)則： Rule l：IF E1 TH

15、EN H (0.9) Rule 2：IF E2 THEN H (0.7) Rule 3：IF E3 THEN H (-0.8) Rule 4：IF E4 AND E5 THEN E1 (0.7)Rule 5：IF E6 AND (E7 0R E8) THEN E2 (1.0)HE1E2E6E4E5ORAND0.9-0.80.71.0R1R3R4R5E3E7E80.7R2AND第27頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 在圖中，E3、E4、E5、E6、E7和E8為原始證據(jù)，其確定性因子由用戶給出，假定它們的值為：CF(E3)0.3， CF(E4)0.9， CF(E5)0.6，

16、 CF(E6)0.7， CF(E7)-0.3， CF(E8)0.8。求CF(H)=？解：先求出CF(E1)、CF(E2)和CF(E3) 。CF(E1)07max0，CF(E4 AND E5) 07max0，minCF(E4)，CF(E5) 07max0，min09，06 07max0，06 o706 0.42第28頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日CF(E2)1max0，CF(E6 AND (E7 OR E8) 1max(0，minCF(E6)，maxCF(E7)，CF(E8) 1max0，minCF(E6)，max-0.3，0.8 1max0，min0.7，0.8 1m

17、ax0，0.7 10.7 0.7CF(E3)0.3CF1(H)09max0，CF(E1) 09max0，042 09042 038第29頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日CF2(H)07max0，CF(E2) 07max0，07 0707 049CF3(H) 08CF(E3) 0803 024 CF1(H)0 且CF2(H)0 CF12(H)CF1(H)十CF2(H) CF1(H)CF2(H) 038十0490380. 4906838CF12(H)0 且CF3(H)1時，O(H|E)O(H)，說明E支持H，LS越大，O(H|E)就越大，即P(H|E)越大，說明E對H的支持

18、越強(qiáng)。當(dāng)LS時，O(H|E)，從而有P(H|E)1，說明E的存在導(dǎo)致H為真。 當(dāng)LS=1時，O(H|E)O(H)，說明E對H沒有影響 當(dāng)LS1時，O(H|E)1時，O(H|E)O(H)，說明E支持H，LN越大，O(H|E)就越大，即P(H|E)越大，說明E對H的支持越強(qiáng)。當(dāng)LN時，O(H|E)，從而有P(H|E)1，說明E的存在導(dǎo)致H為真。 當(dāng)LN=1時，O(H|E)O(H)，說明E對H沒有影響 當(dāng)LN1時，O(H|E)1且LN1； LS1 LS=LN=1第38頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日在主觀Bayes方法中，一條規(guī)則變成了如下的形式： IF E THEN (LS

19、，LN) H 其中參數(shù)LS，LN和先驗(yàn)幾率O(H)要由領(lǐng)域?qū)＜抑饔^給出。2.證據(jù)不確定性的描述 在主觀Bayes方法中，證據(jù)E的不確定性采用概率P的等價(jià)形式幾率來描述。 P(E) 0 當(dāng)E為假時 O(E)= = 當(dāng)E為真時 1-P(E) （0，+ ） 當(dāng)E非真也非假時3.組合證據(jù)不確定性的計(jì)算證據(jù)合取情況：E= E1 AND E2 ANDAND En設(shè)在觀察S之下，證據(jù)E1，E2，En的概率為P(E1|S)、P(E2|S)、P(En|S)，那么有 P(E|S)MinP(E1|S)，P(E2|S)，.，P(En|S)第39頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日4. 不確定性的更

20、新 根據(jù)證據(jù)E的概率P（E）及LS，LN的值，把H的先驗(yàn)概率P（H）或先驗(yàn)幾率O（H）更新為后驗(yàn)概率或后驗(yàn)幾率（1）當(dāng)證據(jù)E肯定為真時(P(E)1)可直接使用公式 O(H|E)LSO(H) 以求得使用規(guī)則EH后，O(H)的更新值O(H|E)。證據(jù)析取情況 E= E1 OR E2 0ROR En設(shè)在觀察S之下，證據(jù)E1，E2，.，En的概率為P(E1|S)、P(E2|S)、.、P(En|S)，那么有P(E|S)maxP(E1|S)，P(E2|S)，P(En|S)第40頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日若需要以概率的形式表示，則對上式反復(fù)應(yīng)用公式 P(E)= O(E)/(1+

21、O(E)計(jì)算出P(H|E)=(LSP(H)/(LS-1)P(H)+1)（2）當(dāng)證據(jù)E肯定為假時(P(E)1)可直接使用公式 O(H|E)LNO(H) 以求得使用規(guī)則EH后，O(H)的更新值O(H|E)。若以概率的形式表示P(H|E)=(LNP(H)/(LN-1)P(H)+1)第41頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日(3)當(dāng)證據(jù)E不確定時(P(E)1) 設(shè)S是與E有關(guān)的所有觀察，對規(guī)則EH來說有公式 P(H|S)P(H|E)P(E|S)十P(H|E)P(E|S)當(dāng)P(E|S)1時，P(E|S)=0,證據(jù)E必然出現(xiàn)，有 P(H|S)P(H|E)LSP(H)/(LS-1)P(H

22、)+1)當(dāng)P(E|S)0時，P(E|S)=1,證據(jù)E必然不出現(xiàn)有 P(H|S)=P(H|E)=LNP(H)/(LN-1) P(H)+1)當(dāng)P(E|S)P(E)時，即觀察S對E無影響有 P(H|S)=P(H|E) P(E)+P(H|E) P(E) =P(H)當(dāng)P(E|S)為其他值時 可以從P(E|S)分別為0，P(E)和1這3個特殊點(diǎn)采用分段線性插值的方法，確定與其相應(yīng)的P(H|S)值。第42頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日稱為EH公式P(E)P(E|S)01P(H|S)P(H|E)P(H)P(H|E) P(H/E) + P(E/S) 若 0 P(E/S) P(E) P(

23、H) + P(E/S) P(E) 若 P(E) P(E/S) 1P(H) P(H/E) P(E)P(H/E) P(H) 1 P(E) P(H/S) =第43頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日由用戶根據(jù)觀察S給出P(E|S)相當(dāng)困難引入可信度的概念（為用戶回答方便，采用-5到5這11個整數(shù)之一作為證據(jù)的可信度，用戶可以根據(jù)實(shí)際情況從中選擇）可信度C(E|S)和概率P(E|S)的對應(yīng)關(guān)系如下：C(E|S)=-5，即在觀察S下證據(jù)E肯定不存在，P(E|S)=0C(E|S)=0，表示S與E無關(guān)，即P(E|S)=P(E)C(E|S)=5，即在觀察S下證據(jù)E肯定存在，P(E|S)=1

24、C(E|S)為其它數(shù)時，可通過對上述三點(diǎn)進(jìn)行分段線性插值得到CP公式 第44頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日-5 -4 -3 -2 -1 0 1 2 3 4 5 P(E|S)=1P(E|S)=0P(E|S) P(E)C(E/S)第45頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日5. 結(jié)論不確定性的合成設(shè)一組相互獨(dú)立的證據(jù)E1、E2En的觀察分別為S1、S2Sn，且有規(guī)則E1H，E2H，EnH。假定由這些規(guī)則得到的結(jié)論H的后驗(yàn)幾率分別是O(H|S1)、O(H|S2)O(H|Sn)，那么由這些獨(dú)立證據(jù)的組合相應(yīng)得到的結(jié)論H的后驗(yàn)幾率為O(H|S1,S2,Sn)=

25、 O(H|S1)X O(H|S2)X O(H|Sn) X 0（H） O(H) O(H) O(H)第46頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日例1 設(shè)有如下規(guī)則：規(guī)則1: IF E1 THEN (2,0.001) H規(guī)則2: IF E2 THEN (100,0.001) H且O(H)=0.1, C(E1|S1)=2, C(E2|S2)=1 計(jì)算O(H|S1,S2)HE1S1E2S2第47頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日第48頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日第49頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日例2 PROS

26、PECTOR專家系統(tǒng)中的部分推理網(wǎng)絡(luò)如圖所示。圖中各結(jié)點(diǎn)的先驗(yàn)概率標(biāo)在結(jié)點(diǎn)的右上方，規(guī)則的LS和LN值標(biāo)在該規(guī)則連線的一側(cè)。用戶給出的各原始證據(jù)在各自的觀察之下概率為： P(E1|S1)0.7， P(E2|S2)0.6， P(E3|S3)0.02。 現(xiàn)要求計(jì)算結(jié)論H2的后驗(yàn)概率P(H2|S1,S2,S3)。H2H1E3E1E265,0.01300,0.00012,0.000001100,0.0000010.010.030.10.40.2第50頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日即有如下規(guī)則：R1: IF E1 THEN (2, 0.000001) H1R2: IF E2 T

27、HEN (100, 0.000001) H1R3: IF H1 THEN (65, 0.01) H2R4: IF E3 THEN (300, 0.0001) H2和專家給出的先驗(yàn)概率：P(E1)=0.2, P(E2)=0.4, P(E3)=0.03,P(H1)=0.1, P(H2)=0.01用戶給出的在觀察S下證據(jù)E的概率：P(E1|S1)=0.7, P(E2|S2)=0.6, P(E3|S3)=0.02第51頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日解 1根據(jù)P(E1|Sl)計(jì)算P(H1|Sl) 由于P(E1|S1)0.70.2P(E1)，所以P(H1|E1) LS P(H1)

28、 (LS-1) P(H1)十1 20.1 0.1818 (2-1)0.1十1 P(H1|S1)P(H1)十P(H1|E1)-P(H1) 1-P(E1) P(E1|S1)-P(E1) 0.1十 (0.7-0.2) 1-0.2 0.151125P(H|S)P(H1|E1)P(H1)P(H|E)P(E1)P(E|S)01P(E1|S1)P(H1|S1)P(H/S)=P(H| E)+(P(H)-P(H| E)/P(E)P(E|S) 0P(E|S)P(E) P(H/S)=P(H)+(P(H/E)-P(H)/(1-P(E)(P(E/S)-P(E) P(E)P(E|S)1第52頁，共85頁，2022年，5月

29、20日，11點(diǎn)1分，星期日2根據(jù)P(E2|S2)計(jì)算P(H1|S2)。由于P(E2|S2)0.80.4P(E2)，所以 P(H1|E2)LS P(H2) (LS-1) P(H2)+1 1000.1 0.9174311 990.1+1 P(H1|S2)P(H1)+P(H1|E2)-P(H1) 1-P(E2) P(E2|S2)-P(E2) 0.1 + (0.6-0.4) 1-0.4 0.372477P(H|S)P(H1|E2)P(H1)P(H|E)P(E2)01P(E2|S2)P(H1|S2)第53頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日3.根據(jù)獨(dú)立證據(jù)E1和E2計(jì)算P(H1|S1

30、,S2)。 先計(jì)算后驗(yàn)幾率O(H1|S1,S2)，由于 O(H1) P(H1) 0.1 0.1111111 1-P(H1) 1-0.1 O(H1|S1)P(H1|S1) 0.151125 1-P(H1|S1) 1-0.151125 0.1780297 O(H1|S2)P(H1 |S2) 0.372477 1-P(H1|S2) 1-0.372477 0.593567 由此得：O(H1|S1,S2)O(H1|S1) O(H1|S2) O(H1) O(H1) O(H1) 0.1780297 0.593567 0.111111 0.9510532 0.111111 0.111111然后計(jì)算后驗(yàn)概率P(

31、H1|Sl,S2)，得 P(H1|S1,S2) O(H1|S1,S2) 0.9520532 1+O(H1|S1,S2) 1.9510532 0.4874563第54頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日4根據(jù)P(H1|Sl,S2)計(jì)算P(H2|S1,S2)由于P(H1|S1,S2)0.48745630.1P(H1)，所以 P(H2|H1) LSP(H2) 65 0.01 (LS-1) P(H2)+1 640.01+1 0.3963414P(H2|S1,S2)P(H2) P(H2|H1)-P(H2) 1-P(H1) P(H1|Sl,S2)-P(H1) 0.01十 (0.4874

32、563-0.1) 1-0.1 0.1763226P(H|S)P(H2|Hl)P(H2)P(H|E)P(H1)01P(H1|S1 , S2)P(H2| S1 ,S2)第55頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日5根據(jù)P(E3|S3)計(jì)算P(H2|S3)。由于P(E3|S3)0.020.03，所以 P(H2| E3) LNP(H2) (LN-1) P(H2)+1 0.00010.01 0.000001 -0.99990.1+1P(H2|S3)P(H2| E3)+P(H2)-P(H2| E3) P(E3|S3) P(E3) 0.000001十0.02 0.03 0.006667 P

33、(H2)P(H|S)P(H2|E3)P(H2)P(H2|E3)P(E3)01P(E3|S3)P(H2|S3)第56頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 6根據(jù)獨(dú)立證據(jù)H1和E3計(jì)算P(H2|S1,S2,S3) 先計(jì)算后驗(yàn)幾率O(H2|Sl,S2,S3)，由于 O(H2) P(H2) 0.01 0.010l0l 1-P(H2) 1-0.01 O(H2|S1,S2) P(H2|S1,S2) 1-P(H2|S1,S2) 0.1763226 0.2140675 0.8236774 O(H2|S3) P(H2|S3) 1-P(H2|S3) 0.006667 0.00671174 0.

34、993333第57頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日因此得O(H2|S1,S2,S3)O(H2|S1,S2) O(H2|S3) O(H2) O(H2) O(H2) 0.21406750.006711740.010101 0.010101 0.010101 0.142239最后得到后驗(yàn)概率 P(H2|S1,S2,S3) O(H2|S1,S2,S3) 1+O(H2|S1,S2,S3) 0.142239 0.1245 1+0.142239以上計(jì)算表明，經(jīng)推理后假設(shè)H2的概率已從先驗(yàn)概率0.01增大到后驗(yàn)概率0.1245。第58頁，共85頁，2022年，5月20日，11點(diǎn)1分，星

35、期日主觀Bayes方法的優(yōu)點(diǎn)是：1基于Bayes規(guī)則的計(jì)算方法具有理論基礎(chǔ)和易于理解的數(shù)學(xué)性質(zhì)，它提供了兩個規(guī)則強(qiáng)度，恰當(dāng)?shù)靥幚砹俗C據(jù)存在和不存在兩種情況對假設(shè)的影響，以及分段線性插值方法較好地處理了主觀概率的數(shù)學(xué)不一致性.2該方法的計(jì)算工作量適中。第59頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日主觀Bayes方法的缺點(diǎn)是：1要求大量的先驗(yàn)概率（各種假設(shè)和推理過程中各級的證據(jù)的概率），專家不易給出。另外，由于概率的分派具有主觀性，所以在一個系統(tǒng)中很難保證由領(lǐng)域?qū)＜医o出的概率具有前后的一致性。2要求所有假設(shè)的概率都是獨(dú)立的，這在一個大型的專家系統(tǒng)中，要求把解空間分解為相互排斥的子集

36、可能是不實(shí)際的。3在系統(tǒng)中增加或刪除一個假設(shè)時，要對事件的概率進(jìn)行修改。為了保證系統(tǒng)的相關(guān)性和一致性，還必須重新計(jì)算所有的概率。4系統(tǒng)中的先驗(yàn)概率高度地依賴于上下文。例如，某種疾病的發(fā)生概率要依賴于地域位置和時間的變化，這給系統(tǒng)的處理帶來困難。第60頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日4.5 證據(jù)理論1.D-S理論的基本概念D-S證據(jù)理論是由Dempster提出，由他的學(xué)生Shafer發(fā)展起來的。該理論將概率論中的單點(diǎn)賦值擴(kuò)展為集合賦值，引進(jìn)了信任函數(shù)，可以滿足比概率函數(shù)的公理還要弱的公理，因而可以用來處理由“不知道”所引起的不確定性。（1）概率分配函數(shù) 設(shè)為變量x的所有可

37、能取值的有限集合，且中的每個元素都相互獨(dú)立，則由的所有子集構(gòu)成的冪集記為2。當(dāng)中的元素個數(shù)為N時，則其冪集2的元素個數(shù)為2N，且其中的每一個元素都對應(yīng)于一個關(guān)于x取值情況的命題。第61頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日例： 設(shè)=紅，黃，白，求的冪集2解： A0=， A1=紅， A2=黃， A3=白，A4=紅，黃， A5=紅，白， A6=黃，白， A7=紅，黃，白子集個數(shù)： 2N= 23=8定義： 設(shè)函數(shù)m：20，1，且滿足 m()=0 則稱m是2上的概率分配函數(shù)，m(A)為A的基本概率數(shù)。 m（，紅，黃，白，紅，黃，紅，白，黃，白，紅，黃，白）=（0，0.3，0，0.1，

38、0.2，0.2，0，0.2）為概率分配函數(shù)。第62頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日說明： 1）概率分配函數(shù)的作用是把的任意一個子集都映射為0，1上的一個數(shù)m(A)。當(dāng)A ，且A由單個元素組成時， m(A)表示對A的精確信任度；當(dāng)A 、A，且A由多個元素組成時，m(A)也表示對A的精確信任度，但不知道信任度該分給A中哪些元素；當(dāng)A=時，則m(A)也表示不知道該如何分配。 2）概率分配率不是概率。（2）信任函數(shù) 信任函數(shù)Bel定義為Bel：20，1 且 對所有的A 即命題A的信任函數(shù)的值是A的所有子集的概率分配函數(shù)m(B)(B A)的數(shù)值和，用信任函數(shù)Bel(A)表示對A的

39、總信任度。第63頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 根據(jù)定義有： Bel()=0 Bel()=1例： Bel(紅)=m(紅)=0.3 Bel(紅，白)=m(紅)+m(白)+m(紅，白) =0.3+0.1+0.2=0.6（3）似然函數(shù) 似然函數(shù)Pl定義為 Pl：20，1 且 Pl(A)=1-Bel(A) 對所有的A 其中A=-A Pl(A)表示對A為非假的信任度。 Pl(紅)=1-Bel(紅)=1-Bel(黃，白)=1-(m(黃）+m(白）+m(黃，白)=1-(0+0.1+0)=0.9第64頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 Pl(A)是所有與A相交子

40、集的概率分配函數(shù)m(B)(BA)的數(shù)值和。Pl(紅)=m(紅)+ m(紅,黃)+ m(紅，白)+ m(紅，黃，白) =0.3+0.2+0.2+0.2=0.9（4）信任函數(shù)與似然函數(shù)的關(guān)系 Pl(A)Bel(A) Bel(A)為對A的信任度的下限， Pl(A)為對A的信任度的上限，可表示為 ABel(A) , Pl(A) 如 紅0.3,0.9 第65頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 關(guān)于信任度的典型值 A0 , 1：說明對A一無所知。Bel（A)=0,說明對A不信任； Bel(A) =1- Pl(A)=0，說明對A也不信任。 A0 , 0：說明A為假。Bel（A)=0,說

41、明對A不信任； Bel(A) =1- Pl(A)=1，說明對A信任。 A1 , 1：說明A為真。Bel（A)=1,說明對A信任； Bel(A) =1- Pl(A)=0，說明對A不信任。 A0.6 ,1：說明對A部分信任。Bel（A)=0.6,說明對A有一定程度的信任； Bel(A) =1- Pl(A)=0，說明對A不信任。 A0 ,0.4：說明對A部分信任。Bel（A)=0,說明對A不信任； Bel(A) =1- 0.4=0.6，說明對A有一定程度的信任。 A0.3 ,0.9：說明對A和A都有部分信任。 Bel(A)=0.3,說明對A部分信任；Bel(A) =1- Pl(A) = 0.1 ，說

42、明對A也部分信任。第66頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日（5）概率分配函數(shù)的正交和 設(shè)m1和m2是兩個不同的概率分配函數(shù)，則其正交和m= m1m2滿足 m(）0其中： K0，則正交和m是一個概率分配函數(shù) K0，則不存在正交和m，m1與m2矛盾第67頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日例：設(shè)a，b，且從不同知識源得到的概率分配函數(shù)分別為： m1（,a,b,a,b）（0，0.3，0.5，0.2） m2（,a,b,a,b）（0，0.6，0.3，0.1）求正交和m= m1m2解： 1-(m1(a) m2(b)+ m1(b) m2(a) =1-(0.3 0.3

43、+0.3 0.6)=0.61 m(a)=1/0.61 (m1(a) m2(a)+ m1(a) m2(a,b)+ m1(a,b) m2(a) =1/0.61(0.30.6+0.30.1+0.20.6)=0.54同理：m(b)=0.43 m(a,b)=0.03所以：m(,a,b,a,b)=0,0.54,0.43,0.03第68頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日2.D-S理論的推理模型（1）特殊的概率分配函數(shù) 設(shè)s1， s1， sn,m為定義在2上的概率分配函數(shù)，且m滿足 （1)m(si)0 對任何si （2） （3） （4）當(dāng)A 且|A|1或|A|=0時，m(A)=0 其中，

44、|A|表示命題A所對應(yīng)的集合中的元素個數(shù)。只有單元素集的基本概率分配函數(shù)值才有可能大于0,由一個以上元素組成的子集的基本概率分配函數(shù)值均為0.第69頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 特殊的概率分配函數(shù)的信任函數(shù)、似然函數(shù)、正交和 對任何命題A ，其信任函數(shù)為 對任何命題A ，其似然函數(shù)為Pl(A)=1-Bel(A)1-1-m（）Bel(A）m()+Bel(A)Pl()=1-Bel()=1-Bel()=1對任何命題A 和B 均有 Pl(A)-Bel(A)=Pl(B)-Bel(B)=m()表示對A（或B）不知道的程度。第70頁，共85頁，2022年，5月20日，11點(diǎn)1分，

45、星期日設(shè)m1和m2是2上的基本概率分配函數(shù)，其正交和為其中例：設(shè)=紅，黃，白，有如下概率分配函數(shù)m（，紅，黃，白，紅，黃，白）=（0，0.6，0.2，0.1，0.1）A紅，黃，求m(）、Bel（A)和Pl(A)的值。 m()=1-m(紅)+ m(黃)+ m(白)1-（0.6+0.2+0.1）0.1 Bel(紅，黃) m(紅)+ m(黃)0.6+0.20.8 Pl(紅，黃)=m()+Bel(紅，黃)=0.1+0.8=0.9或Pl(紅，黃)=1-Bel(紅，黃)=1-Bel(白) =1-0.1=0.9第71頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日（2）類概率函數(shù) 設(shè)為有限域，對任何

46、命題A ，命題A的類概率函數(shù)為 f(A)=Bel(A)+|A|/| Pl(A)-Bel(A)其中，|A|和|分別是A及中元素的個數(shù)。 類概率函數(shù)f(A)具有如下性質(zhì) 2)對任何A ，有Bel(A)f(A) Pl(A)3)對任何A ，有f(A)=1-f(A)推論：1）f(）=02）f()=13)對任何A ,有0f(A) 1第72頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日例：設(shè)=紅，黃，白，概率分配函數(shù)m（，紅，黃，白，紅，黃，白）=（0，0.6，0.2，0.1，0.1）若A紅，黃，求f(A)的值 f(A)=Bel(A)+|A|/| Pl(A)-Bel(A) m(紅)+ m(黃)2/

47、3m(紅，黃，白) 0.6+0.2+2/30.10.87（3)知識不確定性的表示 IF E THEN H=h1,h2,hn CF=c1,c2,cn 其中：E是前提 H是結(jié)論 CF是可信度因子（4)證據(jù)不確定性的表示 在證據(jù)理論中，所有輸入的已知數(shù)據(jù)，規(guī)則前提條件及結(jié)論部分的命題都稱為證據(jù)。第73頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 設(shè)A是規(guī)則條件部分的命題，E是外部輸入的證據(jù)和已證實(shí)的命題，在證據(jù)E的條件下，命題A與證據(jù)E的匹配程度為 1 如果A的所有元素都出現(xiàn)在E中 MD(A/E)= 0 否則 條件部分命題A的確定性為 CER(A)=MD(A/E) f(A) CER(A)

48、0,1(5)組合證據(jù)非精確性的表示證據(jù)合取情況：E= E1 AND E2 ANDAND En CER(E)=minCER(E1),CER(E2),CER(En)證據(jù)析取情況: E= E1 OR E2 0ROR En CER(E)=maxCER(E1),CER(E2),CER(En)第74頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日(6)不確定性的更新 設(shè)有知識 IF E THEN H=h1,h2,hn CF=c1,c2,cn 則求結(jié)論H確定性CER(H)的方法如下： 1)求H的概率分配函數(shù) m(h1,h2,hn) =(CER(E)c1,CER(E)c2, CER(E)cn) m()

49、=1- 如有兩條知識支持同一結(jié)論H IF E1 THEN H=h1,h2,hn CF1=c1,c2,cn IF E2 THEN H=h1,h2,hn CF2=c1,c2,cn 則先求每一知識的概率分配函數(shù)： m1=m(h1,h2,hn) m2=m(h1,h2,hn) 再求H的概率分配函數(shù)：m= m1m2第75頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 如有多條知識支持同一結(jié)論H 則用公式 :m= m1m2mn 求H的概率分配函數(shù) 2)求Bel(H),Pl(H)及f(H) Pl(H)=1-Bel(H) f(H)=Bel(H)+|H|/| Pl(H)-Bel(H) =Bel(H)+|

50、H|/| m() 3)求CER(H) CER(H)=MD(H/E)f(H)第76頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日例：設(shè)有如下規(guī)則 r1:IF E1 AND E2 THEN A=a1,a2 CF=0.3,0.5 r2:IF E3 AND (E4 OR E5) THEN B=b1 CF=0.7 r3:IF A THEN H=h1,h2,h3 CF=0.1,0.5,0.3 r4:IF B THEN H= h1,h2,h3 CF=0.4,0.2,0.1已知初始證據(jù)的確定性為： CER(E1)=0.8 CER(E2)=0.6 CER(E3)=0.9 CER(E4)=0.5 CER

51、(E5)=0.7 假設(shè)中的元素個數(shù)|10 求：CER(H) 第77頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日HABE1E2=h1,h2,h3 = a1,a2 = b1 E3E4E5解：（1）求CER(A) CER(E1 AND E2)=minCER(E1),CER(E2)=min(0.8,0.6=0.6m(a1,a2)=0.6 0.3,0.6 0.5=0.18,0.3Bel(A)=m(a1)+m(a2)=0.18+0.3=0.48 Pl(A)=1-Bel(A)=1-0=1f(A)= Bel(A)+|A|/|Pl(A)-Bel(A) =0.48+2/100.52=0.584CER(

52、A)=MD(A/E)f(A)=0.584第78頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日（2）求CER(B) CER(E3 AND (E4 OR E5)=minCER(E3), maxCER(E4),CER(E5)=min(0.9,max(0.5,0.7=0.7m(b1)=0.70.7=0.49Bel(B)=m(b1) =0.49 Pl(B)=1-Bel(B)=1-0=1f(B)= Bel(B)+|B|/|Pl(B)-Bel(B) =0.49+1/101-0.49=0.541CER(B)=MD(B/E)f(B)=0.541(3)求CER(H)由r3:m1(h1,h2,h3) =CER(A)0.1,CER(A)0.5,CER(A)0.3 =0.058,0.292,0.175第79頁，共85頁，2022年，5月20日，11點(diǎn)1分，星期日 m1()=1-m1(h1)+ m1(h2)+m1(h3) =1-0.058+0.292+