不精確推理技術(shù)

1、不確定推理技術(shù)不確定性v 不確定性(uncerbinly)是智能問題的本質(zhì)特征，無論是人類智能還是人工智能，都離不開不確定性的處理。v可以說，智能主要反映在求解不確定性問題的能力上。因此，不確定推理模型是人工智能與專家系統(tǒng)的一個核心研究課題。v不確定性通常表現(xiàn)在證據(jù)、規(guī)則和推理三個方面證據(jù)的不確定性v歧義性（在知識獲取階段要避免）v不完全性v不精確性v模糊性v可信性v隨機性規(guī)則的不確定性v構(gòu)成前提條件的模式的不確定性v觀察證據(jù)的不確定性v組合證據(jù)的不確定性v規(guī)則自身的不確定性v規(guī)則結(jié)論的不確定性v搜索策略帶來的不確定性推理的不確定性v推理過程中要進行不確定性的動態(tài)積累和傳播的計算，得出結(jié)果的不

2、確定性v不確定推理網(wǎng)絡可以分解為三種基本模式推理的不確定性v證據(jù)邏輯組合模式F證據(jù)的合取：求e1e2 en的不確定度： MU=f(MU1,MU2,MUn)F證據(jù)的析?。呵骵1e2 en的不確定度： MU=g(MU1,MU2,MUn)F證據(jù)的否定：求ei的不確定度：MU=nMU(MUi)推理的不確定性v并行規(guī)則模式： if ei then h, i=1,n 所有規(guī)則都滿時h 的不確定度：MU=pMU(MU1,MU2,MUn)v順序規(guī)則模式： if e then e; MU0 if e then h; Mu1 求：if e then h 的不確定度 MU=s(MU0,MU1)推理的不確定性v一旦給

3、定上述三種組合模式不確定性的計算方法，即可從觀察證據(jù)出發(fā)得到結(jié)論的不確定度v不確定性推理模型就是證據(jù)和規(guī)則的不確定性測度方法和組合計算模式主觀Bayes方法v 不確定性與概率有許多內(nèi)在的聯(lián)系，可將概率理論用作一種不確定性的處理工具v 現(xiàn)實世界中的不確定性是非常豐富的，要使用概率來描述專家系統(tǒng)中的不確定性，必須將概率的含義加以拓展v專家系統(tǒng)中，概率一般解釋為專家對證據(jù)和規(guī)則的主觀信任度（注意：這里不采取先驗概率是上帝結(jié)定的、不可知的，只能逐步逼近的觀點），對概率推理起著支撐作用的是Bayes定理主觀Bayes方法v 1976年Duda等人在開發(fā)PROSPECTOR的過程中，針對專家系統(tǒng)推理網(wǎng)絡的

4、特點，對主觀Bayes 法做了重要的改進。該方法及其變種在專家系統(tǒng)領域中得到了廣泛的應用v 在專家系統(tǒng)的概率推理模型中證據(jù)e的不確定性為e發(fā)生的概率P(e)；產(chǎn)生式規(guī)則 “if e then h” 的不確定性通常解釋為在事件e(證據(jù))已經(jīng)發(fā)生的情況下，事件h(假設)發(fā)生的概率P(h|e)主觀Bayes方法v 貝葉斯方法用于專家系統(tǒng)不確定推理的一個原始條件是： 領域?qū)＜一蛑R工程師對每個命題(包括初始證據(jù)e及中間假設h)的先驗概率P(e)和P(h)已經(jīng)預先賦值，同時，對于每一假設h及其相關(guān)證據(jù)e已經(jīng)給出h成立時，e出現(xiàn)的條件概率P(eI h)v 如果只使用一條規(guī)則進行一步推理，則使用如下最簡形式

5、的貝葉斯公式便可以從假設h的先驗概率P(h)推得h的后驗概率： )()()|()|(hphphepehp主觀Bayes方法v Bayes推理過程實質(zhì)上就是從證據(jù)出發(fā)，將每一步推理得到的結(jié)論的先驗概率修改為條件概率的過程v主觀Bayes方法的兩個基本假設：1若一組證據(jù)e1，e2，en同時支持假設h則 對于h，h；證據(jù)之間相互獨立2當一個證據(jù)e支持多個假設h1,h2,，hn時，假設 hl,h2,hn之間互不相容主觀Bayes方法v 主觀Bayes方法的基本定理： 1)()(hphpiiehp1)|(iiiepehphp)()|()()()|(.).&|().&|().&(1

6、322121nnnnnnhphhphhhphhhphhhp主觀Bayes方法v 基于上述假設，我們可以得出主觀貝葉斯方法的證據(jù)邏輯組合規(guī)則、并行法則和順序法則的不確定性計算模式v證據(jù)邏輯組合定理： 設證據(jù)e1，e2，en相互獨立，則：主觀Bayes方法v 順序法則定理： 設e支持e,e支持h，且e，h相對于e，e相 互獨立,即: P(eh|e)=P(e|e)P(h|e) P(eh|e)=P(e|e)P(h|e) 則： P(h|e)=P(h|e)P(e|e)+P(h|e)P(e|e)主觀Bayes方法v 若領域?qū)＜覍ψC據(jù)和假設的賦值按先驗概率P(e)、P(h)和條件概率P(e|h)給出，則在運用

7、關(guān)于并行規(guī)則和順序規(guī)則的計算模式前，需要計算P(e|h)、P(h|e)和P(h|e)，它們可由如下公式得到:主觀Bayes方法v 幾率（似然比）：v 條件幾率：v幾率修正（充分性）因子：v有：主觀Bayes方法v 從條件幾率得到條件概率： )|(1)|()|(EHOEHOEHP主觀Bayes方法v必要性因子：還可以用LN(G|H)表示LS(G|H)，得到：v約束條件：vLS,LN0vLN1,則LS1, 反之亦然v若LS=1，則LN=1，反之亦然v滿足約束的前提下，LS、LN可以任意給定1.通過給定O(),LS,LN，則可以進行較方便的貝葉斯推理主觀Bayes方法v LS和LN只用其一即可進行推

8、理，在證據(jù)獨立的前提下，同時使用較為方便，有如下定理： 主觀Bayes方法v 例子：PROSPECTOR的推理模型v Duda等人關(guān)于PROSPECTOR的工作的指導思想是：以簡單、實用、有效為目的，用經(jīng)驗性模型改進嚴格的貝葉斯理論在專家系統(tǒng)中的應用v規(guī)則的不確定測度(或稱規(guī)則強度)并沒有采用原始條件概率來加以刻劃，而是讓領域?qū)＜覟槊織l規(guī)則提供兩個量度，分別稱為規(guī)則的充分性量度和必要性量度。vPROSPECTOR不確定推理過程，就是根據(jù)證據(jù)e的先驗概率P(e)，利用規(guī)則的充分性量度和必要性量度，把假設h的先驗概率P(h)更新為后驗概率 P(h|e)和P(h|e)的過程PROSPECTOR的推理

9、模型v LS和LN的意義： (1)LS1，LNl，這時P(hIe)P(h)P(h|e)， 說明證據(jù)e的存在增加了對h的信任度，而e不存 在則減少對h的信任度 (2)LSLN1，這時P(h|e)P(h)P(hIe)，說明 e的存在與否對假設h不產(chǎn)生影響。 (3)LS1，LNl，這時P(hIe)P(h)P(h|e)，說明e的存在減少了對h的主觀信任度，而e不存在則增加h的信任度PROSPECTOR的推理模型v 證據(jù)邏輯組合規(guī)則：v 并行法則：同主觀貝葉斯法則v順序法則：采用線性插值法 PROSPECTOR的推理模型v 計算公式：PROSPECTOR的推理模型v 由順序法則的分段插值公式可以看出，在

10、運用它時必須知道P(ele)的大小關(guān)系。設e是原始證據(jù)，e表示用戶的觀察。在許多情況下、要求用戶確切地給出P(e|e)的值是不現(xiàn)實的，但是，給出P(eIe)與P(e)的相對關(guān)系還是有可能的 PROSPECTOR的推理模型v通過人機交互賦值的方法：由用戶給出證據(jù)信任度C(e|e)，-55的十一個整數(shù)值，正整數(shù)時肯定證據(jù)的出現(xiàn)，數(shù)越大肯定的程度越大，若C(eIe)5，則證據(jù)絕對肯定；負整數(shù)時，否定證據(jù)的出現(xiàn)負得越多否定的程度越多，若C(eIe)-5，則證據(jù)絕對被否定，即P(eIe)0;C(eIe)0，表示“無可奉告”，不改變證據(jù)的先驗概率，即P(e|e)P(e)PROSPECTOR的推理模型v 計

11、算公式（CP公式）：PROSPECTOR的推理模型vBayes方法的局限性： I由于概率賦值的主觀性，領域?qū)＜宜o的概率值很難保證 一致。如可能會出現(xiàn)P(AIB)P(B)不等于P(BIA)P(A)的情況2使用貝葉斯定理的一個基本條件是所有假設不相交。在大 型專家系統(tǒng)中，將解空間嚴格地分解為不相容的子集通常 是不現(xiàn)實的。3不確定證據(jù)公式和并行規(guī)則模式中引入的條件獨立性假設 很難嚴格滿足4通過增加或刪除一個假設或規(guī)則來對系統(tǒng)進行維護、求精 時，須計算所有事件發(fā)生的概率才能保證系統(tǒng)納協(xié)調(diào)一 致PROSPECTOR的推理模型vPROSCETOR的局限性： 1、PROSPECTOR系統(tǒng)對假設主觀信任度的

12、賦值采用概率，但是證據(jù)組合公式和插值公式并不符合概率的基本性質(zhì)，因而難以采用嚴格的概率論對PROPECTOR的推理結(jié)論給出評價。 2、采用概率作為不確定性測度時，一個最難解決的問題是要保證專家對假設的先驗概率和規(guī)則強度的賦值保持一致插值方法，仍然沒有徹底解決這一問題。3同主觀貝葉斯方法一樣，PROSPECTOR系統(tǒng)的并行法則和順序法則都引入了相應的獨立性條件，這些條件在實際運用中很難得到滿足。證據(jù)理論模型vD-S證據(jù)理論是由Dempster和Shafer建立的一套數(shù)學理論，它是概率論的進一步擴充。v證據(jù)理論可以處理由不知道所引起的不確定性，采用信任函數(shù)而不是概率作為不確定性度量。通過對一些事件

13、的概率加以約束來建立信任函數(shù)，而不必說明精確的難以獲得的概率。v在證據(jù)推理中，由于mass函數(shù)在構(gòu)造信任函數(shù)和似然函數(shù)時有著重要的作用，因此最關(guān)鍵的是mass函數(shù)的計算與合成。 證據(jù)理論模型v定義定義: mass函數(shù)： 設U為一有限集，U中的元素是互斥的，在U的冪集上定義一基本概率分配（BPA，Basic Probability Assignment）函數(shù)： ，滿足： ， 如對于 ，有 ，則稱為m的焦點元素或核元素，而稱 為m的核.1 , 02:Um 0m1UAAmUA 0Am ACAm0證據(jù)理論模型vmass函數(shù)是專家給出的一種評價，是憑經(jīng)驗給出的一種主觀判斷，表示了在當前證據(jù)下對假設成立的

14、一種信任程度。vmass函數(shù)與通常的概率分布函數(shù)有很大的差別，它的基本概率分配是定義在U的冪集上的，是從U的冪集到0，1的映射，因而其方法不同于Bayes方法。v基本概率分配滿足以下公理： 證據(jù)理論模型（1）（2）（3） v基本概率分配是松散的，因為：（1） 可以不等于1（2） 并不意味著 （3） 與 之間沒有約束關(guān)系 0m 1UAAm 0AmUA2 UmBA BmAm AmcAm證據(jù)理論模型v定義定義:信任函數(shù)：設U為有限集，稱 為信任函數(shù)，如果滿足以下條件：(1) ， (2)對于U中的任意子集 ，有v 1 , 02:UBel 0Bel 1UBelnAAA,21InIiIiIiniABelA

15、Bel, 2, 1111證據(jù)理論模型v信任函數(shù)和似然函數(shù)： ADDmAPl ADDmABel證據(jù)理論模型v信任函數(shù)和似然函數(shù)分別作為對假設信任程度的下限估計（悲觀估計）和上限估計（樂觀估計），并有關(guān)系： v可以用區(qū)間 來描述A的不確定性，下面對該區(qū)間的特殊值進行語義解釋：（1） ，表示A為真（2） ，表示A為假（3） ，表示對A一無所知。1)()(0APlABel)(),(APlABel 1 , 0)(),(APlABel0 , 0)(),(APlABel 1 , 1)(),(APlABel證據(jù)理論模型v在證據(jù)理論中，證據(jù)信息是以給定基本概率分配的形式給出的。v為了同時利用來自兩個（或多個）相

16、互獨立的不同信息源的兩組證據(jù)，提高對事件判斷的可靠度，Dempster-Shafer組合公式提供對獨立的信息源所提供的證據(jù)的融合能力。v該規(guī)則是一種多信息體的組合法則，它定義了一個新的基本概率分配函數(shù) 21mm 證據(jù)理論模型vDempste-Shafer合成公式：設m1和m2為U上的兩個mass函數(shù)，則對及 為mass函數(shù)。其中： 0mAFEFmEmKAm)()(11)(21A1)()(21FEFmEmKFEFEFmEmFmEm0)()()()(12121證據(jù)理論模型v該定理可以擴展至多個mass函數(shù)的情形，并滿足交換率和結(jié)合率 vDempste-Shafer合成公式有三種可能的情形：（1）0k1，意味著兩組證