人工智能-復(fù)習(xí)點(diǎn)簡(jiǎn)略-中國(guó)礦業(yè)大學(xué)

第一章人工智能：人工智能就是用人工的方法在機(jī)器（計(jì)算機(jī)）上實(shí)現(xiàn)的智能，或稱(chēng)機(jī)器智能、計(jì)算機(jī)智能。與傳統(tǒng)數(shù)學(xué)方法的根本區(qū)別不同于利用知識(shí)，知識(shí)的表示和使用成為人工智能研究的核心發(fā)展1950年圖靈測(cè)試；麥卡洛克和皮茲1943年建成第一個(gè)神經(jīng)網(wǎng)絡(luò)模型(MP模型)。1959年美國(guó)的塞繆爾(Samuel)設(shè)計(jì)一個(gè)下棋程序；1982年，美國(guó)物理學(xué)家Hopfield提出了Hopfield神經(jīng)網(wǎng)格模型，引入了“計(jì)算能量”概念，給出了網(wǎng)絡(luò)穩(wěn)定性判斷。1986年，并行分布處理小組的Rumelhart等研究者提出多層網(wǎng)絡(luò)的學(xué)習(xí)算法—BP算法人工智能認(rèn)知觀符號(hào)主義（Symbolism）起源：源于數(shù)理邏輯/邏輯推理原理：物理符號(hào)系統(tǒng)(即符號(hào)操作系統(tǒng))假設(shè)和有限合理性原理研究?jī)?nèi)容：?jiǎn)l(fā)式算法、專(zhuān)家系統(tǒng)、知識(shí)工程連接主義（Connectionism）起源：源于仿生學(xué)，特別是人腦模型的研究原理：神經(jīng)網(wǎng)絡(luò)及神經(jīng)網(wǎng)絡(luò)間的連接機(jī)制與學(xué)習(xí)算法研究?jī)?nèi)容：神經(jīng)網(wǎng)絡(luò)行為主義（Actionism）起源：源于控制論原理：控制論及感知-動(dòng)作型控制系統(tǒng)研究?jī)?nèi)容：智能控制、智能機(jī)器人人工智能的研究與應(yīng)用領(lǐng)域問(wèn)題求解與博弈-下棋程序，邏輯推理與定理證明，計(jì)算智能：涉及神經(jīng)計(jì)算、模糊計(jì)算、進(jìn)化計(jì)算、粒群計(jì)算、自然計(jì)算、免疫計(jì)算、人工生命等研究領(lǐng)域。分布式人工智能與Agent：分布式計(jì)算與人工智能結(jié)合，研究各Agent之間的合作與對(duì)話，包括分布式問(wèn)題求解多和Agent系統(tǒng)。自動(dòng)程序設(shè)計(jì)，專(zhuān)家系統(tǒng)，機(jī)器學(xué)習(xí)：使計(jì)算機(jī)具有智能的根本途徑，自然語(yǔ)言理解，機(jī)器人學(xué)，模式識(shí)別，機(jī)器視覺(jué)，神經(jīng)網(wǎng)絡(luò)，智能控制，智能調(diào)度與指揮，智能檢索，系統(tǒng)與語(yǔ)言工具第二章知識(shí)表示方法狀態(tài)空間法、問(wèn)題歸約法、謂詞邏輯法和語(yǔ)義網(wǎng)絡(luò)法的要點(diǎn)是什么?它們有何本質(zhì)上的區(qū)別狀態(tài)空間法是一種基于解答空間的問(wèn)題表示和求解方法,它是以狀態(tài)和操作符為基礎(chǔ)的.在利用狀態(tài)空間圖表示時(shí),從某個(gè)初始狀態(tài)開(kāi)始,每次加一個(gè)操作符,遞增地建立起操作符的試驗(yàn)序列,直到達(dá)到目標(biāo)狀態(tài)為止.由于狀態(tài)空間法需要擴(kuò)展過(guò)多的節(jié)點(diǎn),容易出現(xiàn)“組合爆炸”,因而只適用于表示比較簡(jiǎn)單的問(wèn)題.問(wèn)題歸約法從目標(biāo)（要解決的問(wèn)題）出發(fā),逆向推理,通過(guò)一系列變換把初始問(wèn)題變換為子問(wèn)題集合和子子問(wèn)題集合,直至最后歸約為一個(gè)平凡的本原問(wèn)題集合.這些本原問(wèn)題的解可以直接得到,從而解決了初始問(wèn)題,用與或圖來(lái)有效地說(shuō)明問(wèn)題歸約法的求解途徑.謂詞邏輯法采用謂詞合適公式和一階謂詞演算把要解決的問(wèn)題變?yōu)橐粋€(gè)有待證明的問(wèn)題,然后采用消解定理和消解反演來(lái)證明一個(gè)新語(yǔ)句是從已知的正確語(yǔ)句導(dǎo)出的,從而證明這個(gè)新語(yǔ)句也是正確的.語(yǔ)義網(wǎng)絡(luò)是知識(shí)的一種圖解表示,它由節(jié)點(diǎn)和弧線或鏈線組成.節(jié)點(diǎn)用于表示實(shí)體、概念和情況等,弧線用于表示節(jié)點(diǎn)間的關(guān)系.語(yǔ)義網(wǎng)絡(luò)的解答是一個(gè)經(jīng)過(guò)推理和匹配而得到的具有明確結(jié)果的新的語(yǔ)義網(wǎng)絡(luò).語(yǔ)義網(wǎng)絡(luò)可用于表示多元關(guān)系,擴(kuò)展后可以表示更復(fù)雜問(wèn)題問(wèn)題的搜索：正向搜索；狀態(tài)空間法，問(wèn)題的求解過(guò)程從初始狀態(tài)開(kāi)始搜索直到目標(biāo)狀態(tài)，解即是構(gòu)成的算符序列。反向搜索問(wèn)題歸約法，從目標(biāo)（要解決的問(wèn)題）出發(fā)逆向推理，建立子問(wèn)題以及子問(wèn)題的子問(wèn)題，直到最后把初始問(wèn)題歸約為一個(gè)平凡的本原問(wèn)題集合。狀態(tài)空間法狀態(tài)空間法的三要素狀態(tài)（state）：為描述某類(lèi)不同事物間的差別而引入的一組最少變量q0，q1，…，qn的有序集合，是表示問(wèn)題解法中每一步問(wèn)題狀況的數(shù)據(jù)結(jié)構(gòu)。有序集合中每個(gè)元素qi（i=0,1,...,n）為集合的分量，稱(chēng)為狀態(tài)變量。給定每個(gè)分量的一組值就得到一個(gè)具體的狀態(tài)。算符（operator）：使問(wèn)題從一種狀態(tài)變化為另一種狀態(tài)的手段稱(chēng)為操作符或算符?？蔀樽卟?、過(guò)程、規(guī)則、數(shù)學(xué)算子、運(yùn)算符號(hào)和邏輯符號(hào)。狀態(tài)空間（statespace）：是由問(wèn)題的全部可用狀態(tài)和算符所構(gòu)成的集合。它包含三種說(shuō)明的集合，即三元狀態(tài)（S，F(xiàn)，G）。S：所有可能的問(wèn)題初始狀態(tài)集合；F：操作符集合；G：目標(biāo)狀態(tài)集合。例題：有三個(gè)傳教士M和三個(gè)野人C過(guò)河，只有一條能裝下兩個(gè)人的船，在河的一方或者船上，如果野人的人數(shù)大于傳教士的人數(shù)，那么傳教士就會(huì)有危險(xiǎn)，你能不能提出一種安全的渡河方法呢？分析：用狀態(tài)空間法進(jìn)行表示，步驟如下：定義狀態(tài)的描述形式用所定義的狀態(tài)描述形式把問(wèn)題的所有可能的狀態(tài)都表示出來(lái)，并確定出問(wèn)題的初始狀態(tài)集合描述和目標(biāo)狀態(tài)集合描述定義一組算符，利用這組算符可把問(wèn)題由一種狀態(tài)轉(zhuǎn)變?yōu)榱硪环N狀態(tài)。題解：第一步設(shè)Sk=(M,C,B)表示傳教士和野人在河左岸的狀態(tài)。其中：M表示傳教士在左岸的人數(shù)。C表示野人在左岸的人數(shù)。B用來(lái)表示船是不是在左岸。(B=1表示在左岸，B=0表示不在左岸)。第二步，用所定義的狀態(tài)描述形式把問(wèn)題的所有可能狀態(tài)都表示出來(lái)，并確定出問(wèn)題當(dāng)然初始狀態(tài)集和目標(biāo)狀態(tài)集。對(duì)于狀態(tài)Sk=(M,C,B)來(lái)說(shuō)，由于M、C的取值有0，1，2，3四種可能，B的取值有0和1兩種可能，所以本問(wèn)題所有可能的狀態(tài)公有4X4X2=32種。各狀態(tài)的形式描述如下：S0=(3,3,1),S1=(3,2,1),S2=(3,1,1),S3=(3,0,1),S4=(3,3,0),S5=(3,2,0),S6=(3,1,0),S7=(3,0,0),S8=(2,3,1),S9=(2,2,1),S10=(2,1,1),S11=(2,0,1),S12=(2,3,0),S13=(2,2,0),S14=(2,1,0),S15=(2,0,0),S16=(1,3,1),S17=(1,2,1),S18=(1,1,1),S19=(1,0,1),S20=(1,3,0),S21=(1,2,0),S22=(1,1,0),S23=(1,0,0),S24=(0,3,1),S25=(0,2,1),S26=(0,1,1),S27=(0,0,1),S28=(0,3,0),S29=(0,2,0),S30=(0,1,0),S31=(0,0,0),在這些狀態(tài)中，由于有安全約束條件—任何岸邊野人的數(shù)量都不得超過(guò)傳教士的數(shù)量（即MC），所以只有20個(gè)狀態(tài)而由于這些不合法狀態(tài)的存在，又會(huì)導(dǎo)致某些合法狀態(tài)是不可到達(dá)的。是合法的，這樣，這個(gè)問(wèn)題總共只有16種可到達(dá)的合法狀態(tài)。問(wèn)題的初始狀態(tài)集：S={S0}={(3,3,1)}，目標(biāo)狀態(tài)集：G={S31}={(0,0,0)}第三步：定義一組用于狀態(tài)變換算符F。定義算符R(i,j)表示劃船將i個(gè)傳教士和j個(gè)野人送到右岸的操作；L(i,j)表示劃船將i個(gè)傳教士和j個(gè)野人送到左岸的操作。由于過(guò)河的船每次最多載兩個(gè)人，所以i+j≤2。這樣定義的算符集F中只可能有如下10個(gè)算符。F：R(1,0),R(2,0),R(1,1),R(0,1),R(0,2)L(1,0),L(2,0),L(1,1),L(0,1),L(0,2)至此，該問(wèn)題的狀態(tài)空間（S，F(xiàn)，G）構(gòu)造完成。這就完成了對(duì)問(wèn)題的狀態(tài)空間表示，。為了求解該問(wèn)題，根據(jù)該狀態(tài)空間的16種可到達(dá)合法狀態(tài)和10種算符，構(gòu)造它的狀態(tài)轉(zhuǎn)換圖，如下：由上述狀態(tài)空間圖，可見(jiàn)從初始狀態(tài)(3,3,1)到目標(biāo)狀態(tài)(0,0,0)的任何一條通路都是問(wèn)題的一個(gè)解。其中：{R(1,1),L(1,0),R(0,2),L(0,1),R(2,0),L(1,1),R(2,0),L(0,1),R(0,2),L(1,0),R(1,1)}是算符最少的解之一。問(wèn)題歸約四元式試用四元數(shù)列結(jié)構(gòu)表示四圓盤(pán)梵塔問(wèn)題，并畫(huà)出求解該問(wèn)題的與或圖。用問(wèn)題歸約法來(lái)求解此問(wèn)題：將原始問(wèn)題歸約為一個(gè)較簡(jiǎn)單的問(wèn)題的集合：(1)移動(dòng)圓盤(pán)A、B和C到柱子2的三圓盤(pán)難題。(2)移動(dòng)圓盤(pán)D到柱子3的單圓盤(pán)難題。(3)移動(dòng)圓盤(pán)A、B和C到柱子3的三圓盤(pán)難題。(1)移動(dòng)圓盤(pán)A、B到柱子3的兩圓盤(pán)難題。(2)移動(dòng)圓盤(pán)C到柱子2的單圓盤(pán)難題。(3)移動(dòng)圓盤(pán)A、B到柱子2的兩圓盤(pán)難題。其子問(wèn)題由一個(gè)包含兩個(gè)四元數(shù)列的表列來(lái)描述，問(wèn)題描述[(1111)=>(3333)]就意味著“把ABC盤(pán)從柱子1移到柱子2”。則將上述四圓盤(pán)梵塔問(wèn)題用四元數(shù)列結(jié)構(gòu)表示為：謂詞邏輯量詞：全稱(chēng)量詞符號(hào)“”，存在量詞符號(hào)“”連詞：合?。悍?hào)“∧”，析?。悍?hào)“∨”，蘊(yùn)涵：符號(hào)“→”，非：符號(hào)“~”/“┑”，雙條件：“?”用謂詞邏輯表示下列知識(shí)：武漢是一個(gè)美麗的城市，但她不是一個(gè)沿海城市。如果馬亮是男孩，張紅是女孩，則馬亮比張紅長(zhǎng)得高。定義謂詞如下：BCity(x)：x是一個(gè)美麗的城市HCity(x)：x是一個(gè)沿海城市Boy(x):x是男孩Girl(x):x是女孩High(x,y):x比y長(zhǎng)得高將個(gè)體帶入謂詞BCity(wuhan),HCity(wuhan),Boy(mal),Girl(zhangh),High(mal,zhangh)根據(jù)語(yǔ)義連接謂詞BCity(wuhan)∧~HCity(wuhan)(Boy(mal)∧Girl(zhangh))→High(mal,zhangh)人人愛(ài)勞動(dòng)。所有整數(shù)不是偶數(shù)就是奇數(shù)。自然數(shù)都是大于零的整數(shù)。第一步MAN(x)：x是人LOVE(x,y):x愛(ài)yN(x)：x是自然數(shù)；I(x)：x是整數(shù)；E(x)：x是偶數(shù)O(x):x是奇數(shù)GZ(x):x大于0第二步（無(wú)）第三步在一個(gè)房間里，有一個(gè)機(jī)器人Robot，一個(gè)壁櫥Alcove，一個(gè)積木塊Box，兩個(gè)桌子A和B。開(kāi)始時(shí)，Robot在Alcove旁邊且兩手是空的，A上放著B(niǎo)ox，B上是空的。Robot將把Box從A移到B上TABLE(x)：x是桌子EMPTYHANDED(x)：x雙手是空的AT(x,y):x在y旁邊ON(w,x):w在x上EMPTYTABLE(x)：桌子x上是空的個(gè)體詞：ROBOT,BOX,ALCOVE,A,B用謂詞演算公式表示下列英文句子(多用而不是省用不同謂詞和項(xiàng)。例如不要用單一的謂詞字母來(lái)表示每個(gè)句子)。Acomputersystemisintelligentifitcanperformataskwhich,ifperformedbyahuman,requiresintelligence.謂詞定義：

P(x,y)means

x

can

perform

y.(x可以執(zhí)行y)R(x)meansxrequiresintelligence.(x需要智能)C(x)meansxisacomputersystem.(x是個(gè)一計(jì)算機(jī)系統(tǒng))H(x)

means

x

is

a

human.(x是一個(gè)人)

I(x)meansxisintelligent.(x是智能的){(x)(y)(t)[(H(y)∧P(y,t)∧R(t)∧C(x)∧P(x,t)]→I(x)}語(yǔ)義網(wǎng)絡(luò)“帶標(biāo)識(shí)的有向圖”有向圖的節(jié)點(diǎn)代表實(shí)體，表示各種事物、概念、情況、屬性、狀態(tài)、事件、動(dòng)作等；節(jié)點(diǎn)還可以是一個(gè)語(yǔ)義子網(wǎng)絡(luò)，形成嵌套結(jié)構(gòu)。有向圖的弧代表語(yǔ)義關(guān)系，表示它所連結(jié)的兩個(gè)實(shí)體之間的語(yǔ)義聯(lián)系，它必須帶有標(biāo)識(shí)。蘊(yùn)含的表示：通過(guò)增加蘊(yùn)含關(guān)系節(jié)點(diǎn)來(lái)實(shí)現(xiàn)。在蘊(yùn)含關(guān)系中，有兩條指向蘊(yùn)含節(jié)點(diǎn)的弧，一條代表前提條件(Antecedent)，標(biāo)記為ANTE；另一條代表結(jié)論(Consequence)，標(biāo)記為CONSE存在量詞的表示：可直接用“ISA”、“AKO”等這樣的語(yǔ)義關(guān)系來(lái)表示。在語(yǔ)義網(wǎng)絡(luò)中，為了進(jìn)行節(jié)點(diǎn)(結(jié)點(diǎn)，node)間節(jié)點(diǎn)屬性的繼承推理，規(guī)定了兩個(gè)約定俗成的鏈(弧，arc)，命名為(AKO)和(ISA)，用來(lái)標(biāo)明類(lèi)與子類(lèi)、類(lèi)與個(gè)體之間的關(guān)系。類(lèi)屬關(guān)系Is-a(是一個(gè))、A-member-of（是一員）、A-kind-of（是一種）聚集關(guān)系A(chǔ)-part-of（是一部分）屬性關(guān)系Have(有)、Can（能、會(huì)）、Owner（所有者）。推論關(guān)系稱(chēng)它們之間是推論關(guān)系，可以用Fetch(推出)表示。例如：饑餓推出需要進(jìn)食相近關(guān)系Similar-to（相似）、Near-to（接近）方位關(guān)系在上（Located-on），在下（Located-under），在內(nèi)（Located-inside）、在外（Located-outside）、位于（Located-at）等都可以表示不同事物間的方位關(guān)系。時(shí)間關(guān)系Before（在前）、After（在后）等。構(gòu)成關(guān)系例如：整數(shù)由正整數(shù)、負(fù)整數(shù)和零組成。例題用一個(gè)語(yǔ)義網(wǎng)絡(luò)表示下列命題。樹(shù)和草都是植物；樹(shù)和草是有根有葉的；水草是草，且長(zhǎng)在水中；果樹(shù)是樹(shù)，且會(huì)結(jié)果；蘋(píng)果樹(shù)是果樹(shù)中的一種，它結(jié)蘋(píng)果。第三章確定性推理深度優(yōu)先搜索首先擴(kuò)展最新產(chǎn)生的(即最深的)節(jié)點(diǎn)，深度相等的節(jié)點(diǎn)可以任意排列。擴(kuò)展最深節(jié)點(diǎn)，搜索沿著狀態(tài)空間某單一路徑從起始節(jié)點(diǎn)向下進(jìn)行下去；只有當(dāng)搜索到達(dá)一個(gè)沒(méi)后裔的狀態(tài)時(shí)，考慮另一條替代路徑。所以深度優(yōu)先搜索是不完備的，即使問(wèn)題有解，它也不一定能求得解寬度優(yōu)先搜索以接近起始節(jié)點(diǎn)的程度依次擴(kuò)展節(jié)點(diǎn)，在對(duì)下一層的任一節(jié)點(diǎn)進(jìn)行搜索之前，必須搜索完本層的所有節(jié)點(diǎn)。一種高代價(jià)搜索，但若有解存在，則必能找到它。優(yōu)先只要問(wèn)題有解，用寬度優(yōu)先搜索總可以得到解，而且得到的是路徑最短的解。缺點(diǎn)寬度優(yōu)先搜索盲目性較大，當(dāng)目標(biāo)節(jié)點(diǎn)距初始節(jié)點(diǎn)較遠(yuǎn)時(shí)將會(huì)產(chǎn)生許多無(wú)用節(jié)點(diǎn)，搜索效率低。必須遍歷所有分支，占內(nèi)存大。有界深度優(yōu)先搜索狀態(tài)空間的深度優(yōu)先搜索引入搜索深度界限，設(shè)為dm，當(dāng)搜索深度達(dá)到了深度界限而仍未出現(xiàn)目標(biāo)節(jié)點(diǎn)時(shí)，就換一個(gè)分支進(jìn)行搜索。如果問(wèn)題有解，且其路徑長(zhǎng)度≤dm，則上述搜索過(guò)程一定能求得解。但是，若解的路徑長(zhǎng)度>dm,則上述搜索過(guò)程就得不到解。等代價(jià)搜索是寬度優(yōu)先搜索的一種推廣，不是沿著等長(zhǎng)度路徑斷層進(jìn)行擴(kuò)展，而是沿著等代價(jià)路徑斷層進(jìn)行擴(kuò)展。搜索樹(shù)中每條連接弧線上的有關(guān)代價(jià),表示時(shí)間、距離等花費(fèi)。若所有連接弧線具有相等代價(jià)，則簡(jiǎn)化為寬度優(yōu)先搜索算法。三種盲目搜索技術(shù)的比較主要差別：在于挑選要擴(kuò)展節(jié)點(diǎn)的規(guī)則不同寬度優(yōu)先搜索技術(shù)：先擴(kuò)展出來(lái)的節(jié)點(diǎn)隨后先擴(kuò)展，OPEN表是隊(duì)列深度優(yōu)先搜索技術(shù)：后擴(kuò)展出來(lái)的節(jié)點(diǎn)隨后先擴(kuò)展，OPEN表是堆棧等代價(jià)搜索技術(shù)：選取OPEN表中代價(jià)最小的節(jié)點(diǎn)先擴(kuò)展，OPEN表是線性表（以局部代價(jià)的遞增順序排列）全局優(yōu)先搜索從OPEN表的所有節(jié)點(diǎn)中選擇一個(gè)估價(jià)函數(shù)值最小的一個(gè)進(jìn)行擴(kuò)展。如果取估價(jià)函數(shù)f(n)=d(n)，則它退化為廣度優(yōu)先搜索；廣度優(yōu)先搜索是全局優(yōu)先搜索的一個(gè)特例。如果取估價(jià)函數(shù)f(n)=g(i)，則它是等代價(jià)搜索。局部有限搜索僅從剛生成的子節(jié)點(diǎn)中選擇一個(gè)估價(jià)函數(shù)值最小的一個(gè)進(jìn)行擴(kuò)展。如果取估價(jià)函數(shù)f(n)=d(n)，則它退化為深度優(yōu)先搜索；深度優(yōu)先搜索是局部?jī)?yōu)先搜索的一個(gè)特例。A*算法在圖搜索算法中，如第8步的重排OPEN表是利用估價(jià)函數(shù)f(n)=g(n)+h(n)對(duì)OPEN表中的節(jié)點(diǎn)進(jìn)行排序，則該搜索算法為A算法。雖提高了算法效率，但不能保證找到最優(yōu)解f(n)=g(n)+h(n)其中，f(n)是從初始狀態(tài)經(jīng)由狀態(tài)n到目標(biāo)狀態(tài)的代價(jià)估計(jì)，g(n)是在狀態(tài)空間中從初始狀態(tài)到狀態(tài)n的實(shí)際代價(jià)，h(n)是從狀態(tài)n到目標(biāo)狀態(tài)的最佳路徑的估計(jì)代價(jià)。啟發(fā)函數(shù)基于規(guī)則的系統(tǒng)，均有兩種推理方式，正向推理（從事實(shí)或狀態(tài)向目標(biāo)或動(dòng)作進(jìn)行操作），逆向推理（從目標(biāo)或動(dòng)作向事實(shí)或者狀態(tài)進(jìn)行操作）規(guī)則演繹系統(tǒng) 產(chǎn)生式系統(tǒng)產(chǎn)生式系統(tǒng)概念：用來(lái)描述若干個(gè)不同的以基本概念為基礎(chǔ)的系統(tǒng)組成：總數(shù)據(jù)庫(kù)：又稱(chēng)綜合數(shù)據(jù)庫(kù)，用于存放求解過(guò)程中的各種當(dāng)前信息的數(shù)據(jù)結(jié)構(gòu)產(chǎn)生式規(guī)則：規(guī)則庫(kù)，用于存放與求解問(wèn)題有關(guān)的某個(gè)領(lǐng)域的知識(shí)的規(guī)則集合及其交換規(guī)則控制策略：推理機(jī)構(gòu)，由程序構(gòu)成，用來(lái)控制產(chǎn)生式系統(tǒng)的運(yùn)行，決定問(wèn)題求解過(guò)程的推理路線，實(shí)現(xiàn)問(wèn)題的求解產(chǎn)生式推理產(chǎn)生式系統(tǒng)的問(wèn)題求解過(guò)程即對(duì)解空間的搜索過(guò)程，也就是推理過(guò)程。按照搜索方向可把產(chǎn)生式系統(tǒng)分為正向推理（事實(shí)或數(shù)據(jù)驅(qū)動(dòng)推理、前向鏈接推理）、逆向推理（目標(biāo)驅(qū)動(dòng)推理、逆向鏈接推理）和雙向推理。正向推理：從一組表示事實(shí)的謂詞或命題出發(fā)，使用一組推理規(guī)則，來(lái)證明目標(biāo)謂詞公式或命題是否成立逆向推理：從表示目標(biāo)的謂詞或命題出發(fā)，使用一組規(guī)則證明事實(shí)謂詞或命題成立，即提出一批假設(shè)目標(biāo)，然后逐一驗(yàn)證這些假設(shè)。雙向推理：同時(shí)從表示目標(biāo)向事實(shí)推理和從事實(shí)向目標(biāo)推理，并在推理過(guò)程中的某個(gè)步驟，實(shí)現(xiàn)事實(shí)與目標(biāo)的匹配。產(chǎn)生式與蘊(yùn)涵式的主要區(qū)別：(1)蘊(yùn)涵式表示的知識(shí)只能是精確的，產(chǎn)生式表示的知識(shí)可以是不確定的。(2)蘊(yùn)含式的匹配一定要求是精確的，而產(chǎn)生式的匹配可以是不確定的。產(chǎn)生式與條件語(yǔ)句的主要區(qū)別：(1)前件結(jié)構(gòu)不同：產(chǎn)生式的前件可以是一個(gè)復(fù)雜的結(jié)構(gòu)，而程序設(shè)計(jì)語(yǔ)言中條件語(yǔ)句的左部是布爾表達(dá)式。(2)控制流程不同：產(chǎn)生式系統(tǒng)中滿足前提條件的規(guī)則被激活后，不一定被立即執(zhí)行，能否執(zhí)行將取決于沖突消解策略，而條件語(yǔ)句嚴(yán)格執(zhí)行。消解原理反證法，將目標(biāo)公式的否定化為子句集添加到命題公式集中，把消解反演系統(tǒng)應(yīng)用于聯(lián)合集，并推導(dǎo)出一個(gè)空子句（NIL），得到矛盾，從而定理得證。子句集求解消去蘊(yùn)涵利用等價(jià)關(guān)系消去“→”和“?”，A→B?~A∨B、A?B?(A∧B)∨(~A∧~B)減少否定符號(hào)轄域雙重否定律：~(~A)?A；摩根定律：~(A∧B)?~A∨~B；~(A∨B)?~A∧~B量詞轉(zhuǎn)換律：~(?x)A(x)?(?x)~A(x)；~(?x)A(x)?(?x)~A(x)變量標(biāo)準(zhǔn)化在任一變量轄域內(nèi)，受該變量約束的變量為啞元，重新命名變?cè)?，使不同量詞約束的變?cè)胁煌拿?，變量改名，保證量詞和約束變量的唯一性。消去存在量詞消去存在量詞時(shí)，需要區(qū)分以下兩種情況：存在量詞不出現(xiàn)在全稱(chēng)量詞的轄域內(nèi)，只要用一個(gè)新的個(gè)體常量替換受該存在量詞約束的變?cè)涂上ピ摯嬖诹吭~。例如(x)P(x)化為P(A)。存在量詞位于一個(gè)或者多個(gè)全稱(chēng)量詞的轄域內(nèi)(y)[(x)P(x,y)]化(y)[P(g(y),y)]化為前束式前束形=(前綴)(母式)全稱(chēng)量詞串無(wú)量詞公式化為合取范式A∨(B∧C)?(A∨B)∧(A∨C)消去全稱(chēng)量詞消去連詞符號(hào)?用{A，B}代替(A∧B)變換變量名稱(chēng)對(duì)變?cè)共煌泳渲械淖冊(cè)煌夥囱萸蠼膺^(guò)程否定L，得到~L把~L添加到S中去將集合{~L,S}化為子句集應(yīng)用消解原理產(chǎn)生矛盾空子句第五章神經(jīng)計(jì)算人工神經(jīng)元的結(jié)構(gòu)-人工神經(jīng)網(wǎng)絡(luò)(artificialneuralnets,ANN)由模擬神經(jīng)元組成的，處理單元PE(processingelement)為節(jié)點(diǎn)，用加權(quán)有向弧(鏈)相互連接而成的有向圖。處理單元是對(duì)生理神經(jīng)元的模擬，而有向弧則是軸突-突觸-樹(shù)突對(duì)的模擬。有向弧的權(quán)值表示兩處理單元間相互作用的強(qiáng)弱。神經(jīng)元單元由多個(gè)輸入xi，i=1,2,...,n和一個(gè)輸出y組成。中間狀態(tài)由輸入信號(hào)的權(quán)和表示，而輸出為式中，j為神經(jīng)元單元的偏置（閾值），wji為連接權(quán)系數(shù)（激發(fā)狀態(tài)取正值，抑制狀態(tài)取負(fù)值），n為輸入信號(hào)數(shù)目，yj為神經(jīng)元輸出，t為時(shí)間，f(_)為輸出變換（激發(fā)）函數(shù)，決定節(jié)點(diǎn)（神經(jīng)元）的輸出。最簡(jiǎn)單的神經(jīng)元為線性閾值單元，稱(chēng)能通過(guò)單個(gè)TLU解決的問(wèn)題為線性可分的。與、或、非等簡(jiǎn)單邏輯都可通過(guò)單個(gè)TLU實(shí)現(xiàn)。異或問(wèn)題是一個(gè)非線性可分問(wèn)題，需要用多層感知器-多層神經(jīng)網(wǎng)絡(luò)來(lái)解決。異或問(wèn)題的實(shí)現(xiàn)其實(shí)質(zhì)就是通過(guò)多個(gè)神經(jīng)元互聯(lián)構(gòu)成網(wǎng)絡(luò)，形成多條直線對(duì)平面上的點(diǎn)進(jìn)行分類(lèi)，從而實(shí)現(xiàn)最終目的。神經(jīng)網(wǎng)絡(luò)是多個(gè)神經(jīng)元以一定的拓?fù)浣Y(jié)構(gòu)互連組成的網(wǎng)絡(luò)，按其結(jié)構(gòu)可分為：遞歸（反饋）網(wǎng)絡(luò):在遞歸網(wǎng)絡(luò)中，多個(gè)神經(jīng)元互連以組織一個(gè)互連神經(jīng)網(wǎng)絡(luò)。前饋網(wǎng)絡(luò):具有遞階分層結(jié)構(gòu)，由同層神經(jīng)元間不存在互連的層級(jí)組成。簡(jiǎn)單遺傳算法的遺傳操作主要有選擇(selection)、交叉(crossover)、變異(mutation)三種。流程結(jié)構(gòu)算法流程圖染色體編碼00000表示x=0，11111表示x=31。s1=13(01101),s2=24(11000)群體初始化采用生成隨機(jī)數(shù)的方法，對(duì)染色體的每一維變量進(jìn)行初始化賦值。初始化染色體時(shí)必須注意染色體是否滿足優(yōu)化問(wèn)題對(duì)有效解的定義。適應(yīng)值評(píng)價(jià)通過(guò)適應(yīng)度函數(shù)來(lái)決定染色體的優(yōu)劣程度，體現(xiàn)了自然進(jìn)化中的優(yōu)勝劣汰原則。適應(yīng)度函數(shù)要有效地反映每一個(gè)染色體與問(wèn)題的最優(yōu)解染色體之間的差距。評(píng)估函數(shù)用于評(píng)估各個(gè)染色體的適應(yīng)值，進(jìn)而區(qū)分優(yōu)劣。規(guī)定適應(yīng)值越大的染色體越優(yōu)。對(duì)優(yōu)化問(wèn)題，適應(yīng)度函數(shù)就是目標(biāo)函數(shù)。例如，TSP（旅行商問(wèn)題）的目標(biāo)是路徑總長(zhǎng)度為最短，路徑總長(zhǎng)度可作為T(mén)SP問(wèn)題的適應(yīng)度函數(shù)：選擇算子簡(jiǎn)單遺傳算法的遺傳操作主要有選擇(selection)、交叉(crossover)、變異(mutation)三種。改進(jìn)的遺傳算法大量擴(kuò)充了遺傳操作，以達(dá)到更高的效率。選擇操作也叫復(fù)制（reproduction）操作，根據(jù)個(gè)體的適應(yīng)度函數(shù)值所度量的優(yōu)劣程度決定它在下一代是被淘汰還是被遺傳。交配算子的簡(jiǎn)單方式是將被選擇出的兩個(gè)個(gè)體P1和P2作為父母?jìng)€(gè)體，將兩者的部分碼值進(jìn)行交換。變異算子簡(jiǎn)單方式是改變數(shù)碼串的某個(gè)位置上的數(shù)碼二進(jìn)制編碼表示的簡(jiǎn)單變異操作是將0與1互換：0變異為1，1變異為0偽代碼粒群優(yōu)化算法慣性權(quán)重w;加速常數(shù)c1和c2求解步驟計(jì)算步驟第一步：初始化將族群初始化，以隨機(jī)的方式求出每一粒子的初始位置與速度。第二步：計(jì)算根據(jù)適應(yīng)度函數(shù)計(jì)算出其適應(yīng)值以作為判斷每一粒子的好壞。找出個(gè)體極值點(diǎn)（Pbest）找出每一粒子到目前為止的搜尋過(guò)程中最佳解，這個(gè)最佳解稱(chēng)為Pbest。找出全局極值點(diǎn)（Gbest）找出所有粒子到目前為止所搜尋到的整體最佳解，此最佳解稱(chēng)為Gbest。第三步：更新速度和位置根據(jù)式①與式②更新每一粒子之速度與位置?；氐讲襟E二.繼續(xù)執(zhí)行，直到獲得一個(gè)令人滿意的結(jié)果或符合終止條件。反向傳遞(BP)網(wǎng)-有師學(xué)習(xí)是一種反向傳遞并修正誤差的多層映射網(wǎng)，在參數(shù)適當(dāng)時(shí)，能收斂到較小的均方誤差，是當(dāng)前應(yīng)用最廣的一種網(wǎng)絡(luò)。缺點(diǎn)是訓(xùn)練時(shí)間長(zhǎng)，易陷入局部極小。BP算法基本原理利用輸出后的誤差來(lái)估計(jì)輸出層的直接前導(dǎo)層的誤差，再用這個(gè)誤差估計(jì)更前一層的誤差，如此一層一層的反傳下去，就獲得了所有其他各層的誤差估計(jì)。已知網(wǎng)絡(luò)的輸入/輸出樣本，即導(dǎo)師信號(hào)。BP學(xué)習(xí)算法由正向傳播和反向傳播組成：正向傳播是輸入信號(hào)從輸入層經(jīng)隱含層，傳向輸出層，若輸出層得到了期望的輸出，則學(xué)習(xí)算法結(jié)束；否則，轉(zhuǎn)至反向傳播。反向傳播是將誤差(樣本輸出與網(wǎng)絡(luò)輸出之差）按原連接通路反向計(jì)算，由梯度下降法調(diào)整各層節(jié)點(diǎn)的權(quán)值和閾值，使誤差減小。學(xué)習(xí)的本質(zhì)：對(duì)各連接權(quán)值的動(dòng)態(tài)調(diào)整BP網(wǎng)絡(luò)的知識(shí)存儲(chǔ)在每層的神經(jīng)元上BP的分類(lèi)的基本原理在模式識(shí)別和分類(lèi)：動(dòng)態(tài)調(diào)整連接權(quán)值用一個(gè)特定的輸出矢量將它與輸入矢量聯(lián)系起來(lái)；把輸入矢量以所定義的合適方式進(jìn)行分類(lèi)第六章專(zhuān)家系統(tǒng)專(zhuān)家系統(tǒng)專(zhuān)家系統(tǒng)是一個(gè)含有大量的某個(gè)領(lǐng)域?qū)＜宜降闹R(shí)與經(jīng)驗(yàn)智能計(jì)算機(jī)程序系統(tǒng)，能夠利用人類(lèi)專(zhuān)家的知識(shí)和解決問(wèn)題的方法來(lái)處理該領(lǐng)域問(wèn)題；專(zhuān)家系統(tǒng)是一種模擬人類(lèi)專(zhuān)家解決領(lǐng)域問(wèn)題的計(jì)算機(jī)程序系統(tǒng)。專(zhuān)家系統(tǒng)具有一些共同的特點(diǎn)和優(yōu)點(diǎn)專(zhuān)家系統(tǒng)具有下列3個(gè)特點(diǎn)：(1)啟發(fā)性能運(yùn)用專(zhuān)家的知識(shí)與經(jīng)驗(yàn)進(jìn)行推理、判斷和決策。(2)透明性專(zhuān)家系統(tǒng)能夠解釋自身推理過(guò)程和回答用戶問(wèn)題，能讓用戶了解推理過(guò)程，提高對(duì)專(zhuān)家系統(tǒng)的信賴感。(3)靈活性

專(zhuān)家系統(tǒng)能不斷地增長(zhǎng)知識(shí)，修改原有知識(shí)，不斷更新。專(zhuān)家系統(tǒng)具有下列8個(gè)優(yōu)點(diǎn)：

(1)專(zhuān)家系統(tǒng)能高效率、準(zhǔn)確、周到、不知疲倦進(jìn)行工作。(2)專(zhuān)家系統(tǒng)解決實(shí)際問(wèn)題不受周?chē)h(huán)境的影響，也不可能遺漏忘記。(3)推廣珍貴和稀缺的專(zhuān)家知識(shí)與經(jīng)驗(yàn)，使專(zhuān)家的專(zhuān)長(zhǎng)不受時(shí)間和空間的限制。(4)專(zhuān)家系統(tǒng)使領(lǐng)域?qū)＜业膶?zhuān)業(yè)知識(shí)和經(jīng)驗(yàn)得到總結(jié)和精煉，能夠廣泛有力地傳播專(zhuān)家的知識(shí)、經(jīng)驗(yàn)和能力。(5)能匯集多領(lǐng)域?qū)＜业闹R(shí)和經(jīng)驗(yàn)，使他們協(xié)作解決重大問(wèn)題。(6)軍事專(zhuān)家系統(tǒng)的水平是一個(gè)國(guó)家國(guó)防現(xiàn)代化的重要標(biāo)志之一。(7)專(zhuān)家系統(tǒng)的研制和應(yīng)用，具有巨大的經(jīng)濟(jì)效益和社會(huì)效益。(8)研究專(zhuān)家系統(tǒng)能夠促進(jìn)整個(gè)科學(xué)技術(shù)的發(fā)展。與一般應(yīng)用程序的區(qū)別一般應(yīng)用程序：把問(wèn)題求解的知識(shí)隱含地編入程序，把知識(shí)組織為兩級(jí)：數(shù)據(jù)級(jí)和程序級(jí)專(zhuān)家系統(tǒng)：把其應(yīng)用領(lǐng)域的問(wèn)題求解只是單獨(dú)組成一個(gè)實(shí)體，即為知識(shí)庫(kù)。將知識(shí)組織成三級(jí)；數(shù)據(jù)、知識(shí)庫(kù)、控制。知識(shí)存儲(chǔ)在知識(shí)庫(kù)。更加準(zhǔn)確的說(shuō)一般應(yīng)用程序把知識(shí)組織成兩級(jí)：數(shù)據(jù)級(jí)和程序級(jí)；大多數(shù)專(zhuān)家系統(tǒng)將知識(shí)組織成三級(jí)：數(shù)據(jù)、知識(shí)庫(kù)和控制在數(shù)據(jù)集上是已經(jīng)解決了的特定問(wèn)題的說(shuō)明性知識(shí)。以及需要求解問(wèn)題的有關(guān)事件的當(dāng)前狀態(tài)。在知識(shí)庫(kù)級(jí)是專(zhuān)家系統(tǒng)的專(zhuān)門(mén)知識(shí)與經(jīng)驗(yàn)。是否擁有大量知識(shí)是專(zhuān)家系統(tǒng)成功與否的關(guān)鍵，因而知識(shí)表示就成為專(zhuān)家系統(tǒng)的關(guān)鍵。在控制程序級(jí)，根據(jù)既定的控制策略和所求解問(wèn)題的性質(zhì)來(lái)決定應(yīng)用知識(shí)庫(kù)中的哪些知識(shí)?；谝?guī)則的專(zhuān)家系統(tǒng)，基于框架的專(zhuān)家系統(tǒng)，基于模型的專(zhuān)家系統(tǒng)工作領(lǐng)域：解釋專(zhuān)家系統(tǒng)，預(yù)測(cè)專(zhuān)家系統(tǒng)，診斷專(zhuān)家系統(tǒng)，設(shè)計(jì)專(zhuān)家系統(tǒng)，規(guī)劃專(zhuān)家系統(tǒng)，監(jiān)視專(zhuān)家系統(tǒng)，控制專(zhuān)家系統(tǒng)，調(diào)試專(zhuān)家系統(tǒng)，教學(xué)專(zhuān)家系統(tǒng)，修理專(zhuān)家系統(tǒng)組成部分（作用）知識(shí)庫(kù) 1）當(dāng)前問(wèn)題有關(guān)的數(shù)據(jù)信息，2）進(jìn)行推理時(shí)要用到的一般知識(shí)和領(lǐng)域知識(shí)。知識(shí)庫(kù)設(shè)計(jì)是建立專(zhuān)家系統(tǒng)最重要和最艱巨的任務(wù)。綜合數(shù)據(jù)庫(kù) 用于存儲(chǔ)領(lǐng)域或問(wèn)題的初始數(shù)據(jù)和推理過(guò)程中得到的中間數(shù)據(jù)，即被處理對(duì)象的一些當(dāng)前事實(shí)；推理機(jī)用于記憶所采用的規(guī)則和控制策略的程序。正向鏈，逆向鏈解釋器能夠向用戶解釋專(zhuān)家的行為，包括解釋推理結(jié)論的正確性以及系統(tǒng)輸出其他候選解的原因；人機(jī)接口是人與計(jì)算機(jī)之間傳遞、交換信息的媒介和對(duì)話接口，是計(jì)算機(jī)系統(tǒng)的重要組成部分工作流程用戶通過(guò)人機(jī)界面回答系統(tǒng)的提問(wèn)，推理機(jī)將用戶輸入的信息與知識(shí)庫(kù)中各個(gè)規(guī)則的條件進(jìn)行匹配，并把被匹配規(guī)則的結(jié)論存放到綜合數(shù)據(jù)庫(kù)中。最后，專(zhuān)家系統(tǒng)將得出最終結(jié)論呈現(xiàn)給用戶。創(chuàng)建步驟設(shè)計(jì)初始知識(shí)庫(kù)：?jiǎn)栴}初始化、知識(shí)概念化、概念形式化、形式規(guī)則化、規(guī)則合法化原型機(jī)(prototype)開(kāi)發(fā)與試驗(yàn)

建立整個(gè)系統(tǒng)所需的實(shí)驗(yàn)子集，典型知識(shí)，相關(guān)的簡(jiǎn)單任務(wù)和推理。知識(shí)庫(kù)的改進(jìn)與歸納

反復(fù)改進(jìn)知識(shí)庫(kù)及推理規(guī)則，歸納出更完善的結(jié)果。第七章機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)的定義，機(jī)器學(xué)習(xí)是一門(mén)研究機(jī)器模擬人類(lèi)的學(xué)習(xí)活動(dòng)，獲取知識(shí)和技能的理論和方法，以改善系統(tǒng)性能的學(xué)科。學(xué)習(xí)系統(tǒng)的基本結(jié)構(gòu)：環(huán)境：向系統(tǒng)的學(xué)習(xí)部分提供某些信息學(xué)習(xí)：利用這些信息修改知識(shí)庫(kù)，以增進(jìn)系統(tǒng)執(zhí)行部分完成任務(wù)的效能知識(shí)庫(kù)：知識(shí)庫(kù)里存放的是指導(dǎo)執(zhí)行部分動(dòng)作的一般原則執(zhí)行與評(píng)價(jià)：根據(jù)知識(shí)庫(kù)完成任務(wù)，同時(shí)把獲得的信息反饋給學(xué)習(xí)部分。環(huán)境、知識(shí)庫(kù)和執(zhí)行部分決定了具體的工作內(nèi)容，學(xué)習(xí)部分所需要解決的問(wèn)題完全由上述3部分確定。影響學(xué)習(xí)系統(tǒng)設(shè)計(jì)的最重要因素是環(huán)境向系統(tǒng)提供的信息，或者更具體地說(shuō)是信息的質(zhì)量。知識(shí)庫(kù)是影響學(xué)習(xí)系統(tǒng)設(shè)計(jì)的第二個(gè)因素。知識(shí)在選擇表達(dá)方式要兼顧表達(dá)能力強(qiáng)、易于推理、容易修改知識(shí)庫(kù)、知識(shí)表示易于擴(kuò)展。執(zhí)行部分是整個(gè)學(xué)習(xí)系統(tǒng)的核心，執(zhí)行部分的動(dòng)作是學(xué)習(xí)部分力求改進(jìn)的動(dòng)作。機(jī)械學(xué)習(xí)最簡(jiǎn)單機(jī)器學(xué)習(xí)方法，機(jī)械學(xué)習(xí)就是記憶，把新知識(shí)存儲(chǔ)起來(lái)，供需要時(shí)檢索調(diào)用，而不需要計(jì)算和推理。特點(diǎn)：忽略推理、計(jì)算過(guò)程，提高效率。機(jī)械學(xué)習(xí)實(shí)質(zhì)上是用存儲(chǔ)空間來(lái)?yè)Q取處理時(shí)間。不需要推理機(jī)。歸納學(xué)習(xí)（同實(shí)例學(xué)習(xí)，示例學(xué)習(xí)）-KNN算法應(yīng)用歸納方法，從足夠多的具體事務(wù)中歸納出一般知識(shí)，提取事務(wù)的一般規(guī)律從概念的一組正例和反例中歸納出一個(gè)一般性的概念描述，使之適合所有正例，排除所有反例。基于實(shí)例的學(xué)習(xí)方法的學(xué)習(xí)過(guò)程只是簡(jiǎn)單地存儲(chǔ)已知的訓(xùn)練數(shù)據(jù)，當(dāng)遇到新的查詢實(shí)例時(shí)，一系列相似的實(shí)例從存儲(chǔ)器中取出，用來(lái)分類(lèi)新的查詢實(shí)例k-近鄰算法（kNearestNeighbors，簡(jiǎn)稱(chēng)kNN）計(jì)算新樣本與訓(xùn)練樣本之間的距離，找到距離最近的K個(gè)鄰居，根據(jù)這些鄰居所屬的類(lèi)別來(lái)判定新樣本的類(lèi)別，如果屬于同一個(gè)類(lèi)別，那么新樣本也屬于這個(gè)類(lèi)；否則，對(duì)每個(gè)候選類(lèi)別進(jìn)行評(píng)分，按照某種規(guī)則確定新樣本的類(lèi)別。算法描述輸入：訓(xùn)練數(shù)據(jù)集D={(Xi,Yi),1≤i≤N}，其中Xi是第i個(gè)樣本的條件屬性，Yi是類(lèi)別，新樣本X，距離函數(shù)d。輸出：X的類(lèi)別Y。fori=1toNdo計(jì)算X和Xi之間的距離d(Xi,X)；endfor對(duì)距離排序，得到d(X,Xi1)，d(X,Xi2)，...，d(X,XiN)；選擇前K個(gè)樣本：S={(Xi1,Yi1),...,(Xik,Yik)}；統(tǒng)計(jì)S中每個(gè)類(lèi)別出現(xiàn)的次數(shù)，確定X的類(lèi)別Y。從k個(gè)最近鄰居中決定分類(lèi)結(jié)果（一定要是奇數(shù)）方式1:選出k個(gè)最近的鄰居中的數(shù)量最多的類(lèi)標(biāo)號(hào)方式2:k個(gè)最近鄰居分別按距離計(jì)算權(quán)重，權(quán)重最大的類(lèi)標(biāo)號(hào)獲勝。權(quán)重可以采用1/(d2+1)來(lái)計(jì)算，其中d為某個(gè)最近鄰居到待分類(lèi)實(shí)例的距離。方法一：M的k個(gè)近鄰中，藍(lán)色有4個(gè)，黃色有1個(gè)，因此M的分類(lèi)結(jié)果為藍(lán)色方法二：weight(藍(lán))=1/3+1/2+1/3+1/5=1.367；weight(黃)=1/6=0.167決策樹(shù)學(xué)習(xí)-ID3算法-歸納學(xué)習(xí)決策樹(shù)的基本組成部分：決策結(jié)點(diǎn)、分支和葉子。分類(lèi)：決策樹(shù)分類(lèi)方法采用自頂向下的遞歸方式，在決策樹(shù)的內(nèi)部結(jié)點(diǎn)進(jìn)行屬性值的比較并根據(jù)不同的屬性值判斷從該結(jié)點(diǎn)向下的分枝，在決策樹(shù)的葉結(jié)點(diǎn)得到結(jié)論。決策樹(shù)分類(lèi)模型的建立通常分為兩個(gè)步驟：樹(shù)的生成→對(duì)訓(xùn)練樣本進(jìn)行分組從根結(jié)點(diǎn)開(kāi)始、從上到下的遞歸過(guò)程關(guān)鍵，確定樹(shù)根節(jié)點(diǎn)和分支準(zhǔn)則停止生長(zhǎng)時(shí)機(jī)樹(shù)的剪枝→解決過(guò)度擬合問(wèn)題對(duì)樹(shù)結(jié)構(gòu)進(jìn)行修剪，刪除多余分支預(yù)先修剪，限值決策樹(shù)的充分生長(zhǎng)，如：限制樹(shù)的高度滯后修剪，待決策樹(shù)充分生長(zhǎng)完畢后再進(jìn)行修剪目標(biāo)構(gòu)建一棵內(nèi)部節(jié)點(diǎn)盡可能少、層次盡可能淺、分枝盡可能少,而分類(lèi)精度盡可能大的樹(shù)基本算法：自上而下分而治之的方法，開(kāi)始時(shí)，所有的數(shù)據(jù)都在根節(jié)點(diǎn)根據(jù)特定的啟發(fā)式規(guī)則選擇某一屬性對(duì)樣本數(shù)據(jù)遞歸地進(jìn)行分割結(jié)束條件內(nèi)部結(jié)點(diǎn)對(duì)應(yīng)的所有