人工智能第七章自然語(yǔ)言理解山東大學(xué)期末考試知識(shí)點(diǎn)復(fù)習(xí)

山東大學(xué)期末考試知識(shí)點(diǎn)復(fù)習(xí)第七章自然語(yǔ)言理解1．1自然語(yǔ)言及其理解1．自然語(yǔ)言概述自然語(yǔ)言是音、形、義結(jié)合的詞匯和語(yǔ)法體系，是人類實(shí)現(xiàn)思維活動(dòng)的物質(zhì)表現(xiàn)形式。詞匯和語(yǔ)法體系是構(gòu)成自然語(yǔ)言的兩大要素，兩者缺一不可。詞是構(gòu)成自然語(yǔ)言的最基本單位，語(yǔ)法則是用來(lái)支配和控制詞以構(gòu)成有意義的、可理解的語(yǔ)句，進(jìn)而再由語(yǔ)句按照一定的邏輯構(gòu)成篇章的規(guī)則。詞匯分為詞和熟語(yǔ)。熟語(yǔ)就是一些詞的固定組合，如漢語(yǔ)中的成語(yǔ)。詞又由詞素構(gòu)成，詞素是構(gòu)成詞的最小的、有意義的單位。例如，在漢語(yǔ)中的“工人”這個(gè)詞，就是由“工”和“人”這兩個(gè)詞素構(gòu)成的，“工”有工作和做工的意義，而“人”則包含了有能力工作的自然人的意義。由詞素構(gòu)成詞的規(guī)則稱作構(gòu)詞法，如工+人→工人。而構(gòu)造詞形的規(guī)則稱為構(gòu)形法，如教師+們→教師們，teacher+s→teachers。構(gòu)詞法和構(gòu)形法統(tǒng)稱為詞法。除了詞法之外，語(yǔ)法中的另一部分就是句法。句法就是利用詞構(gòu)造語(yǔ)句的規(guī)則，它由兩部分構(gòu)成，一部分稱作詞組構(gòu)造法，另一部分稱作造句法。詞組構(gòu)造法就是將詞搭配成詞組的規(guī)則，如藍(lán)+帽子→藍(lán)帽子。造句法則是將詞或詞組搭配成語(yǔ)句的規(guī)則。2．自然語(yǔ)言理解自然語(yǔ)言理解是指機(jī)器能夠執(zhí)行人類所期望的某些語(yǔ)言功能。這些功能包括：①回答有關(guān)提問(wèn)。計(jì)算機(jī)能正確理解人們用自然語(yǔ)言輸入的信息，并能正確回答輸入信息中的有關(guān)問(wèn)題。②摘要生成。對(duì)于輸入的文本信息，計(jì)算機(jī)能夠產(chǎn)生相應(yīng)的摘要。③文本釋義。能用不同詞語(yǔ)和句型對(duì)輸入的信息進(jìn)行復(fù)述或解釋。④不同語(yǔ)言間的翻譯。計(jì)算機(jī)能把用某一種自然語(yǔ)言表示的信息自動(dòng)地翻譯為另一種自然語(yǔ)言。例如，把英語(yǔ)翻譯成漢語(yǔ)，或把漢語(yǔ)翻譯成英語(yǔ)，等等。無(wú)論計(jì)算機(jī)具有的什么樣的特性，無(wú)論程序設(shè)計(jì)采用什么樣的算法，只要具有上述功能之一，它就可以在機(jī)器翻譯或機(jī)助翻譯、文本理解、文本生成、自然語(yǔ)言接口等場(chǎng)合得到廣泛的應(yīng)用。3．自然語(yǔ)言理解過(guò)程的層次自然語(yǔ)言的分析和理解過(guò)程是一個(gè)層次化的過(guò)程。許多現(xiàn)代語(yǔ)言學(xué)家把這一過(guò)程分為3個(gè)層次：詞法分析、句法分析和語(yǔ)義分析。如果接收到的是語(yǔ)音流，那么在上述3個(gè)層次之前還應(yīng)當(dāng)加入一個(gè)語(yǔ)音分析層。雖然這種層次之間并非是完全隔離的，但是這種層次化的劃分的確有助于更好地體現(xiàn)自然語(yǔ)言本身的構(gòu)成。1．2詞法分析詞法分析的主要目的是找出詞匯的各個(gè)詞素，從中獲得語(yǔ)言學(xué)信息，如unchangeable是由un-change-able構(gòu)成的，英語(yǔ)中詞尾中的詞素“s”通常表示名詞復(fù)數(shù)，或動(dòng)詞第三人稱單數(shù)，“l(fā)y”是副詞的后綴，而“ed”通常是動(dòng)詞的過(guò)去式與過(guò)去分詞等，這些信息對(duì)于句法分析都是非常有用的。另一方面，一個(gè)詞可有許多的派生、變形，如work，可變化出works、worked、working、worker、workings、workable、workability等。這些詞若全部放入詞典將是非常龐大的，而它們的詞根只有一個(gè)。下面給出英語(yǔ)詞法分析的一個(gè)基本算法：repeatlookforwordindictionary，ifnotfound，thenmodifytheword．性語(yǔ)法中，每一條產(chǎn)生式的形式為A→Bt或A→t而在右線性語(yǔ)法中，每一條產(chǎn)生式的形式為A→tB或A→t這里，A和B都是單獨(dú)的非終結(jié)符，￡是單獨(dú)的終結(jié)符，即A，B∈Vn，t∈Vt。在這4種語(yǔ)法中，型號(hào)越高，所受到的約束就越多，其生成語(yǔ)言的能力就越弱，因而生成的語(yǔ)言集就越小，也更易于對(duì)其生成的語(yǔ)言進(jìn)行計(jì)算機(jī)自動(dòng)分析。(3)句法分析樹(shù)在對(duì)一個(gè)句子進(jìn)行分析過(guò)程中，如果把分析句子各成分間關(guān)系的推導(dǎo)過(guò)程用樹(shù)形圖表示出來(lái)的話，那么，這種圖稱作句法分析樹(shù)。在句法分析樹(shù)中，起始符總是出現(xiàn)在樹(shù)的根上，終結(jié)符則出現(xiàn)在樹(shù)的葉子上。2．遞歸轉(zhuǎn)移網(wǎng)絡(luò)與擴(kuò)充轉(zhuǎn)移網(wǎng)絡(luò)遞歸轉(zhuǎn)移網(wǎng)絡(luò)(RecursiveTransitionNetworks，RTN)是對(duì)有限狀態(tài)轉(zhuǎn)移網(wǎng)絡(luò)(TN)的一種擴(kuò)展，在RTN中每條弧的標(biāo)注不僅可以是一個(gè)終結(jié)符(詞或詞類)而且可以是一個(gè)用來(lái)指明另一個(gè)網(wǎng)絡(luò)名字的非終結(jié)符。擴(kuò)充轉(zhuǎn)移網(wǎng)絡(luò)(AugmertedTransitionNetworks，ATN)是由一組網(wǎng)絡(luò)構(gòu)成的遞歸轉(zhuǎn)移網(wǎng)絡(luò)，每個(gè)網(wǎng)絡(luò)都有一個(gè)網(wǎng)絡(luò)名，它在以下3個(gè)方面對(duì)RTN進(jìn)行了擴(kuò)充：①增加了一組寄存器，用以存儲(chǔ)分析過(guò)程中得到的中間結(jié)果和有關(guān)信息。②每條弧上除了用句法范疇(如詞類和短語(yǔ)標(biāo)記)來(lái)標(biāo)注外，可以附加任意的測(cè)試，只有當(dāng)弧上的這種測(cè)試成功之后才能通過(guò)這條弧。③每條弧上還可以附加某些操作，當(dāng)通過(guò)一條弧時(shí)，相應(yīng)的動(dòng)作便被依次執(zhí)行，這些動(dòng)作主要用來(lái)設(shè)置或修改寄存器的內(nèi)容。3．詞匯功能語(yǔ)法詞匯功能語(yǔ)法是由J．Bresnan和R．M．Kaplan在1982年提出的，它是一種功能語(yǔ)法，但是更加強(qiáng)調(diào)詞匯的作用。詞匯功能語(yǔ)法(LFG)試圖通過(guò)互不矛盾的多層描述來(lái)消除這種有序性限制，它利用一種結(jié)構(gòu)來(lái)表達(dá)特征、功能、詞匯和成分的順序。在LFG中，對(duì)句子的描述包括兩部分：一個(gè)直接成分結(jié)構(gòu)(C-structure)和一個(gè)功能結(jié)構(gòu)(F-structure)。直接成分結(jié)構(gòu)(C-structure)是由上下文無(wú)關(guān)語(yǔ)法產(chǎn)生的，用來(lái)描述表層句子的層次結(jié)構(gòu)。功能結(jié)構(gòu)(F-structure)則是通過(guò)附加到語(yǔ)法規(guī)則和詞條定義上的功能方程來(lái)生成，其作用是表示句子的結(jié)構(gòu)功能。LFG采用了兩種規(guī)則，一種是帶有功能方程式的上下文無(wú)關(guān)語(yǔ)法規(guī)則，一種是詞匯規(guī)則。用LFG語(yǔ)法對(duì)句子進(jìn)行分析的過(guò)程如下：①用上下文無(wú)關(guān)語(yǔ)法分析獲得C-structure，不考慮語(yǔ)法中的功能方程式；該C-structure就是一棵直接成分樹(shù)。②將各個(gè)非葉節(jié)點(diǎn)定義為變量，并用這些變量置換詞匯規(guī)則和語(yǔ)法規(guī)則中功能方程式的元變量(↑或↓)，建立功能描述，這一描述實(shí)際上就是一組功能方程式。③對(duì)方程式作代數(shù)變換，求出各個(gè)變量，獲得功能結(jié)構(gòu)F-structure。LFG的分析還依賴于句子中的詞匯，詞匯也帶有功能方程式。例題分析部分的例7．5是一個(gè)應(yīng)用詞匯功能語(yǔ)法(LFG)對(duì)語(yǔ)句進(jìn)行分析的例子。LFG同樣也可以用于句子的生成。分析和生成的區(qū)別僅在于第一步，分析是由句子到C-structure，而生成則是由上下文無(wú)關(guān)語(yǔ)法直接產(chǎn)生C-structure和句子。同樣如果通過(guò)求解最終可有一個(gè)以上的解，則該句子就是正確的。4．自動(dòng)句法分析算法基于短語(yǔ)結(jié)構(gòu)語(yǔ)法的自動(dòng)分析算法主要有自頂向下回溯算法、自底向上并行算法、富田算法、左角分析算法和CYK算法等。自頂向下分析算法的思想就是從起始符開(kāi)始向著被分析的句子進(jìn)行推導(dǎo)，推導(dǎo)過(guò)程的語(yǔ)法樹(shù)建立從根節(jié)點(diǎn)開(kāi)始，自上而下進(jìn)行。每次推導(dǎo)只選擇一種路徑進(jìn)行嘗試，并保留其他可選擇的路徑，當(dāng)推導(dǎo)失敗時(shí)，進(jìn)行回溯，嘗試另一種推導(dǎo)路徑。在分析推導(dǎo)過(guò)程中，使用給定語(yǔ)法，對(duì)輸入語(yǔ)句進(jìn)行分析找到一個(gè)句法分析樹(shù)的過(guò)程，可以看成是一個(gè)搜索過(guò)程，搜索的對(duì)象首先是初始符S。從S開(kāi)始，選擇語(yǔ)法中的適用規(guī)則，用規(guī)則的右邊部分替換搜索對(duì)象，然后同被分析句子中的單詞進(jìn)行匹配比較，如果匹配，則從搜索對(duì)象和輸入句子遺留部分中去掉這個(gè)單詞，并記錄下所使用的有關(guān)規(guī)則，再繼續(xù)對(duì)輸入句子的遺留部分進(jìn)行搜索。如果分析到句子的結(jié)尾時(shí)，搜索對(duì)象也正好為空，則分析成功。否則，如果還沒(méi)有分析到句子末尾，而搜索對(duì)象已經(jīng)為空，這時(shí)就需要回溯，重新選擇適用規(guī)則。自底向上分析算法是從輸入句子的句首開(kāi)始依次取詞向前移進(jìn)，并應(yīng)用合適的語(yǔ)法規(guī)則逐級(jí)向上歸約(產(chǎn)生式倒過(guò)來(lái)用)，直到構(gòu)造出表示句子結(jié)構(gòu)的整個(gè)推導(dǎo)樹(shù)為止。換句話說(shuō)，句法樹(shù)的建立從樹(shù)底部的葉節(jié)點(diǎn)(即詞和詞類)開(kāi)始，直到根部。自底向上分析算法實(shí)際上分移進(jìn)、歸約兩個(gè)步驟。在移進(jìn)一歸約過(guò)程中信息以“?！钡男问酱娣牛饕牟僮饔幸七M(jìn)、歸約、拒絕、接受。棧中存放著分析過(guò)程的有關(guān)“歷史”信息，在分析時(shí)根據(jù)這些歷史信息和當(dāng)前正在處理的符號(hào)串來(lái)決定究竟是移進(jìn)還是歸約。所謂移進(jìn)，就是把一個(gè)尚未處理過(guò)的符號(hào)移入棧頂，并等待更多的信息到來(lái)之后再做決定；所謂歸約，就是對(duì)棧頂?shù)哪切┡c某一語(yǔ)法規(guī)則右邊相匹配的符號(hào)，用該語(yǔ)法規(guī)則左邊的符號(hào)來(lái)取代。用這兩種操作對(duì)棧中符號(hào)和輸入符號(hào)串進(jìn)行處理，直到輸入串處理完畢并且棧中只剩初始符S時(shí)，就認(rèn)為輸入符號(hào)串被接受。否則，若在當(dāng)前狀態(tài)，無(wú)法移進(jìn)，又無(wú)法歸約，并且輸入串中的符號(hào)未處理完畢或者棧中又不是唯一的初始符S，那么認(rèn)為輸入串就被拒絕。移進(jìn)一歸約的自底向上分析算法，雖然分析效率較高，但在處理自然語(yǔ)言的歧義問(wèn)題時(shí)卻比較困難。1．4語(yǔ)義分析語(yǔ)義分析就是通過(guò)分析找出詞義、結(jié)構(gòu)意義及其結(jié)合意義，從而確定語(yǔ)言所表達(dá)的真正含義或概念。在自然語(yǔ)言理解中，語(yǔ)義愈來(lái)愈成為一個(gè)重要的研究?jī)?nèi)容。為了進(jìn)行語(yǔ)義分析，討論語(yǔ)義的表達(dá)形式及分析方法，無(wú)論在理論上還是在實(shí)際上都很有意義。語(yǔ)義表示方法可以采用謂詞邏輯的形式在對(duì)語(yǔ)句用邏輯形式表達(dá)以后，應(yīng)用一些語(yǔ)義解析規(guī)則對(duì)它進(jìn)行解析，就可以得到該語(yǔ)句的意義。因此，在應(yīng)用謂詞邏輯方法理解一個(gè)句子的語(yǔ)義時(shí)，一般包括兩個(gè)步驟：第一步，利用邏輯形式表達(dá)語(yǔ)句；第二步，利用語(yǔ)義解析規(guī)則對(duì)邏輯表達(dá)式進(jìn)行解析。語(yǔ)義表示的另一種方法是義素分析法。義素是意義的基本要素，它是詞的理性意義的區(qū)別特征。詞的理性意義是一束語(yǔ)義特征的總和。例如，漢語(yǔ)“哥哥”的理性意義是[+人][+親屬][+同胞][+年長(zhǎng)][+男性]等義素的總和；“姐姐”的理性意義是[+人][+親屬][+同胞][+年長(zhǎng)][-男性]等義素的總和；“妹妹”的理性意義是[+人][+親屬][+同胞][-年長(zhǎng)][-男性]等義素的總和。這里，“+”表示肯定，“-”表示否定，[-年長(zhǎng)]就是“年幼”，[-男性]就是“女性”。一組詞的義素可以用矩陣來(lái)表示，縱坐標(biāo)表示詞，橫坐標(biāo)表示義素，縱橫兩坐標(biāo)的交叉點(diǎn)上注以“+、-”號(hào)，這種矩陣稱為義素矩陣。例如，下面的矩陣就是表示漢語(yǔ)中同胞親屬詞的義素矩陣。[人][親屬][同胞][年長(zhǎng)][男性]哥哥+++++弟弟+++-+姐姐++++-妹妹+++--進(jìn)行語(yǔ)義分析的第三種方法為語(yǔ)義文法。所謂語(yǔ)義文法，是在傳統(tǒng)短語(yǔ)結(jié)構(gòu)語(yǔ)法的基礎(chǔ)上將N(名詞)、V(動(dòng)詞)等語(yǔ)法類別的概念，用某種專門(mén)的語(yǔ)義類別來(lái)代替。即可以將語(yǔ)義文法表示成類似短語(yǔ)結(jié)構(gòu)語(yǔ)法的四元組，也有終結(jié)符集合、非終結(jié)符結(jié)合和語(yǔ)義規(guī)則。有了語(yǔ)義文法之后，就可以使用和分析短語(yǔ)結(jié)構(gòu)語(yǔ)法相類似的方法來(lái)對(duì)語(yǔ)義進(jìn)行分析。例如，可以使用自頂向下和自底向上的分析方法對(duì)語(yǔ)義進(jìn)行分析。1．5大規(guī)模真實(shí)文本的處理1．語(yǔ)料庫(kù)語(yǔ)言學(xué)及其特點(diǎn)在大量的真實(shí)文本當(dāng)中蘊(yùn)涵著理解自然語(yǔ)言所需的各種知識(shí)，通過(guò)對(duì)大量真實(shí)文本進(jìn)行分析處理，可以從中獲取理解自然語(yǔ)言所需的各種知識(shí)，建立相應(yīng)知識(shí)庫(kù)，從而實(shí)現(xiàn)以知識(shí)為基礎(chǔ)的智能型自然語(yǔ)言理解系統(tǒng)。為了從大量的真實(shí)文本中獲取知識(shí)，要構(gòu)建相應(yīng)的語(yǔ)料庫(kù)，并對(duì)語(yǔ)料庫(kù)進(jìn)行適當(dāng)?shù)奶幚砼c加工，這就需要對(duì)語(yǔ)料庫(kù)建設(shè)的理論、方法和工具等方面進(jìn)行研究。語(yǔ)料庫(kù)語(yǔ)言學(xué)(CorpusLinguistics)在自然語(yǔ)言理解的研究中得以崛起。在基于大規(guī)模真實(shí)文本的自然語(yǔ)言理解系統(tǒng)中，下列的一些問(wèn)題研究需要優(yōu)先考慮：①大規(guī)模真實(shí)語(yǔ)料庫(kù)的設(shè)計(jì)與建設(shè)方法。②大規(guī)模、信息豐富的機(jī)讀詞典或知識(shí)庫(kù)的編制方法。③基于語(yǔ)料庫(kù)或機(jī)讀知識(shí)庫(kù)的自然語(yǔ)言理解方法。2．漢語(yǔ)語(yǔ)料庫(kù)加工的基本方法對(duì)大規(guī)模漢語(yǔ)語(yǔ)料庫(kù)的加工主要包括自動(dòng)分詞和標(biāo)注，包括詞性標(biāo)注和詞義標(biāo)注。(1)漢語(yǔ)自動(dòng)分詞漢語(yǔ)自動(dòng)分詞的方法主要以基于詞典的機(jī)械匹配分詞方法為主。近年來(lái)，也有人提出無(wú)詞典分詞法、基于專家系統(tǒng)和人工神經(jīng)網(wǎng)絡(luò)的分詞方法。基于詞典的機(jī)械匹配分詞法主要包括以下3種。①最大匹配法；②逆向最大匹配法；③逐詞遍歷匹配法。漢語(yǔ)分詞的難點(diǎn)主要有：①詞的概念問(wèn)題；②分詞過(guò)程中的歧義問(wèn)題；③未登錄詞的識(shí)別問(wèn)題。(2)漢語(yǔ)詞性標(biāo)注詞性標(biāo)注就是在給定句子中判定每個(gè)詞的語(yǔ)法范疇，確定其詞性并加以標(biāo)注的過(guò)程。在自然語(yǔ)言處理中，研究詞性自動(dòng)標(biāo)注的目的主要是：第一，為了對(duì)文本進(jìn)行語(yǔ)法分析或句法分析等更高層次的文本加工提供基礎(chǔ)，以便在文摘、自動(dòng)校對(duì)、OCR識(shí)別后處理等應(yīng)用系統(tǒng)開(kāi)發(fā)中提高準(zhǔn)確率。第二，通過(guò)對(duì)標(biāo)注