全文檢索技術(shù)Lucene教案及代碼

1、全文檢索技術(shù)Lucene課程計劃什么是全文檢索，如何實現(xiàn)全文檢索Lucene實現(xiàn)全文檢索的流程創(chuàng)建索引查詢索引配置開發(fā)環(huán)境入門程序分析器的分析過程測試分析器的分詞效果第三方中文分析器索引庫維護添加文檔刪除文檔修改文檔索引庫查詢使用Query子類查詢使用QueryParser查詢什么是全文檢索數(shù)據(jù)分類我們生活中的數(shù)據(jù)總體分為兩種：結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)。結(jié)構(gòu)化數(shù)據(jù)：指具有固定格式或有限長度的數(shù)據(jù)，如數(shù)據(jù)庫，元數(shù)據(jù)等。非結(jié)構(gòu)化數(shù)據(jù)：指不定長或無固定格式的數(shù)據(jù)，如郵件，word文檔等磁盤上的文件結(jié)構(gòu)化數(shù)據(jù)搜索常見的結(jié)構(gòu)化數(shù)據(jù)也就是數(shù)據(jù)庫中的數(shù)據(jù)。在數(shù)據(jù)庫中搜索很容易實現(xiàn)，通常都是使用sql語句進行

2、查詢，而且能很快的得到查詢結(jié)果。為什么數(shù)據(jù)庫搜索很容易？因為數(shù)據(jù)庫中的數(shù)據(jù)存儲是有規(guī)律的，有行有列而且數(shù)據(jù)格式、數(shù)據(jù)長度都是固定的。非結(jié)構(gòu)化數(shù)據(jù)查詢方法順序掃描法(Serial Scanning)所謂順序掃描，比如要找內(nèi)容包含某一個字符串的文件，就是一個文檔一個文檔的看，對于每一個文檔，從頭看到尾，如果此文檔包含此字符串，則此文檔為我們要找的文件，接著看下一個文件，直到掃描完所有的文件。如利用windows的搜索也可以搜索文件內(nèi)容，只是相當?shù)穆?。全文檢索(Full-text Search)將非結(jié)構(gòu)化數(shù)據(jù)中的一部分信息提取出來，重新組織，使其變得有一定結(jié)構(gòu)，然后對此有一定結(jié)構(gòu)的數(shù)據(jù)進行搜索，從而

3、達到搜索相對較快的目的。這部分從非結(jié)構(gòu)化數(shù)據(jù)中提取出的然后重新組織的信息，我們稱之索引。例如：字典。字典的拼音表和部首檢字表就相當于字典的索引，對每一個字的解釋是非結(jié)構(gòu)化的，如果字典沒有音節(jié)表和部首檢字表，在茫茫辭海中找一個字只能順序掃描。然而字的某些信息可以提取出來進行結(jié)構(gòu)化處理，比如讀音，就比較結(jié)構(gòu)化，分聲母和韻母，分別只有幾種可以一一列舉，于是將讀音拿出來按一定的順序排列，每一項讀音都指向此字的詳細解釋的頁數(shù)。我們搜索時按結(jié)構(gòu)化的拼音搜到讀音，然后按其指向的頁數(shù)，便可找到我們的非結(jié)構(gòu)化數(shù)據(jù)也即對字的解釋。這種先建立索引，再對索引進行搜索的過程就叫全文檢索(Full-text Search

4、)。雖然創(chuàng)建索引的過程也是非常耗時的，但是索引一旦創(chuàng)建就可以多次使用，全文檢索主要處理的是查詢，所以耗時間創(chuàng)建索引是值得的。如何實現(xiàn)全文檢索可以使用Lucene實現(xiàn)全文檢索。Lucene是apache下的一個開放源代碼的全文檢索引擎工具包。提供了完整的查詢引擎和索引引擎，部分文本分析引擎。Lucene的目的是為軟件開發(fā)人員提供一個簡單易用的工具包，以方便的在目標系統(tǒng)中實現(xiàn)全文檢索的功能。全文檢索的應用場景對于數(shù)據(jù)量大、數(shù)據(jù)結(jié)構(gòu)不固定的數(shù)據(jù)可采用全文檢索方式搜索，比如百度、Google等搜索引擎、論壇站內(nèi)搜索、電商網(wǎng)站站內(nèi)搜索等。Lucene實現(xiàn)全文檢索的流程索引和搜索流程圖1、綠色表示索引過程

5、，對要搜索的原始內(nèi)容進行索引構(gòu)建一個索引庫，索引過程包括：確定原始內(nèi)容即要搜索的內(nèi)容采集文檔創(chuàng)建文檔分析文檔索引文檔2、紅色表示搜索過程，從索引庫中搜索內(nèi)容，搜索過程包括：用戶通過搜索界面創(chuàng)建查詢執(zhí)行搜索，從索引庫搜索渲染搜索結(jié)果創(chuàng)建索引對文檔索引的過程，將用戶要搜索的文檔內(nèi)容進行索引，索引存儲在索引庫（index）中。這里我們要搜索的文檔是磁盤上的文本文件，根據(jù)案例描述：凡是文件名或文件內(nèi)容包括關鍵字的文件都要找出來，這里要對文件名和文件內(nèi)容創(chuàng)建索引。獲得原始文檔原始文檔是指要索引和搜索的內(nèi)容。原始內(nèi)容包括互聯(lián)網(wǎng)上的網(wǎng)頁、數(shù)據(jù)庫中的數(shù)據(jù)、磁盤上的文件等。 本案例中的原始內(nèi)容就是磁盤上的文件，

6、如下圖：從互聯(lián)網(wǎng)上、數(shù)據(jù)庫、文件系統(tǒng)中等獲取需要搜索的原始信息，這個過程就是信息采集，信息采集的目的是為了對原始內(nèi)容進行索引。在Internet上采集信息的軟件通常稱為爬蟲或蜘蛛，也稱為網(wǎng)絡機器人，爬蟲訪問互聯(lián)網(wǎng)上的每一個網(wǎng)頁，將獲取到的網(wǎng)頁內(nèi)容存儲起來。本案例我們要獲取磁盤上文件的內(nèi)容，可以通過文件流來讀取文本文件的內(nèi)容，對于pdf、doc、xls等文件可通過第三方提供的解析工具讀取文件內(nèi)容，比如Apache POI讀取doc和xls的文件內(nèi)容。創(chuàng)建文檔對象獲取原始內(nèi)容的目的是為了索引，在索引前需要將原始內(nèi)容創(chuàng)建成文檔（Document），文檔中包括一個一個的域（Field），域中存儲內(nèi)容。

7、這里我們可以將磁盤上的一個文件當成一個document，Document中包括一些Field（file_name文件名稱、file_path文件路徑、file_size文件大小、file_content文件內(nèi)容），如下圖：Document（文檔）Field（域）Name：file_name（文件名稱）Value：springmvc.txtField（域）Name：file_path（文件路徑）Value：e:/XXXXXX.txtField（域）Name：file_content（文件內(nèi)容）Value：36312Field（域）Name：file_size（文件大?。￢alue：346543其

8、它Field.。注意：每個Document可以有多個Field，不同的Document可以有不同的Field，同一個Document可以有相同的Field（域名和域值都相同）每個文檔都有一個唯一的編號，就是文檔id。分析文檔將原始內(nèi)容創(chuàng)建為包含域（Field）的文檔（document），需要再對域中的內(nèi)容進行分析，分析的過程是經(jīng)過對原始文檔提取單詞、將字母轉(zhuǎn)為小寫、去除標點符號、去除停用詞等過程生成最終的語匯單元，可以將語匯單元理解為一個一個的單詞。比如下邊的文檔經(jīng)過分析如下：原文檔內(nèi)容：Lucene is a Java full-text search engine. Lucene is n

9、ot a completeapplication, but rather a code library and API that can easily be usedto add search capabilities to applications.分析后得到的語匯單元：lucene、java、full、search、engine。每個單詞叫做一個Term，不同的域中拆分出來的相同的單詞是不同的term。term中包含兩部分一部分是文檔的域名，另一部分是單詞的內(nèi)容。例如：文件名中包含apache和文件內(nèi)容中包含的apache是不同的term。創(chuàng)建索引對所有文檔分析得出的語匯單元進行索引，索引

10、的目的是為了搜索，最終要實現(xiàn)只搜索被索引的語匯單元從而找到Document（文檔）。索引庫Filename:springContent:frameworkContent:providesContent:comprehensiveContent:rogrammingContent:configurationFilename:ModelContent:springDocument1Document2Document3Document4注意：創(chuàng)建索引是對語匯單元索引，通過詞語找文檔，這種索引的結(jié)構(gòu)叫倒排索引結(jié)構(gòu)。傳統(tǒng)方法是根據(jù)文件找到該文件的內(nèi)容，在文件內(nèi)容中匹配搜索關鍵字，這種方法是順序掃描方法，

11、數(shù)據(jù)量大、搜索慢。倒排索引結(jié)構(gòu)是根據(jù)內(nèi)容（詞語）找文檔，如下圖： 倒排索引結(jié)構(gòu)也叫反向索引結(jié)構(gòu)，包括索引和文檔兩部分，索引即詞匯表，它的規(guī)模較小，而文檔集合較大。查詢索引查詢索引也是搜索的過程。搜索就是用戶輸入關鍵字，從索引（index）中進行搜索的過程。根據(jù)關鍵字搜索索引，根據(jù)索引找到對應的文檔，從而找到要搜索的內(nèi)容（這里指磁盤上的文件）。 用戶查詢接口全文檢索系統(tǒng)提供用戶搜索的界面供用戶提交搜索的關鍵字，搜索完成展示搜索結(jié)果。比如：Lucene不提供制作用戶搜索界面的功能，需要根據(jù)自己的需求開發(fā)搜索界面。創(chuàng)建查詢用戶輸入查詢關鍵字執(zhí)行搜索之前需要先構(gòu)建一個查詢對象，查詢對象中可以指定查詢要

12、搜索的Field文檔域、查詢關鍵字等，查詢對象會生成具體的查詢語法，例如：語法 “fileName:lucene”表示要搜索Field域的內(nèi)容為“l(fā)ucene”的文檔執(zhí)行查詢搜索索引過程：根據(jù)查詢語法在倒排索引詞典表中分別找出對應搜索詞的索引，從而找到索引所鏈接的文檔鏈表。比如搜索語法為“fileName:lucene”表示搜索出fileName域中包含Lucene的文檔。搜索過程就是在索引上查找域為fileName，并且關鍵字為Lucene的term，并根據(jù)term找到文檔id列表。渲染結(jié)果以一個友好的界面將查詢結(jié)果展示給用戶，用戶根據(jù)搜索結(jié)果找自己想要的信息，為了幫助用戶很快找到自己的結(jié)果

13、，提供了很多展示的效果，比如搜索結(jié)果中將關鍵字高亮顯示，百度提供的快照等。配置開發(fā)環(huán)境Lucene下載Lucene是開發(fā)全文檢索功能的工具包，從官方網(wǎng)站下載lucene-7.4.0，并解壓。版本：lucene-7.4.0Jdk要求：1.8以上使用的jar包lucene-core-7.4.0.jarlucene-analyzers-common-7.4.0.jar入門程序需求實現(xiàn)一個文件的搜索功能，通過關鍵字搜索文件，凡是文件名或文件內(nèi)容包括關鍵字的文件都需要找出來。還可以根據(jù)中文詞語進行查詢，并且需要支持多個條件查詢。本案例中的原始內(nèi)容就是磁盤上的文件，如下圖：創(chuàng)建索引實現(xiàn)步驟第一步：創(chuàng)建一個

14、java工程，并導入jar包。第二步：創(chuàng)建一個indexwriter對象。指定索引庫的存放位置Directory對象指定一個IndexWriterConfig對象。第二步：創(chuàng)建document對象。第三步：創(chuàng)建field對象，將field添加到document對象中。第四步：使用indexwriter對象將document對象寫入索引庫，此過程進行索引創(chuàng)建。并將索引和document對象寫入索引庫。第五步：關閉IndexWriter對象。代碼實現(xiàn)/創(chuàng)建索引Testpublic void createIndex() throws Exception /指定索引庫存放的路徑 /D:tempinde

15、x Directory directory = FSDirectory.open(new File(D:tempindex).toPath(); /索引庫還可以存放到內(nèi)存中 /Directory directory = new RAMDirectory(); /創(chuàng)建indexwriterCofig對象 IndexWriterConfig config = new IndexWriterConfig(); /創(chuàng)建indexwriter對象 IndexWriter indexWriter = new IndexWriter(directory, config); /原始文檔的路徑 File dir

16、 = new File(D:tempsearchsource); for (File f : dir.listFiles() /文件名 String fileName = f.getName(); /文件內(nèi)容 String fileContent = FileUtils.readFileToString(f); /文件路徑 String filePath = f.getPath(); /文件的大小 long fileSize = FileUtils.sizeOf(f); /創(chuàng)建文件名域 /第一個參數(shù)：域的名稱 /第二個參數(shù)：域的內(nèi)容 /第三個參數(shù)：是否存儲 Field fileNameFiel

17、d = new TextField(filename, fileName, Field.Store.YES); /文件內(nèi)容域 Field fileContentField = new TextField(content, fileContent, Field.Store.YES); /文件路徑域（不分析、不索引、只存儲） Field filePathField = new TextField(path, filePath, Field.Store.YES); /文件大小域 Field fileSizeField = new TextField(size, fileSize + , Field.

18、Store.YES); /創(chuàng)建document對象 Document document = new Document(); document.add(fileNameField); document.add(fileContentField); document.add(filePathField); document.add(fileSizeField); /創(chuàng)建索引，并寫入索引庫 indexWriter.addDocument(document); /關閉indexwriter indexWriter.close();使用Luke工具查看索引文件我們使用的luke的版本是luke-7.4.

19、0，跟lucene的版本對應的?？梢源蜷_7.4.0版本的lucene創(chuàng)建的索引庫。需要注意的是此版本的Luke是jdk9編譯的，所以要想運行此工具還需要jdk9才可以。查詢索引實現(xiàn)步驟第一步：創(chuàng)建一個Directory對象，也就是索引庫存放的位置。第二步：創(chuàng)建一個indexReader對象，需要指定Directory對象。第三步：創(chuàng)建一個indexsearcher對象，需要指定IndexReader對象第四步：創(chuàng)建一個TermQuery對象，指定查詢的域和查詢的關鍵詞。第五步：執(zhí)行查詢。第六步：返回查詢結(jié)果。遍歷查詢結(jié)果并輸出。第七步：關閉IndexReader對象代碼實現(xiàn)/查詢索引庫Test

20、public void searchIndex() throws Exception /指定索引庫存放的路徑 /D:tempindex Directory directory = FSDirectory.open(new File(D:tempindex).toPath(); /創(chuàng)建indexReader對象 IndexReader indexReader = DirectoryReader.open(directory); /創(chuàng)建indexsearcher對象 IndexSearcher indexSearcher = new IndexSearcher(indexReader); /創(chuàng)建查

21、詢 Query query = new TermQuery(new Term(filename, apache); /執(zhí)行查詢 /第一個參數(shù)是查詢對象，第二個參數(shù)是查詢結(jié)果返回的最大值 TopDocs topDocs = indexSearcher.search(query, 10); /查詢結(jié)果的總條數(shù) System.out.println(查詢結(jié)果的總條數(shù)：+ topDocs.totalHits); /遍歷查詢結(jié)果 /topDocs.scoreDocs存儲了document對象的id for (ScoreDoc scoreDoc : topDocs.scoreDocs) /scoreDoc

22、.doc屬性就是document對象的id /根據(jù)document的id找到document對象 Document document = indexSearcher.doc(scoreDoc.doc); System.out.println(document.get(filename); /System.out.println(document.get(content); System.out.println(document.get(path); System.out.println(document.get(size); System.out.println(-); /關閉indexrea

23、der對象 indexReader.close();分析器分析器的分詞效果/查看標準分析器的分詞效果Testpublic void testTokenStream() throws Exception /創(chuàng)建一個標準分析器對象 Analyzer analyzer = new StandardAnalyzer(); /獲得tokenStream對象 /第一個參數(shù)：域名，可以隨便給一個 /第二個參數(shù)：要分析的文本內(nèi)容 TokenStream tokenStream = analyzer.tokenStream(test, The Spring Framework provides a compre

24、hensive programming and configuration model.); /添加一個引用，可以獲得每個關鍵詞 CharTermAttribute charTermAttribute = tokenStream.addAttribute(CharTermAttribute.class); /添加一個偏移量的引用，記錄了關鍵詞的開始位置以及結(jié)束位置 OffsetAttribute offsetAttribute = tokenStream.addAttribute(OffsetAttribute.class); /將指針調(diào)整到列表的頭部 tokenStream.reset();

25、 /遍歷關鍵詞列表，通過incrementToken方法判斷列表是否結(jié)束 while(tokenStream.incrementToken() /關鍵詞的起始位置 System.out.println(start- + offsetAttribute.startOffset(); /取關鍵詞 System.out.println(charTermAttribute); /結(jié)束位置 System.out.println(end- + offsetAttribute.endOffset(); tokenStream.close();中文分析器Lucene自帶中文分詞器StandardAnalyze

26、r：單字分詞：就是按照中文一個字一個字地進行分詞。如：“我愛中國”，效果：“我”、“愛”、“中”、“國”。SmartChineseAnalyzer對中文支持較好，但擴展性差，擴展詞庫，禁用詞庫和同義詞庫等不好處理IKAnalyzer使用方法：第一步：把jar包添加到工程中第二步：把配置文件和擴展詞典和停用詞詞典添加到classpath下注意：hotword.dic和ext_stopword.dic文件的格式為UTF-8，注意是無BOM的UTF-8編碼。也就是說禁止使用windows記事本編輯擴展詞典文件使用EditPlus.exe保存為無BOM的UTF-8編碼格式，如下圖：使用自定義分析器Te

27、stpublic void addDocument() throws Exception /索引庫存放路徑 Directory directory = FSDirectory.open(new File(D:tempindex).toPath(); IndexWriterConfig config = new IndexWriterConfig(new IKAnalyzer(); /創(chuàng)建一個indexwriter對象 IndexWriter indexWriter = new IndexWriter(directory, config);/.索引庫的維護索引庫的添加Field域的屬性是否分析：

28、是否對域的內(nèi)容進行分詞處理。前提是我們要對域的內(nèi)容進行查詢。是否索引：將Field分析后的詞或整個Field值進行索引，只有索引方可搜索到。比如：商品名稱、商品簡介分析后進行索引，訂單號、身份證號不用分析但也要索引，這些將來都要作為查詢條件。是否存儲：將Field值存儲在文檔中，存儲在文檔中的Field才可以從Document中獲取比如：商品名稱、訂單號，凡是將來要從Document中獲取的Field都要存儲。是否存儲的標準：是否要將內(nèi)容展示給用戶Field類數(shù)據(jù)類型Analyzed是否分析Indexed是否索引Stored是否存儲說明StringField(FieldName, FieldV

29、alue,Store.YES)字符串NYY或N這個Field用來構(gòu)建一個字符串Field，但是不會進行分析，會將整個串存儲在索引中，比如(訂單號,姓名等)是否存儲在文檔中用Store.YES或Store.NO決定LongPoint(String name, long. point)Long型 YYN可以使用LongPoint、IntPoint等類型存儲數(shù)值類型的數(shù)據(jù)。讓數(shù)值類型可以進行索引。但是不能存儲數(shù)據(jù)，如果想存儲數(shù)據(jù)還需要使用StoredField。StoredField(FieldName, FieldValue) 重載方法，支持多種類型NNY這個Field用來構(gòu)建不同類型Field不

30、分析，不索引，但要Field存儲在文檔中TextField(FieldName, FieldValue, Store.NO)或TextField(FieldName, reader)字符串或流YYY或N如果是一個Reader, lucene猜測內(nèi)容比較多,會采用Unstored的策略.添加文檔代碼實現(xiàn)/添加索引Testpublic void addDocument() throws Exception /索引庫存放路徑 Directory directory = FSDirectory.open(new File(D:tempindex).toPath(); IndexWriterConfig

31、 config = new IndexWriterConfig(new IKAnalyzer(); /創(chuàng)建一個indexwriter對象 IndexWriter indexWriter = new IndexWriter(directory, config); /創(chuàng)建一個Document對象 Document document = new Document(); /向document對象中添加域。 /不同的document可以有不同的域，同一個document可以有相同的域。 document.add(new TextField(filename, 新添加的文檔, Field.Store.YE

32、S); document.add(new TextField(content, 新添加的文檔的內(nèi)容, Field.Store.NO); /LongPoint創(chuàng)建索引 document.add(new LongPoint(size, 1000l); /StoreField存儲數(shù)據(jù) document.add(new StoredField(size, 1000l); /不需要創(chuàng)建索引的就使用StoreField存儲 document.add(new StoredField(path, d:/temp/1.txt); /添加文檔到索引庫 indexWriter.addDocument(documen

33、t); /關閉indexwriter indexWriter.close();索引庫刪除刪除全部/刪除全部索引Testpublic void deleteAllIndex() throws Exception IndexWriter indexWriter = getIndexWriter();/刪除全部索引indexWriter.deleteAll();/關閉indexwriterindexWriter.close();說明：將索引目錄的索引信息全部刪除，直接徹底刪除，無法恢復。此方法慎用！指定查詢條件刪除/根據(jù)查詢條件刪除索引Testpublic void deleteIndexByQue

34、ry() throws Exception IndexWriter indexWriter = getIndexWriter();/創(chuàng)建一個查詢條件Query query = new TermQuery(new Term(filename, apache);/根據(jù)查詢條件刪除indexWriter.deleteDocuments(query);/關閉indexwriterindexWriter.close();索引庫的修改原理就是先刪除后添加。/修改索引庫Testpublic void updateIndex() throws Exception IndexWriter indexWriter

35、 = getIndexWriter(); /創(chuàng)建一個Document對象 Document document = new Document(); /向document對象中添加域。 /不同的document可以有不同的域，同一個document可以有相同的域。 document.add(new TextField(filename, 要更新的文檔, Field.Store.YES); document.add(new TextField(content, Lucene 簡介 Lucene 是一個基于 Java 的全文信息檢索工具包, + 它不是一個完整的搜索應用程序,而是為你的應用程序提供索引

36、和搜索功能。, Field.Store.YES); indexWriter.updateDocument(new Term(content, java), document); /關閉indexWriter indexWriter.close();Lucene索引庫查詢對要搜索的信息創(chuàng)建Query查詢對象，Lucene會根據(jù)Query查詢對象生成最終的查詢語法，類似關系數(shù)據(jù)庫Sql語法一樣Lucene也有自己的查詢語法，比如：“name:lucene”表示查詢Field的name為“l(fā)ucene”的文檔信息。可通過兩種方法創(chuàng)建查詢對象：1）使用Lucene提供Query子類2）使用QueryP

37、arse解析查詢表達式TermQueryTermQuery，通過項查詢，TermQuery不使用分析器所以建議匹配不分詞的Field域查詢，比如訂單號、分類ID號等。指定要查詢的域和要查詢的關鍵詞。/使用Termquery查詢Testpublic void testTermQuery() throws Exception Directory directory = FSDirectory.open(new File(D:tempindex).toPath(); IndexReader indexReader = DirectoryReader.open(directory); IndexSea

38、rcher indexSearcher = new IndexSearcher(indexReader); /創(chuàng)建查詢對象 Query query = new TermQuery(new Term(content, lucene); /執(zhí)行查詢 TopDocs topDocs = indexSearcher.search(query, 10); /共查詢到的document個數(shù) System.out.println(查詢結(jié)果總數(shù)量： + topDocs.totalHits); /遍歷查詢結(jié)果 for (ScoreDoc scoreDoc : topDocs.scoreDocs) Document document = indexSearcher.doc(scoreDoc.doc); System.out.println(document.get(filename); /System.out.println(document.get(content); System.out.println(document.get(path); System.out.println(doc