模式識(shí)別概述

模式識(shí)別

PatternClassification

第一章:模式識(shí)別概述一個(gè)例子通過光學(xué)感知手段，將傳送帶上的魚進(jìn)行自動(dòng)分類

鱸魚

魚類

鮭魚3AppliedPatternRecognitionCSE616問題分析架設(shè)一臺(tái)攝影像機(jī)，拍攝若干樣品的圖像提取用于區(qū)分兩類魚的有效特征(feature)長度光澤度寬度鰭的數(shù)目和形狀嘴的位置，等等…….上述參數(shù)即是我們對(duì)兩類魚進(jìn)行分類的備選特征4AppliedPatternRecognitionCSE616

預(yù)處理（preprocessing）去除干擾，圖像增強(qiáng)采用圖像分割技術(shù)將不同的魚分離開來，或者將魚同背景分開特征提取（featureextraction）將每條魚的數(shù)據(jù)送入特征提取器，通過測(cè)量特定的“特征”或“屬性”來簡化原始數(shù)據(jù)類將特征送入分類器，以便進(jìn)行分類

5AppliedPatternRecognitionCSE616鮭魚鮭魚鱸魚6AppliedPatternRecognitionCSE616分類（Classification）根據(jù)先驗(yàn)知識(shí)：鱸魚長度一般要比鮭魚大選擇長度（length）作為可能的分類特征獲取足夠多的樣本（訓(xùn)練樣本）進(jìn)行統(tǒng)計(jì)（直方圖）確定合適的長度臨界值L*

作為分類標(biāo)準(zhǔn)7AppliedPatternRecognitionCSE616鮭魚鱸魚分類標(biāo)準(zhǔn)8AppliedPatternRecognitionCSE616單一的特征判據(jù)（長度）不足以完全正確分類無論怎樣確定臨界值，都有無法僅憑長度就把兩類魚截然分開9AppliedPatternRecognitionCSE616選擇光澤度（lightness）作為分類特征獲取足夠多的樣本（訓(xùn)練樣本）進(jìn)行統(tǒng)計(jì)（直方圖）確定合適的光澤度臨界值x*作為分類標(biāo)準(zhǔn)以光澤度為分類特征，兩類魚的分離性更好！10AppliedPatternRecognitionCSE616分類標(biāo)準(zhǔn)鮭魚鱸魚11AppliedPatternRecognitionCSE616判別邊界與判別代價(jià)

無論采用哪一種特征進(jìn)行分類都有代價(jià)：誤判上述判別邊界假設(shè)將鮭魚誤判為鱸魚和將鱸魚誤判為鮭魚的代價(jià)相等（對(duì)稱代價(jià)）非對(duì)稱代價(jià)：調(diào)整判別邊界的位置決策論12AppliedPatternRecognitionCSE616鮭魚鱸魚調(diào)整判別邊界，減小判別代價(jià)13AppliedPatternRecognitionCSE616為獲取更好的分類效果，組合運(yùn)用多個(gè)特征

選取光澤度（lightness）和寬度（width）作為分類特征魚 xT=[x1,x2]特征向量：xT=[x1,x2]LightnessWidth14AppliedPatternRecognitionCSE616鮭魚鱸魚判別標(biāo)準(zhǔn)：判別邊界組合特征優(yōu)于單一特征15AppliedPatternRecognitionCSE616需要考慮的問題：特征越多分類性能越好嗎？什么樣的特征才是好的特征？特征的相關(guān)性與冗余？16AppliedPatternRecognitionCSE616如何獲取判別邊界：判別模型？

什么樣的判別邊界才是最優(yōu)的：模型優(yōu)化？

17AppliedPatternRecognitionCSE616復(fù)雜的模型鮭魚鱸魚18AppliedPatternRecognitionCSE616復(fù)雜的模型可保證對(duì)所有訓(xùn)練樣本正確分類過于復(fù)雜的模型將導(dǎo)致復(fù)雜的判別曲線新模式推廣能力差19AppliedPatternRecognitionCSE616分類系統(tǒng)的目標(biāo)是對(duì)未知的樣本正確分類，而不僅僅是對(duì)訓(xùn)練樣本分類必須在模型復(fù)雜度和推廣能力之間進(jìn)行折中考慮最優(yōu)模型20AppliedPatternRecognitionCSE616鮭魚鱸魚優(yōu)化的判別邊界21AppliedPatternRecognitionCSE616什么是模式識(shí)別？定義利用機(jī)器（計(jì)算機(jī)）模仿人腦對(duì)現(xiàn)實(shí)世界各種事物進(jìn)行描述、分類、判斷和識(shí)別的過程。目標(biāo)用計(jì)算機(jī)實(shí)現(xiàn)具有感知、識(shí)別、理解、自學(xué)習(xí)和自適應(yīng)能力的靈活和智能的計(jì)算機(jī)器。22AppliedPatternRecognitionCSE616模式識(shí)別的產(chǎn)生與發(fā)展起源于20世紀(jì)40年代研究初期，模式識(shí)別被看作動(dòng)物所具有的自然生理現(xiàn)象，很多人認(rèn)為不值得研究。當(dāng)人們?cè)噲D使計(jì)算機(jī)去具有人腦的識(shí)別能力后，模式識(shí)別的難度和重要性才得以重視。23AppliedPatternRecognitionCSE616模式識(shí)別的產(chǎn)生與發(fā)展隨著計(jì)算機(jī)技術(shù)的發(fā)展，60年代后模式識(shí)別迅速發(fā)展為一門相對(duì)獨(dú)立的新興交叉學(xué)科明確的問題定義、嚴(yán)格的數(shù)學(xué)基礎(chǔ)、堅(jiān)實(shí)的理論框架、豐富的理論和應(yīng)用成果、廣闊的應(yīng)用前景24AppliedPatternRecognitionCSE616模式識(shí)別的相關(guān)學(xué)科模式識(shí)別人工智能計(jì)算機(jī)視覺機(jī)器學(xué)習(xí)認(rèn)知科學(xué)心理生物學(xué)25AppliedPatternRecognitionCSE616模式識(shí)別的應(yīng)用語音識(shí)別與理解（Speechrecognition）語音識(shí)別說話人識(shí)別語種識(shí)別語音情感識(shí)別特定人、非特定人母語、非母語孤立音、連續(xù)音26AppliedPatternRecognitionCSE616模式識(shí)別的應(yīng)用字符識(shí)別（CharacterRecognition）手寫體印刷體漢字、英文、阿拉伯?dāng)?shù)字27AppliedPatternRecognitionCSE616模式識(shí)別的應(yīng)用生物特征識(shí)別指紋識(shí)別掌紋識(shí)別人臉識(shí)別虹膜識(shí)別28AppliedPatternRecognitionCSE616模式識(shí)別的應(yīng)用生物醫(yī)學(xué)信號(hào)識(shí)別心電圖、心音、多普勒生物信號(hào)、染色體、DNA序列圖像檢索軍事目標(biāo)跟蹤與識(shí)別遙感圖像處理29AppliedPatternRecognitionCSE616研究模式識(shí)別的意義通過模式識(shí)別的研究和應(yīng)用，提高和擴(kuò)展計(jì)算機(jī)的應(yīng)用能力和領(lǐng)域，促進(jìn)人工智能的應(yīng)用與發(fā)展促進(jìn)人們對(duì)人腦識(shí)別過程的理解和認(rèn)識(shí)30AppliedPatternRecognitionCSE616模式識(shí)別存在的問題模式識(shí)別是一門快速發(fā)展的新興學(xué)科，涉及到多學(xué)科、多領(lǐng)域的復(fù)雜問題和生物認(rèn)知系統(tǒng)相比，現(xiàn)有人工模式識(shí)別系統(tǒng)的適應(yīng)和識(shí)別能力還遠(yuǎn)遠(yuǎn)不能令人滿意模式識(shí)別的許多理論和基本方法方面的問題還遠(yuǎn)沒有得到解決新問題層出不窮傳統(tǒng)方法均存在一定的局限性31AppliedPatternRecognitionCSE616模式識(shí)別的理論基礎(chǔ)概率論與數(shù)理統(tǒng)計(jì)隨機(jī)過程線性代數(shù)優(yōu)化方法形式語言學(xué)32AppliedPatternRecognitionCSE616模式識(shí)別的基本方法模式識(shí)別方法經(jīng)典方法現(xiàn)代方法統(tǒng)計(jì)決策方法句法方法神經(jīng)網(wǎng)絡(luò)方法模糊模式識(shí)別33AppliedPatternRecognitionCSE616模式識(shí)別的基本方法統(tǒng)計(jì)決策法基于模式的定量描述與統(tǒng)計(jì)規(guī)律的識(shí)別方法，是模式識(shí)別最經(jīng)典、最成熟的方法，目前廣泛應(yīng)用于模式識(shí)別的各個(gè)領(lǐng)域原理：樣本觀測(cè)值特征概率統(tǒng)計(jì)決策準(zhǔn)則分類34AppliedPatternRecognitionCSE616模式識(shí)別的基本方法統(tǒng)計(jì)方法鮭魚鱸魚決策標(biāo)準(zhǔn)：判別邊界35AppliedPatternRecognitionCSE616模式識(shí)別的基本方法句法方法基于模式的空間結(jié)構(gòu)特征的定性描述與形式語言學(xué)的方法，廣泛應(yīng)用于字符識(shí)別、圖像識(shí)別等領(lǐng)域原理：樣本基元字符串形式語言文法分類36AppliedPatternRecognitionCSE616模式識(shí)別的基本方法句法方法定義基元：37AppliedPatternRecognitionCSE616模式識(shí)別的基本方法模糊模式識(shí)別基于模糊數(shù)學(xué)和統(tǒng)計(jì)分析的識(shí)別方法，在不能明確描述模式特征和結(jié)構(gòu)的復(fù)雜模式識(shí)別問題中得到了成功應(yīng)用根據(jù)隸屬度和模糊文法進(jìn)行分類