研二模式識(shí)別總結(jié)

第一章導(dǎo)論特征提取和特征選擇(結(jié)合后邊章節(jié)最小錯(cuò)誤 決最小風(fēng) 決監(jiān)督學(xué)習(xí)與無(wú)監(jiān)督學(xué)習(xí)(根據(jù)例子判斷Fisher第一章導(dǎo)論清除或減少模式中的噪聲及其它干擾，提高信噪比。消除或減少數(shù)據(jù)圖像的模糊及幾何失真，提晰度。轉(zhuǎn)變模式的結(jié)構(gòu)，以便后續(xù)處理（如非線性模式轉(zhuǎn)為線性模式?jīng)Q規(guī)則分類(lèi)時(shí)，錯(cuò)誤率最低。把這些規(guī)則建成標(biāo)準(zhǔn)庫(kù)。特征選擇(selection)：從原始特征中挑選出一些最有代表性，分類(lèi)性能最Dd個(gè),CdD Filter方法：JS，然后J最大的特征子集作為最優(yōu)特征子集。最小錯(cuò)誤 決最小風(fēng) 決**********個(gè)人感覺(jué)看書(shū)上的例子就行了監(jiān)督學(xué)習(xí)與無(wú)監(jiān)督學(xué)習(xí)(根據(jù)例子判斷無(wú)監(jiān)督學(xué)習(xí)：不知道樣本類(lèi)別，只知道樣本的某些信息去估計(jì)，如：聚類(lèi)4.2.1對(duì)于多類(lèi)問(wèn)題，模式有ω1,ω2,…,ωmMg(x)WTX0,X 0其它i1,2M式中

,...,

,

T為第iω1<0。ω1類(lèi)與其它類(lèi)之間的邊界由g1(x)=0確定例：已知三類(lèi)ω1,ω2,ω3g1(x)x1 g1(x)x1x2gg (x) (x)gggggg X如果它的g1(x)>0，g2(x)<0，g3(x)則該模式屬于ω1ω1類(lèi)的區(qū)域由直線-x2+1=0-x1+x2-5=0和直線-x1+x2=0的負(fù)邊來(lái)確定。必須，如果某個(gè)X使二個(gè)以上的判別函數(shù)gi(x)>0。則此模式X就無(wú)法作出確切的。如圖中 IR1,IR3，IR4區(qū)域。確定區(qū)域。M(M_1)/2個(gè)判別平面。對(duì)于兩類(lèi)問(wèn)題，M=2結(jié)論：判別區(qū)間增大，不確定區(qū)間減小，比第一種情況小的多每類(lèi)都有一個(gè)判別函數(shù),MX所屬類(lèi)別。類(lèi)與類(lèi)之間的邊界可由gi(x)=gj(x)gi(x)gj(x)=0M=3的例子。對(duì)于ω1類(lèi)模式，必然滿足g1(x)>g2(x)和g1(x)>g3(x)。X，g(x)WTXx1,x2∈ω1，x3,x4∈ω2x1,x31

2

ig(x)WTXiW(w1,w2,...,wn,wn1,N（a例：41414/16。。直到在一個(gè)迭代過(guò)程中權(quán)向量相同訓(xùn)練結(jié)束判別。數(shù)感知器算法只對(duì)線性可分樣本有收斂的解,對(duì)非線性可分樣本造成訓(xùn)過(guò)程的振蕩,這是它的缺點(diǎn)FisherXY2維降為一維。若適當(dāng)選W的方向，可以使二類(lèi)分開(kāi)。下面我們從數(shù)學(xué)上尋找最好的投影方向，即尋W的問(wèn)題。投影樣本類(lèi)內(nèi)離散度投影樣本總的離散度可用（22） 上式就是n維x空間向一維y空間的最好投影方向，它實(shí)際是空間向一n維的問(wèn)題轉(zhuǎn)化為一維的問(wèn)題?，F(xiàn)在一設(shè)計(jì)Fisher分類(lèi)器YWTXW0XYWTXW0X2（聚類(lèi)是一種無(wú)監(jiān)督分類(lèi)法:分類(lèi)：用已知類(lèi)別的樣本訓(xùn)練集來(lái)設(shè)計(jì)分類(lèi)器（監(jiān)督學(xué)習(xí) ，對(duì)每個(gè)聚合中心來(lái)說(shuō)d|d|xy2iiDe(x,y)||xy當(dāng)De(x,

xy

2(x)T1(x為均值向量，7.2.1樣本x與y之間的角度相似性度量定義為它們之間夾角的余弦，即也是單位向量之間的點(diǎn)積（內(nèi)積S(x,y)越大，x與y越相似。常用 檢索、植物分類(lèi)、疾病分類(lèi)S(x,y)①S(x,y)S(y,②當(dāng)x

S(x,y)S(x,y)相似性度量→集合與集合的相似性。X{x1x2xn，采用某種相似性度量，被聚合成c ,nc個(gè)樣本cn

1nJc||j1k

k

mjnjn

j1

mjcJcXJcc心。Jc描述個(gè)n試驗(yàn)樣本聚合成c個(gè)類(lèi)型時(shí)，所產(chǎn)生的總誤差平方和。 好Z1，返回②，直到滿意，算法結(jié)束。該算法的聚類(lèi)結(jié)果與參數(shù)Z1用試探法通過(guò)多次