模式識(shí)別2013參數(shù)估計(jì)6-3隱馬爾可夫

HiddenMarkov 1的參數(shù)，目的是為了做出一個(gè)。當(dāng)需要進(jìn)行一個(gè)序列的，該怎么辦？與時(shí)間有關(guān)的事件，HMM獲得了最好的應(yīng)用，如主要鏈 模HMM 有機(jī)化學(xué)家VladimirV. 馬爾可夫馬爾隱馬爾可夫模鏈時(shí)間和狀態(tài)都離散的 過(guò)程稱為記作{XnX(n),n為在時(shí)間集T1={0,1,2,…}鏈的狀態(tài)空間記做Ia1a2條件概率Pijm,m+n)=P{Xm+naj|Xmai}為馬氏 X(t+1)=f(X(t)X(n+1)=f(X(n)j由于鏈在時(shí)刻m從任何一個(gè)狀態(tài)ai出發(fā)，到

state1：

a13 P

記為 23

0.1 P(O)P[S3,S3,S3,S1,S1,S3,S2,SP(S3)P(S3S3)P(S3S3)P(S1S3)P(S1S1)P(S3S1)P(S2S3)P(S3S21a33a33a31a11a13a32a1.536104HiddenMarkovMarkovMarkov

P(yellow)=b1(2)

P(yellow)=b2(2)

P(yellow)=bN(2)觀察序列 ，藍(lán)，紅，紅，黃，…..藍(lán) 系，用觀察值概率描述。q1,q2,...,

o1,o2,...,HMM，或簡(jiǎn)寫(xiě)為λ=(πHMM，或簡(jiǎn)寫(xiě)為λ=(π參含實(shí)N狀態(tài)缸的M每個(gè)狀態(tài)可能的觀察值目彩球顏色數(shù)AB給定狀態(tài)下，觀察值概分每個(gè)缸中的顏色分初始狀態(tài)空間的概率分初始時(shí)選擇某口缸的概 隨機(jī)性一階性

ai,j bi,jj1 j1

1,ai,j,bi,j[0P(ot|qt,qt1,...,q1,) p(ot|qt,ai,jp(qt1j|qti),bi,jp(otej|qtT觀測(cè)樣本獨(dú)立性Tp(o1,o2,...oT|q1,q2,...qT,θ)p(ot|qtt

(AB,

,如何計(jì)算P(OO1,O2,...,OT|)問(wèn)題：OO1,O2,...,OT以及模型λ,如何選擇一個(gè)對(duì)應(yīng)的狀態(tài)序列Qq1,q2,…qT，使得Q*argQ(q1,...,qT

P(Q,O|P(O|(A,B,))P(O|'(A',B','解決問(wèn)題1給定一個(gè)固定的狀態(tài)序列TP(O/S,λ)P(Ot/qt,λ)bq1(O1)bq2(O2)bqt(OTTtbq(Ot)表示在qt狀態(tài)下觀測(cè)到OttP(O/)P(O/S,)P(S/N=5T=100,=>計(jì)算量

HMMa0.8

b

a12 abb

ba23 ab

a1 0.5×1×0.4×0.3×0.6×0.5=0.0180.3×0.8×0.3×0.8×0.2×0=0解決問(wèn)題1定義前向變量（HMM在t時(shí)刻位于隱狀態(tài)Sit(i)P(O1,O2,Ot,qtSi/ 1t初始 1t遞歸 t1(j)[t(i)aij]bj(Ot1i

1tT1,1j終結(jié) P(O/λ)αTi

jαtα 按時(shí)間對(duì) 模型展N=5T=100,=>計(jì)算量 t= ……………T- 按時(shí)間對(duì) 模型展Numerical按時(shí)間對(duì) 模型展解決問(wèn)題1與前定義t(i)P(Ot1,Ot2,OT,qtSi/

1tTβT(i) 1tN

t(i)aijbj(Ot1)t1(jj

tT1,T2,...,1,1i

P(O/λ)β1NiN解決問(wèn)題1問(wèn)題2q1,q2 P[q1q2...qt1,qti,O1,O2,…Ot,|N和T分別為個(gè)數(shù)和序列長(zhǎng)

δT(i)所代表的那個(gè)狀態(tài)序問(wèn)題2Viterbi算法(續(xù)

δ1(i)πibi 1i 1i

t(j)max[t1(i)aij]bj(Oi

2tT,1j

t(j)argmax[t1(i)aijP*max[δT

2tT,1jq*Targmax[δTq*1iq*φ tT1,T t t問(wèn)題2NumericalExample:使得P(O|