模式識別題目及答案

(15分)設(shè)有兩類正態(tài)分布的樣本集，第一類均值為V("方差[= 1,第二類均值為七=()2方差￡2= 1 ，先驗概率P(3)二P(3)，試求基于最小錯誤率的貝葉斯決策分界面。解根據(jù)后驗概率公式P(31X)=P(x解根據(jù)后驗概率公式P(31X)=P(x3)P(3)P(x) ，(2')及正態(tài)密度函數(shù)P(x|3i)=[藥￡|1/2exp[-(x-R)t￡-1(x-R)/2]ii i(25)基于最小錯誤率的分界面為P(X3)P(①)=P(X3)P(3),1 1兩邊去對數(shù)，并代入密度函數(shù)，得(2,)-(x-(x一日)t￡t(x一旦)/2-In￡I=-(x一旦)t￡-1(x一旦)/2-In￡I1 1 1 111 2 2 2 121(1)(2,)由已知條件可得|￡1|=|￡由已知條件可得|￡1|=|￡2|,￡-1=4/3，￡-1=24/3(2,)(5，)設(shè)x=(x,x)T，把已知條件代入式(1(5，)12 2(15分)設(shè)兩類樣本的類內(nèi)離散矩陣分別為s，(15分)設(shè)兩類樣本的類內(nèi)離散矩陣分別為s，各類樣本均值分別為人=(H)T，試用fisher準(zhǔn)則求其決策面方程并判斷樣本x=( )T的類別。解：S解：S=S+S=1 2(2，)投影方向為…S-1(W閾值為J投影方向為…S-1(W閾值為J=w*t(n+n)/2=[-1-1]-21/2-2=-3-1-1(4，)(6')給定樣本的投影為J=攻*TX=b21-1=—4<j,屬于第二類 （3'）-1 0三、（15分）給定如下的訓(xùn)練樣例實例X0x1x2t（真實輸出）11111212013101—14112-1用感知器訓(xùn)練法則求感知器的權(quán)值，設(shè)初始化權(quán)值為攻=攻=攻=0；0121第1次迭代wX（P）t（P）y（P）AW0001111100000012011000000101-11-10-1-10-1112-1-1000（4’）2第2次迭代-10-11111-111101012011000010101-11-10-1-11-1112-1-1000（2'）3第3和4次迭代-11-11111-111102012011000020101-11-10-1-12-1112-1-100t)-12-111111000-12-112011000-12-1101-1-1000四、 （15分）i. 推導(dǎo)正態(tài)分布下的最大似然估計；ii. 根據(jù)上步的結(jié)論,假設(shè)給出如下正態(tài)分布下的樣本{1,1.1,1.01,0.9,0.99}，估計該部分的均值和方差兩個參數(shù)。1設(shè)樣本為K={X1,X2,…，xN},1(1(55)正態(tài)密度函數(shù)p（X|3j=—exp[-(x-0)t￡t(正態(tài)密度函數(shù)p（X|3j=—exp[-(x-0)t￡t(x-0)/2] (25)1/2則似然函數(shù)為l(口)=p(KI])=p(x,x，…,xI])1 2N』p(xI口)kk=1(2′)對數(shù)似然函數(shù)H（口）=Xlnp（xI口）kk=1(2′)最大似然估計八口 =argmaxl(1)ML□=argmax￡Inp(xI□)□kTk(25)對于正態(tài)分布0ml=Nz*kk=1八O2ML!⑵)k=12根據(jù)1中的結(jié)果0=—^X=1MLNkk=1八O2ML=1"X-0)2=0.00404Nkk=1(55)TOC\o"1-5"\h\z五、 （15分）給定樣本數(shù)據(jù)如下：（ ）T，（ ）T對其進行PCA變換用（1）的結(jié)果對樣本數(shù)據(jù)做一維數(shù)據(jù)壓縮解（1）PCA變換1求樣本總體均值向量0（ ）T+6 ）T=（ ）T八 / 、/ 、/ 、/ 、…36362求協(xié)方差矩陣R （ ）K ）+（ ）K ）]/2= （25）36363求特征根，令36-九363636-九=03求特征根，令36-九363636-九=0,得'=72(15)由叫二九件得特征向量2=1小，-6則PCA為叱,Q]-6-6^2-6J2即i，Q]-1(25)（2）要做一維壓縮，就是向最大特征根對應(yīng)的特征向量做投影，得(5')六、（10六、（10分）已知4個二維樣本：\二（)T,X=( )T,X=( )T,23X4=（ ）3試用層次聚類把樣本分成2類。解：1初始將每一個樣本視為一類，得解：1初始將每一個樣本視為一類，得G；={xi},G0={X}，22G0={X}，G0={X}33 44計算各類間的距離，得到距離矩陣D0，（2'）D0Go={X1}G0={x}2 2G0={x}3 3G0={x}4 4Go={X1}01星5G0={x}2 2102^/5G0={x}3 3褥V20G0={x}4 452巡回0TOC\o"1-5"\h\z2將最短距離1對應(yīng)的類G0={x}，G0={x}合并為一類，得到新的分類： （4,）1122G1={G0,G0}，G1={G0}，G1={G0}

12 1 2 3 3 4 4計算各類間的歐式距離，得到距離矩陣D1（2'）D1G1={G0,G0}12 1 2G1={G0}3 3G1={G0}4 4G1={G0,G0}12 1 20霹2^/5G1={G0}3 3&0師G1={G0}4 42下03將距離最小兩類G：2={Gi0Go}和G3={Go}合并為一類，得到新的分類TOC\o"1-5"\h\zG2={G0,G0,G0},G2={G0}123 1 2 3 4 4聚類結(jié)束,結(jié)果為3={X,X,X}，3={X} (2')1 123 2 4七、（10分）已知4個二維樣本：％=（ ）T,%=（ ）T,%=（ ）T,1 23%=（ ）5%=（ ，.取K=3,用K均值算法做聚類45解:1 K=3,初始化聚類中心，z⑴=%=（ ）T,11z（1）=%=（6,）4T,z（1）=%=（10,）T9 （2’）23 352根據(jù)中心進行分類，得%={%「%2}，3={%,%}，3={%}

2 34 3 5(2')3更新聚類中心z(2)=(%+%)/2=(1 12),Tz(2)=(%+%)/2=( )t+( )t=(2 34(4’),)T9，/z(22)=%=(10,)T354根據(jù)新的中心進行分類，得3={%,%},3={%,%},3={%}，分類已經(jīng)不再1 12 2 34 3 5變化，因此最后的分類結(jié)果為3={%,%}，3={%,%},3={%} (2’)1 12 2 34 3 5八、(10分)設(shè)論域X={%,%,%,%}，給定X上的一個模糊關(guān)系R，其模糊矩陣為1234■1 0.8 0.8 0.2_ 0.8 1 0.85 0.2"-0.8 0.85 1 0.20.2 0.2 0.2 1判斷該模糊矩陣式模糊相似矩陣還是模糊