西電,模式識別,k近鄰

1、模式識別大作業(yè)k近鄰算法學院：電子工程學院班級：學號：姓名：作業(yè)要求一、作業(yè)內(nèi)容編程實現(xiàn)最近鄰算法和k近鄰算法，在Iris （3類，每類50 個樣本，4維特征），wine數(shù)據(jù)集（3類，13維，共178個樣本） 上驗證其性能。二、算法描述K近鄰就是在N個樣本中，找出x的K個近鄰。設(shè)這N個 樣本中，來自Wc類的樣本有Nc個，若KI, K2,Kc分別是 K個近鄰中屬于Wl, W2,，Wc類的樣本數(shù)，則我們可以定 義判別函數(shù)為：gi(x) = i = l, 2j 3,，c決策規(guī)則為：若gj(x) = maxkj則決策xewjo這就是K近鄰的基本規(guī)則。三、代碼實現(xiàn)Irisfunction kl=kl()

2、; temp=importdata(,iris.txt,); sum=zeros(l JO);for i= 1:10data l=temp( 1:50 J :4);randnum=randperm(size(data 1,1);train 1 =data 1 (randnum(l :25),:);test l=data 1 (randnu m(26:50),:);data2=temp(51:100,1:4);randnum=randperm(size(data2,1);train2=data2(randnuni( 1:25),:);test2=data2(randnum(26:50),:);d

3、ata3=temp( 101:150,1:4);randnum=randperm(size(data3,1);train3=data3(randnum( 1:25),:);test3=data3(randnum(26:50),:);train_sample=cat( 1,train 14rain2,train3);test_sample=cat( 1 ,test 1 ,test2,test3);k=ll;kjl=zeros(L75);for x=l:75for y=l:75result=sqrt(test_sample(x, 1 )-train_saniple(y, 1 )A2+(test_s

4、ample(x,2)-train_sample(y, 2)A2+(test_sample(x,3)-train_sample(y,3)A2+(test_sample(x,4)-train_sample(y,4)A2 );kj 1(1,y)二result;endBJnd=sort(kjl);ml=0;m2=0;m3=0;for n=l:kif Ind( 1 ,n)<=20ml 二 ml + 1;elseif Ind( 1 ,n)>20&&Ind( 1 ,n)<=40m2 二 m2+1;elsem3 二 m3+1;endendif(m 1 >=m2&

5、&m 1 >=m3) m= 1;elseif m2>=m l&&m2>=m3 m=2;else m=3;endif x<=25disp(sprintf(,第d組數(shù)據(jù)分類后為第d類;x+25,m);elseif x>25&&x<=50 disp(sprintf('第<1組數(shù)據(jù)分類后為第%宀類x+50,m);elseif x>50&&x<=75 disp(sprintf('第嘶組數(shù)據(jù)分類后為第%d類;x+75,m);endif (x<=25&&m= 1

6、 )ll(x>25&&x<=50&&m=2)ll(x>50 &&x<=75&&m=3) sum( 1 J)=sum(l j)+1;endendsum( 1 ,i)=sum(l j)/75;disp(sprintf('分類正確率 %4.2f ,sum( 1 ,i)endadd=O;for j=l:10disp(sprintf('第1 次分類正確率為 %4.2f,j,sum(l,j)add=sum( 1 j)+add;enddisp(sprintf('平均分類正確率為 %4.2f,add

7、/10)Winefunction zx=zx();temp 二 importdata('wine.txf); sum=zeros(l JO);for i= 1:10data_l=temp(l:5 8,1:4);randnum=randperm(size(data_L 1);train_ 1 =data_ 1 (randnum( 1:29),:);test_l=data_l(randnum(30:58),:);data_2=temp(59:116J :4); randnum=randperm(size(data_2,1);t rai n_2=d ata_2 (rand n u m (1:

8、29),:);test_2=data_2(randnum(30:58),:);data_3=temp( 117:174,1:4);randnum 二 randpeirn(size(dnS_3,1);train_3=data_3(randnum( 1:29);test_3=data_3(randnum(30:58),:);train_sample=cat( 1 ,train_l ,train_2,train_3);test_sample=cat( 1 ,test_l ,test_2,test_3);k=ll;kjl=zeros(l,87);for x=l:87for y=l:87result=s

9、qrt(test_sample(x, 1 )-train_sample(yJ )A2+(test_sample(x,2)-train_sample(y, 2)A2+(test_sample(x,3)-train_sample(y,3)A2+(test_sample(x,4)-train_sample(y,4)A2 );kjl(l,y)=result;endBJnd=sort(kjl);ml=O;m2=0;m3=0;for n=l:kif Ind(l,n)<=20ml=ml + l;elseif Ind(l ,n)>20&&Ind( 1 ,n)<=40m2=m2

10、+1;elsem3二m3+1;endendif(ml>=m2&&ml>二m3) m=l;elseif m2>=m 1 &&m2>=m3 m=2;else m=3;endif x<=29disp(sprintf(*笫d組數(shù)據(jù)分類后為笫d類;x+29,m);elseif x>29&&x<=58disp(sprintf('第<1組數(shù)據(jù)分類后為第%d類;x+58,m);elseif x>58&&x<=87disp(sprintf('第d組數(shù)據(jù)分類后為第d類;x+8

11、7,m);endif (x<=29&&m=l)ll(x>29&&x<=58&&m=2)ll(x>58&&x<=87&&m=3) sum( 1 ,i)=sum(l ,i)+1;endendsum( 19i)=sum(l j)/87;disp(sprintf('分類正確率 %4.2f ,sum( 1 ,i)endadd=0;for j=l:10disp(sprintf('第1 次分類正確率為 %4.2f,j,sum(l,j)add=sum( 1 j)+add;enddisp

12、(sprintf(* 平均分類正確率為 %4.2f,add/10)四、運行結(jié)果Iris第26組數(shù)據(jù)分類后為第1類 第27組數(shù)據(jù)分類后為第2類 第28組數(shù)據(jù)分類后為第1類 第29組數(shù)據(jù)分類后為第1類 第30組數(shù)據(jù)分類后為第1類 第31組數(shù)據(jù)分類后為第1類 第32組數(shù)據(jù)分類后為第1類 第33組數(shù)據(jù)分類后為第1類 第34組數(shù)據(jù)分類后為第1類 第35組數(shù)據(jù)分類后為第1類 第36組數(shù)據(jù)分類后為第1類 第37組數(shù)據(jù)分類后為第1類 第38組數(shù)據(jù)分類后為第1類 第39組數(shù)據(jù)分類后為第1類 第40組數(shù)據(jù)分類后為第2類 第41組數(shù)據(jù)分類后為第1類 第42組數(shù)據(jù)分類后為第1類 第43組數(shù)據(jù)分類后為第1類 第44組數(shù)

13、據(jù)分類后為第1類 第45組數(shù)據(jù)分類后為第1類 第46組數(shù)據(jù)分類后為第1類 第47組數(shù)據(jù)分類后為第1類 第48組數(shù)據(jù)分類后為第1類 第49組數(shù)據(jù)分類后為第1類 第50組數(shù)據(jù)分類后為第1類 第76組數(shù)據(jù)分類后為第2類 第77組數(shù)據(jù)分類后為第2類 第78組數(shù)據(jù)分類后為第3類 第79組數(shù)據(jù)分類后為第3類 第80組數(shù)據(jù)分類后為第2類 第81組數(shù)據(jù)分類后為第2類 第82組數(shù)據(jù)分類后為第2類 第83組數(shù)據(jù)分類后為第3類 第84組數(shù)據(jù)分類后為第3類 第85組數(shù)據(jù)分類后為第2類 第86組數(shù)據(jù)分類后為第2類 第87組數(shù)據(jù)分類后為第3類 第88組數(shù)據(jù)分類后為第2類 第89組數(shù)據(jù)分類后為第2類 第90組數(shù)據(jù)分類后為第

14、3類 第91組數(shù)據(jù)分類后為第2類 第92組數(shù)據(jù)分類后為第3類 第93組數(shù)據(jù)分類后為第3類 第94組數(shù)據(jù)分類后為第3類 第95組數(shù)據(jù)分類后為第3類 第96組數(shù)據(jù)分類后為第3類 第97組數(shù)據(jù)分類后為第3類 第98組數(shù)據(jù)分類后為第2類 第99組數(shù)據(jù)分類后為第2類 第100組數(shù)據(jù)分類后為第3類 第126組數(shù)據(jù)分類后為第3類 第127組數(shù)據(jù)分類后為第3類 第128組數(shù)據(jù)分類后為第3類 第129組數(shù)據(jù)分類后為第3類 第130組數(shù)據(jù)分類后為第3類 第131組數(shù)據(jù)分類后為第3類 第132組數(shù)據(jù)分類后為第3類 第133組數(shù)據(jù)分類后為第3類 第134組數(shù)據(jù)分類后為第3類 第135組數(shù)據(jù)分類后為第3類 第136組數(shù)

15、據(jù)分類后為第3類 第137組數(shù)據(jù)分類后為第3類 第138組數(shù)據(jù)分類后為第3類 第139組數(shù)據(jù)分類后為第3類 第140組數(shù)據(jù)分類后為第3類 第141組數(shù)據(jù)分類后為第3類 第142組數(shù)據(jù)分類后為第3類 第143組數(shù)據(jù)分類后為第3類 第144組數(shù)據(jù)分類后為第3類 第145組數(shù)據(jù)分類后為第3類 第146組數(shù)據(jù)分類后為第3類 第147組數(shù)據(jù)分類后為第3類 第148組數(shù)據(jù)分類后為第3類 第149組數(shù)據(jù)分類后為第3類 第150組數(shù)據(jù)分類后為第3類 分類正確率為0.96第26組數(shù)據(jù)分類后為第1類 第27組數(shù)據(jù)分類后為第1類 第28組數(shù)據(jù)分類后為第1類 第29組數(shù)據(jù)分類后為第1類 第30組數(shù)據(jù)分類后為第1類 第

16、31組數(shù)據(jù)分類后為第1類 第32組數(shù)據(jù)分類后為第1類 第33組數(shù)據(jù)分類后為第1類 第34組數(shù)據(jù)分類后為第1類 第35組數(shù)據(jù)分類后為第1類 第36組數(shù)據(jù)分類后為第1類 第37組數(shù)據(jù)分類后為第1類 第38組數(shù)據(jù)分類后為第1類 第39組數(shù)據(jù)分類后為第1類 第40組數(shù)據(jù)分類后為第1類 第41組數(shù)據(jù)分類后為第1類 第42組數(shù)據(jù)分類后為第1類 第43組數(shù)據(jù)分類后為第1類 第44組數(shù)據(jù)分類后為第1類 第45組數(shù)據(jù)分類后為第1類 第46組數(shù)據(jù)分類后為第1類 第47組數(shù)據(jù)分類后為第1類 第48組數(shù)據(jù)分類后為第1類 第49組數(shù)據(jù)分類后為第1類 第50組數(shù)據(jù)分類后為第1類 第76組數(shù)據(jù)分類后為第3類 第77組數(shù)據(jù)分

17、類后為第3類 第78組數(shù)據(jù)分類后為第3類 第79組數(shù)據(jù)分類后為第2類 第80組數(shù)據(jù)分類后為第2類 第81組數(shù)據(jù)分類后為第2類 第82組數(shù)據(jù)分類后為第2類 第83組數(shù)據(jù)分類后為第2類 第84組數(shù)據(jù)分類后為第2類 第85組數(shù)據(jù)分類后為第3類 第86組數(shù)據(jù)分類后為第2類 第87組數(shù)據(jù)分類后為第3類 第88組數(shù)據(jù)分類后為第1類 第89組數(shù)據(jù)分類后為第2類 第90組數(shù)據(jù)分類后為第2類 第91組數(shù)據(jù)分類后為第2類 第92組數(shù)據(jù)分類后為第2類 第93組數(shù)據(jù)分類后為第3類 第94組數(shù)據(jù)分類后為第2類 第95組數(shù)據(jù)分類后為第3類 第96組數(shù)據(jù)分類后為第2類 第97組數(shù)據(jù)分類后為第3類 第98組數(shù)據(jù)分類后為第3類

18、 第99組數(shù)據(jù)分類后為第2類 第100組數(shù)據(jù)分類后為第3類 第126組數(shù)據(jù)分類后為第3類 第127組數(shù)據(jù)分類后為第3類 第128組數(shù)據(jù)分類后為第3類 第129組數(shù)據(jù)分類后為第3類 第130組數(shù)據(jù)分類后為第3類 第131組數(shù)據(jù)分類后為第3類 第132組數(shù)據(jù)分類后為第3類 第133組數(shù)據(jù)分類后為第3類 第134組數(shù)據(jù)分類后為第3類 第135組數(shù)據(jù)分類后為第3類 第136組數(shù)據(jù)分類后為第3類 第137組數(shù)據(jù)分類后為第3類 第138組數(shù)據(jù)分類后為第3類 第139組數(shù)據(jù)分類后為第3類 第140組數(shù)據(jù)分類后為第3類 第141組數(shù)據(jù)分類后為第3類 第142組數(shù)據(jù)分類后為第3類 第143組數(shù)據(jù)分類后為第3類

19、第144組數(shù)據(jù)分類后為第3類 第145組數(shù)據(jù)分類后為第3類 第146組數(shù)據(jù)分類后為第3類 第147組數(shù)據(jù)分類后為第3類 第148組數(shù)據(jù)分類后為第3類 第149組數(shù)據(jù)分類后為第3類 第150組數(shù)據(jù)分類后為第3類 分類正確率為0.94667Wine第30組數(shù)據(jù)分類后為第1類 第31組數(shù)據(jù)分類后為第1類 第32組數(shù)據(jù)分類后為第1類 第33組數(shù)據(jù)分類后為第1類 第34組數(shù)據(jù)分類后為第1類 第35組數(shù)據(jù)分類后為第1類 第36組數(shù)據(jù)分類后為第1類 第37組數(shù)據(jù)分類后為第1類 第38組數(shù)據(jù)分類后為第1類 第39組數(shù)據(jù)分類后為第1類 第40組數(shù)據(jù)分類后為第1類 第41組數(shù)據(jù)分類后為第1類 第42組數(shù)據(jù)分類后為

20、第1類 第43組數(shù)據(jù)分類后為第1類 第44組數(shù)據(jù)分類后為第1類 第45組數(shù)據(jù)分類后為第1類 第46組數(shù)據(jù)分類后為第1類 第47組數(shù)據(jù)分類后為第1類 第48組數(shù)據(jù)分類后為第1類 第49組數(shù)據(jù)分類后為第1類 第50組數(shù)據(jù)分類后為第1類 第51組數(shù)據(jù)分類后為第1類 第52組數(shù)據(jù)分類后為第1類 第53組數(shù)據(jù)分類后為第1類 第54組數(shù)據(jù)分類后為第1類 第55組數(shù)據(jù)分類后為第1類 第56組數(shù)據(jù)分類后為第1類 第57組數(shù)據(jù)分類后為第1類 第58組數(shù)據(jù)分類后為第1類 第88組數(shù)據(jù)分類后為第3類 第89組數(shù)據(jù)分類后為第3類 第90組數(shù)據(jù)分類后為第3類 第91組數(shù)據(jù)分類后為第3類 第92組數(shù)據(jù)分類后為第2類 第9

21、3組數(shù)據(jù)分類后為第3類 第94組數(shù)據(jù)分類后為第2類 第95組數(shù)據(jù)分類后為第1類 第96組數(shù)據(jù)分類后為第3類 第97組數(shù)據(jù)分類后為第3類 第98組數(shù)據(jù)分類后為第3類 第99組數(shù)據(jù)分類后為第3類 第100組數(shù)據(jù)分類后為第3類 第101組數(shù)據(jù)分類后為第3類 第102組數(shù)據(jù)分類后為第3類 第103組數(shù)據(jù)分類后為第3類 第104組數(shù)據(jù)分類后為第2類 第105組數(shù)據(jù)分類后為第3類 第106組數(shù)據(jù)分類后為第3類 第107組數(shù)據(jù)分類后為第2類 第108組數(shù)據(jù)分類后為第3類 第109組數(shù)據(jù)分類后為第3類 第110組數(shù)據(jù)分類后為第2類 第111組數(shù)據(jù)分類后為第2類 第112組數(shù)據(jù)分類后為第3類 第113組數(shù)據(jù)分類

22、后為第3類 第114組數(shù)據(jù)分類后為第3類 第115組數(shù)據(jù)分類后為第3類 第116組數(shù)據(jù)分類后為第3類 第146組數(shù)據(jù)分類后為第3類 第147組數(shù)據(jù)分類后為第3類 第148組數(shù)據(jù)分類后為第3類 第149組數(shù)據(jù)分類后為第3類 第150組數(shù)據(jù)分類后為第3類 第151組數(shù)據(jù)分類后為第3類 第152組數(shù)據(jù)分類后為第3類 第153組數(shù)據(jù)分類后為第3類 第154組數(shù)據(jù)分類后為第3類 第155組數(shù)據(jù)分類后為第3類 第156組數(shù)據(jù)分類后為第3類 第157組數(shù)據(jù)分類后為第3類 第158組數(shù)據(jù)分類后為第3類 第159組數(shù)據(jù)分類后為第3類 第160組數(shù)據(jù)分類后為第3類 第161組數(shù)據(jù)分類后為第3類 第162組數(shù)據(jù)分類

23、后為第3類 第163組數(shù)據(jù)分類后為第3類 第164組數(shù)據(jù)分類后為第3類 第165組數(shù)據(jù)分類后為第3類 第166組數(shù)據(jù)分類后為第3類 第167組數(shù)據(jù)分類后為第3類 第168組數(shù)據(jù)分類后為第3類 第169組數(shù)據(jù)分類后為第3類 第170組數(shù)據(jù)分類后為第3類 第171組數(shù)據(jù)分類后為第3類 第172組數(shù)據(jù)分類后為第3類 第173組數(shù)據(jù)分類后為第3類 第174組數(shù)據(jù)分類后為第2類 分類正確率為0.8764第30組數(shù)據(jù)分類后為第1類 第31組數(shù)據(jù)分類后為第1類 第32組數(shù)據(jù)分類后為第2類 第33組數(shù)據(jù)分類后為第1類 第34組數(shù)據(jù)分類后為第1類 第35組數(shù)據(jù)分類后為第1類 第36組數(shù)據(jù)分類后為第1類 第37組

24、數(shù)據(jù)分類后為第1類 第38組數(shù)據(jù)分類后為第1類 第39組數(shù)據(jù)分類后為第1類 第40組數(shù)據(jù)分類后為第1類 第41組數(shù)據(jù)分類后為第1類 第42組數(shù)據(jù)分類后為第1類 第43組數(shù)據(jù)分類后為第1類 第44組數(shù)據(jù)分類后為第1類 第45組數(shù)據(jù)分類后為第1類 第46組數(shù)據(jù)分類后為第1類 第47組數(shù)據(jù)分類后為第1類 第48組數(shù)據(jù)分類后為第1類 第49組數(shù)據(jù)分類后為第1類 第50組數(shù)據(jù)分類后為第1類 第51組數(shù)據(jù)分類后為第1類 第52組數(shù)據(jù)分類后為第1類 第53組數(shù)據(jù)分類后為第2類 第54組數(shù)據(jù)分類后為第1類 第55組數(shù)據(jù)分類后為第2類 第56組數(shù)據(jù)分類后為第1類 第57組數(shù)據(jù)分類后為第1類 第58組數(shù)據(jù)分類后為

25、第1類 第88組數(shù)據(jù)分類后為第2類 第89組數(shù)據(jù)分類后為第3類 第90組數(shù)據(jù)分類后為第3類 第91組數(shù)據(jù)分類后為第1類 第92組數(shù)據(jù)分類后為第2類 第93組數(shù)據(jù)分類后為第3類 第94組數(shù)據(jù)分類后為第3類 第95組數(shù)據(jù)分類后為第3類 第96組數(shù)據(jù)分類后為第3類 第97組數(shù)據(jù)分類后為第2類 第98組數(shù)據(jù)分類后為第3類 第99組數(shù)據(jù)分類后為第3類 第100組數(shù)據(jù)分類后為第3類 第101組數(shù)據(jù)分類后為第3類 第102組數(shù)據(jù)分類后為第1類 第103組數(shù)據(jù)分類后為第3類 第104組數(shù)據(jù)分類后為第3類 第105組數(shù)據(jù)分類后為第3類 第106組數(shù)據(jù)分類后為第3類 第107組數(shù)據(jù)分類后為第3類 第108組數(shù)據(jù)分

26、類后為第3類 第109組數(shù)據(jù)分類后為第3類 第110組數(shù)據(jù)分類后為第2類 第111組數(shù)據(jù)分類后為第3類 第112組數(shù)據(jù)分類后為第3類 第113組數(shù)據(jù)分類后為第3類 第114組數(shù)據(jù)分類后為第3類 第115組數(shù)據(jù)分類后為第3類 第116組數(shù)據(jù)分類后為第3類 第146組數(shù)據(jù)分類后為第2類 第147組數(shù)據(jù)分類后為第3類 第148組數(shù)據(jù)分類后為第2類 第149組數(shù)據(jù)分類后為第3類 第150組數(shù)據(jù)分類后為第3類 第151組數(shù)據(jù)分類后為第3類 第152組數(shù)據(jù)分類后為第3類 第153組數(shù)據(jù)分類后為第3類 第154組數(shù)據(jù)分類后為第3類 第155組數(shù)據(jù)分類后為第3類 第156組數(shù)據(jù)分類后為第3類 第157組數(shù)據(jù)分類后為第3類 第158組數(shù)據(jù)分類后為第3類 第159組數(shù)據(jù)分類后為第3類 第160組數(shù)據(jù)分類后為第3類 第161