結(jié)合全局和局部正則化的半監(jiān)督二分類算法

結(jié)合全局和局部正則化的半監(jiān)督二分類算法摘要:針對在半監(jiān)督分類問題中單獨(dú)使用全局學(xué)習(xí)容易出現(xiàn)的在整個輸入空間中較難獲得一個優(yōu)良的決策函數(shù)的問題,以及單獨(dú)使用局部學(xué)習(xí)可在特定的局部區(qū)域內(nèi)習(xí)得較好的決策函數(shù)的特點(diǎn),提出了一種結(jié)合全局和局部正則化的半監(jiān)督二分類算法。該算法綜合全局正則項和局部正則項的優(yōu)點(diǎn),基于先驗知識構(gòu)建的全局正則項能平滑樣本的類標(biāo)號以避免局部正則項學(xué)習(xí)不充分的問題,通過基于局部鄰域內(nèi)樣本信息構(gòu)建的局部正則項使得每個樣本的類標(biāo)號具有理想的特性,從而構(gòu)造出半監(jiān)督二分類問題的目標(biāo)函數(shù)。通過在標(biāo)準(zhǔn)二類數(shù)據(jù)集上的實驗,結(jié)果表明所提出的算法其平均分類正確率和標(biāo)準(zhǔn)誤差均優(yōu)于基于拉普拉斯正則項方法、基于正則化拉普拉斯正則項方法和基于局部學(xué)習(xí)正則項方法。

關(guān)鍵詞:半監(jiān)督學(xué)習(xí);二分類問題;全局正則化;局部正則化;平滑

semi-supervisedbinaryclassificationalgorithmbasedon

globalandlocalregularization

英文作者名ljia1,2,3*

英文地址(1.schoolofmathematicalsciences,innermongoliauniversity,hohhotneimongol010021,china;

2.collegeofcomputerandinformationscience,chongqingnormaluniversity,chongqing400047,china;

3.collegeofscience,chinaagriculturaluniversity,beijing100083,china)

abstract:asforsemi-supervisedclassificationproblem,itisdifficulttoobtainagoodclassificationfunctionfortheentireinputspaceifgloballearningisusedalone,whileiflocallearningisutilizedalone,agoodclassificationfunctiononsomespecifiedregionsoftheinputspacecanbegot.accordingly,anewsemi-supervisedbinaryclassificationalgorithmbasedonamixedlocalandglobalregularizationwaspresentedinthispaper.thealgorithmintegratedthebenefitsofglobalregularizerandlocalregularizer.globalregularizerwasbuilttosmooththeclasslabelsofthedatasoastolesseninsufficienttrainingoflocalregularizer,andbasedupontheneighboringregion,localregularizerwasconstructedtomakeclasslabelofeachdatahavethedesiredproperty,thustheobjectivefunctionofsemi-supervisedbinaryclassificationproblemwasconstructed.comparativesemi-supervisedbinaryclassificationexperimentsonsomebenchmarkdatasetsvalidatethattheaverageclassificationaccuracyandthestandarderroroftheproposedalgorithmareobviouslysuperiortootheralgorithms.

[1]鄧乃揚(yáng),田英杰.數(shù)據(jù)挖掘中的新方法——支持向量機(jī)[m].北京:科學(xué)出版社,2004.

[2]鄧乃揚(yáng),田英杰.支持向量機(jī):理論、算法與拓展[m].北京:科學(xué)出版社,2009.

[3]呂佳.基于動態(tài)隧道系統(tǒng)的k-means聚類算法研究[j].重慶師范大學(xué)學(xué)報:自然科學(xué)版,2009,26(1):73-77.

[4]chapelleo,scholkopfb,ziena.semi-supervisedlearning[m].cambridge:mitpress,2006.

[5]zhuxj.semi-supervisedlearningliteraturesurvey[eb/ol].[2010-05-10]./~jerryzhu/pub/ssl_survey.pdf.

[6]呂佳.基于改進(jìn)分類模型的文本分類系統(tǒng)實現(xiàn)[j].重慶師范大學(xué)學(xué)報:自然科學(xué)版,2009,26(2):68-73.

[7]zhuxj,ghaharmaniz,laffertyj.semi-supervisedlearningusinggaussianfieldsandharmonicfunctions[c