多標(biāo)簽分類學(xué)習(xí)

多標(biāo)簽分類問(wèn)題的學(xué)習(xí)多標(biāo)簽分類問(wèn)題是分類問(wèn)題中比較復(fù)雜的問(wèn)題，不同于兩類分類問(wèn)題，它允許問(wèn)題中存在多個(gè)類別(或稱為標(biāo)簽):不同于多類分類問(wèn)題，它允許樣本同時(shí)屬于多個(gè)類別。由于多標(biāo)簽分類問(wèn)題的復(fù)雜性，也就引起了人們研究的興趣。現(xiàn)實(shí)中存在的多標(biāo)簽分類問(wèn)題也很多。一個(gè)比較常見的問(wèn)題是為電影分類問(wèn)題，電影的類別有很多種，如:科幻、喜劇、動(dòng)作和劇情等等，一部電影也可以同時(shí)擁有多個(gè)類別，而且絕大多數(shù)電影都是擁有多個(gè)類別的。在許多現(xiàn)實(shí)應(yīng)用中人們己經(jīng)開始使用計(jì)算機(jī)來(lái)進(jìn)行多標(biāo)簽分類問(wèn)題的研究，在中，可以將一篇文章分類到多個(gè)話題中，如:社會(huì)、科學(xué)、體育和娛樂(lè)等;在風(fēng)景圖像分類中，一幅圖像可以擁有多個(gè)主題，如:樹林、海灘、山峰和草原等。1目前，多標(biāo)簽分類問(wèn)題的算法有兩大類，一類是基于數(shù)據(jù)集分解的方法，另一類是基于單個(gè)優(yōu)化問(wèn)題的方法?；跀?shù)據(jù)集分解的多標(biāo)簽方法基于數(shù)據(jù)集分解的多標(biāo)簽方法簡(jiǎn)稱為分解方法，它將一個(gè)多標(biāo)簽分類問(wèn)題分解為多個(gè)單標(biāo)簽分類的子問(wèn)題，然后使用一般的分類方法處理這些子問(wèn)題，最后集成這些子問(wèn)題的解得出總的多標(biāo)簽分類問(wèn)題的解，因此分解方法一般分為分解、處理和集成三步。分解方法的目的是為了直接使用己經(jīng)存在的單標(biāo)簽分類算法，它的特點(diǎn)就在于方便和快速。目前主要的分解策略有“一對(duì)一”和“一對(duì)多”兩種，但根據(jù)處理子問(wèn)題的分類算法的不同又有多種具體形式的分類算法。2“一對(duì)一”的基于數(shù)據(jù)集分解的多標(biāo)簽方法策略示意圖3“一對(duì)一”的分解策略，是指對(duì)于具有k個(gè)標(biāo)簽的數(shù)據(jù)集，將任意兩個(gè)標(biāo)簽配對(duì)構(gòu)造一個(gè)分類器，只對(duì)含有這兩個(gè)標(biāo)簽的樣本進(jìn)行分類，這樣的兩兩配對(duì)共有k（k-l)/2種可能的情況，將會(huì)產(chǎn)生k（k-l)/2個(gè)分類器，因此通過(guò)“一對(duì)一”的分解策略可以將一個(gè)多標(biāo)簽分類問(wèn)題分解成k(k-1)/2個(gè)單標(biāo)簽分類問(wèn)題，對(duì)于這些單標(biāo)簽分類問(wèn)題的處理則可以使用各種分類方法，如k近鄰算法、貝葉斯算法、支持向量機(jī)算法等。需要注意的是根據(jù)多標(biāo)簽分類問(wèn)題的特點(diǎn)這些子問(wèn)題的樣本可能存在三種類型，即:只擁有第一個(gè)標(biāo)簽的樣本，只擁有第二個(gè)標(biāo)簽的樣本和同時(shí)擁有第一和第二標(biāo)簽的樣本。要處理這樣的子問(wèn)題最簡(jiǎn)單的方法是忽略掉同時(shí)擁有第一和第二標(biāo)簽的樣本，如Model-i算法；另一種方法是用兩個(gè)兩類分類器來(lái)處理這樣的子問(wèn)題，如多標(biāo)簽成對(duì)比較算法；還有一種方法是直接創(chuàng)造一種三類的分類器來(lái)處理這樣的子問(wèn)題，如平行支持向量機(jī)算法。，4“一對(duì)多”的基于數(shù)據(jù)集分解的多標(biāo)簽方法策略示意圖5

“一對(duì)多”的分解策略是指將具有k個(gè)標(biāo)簽的數(shù)據(jù)集分解成k個(gè)兩類分類器，但是每一個(gè)分類器中都要包含所有的樣本，第i號(hào)分類器要將擁有第i個(gè)標(biāo)簽的樣本與其余樣本分開，對(duì)于這k個(gè)兩類分類器可以使用各種兩類分類方法來(lái)解決，如使用k近鄰算法(PT4-kNN),C4.5算法(PT4-C4.5)、貝葉斯算法(PT4-NB)，以及基于支持向量機(jī)的Binary-SVM算法和PT4-SMO算法。6基于單個(gè)優(yōu)化問(wèn)題的多標(biāo)簽方法在基于單個(gè)優(yōu)化問(wèn)題的方法中，要求只建立一個(gè)最優(yōu)化問(wèn)題來(lái)處理所有的樣本，并且這些樣本擁有多個(gè)標(biāo)簽，因此建立和計(jì)算這樣的最優(yōu)化問(wèn)題是整個(gè)基于單個(gè)優(yōu)化問(wèn)題的方法中最重要的問(wèn)題，而根據(jù)建立的最優(yōu)化問(wèn)題的不同，基于單個(gè)優(yōu)化問(wèn)題方法也有多種形式。例如：BoosTexter算法、Rank-SVM算法、最大化間隔標(biāo)簽法、多標(biāo)簽最大化熵算法、多標(biāo)簽k近鄰算法等等?？傮w而言，基于單個(gè)