結(jié)合PCA的Adaboost算法用于人臉識(shí)別.doc

結(jié)合PCA的Adaboost算法用于人臉識(shí)別 摘 要: 人臉識(shí)別是一種生物特征識(shí)別技術(shù),是進(jìn)入21世紀(jì)以來(lái),計(jì)算機(jī)技術(shù)在社會(huì)生活領(lǐng)域中的一項(xiàng)熱門(mén)應(yīng)用。其被廣泛應(yīng)用于數(shù)碼相機(jī)、攝像機(jī)的人臉自動(dòng)對(duì)焦技術(shù)、視頻監(jiān)控中的身份識(shí)別、門(mén)禁系統(tǒng)的身份識(shí)別和各種人工智能控制系統(tǒng)的識(shí)別應(yīng)用。相信在未來(lái)的一段時(shí)間內(nèi),應(yīng)用人臉識(shí)別的地方會(huì)越來(lái)越多,而各種識(shí)別算法也將更先進(jìn)和便捷。基于Adaboost算法的人臉檢測(cè)正是眾多算法中運(yùn)用最為廣泛的算法。本文采用主成分分析方法(PCA)對(duì)訓(xùn)練集、測(cè)試集和待測(cè)圖片做了降維處理。并分析了影響此算法的主要因素關(guān)鍵詞：人臉識(shí)別；主成分分析方法；Adaboost算法；一Adaboost算法介紹 Adaboost算法并不是一個(gè)專門(mén)針對(duì)人臉檢測(cè)的算法,在2001年Viola和Jones最先將此算法應(yīng)用于人臉檢測(cè)。其后在人臉檢測(cè)中才被越來(lái)越多的人使用。算法最終可以將一個(gè)弱分類(lèi)器(分類(lèi)能力與隨機(jī)檢測(cè)差不多),提升為一個(gè)強(qiáng)分類(lèi)器(分類(lèi)結(jié)果要比弱分類(lèi)器好很多)。算法根據(jù)一定的策略調(diào)整各樣本抽樣權(quán)重,并按給定權(quán)重累加這些弱分類(lèi)器,從而得到各弱分類(lèi)器票擬累加的強(qiáng)分類(lèi)器。在傳統(tǒng)的算法中,通常就用這個(gè)得到的強(qiáng)分類(lèi)器對(duì)待測(cè)圖片進(jìn)行人臉檢測(cè)。 Adaboost算法的具體步驟如下: 1.給定一個(gè)人臉訓(xùn)練樣本庫(kù)并規(guī)定算法的最大循環(huán)次數(shù)T,即算法終止條件。 2.將樣本庫(kù)中的各訓(xùn)練樣本給予一樣的抽樣權(quán)重。 3.迭代過(guò)程: (1)在此訓(xùn)練樣本上訓(xùn)練一個(gè)弱分類(lèi)器對(duì)各個(gè)樣本進(jìn)行分類(lèi)?, (2)計(jì)算此弱分類(lèi)器對(duì)所有樣本的分類(lèi)誤差率(分錯(cuò)的樣本與分對(duì)的樣本的比值); (3)根據(jù)它的誤差率賦以此分類(lèi)器一個(gè)權(quán)重,大體是誤差越大權(quán)重就越小; 對(duì)于此次分錯(cuò)的樣本則增大它的抽樣權(quán)重,分對(duì)的樣本則減小它的抽樣權(quán)重。 (5)所有樣本的抽樣權(quán)重更新一遍后,再針對(duì)新樣本數(shù)據(jù)訓(xùn)練新的弱分類(lèi)器對(duì)各個(gè)樣本進(jìn)行分類(lèi),回到步驟(2) 4.經(jīng)T次循環(huán)后,得到T個(gè)弱分類(lèi)器,按迭代過(guò)程中分別賦予的權(quán)重疊加,最終得到強(qiáng)分類(lèi)器。 算法思路如流程圖所示： 在整個(gè)Adaboost算法中,弱分類(lèi)器的能力得到了不斷的加強(qiáng)。一開(kāi)始時(shí),由于各樣本抽樣權(quán)重相同。弱分類(lèi)器分對(duì)的概率很低,而在循環(huán)的過(guò)程中,訓(xùn)練樣本庫(kù)中的負(fù)樣本抽樣權(quán)重被加大突出,使得弱分類(lèi)器更多的接觸到這些樣本,從而提升了對(duì)負(fù)樣本的識(shí)別率。同時(shí),弱分類(lèi)器也在根據(jù)自身的分類(lèi)誤差得到了相應(yīng)的票擬權(quán)重。.這樣將會(huì)大大的突出那些分類(lèi)正確率比較高的弱分類(lèi)器,最后經(jīng)過(guò)T次循環(huán)得到的多個(gè)對(duì)應(yīng)著自身相應(yīng)權(quán)重的弱分類(lèi)器,最終的強(qiáng)分類(lèi)器就是由這樣的多個(gè)弱分類(lèi)器加起來(lái)形成的。在傳統(tǒng)的基于Adaboost算法的人臉檢測(cè)中,將根據(jù)這個(gè)強(qiáng)分類(lèi)器來(lái)對(duì)含有人臉的圖片進(jìn)行人臉檢測(cè)。二PCA算法原理 主成分分析算法(PCA)是一種經(jīng)典的統(tǒng)計(jì)方法。人臉檢測(cè)的算法中,第一步首先要將人臉圖像轉(zhuǎn)化成相應(yīng)的數(shù)據(jù)矩陣,從而轉(zhuǎn)換成對(duì)應(yīng)的向量表示,但此向量不僅維數(shù)高而且數(shù)據(jù)上還存在著較大的冗余性,十分不利于計(jì)算機(jī)的計(jì)算。所以如何將高維向量降低為低維向量,并且又不失去原圖的太多信息,從而方便計(jì)算機(jī)進(jìn)行處理是一個(gè)首要問(wèn)題,本文正是采取了 PCA算法對(duì)圖片進(jìn)行了降維處理。 K-L變換是PCA算法的核心內(nèi)容。從理論上看,各式各樣的人臉圖像都可以映射到低維線性空間中,并且他們是可以區(qū)分開(kāi)的。一般而言,一組人臉圖像在轉(zhuǎn)化成相應(yīng)矩陣后維數(shù)是比較高的,而K-L變換算法可以找到一個(gè)與之密切相關(guān)但維數(shù)又比較低的矩陣,只要按照特征值從大到小保留此矩陣的部分?jǐn)?shù)據(jù),那么這個(gè)矩陣數(shù)據(jù)就可以叫做這組人臉圖像的特征子空間,也可以叫特征臉子空間。一幅人臉圖像轉(zhuǎn)換成向量表示后,PCA算法再將此向量投影到之前得到的特征子空間上,從而原有的高向量就得到了降維處理,此時(shí)這幅圖像就相當(dāng)于此特征子空間上的一個(gè)點(diǎn)。 選取M幅人臉圖像,分別記為x1x2xm使用K-L變換得到一個(gè)用來(lái)表示原始的人臉空間的低維子空間。 記：x=1Mi=1mxi 由本式可以得到一個(gè)新的向量集合：A=A1，A2Am集合A的均值為零,其協(xié)方差矩陣(即總體散布矩陣)為:C=cos（A）=1MAAT 式中的矩陣按特征值的大小保留部分正交基,將其用計(jì)算機(jī)還原成圖像顯示出來(lái),可見(jiàn)他們都呈現(xiàn)了人臉的大致形狀,所以他們也被稱為特征臉子空間。三結(jié)合PCA的Adaboost算法用于人臉檢測(cè) 1，PCA算法降維 為減少計(jì)算量和方便MATLAB實(shí)現(xiàn),本文采取PCA算法提取人臉庫(kù)和待測(cè)圖片的PCA特征向量。具體步驟如下: （1）讀入MIT人臉庫(kù)中的樣本 (2)將讀入樣本轉(zhuǎn)換為向量集合后通過(guò)K-L變換得出特征臉子空間 (3)將人臉庫(kù)和待測(cè)圖片都投影到此特征臉子空間上即可得到它們的PCA特征向 此處的MATLAB代碼實(shí)現(xiàn)如下: %輸入: % A :訓(xùn)練樣本 % numvecs:要求降低到的特征維數(shù) %輸出: % Vectors:特征向量 %Values:特征值 % Psi:訓(xùn)練樣本均值 function Vectors,Values, Psi = pc_evectors(A,numvecs) nexamp = size (A, 2); %返回A矩陣第二列元素個(gè)數(shù) Psi = mean (A,),: for i = 1:nexamp A(:, i) 二 A(:,i) - Psi: end L = A,*A ; Vectors, Values =eig(L); % eig:求特征值和特征向量 Vectors, Values = sortem (Vectors, Values) ; % 對(duì)特征值按降序排序 Vectors = A*Vectors: Values = diag(Values): Values = Values / (nexanip-l); numgood = 0: for i - 1:nexamp Vectors(:,i) = Vectors(:, i)/norm(Vectors(:, i) ; % 向量 Vectors(:, i) 的歐氏(Euclidean)長(zhǎng)度 if Values (i) numgood) fprintf (1, Warninginumvecs is%d; only %d exist, n, numvecs, num_good): numvecs = num_good: end: Vectors = Vectors (:, 1:numvecs): 2，弱分類(lèi)器的設(shè)計(jì) 得到人臉庫(kù)和待測(cè)圖片在特征子空間的投影后,需要獲取一種分類(lèi)方法對(duì)待測(cè)圖片進(jìn)行分類(lèi)。這種分類(lèi)方法的準(zhǔn)確性只要不低于隨機(jī)檢測(cè)的結(jié)果就可以了。本文通過(guò)判斷投影到特征子空間的各樣本和測(cè)試數(shù)據(jù)間的向量距離來(lái)設(shè)計(jì)弱分類(lèi)器。計(jì)算待測(cè)樣本與多個(gè)已知類(lèi)型的樣本的距離,從而得到一個(gè)最近的距離,則判斷與最近距離相連接的這個(gè)已知樣本的類(lèi)型與待測(cè)樣本是同一類(lèi)的,這是一種典型的按空間來(lái)分類(lèi)的方法。弱分類(lèi)器設(shè)計(jì)好后既可以對(duì)樣本進(jìn)行簡(jiǎn)單分類(lèi),后面再通過(guò)Adaboost算法的迭代處理,可以把此弱分類(lèi)器提升為強(qiáng)分類(lèi)器,從而實(shí)現(xiàn)對(duì)人臉的檢測(cè)。 3，檢測(cè)過(guò)程 整個(gè)檢測(cè)步驟描述如下: (1)通過(guò)PCA算法訓(xùn)練人臉庫(kù)中的樣本得到特征子空間 (2)將各樣本投影到此特征空間上,得到各樣本降維的PCA向量 (3)通過(guò)Adaboost算法訓(xùn)練此樣本數(shù)據(jù)得出若干弱分類(lèi)加權(quán)和的強(qiáng)分類(lèi)器 (4)將測(cè)試圖片投影到特征空間上 (5)通過(guò)強(qiáng)分類(lèi)器對(duì)投影的測(cè)試圖片進(jìn)行檢測(cè)并輸出判決結(jié)果MATLAB實(shí)現(xiàn)流程及部分實(shí)現(xiàn)代碼如下： function trainX, Y = samplecreation(varargin) M=vararginl; Eac h=varar g i n2; nuTn2=varargin 3; R=varargin4; kk=0: for i=l:2000 kk=kk+l: a=iinread(strcat (,D:faces, num2str(kk),. bmp,): if size (a, 3)1 a=rgb2gray(a): end b=reshape (a, 1, R): p_train(kk, :)=b;end for i=l:2000 kk=kk+l; a=imread(strcat( D:nonfacesV,num2str(i),. bmp,): if size (a, 3) 1 a=rgb2gray(a): end b=reshape(a, 1, R): p_train(kk, :)=b: end (2)獲取PCA特征向量,得到降維后圖像特征向量 (3)通過(guò)學(xué)習(xí)法則,構(gòu)建弱分類(lèi)器 (4)獲取訓(xùn)練樣本、訓(xùn)練樣本標(biāo)簽。 (5)獲取測(cè)試樣本、測(cè)試樣本標(biāo)簽 (6)調(diào)用AdaBoost算法得到各弱分類(lèi)器和其權(quán)值矩陣 (7)進(jìn)行強(qiáng)分類(lèi)器判決 (8)標(biāo)記正負(fù)樣本 (9)畫(huà)圖顯示 利用Adaboost算法訓(xùn)練得到的強(qiáng)分類(lèi)器可以對(duì)圖像進(jìn)行人臉檢測(cè),但是由于待檢測(cè)的圖像和有PCA提取特征訓(xùn)練得到的分類(lèi)器的尺寸往往是不一樣的,這就要求在檢測(cè)過(guò)程中需要改變圖像的尺寸,本算法采用以下方法改變尺寸。 把待檢測(cè)的人臉圖像按比例縮小而保持特征檢測(cè)窗口不變,用PCA提取特征窗口掃描檢測(cè)圖像,檢測(cè)出人臉子窗口。然后返回同時(shí)將檢測(cè)到的窗口那比例放大,畫(huà)出人臉的具體位置。 本算法的影響因素:PCA提取特征的數(shù)目、正負(fù)樣本的個(gè)數(shù)、Adaboost算法的循環(huán)次數(shù)和待測(cè)圖片人臉圖像的縮放大小。這幾個(gè)因素都將影晌最終的檢測(cè)效果。 4，總結(jié) 本文首先對(duì)Adaboost算法的原理和應(yīng)用做了詳細(xì)的說(shuō)明,給出了算法步驟和算法流程圖,特別說(shuō)明了該算法是如何通過(guò)多次迭代把若干個(gè)弱分類(lèi)器提升為強(qiáng)分類(lèi)器的算