版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
PCA和LDA
葛永新PCA和LDAContents特征臉的物理含義關(guān)于主成分的理解作者信息
論文信息
訓(xùn)練階段識別階段Contents特征臉的物理含義關(guān)于主成分的理解作者信息論論文信息TurkM,PentlandA.Eigenfacesforrecognition[J].JoumalofCognitiveNeumseience,1991,3(1):71—86.
論文信息TurkM,PentlandA.Eigenfac作者信息(1/2)MatthewTurkProfessorComputerScienceDepartmentMediaArtsandTechnologyProgramUniversityofCalifornia,SantaBarbara
Researchinterests:Computervisionandimaging,perceptualinterfaces,multimodalinteraction,human-computerinteraction,gesturerecognition,artificialintelligence
/~mturk/作者信息(1/2)MatthewTurkProfes4作者信息(1/2)Prof.AlexPaulPentland
ToshibaProfessorofMedia,Arts,andSciences
MassachusettsInstituteofTechnology
/~pentland
Director,HumanDynamicsLaboratoryDirector,MediaLabEntrepreneurshipProgram
作者信息(1/2)Prof.AlexPaulPentl5關(guān)于主成分的理解(1/3)五行是一種哲學(xué)觀,認(rèn)為萬事萬物都是由金木水火土這五種要素組成
西方人:所有事物都是由元素周期表中的103種元素組成的水:H2O=2*H+1*O線性代數(shù)尋找基向量的過程
關(guān)于主成分的理解(1/3)五行是一種哲學(xué)觀,認(rèn)為萬事萬物都是6關(guān)于主成分的理解(2/3)PCA的基礎(chǔ)就是K-L變換,是一種常用的正交變化,K-L變換思想如下:假設(shè)X為n維隨機(jī)變量,X可以用n個(gè)基向量的加權(quán)和表示
其中是加權(quán)系數(shù),是基向量,其矩陣表示形式是
其系數(shù)向量為關(guān)于主成分的理解(2/3)PCA的基礎(chǔ)就是K-L變換,是一種7關(guān)于主成分的理解(3/3)綜上所述,K-L展開式的系數(shù)可用下列步驟求出
求隨機(jī)向量X的自相關(guān)矩陣R=E(XTX),通常我們采用數(shù)據(jù)集的協(xié)方差矩陣作為K-L坐標(biāo)系的產(chǎn)生矩陣;求出自相關(guān)矩陣或協(xié)方差矩陣的特征值和特征向量,;3.展開式系數(shù)即為,由正交性可得,此二式為K-L變換公式
關(guān)于主成分的理解(3/3)綜上所述,K-L展開式的系數(shù)可用下8特征臉的物理含義(1/4)比如ORL人臉數(shù)據(jù)庫中有400幅人臉圖像,是不是可以找到一組基,讓所有的人臉庫中的人臉都可以用這組基的線性組合來表示特征臉的物理含義(1/4)比如ORL人臉數(shù)據(jù)庫中有400幅人9特征臉的物理含義(2/4)意義何在?1.維度大大減少假設(shè)數(shù)據(jù)庫中的圖像大小為112*92,那么存儲這些圖像所需要的空間大小為112*92*200=4121600;假設(shè)我們尋找一組基,不妨假定為40維(即40幅人臉圖像),則數(shù)據(jù)庫中的每幅圖像都可以用這40幅圖像表示,則這個(gè)數(shù)據(jù)庫所需的存儲空間為40*400=16000;對比:4121600/16000=257.6特征臉的物理含義(2/4)意義何在?1.維度大大減少10特征臉的物理含義(3/4)意義何在?2.投影方向區(qū)分度大命題1:隨機(jī)變量方差越大,包含的信息越多,特別地,如果一個(gè)變量方差為0,則該變量為常數(shù),不包含任何信息。命題2:所有原始數(shù)據(jù)在主分量上的投影方差為特征值。PCA思想:尋找主分量,即尋找一組向量,使得原始數(shù)據(jù)在這組向量上的投影值的方差盡可能大。最大方差對應(yīng)的向量就是第一主分量,以此類推特征臉的物理含義(3/4)意義何在?2.投影方向區(qū)分度大11特征臉的物理含義(4/4)意義何在?3.去除原始數(shù)據(jù)的相關(guān)性t=COV(X,Y),t=1,相關(guān);t=0,不相關(guān)命題:對于矩陣A來說,如果AAT是一個(gè)對角矩陣,則A中的向量是非相關(guān)的。1)特征臉,即基是正交的,非相關(guān)2)投影系數(shù),可以證明也是非相關(guān)的特征臉的物理含義(4/4)意義何在?3.去除原始數(shù)據(jù)的相關(guān)12訓(xùn)練階段(1/12)訓(xùn)練階段即是尋求最優(yōu)特征臉(基)第一步:假設(shè)訓(xùn)練集有400個(gè)樣本,由灰度圖組成,每個(gè)樣本的大小為M*N寫出訓(xùn)練樣本矩陣:
X=(x1,x2,…,x200)其中向量x為由第個(gè)圖像的每一列向量堆成一列的MN維列向量,即把矩陣向量化,如下圖所示:訓(xùn)練階段(1/12)訓(xùn)練階段即是尋求最優(yōu)特征臉(基)第一步:13訓(xùn)練階段(2/12)如:第i個(gè)圖像的矩陣為
則xi用這個(gè)列向量來表示訓(xùn)練階段(2/12)如:第i個(gè)圖像的矩陣為14訓(xùn)練階段(3/12)第二步:計(jì)算平均臉計(jì)算訓(xùn)練圖片的平均臉訓(xùn)練階段(3/12)第二步:計(jì)算平均臉15訓(xùn)練階段(4/12)平均臉示意圖訓(xùn)練階段(4/12)16訓(xùn)練階段(5/12)第三步:計(jì)算差值臉(也叫去平均化)計(jì)算每張人臉與平均臉的差值訓(xùn)練階段(5/12)第三步:計(jì)算差值臉(也叫去平均化)17訓(xùn)練階段(6/12)
差值臉示意圖訓(xùn)練階段(6/12)18訓(xùn)練階段(7/12)第四步:構(gòu)建協(xié)方差矩陣訓(xùn)練階段(7/12)第四步:構(gòu)建協(xié)方差矩陣19訓(xùn)練階段(8/12)第五步:求協(xié)方差矩陣的特征值和特征向量,構(gòu)造特征臉空間協(xié)方差矩陣的維數(shù)為MN*MN,考慮其維數(shù)較大,計(jì)算量也比較大,所以一般采用奇異值分解(SingularValueDecomposition,SVD),通過求解ATA來獲得AAT的特征值和特征向量。訓(xùn)練階段(8/12)第五步:求協(xié)方差矩陣的特征值和特征向量,20訓(xùn)練階段(9/12)求出ATA的特征值及其正交歸一化特征向量協(xié)方差vi根據(jù)特征值的貢獻(xiàn)率選取前p個(gè)最大特征值及其對應(yīng)的特征向量貢獻(xiàn)率是指選取的特征值之和與所有特征值之和的比,即訓(xùn)練階段(9/12)求出ATA的特征值及其正交歸一化21訓(xùn)練階段(10/12)選取的特征臉示例Discussion:對應(yīng)較大特征值的特征向量,用于表示人體的大體形狀(低頻信息),而對應(yīng)于較小特征值的特征向量則用于描述人臉的具體細(xì)節(jié)(高頻信息)訓(xùn)練階段(10/12)22訓(xùn)練階段(11/12)第六步:將每一幅人臉與平均臉的差值臉矢量投影到“特征臉”空間,即訓(xùn)練階段(11/12)第六步:將每一幅人臉與平均臉的差值臉矢23訓(xùn)練階段(12/12)一般選取即使訓(xùn)練樣本在前p個(gè)特征向量集上的投影有99%的能量求出原協(xié)方差矩陣的特征向量則“特征臉”空間為訓(xùn)練階段(12/12)一般選取24識別階段(1/5)第一步:將待識別的人臉圖像T與平均臉的差值臉投影到特征空間,得到其特征向量表示:識別階段(1/5)第一步:將待識別的人臉圖像T與平均臉的差值25識別階段(2/5)待識別的人臉圖像T及其與平均臉的差值臉識別階段(2/5)待識別的人臉圖像T26識別階段(3/5)第二步:采用歐式距離來計(jì)算與每個(gè)人臉之間的距離:識別階段(3/5)第二步:采用歐式距離來計(jì)算與每27識別階段(4/5)第
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- Unit 4 Section A (1a-2c)說課稿-2024-2025學(xué)年人家版八年級英語下冊
- 送法進(jìn)企業(yè):2025年度總工會與企業(yè)合作合同3篇
- 2025年度水利樞紐大白施工合同規(guī)范版3篇
- 2023-2024學(xué)年北京版(2013)小學(xué)信息技術(shù)第一冊 1.3 計(jì)算機(jī)的硬件和軟件(說課稿)
- 9 《說“木葉”》說課稿 2023-2024學(xué)年統(tǒng)編版高中語文必修下冊
- 2023六年級語文上冊 第八單元 26 好的故事說課稿新人教版
- 2025年中國豆腐乳電商市場前景預(yù)測及投資規(guī)劃研究報(bào)告
- 手球進(jìn)校園計(jì)劃可行性方案
- 11 變廢為寶有妙招 第一課時(shí)說課稿-2023-2024學(xué)年道德與法治四年級上冊(統(tǒng)編版)
- 14《家鄉(xiāng)物產(chǎn)養(yǎng)育我》(說課稿)-統(tǒng)編版道德與法治二年級上冊
- 繪本《圖書館獅子》原文
- 給水管道施工與安裝技術(shù)要求(課件)
- 警輔 培訓(xùn) 課件
- 安全使用公共WiFi網(wǎng)絡(luò)的方法
- 法拍輔助工作管理制度
- 中控室保密與信息安全政策
- 后端開發(fā)年終總結(jié)
- 2023年管理學(xué)原理考試題庫附答案
- 萬達(dá)廣場營銷活動管理及效果考核規(guī)定
- 過敏性皮炎的護(hù)理查房
- 【可行性報(bào)告】2023年電動自行車相關(guān)項(xiàng)目可行性研究報(bào)告
評論
0/150
提交評論