智能目標識別分類技術

一、K-均值算法因為K-SVD算法是由K-均值擴展而來，有必要先簡單介紹K-均值算法。K-均值算法要解決的問題是：求解一個包括K個代碼的碼本，使得在此碼本上，根據(jù)最近鄰分配法則，對包括N個信號的信號集合7={y.}^1,N□K進行分類，得到最佳分類問題。此時，Y中各向量被歸類于與之距離最小的代碼所代表的類中，TOC\o"1-5"\h\zC={c，c，…,c}為碼本，C中的列c為碼本中的大媽。當碼本C給定時，每個1 2K 1信號用最近（12-范數(shù)意義下）的一個代碼表示。也就是說，y-CXj，其中xi=ej是自然基中的一個向量（除第j個值為1外，其他值都為0）。滿足就牛j，||y-C?！?M|y-Ce||2 ⑹iJ2ik2這相當于稀疏編碼的一個特例：只用一個原子表示信號*，同時強制系數(shù)等于1。這種表示方法中，y.的方差為e2=||y-Cx||2，則Y的量化誤差由下式確定1 i i i2E2=步e2=|『-CX||2i Fi=1K-均值算法的目標函數(shù)如下式7-K-均值算法的目標函數(shù)如下式7-CX||2[FminC,Xs.tVi,x=eikK-均值算法的實現(xiàn)是一個迭代過程，包括兩步：（1）求X,本質上就是稀疏編碼；（2）更新碼本。圖4K均值算法步驟示意圖從上圖中，我們可以看到，A，B，C，D，E是五個在圖中點。而灰色的點是我們的種子點，也就是我們用來找點群的點。有兩個種子點，所以K=2。然后，K-Means的算法如下：1。 隨機在圖中取K（這里K=2）個種子點。2。 然后對圖中的所有點求到這K個種子點的距離，假如點P.離種子點S.最近，那么P.屬于S.點群。（上圖中，我們可以看到A，B屬于上面的種子點，，C，D，E屬于下面中部的種子點）3。 接下來，我們要移動種子點到屬于他的“點群”的中心。（見圖上的第三步）4。 然后重復第2）和第3）步，直到，種子點沒有移動（我們可以看到圖中的第四步上面的種子點聚合了A，B，C，下面的種子點聚合了D，E）。二、K-SVD算法K-SVD算法和K-均值聚類算法有著很深的聯(lián)系，當K-SVD算法中要求的每個信號只用一個原子來近似時，K-SVD算法就退化為K均值聚類算法。同樣，稀疏表示也可看作廣義的矢量量化（VQ），其中的每個信號用多個代碼的線性組合表示。令DG□*K,y口n,工口K分別代表字典、訓練信號、訓練信號的稀疏表示系數(shù)

向量，y={七}二為N個訓練信號的集合，X="}"為Y的解向量的集合。從線性組合角度看，K-SVD訓練算法的目標方程可表示為s.tmin[y—DX||s.tD,X F "0其中，T0為稀疏表示系數(shù)中非零分量的數(shù)目的上限，即系數(shù)向量中最大差異度。從誤差逼近角度來看，K-SVD訓練算法的目標方程還可以表示為(10)min[x||}, s.t ||y-DX||2<￡(10)D,X 10 F本質上，式(9)和式(10)是相同的，只是考慮問題的角度不同，K-SVD作者在論文中的目標函數(shù)式子采用(9)。式(9)求解是一個迭代過程。首先，假設字典D是固定的，用MP、OMP、或BP等算法可以得到字典D上Y的稀疏表示的系數(shù)矩陣X；然后根據(jù)系數(shù)矩陣X，找到更好的字典D。更新字典的第k列d，令系數(shù)矩陣X更新字典的第k列d，令系數(shù)矩陣X中d相應的k行為xk(不同于X的第k列xkT的轉置)，則目標函數(shù)式(6。21)中的懲罰項可以重寫為2=‘E—2=‘E—dxkF上式中，乘積DX被分解成K個秩為1的矩陣和。按照假設其中K-1項是固定的。y-^dx,jTj=l -Fy-^^dxj-dxkjTj我)I2F(11)所剩的一個，也就是要處理的第k個。矩陣Ek代表的是去掉原子dk的成分在所有N個樣本中造成的誤差。如果此時就用奇異值分解(SVD)更新dk和xt，SVD能找到距離Ek最近的秩為1的矩陣，這能有效地減少式(10)代表的誤差。但是，如此得到的xk將是滿向量T(相對于稀疏向量而言，滿向量表示向量大多數(shù)元素都是非零元的向量)，所以更新的dk也不能被強制的滿足稀疏條件。換句話說，因為x*中的0的影響，用SVD得到的更新向量中的非零值的位置和數(shù)量會和原中非零位置和數(shù)量不同，出現(xiàn)“發(fā)散”。為解決此問題，直觀的可以看出，去掉XT中所有的0，僅保留非零值，再用SVD更新斗和x;時，就不會出現(xiàn)“發(fā)散”現(xiàn)象了。定義集合o廣§I攔i<N,x;(i山0｝為用到dk所有信號集合｛*｝的索引所構成的集合，即X；(Do0的點的索引值。定義Qk為Nx|oJ矩陣，他在(o久(i),i)處的值都為1，其他點為0。定義x"=x;Q、丫：=Y;Q、eR=E；Q，則三者分別為x；、Y、Ek中去掉零輸入后的收縮結果，Yk為當前用到原子dk的樣本集合，E;為去掉不受原子dk影響的樣本后，如果不考慮dk在其受影響的樣本中成分時，帶來的誤差。xr的長度為0J，彳、Er是nx|oJ矩陣。此時，最小化式(11)得到的解X；和原x;就會有相同的支撐，不會出現(xiàn)“發(fā)散”。相當于式(11)經過一次轉化，轉化為|EQ-dxkQ||2=||Ek-dxk||2 (12)kkkTkFRkRF對Ek做SVD分解，則Ek=UM，令d為U的第一列，則d為d的更新結果。R R k kk同時，用V的第一列和^(1,1)的乘積更新xr。在逐列更新完成后用字典力做稀疏分解，并判斷是否達到停止條件(停止條件可以是既定的迭代次數(shù)或者重構信號和原信號之間的誤差率)，以決定迭代是否繼續(xù)。K-SVD算法非常靈活，可以和常見的稀疏分解的最優(yōu)原子搜索算法(如匹配追蹤(MP)、正交匹配追蹤(OMP)、基追蹤(BP)、FOCUSS等)結合使用。文中所選的是正交匹配追蹤算法。三、K-SVD算法仿真實驗結果在以上知識的指導下，我們給出了在高斯白噪聲下使用KSVD方法進行去噪的仿真結果。實驗設置：實驗用圖為標準測試圖Barbara、House、Lena和Peppers。所加高斯白噪聲分別方差分別為15、25和35。而去噪過程中所采用的字典分別為固定的DCT字典和文檔中所闡述的使用噪聲塊學習出的字典。實驗用圖如下:圖5實驗用原圖和加標準差為15、25、35的噪聲圖像，從左至右分別為Barbara、House、Lena和Peppers分別采用了兩種字典學習方式一一固定的DCT字典和由噪聲圖像學習的字典，去噪結果圖由下圖所示：

圖6固定DCT字典的K-SVD算法去噪結果圖，從上到下噪聲標準差為15、25、35圖7基于噪聲圖像塊學習的字典的KSVD去噪結果■ 丁二■ 丁二七專耳三二主三土關I 交MM冬至與M立王I■■■■址■:E圭99女I乜毛主IIWUUMMBBKSaSSS^SEIUUHM：其充基壬兵舞洼IRIXV#"：:：顯我席泠/戒淺芝縈II出由詁村中&祝溶!8著控M塔更孩川七Vlllfll*庶191的的煙魏麗擁盤I精甜lllWWWXtH^S^^^^Ifl'J.-'.VWM單恩整寓頁茶蕤眸愆歐翥山叫安JW圈勰惑毀激妾忍慰成密III悟氏田，罰&｝段雙費驗轂裝騷翹羯密曜n湖岡,內花薛：胃密■rhlz土J北職源囂蹲兇劃部披卻■圍心，4*:H部』，帽W摩近■石l?W埸■營■.U.：x［口阻N4IWMN?*!!T疫',CLfj^^MJXSMTOfflOCK^?(S■部網(wǎng)/X，土#?叔rvr*m.'Jli^WMIW^MXZVJ日wn先Jill川昭、'醐沽暮E崩的神踞睥1WW*WZKWfflAS?LV^ZI11硼■，】酈板伐泌每點七楸部盅':l3IIIIIIWS?7/Wfllll?!W8他湖NNE二妥W1M漏公(a) (b)圖8K-SVD算法所用字典結果(a)DCT字典(b)自適應學習的字典

表1定量分析不同噪聲標準差下應用不同字典的去噪結果o=15o=25o=35噪聲圖DCTAdaptive噪聲圖DCTAdaptive噪聲圖DCTAdaptiveBarbara24.6131.6532.3820.1628.6929.6317.2426.7127.81House24.5933.4534.2720.1630.9932.0717.2829.2930.31Lena24.5833.3533.6720.1530.9231.3417.2229.1729.65Peppers24.6131.6732.1420.1828.9129.6317.2627.1828.09由圖6、圖7和表1所示，我們可以看到K-SVD算法在去噪性能確實有很明顯的效果。屬于目前流行的幾種去噪算法之一。細節(jié)上看，固定的DCT字典不能很好的適應各類圖像，而去噪的結果也沒有自適應學習的字典效果好。宏觀上看，K-SVD算法在低標準差