信息熵在圖像處理中的應用

1、信息熵在圖像處理中的應用 摘要：為了尋找快速有效的圖像處理方法，信息理論越來越多地滲透到圖像處理技術(shù)中。文章介紹了信息熵在圖像處理中的應用，總結(jié)了一些基于熵的圖像處理特別是圖像分割技術(shù)的方法，及其在這一領(lǐng)域內(nèi)的應用現(xiàn)狀和前景 同時介紹了熵在織物疵點檢測中的應用。Application of Information Entropy on Image AnalysisAbstract：In order to find fast and efficient methods of image analysis，information theory is used more and more in im

2、age analysisThe paper introduces the application of information entropy on the image analysis，and summarizes some methods of image analysis based on information entropy，especially the image segmentation methodAt the same time，the methods and application of fabric defect inspection based on informati

3、on entropy ale introduced 信息論是人們在長期通信實踐活動中，由通信技術(shù)與概率論、隨機過程、數(shù)理統(tǒng)計等學科相結(jié)合而逐步發(fā)展起來的一門新興交叉學科。而熵是信息論中事件出現(xiàn)概率的不確定性的量度，能有效反映事件包含的信息。隨著科學技術(shù)，特別是信息技術(shù)的迅猛發(fā)展，信息理論在通信領(lǐng)域中發(fā)揮了越來越重要的作用，由于信息理論解決問題的思路和方法獨特、新穎和有效，信息論已滲透到其他科學領(lǐng)域。隨著計算機技術(shù)和數(shù)學理論的不斷發(fā)展，人工智能、神經(jīng)網(wǎng)絡(luò)、遺傳算法、模糊理論的不斷完善，信息理論的應用越來越廣泛。在圖像處理研究中，信息熵也越來越受到關(guān)注。1 信息熵1948年，美國科學家香農(nóng)(CES

4、hannon)發(fā)表了一篇著名的論文通信的數(shù)學理論 。他從研究通信系統(tǒng)傳輸?shù)膶嵸|(zhì)出發(fā)，對信息做了科學的定義，并進行了定性和定量的描述。他指出，信息是事物運動狀態(tài)或存在方式的不確定性的描述。其通信系統(tǒng)的模型如下所示： 圖1 信息的傳播信息的基本作用就是消除人們對事物的不確定性。信息熵是信息論中用于度量信息量的一個概念。假定X是隨機變量的集合，p（x）表示其概率密度，計算此隨機變量的信息熵H（x）的公式是P（x，y）表示一對隨機變量的聯(lián)合密度函數(shù)，他們的聯(lián)合熵H（x，y）可以表示為  信息熵描述的是信源的不確定性，是信源中所有目標的平均信息量。信息量是信息論的中心概念，將熵作為一個隨機事件

5、的不確定性或信息量的量度，它奠定了現(xiàn)代信息論的科學理論基礎(chǔ)，大大地促進了信息論的發(fā)展。設(shè)信源X發(fā)符號ai，的概率為Pi，其中i=1，2，r，Pi>O，要=1，則信息熵的代數(shù)定義形式為：H(X)=-logP(ai) (1)2 圖像處理所謂計算機圖像處理是指：將圖像信號轉(zhuǎn)換成數(shù)字格式，并利用計算機對其進行處理的過程。近幾年來，數(shù)字圖像處理技術(shù)的發(fā)展進一步深入、廣泛和迅速，人們已充分認識到圖像處理技術(shù)是認識世界、改造世界的重要手段之一。圖像信息處理技術(shù)已廣泛應用于許多社會領(lǐng)域，如工業(yè)、農(nóng)業(yè)、國防軍事、社會公安、科研、生物醫(yī)學、通信郵電等等。概念上說，數(shù)字圖像處理過程中所需的基本步驟如圖2所示。

6、 圖2 數(shù)字圖像處理基本步驟圖像處理和分析過程主要包括：圖像變換、圖像編碼、邊緣檢測、圖像分割、目標表達、描述和測量等等ra。人們?yōu)榱说玫礁信d趣的目標，用各種方法來處理和分析圖像。如灰度共生矩陣法、Markov隨機場法、灰度直方圖統(tǒng)計法、灰度匹配法、二維傅立葉變換法、6abor變換法、小波變換法和數(shù)學形態(tài)法等等。例如在灰度共生矩陣法中，用于測量灰度級分布隨機性的一種特征參數(shù)就叫做熵。它的定義為：(2)當矩陣Pi,j的所有項皆為零時，其熵值最高。除此之外，還有和熵、灰度熵、梯度熵、混合熵等等，從而說明了熵是圖像的重要特征之一。3 信息熵在圖像處理中的應用圖像分割是圖像處理和分析的關(guān)鍵步驟，也是一

7、種基本的計算機視覺技術(shù)。當今信息熵主要應用在圖像分割技術(shù)中。為了識別和分析目標，圖像分割把圖像分成各具特性的區(qū)域。這些特性可以是灰度、顏色、紋理等， 目標可以對應單個區(qū)域，也可以對應多個區(qū)域。基于熵的圖像分割方法，盡可能減少了圖像信息的損失，因此可用于復雜背景，而且這種方法有很多。如黃春艷等提出的圖像的分割方法有最大熵法和最小交叉熵法。最大熵法和最小交叉熵法的基本思想都是利用圖像的灰度分布密度函數(shù)定義圖像的信息熵，根據(jù)假設(shè)的不同或視角的不同提 不同的熵準則，最后通過優(yōu)化該準則得到閾值。最人熵準則強調(diào)系統(tǒng)內(nèi)部的均勻性，應用于閾值化分割中就是搜索使目標或背景內(nèi)部的灰度分布盡可能均勻的最優(yōu)閾值。交叉

8、熵是度量兩個概率分布之間信息量差異，它是Fn函數(shù)。最小交叉熵準則應用在閾值化分割中，一般是搜索使分割前后圖像的信息量差異最小的閾值。吳謹?shù)忍岢龅脑谧畲箢愰g方差法和一致性準則法的基礎(chǔ)上，運用最大熵原理來選擇灰度閾值對圖像進行分割方法。還有龐全等提出的基于面向?qū)ο笏枷氲膱D像分割算法。此方法是分割閾值與局部灰度分布相關(guān)的分割方法，針對非均勻圖像的特點，在香農(nóng)熵上推導出子集熵與全集熵的關(guān)系，作為圖像的面向?qū)ο竺枋?實驗表明，相比常用的動態(tài)閾值算法，該算法具有運算量少、分割結(jié)果白適應性好的特點。隨著計算機技術(shù)和數(shù)學理論的不斷發(fā)展，人工智能、神經(jīng)網(wǎng)絡(luò)、遺傳算法、模糊理論的不斷完善，以及處理的圖像越來越復雜

9、，單一的方法已不能滿足人們的需求，因此，研究多方法的結(jié)合是這一領(lǐng)域的趨勢。如劉耀輝等提出的結(jié)合小波變換和二維最大熵法的圖像分割的方法。在小波變換后的低頻子圖上應用二維最大熵法獲得最優(yōu)分割閾值，同時減小了運算量，并利用高頻子圖獲取圖像邊緣信息進而更好地定位目標區(qū)域，實現(xiàn)對子圖的成功分割。還有劉勃等提出的基于交叉熵的改進PCNN圖像自動分割新方法。該方法從原始圖像與分割圖像的目標之間、背景之間的差異性出發(fā)，對PCNN模型中的變閾值函數(shù)進行了改進，然后使其與最小交叉熵判據(jù)相結(jié)合來對圖像進行自動分割。實驗表明，該片法對圖像的分割精度高而且適應性較強。圖像處理中噪聲的干擾是不可避免的，因此去除燥聲也是圖

10、像處理中的問題之一。目前，去除噪聲的方法主要是利用圖像變換，把圖像從空域變?yōu)轭l域然后再進行濾波。實驗證明，信息熵用于抑制噪聲干擾也是可行有效的。如楊光等提出的一種改進的中值濾波方法，此方法利用選點濾波的方式，并結(jié)合信息熵理論來有效地抑制脈沖噪聲干擾，并對其他類型噪聲有一定的抑制作用，而且可以與其他算法聯(lián)合抑制綜合噪聲下擾，還能保持圖像很好的清晰度。圖像的邊緣是指圖像局部亮度變化最顯著的部分。邊緣主要存在于目標與目標、目標與背景、區(qū)域與區(qū)域之間，是圖像分割、紋理提取和形狀特征提取等圖像分析的重要基礎(chǔ)，圖像分析和理解的第一步常常是邊緣檢測。邊緣檢測如此重要，其方法主要有：Roberts算子、Sob

11、el算子、Prewitt算子，還有二階微分算子等等。然而信息熵原理近來也被用于邊緣檢測技術(shù)中。如張香琴等提出將熵算子與去除噪聲相結(jié)合的邊界檢測法，如果計算的熵大于閾值，要判斷是噪聲的出現(xiàn)所引起，還是邊界的出現(xiàn)所引起，這樣，邊檢測邊界邊去噪聲。根據(jù)熵的理論，局部熵反映了圖像灰度的離散程度，圖像灰度分布相對均勻時則局部熵較大，而圖像灰度分布離散性較大時局部熵較小。局部熵是局部窗口內(nèi)所有像素點共同作用的結(jié)果，對單點噪聲不敏感，故局部熵本身具有一定的抗噪濾波能力。下面這個實驗說明了信息熵在圖像處理中的相關(guān)應用再計算出信息熵和互信息，如此進行十次實驗，觀察結(jié)果并進行分析。選取兩幅有相同部分但不完全相同的

12、圖片，matlab分別讀出兩幅圖片的信息熵，同時計算他們的互信息，然后對圖片進行剪裁，保留全部相同部分，再計算出信息熵和互信息，如此進行十次實驗，觀察結(jié)果并進行分析。步驟如下：（1） 選取兩幅符合要求的圖片。分別命名為a1 和b1。 a1 b1（2） 打開matlab，創(chuàng)建新文件，并編寫完成實驗所需要的程序。代碼如下。clca=imread('a1.jpg');a=rgb2gray(a);b=imread(' b1.jpg');b=rgb2gray(b);Ma,Na = size(a);Mb,Nb = size(b);M=min(Ma,Mb);N=min(Na,

13、Nb);%初始化直方圖數(shù)組hab = zeros(256,256);ha = zeros(1,256);hb = zeros(1,256);%歸一化if max(max(a)=min(min(a)a = (a-min(min(a)/(max(max(a)-min(min(a);elsea = zeros(M,N);endif max(max(b)-min(min(b)b = (b-min(min(b)/(max(max(b)-min(min(b);elseb = zeros(M,N);enda = double(int16(a*255)+1;b = double(int16(b*255)+1;

14、%統(tǒng)計直方圖for i=1:Mfor j=1:Nindexx = a(i,j);indexy = b(i,j) ;hab(indexx,indexy) = hab(indexx,indexy)+1;%聯(lián)合直方圖ha(indexx) = ha(indexx)+1;%a圖直方圖hb(indexy) = hb(indexy)+1;%b圖直方圖endend%計算聯(lián)合信息熵hsum = sum(sum(hab);index = find(hab=0);p = hab/hsum;Hab = sum(sum(-p(index).*log(p(index);%計算a圖信息熵hsum = sum(sum(ha)

15、;index = find(ha=0);p = ha/hsum;Ha = sum(sum(-p(index).*log(p(index);%計算b圖信息熵hsum = sum(sum(hb);index = find(hb=0);p = hb/hsum;Hb = sum(sum(-p(index).*log(p(index);%計算a和b的互信息mi = Ha+Hb-Hab;%計算a和b的歸一化互信息%mi = hab/(Ha+Hb);（3） 運行matlab，得出并記錄結(jié)果。（4） 剪裁圖片，保留全部相同部分。再計算信息熵，同時程序里的圖片名稱更改一下，如此進行九次。所得結(jié)果如下： a2 b

16、2 a3 b3 a4 b4 a 5 b5 a 6 b 6 a 7 b7 a 8 b 8 a 9 b 9 a 10 b 10 結(jié)果2 結(jié)果3 結(jié)果4 結(jié)果5 結(jié)果6 結(jié)果7 結(jié)果8 結(jié)果9 結(jié)果10下表對所需結(jié)果做出總結(jié)次數(shù)12345678910H（a）5.17965.19335.20255.20155.19085.17145.19845.17875.18245.195H（b）5.17225.19685.19185.19305.19015.14975.18595.1915.19675.1921Mi0.573720.566150.554580.570870.551780.533950.536340.690550.546931.6955實驗結(jié)論：兩幅圖片重疊部分所占比例越大，互信息越大。而信息熵與此無明顯關(guān)系。信息熵僅與圖片的內(nèi)容有關(guān)，內(nèi)容越混亂信息熵越大。5 結(jié)語隨著計算機技術(shù)的迅速發(fā)展，以及其他科學技術(shù)的不斷完善，信息熵已不再僅僅是通信領(lǐng)域中的概念，因此把信息熵應用到圖像處理中是圖像處理領(lǐng)域的又一方向，隨著信息熵更好更充分地發(fā)揮作用，圖像處理技術(shù)將會發(fā)展得更快，更加完善。參考文獻：【1】傅蕓祖信息論-基礎(chǔ)理論與應用.北京：電子工業(yè)出版社，2007.5【2】姜丹信息論與編碼M合肥： 中國科學技術(shù)大學出版社，2004【3】章毓晉圖像處理和分析M北京清華大學出