信息論與編碼實(shí)驗(yàn)報(bào)告-2

中南大學(xué)（信息論與編碼實(shí)驗(yàn)報(bào)告）姓名：xxxxx學(xué)號(hào)：xxxxxxxx專業(yè)：電子信息工程班級(jí)：電子信息xxxx班指導(dǎo)老師：xx實(shí)驗(yàn)一關(guān)于信源熵的實(shí)驗(yàn)一、實(shí)驗(yàn)?zāi)康?.掌握離散信源熵的原理和計(jì)算方法。2.熟悉matlab軟件的基本操作，練習(xí)使用matlab求解信源的信息熵。3.自學(xué)圖像熵的相關(guān)概念，并應(yīng)用所學(xué)知識(shí)，使用matlab或其他開(kāi)發(fā)工具求解圖像熵。4.掌握Excel的繪圖功能，使用Excel繪制散點(diǎn)圖、直方圖。二、實(shí)驗(yàn)原理1.離散信源相關(guān)的基本概念、原理和計(jì)算公式產(chǎn)生離散信息的信源稱為離散信源。離散信源只能產(chǎn)生有限種符號(hào)。隨機(jī)事件的自信息量I（xi）為其對(duì)應(yīng)的隨機(jī)變量xi出現(xiàn)概率對(duì)數(shù)的負(fù)值。即：I（xi）=-log2p(xi)隨機(jī)事件X的平均不確定度（信源熵）H（X）為離散隨機(jī)變量xi出現(xiàn)概率的數(shù)學(xué)期望，即：2.二元信源的信息熵設(shè)信源符號(hào)集X={0，1}，每個(gè)符號(hào)發(fā)生的概率分別為p(0)=p，p(1)=q，p+q=1，即信源的概率空間為： 則該二元信源的信源熵為：H(X)=-plogp–qlogq=-plogp–(1-p)log(1-p)即：H(p)=-plogp–(1-p)log(1-p)其中0≤p≤13.MATLAB二維繪圖用matlab中的命令plot(x,y)就可以自動(dòng)繪制出二維圖來(lái)。例1-2，在matlab上繪制余弦曲線圖，y=cosx，其中0≤x≤2。>>x=0:0.1:2*pi；%生成橫坐標(biāo)向量，使其為0，0.1，0.2，…，6.2>>y=cos(x)；%計(jì)算余弦向量>>plot(x,y)%繪制圖形4.MATLAB求解離散信源熵求解信息熵過(guò)程：1)輸入一個(gè)離散信源，并檢查該信源是否是完備集。2)去除信源中符號(hào)分布概率為零的元素。3)根據(jù)平均信息量公式，求出離散信源的熵。5.圖像熵的相關(guān)知識(shí)圖像熵是一種特征的統(tǒng)計(jì)形式，它反映了圖像中平均信息量的多少。圖像的一維熵表示圖像中灰度分布的聚集特征所包含的信息量，令Pi表示圖像中灰度值為i的像素所占的比例，則定義灰度圖像的一元灰度熵為：圖像熵計(jì)算過(guò)程：1)輸入一幅圖像，并將其轉(zhuǎn)換成灰度圖像。2)統(tǒng)計(jì)出圖像中每個(gè)灰度階象素概率。3)計(jì)算出一幅圖像的一維熵。6.Excel的繪圖功能比如：用Excel或制作二元熵函數(shù)曲線。具體步驟如下：1）啟動(dòng)Excel應(yīng)用程序。2）準(zhǔn)備一組數(shù)據(jù)p。在Excel的一個(gè)工作表的A列（或其它列）輸入一組p，取步長(zhǎng)為0.01，從0至100產(chǎn)生101個(gè)p（利用Excel填充功能）。3）使用Excel的計(jì)算功能，在B列中用二元熵函數(shù)計(jì)算公式，求得A列中各數(shù)值對(duì)應(yīng)的二元熵值。比如：在單元格B2中輸入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2)。4）使用Excel的圖表向?qū)?，圖表類型選“XY散點(diǎn)圖”，子圖表類型選“無(wú)數(shù)據(jù)點(diǎn)平滑散點(diǎn)圖”，繪制二元熵函數(shù)散點(diǎn)圖。三、實(shí)驗(yàn)內(nèi)容1、使用matlab軟件繪制二元信源熵函數(shù)曲線，并說(shuō)明其物理意義。2、使用matlab軟件求解離散單符號(hào)信源熵，請(qǐng)自己構(gòu)造兩個(gè)信源空間，根據(jù)求解結(jié)果說(shuō)明其物理意義。3、使用matlab軟件計(jì)算圖像一維圖像熵，請(qǐng)自己選擇任意兩幅圖像，根據(jù)求解結(jié)果說(shuō)明其物理意義。4、使用Excel軟件，繪制二元信源熵函數(shù)曲線的散點(diǎn)圖。5、使用Excel軟件，繪制（3）中兩幅圖像的灰度直方圖（0到255各灰度占圖像像素的比例值，使用柱狀圖繪制其比列分布）。四、程序設(shè)計(jì)與算法描述（1）繪制二元信源熵函數(shù)曲線實(shí)驗(yàn)代碼：clc;p=0.00001:0.001:1;H=-(p).*log2(p)-(1-p).*log2(1-p);plot(p,H);實(shí)驗(yàn)結(jié)果如下：物理意義：（1）信源熵為信源的平均不確定性，而概率的大小決定了信息量的大小。（2）由上圖可知概率為1時(shí)，信息量最小，不確定性最低；概率等于0.5時(shí)熵最大。求解離散單符號(hào)信源熵程序代碼：（1）clc;X=[123456]P=[1/61/61/61/61/61/6]H=6*(-(1/6)*log(1/6))（2）clc;X=[0123456789]P=[0.10.10.10.10.10.10.10.10.10.1]H=10*(-0.1)*log(0.1)實(shí)驗(yàn)結(jié)果如下所示：圖1：圖2：計(jì)算圖像一維圖像熵選擇的兩幅圖像如下：實(shí)驗(yàn)代碼如下：（1）clearall;closeall;fid=fopen('lena.img','r');image1=fread(fid,[256,256],'uint8');fclose(fid);imshow(image1,[]);[C1R1]=size(image1);image1_size=C1*R1;H1=0;n=zeros(256,1);fori=1:C1forj=1:R1image1_level=image1(i,j)+1;n(image1_level)=n(image1_level)+1;endendfork=1:256P(k)=n(k)/image1_size;ifP(k)~=0;H1=-P(k)*log2(P(k))+H1;endendH1（2）fid=fopen('fing_128.img','r');image2=fread(fid,[256,256],'uint8');fclose(fid);imshow(image2,[]);[C2R2]=size(image2);image2_size=C2*R2;H2=0;n=zeros(256,1);fori=1:C2forj=1:R2image2_level=image2(i,j)+1;n(image2_level)=n(image2_level)+1;endendfork=1:256P(k)=n(k)/image1_size;ifP(k)~=0;H2=-P(k)*log2(P(k))+H2;endendH2用Excel軟件，繪制二元信源熵函數(shù)曲線的散點(diǎn)圖取步長(zhǎng)為0.01，從0至100產(chǎn)生101個(gè)p各數(shù)值對(duì)應(yīng)的二元熵值。比如：在單元格B2中輸入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2)。使用Excel的圖表向?qū)?，圖表類型選“XY散點(diǎn)圖”，子圖表類型選“無(wú)數(shù)據(jù)點(diǎn)平滑散點(diǎn)圖”，繪制二元熵函數(shù)散點(diǎn)圖。在Excel中的數(shù)據(jù)如下：00.010.0807930.020.1414410.030.1943920.040.2422920.050.2863970.060.3274450.070.3659240.080.4021790.090.436470.10.4689960.110.4999160.120.5293610.130.5574380.140.5842390.150.609840.160.634310.170.6577050.180.6800770.190.7014710.20.7219280.210.7414830.220.7601680.230.7780110.240.795040.250.8112780.260.8267460.270.8414650.280.8554510.290.8687210.30.8812910.310.8931730.320.9043810.330.9149260.340.9248190.350.9340680.360.9426830.370.9506720.380.9580420.390.96480.40.9709510.410.97650.420.9814540.430.9858150.440.9895880.450.9927740.460.9953780.470.9974020.480.9988460.490.9997110.510.510.9997110.520.9988460.530.9974020.540.9953780.550.9927740.560.9895880.570.9858150.580.9814540.590.97650.60.9709510.610.96480.620.9580420.630.9506720.640.9426830.650.9340680.660.9248190.670.9149260.680.9043810.690.8931730.70.8812910.710.8687210.720.8554510.730.8414650.740.8267460.750.8112780.760.795040.770.7780110.780.7601680.790.7414830.80.7219280.810.7014710.820.6800770.830.6577050.840.634310.850.609840.860.5842390.870.5574380.880.5293610.890.4999160.90.4689960.910.436470.920.4021790.930.3659240.940.3274450.950.2863970.960.2422920.970.1943920.980.1414410.990.0807931#NUM!所繪制圖像如下：用Excel軟件，繪制（3）中兩幅圖像的灰度直方圖實(shí)驗(yàn)步驟：先在MATLAB里面計(jì)算出（3）中各級(jí)灰度值的概率，（3）中的圖像都是128*128的，灰度級(jí)有256個(gè)。求出各灰度級(jí)的相關(guān)概率代碼如下：(1)clearall;closeall;fid=fopen('lena.img','r');image1=fread(fid,[256,256],'uint8');fclose(fid);imshow(image1,[]);[C1R1]=size(image1);image1_size=C1*R1;H1=0;n=zeros(256,1);fori=1:C1forj=1:R1image1_level=image1(i,j)+1;n(image1_level)=n(image1_level)+1;endendfork=1:256P(k)=n(k)/image1_size;ifP(k)~=0;H1=-P(k)*log2(P(k))+H1;endendH1（2）fid=fopen('fing_128.img','r');image2=fread(fid,[256,256],'uint8');fclose(fid);imshow(image2,[]);[C2R2]=size(image2);image2_size=C2*R2;H2=0;n=zeros(256,1);fori=1:C2forj=1:R2image2_level=image2(i,j)+1;n(image2_level)=n(image2_level)+1;endendfork=1:256P(k)=n(k)/image1_size;ifP(k)~=0;H2=-P(k)*log2(P(k))+H2;endendH2（1）（2）實(shí)驗(yàn)結(jié)果分析:由圖1灰度直方圖可以看出，圖片1灰度級(jí)主要分布在25到145內(nèi)，而對(duì)應(yīng)其圖片可知，圖像中灰度值較低的部分占圖像中大半部分，灰度值偏中部分占較小部分，暗黑部分和安灰部分出現(xiàn)明顯差異，在灰度直方圖中表現(xiàn)為出現(xiàn)圖片熵值突變的結(jié)果，因此統(tǒng)計(jì)結(jié)果完全正確。由圖2灰度直方圖可知,其灰度值分布較均勻，而圖像中無(wú)明顯的暗部和暗灰出現(xiàn)，因此可以得出期統(tǒng)計(jì)結(jié)果也是正確的。五、實(shí)驗(yàn)心得通過(guò)本次的試驗(yàn)，讓我深刻的認(rèn)識(shí)到了信息論與編碼在實(shí)際生活中的應(yīng)用的重要性，雖然在實(shí)