清華大學(xué)出版社信息編碼論第五章全解

1、5-1 將下表所列的某六進(jìn)制信源進(jìn)行二進(jìn)制編碼，試問(wèn)：消息概率u1u2u3u4u5u61/21/41/161/161/161/16000001010011100101 0 01 011 0111 01111011111 0 10 110 1110 11110111110 0 101101110010011111 100000101011011001001100101110111(1) 這些碼中哪些是唯一可譯碼？(2) 哪些碼是非延長(zhǎng)碼？(3) 對(duì)所有唯一可譯碼求出其平均碼長(zhǎng)和編譯效率。解：首先，根據(jù)克勞夫特不等式，找出非唯一可譯碼不是唯一可譯碼，而：又根據(jù)碼樹(shù)構(gòu)造碼字的方法，的碼字均處于終端節(jié)

2、點(diǎn)他們是即時(shí)碼5-2 (1) 因?yàn)锳,B,C,D四個(gè)字母,每個(gè)字母用兩個(gè)碼,每個(gè)碼為0.5ms, 所以每個(gè)字母用10ms 當(dāng)信源等概率分布時(shí),信源熵為H(X)=log(4)=2 平均信息傳遞速率為bit/ms=200bit/s (2) 信源熵為 H(X)= =0.198bit/ms=198bit/s5-5(1) H(U)=(2) 每個(gè)信源使用3個(gè)二進(jìn)制符號(hào),出現(xiàn)0的次數(shù)為 出現(xiàn)1的次數(shù)為P(0)= P(1)= (3) (4) 相應(yīng)的香農(nóng)編碼信源符號(hào)xi符號(hào)概率pi累加概率Pi-Logp(xi)碼長(zhǎng)Ki碼字x11/20110x21/40.52210x31/80.7533110x41/160.87

3、5441110x51/320.9385511110x61/640.96966111110x71/1280.984771111110x81/1280.9927711111110 相應(yīng)的費(fèi)諾碼 信源符號(hào)xi符號(hào)概率pi第一次分組第二次分組第三次分組第四次分組第五次分組第六次分組第七次分組二元碼x11/200x21/41010x31/810110x41/16101110x51/321011110x61/6410111110x71/128101111110x81/128111111110（5）香農(nóng)碼和費(fèi)諾碼相同 平均碼長(zhǎng)為 編碼效率為： 5-11 （1）信源熵 （2）香農(nóng)編碼： 信源符號(hào)xi符號(hào)概率p

4、i累加概率Pi-Logp(xi)碼長(zhǎng)Ki碼字x10.3201.644200x20.220.322.1843010x30.180.542.4743100x40.160.722.6443101x50.080.883.64441110x60.040.964.644511110 平均碼長(zhǎng)：編碼效率為（3） 費(fèi)諾編碼為信源符號(hào)xi符號(hào)概率pi1234編碼碼長(zhǎng)x10.3200002x20.221012x30.1810102x40.16101103x50.081011104x60.04111114 平均碼長(zhǎng)為：編碼效率： （4）哈夫曼編碼信源符號(hào)xi符號(hào)概率pi編碼過(guò)程編碼碼長(zhǎng)x10.320.320.380

5、.400.601012x20.220.220.320.380.40102x30.180.180.220.32112x40.160.160.180003x50.080.1200104x60.0400114平均碼長(zhǎng)為：編碼效率： 5.16 已知二元信源0，1，其p0=1/4,p1=3/4,試用式（4.129）對(duì)序列11111100編算術(shù)碼，并計(jì)算此序列的平均碼長(zhǎng)。解：根據(jù)算術(shù)編碼的編碼規(guī)則，可得：P(s=11111100) = P2(0)P6(1) = (3/4)6 (1/4)2根據(jù)（4.129）可得： F(S) = P(0) + P(10) + P(110) + P(1110) + P(11110) + P(111110) = 1= 1 P(11111111) P(11111110) P(11111101) P(11111100) = 1 P(111111) = 1 (3/4)6 = 0.82202 = 0.110100100111又P(S) = A(S)=