第6章 有噪信道編碼(信息論)

1、1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768習(xí)題：習(xí)題：1 1 設(shè)某信道，其信道矩陣為設(shè)某信道，其信道矩陣為 若信道的輸入符號若信道的輸入符號a1,a2,a3a1,a2,a3先驗等概，先驗等概，1 1）若使平均錯誤譯碼概率最?。┤羰蛊骄e誤譯碼概率最小, ,請選擇譯碼函數(shù)。請選擇譯碼函數(shù)。2 2）求出此錯誤譯碼概率）求出此錯誤譯碼概率PeminPemin。解：解：(1)(1)因為先驗等概

2、因為先驗等概, ,所以選擇最大似然譯碼準(zhǔn)則所以選擇最大似然譯碼準(zhǔn)則F(b1)=a1 F(b2)=a3 F(b3)=a2 F(b1)=a1 F(b2)=a3 F(b3)=a2 (2) Pemin(2) Pemin= = 69，2 2 i i，j j是兩個碼符號是兩個碼符號0,10,1組成的符號序列組成的符號序列 求求i i，j j 之間的漢明距離之間的漢明距離解：解：D(D(i i，j j)= )= 3 3 W:000,001,010,100,011,110,101,111W:000,001,010,100,011,110,101,111的最小漢明距離的最小漢明距離解：解：DminDmin=1=

3、1704 4 設(shè)有一離散信道，其信道矩陣為設(shè)有一離散信道，其信道矩陣為 （1 1）當(dāng)信源）當(dāng)信源X X的概率分布為的概率分布為p(ap(a1 1)=2/3)=2/3，p(ap(a2 2)=p(a)=p(a3 3)=1/6)=1/6時，時，按最大后驗概率準(zhǔn)則選擇譯碼函數(shù)，并計算其平均錯誤譯碼概按最大后驗概率準(zhǔn)則選擇譯碼函數(shù)，并計算其平均錯誤譯碼概率率P Peminemin（2 2）當(dāng)信源是等概率分布時，選擇最大似然譯碼準(zhǔn)則選擇）當(dāng)信源是等概率分布時，選擇最大似然譯碼準(zhǔn)則選擇譯碼函數(shù)，并計算其平均錯誤譯碼概率譯碼函數(shù)，并計算其平均錯誤譯碼概率PeminPemin。71解：解：(1) (1) 聯(lián)合概

4、率：聯(lián)合概率： 后驗概率后驗概率 根據(jù)最大后驗概率準(zhǔn)則：根據(jù)最大后驗概率準(zhǔn)則：F(b1)=a1F(b1)=a1，F(xiàn)(b2)=a1F(b2)=a1，F(xiàn)(b3)=a1F(b3)=a1最小錯誤譯碼概率為：最小錯誤譯碼概率為：72(2) (2) 當(dāng)信源是等概率分布時當(dāng)信源是等概率分布時 采用最大似然譯碼準(zhǔn)則采用最大似然譯碼準(zhǔn)則F(bF(b1 1)=a)=a1 1，F(xiàn)(bF(b2 2)=a)=a2 2，F(xiàn)(bF(b3 3)=a)=a3 3 信道矩陣為信道矩陣為：735 5 設(shè)離散無記憶信道的輸入符號集設(shè)離散無記憶信道的輸入符號集X:0,1X:0,1，輸出符號集，輸出符號集Y:0,1,2Y:0,1,2，信

5、道矩陣為，信道矩陣為: :P= P= 若某信源輸出兩個等概消息若某信源輸出兩個等概消息x x1 1，x x2 2，現(xiàn)在用信道輸入符號集對，現(xiàn)在用信道輸入符號集對x x1 1，x x2 2進(jìn)行編碼，進(jìn)行編碼，W W1 1=00=00，W W2 2=11=11代表代表x x1 1，x x2 2。按最大似然準(zhǔn)則寫。按最大似然準(zhǔn)則寫出譯碼函數(shù)，并求出最小平均錯誤譯碼概率出譯碼函數(shù)，并求出最小平均錯誤譯碼概率P Peminemin。74解：解： (1) (1) 選擇譯碼函數(shù)選擇譯碼函數(shù) F(b1)=F(b2)=F(b3)=F(b4)=F(b7)=x1F(b1)=F(b2)=F(b3)=F(b4)=F(b

6、7)=x1 F(b5)=F(b6)=F(b8)=F(b9)=x2 F(b5)=F(b6)=F(b8)=F(b9)=x2(2)(2)P= P= 756 6 設(shè)分組碼（設(shè)分組碼（n,kn,k）中，）中，n=6n=6，k=3k=3，并按下列方程選取字，并按下列方程選取字中的碼字。中的碼字。求信息序列求信息序列(a1a2a3)(a1a2a3)變換成六位的八個碼字，變換成六位的八個碼字，并求出編碼效率。并求出編碼效率。解：解： 信息序列信息序列 碼字碼字 (a(a1 1a a2 2a a3 3) (c) (c1 1c c2 2 c c3 3c c4 4c c5 5c c6)6) 000 000000 000 000000 001 001011 001 001011 010 010101 010 010101 100 100110 100 100110