老師整理的習(xí)題(答案在上搜下,我有傳)

1、chp02-03習(xí)題課：1、 如果你在不知道今天是星期幾的情況下問你的朋友“明天是星期幾？”則答案中含有多少信息量？如果你在已知今天是星期四的情況下提出同樣的問題，則答案中你能獲得多少信息量（假設(shè)已知星期一至星期日的排序）？（提示：因假設(shè)已知星期一至星期日的排序，而且也知道一星期只有七天，故在不知道今天是星期幾的情況下，問明天是星期幾的答案，只可能是星期一至星期日七天之一。而在已知今天是星期四的情況下，問明天是星期幾的答案必定是星期五。）2、 居住在某地區(qū)的女孩中有25%是大學(xué)生，在女大學(xué)生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占總數(shù)一半。假如我們得知“身高1.6米以上的某

2、女孩是大學(xué)生”的消息，問獲得多少信息量？3、 設(shè)離散無記憶信源 （1） 此消息的自信息是多少？（2） 在此消息中平均每個符號攜帶的信息量是多少？4、 一階馬爾可夫信源的狀態(tài)圖如圖4.1所示，信源X的符號集為0，1，2并定義。（1） 求信源平穩(wěn)后的概率分布P(0)，P(1)和P(2)。（2） 求此信源的熵。（3） 近似認為此信源無記憶時，符號的概率分布等于平穩(wěn)分布。求近似信源的熵H(X)并與H進行比較。（4） 對一階馬爾可夫信源取何值時取最大值，又當和時結(jié)果如何。圖4.1 一階馬氏信源的狀態(tài)轉(zhuǎn)移圖5、設(shè)給定兩隨機變量X1和X2，它們的聯(lián)合概率密度為 求隨機變量Y= X1+ X2的概率密度函數(shù)，并

3、計算變量Y的熵h（Y）。（提示：獨立正態(tài)分布的隨機變量之和仍是正態(tài)隨機變量，其均值等于原均值之和，方差等于原方差之和。）6、 有一信源發(fā)出恒定寬度，但不同幅度的脈沖，幅度值x處在a1和a2之間。此信源連接至某信道，信道接收端接收脈沖的幅度y處在b1和b2之間。已知隨機變量X和Y的聯(lián)合概率密度函數(shù)試計算h(X),h(Y),h(XY)和I(X;Y)。6、 設(shè)某連續(xù)信道，其特性如下 ：而信道輸入變量X的概率密度函數(shù)為： 試計算：（1）信源的熵h（x）。 （2）平均互信息I（X;Y）。Chp031,0321、 設(shè)有一個信源，它產(chǎn)生0，1序列的消息。它在任意時間而且不論以前發(fā)生過什么符號，均按P（0）=

4、0.4，P（1）=0.6的概率發(fā)出符號。（1） 試問這個信源是否是平穩(wěn)的？（2） 試計算H（X2） ，H（X3|X1X2）及l(fā)imHN（X） （N->）。（3） 試計算H（X4）并寫出X4信源中可能有的所有符號。2、 設(shè)有一信源，它在開始時以P（a）=0.6，P（b）=0.3，P（c）=0.1的概率發(fā)出X1。如果X1為a時，則X2為a，b，c的概率為1/3；如果X1為b時，則X2為a，b，c的概率為1/3；如果X1為c時，則X2為a，b的概率為1/2，為c的概率為0.而且，后面發(fā)出Xi的概率只與Xi-1有關(guān)，又P（Xi|Xi-1）=P（X2|X1） i>=3.試利用馬爾可夫信源的圖

5、示法畫出狀態(tài)轉(zhuǎn)移圖，并計算信源熵H。3、 黑白氣象傳真圖的消息只有黑色和白色兩種，即信源X=黑，白，設(shè)黑色出現(xiàn)的概率為P（黑）=0.3，白色的出現(xiàn)概率P（白）=0.7.（1） 假設(shè)圖上黑白消息出現(xiàn)前后沒有關(guān)聯(lián)，求熵H（X）。（2） 假設(shè)消息前后有關(guān)聯(lián)，其依賴關(guān)系為P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一階馬爾可夫信源的熵H2.（3） 分別求上述兩種信源的剩余度，并比較H（X）和H2的大小，并說明其物理意義。H(X)=0.881比特/符號；H2=0.553比特/符號；信源剩余度1=0.119；2 =0.447. H（X）>H2 結(jié)果說明

6、：當信源的消息符號之間有依賴時，信源輸出的消息的不確定性減弱。本題中，當有依賴時，前面已經(jīng)是白色消息，后面絕大多數(shù)可能是出現(xiàn)白色的消息；前面是黑色消息，后面基本可猜測是黑色消息。這時信源的平均不確定性減弱。所以，信源消息之間有依賴時信源熵小雨信源消息之間無依賴時信源熵。這表明信源熵正是反映戲院的平均不確定性的大小。而信源剩余度正是反映戲院消息依賴關(guān)系的強弱，剩余度越大，信源消息符號之間依賴關(guān)系就越大。4、設(shè)有一連續(xù)隨機變量，其概率密度函數(shù)為P（x）= Acosx x<=/2 0 x取其他值又在定義域區(qū)間內(nèi)符合完備集，試求這個隨機變量的熵。答案：A=1/2,H（x）=-2AlnA-2Aln

7、2+2A=1 奈特/樣值作業(yè)：P49 3.12中的（1）和（2）chp04習(xí)題課后習(xí)題（P81） 4.14.24.64.154.16 一個快餐店只提供漢堡和牛排，當顧客進店以后只需向廚房喊一聲“B”或“Z”就表示他點的是漢堡或牛排，不過通常8%的概率廚師可能會聽錯。一般來說進店的顧客90%會點漢堡，10%會點牛排。問：（1）這個信道的信道容量。（2）每次顧客點菜時提供的信息；（3）在這個信道可不可以正確地傳遞顧客點菜的信息。4.17 求圖4-17中信道的信道容量及其最佳的輸入概率分布，并求當=0和1/2時的信道容量值。圖4-174.18在圖片傳輸中，每幀約為2.25×106個像素，為

8、了能很好地重現(xiàn)圖像，需分16個亮度電平，并假設(shè)亮度電平等概率分布。試計算每秒鐘傳送30幀圖片所需信道的帶寬（信噪功率比為30db ）。4.19設(shè)在平均功率受限高斯加性噪聲連續(xù)信道中，信道帶寬為3KHZ，又設(shè)（信號功率噪聲功率）/噪聲功率10db。 (1)試計算該信道傳送的最大信息率（單位時間） (2)若（信號功率噪聲功率）/噪聲功率降為5db，要達到相同的最大信息傳輸率，信道帶寬應(yīng)是多少？chp05習(xí)題Chp05習(xí)題課課后習(xí)題：5.65.75.8習(xí)題1.有兩個信源X和Y如下：（1） 分別用霍夫曼碼編成二元變長唯一可譯碼，并計算其編碼效率。（2） 分別用香農(nóng)編碼法編成二元變長唯一可譯碼，并計算編

9、碼效率。（3） 分別用費諾編碼法編成二元變長唯一可譯碼，并計算編碼效率。（4） 從X,Y兩種不同信源來比較這三種編碼方法的優(yōu)缺點。習(xí)題2：信源空間為碼符號為X=0，1，2，試著構(gòu)造一種三元霍夫曼碼。習(xí)題3：設(shè)有一頁傳真文件其中某一掃描行上的像素點如下所示：|ß73白à|ß7黑à|ß11白à|ß18黑à|ß1619白à|（1） 該掃描行的MH碼；（2） 編碼后該行總比特數(shù)；（3） 本行編碼壓縮比（原碼元總數(shù)：編碼后碼元總數(shù)）習(xí)題4：chp06習(xí)題課后習(xí)題：P1636.2 問題改為：分別按最小錯誤概

10、率準則和最大似然譯碼準則確定譯碼規(guī)則，并計算相應(yīng)的平均錯誤概率。習(xí)題1：設(shè)某二元碼為C=11100，01001，10010，00111（1） 計算此碼的最小距離dmin。（2） 計算此碼的碼率R，假設(shè)碼字等概率分布。（3） 采用最小距離譯碼準則，試問接收序列10000，011000和00100應(yīng)譯成什么碼字？（4） 此碼能糾正幾位碼元的錯誤。習(xí)題2：下面是某（n,k）線性二元碼的全部碼字：C1=000000 C2=001111 C3=010001 C4=011110C5=100011 C6=101100 C7=110010 C8=111101（1） 求n,k為何值？（2） 構(gòu)造這碼的生成矩陣G；（寫成系統(tǒng)碼形式）（3） 構(gòu)成這