




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、 網(wǎng)絡(luò)信息論初步第11章n本章介紹網(wǎng)絡(luò)信息論的最基本內(nèi)容,主要包括多址接入信道和退化廣播信道容量、以及相關(guān)信源編碼。本章主要內(nèi)容: 多址接入信道11.1.1 二址接入信道的容量 11.1.2 不同多址方式下的接入信道容量分析 11.1.3 多址接入信道的容量11.2 廣播信道11.2.1 退化的廣播信道11.2.2 退化的廣播信道的容量區(qū)域11.3相關(guān)信源編碼11.3.1 典型的相關(guān)信源編碼模型11.3.2 Slepian-Wolf相關(guān)信源編碼定理多址接入信道n多址接入信道(Multiple Access Channel, MAC)是有多個(gè)信道輸入信號(hào),但只有一個(gè)信道輸出信號(hào)的信道。如圖11.
2、1.1所示。圖11.1.1 多源接入信道11.1.1 二址接入信道的容量n設(shè)信道的兩個(gè)輸入變量集合為 和 ,一個(gè)輸出變量集合為 ,則信道特性可用 這一條件概率來表征。n兩個(gè)編碼器分別將兩個(gè)信源符號(hào) 和 編成適合于信道傳輸?shù)男盘?hào) 和 ;一個(gè)譯碼器由信道輸出譯出相應(yīng)的信源符號(hào) 和 。12( /,)p y x x1X2XY1X2X1U2U1U2U圖11.1.2 典型的二址接入信道n設(shè) 的極大值分別為 ,則:即:n同理:n聯(lián)合限制:n當(dāng) 與 相互獨(dú)立時(shí),可得:1122112()()max(;|)pxpxRI X Y X1122112()()max(;|)pxpxCI X Y X1122212( )()
3、max ( |)( |)p x p xH Y XH Y X X11RC1122221()()max(;|)pxpxCI X Y X1122112( )()max ( |)( |)p x p xH Y XH Y X X12,R R12,C C22RC11221212()()max(; )pxpxCI X X Y1212( ) ()max ( )( |)p x p xH YH Y X X1X2X121212max(,)C CCCC121 2, (),XX P y x xY12112(,):0(;/)R RRI X Y X2210(;/)RI X Y X12120(;)RRI X XY121122(
4、)( )()p x xp x p x定理11.1.1 一個(gè)具有兩個(gè)輸入端的二址接入信道 的容量是一個(gè)滿足下面條件的凸集合: (11.1.1) 其中 例11.1.1 二址接入二元乘積信道。設(shè)一個(gè)二址接入信道,輸入 ,輸出 ,且 ,求該信道的容量區(qū)域。 解: , , , 則速率對(duì) 的可達(dá)區(qū)域?yàn)椋?比特/符號(hào), 比特/符號(hào), 比特/符號(hào)。10,1X 20,1X 0,1Y 12YX X圖11.1.4 無擾二元乘積信道的轉(zhuǎn)移概率圖 12()0H Y X X12()0H X X Y 21()0H XX Y 1212121(;)()()();I X Y XH X XH X X YH X212(;)();I
5、X Y XH X1212(; )( )()( )I X X YH YH Y X XH Y12112212( ,):0(),0(),0( )R RRH XRH XRRH Y12(,)R R111()max()1p xCH X222()max()1p xCH X1212() ()max( )1p xp xCH Y圖11.1.5 二元乘積信道的容量區(qū)域 例11.1.2 二址接入二元?jiǎng)h除信道。設(shè)信道輸入 信道輸出 ,且 ,也稱為二元和信道,如圖11.1.6,求信道的容量區(qū)域。 解: 設(shè) 的概率: , 的概率: , 分別對(duì) 和 的偏導(dǎo)數(shù)為零,可得當(dāng) 時(shí), 120,1,0,1,XX0,1,2Y 12YXX
6、圖11.1.6 二元?jiǎng)h除信道111121()()Cmax (;/)max()1p xp xI X Y XH X比特21C 比特圖11.1.7 無擾二元?jiǎng)h除信道的轉(zhuǎn)移概率圖1X0pp11pp 12(; )( )I X X YH Y(1)log(1) (1) log(1)(1)(1)log(1)(1)pppp pppppppppp 2X1pp01pp pp12pp12111111logloglog1.5444422C 比特圖11.1.8 二址離散信道的可達(dá)速率區(qū)域n例11.1.3 二址接入高斯信道。設(shè) 和 的概率密度分別為 和 。信道輸出 , 為高斯白噪聲設(shè)輸入均值為零,平均功率受限即 , ,與
7、相互獨(dú)立。求信道容量區(qū)域。n解:n限平均功率時(shí),隨機(jī)變量為高斯分布時(shí)熵最大,則1X2X11()XpX22()XpX12YXXZZ121()SE XP222()SE XPZ2121221()(|)exp22yxxP Y X X2121(|)log 22h Y X Xe 121212() ()max (|)(|)p Xp XCh Y Xh Y X X1222()()1max(|)log 22p Xp Xh Y Xe 11212211loglog(1)22SSPPC22222211loglog(1)22SSPPC12122122211loglog(1)22SSSSPPPPCn在平均功率受限的約束下,
8、采用時(shí)分多址方式和頻分多址方式的可達(dá)速率區(qū)域均小于理論給出的容量區(qū)域。但是通過設(shè)計(jì)時(shí)隙分配或帶寬分配的比例,時(shí)分多址與頻分多址又都可使速率達(dá)到理論容量域的最大值。n碼分多址方式中,所有信道輸入信號(hào)都占用信道的全部帶寬和時(shí)間,各信號(hào)間不存在時(shí)隙分配或帶寬分配問題,因此碼分多址的可達(dá)速率區(qū)域與理論容量區(qū)域一致。11.1.3 多址接入信道的容量n給定條件概率 ,可分別限定各信源的信息傳輸速率:n各種聯(lián)合約束條件,即對(duì)任一子集 ,n當(dāng)各信源相互獨(dú)立時(shí),有:12(|,)Np y x xx11111()()max(;|)(1,2,)NNrrrrrNpxpxRCI X Y XXXXrNA11()()max(
9、,;|,)NNrArspxpxr ARCI XrA Y Xs AmaxrArr Ar ACCCn廣播信道(Broadcast Channel, BC)與多址接入信道正好相反,它有一個(gè)輸入和多個(gè)輸出。11.2 廣播信道圖11.10 廣播信道n單輸入雙輸出的廣播信道:圖11.11 單輸入雙輸出廣播信道n退化的廣播信道:存在一個(gè)條件概率函數(shù) 使得n由級(jí)聯(lián)信道的性質(zhì)可知, 、 、 構(gòu)成一個(gè)馬氏鏈,或者說在 已知的條件下 與 無關(guān)。11.2.1 退化的廣播信道21(|)p yy112112(| ) (|)(| )Yp yx p yy dyp yx圖11.12 退化的廣播信道X1Y2Y1YX2Yn定理11
10、.2 通過退化廣播信道 發(fā)送獨(dú)立信息的容量區(qū)域是滿足下式的所有 的封閉集合的凸包:n n n n輔助隨機(jī)變量 的基數(shù)的界限是用凸集理論的標(biāo)準(zhǔn)方法來確定的。11.2.2 退化的廣播信道的容量區(qū)域12XYY12(,)R R1222(,):0( ;)R RRI U Y110(;/)RI X Y U12( ) ( / ) (/ )p u p x u p y yx對(duì)某聯(lián)合分布12min,UUXYY成立且 的基數(shù)Un例11.4 二元對(duì)稱廣播信道。求該信道的容量區(qū)域。n解:圖11.12 二元對(duì)稱廣播信道112211221212122112211212111 111(1)(1)(1)(1) (1)(1)(1)
11、(1)( /) ppppqqppppqqppp pp pp pp pp ppppP Z Xp 構(gòu)造一個(gè)二元隨機(jī)源U,設(shè) 為對(duì)稱分布,錯(cuò)誤轉(zhuǎn)移概率為 ,得: 由定理11.2得,速率區(qū)域?yàn)?p()P x u0120( ; )( )()1(*)1(* )I U ZH ZH Z UH pppH pq 011(;)()()()()(*)()I X Y UH Y UH Y XUH Y UH Y XH ppH p1011(;)(*)()RI X Y UH ppH p20( ; )1(* )RI U ZH pq 圖11.14 二元對(duì)稱廣播信道的容量區(qū)域 例11.5 高斯廣播信道。假設(shè)信道輸入信號(hào)的平均功率為
12、。求該信道的容量區(qū)域。 解:高斯廣播信道也屬于退化的廣播信道 引入輔助隨機(jī)輸入集合 將輸入信號(hào)功率 分成 和 , 用于傳輸 的平均功率為 , 用于傳輸 的平均功率為 即:SP222YXZYZ 圖11.15 高斯廣播信道圖11.16 退化高斯廣播信道12UUU111211222, , YUZUXYZUUUSPSP(1)SP1U2U122()SSsE XPPP121()SsE UPP222()(1)SsE UPPn從單用戶高斯信道的理論可知,要使退化高斯信道的輸入輸出的平均互信息為最大,輸入X應(yīng)為高斯分布;n當(dāng)輸入 為高斯分布時(shí)n因 獨(dú)立,所以n得容量區(qū)域?yàn)椋?U1211(;/)log(1)2sP
13、I X Y U21YU與2221222222( ;)(;)(;/)(1)1 (;)log(1)2ssI U YI U YI U YUPI U YP222(1)1log(1)2ssPRP1211log(1)2sPR圖11.17 高斯廣播信道容量區(qū)域n相關(guān)信源編碼進(jìn)行編碼時(shí),力求對(duì)信源相關(guān)帶來的剩余度的壓縮,提高網(wǎng)絡(luò)傳輸?shù)挠行浴?1.3 相關(guān)信源編碼圖11.19 相關(guān)信源編碼的一般模型n1. Berger相關(guān)信源編碼模型n2. Slepian-Wolf相關(guān)信源編碼模型11.3.1 典型的相關(guān)信源編碼模型圖11.20 Berger相關(guān)信源編碼圖11.21 Slepian-Wolf模型n3. 帶邊信
14、息的相關(guān)信源編碼n4. 分集的相關(guān)信源編碼圖11.22 帶邊信息的信源模型圖11.23分集的相關(guān)信源編碼模型n由Slepian-Wolf相關(guān)信源編碼的模型,得n定理11.3 Slepian-Wolf相關(guān)信源編碼定理:對(duì)于相關(guān)信源 編碼問題,可達(dá)速率的區(qū)域?yàn)椋簄若滿足上面的條件即可在接收端無差錯(cuò)地恢復(fù) 和11.3.2 Slepian-Wolf相關(guān)信源編碼定理1212()()(,)H XH XH XX112()(|)H XH XX221()(|)H XH XX12(,)XX1122211212(|)(|)()RH XXRH XXRRH X X1X2Xn例例11.611.6 設(shè)信源 ,信源 ,其中
15、。 ,若 則有 ,且 。由此得 比特。而 比特(設(shè) )n因此,在已知 的情況下要確定 ,只需要0.5比特,而不是1比特。因?yàn)?與 具有相關(guān)性,在已知 時(shí),已提供了一些關(guān)于 的信息量,因此只需獲得大于 比特的信息量, 就能完全確定 。n由此可見在對(duì)相關(guān)信源 和 進(jìn)行編碼時(shí)只要保證 就能完全確定 。11110,1 , (0)(1)2Sp sp s00,1S 00(0)1, (1)p sp p sp 210SSS20,1S 221(1)(0)2p sp s21()()1H SH S21(/)( )0.5H SSH p1S2S0.11p 2S1S1S2S21()H S S2S2S1S2S11221()
16、,()RH SRH S Sn例11.7 有兩城市A和B,它們的天氣(晴,雨)的聯(lián)合概率如表所示:n求理論上平均每天所需傳送的最小比特?cái)?shù):n(1)兩城市獨(dú)立進(jìn)行壓縮編碼傳送;(2)兩城市利用相關(guān)信源縮編碼傳送;(3)若國家氣象局已知A城市天氣的情況下,利用相關(guān)信源縮編碼傳送B城市天氣。 A B B雨 B晴 A雨04450055 A晴 00550445n解:(1)容易得兩城市的天氣分布情況均為雨和晴等概率出現(xiàn)。不考慮天氣在時(shí)間先后上的相關(guān)性,將A、B兩城市的天氣視為獨(dú)立等概信源,有 獨(dú)立地對(duì)信源編碼傳送,即不考慮A、B兩城市之間天氣的關(guān)聯(lián)性。 這時(shí)實(shí)現(xiàn)無失真編碼傳輸,必須使編碼以后的信息傳輸速率滿
17、足 。因此獨(dú)立進(jìn)行壓縮編碼傳送兩城市天氣情況最小需要比特?cái)?shù)為2比特; /1ABHH比特 天AABB,RHRH(2)利用相關(guān)信源編碼時(shí),考慮在天氣方面兩城市之間的關(guān)聯(lián)性,可得聯(lián)合熵 從而傳送每天兩城市的天氣情況最小需要 (3)在已知A城市天氣的情況下,利用相關(guān)信源編碼,只需要再傳條件熵 比特就可以完全獲得B城市的天氣情況。(0.445,0.445,0.055,0.055)1.5ABHH比特ABH=1.5ABRR比特B/AABAHH-H =0.5n例11.8 U為含8個(gè)等概率符號(hào)的離散無記憶信源,符號(hào)集0,1,7,信源符號(hào)分別通過兩個(gè)信源編碼器: 編碼器1將信源符號(hào)轉(zhuǎn)換成碼長為3的二進(jìn)代碼 ,再通
18、過信道1傳輸,輸出為 ,即信源編碼1: 編碼器2按編碼器1的方式將信源符號(hào)轉(zhuǎn)換成二進(jìn)代碼后,將代碼分成4組: 再將每組的序號(hào) (符號(hào)集為:00,01,10,11)通過一個(gè)無噪聲信道傳輸,即信源編碼2: 1X1Y0000 10017111,000,111001,110010,101100,011,2X0,7001,6012,5103,411,n信道1的作用是等概率地將輸入的每個(gè)長度為3的二元碼字 變成與其漢明距離不大于1的另一個(gè)長度為3的二元碼字 ;接收端根據(jù) ,對(duì)U作出判決。1x1y21x y信源編碼1信源編碼2信道1譯碼器X1UX2Y1 U圖11.26 傳輸系統(tǒng)框圖1.分別求兩信源編碼器編碼
19、后的信息傳輸速率 ;2.求信道1的轉(zhuǎn)移概率矩陣和容量; 3.求4.設(shè)計(jì)譯碼器的譯碼原則,并指出譯碼器能否無差錯(cuò)的將信源符號(hào)譯出?解:1.信源編碼器1得信息傳輸速率 比特/碼符號(hào) 信源編碼器2得信息傳輸速率 比特/碼符號(hào);2.信道1的轉(zhuǎn)移概率矩陣:12rr,12212 1(, , ( /), ( / ), ( /) I U Y I U XHU XHU Y HU XY; ) ( ; )1log813R 2log81.52R 11/ 41/ 41/ 401/ 40001/ 41/ 401/ 401/ 4001/ 401/ 41/ 4001/ 4001/ 41/ 41/ 40001/ 41/ 40001/ 41/ 41/ 4001/ 4001/ 41/ 401/ 4001/ 401/ 401/ 41/ 40001/ 401/ 41/ 41/ 4Pn信道1為對(duì)稱信道,輸出等概時(shí)達(dá)到信道容量:n3.因?yàn)閁到 的變換是一一對(duì)應(yīng)的變換,所以U到 的轉(zhuǎn)移概率矩陣與 相同。因信道輸入等概率,因此輸出也等概,所以 與信道1的容量相同,即 的轉(zhuǎn)移概率矩陣為: 11122( )()log 8log 41CH YH Y X 比特1X1Y1( ;I U Y)1(
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 會(huì)議推廣合同范本
- 江西購房合同范本
- 口罩機(jī)采購合同范本
- 10《我們所了解的環(huán)境污染》教學(xué)設(shè)計(jì)-2023-2024學(xué)年道德與法治四年級(jí)上冊(cè)統(tǒng)編版
- Lesson 1 Nice to meet you. (單元整體教學(xué)設(shè)計(jì))-2024-2025學(xué)年接力版英語四年級(jí)上冊(cè)
- 百分?jǐn)?shù)的意義教學(xué)設(shè)計(jì)
- 長沙鋪面出租合同范本
- 苗木包成活合同范本
- 26手術(shù)臺(tái)就是陣地(教學(xué)設(shè)計(jì))-2024-2025學(xué)年統(tǒng)編版語文三年級(jí)上冊(cè)
- 2023-2024學(xué)年川教版(2019)小學(xué)信息技術(shù)五年級(jí)下冊(cè)初識(shí)人工智能(教學(xué)設(shè)計(jì))
- 《S公司客戶開發(fā)與維護(hù)策略改進(jìn)探究》開題報(bào)告10000字
- 計(jì)算機(jī)網(wǎng)絡(luò)基礎(chǔ)與應(yīng)用中職完整全套教學(xué)課件
- 《觸不可及》影視鑒賞
- 北師大版 四年級(jí)下冊(cè)心理健康教育 失敗不可怕 |教案
- 醫(yī)師定期考核人文醫(yī)學(xué)考試題庫500題(含參考答案)
- 讀書分享課件:《一句頂一萬句》
- 物業(yè)消防安全管理培訓(xùn)【共54張課件】
- 空心杯電機(jī)基礎(chǔ)知識(shí)
- DL-T+5839-2021土石壩安全監(jiān)測(cè)系統(tǒng)施工技術(shù)規(guī)范
- 歷年交管12123駕照學(xué)法減分復(fù)習(xí)題庫帶答案下載
- 人教鄂教版-科學(xué)-三年級(jí)下冊(cè)-知識(shí)點(diǎn)
評(píng)論
0/150
提交評(píng)論