信息論與編碼理論第5章 連續(xù)信源和連續(xù)信道_第1頁
信息論與編碼理論第5章 連續(xù)信源和連續(xù)信道_第2頁
信息論與編碼理論第5章 連續(xù)信源和連續(xù)信道_第3頁
信息論與編碼理論第5章 連續(xù)信源和連續(xù)信道_第4頁
信息論與編碼理論第5章 連續(xù)信源和連續(xù)信道_第5頁
已閱讀5頁,還剩2頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

信息論與編碼理論

第5章連續(xù)信源和連續(xù)信道5.1連續(xù)信源

5.1.1連續(xù)信源的數(shù)學(xué)模型離散信源連續(xù)信源5.1.2連續(xù)信源的熵和互信息離散信源聯(lián)合熵條件熵平均互信息I(X;Y)=H(X)-H(X|Y)=H(Y)-H(Y|X)連續(xù)信源聯(lián)合熵條件熵平均互信息I(X;Y)=H(X)-H(X|Y)=H(Y)-H(Y|X)熵的例子求均勻分布信源的熵。概率密度函數(shù)則熵為5.2連續(xù)信道及其信道容量

5.2.1時(shí)間離散信道設(shè)連續(xù)信道的輸入、輸出、噪聲為X(t),Y(t),N(t)。則加性噪聲模型為:Y(t)=X(t)+N(t)因此I(X;Y)=H(Y)-H(Y|X)=H(Y)-H(N)若X和N分別為均值為0、方差為

2X和

2N的高斯分布,則Y為均值為0、方差為

2X+

2N的高斯分布此時(shí)定理

假設(shè)輸入信源的平均功率小于

2X,信道加性噪聲平均功率為

2N,則加性噪聲信道容量C滿足其中

2為噪聲的熵功率。當(dāng)噪聲為高斯分布時(shí):

2=

2N因此高斯型干擾是最壞的干擾,這就是在科學(xué)研究中通常假設(shè)噪聲為高斯噪聲的原因。(分析最壞的情況比較安全)5.2.2連續(xù)信道時(shí)間連續(xù)信道的信道容量為若信道為高斯信道,則時(shí)間連續(xù)信道的信道容量為本章小結(jié)連續(xù)信源主要講了信源的模型、熵、共熵、條件熵和平均互信息。需要注意的是連續(xù)信源的熵不同于離散信源的熵。連續(xù)信源的熵是微分熵,與離散信源的熵相比,去掉了一個(gè)無窮大項(xiàng)。連續(xù)信道分時(shí)間離散和

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論