信息率失真理論

第4章信息率失真理論教學(xué)內(nèi)容和要求理解保真度準(zhǔn)則，理解實(shí)驗(yàn)信道掌握二進(jìn)制信源、等概率信源的信息率失真函數(shù)了解N次擴(kuò)展信源的信息率失真函數(shù)掌握高斯信源的信息率失真函數(shù)一、保真度準(zhǔn)則和實(shí)驗(yàn)信道1、失真度定義漢明失真度——常用于離散信源表示全部n×n個(gè)失真度——失真矩陣漢明失真矩陣平方誤差失真度——常用于連續(xù)信源平方誤差失真函數(shù)2、平均失真度失真度的數(shù)學(xué)期望定義表示3、保真度準(zhǔn)則平均失真度不大于給定的允許失真D定義表示4、實(shí)驗(yàn)信道定義滿(mǎn)足保真度準(zhǔn)則的所有數(shù)據(jù)處理信道離散信源的實(shí)驗(yàn)信道表示全部n×n個(gè)實(shí)驗(yàn)信道轉(zhuǎn)移概率——實(shí)驗(yàn)信道矩陣連續(xù)信源的實(shí)驗(yàn)信道實(shí)驗(yàn)信道轉(zhuǎn)移概率密度函數(shù)二、單符號(hào)離散信源的信息率失真函數(shù)信源固定時(shí)，與等效信源間的平均互信息量是數(shù)據(jù)處理信道轉(zhuǎn)移概率分布的嚴(yán)格下凸函數(shù)，總能在實(shí)驗(yàn)信道中找到一種信道轉(zhuǎn)移概率分布，使實(shí)驗(yàn)信道中傳輸?shù)钠骄バ畔⒘吭诒Ｕ娑葴?zhǔn)則下達(dá)到最小信源概率分布不變時(shí)，保真度準(zhǔn)則下平均互信息量的極小值，用R(D)表示定義表示1、信息率失真函數(shù)實(shí)驗(yàn)信道轉(zhuǎn)移概率分布的n個(gè)約束條件保真度準(zhǔn)則的約束條件對(duì)j求和乘P(xi)對(duì)i求和信息率失真函數(shù)2、二進(jìn)制信源的信息率失真函數(shù)R(D)D0.50.25p=0.25p=0.5010.811求允許失真D=1/8時(shí)的信息率失真函數(shù)R(D)及達(dá)到R(D)的實(shí)驗(yàn)信道例1D=1/8時(shí)3、等概率信源的信息率失真函數(shù)等概率信源p=0.5時(shí)，二進(jìn)制信源的信息率失真函數(shù)n=2時(shí)，等概率信源的信息率失真函數(shù)三進(jìn)制等概率信源，求允許失真D=1/3時(shí)的信息率失真函數(shù)R(D)及達(dá)到R(D)的實(shí)驗(yàn)信道例2D=1/3時(shí)習(xí)題：(P129-130)4.1、4.10、4.11三、N次擴(kuò)展信源的信息率失真函數(shù)1、N次擴(kuò)展信源的保真度準(zhǔn)則和實(shí)驗(yàn)信道失真度平均失真度如果給定允許失真ND保真度準(zhǔn)則實(shí)驗(yàn)信道2、N次擴(kuò)展信源的信息率失真函數(shù)四、單符號(hào)連續(xù)信源的信息率失真函數(shù)信源概率密度函數(shù)不變時(shí)，保真度準(zhǔn)則下平均互信息量的下確界，用R(D)表示定義信源固定時(shí)，與等效信源間的平均互信息量是數(shù)據(jù)處理信道轉(zhuǎn)移概率密度函數(shù)的嚴(yán)格下凸泛函，總能在實(shí)驗(yàn)信道中找到一種信道轉(zhuǎn)移概率密度函數(shù)，使實(shí)驗(yàn)信道中傳輸?shù)钠骄バ畔⒘吭诒Ｕ娑葴?zhǔn)則下達(dá)到最小表示1、信息率失真函數(shù)實(shí)驗(yàn)信道轉(zhuǎn)移概率密度函數(shù)的約束條件保真度準(zhǔn)則的約束條件信息率失真函數(shù)2、高斯信源的信息率失真函數(shù)