《信息論與編碼理論II》課程教學(xué)大綱

1、信息論與編碼理論II課程教學(xué)大綱一、課程基本信息課程代碼：12140520課程英文名稱：The Theory of Information and Coding課程面向?qū)I(yè)：電子信息科學(xué)與技術(shù)專業(yè)課程類型：必修課 先修課程：高等代數(shù)、概率論、信號與系統(tǒng)學(xué)分：2 總學(xué)時：40 二、課程性質(zhì)與目的當(dāng)前信息產(chǎn)業(yè)發(fā)展很快，需要大量從事信息類專業(yè)的人才，本課程正是這類專業(yè)的基礎(chǔ)課程。通過對本課程的學(xué)習(xí)，使學(xué)生能掌握有關(guān)信息論的基本理論以及編碼的理論和實現(xiàn)原理。本課程重點討論了信源的熵、熵的性質(zhì)和無失真信源編碼理論、限失真信源編碼理論以及各種常用的信源編碼方法，如香農(nóng)編碼、費諾編碼、哈夫曼編碼、游程編碼、

2、預(yù)測編碼等，討論了信道編碼理論以及各種常用的信道編碼方法，如線性分組碼、卷積碼、級聯(lián)碼等。本課程為以后開設(shè)的專業(yè)課程打下了堅實的基礎(chǔ)。同時，本課程也是學(xué)生進一步學(xué)習(xí)其他專業(yè)課程的必要的先修課。三、課程教學(xué)內(nèi)容與要求第一章緒論1、教學(xué)內(nèi)容與要求要求深刻理解與熟練掌握的重點內(nèi)容有：信息論的形成和發(fā)展，信息的概念，信息，信號，消息，數(shù)據(jù)的關(guān)系與聯(lián)系；通信系統(tǒng)的模型。要求一般理解與熟練掌握的內(nèi)容有：信息論綜述、信息的定義。2、教學(xué)難點對信息的理解。第二章信源熵1、教學(xué)內(nèi)容與要求要求深刻理解與熟練掌握的重點內(nèi)容有：信源的描述和分類，離散信源熵和互信息，連續(xù)信源熵和互信息，離散序列信源的熵，馬爾可夫信源及

3、其熵，冗余度，編碼的定義，碼的分類方法，要求一般理解與熟練掌握的內(nèi)容有：聯(lián)合熵和最大熵定理。2、教學(xué)難點對各種信源的熵的計算。第三章信道容量1、教學(xué)內(nèi)容與要求要求深刻理解與熟練掌握的重點內(nèi)容有：信道模型和信道容量，信道容量的定義和離散信道容量的計算方法，多符號離散信道，信道編碼定理，要求一般理解與熟練掌握的內(nèi)容有：多用戶信道，連續(xù)信道。2、教學(xué)難點信道容量的計算。第四章信息率失真函數(shù)1、教學(xué)內(nèi)容與要求要求深刻理解與熟練掌握的重點內(nèi)容有：平均失真度和信息率失真函數(shù)，R(D)的定義域和單調(diào)性等性質(zhì)，離散信源的信息率失真函數(shù)，限失真信源編碼定理。要求一般理解與熟練掌握的內(nèi)容有：連續(xù)信源的信息率失真函

4、數(shù)。2、教學(xué)難點信息率失真函數(shù)的定義、性質(zhì)及其表達(dá)式。第五章信源編碼1、教學(xué)內(nèi)容與要求要求深刻理解與熟練掌握的重點內(nèi)容有：最佳編碼方法：香農(nóng)編碼方法，費諾編碼方法，哈夫曼編碼方法。要求一般理解與熟練掌握的內(nèi)容有：冗余位編碼方法。2、教學(xué)難點各種編碼方法的實現(xiàn)。第六章信道編碼1、教學(xué)內(nèi)容與要求要求深刻理解與熟練掌握的重點內(nèi)容有：信道編碼的概念與分類，差錯控制與信道編譯碼的基本原理，線性分組碼，循環(huán)碼，卷積碼。要求一般理解與熟練掌握的內(nèi)容有：卷積碼的最大似然譯碼-維特比算法。2、教學(xué)難點卷積碼的性能限與距離特點，網(wǎng)格編碼調(diào)制。四、學(xué)時分配序號教學(xué)內(nèi)容學(xué)時課堂講授實驗課習(xí)題課討論課其它1第一章42第二章43第三章64第四章105第五章106第六章6小計40比例100%合計40五、教學(xué)環(huán)節(jié)與教學(xué)要求 本課程的教學(xué)環(huán)節(jié)包括課堂講授，學(xué)生自學(xué)，習(xí)題討論課，習(xí)題，答疑和期未考試。六、課程考核辦法 作業(yè)、實驗與期中考試：30，期終考試：70七、教材與主要參考書 教材：信息論與編碼理論陳運電子工業(yè)出版社2002 參考書：1、信息理論基礎(chǔ)周蔭清北京航空航天大學(xué)出版社19