第二章信息量化與編碼

第二章信息量化與編碼2.1引言（1）什么是信息量化與編碼量化：在數(shù)字信號處理領域，量化指將信號的連續(xù)取值（或者大量可能的離散取值）近似為有限多個（或較少的）離散值的過程。量化主要應用于從連續(xù)信號到數(shù)字信號的轉換中。連續(xù)信號經過采樣成為離散信號，離散信號經過量化即成為數(shù)字信號。編碼：編碼是信息從一種形式或格式轉換為另一種形式的過程也稱為計算機編程語言的代碼簡稱編碼。用預先規(guī)定的方法將文字、數(shù)字或其它對象編成數(shù)碼，或將信息、數(shù)據(jù)轉換成規(guī)定的電脈沖信號。（2）為什么要進行信息量化與編碼（3）信息量化與編碼要研究的主要問題從信息的角度來看，當信號由連續(xù)幅度轉換成離散幅度時，必然會有信息的損失，因此，信息量化屬于有失真編碼。不過，通過適當?shù)脑O計，我們可以將這種損失減至能接受的地步。從這種意義出發(fā)，信息量化與編碼要研究的問題便是如何進行有效的設計，使在一定條件下，編碼的失真達到最小。2.2標量量化（1）標量量化的定義：

標量量化可以視為將一段連續(xù)的實軸上的線映射成一個離散的點集，這個離散點集的大小是受限的，若記此離散點集為C={y1,y2,...yN},一般我們約定下標的排列是以y值的大小為序的，即

y1<y2<…<yN

記R表示連續(xù)實軸。當量化器為n點時，相當于將R劃分為N個區(qū)段Ri,Ri=(xi-1,xi],i=1,2,…,N,為半開半閉區(qū)間。顯然，區(qū)間的劃分是充分以及不相交的。記Q表示量化器，則Q的特性完全決定于對輸入信號的分段及輸出值決定。

(2)一個正規(guī)量化器還滿足如下的條件：

①：每個分段Ri都是一個連續(xù)的區(qū)間，可以是開的，或半開半閉的。

②：每個分段Ri對應的量化值yi位于Ri中，即yi∈Ri=（xi-1,xi）.

正規(guī)量化器的輸入分段邊界點xi及量化輸出點yi滿足已下序列關系：x0<y1<x1<y2<x2<…<yN<xN正規(guī)量化器典型量化曲線圖在一般情況下，輸入信號都是有界的，此時，最兩端的邊界點一般取為x0=min(x),xN=max(x),而量化器的量化范圍為B=xN-x1。對于輸入無界的情形，相當于x0=-∞,xN=+∞,量化器的量化范圍定義為B=xN-1-x1,即量化范圍為所有輸入分段之和的長度。從結構上看，量化器可分編碼器與解碼器兩個部分。編碼器完成輸入到數(shù)字的映射，即ε:R→I，I={1,2,…N},而解碼器則是實現(xiàn)由數(shù)字到電平的轉換,即D:I→C.若Q(x)=yi,則有ε(x)=i,D(i)=yi,亦即Q(x)=D(ε(x))。在通信系統(tǒng)中，編碼器只能傳送所選量化電平y(tǒng)i的下標i，而不是yi

本身。解碼器根據(jù)接收到的下標i,通過查表可得到相應的電平值。2.2.2標量量化器結構量化器的特性完全取決于輸入分段及輸出電平集合，編碼器實現(xiàn)的主要是輸入分段，而解碼器實現(xiàn)的則是輸出電平。也就是說，編碼器的主要功能是判定輸入信號位于哪一個信號分段之內，所以我們可以定義一個選擇函數(shù)Si(x)如下：實現(xiàn)選擇函數(shù)Si(x)的系統(tǒng)結構如圖所示

解碼器的實現(xiàn)直接通過下標i查表即可得到相應的量化電平y(tǒng)i。因此，我們可將量化器的特性表示成如下形式:量化器的基本結構圖2.2.3量化器性能測度1.均方誤差量化器的功能是將未知輸入值用有限精度的離散值來代替，因此不可避免的要引起失真，如何衡量這種失真便是本節(jié)要討論的問題。根據(jù)量化的結果，我們無法精確知道輸入值的大小，只能知道其位于某個范圍內。因此通常都假設輸入是一個隨機變量，概率密度函數(shù)已知，相應的每個輸入值的量化誤差也是一個隨機變量。量化器的性能指標應是描述所有輸入值量化誤差引起的總的失真效應。因此常用統(tǒng)計平均的方法來解決這類問題。最常用的的失真測度是平方誤差，定義為更為一般的是乘冪誤差，定義為

其中m=1時即為絕對誤差，m=2時為平方誤差，這兩種情形應用得最為普遍。

設輸入隨機過程X的概率密度為fX(x),則輸入量化誤差的期望值為此公式所示的D是一種最常用的性能測度。而其中又以誤差測度為平方誤差時最為普遍，此時的性能測度又稱為均方誤差，可寫為：2性噪比

性噪比是另一個常用的性能測度，定義為其中，D為均方誤差。SNR的單位為分貝（db）2.2.4均勻量化器最常用的標量量化器是均勻量化器，大多數(shù)的模擬/數(shù)字轉換器就屬于此類。所謂均勻量化器，是一個正規(guī)量化器，并且滿足：（1）各個分段是等長的；（2）每個分段的中點即為相應的量化輸出。

換言之，對于均勻量化器，我們有當然，輸入信號的左右邊界可能是無限的，對于區(qū)間(-∞，y1],我們有y1=x1-△/2,對區(qū)間[yN,+∞)，有yN=xN-1

+

△/2。

下面我們分析均勻量化器的均勻失真

考慮輸入為有界的情形，不妨設位于區(qū)間（a,b）之內，變化范圍為B=b-a。左右兩邊的邊界點分別為：x0=a,xN=b。假定將區(qū)間分為N等分，每個子區(qū)間為△=B/N,也就是量化器有N級輸出，每級之間相距△。

量化誤差ε=Q(X)-X,所以在均勻量化時，最大的可能量化誤差為△/2，即B/2N。所以均勻量化誤差是一種使最大量化誤差達到最小的量化方式。這一特點使得均勻量化在很廣泛的一類輸入信號下，都能保持較好的量化性能。這正是模擬/數(shù)字轉換器大多采用均勻量化方式的原因。

當輸入信號亦為均勻分布時，量化誤差ε的均值總的失真為在實際情況中，輸入信號大多不是有界的，此時，我們可將左右兩端的區(qū)間（-∞，x1],(XN-1,+∞]單獨取出來考慮。其余的區(qū)間與上述有界信號輸入時是一樣的。不過在無界輸入的情況下，最大量化誤差也必定是無限的，因此沒有什么意義。主要的性能測度是平均量化誤差，由于多數(shù)輸入信號的分布主要集中于某一個區(qū)間，輸入信號位于左右兩端的區(qū)間的機會很小，因此上述對有限輸入信號的結論依然是近似成立的，特別是當量化層數(shù)N很大時。2.2.5非均勻量化器一.壓擴模型

均勻量化器有一個缺點，即當輸入信號變化范圍大時，量化器量化層數(shù)也必須相應變大，以保持一定的性能。而由于在許多實際場合，輸入信號并不是均勻分布的，且取大值的概率相對小一些，所以，從統(tǒng)計的觀點來看，均勻量化器這種大小信號一視同仁均勻量化的方法不太合理。因此產生了非均勻量化的概念。從直觀上看，當輸入信號不是均勻分布時，就應該用非均勻量化器。非均勻量化器可用均勻量化器的壓擴模型表示，如圖由圖可見，輸入信號x首先經過單調非線性變換G，變成G(x),然后對G(x)進行均勻量化，最后再經非線性變換G的逆變換G-1,得到最后的非均勻量化輸出。其中，G通常是一個壓縮變換，因為大多數(shù)信號的分布都是集中在某一區(qū)域內的，對應的，G-1

為一個擴張變換。結論2.1（壓擴模型的通用性）對任何有限正規(guī)的量化器，都存在著如圖2-2-6所示的壓擴模型，其中壓擴變換G及擴張變換G-1

與輸入信號的概率分布有關。證明：設輸入信號分段邊界點為{x1,x2,…,XN-1},(x0,xN可以是無窮大，不考慮)，輸出值為{y1,y2,...yN}。我們按以下方式構造壓擴模型。首先定義兩個集合：P={(yi,i△+k),i=1,2,…,N}Q=={(xi,i△+△/2+

k),i=1,2,…,N-1}P中包含平面上N個點，這N個點橫坐標是yi，而縱坐標則是一系列以△為間隔的等間距點。Q的情況類似。將P及Q兩個集合代表的平面重疊在一起，則可得到平面上一個新的點集，其中，縱坐標仍是以△為間隔的等間距點，而橫坐標則是xi,yi

交錯（因為是正規(guī)量化器）。將相鄰區(qū)間邊界點對應的平面上的點以線段相連，即可構成一個分段直線的單調增曲線G(x),滿足適當選取k值，可使得G(0)=0。這在實用中是常常需要的。從而構造了所需的壓縮函數(shù)G。從上述結論也可由圖2-2-7來直觀說明。

當量化層數(shù)很大時，即△i=

xi-xi-1

很小時，我們近似可得：

此式意味著壓縮特性曲線的斜率決定了量化器的局部階距的取法。二.對數(shù)壓擴

在眾多的壓擴器中，用得最多是對數(shù)壓擴器。采用此類壓擴器的原因是實際中，大多數(shù)信號都集中在較小的幅值附近，幅值大的機會相對小很多，因此，為保證平均的性噪比大，應對小的信號取小的量化階距，而對大的信號取大的量化階距，即保持信號幅值與量化階距為一常數(shù)，而不是像均勻量化器中保持量化階距為常數(shù)。根據(jù)之前的式子，可知G’(x)應與x的倒數(shù)成正比，也就是G(x)是對數(shù)型曲線。

不過，嚴格的對數(shù)曲線在實現(xiàn)上是有問題的，表現(xiàn)為當x→0時，G(x)→∞。為此，人們常常采用修正的對數(shù)壓擴器，如在語音信號編碼中，常用的就有u律及A律曲線，分別定義為：

其中V值是用于控制最大量化電平，而u及A值則是用來控制壓縮特性的陡峭程度，也就是最大量化階距與最小量化階距之比。對于大的u及A值，可以增加信號的動態(tài)范圍，但另一方面也將減少大信號的量化性噪比。因此u及A值應綜合考慮多種因素，實際中用的較多的是u=255及A=87.6。三.分段線性壓擴

從數(shù)學的角度看，連續(xù)可導的壓擴特性固然便于分析，但在具體實現(xiàn)中，卻不易做到低成本高精度。因此，實際中，是采用分段線性壓擴器來逼近連續(xù)可導的非線性壓擴特性。分段線性壓擴器是指量化器在量化范圍內分為許多小段，每一小段相當于一個均勻量化器，但不同小段之間量化的階距不同。

稍作修改，即可將均勻量化的平均失真結果用到分段均勻量化器中。設輸入的概率分布是均勻分布，記△i

表示第i段均勻量化的量化階距，共有M段，則容易推出分段均勻量化器的平均失真為

其中qi

為信號位于第i段上的概率。四.漸進量化特性

所謂漸進量化特性，是指當量化層數(shù)非常大時量化器的性能。非均勻量化器的平均失真為：其中，當輸入無界時，x0=-∞，xN=+∞.從理論上說，上式是一個精確的結果，然后它并不是很適合于數(shù)值計算，特別是當N很大時。為了得到更加有效的計算公式，我們采用近似方法來計算式中的積分。當N很大時，也就是△i=

xi-xi-1

很小，因此

另一方面，我們有：所以從而得到平均失真的近似計算式為

當N很大時，每個最小量化區(qū)間Ri可近似認為是一個均勻量化過程，由前面關于均勻量化器的性能分析，我們可得：

2.2.6最佳量化所謂最佳量化，是指給定量化層數(shù)N時，使平均量化誤差達到最小的量化。在一般情況下，這個問題并沒有顯式的理論解，但可以由數(shù)值解有效的實現(xiàn)。量化器的結構可分為編碼器跟解碼器，在尋找最佳量化器時，我們常常將問題簡化，如假定其中一部分是固定的，而另一部分則是可變的。下面我們首先從兩個方面分析問題，即在給定編碼器條件下尋找最佳解碼器，以及在給定解碼器條件下尋找最佳編碼器。然后分析一般情況下的最佳量化問題。最佳的原則是使均方誤差最小。一.給定解碼器時的最佳編碼器

這個問題相當于在給定解碼器時，尋找對量化輸入信號的最佳分段，所謂解碼器給定，即相當于輸出電平集合C={y1,y2,...yN}已知。從直觀上看，對于輸入信號x，量化輸出滿足以下條件顯然最佳：換言之，應該有事實上，此時的量化器的平均量化輸出也的確達到最小，因為很顯然當輸入xi位于yi-1

與yi之間時，應選擇與x較近的y作為量化輸出。所以對輸入信號的分段邊界點應位于yi-1與yi的中點，即xi=(yi-1+yi)/2二.給定編碼器時的最佳解碼器

給定編碼器

，即意味著輸入信號的分段邊界點已知。尋找最佳解碼器即求對位于分段Ri內信號的量化輸出。

因為平均量化失真為：

令即可得：此式意味著量化輸出應為信號在Ri內的重心位置處。三.一般情況下的最佳量化

所謂一般情況下，即僅知道量化層數(shù)N及輸入信號的概率分布函數(shù)fX(x)。量化分段邊界點及量化輸出均未知。

仍從量化器的平均量化出發(fā)，令得到

令可得所以，此時的最佳量化條件是將我們前述分別討論的結果合在一起。不過，由于xi,yi均未知，所以對于簡單的fX(x),由上面兩式不易得出顯式的xi,yi表達式。

對于有界的服從（a,b）間均勻分布的輸入信號，下式等價于

由上式及式，我們可解得對于更加一般的fX(x),我們只能采用數(shù)值解法尋找最佳量化分段及量化電平。在最佳量化器的數(shù)值設計方法中，最著名的當數(shù)Lloyd算法，下面我們簡要介紹Lloyd算法。Lloyd算法是一個迭代尋優(yōu)的過程。其主要思想，首先給出初始的量化電平，然后定出符合最佳量化條件的分段邊界點，之后又根據(jù)此分段邊界點，定出最佳量化條件下的量化電平，如此循環(huán)迭代，直至每次迭代的平均量化誤差改變量很小為止。Lloyd

算法的主要步驟如下：

（1）初始量化電平，Cm={yi}

,此時m=1。再由式xi=(yi-1+yi)/2計算量化分段邊界點，并計算此時量化器的平均量化誤差Dm。

（2）由