小波變換_完美通俗解讀.doc

小波變換完美通俗解讀這是小波變換和motion信號處理系列的第一篇，基礎(chǔ)普及。第二篇我準備寫深入小波的東西，第三篇講解應(yīng)用。記得我還在大四的時候，在申請出國和保研中猶豫了好一陣，骨子里的保守最后讓我選擇了先保研。當然后來也退學(xué)了，不過這是后話。當時保研就要找老 板，實驗室，自己運氣還不錯，進了一個在本校很牛逼的實驗室干活路。我們實驗室主要是搞圖像的，實力在全國也是很強的，進去后和師兄師姐聊，大家都在搞什 么小波變換，H264之類的。當時的我心思都不在這方面，盡搞什么操作系統(tǒng)移植，ARM+FPGA這些東西了。對小波變換的認識也就停留在神秘的“圖像視 頻壓縮算法之王”上面。后來我才發(fā)現(xiàn)，在別的很廣泛的領(lǐng)域中，小波也逐漸開始流行。比如話說很早以前，我們接觸的信號頻域處理基本都是傅立葉和拉普拉斯的天下。但這些年， 小波在信號分析中的逐漸興盛和普及。這讓人不得不感到好奇，是什么特性讓它在圖象壓縮，信號處理這些關(guān)鍵應(yīng)用中更得到信賴呢？說實話，我還在國內(nèi)的時候， 就開始好奇這個問題了，于是放狗搜，放毒搜，找遍了中文講小波變換的科普文章，發(fā)現(xiàn)沒幾個講得清楚的，當時好奇心沒那么重，也不是搞這個研究的，懶得找英 文大部頭論文了，于是作罷。后來來了這邊，有些項目要用信號處理，不得已接觸到一些小波變換的東西，才開始硬著頭皮看?？戳艘恍┎牧?，聽了一些課，才發(fā) 現(xiàn)，還是那個老生常談的論調(diào)：國外的技術(shù)資料和國內(nèi)真TNND不是一個檔次的。同樣的事情，別人說得很清楚，連我這種并不聰明的人也看得懂; 國內(nèi)的材料則繞來繞去講得一塌糊涂，除了少數(shù)天才沒幾個人能在短時間掌握的。牢騷就不繼續(xù)發(fā)揮了。在這個系列文章里，我希望能簡單介紹一下小波變換，它和傅立葉變換的比較，以及它在移動平臺做motion detection的應(yīng)用。如果不做特殊說明，均以離散小波為例子?？紤]到我以前看中文資料的痛苦程度，我會盡量用簡單，但是直觀的方式去介紹。有些必要 的公式是不能少的，但我盡量少用公式，多用圖。另外，我不是一個好的翻譯者，所以對于某些實在翻譯不清楚的術(shù)語，我就會直接用英語。我并不claim我會 把整個小波變換講清楚，這是不可能的事，我只能盡力去圍繞要點展開，比如小波變換相對傅立葉變換的好處，這些好處的原因是什么，小波變換的幾個根本性質(zhì)是 什么，背后的推導(dǎo)是什么。我希望達到的目的就是一個小波變換的初學(xué)者在看完這個系列之后，就能用matlab或者別的工具對信號做小波變換的基本分析并且 知道這個分析大概是怎么回事。最后說明，我不是研究信號處理的專業(yè)人士，所以文中必有疏漏或者錯誤，如發(fā)現(xiàn)還請不吝賜教。要講小波變換，我們必須了解傅立葉變換。要了解傅立葉變換，我們先要弄清楚什么是”變換“。很多處理，不管是壓縮也好，濾波也好，圖形處理也好，本 質(zhì)都是變換。變換的是什么東西呢？是基，也就是basis。如果你暫時有些遺忘了basis的定義，那么簡單說，在線性代數(shù)里，basis是指空間里一系 列線性獨立的向量，而這個空間里的任何其他向量，都可以由這些個向量的線性組合來表示。那basis在變換里面啥用呢？比如說吧，傅立葉展開的本質(zhì)，就是 把一個空間中的信號用該空間的某個basis的線性組合表示出來，要這樣表示的原因，是因為傅立葉變換的本質(zhì)，是。小波變換自然也不例外的和basis有 關(guān)了。再比如你用Photoshop去處理圖像，里面的圖像拉伸，反轉(zhuǎn)，等等一系列操作，都是和basis的改變有關(guān)。既然這些變換都是在搞基，那我們自然就容易想到，這個basis的選取非常重要，因為basis的特點決定了具體的計算過程。一個空間中可能有很多 種形式的basis，什么樣的basis比較好，很大程度上取決于這個basis服務(wù)于什么應(yīng)用。比如如果我們希望選取有利于壓縮的話，那么就希望這個 basis能用其中很少的向量來最大程度地表示信號，這樣即使把別的向量給砍了，信號也不會損失很多。而如果是圖形處理中常見的線性變換，最省計算量的完 美basis就是eigenvector basis了，因為此時變換矩陣T對它們的作用等同于對角矩陣( Tv_n = av_n，a是eigenvalue )?？偟膩碚f，拋開具體的應(yīng)用不談，所有的basis，我們都希望它們有一個共同的特點，那就是，容易計算，用最簡單的方式呈現(xiàn)最多的信號特性。好，現(xiàn)在我們對變換有了基本的認識，知道他們其實就是在搞基。當然，搞基也是分形式的，不同的變換，搞基的妙處各有不同。接下來先看看，傅立葉變換是在干嘛。傅立葉級數(shù)最早是Joseph Fourier 這個人提出的，他發(fā)現(xiàn)，這個basis不僅僅存在與vector space，還存在于function space。這個function space本質(zhì)上還是一個linear vector space，可以是有限的，可以是無限的，只不過在這個空間里，vector就是function了，而對應(yīng)的標量就是實數(shù)或者復(fù)數(shù)。在vector space里，你有vector v可以寫成vector basis的線性組合，那在function space里，function f(x)也可以寫成對應(yīng)function basis的線性組合，也有norm。你的vector basis可以是正交的，我的function basis也可以是正交的（比如sin(t)和sin(2t)）。唯一不同的是，我的function basis是無窮盡的，因為我的function space的維度是無窮的。好，具體來說，那就是現(xiàn)在我們有一個函數(shù)，f(x)。我們希望將它寫成一些cos函數(shù)和一些sin函數(shù)的形式，像這樣again，這是一個無限循環(huán)的函數(shù)。其中的1，cosx, sinx, cos2x .這些，就是傅立葉級數(shù)。傅立葉級數(shù)應(yīng)用如此廣泛的主要原因之一，就是它們這幫子function basis是正交的，這就是有趣的地方了。為什么function basis正交如此重要呢？我們說兩個vector正交，那就是他倆的內(nèi)積為0。那對于function basis呢？function basis怎么求內(nèi)積呢？現(xiàn)在先復(fù)習(xí)一下vector正交的定義。我們說兩個vector v,w如果正交的話，應(yīng)符合：那什么是function正交呢？假設(shè)我們有兩個函數(shù)f(x)和g(x)，那是什么？我們遵循vector的思路去想，兩個vector求內(nèi)積，就 是把他們相同位置上對應(yīng)的點的乘積做一個累加。那移過來，就是對每一個x點，對應(yīng)的f和g做乘積，再累加。不過問題是，f和g都是無限函數(shù)阿，x又是一個 連續(xù)的值。怎么辦呢？向量是離散的，所以累加，函數(shù)是連續(xù)的，那就是.積分！我們知道函數(shù)內(nèi)積是這樣算的了，自然也就容易證明，按照這個形式去寫的傅立葉展開，這些級數(shù)確實都是兩兩正交的。證明過程這里就不展開了。好，下一 個問題就是，為什么它們是正交basis如此重要呢？這就牽涉到系數(shù)的求解了。我們研究了函數(shù)f，研究了級數(shù)，一堆三角函數(shù)和常數(shù)1，那系數(shù)呢？a0, a1, a2這些系數(shù)該怎么確定呢？好，比如我這里準備求a1了。我現(xiàn)在知道什么？信號f(x)是已知的，傅立葉級數(shù)是已知的，我們怎么求a1呢？很簡單，把方程 兩端的所有部分都求和cosx的內(nèi)積，即：然后我們發(fā)現(xiàn)，因為正交的性質(zhì)，右邊所有非a1項全部消失了，因為他們和cosx的內(nèi)積都是0！所有就簡化為這樣，a1就求解出來了。到這里，你就看出正交的奇妙性了吧:)好，現(xiàn)在我們知道，傅立葉變換就是用一系列三角波來表示信號方程的展開，這個信號可以是連續(xù)的，可以是離散的。傅立葉所用的function basis是專門挑選的，是正交的，是利于計算coefficients的。但千萬別誤解為展開變換所用的basis都是正交的，這完全取決于具體的使用 需求，比如泰勒展開的basis就只是簡單的非正交多項式。有了傅立葉變換的基礎(chǔ)，接下來，我們就看看什么是小波變換。首先來說說什么是小波。所謂波，就是在時間域或者空間域的震蕩方程，比如正弦波，就是一 種波。什么是波分析？針對波的分析拉（囧）。并不是說小波分析才屬于波分析，傅立葉分析也是波分析，因為正弦波也是一種波嘛。那什么是小波呢？這個”小 “，是針對傅立葉波而言的。傅立葉所用的波是什么？正弦波，這玩意以有著無窮的能量，同樣的幅度在整個無窮大區(qū)間里面振蕩，像下面這樣：那小波是什么呢？是一種能量在時域非常集中的波。它的能量是有限的，而且集中在某一點附近。比如下面這樣：這種小波有什么好處呢？它對于分析瞬時時變信號非常有用。它有效的從信號中提取信息，通過伸縮和平移等運算功能對函數(shù)或信號進行多尺度細化分析，解 決了傅立葉變換不能解決的許多困難問題。恩，以上就是通常情況下你能在國內(nèi)網(wǎng)站上搜到的小波變換文章告訴你的。但為什么呢？這是我希望在這個系列文章中講 清楚的。不過在這篇文章里，我先點到為止，把小波變換的重要特性以及優(yōu)點cover了，在下一篇文章中再具體推導(dǎo)這些特性。小波變換的本質(zhì)和傅立葉變換類似，也是用精心挑選的basis來表示信號方程。每個小波變換都會有一個mother wavelet，我們稱之為母小波，同時還有一個scaling function，中文是尺度函數(shù)，也被成為父小波。任何小波變換的basis函數(shù)，其實就是對這個母小波和父小波縮放和平移后的集合。下面這附圖就是某 種小波的示意圖：從這里看出，這里的縮放倍數(shù)都是2的級數(shù)，平移的大小和當前其縮放的程度有關(guān)。這樣的好處是，小波的basis函數(shù)既有高頻又有低頻，同時還覆蓋了時域。對于這點，我們會在之后詳細闡述。小波展開的形式通常都是這樣（注意，這個只是近似表達，嚴謹?shù)恼归_形式請參考第二篇）：（可以理解k為上圖縱坐標的1,2,3.j為上圖中的橫坐標1,2,3，8）其中的就是小波級數(shù)，這些級數(shù)的組合就形成了小波變換中的基basis。和傅立葉級數(shù)有一點不同的是，小波級數(shù)通常是orthonormal basis，也就是說，它們不僅兩兩正交，還歸一化了。小波級數(shù)通常有很多種，但是都符合下面這些特性：1. 小波變換對不管是一維還是高維的大部分信號都能cover很好。這個和傅立葉級數(shù)有很大區(qū)別。后者最擅長的是把一維的，類三角波連續(xù)變量函數(shù)信號映射到一維系數(shù)序列上，但對于突變信號或任何高維的非三角波信號則幾乎無能為力。2. 圍繞小波級數(shù)的展開能夠在時域和頻域上同時定位信號，也就是說，信號的大部分能量都能由非常少的展開系數(shù)，比如a_j,k，決定。這個特性是得益于小波變換是二維變換。我們從兩者展開的表達式就可以看出來，傅立葉級數(shù)是，而小波級數(shù)是。3. 從信號算出展開系數(shù)a需要很方便。普遍情況下，小波變換的復(fù)雜度是O(Nlog(N)，和FFT相當。有不少很快的變換甚至可以達到O(N)，也就是 說，計算復(fù)雜度和信號長度是線性的關(guān)系。小波變換的等式定義，可以沒有積分，沒有微分，僅僅是乘法和加法即可以做到，和現(xiàn)代計算機的計算指令完全 match。可能看到這里，你會有點暈了。這些特性是怎么來的？為什么需要有這些特性？具體到實踐中，它們到底是怎么給小波變換帶來比別人更強的好處的？計算簡 單這個可能好理解，因為前面我們已經(jīng)講過正交特性了。那么二維變換呢？頻域和時域定位是如何進行的呢？恩，我完全理解你的感受，因為當初我看別的文章，也 是有這些問題，就是看不到答案。要說想完全理解小波變換的這些本質(zhì)，需要詳細的講解，所以我就把它放到下一篇了。接下來，上幾張圖，我們以一些基本的信號處理來呈現(xiàn)小波變換比傅立葉變換好的地方，我保證，你看了這個比較之后，大概能隱約感受到小波變換的強大，并對背后的原理充滿期待:)假設(shè)我們現(xiàn)在有這么一個信號：看到了吧，這個信號就是一個直流信號。我們用傅立葉將其展開，會發(fā)現(xiàn)形式非常簡單：只有一個級數(shù)系數(shù)不是0，其他所有級數(shù)系數(shù)都是0。好，我們再看接下來這個信號：簡單說，就是在前一個直流信號上，增加了一個突變。其實這個突變，在時域中看來很簡單，前面還是很平滑的直流，后面也是很平滑的直流，就是中間有一 個階躍嘛。但是，如果我們再次讓其傅立葉展開呢？所有的傅立葉級數(shù)都為非0了！為什么？因為傅立葉必須用三角波來展開信號，對于這種變換突然而劇烈的信號 來講，即使只有一小段變換，傅立葉也不得不用大量的三角波去擬合，就像這樣：看看上面這個圖。學(xué)過基本的信號知識的朋友估計都能想到，這不就是Gibbs現(xiàn)象么？Exactly。用比較八股的說法來解釋，Gibbs現(xiàn)象是由 于展開式在間斷點鄰域不能均勻收斂所引起的，即使在N趨于無窮大時，這一現(xiàn)象也依然存在。其實通俗一點解釋，就是當變化太sharp的時候，三角波fit 不過來了，就湊合出Gibbs了:)接下來我們來看看，如果用剛才舉例中的那種小波，展開之后是這樣的：看見了么？只要小波basis不和這個信號變化重疊，它所對應(yīng)的級數(shù)系數(shù)都為0！也就是說，假如我們就用這個三級小波對此信號展開，那么只有3個級 數(shù)系數(shù)不為0 。你可以使用更復(fù)雜的小波，不管什么小波，大部分級數(shù)系數(shù)都會是0。原因？由于小波basis的特殊性，任何小波和常量函數(shù)的內(nèi)積都趨近于0。換句話說， 選小波的時候，就需要保證母小波在一個周期的積分趨近于0。正是這個有趣的性質(zhì)，讓小波變換的計算以及對信號的詮釋比傅立葉變換更勝一籌！原因在于，小波 變換允許更加精確的局部描述以及信號特征的分離。一個傅立葉系數(shù)通常表示某個貫穿整個時間域的信號分量，因此，即使是臨時的信號，其特征也被強扯到了整個 時間周期去描述。而小波展開的系數(shù)則代表了對應(yīng)分量它當下的自己，因此非常容易詮釋。小波變換的優(yōu)勢不僅僅在這里。事實上，對于傅立葉變換以及大部分的信號變換系統(tǒng)，他們的函數(shù)基都是固定的，那么變換后的結(jié)果只能按部就班被分析推導(dǎo) 出來，沒有任何靈活性，比如你如果決定使用傅立葉變換了，那basis function就是正弦波，你不管怎么scale，它都是正弦波，即使你舉出余弦波，它還是移相后的正弦波。總之你就只能用正弦波，沒有任何商量的余 地。而對于小波變換來講，基是變的，是可以根據(jù)信號來推導(dǎo)或者構(gòu)建出來的，只要符合小波變換的性質(zhì)和特點即可。也就是說，如果你有著比較特殊的信號需要處 理，你甚至可以構(gòu)建一個專門針對這種特殊信號的小波basis function集合對其進行分析。這種靈活性是任何別的變換都無法比擬的?？偨Y(jié)來說，傅立葉變換適合周期性的，統(tǒng)計特性不隨時間變化的信號; 而小波變換則適用于大部分信號，尤其是瞬時信號。它針對絕大部分信號的壓縮，去噪，檢測效果都特別好。看到這里，你應(yīng)該大概了解了小波變換針對傅立葉變換的優(yōu)點了。你也許對背后的原因還存在一些疑問，并希望深入了解一些小波的構(gòu)建等知識，請移步本系列第二篇：傅立葉變換，小波變換和motion信號處理（二）/2011/02/15/fourier-wavelet-motion-signal-1/這是小波變換和motion信號處理系列的第二篇，深入小波。第一篇我進行了基礎(chǔ)知識的鋪墊，第三篇主要講解應(yīng)用。在上一篇中講到，每個小波變換都會有一個mother wavelet，我們稱之為母小波，同時還有一個father wavelet，就是scaling function。而該小波的basis函數(shù)其實就是對這個母小波和父小波縮放和平移形成的?？s放倍數(shù)都是2的級數(shù)，平移的大小和當前其縮放的程度有關(guān)。還講到，小波系統(tǒng)有很多種，不同的母小波，衍生的小波基就完全不同。小波展開的近似形式是這樣：其中的就是小波級數(shù)，這些級數(shù)的組合就形成了小波變換中的基basis。和傅立葉級數(shù)有一點不同的是，小波級數(shù)通常是orthonormal basis，也就是說，它們不僅兩兩正交，還歸一化了。我們還講了一般小波變換的三個特點，就是小波級數(shù)是二維的，能定位時域和頻域，計算很快。但我們并沒有深入講解，比如，如何理解這個二維？它是如何同時定位頻域和時域的？在這一篇文章里，我們就來討論一下這些特性背后的原理。首先，我們一直都在講小波展開的近似形式。那什么是完整形式呢？之前講到，小波basis的形成，是基于基本的小波函數(shù)，也就是母小波來做縮放和平移的。但是，母小波并非唯一的原始基。在構(gòu)建小波基函數(shù)集合的時候，通常還要用到一個函數(shù)叫尺度函數(shù)，scaling function，人們通常都稱其為父小波。它和母小波一樣，也是歸一化了，而且它還需要滿足一個性質(zhì)，就是它和對自己本身周期平移的函數(shù)兩兩正交：另外，為了方便處理，父小波和母小波也需要是正交的?？梢哉f，完整的小波展開就是由母小波和父小波共同定義的。其中是母小波，是父小波。需要提醒一點的是，這個正交純粹是為了小波分析的方便而引入的特性，并不是說小波變換的基就一定必須是正交的。但大部分小波變換的基確實是正交的，所以本文就直接默認正交為小波變換的主要性質(zhì)之一了。引入這個父小波呢，主要是為了方便做多解析度分析（multiresolution analysis, MRA）。說到這里，你的問題可能會井噴了：好好的為什么出來一個父小波呢？這個scaling function是拿來干嘛的？它背后的物理意義是什么？wavelet function背后的物理意義又是什么？這個多解析度分析又是什么呢？不急，下面，我們圍繞一個例子來鞏固一下前面的知識，同時再引出新的特性。假設(shè)我們有這樣一個信號：該信號長度為8，是離散的一維信號。我們要考慮的，就是如何用小波將其展開。為了方便講解，我們考慮最簡單的一種小波，哈爾小波。下面是它的一種母小波：那如何構(gòu)建基于這個母小波的基呢？剛才提到了，要縮放，要平移。我們先試試縮放，那就是(2n)：但這樣的話，它與自己的內(nèi)積就不是1了，不符合小波基orthonormal的要求，所以我們要在前面加一個系數(shù)根號二，這樣我們就得到了另一個哈爾小波的basis function：同理，我們可以一直這樣推廣下去做scale，得到4n，8n，.下的basis function。當然在這個例子里，我們信號長度就是8，所以做到4n就夠了。但推廣來說，就是這種scaling對母小波的作用為，這是歸一化后的表示形式。平移的話也很簡單，我們可以對母小波進行平移，也可以對scale之后的basis function進行平移。比如對上一幅圖中的basis function進行平移，就成了看得出來，平移后的basis function和母小波以及僅僅scale過的小波，都是正交的，附合小波basis的特點。如果我們用(n)來表示這個mother wavelet，那么這些orthonormal basis函數(shù)可以寫成：這里的k是可以看成時域的參數(shù)，因為它控制著小波基時域的轉(zhuǎn)移，而j是頻域的參數(shù)，因為它決定了小波基的頻率特性?？吹竭@里，你應(yīng)該會感覺很熟悉，因為這里的平移和變換本質(zhì)和剛才對scaling function的平移變換是一模一樣的。這樣，我們就有了針對此信號space的哈爾小波basis組合：圖1可以看出，我們用到了三層頻率尺度的小波函數(shù)，每往下一層，小波的數(shù)量都是上面一層的兩倍。在圖中，每一個小波基函數(shù)的表達形式都寫在了波形的下面。等等，你可能已經(jīng)發(fā)現(xiàn)了，有問題。這里為什么多了個沒有函數(shù)表達式的波形呢？這貨明顯不是wavelet function阿。沒錯，它是之前提到的scaling function，也就是父小波。然后你可能就會問，為啥這個憑空插了一個scaling function出來呢？明明目標信號已經(jīng)可以用純的小波基組合表示了。是，確實是，就算不包括scaling function，這些小波函數(shù)本身也組成了正交歸一基，但如果僅限于此的話，小波變換也就沒那么神奇的功效了。引入這個scaling function，才能引入我們提到的多解析度分析的理論，而小波變換的強大，就體現(xiàn)在這個多解析度上。那在這里，我們怎么用這個多解析度呢？這個哈爾小波basis組合是怎么通過多解析度推導(dǎo)出來的呢？話說在數(shù)學(xué)定義中，有一種空間叫Lebesgue空間，對于信號處理非常重要，可以用Lp(R)表示，指的是由p次可積函數(shù)所組成的函數(shù)空間。我們在小波變換中要研究的信號都是屬于L2(R)空間的，這個空間是R上的所有處處平方可積的可測函數(shù)的集合，這樣就等于對信號提出了一個限制，就是信號能量必須是有限的，否則它就不可積了。小波變換的定義都是基于但不限于L2(R)中的信號的。這玩意的特性要具體解釋起來太數(shù)學(xué)了，牽涉到太多泛函知識，我就不在這里詳述了。而且老實說我也沒能力完全講清楚，畢竟不是學(xué)這個的，有興趣可以參考wiki。總之你記住，小波變換研究中所使用的信號基本都是平方可積的信號，但其應(yīng)用不限于這種信號，就行了。對L2(R)空間做MRA是在干嘛呢？就是說，在L2(R)空間中，我們可以找出一個嵌套的空間序列，并有下列性質(zhì)：(i)(ii)(iii)(iv)(v) 有這樣一個方程, 是的orthonormalbasis。我來簡單解釋一下這些性質(zhì)。這個V_j都是L2(R)空間中的子空間，然后他們是由小到大的，交集是0，因為這是最小的子空間，并集就是L空間。是不是有點難以理解？沒關(guān)系，看看下面這個圖就清楚了：這個圖是圈圈套圈圈，最里面的圈是V0，之后分別是V1，V2，V3，V4 。那他們有趣的性質(zhì)就是，假如有一個函數(shù)f(t)他屬于一個某空間，那你將其在時域上平移，它還是屬于這個空間。但如果你對它頻域的放大或縮小，它就會相應(yīng)移到下一個或者上一個空間了。同時我們還知道，你要形容每一個空間的話，都需要有對應(yīng)的orthonormal basis，這是必然的，那對于V0來講，它的orthonormal basis就是這一系列函數(shù)是什么呢？是的時域變換，而且我們剛才也說了，時域上平移，是不會跳出這個空間的。這樣，我們就可以說，由這一系列basis所定義的L2(R)子空間V0被這些basis所span，表示成：k從負無窮到正無窮。上面的bar表示這是一個閉包空間，也就是說這樣，我們就定義了基本的V0這個子空間。剛才說了，這個子空間的基都是對的整數(shù)時域變換，這里我們稱為scaling function，所以換個說法，就是說這里整個子空間V0，由scaling function和其時域變換的兄弟們span。當然，如果這個scaling function只是用來代表一個子空間的，那它的地位也就不會這么重要了。剛才我們提到，這個嵌套空間序列有一個性質(zhì)，。這就是這個函數(shù)，如果你對它頻域的放大或縮小，它就會相應(yīng)移到下一個或者上一個空間了。這個性質(zhì)就有意思了，它代表什么呢？對于任何一個包含V0的更上一層的空間來講，他們的基都可以通過對scaling function做頻域的scale后再做時域上的整數(shù)變換得到！推廣開來就是說，當我們有這也就意味著，對于任何屬于V_j空間的函數(shù)f(t)，都可以表示為：到這里，我們就明白這些個子空間和那個憑空冒出來的scaling function的作用了。scaling的構(gòu)建這些不同的子空間的基礎(chǔ)，當j越大的時候，每一次你對頻率變換后的scaling function所做的時域上的整數(shù)平移幅度會越小，這樣在這個j子空間里面得到的f(t)表示粒度會很細，細節(jié)展現(xiàn)很多。反之亦然。通俗點說，就是對scaling function的變換平移給你不同的子空間，而不同的子空間給你不同的分辨率，這樣你就可以用不同的分辨率去看目標信號。下面就是時候看看什么是MRA equation了，這是更加有趣，也是更加核心的地方。通過剛才的講解，V0屬于V1，那scaling function是在V0中的，自然也在V1中了。我們把他寫成V1的基的線性組合，那就是其中的h(n)是scaling function的系數(shù)，也叫做scaling filter或者scaling vector，可以是實數(shù)，也可以是虛數(shù)。根號2是為了維持norm為1的。看，在這個公式里，我們就把屬于V0的函數(shù)用V1的基表示出來了。同理，我們可以循環(huán)如此，把屬于V0的在V2, V3, , Vn中表示出來。這些方程就是MRA equation，也叫refinement equation，它是scaling function理論的基礎(chǔ)，也是小波分析的基礎(chǔ)之一。好，稍微總結(jié)一下。到現(xiàn)在，已經(jīng)講了關(guān)于scaling function的基本理論知識，知道了信號空間可以分為不同精細度的子空間，這些子空間的basis集合就是scaling function或者頻率變換之后的scaling function，如下圖所示：上圖就是四個子空間的basis集合的展覽。通過前面的討論，我們還知道，一開始的scaling function可以通過更精細的子空間的scaling function（它們都是對應(yīng)子空間的basis）來構(gòu)建。比如對于更加finer的scale：圖2依此類推。實際上，對于任何scale和translate過的scaling function，都可以用更加精細的scale層面上的scaling function構(gòu)建出來。然后，我們有各種scale下的scaling function了，該看看它們分別所對應(yīng)的嵌套的空間序列了。先看看V0，自然就是以基本的scaling function為基礎(chǔ)去span出來的：這個不新鮮，剛才就講過了。這個子空間代表什么樣的信號？常量信號。道理很簡單，這個scaling function在整個信號長度上，沒有任何變化。繼續(xù)往下看：這個相比V0更加finer的子空間，代表著這樣一種信號，它從1-4是常量，從5-8是另一個常量。同理我們有：V2代表的信號，是分別在1，2; 3，4; 5，6; 7，8上有相同值的信號。那么V3呢？則表示任何信號，因為對于V3來講，任何一個時間刻度上的值都可以不一樣。而且現(xiàn)在，我們也可以通過上面的一些scaling functions的波形驗證了之前提到的多解析度分析中的一個核心性質(zhì)，那就是：我們之前講了一堆多解析度的理論，但直到現(xiàn)在，通過這些圖形化的分析，我們可能才會真正理解它。那好，既然我們有一個現(xiàn)成的信號，那就來看看，對這個信號作多解析度分析是啥樣子的：你看，在不同的子空間，對于同一個信號就有不同的詮釋。詮釋最好的當然是V3，完全不損失細節(jié)。這就是多解析度的意義。我們可以有嵌套的，由scaling function演變的basis function集合，每一個集合都提供對原始信號的某種近似，解析度越高，近似越精確。說到這里，可能你對scaling function以及多解析度分析已經(jīng)比較理解了。但是，我們還沒有涉及到它們在小波變換中的具體應(yīng)用，也就是還沒有回答剛才那個問題：憑空插了一個scaling function到小波basis組合中干嘛。也就是說，我們希望理解scaling function是怎么和小波函數(shù)結(jié)合的呢，多解析度能給小波變換帶來什么樣的好處呢。這其實就是是小波變換中的核心知識。理解了這個，后面的小波變換就是純數(shù)學(xué)計算了。好，我們已經(jīng)知道，對于子空間V0，basis是scaling function：對應(yīng)的小波函數(shù)是：然后子空間V1的basis集合是這倆哥們：看出什么規(guī)律了么？多看幾次這三個圖，你會驚訝地發(fā)現(xiàn)，在V0中的scaling function和wavelet function的組合，其實就是V1中的basis！繼續(xù)這樣推導(dǎo)，V1本來的的basis是：然后V1中對應(yīng)的wavelet function是他們的組合，本質(zhì)上也就是V2的basis（參考圖2）。你繼續(xù)推導(dǎo)下去，會得到同樣的結(jié)論：在scale j的wavelet function，可以被用來將Vj的basis擴展到V(j+1)中去！這是一個非常非常關(guān)鍵的性質(zhì)，因為這代表著，對任何一個子空間Vj，我們現(xiàn)在有兩種方法去得到它的orthonormal basis：1. 一種就是它本來的basis，對任意k。2. 第二種就是它上一個子空間的basis，對任意k，以及上一級子空間的wavelet function，對任意k。第二種選擇能給我們帶來額外的好處，那就是我們可以循環(huán)不斷地用上一級子空間的scaling function以及wavelet function的組合來作為當前子空間的基。換句話說，如果針對V3這個子空間，它實際上就有四種不同的，但是等價的orthonormal basis：1. 本級(V3)的scaling function basis set2. 上一級(V2)的scaling function + wavelet function;3 . 上上一級(V1)的scaling function + 上上一級(V1)的wavelet function + 上一級(V2)的wavelet function;4. 上上上一級(V0)的scaling function + 上上上一級(V0)的wavelet function + 上上一級(V1)的wavelet function + 上一級(V2)的wavelet function好，看看最后一種選取方式，有沒有感到眼熟？對了，它就是我們之前提到的“針對此信號space的哈爾小波basis組合”，參見圖1?，F(xiàn)在我們知道了，這個scaling function不是憑空插進去的，而是通過不斷的嵌套迭代出來的：）那為什么我們最后選定的是這種選取方式呢？實際上，剛才介紹的這個性質(zhì)已經(jīng)告訴我們，對于任何的scale j0，我們都可以給我們的signal space