信號(hào)檢測(cè)與估計(jì)教學(xué)資料第三章信號(hào)檢測(cè)與估計(jì)

1、1第三章第三章 信號(hào)的統(tǒng)計(jì)檢測(cè)理論信號(hào)的統(tǒng)計(jì)檢測(cè)理論復(fù)習(xí)總結(jié)復(fù)習(xí)總結(jié)2第三章第三章 信號(hào)的統(tǒng)計(jì)檢測(cè)理論信號(hào)的統(tǒng)計(jì)檢測(cè)理論經(jīng)典的信號(hào)統(tǒng)計(jì)檢測(cè)理論經(jīng)典的信號(hào)統(tǒng)計(jì)檢測(cè)理論 統(tǒng)計(jì)信號(hào)檢測(cè)理論的基本概念統(tǒng)計(jì)信號(hào)檢測(cè)理論的基本概念 二元信號(hào)檢測(cè)的最佳檢測(cè)準(zhǔn)則二元信號(hào)檢測(cè)的最佳檢測(cè)準(zhǔn)則 信號(hào)狀態(tài)的判決的方法和檢測(cè)性能的分析信號(hào)狀態(tài)的判決的方法和檢測(cè)性能的分析 m m元信號(hào)的最佳檢測(cè)元信號(hào)的最佳檢測(cè) 參量信號(hào)的復(fù)合假設(shè)檢驗(yàn)參量信號(hào)的復(fù)合假設(shè)檢驗(yàn) 序列檢測(cè)序列檢測(cè)3貝葉斯準(zhǔn)則基本思路貝葉斯準(zhǔn)則基本思路: :根據(jù)給定的代價(jià)計(jì)算平均代價(jià)根據(jù)給定的代價(jià)計(jì)算平均代價(jià)按照平均代價(jià)最小劃分觀察空間按照平均代價(jià)最小劃分觀察空

2、間, ,得到判決準(zhǔn)則得到判決準(zhǔn)則對(duì)判決表達(dá)式進(jìn)行化簡(jiǎn)對(duì)判決表達(dá)式進(jìn)行化簡(jiǎn)貝葉斯準(zhǔn)則貝葉斯準(zhǔn)則411011001000110cchpcchphxphxphh貝葉斯判決準(zhǔn)則貝葉斯判決準(zhǔn)則 01hxphxpxldef定義為定義為似然比函數(shù)似然比函數(shù)1101100100cchpcchpdef定義為定義為判決門限判決門限 10hhxl是一維隨機(jī)變量，稱為是一維隨機(jī)變量，稱為檢驗(yàn)統(tǒng)計(jì)量檢驗(yàn)統(tǒng)計(jì)量 xl不依賴于假設(shè)的先驗(yàn)概率，也與代價(jià)因子無(wú)關(guān)，不依賴于假設(shè)的先驗(yàn)概率，也與代價(jià)因子無(wú)關(guān)，適用于不同先驗(yàn)概率適用于不同先驗(yàn)概率和不同代價(jià)因子的最佳信號(hào)檢測(cè)。和不同代價(jià)因子的最佳信號(hào)檢測(cè)。5貝葉斯檢測(cè)性能分析貝葉斯檢

3、測(cè)性能分析計(jì)算基本原則：根據(jù)化簡(jiǎn)后的最簡(jiǎn)判決表示式進(jìn)行計(jì)算。計(jì)算基本原則：根據(jù)化簡(jiǎn)后的最簡(jiǎn)判決表示式進(jìn)行計(jì)算。計(jì)算步驟：計(jì)算步驟：步驟步驟1：推導(dǎo)貝葉斯檢測(cè)準(zhǔn)則的最簡(jiǎn)表示形式推導(dǎo)貝葉斯檢測(cè)準(zhǔn)則的最簡(jiǎn)表示形式 10hhxl步驟步驟2：根據(jù)最簡(jiǎn)表示形式，計(jì)算各種假設(shè)下，統(tǒng)計(jì)量的概率密度函數(shù)根據(jù)最簡(jiǎn)表示形式，計(jì)算各種假設(shè)下，統(tǒng)計(jì)量的概率密度函數(shù)1hlp0hlp步驟步驟3：計(jì)算判決概率計(jì)算判決概率10hhp01hhpdlhlphhp110dlhlphhp0016最小平均錯(cuò)誤概率準(zhǔn)則最小平均錯(cuò)誤概率準(zhǔn)則0100111101111010000rcc p hc p hp hccphp hccphdxxx01

4、100cc11001cc001100rcp hp hphp hphdxxx把使被積函數(shù)取負(fù)值的觀察值把使被積函數(shù)取負(fù)值的觀察值x值劃分給值劃分給r0區(qū)域，而把其余的觀察值區(qū)域，而把其余的觀察值x值值劃分給劃分給r1，即可保證平均代價(jià)最小。，即可保證平均代價(jià)最小。1100p hphp hphxx判決判決h0假設(shè)成立假設(shè)成立1100p hphp hphxx判決判決h1假設(shè)成立假設(shè)成立7最小平均錯(cuò)誤概率準(zhǔn)則最小平均錯(cuò)誤概率準(zhǔn)則10ln ( )lnhhx101010( )hdefdefhphp hp hphxxx最小平均錯(cuò)誤概率判決準(zhǔn)則最小平均錯(cuò)誤概率判決準(zhǔn)則10( )hhlx化簡(jiǎn)化簡(jiǎn)8最小平均錯(cuò)誤概

5、率準(zhǔn)則最小平均錯(cuò)誤概率準(zhǔn)則101010( )hdefdefhphp hp hphxxx最小平均錯(cuò)誤概率判決準(zhǔn)則最小平均錯(cuò)誤概率判決準(zhǔn)則01100cc11001cc若若，且兩個(gè)假設(shè)的先驗(yàn)概率等概，且兩個(gè)假設(shè)的先驗(yàn)概率等概最小平均錯(cuò)誤概率準(zhǔn)則轉(zhuǎn)化為最小平均錯(cuò)誤概率準(zhǔn)則轉(zhuǎn)化為1010hhphphxx最大似然檢測(cè)準(zhǔn)則最大似然檢測(cè)準(zhǔn)則9最大后驗(yàn)概率準(zhǔn)則最大后驗(yàn)概率準(zhǔn)則(maximum a posteriori prob. criterion)11010010cccc 應(yīng)用范圍應(yīng)用范圍10101000101110hhphp hccp hccphxx貝葉斯判決準(zhǔn)則貝葉斯判決準(zhǔn)則101010hhphp hp

6、hphxxn 形式上于最小平均錯(cuò)誤概率準(zhǔn)則相同形式上于最小平均錯(cuò)誤概率準(zhǔn)則相同10極小化極大準(zhǔn)則極小化極大準(zhǔn)則(minimax criterion)n 應(yīng)用范圍應(yīng)用范圍假設(shè)的先驗(yàn)概率未知，判決代價(jià)因子給定假設(shè)的先驗(yàn)概率未知，判決代價(jià)因子給定n 目的目的盡可能避免產(chǎn)生過(guò)分大的代價(jià)，使極大可能盡可能避免產(chǎn)生過(guò)分大的代價(jià)，使極大可能代價(jià)最小化代價(jià)最小化11極小化極大準(zhǔn)則極小化極大準(zhǔn)則利用極小化極大準(zhǔn)則進(jìn)行檢測(cè)的基本步驟：利用極小化極大準(zhǔn)則進(jìn)行檢測(cè)的基本步驟：步驟步驟1：計(jì)算兩個(gè)似然函數(shù)，構(gòu)建似然比計(jì)算兩個(gè)似然函數(shù)，構(gòu)建似然比步驟步驟2：假設(shè)判決門限為假設(shè)判決門限為 ，構(gòu)建貝葉斯檢測(cè)基本表達(dá)式，構(gòu)建貝

7、葉斯檢測(cè)基本表達(dá)式步驟步驟3：化簡(jiǎn)成最簡(jiǎn)形式化簡(jiǎn)成最簡(jiǎn)形式 10hhl x 步驟步驟4：利用極小化極大準(zhǔn)則，確定最終判決門限利用極小化極大準(zhǔn)則，確定最終判決門限 12奈曼奈曼-皮爾遜準(zhǔn)則皮爾遜準(zhǔn)則(neyman-pearson criterion)n 應(yīng)用范圍應(yīng)用范圍假設(shè)的先驗(yàn)概率未知，判決代價(jià)未知假設(shè)的先驗(yàn)概率未知，判決代價(jià)未知(雷達(dá)信號(hào)檢測(cè)雷達(dá)信號(hào)檢測(cè))n 奈曼奈曼-皮爾遜檢測(cè)皮爾遜檢測(cè)01hhp盡可能小，盡可能小，11hhp盡可能大。盡可能大。n 目標(biāo)目標(biāo)n 實(shí)際情況實(shí)際情況01hhp減小時(shí)，減小時(shí)，11hhp也相應(yīng)減小；也相應(yīng)減?。?1hhp增加增加 ，也隨之增加。也隨之增加。11hh

8、p在在 約束條件下約束條件下, , 使正確判決概率使正確判決概率 最大的準(zhǔn)則。最大的準(zhǔn)則。01hhp11hhp13step3 根據(jù)統(tǒng)計(jì)量計(jì)算根據(jù)統(tǒng)計(jì)量計(jì)算 和和奈曼奈曼-皮爾遜準(zhǔn)則皮爾遜準(zhǔn)則(neyman-pearson criterion)0hlp 求解步驟求解步驟step1 計(jì)算似然函數(shù)、似然比計(jì)算似然函數(shù)、似然比,并寫出判決表達(dá)式并寫出判決表達(dá)式step2 化簡(jiǎn)化簡(jiǎn)1hlpstep4 在在 約束下，計(jì)算判決門限約束下，計(jì)算判決門限1001rdlhlphhp1001hhhxphxp14貝葉斯檢測(cè)，給定各種判決代價(jià)因子，且已知各假設(shè)的先驗(yàn)概率條件下，貝葉斯檢測(cè)，給定各種判決代價(jià)因子，且已知各

9、假設(shè)的先驗(yàn)概率條件下，使使平均代價(jià)最小平均代價(jià)最小的檢測(cè)準(zhǔn)則。的檢測(cè)準(zhǔn)則。11011001000110cchpcchphxphxphh100110hphphxphxphh最小平均錯(cuò)最小平均錯(cuò)誤概率判決誤概率判決準(zhǔn)則準(zhǔn)則xhpxhphh0110最大后驗(yàn)最大后驗(yàn)概率檢測(cè)概率檢測(cè)準(zhǔn)則準(zhǔn)則01100cc11001cc11010010cccc等概等概0110hxphxphh最大似然判最大似然判決準(zhǔn)則決準(zhǔn)則貝葉斯及派生檢測(cè)準(zhǔn)則貝葉斯及派生檢測(cè)準(zhǔn)則(1)符合最小平均錯(cuò)誤概率準(zhǔn)則的符合最小平均錯(cuò)誤概率準(zhǔn)則的一定符合最大后驗(yàn)概率檢測(cè)準(zhǔn)一定符合最大后驗(yàn)概率檢測(cè)準(zhǔn)則，反之不成立。則，反之不成立。15按照似然比檢測(cè)形

10、式構(gòu)建基本表達(dá)式，按照似然比檢測(cè)形式構(gòu)建基本表達(dá)式，并在并在 的的約束下計(jì)算最終判決門限。約束下計(jì)算最終判決門限。貝葉斯檢測(cè)，給定各種判決代價(jià)因子，且已知各假設(shè)的先驗(yàn)概率條件下，貝葉斯檢測(cè)，給定各種判決代價(jià)因子，且已知各假設(shè)的先驗(yàn)概率條件下，使使平均代價(jià)最小平均代價(jià)最小的檢測(cè)準(zhǔn)則。的檢測(cè)準(zhǔn)則。11011001000110cchpcchphxphxphh貝葉斯及派生檢測(cè)準(zhǔn)則貝葉斯及派生檢測(cè)準(zhǔn)則(2)信源先驗(yàn)信源先驗(yàn)概率未知概率未知信源先驗(yàn)概率及信源先驗(yàn)概率及代價(jià)因子均未知代價(jià)因子均未知極小化極大準(zhǔn)則極小化極大準(zhǔn)則奈曼皮爾遜準(zhǔn)則奈曼皮爾遜準(zhǔn)則按照似然比檢測(cè)形式構(gòu)建基本表達(dá)式，按照似然比檢測(cè)形式構(gòu)建

11、基本表達(dá)式，并在并在 的約束下計(jì)算的約束下計(jì)算最終判決門限。最終判決門限。*11()()mgfgp pp p00011cc10110cc1100()()drp h hp l hl16貝葉斯及派生檢測(cè)準(zhǔn)則貝葉斯及派生檢測(cè)準(zhǔn)則( (3) )分析某種檢測(cè)方法的性能時(shí)，需根據(jù)化簡(jiǎn)后的最簡(jiǎn)判決表示式進(jìn)行。分析某種檢測(cè)方法的性能時(shí)，需根據(jù)化簡(jiǎn)后的最簡(jiǎn)判決表示式進(jìn)行。計(jì)算步驟：計(jì)算步驟：步驟步驟1：推導(dǎo)某種檢測(cè)方法下獲得的最簡(jiǎn)判決表達(dá)式推導(dǎo)某種檢測(cè)方法下獲得的最簡(jiǎn)判決表達(dá)式 10hhxl步驟步驟2：根據(jù)最簡(jiǎn)表示形式，計(jì)算各種假設(shè)下，統(tǒng)計(jì)量的概率密度函數(shù)根據(jù)最簡(jiǎn)表示形式，計(jì)算各種假設(shè)下，統(tǒng)計(jì)量的概率密度函數(shù)1

12、hlp0hlp步驟步驟3：計(jì)算判決概率計(jì)算判決概率10hhp01hhp17m元信號(hào)的統(tǒng)計(jì)檢測(cè)元信號(hào)的統(tǒng)計(jì)檢測(cè)(detection of m-ary signal)基本要求：基本要求：n 掌握貝葉斯準(zhǔn)則掌握貝葉斯準(zhǔn)則n 掌握最小平均錯(cuò)誤概率準(zhǔn)則和最大似然準(zhǔn)則掌握最小平均錯(cuò)誤概率準(zhǔn)則和最大似然準(zhǔn)則18m元信號(hào)檢測(cè)元信號(hào)檢測(cè) 10,mijjjj iip hphxx最小平均錯(cuò)誤概率準(zhǔn)則最小平均錯(cuò)誤概率準(zhǔn)則最小的劃分至最小的劃分至 ,0,1,1,ijiijmjixxn 為保證平均錯(cuò)誤概率最小，應(yīng)把所有使為保證平均錯(cuò)誤概率最小，應(yīng)把所有使ir ，即當(dāng)滿足，即當(dāng)滿足 iix判決區(qū)域判決區(qū)域時(shí)，判決時(shí)，判決h

13、i成立概率成立概率n 正確判決代價(jià)為正確判決代價(jià)為0，錯(cuò)誤判決代價(jià)為，錯(cuò)誤判決代價(jià)為1，則，則 10,miijjjjjjj iiccp hphxx1100() (|)mmejijijpp hp hhn 最小平均錯(cuò)誤概率最小平均錯(cuò)誤概率19m元信號(hào)檢測(cè)元信號(hào)檢測(cè) imjjmijjjihxphxpmhxpmxi101, 011最大似然檢測(cè)最大似然檢測(cè)n 正確判決代價(jià)為正確判決代價(jià)為0，錯(cuò)誤判決代價(jià)為，錯(cuò)誤判決代價(jià)為1，且信源的假設(shè)先驗(yàn)等概時(shí)，且信源的假設(shè)先驗(yàn)等概時(shí)n 判決規(guī)則為在判決規(guī)則為在m個(gè)似然函數(shù)個(gè)似然函數(shù) 中，選擇使中，選擇使ihxpihxp最大的假設(shè)成立。最大的假設(shè)成立。 1, 0mij

14、jjjjjijihxphpccxi20參量信號(hào)的統(tǒng)計(jì)檢測(cè)參量信號(hào)的統(tǒng)計(jì)檢測(cè)(detection of signal with unknown parameter)基本要求：基本要求：理解參量信號(hào)檢測(cè)的基本概念理解參量信號(hào)檢測(cè)的基本概念掌握兩種檢測(cè)方法：掌握兩種檢測(cè)方法： 廣義似然比檢驗(yàn)和貝葉斯方法廣義似然比檢驗(yàn)和貝葉斯方法21先利用最大似然方法對(duì)未知參量進(jìn)行估計(jì)，然后利用得到先利用最大似然方法對(duì)未知參量進(jìn)行估計(jì)，然后利用得到的估計(jì)量按照確定信號(hào)的檢測(cè)方法進(jìn)行。的估計(jì)量按照確定信號(hào)的檢測(cè)方法進(jìn)行。參量信號(hào)的統(tǒng)計(jì)檢測(cè)參量信號(hào)的統(tǒng)計(jì)檢測(cè)(detection of signal with unknow

15、n parameter)argmax(|;)iiimliipphx 廣義似然比檢驗(yàn)廣義似然比檢驗(yàn)最大似然估計(jì)最大似然估計(jì);iiphx 使似然函數(shù)使似然函數(shù) 達(dá)最大的達(dá)最大的 作為該參量的估計(jì)量，作為該參量的估計(jì)量，i iml 記為記為廣義似然比廣義似然比101120(|;)( )(|;)hmlhmlphphxxx 22參量信號(hào)的統(tǒng)計(jì)檢測(cè)參量信號(hào)的統(tǒng)計(jì)檢測(cè)(detection of signal with unknown parameter)貝葉斯檢測(cè)方法貝葉斯檢測(cè)方法n 概率密度函數(shù)已知的情況概率密度函數(shù)已知的情況n 猜測(cè)概率密度函數(shù)的情況猜測(cè)概率密度函數(shù)的情況n 未知參量的奈曼未知參量的奈曼

16、-皮爾遜檢測(cè)皮爾遜檢測(cè)23參量信號(hào)的統(tǒng)計(jì)檢測(cè)參量信號(hào)的統(tǒng)計(jì)檢測(cè)概率密度函數(shù)已知的情況概率密度函數(shù)已知的情況11011001000110cchpcchphxphxphh貝葉斯檢測(cè)準(zhǔn)則貝葉斯檢測(cè)準(zhǔn)則參量信號(hào)的檢測(cè)中，信源在假設(shè)參量信號(hào)的檢測(cè)中，信源在假設(shè) hj 下的條件概率密度函數(shù)為下的條件概率密度函數(shù)為;jjphx | 函數(shù)函數(shù) 得到似然函數(shù)得到似然函數(shù) ?如何由條件似然函數(shù)如何由條件似然函數(shù);jjphx | 和未知參量的概率密度和未知參量的概率密度jp jphx |24;jjjjjjphphpdxx110011111010001011100100,hhphpdphp hccp hccphphp

17、dxxxx參量檢測(cè)中，貝葉斯檢測(cè)準(zhǔn)則為：參量檢測(cè)中，貝葉斯檢測(cè)準(zhǔn)則為：25信號(hào)的序列檢測(cè)信號(hào)的序列檢測(cè)基本原理基本原理觀測(cè)次數(shù)不固定，邊觀測(cè)邊判決觀測(cè)次數(shù)不固定，邊觀測(cè)邊判決優(yōu)點(diǎn)：在給定性能指標(biāo)的要求下，可使平均觀測(cè)次數(shù)最少，優(yōu)點(diǎn)：在給定性能指標(biāo)的要求下，可使平均觀測(cè)次數(shù)最少， 即平均檢測(cè)時(shí)間最短。即平均檢測(cè)時(shí)間最短。即如果觀測(cè)到第即如果觀測(cè)到第k次還不能做出令人滿意的判決，次還不能做出令人滿意的判決，則繼續(xù)進(jìn)行第則繼續(xù)進(jìn)行第k+1觀測(cè)觀測(cè)序列假設(shè)檢測(cè)理論由序列假設(shè)檢測(cè)理論由wold在在20世紀(jì)世紀(jì)40年代建立年代建立26信號(hào)的序列檢測(cè)信號(hào)的序列檢測(cè)對(duì)于二元信號(hào)的檢測(cè)，進(jìn)行第對(duì)于二元信號(hào)的檢測(cè)

18、，進(jìn)行第k次觀測(cè)后，次觀測(cè)后，會(huì)出現(xiàn)會(huì)出現(xiàn)3種可能的結(jié)果，即種可能的結(jié)果，即判決判決h1成立成立判決判決h0成立成立不進(jìn)行判決，繼續(xù)下一次觀測(cè)不進(jìn)行判決，繼續(xù)下一次觀測(cè)因此，需要將判決空間劃分成三個(gè)判決區(qū)域，設(shè)定兩個(gè)判決門限因此，需要將判決空間劃分成三個(gè)判決區(qū)域，設(shè)定兩個(gè)判決門限 和和100r2r1r觀測(cè)空間觀測(cè)空間r27信號(hào)的序列檢測(cè)信號(hào)的序列檢測(cè)101hxphxpxkkk滿足滿足時(shí)，判為時(shí)，判為h1成立成立001hxphxpxkkk滿足滿足時(shí)，判為時(shí)，判為h0成立成立1010hxphxpxkkk滿足滿足時(shí)，繼續(xù)進(jìn)行下一次觀測(cè)時(shí)，繼續(xù)進(jìn)行下一次觀測(cè)問(wèn)題：如何確定上述兩個(gè)門限？問(wèn)題：如何確定上述兩個(gè)門限？基本判決規(guī)則基本判決規(guī)則28信號(hào)的序列檢測(cè)信號(hào)的序列檢測(cè)修正的奈曼修正的奈曼-皮爾遜準(zhǔn)則皮爾遜準(zhǔn)則給定兩個(gè)性能指標(biāo)給定兩個(gè)性能指標(biāo)01hhp10hhp和和條件下，條件下，確定序列檢測(cè)條件下的兩個(gè)判決門限確定序列檢測(cè)條件下的兩個(gè)判決門限1和和0設(shè)設(shè)n次觀測(cè)信號(hào)構(gòu)成的次觀測(cè)信號(hào)構(gòu)成的n維隨機(jī)矢量為維隨機(jī)矢量為tnnxxx,21x對(duì)應(yīng)的似然比函數(shù)為對(duì)應(yīng)的似然比函數(shù)為01hphpnnnxxx29信號(hào)的序列檢測(cè)信號(hào)的序