模式識(shí)別實(shí)驗(yàn)一(最小貝葉斯決策及ROC曲線)

1、實(shí)驗(yàn)一一、 實(shí)驗(yàn)原理1. 最小錯(cuò)誤率貝葉斯決策規(guī)則： 對(duì)于兩類問題，最小錯(cuò)誤率貝葉斯決策有如下判決規(guī)則： 由于先驗(yàn)概率可以確定，與當(dāng)前樣本無關(guān)，所以決策規(guī)則也可整理成下面的形式： 2. 平均錯(cuò)誤率決策邊界把軸分割成兩個(gè)區(qū)域，分別稱為第一類和第二類的決策區(qū)域.樣本在中但屬于第二類的錯(cuò)誤概率和樣本在中但屬于第一類的錯(cuò)誤概率就是出現(xiàn)錯(cuò)誤的概率，再考慮到樣本自身的分布后就是平均錯(cuò)誤率：3. 此實(shí)驗(yàn)中的判決門限和平均錯(cuò)誤率（1） 判決門限假設(shè)隨機(jī)脈沖信號(hào)中0的概率為,高斯噪聲信號(hào)服從,信號(hào)疊加時(shí)的放大倍數(shù)為，疊加后的信號(hào)為。由最小錯(cuò)誤率貝葉斯決策可得：化簡計(jì)算得： （2） 平均錯(cuò)誤率由上述積分式可計(jì)算。

2、二、 實(shí)驗(yàn)內(nèi)容1、 已知均值和方差，產(chǎn)生高斯噪聲信號(hào)，計(jì)算其統(tǒng)計(jì)特性實(shí)驗(yàn)中利用MATLAB產(chǎn)生均值為0，方差為1的高斯噪聲信號(hào)，信號(hào)統(tǒng)計(jì)分布的程序和結(jié)果如下：%產(chǎn)生高斯噪聲并統(tǒng)計(jì)其特性 x=0;%均值為0 y=1;%方差為1 n=normrnd(x,y,1 1000000);%產(chǎn)生均值為0，方差為1的高斯噪聲 m1=mean(n);%高斯噪聲的均值 v1=var(n); %高斯噪聲的方差 figure(1) plot(n(1:400); title('均值為0，方差為1的高斯噪聲'); figure(2) hist(n,10000); title('高斯噪聲的統(tǒng)計(jì)特性&

3、#39;); 得到m1=-4.6534e-005；v1= 0.9971。2. 已知隨機(jī)脈沖信號(hào)中0和1的出現(xiàn)概率，產(chǎn)生該隨機(jī)脈沖信號(hào)，分析其統(tǒng)計(jì)特性實(shí)驗(yàn)中利用MATLAB產(chǎn)生隨機(jī)脈沖信號(hào)，信號(hào)統(tǒng)計(jì)分布的特性程序及結(jié)果如下：%隨機(jī)脈沖信號(hào)及其統(tǒng)計(jì)特性p=unidrnd(10000,1,1000000);%產(chǎn)生1到100000之間均勻分布的隨機(jī)序列p0=0.4;f=p>(p0*10000);%設(shè)置門限，此時(shí)0的概率為0.4,1的概率為0.6m2=mean(f);v2=var(f);figure(3);stairs(f(1:400);title('隨機(jī)脈沖信號(hào)');axis(0

4、 400 -0.2 1.2);figure(4)hist(f,-0.2:0.01:1.2);title('隨機(jī)脈沖序列的統(tǒng)計(jì)特性');得到：m2=0.5995； V2=0.2401。3.在隨機(jī)脈沖信號(hào)中疊加高斯噪聲信號(hào)，在不同的參數(shù)設(shè)置下分析其統(tǒng)計(jì)特性 用MATLAB將兩個(gè)信號(hào)疊加，并分析其統(tǒng)計(jì)特性，具體程序及結(jié)果如下：%隨機(jī)脈沖信號(hào)疊加高斯噪聲信號(hào)及其統(tǒng)計(jì)特性a=5;%取隨機(jī)信號(hào)的幅度為5s=f*a+n;%對(duì)高斯噪聲信號(hào)和隨機(jī)脈沖序列進(jìn)行疊加m3=mean(s);%信號(hào)的均值v3=var(s);%信號(hào)的方差subplot(2,1,1);stairs(s(1:400);%繪制部

5、分疊加信號(hào)title('疊加后的信號(hào)');subplot(2,1,2);hist(s,1000)%繪圖分析疊加后信號(hào)的統(tǒng)計(jì)特性title('疊加后信號(hào)的統(tǒng)計(jì)特性')得到m3=2.9994;v3= 6.9964;4. 依據(jù)最小錯(cuò)誤概率貝葉斯決策原理，確定判決門限，完成信號(hào)檢測(cè)，計(jì)算兩類錯(cuò)誤率設(shè)判決門限為t，平均錯(cuò)誤率為e，利用MATLAB計(jì)算t和e，具體程序和結(jié)果如下：%確定判決門限，完成信號(hào)檢測(cè)，計(jì)算兩類錯(cuò)誤率a=5;p0=0.4;%第一類先驗(yàn)概率為0.4t=(a2 -2*v1*(log(1-p0)-log(p0)/(2*a);%利用貝葉斯決策計(jì)算判別門限s1=

6、s>t;%執(zhí)行判決e1=sum(f-s1)=-1)/(1000000*p0);%計(jì)算虛警率e2=sum(f-s1)=1)/(1000000*(1-p0);%計(jì)算漏檢率e=e1*p0+e2*(1-p0);%計(jì)算平均錯(cuò)誤率得到：判決門限t=2.4189，平均錯(cuò)誤率e=0.0060。5. 改變判決門限，繪制曲線在MATLAB中調(diào)用ROC函數(shù)，程序及繪制的曲線如下所示：（1）利用貝葉斯最小錯(cuò)誤概率繪制ROC曲線Smin=min(s1);Smax=max(s1);o=(s1-Smin)/(Smax-Smin);%對(duì)s進(jìn)行歸一化處理tpr,fpr,thresholds=roc(f,o);%調(diào)用roc

7、函數(shù)plotroc(f,o);%繪制ROC曲線title('ROC曲線')（2）改變判決門限，令t=1.8, 2.0, 2.2, 2.4, 2.6, 2.8,得到的平均錯(cuò)誤概率分別為e=0.0148,0.0099,0.0071, 0.0060,0.0068, 0.0068。數(shù)據(jù)表明，貝葉斯決策平均錯(cuò)誤率理論上是最小錯(cuò)誤概率。6.改變隨機(jī)脈沖信號(hào)與高斯噪聲的參數(shù)，重復(fù)以上實(shí)驗(yàn)（1）其他條件不變，改變高斯噪聲的均值，取均值=2，方差=1。由上例得到：均值為1，方差為2時(shí)，t= 2.4188，e=0.1353。當(dāng)其他條件不變時(shí)，高斯白噪聲均值判決門限，從而決定平均錯(cuò)誤率。由此可看出，

8、高斯噪聲的均值對(duì)最小錯(cuò)誤率貝葉斯決策的判決門限有影響，均值越大，判決門限越大，對(duì)平均錯(cuò)誤率影響越大。(2) 其他條件不變，改變高斯噪聲的方差，分別取方差=0.5、2，用matlab繪制曲線如下圖所示：當(dāng)方差=0.5時(shí)，判決門限t=2.4797基本不變，平均錯(cuò)誤率e幾乎接近于0；當(dāng)方差=2時(shí)，判決門限t=2.1760，變化不大，但平均錯(cuò)誤率e=0.1028，明顯大大增大。由此可看出，高斯噪聲的方差對(duì)最小錯(cuò)誤率貝葉斯決策的判決門限影響較小，對(duì)平均錯(cuò)誤率的影響很大，方差越大，平均錯(cuò)誤率也越大。（3） 其他條件不變，改變隨機(jī)脈沖中01的概率，分別取P0=.，.得到的曲線如下圖所示：P0=0.3時(shí)： 此

9、時(shí)，判決門限t=2.3303,平均錯(cuò)誤率e=0.0056。P0=0.9時(shí)：此時(shí)，判決門限t=2.9401,平均錯(cuò)誤率e=0.0035。先驗(yàn)概率對(duì)判決門限和平均錯(cuò)誤率均有影響。（）其他條件不變，改變信號(hào)疊加時(shí)的放大倍數(shù)，分別取放大倍數(shù)得到的曲線如下圖所示：當(dāng)=2時(shí)，判決門限變t=0.7969，平均錯(cuò)誤率e=0.1539；當(dāng)a=8時(shí)，判決門限t= 3.9492,平均錯(cuò)誤率e= 3.7000e-005。由此可看出，放大倍數(shù)對(duì)判決門限和平均錯(cuò)誤率均有影響，且放大倍數(shù)越大，判決門限越大，平均錯(cuò)誤率越小。三、誤差分析 由實(shí)驗(yàn)原理中的平均錯(cuò)誤率積分式可得理論上的平均錯(cuò)誤率，下面通過matlab計(jì)算理論上的平均錯(cuò)誤率。程序和結(jié)果如所示：%誤差分析t=(-10000:0.01:2.42); %確定t的取值范圍及步長x1=0.6.*(1/(sqrt(2.*pi).*exp(-(t-5).2)/2);e1=trapz(x1).*t(2);%用求和法求積分x2=0.4.*(1/(sqrt(2.*pi).*exp(-(t.2)/2);e2=trapz