判別分析課件資料

1、判別分析Discriminant analysis 在生產(chǎn)、科研和日常生活中經(jīng)常需要根據(jù)觀測到的數(shù)據(jù)資料對所研究的對象進(jìn)行分類。例如經(jīng)濟(jì)學(xué)中根據(jù)人均國民收入、人均工農(nóng)業(yè)產(chǎn)值、人均消費(fèi)水平等多種指標(biāo)來判定一個(gè)國家的經(jīng)濟(jì)發(fā)展程度所屬類型；在農(nóng)林害蟲預(yù)報(bào)中、根據(jù)以往的蟲情，多種氣象因子來判別一個(gè)月后的蟲情是大發(fā)生、中發(fā)生或正常；在體育運(yùn)動(dòng)中，判別某游泳運(yùn)動(dòng)員的“苗子”是適合練蛙泳，仰泳，還是自由泳等；在醫(yī)療診斷中，根據(jù)某人多種體檢指標(biāo)（如體溫，血壓，白血球等）來判別此人是有病還是無病?？傊瑢?shí)際問題中需要判別的問題幾乎到處可見。 判別分析(discriminant analysis)就是根據(jù)判別對象

2、若干個(gè)指標(biāo)的觀測結(jié)果，判定其應(yīng)屬于哪一類的統(tǒng)計(jì)學(xué)方法。判別分析與聚類分析不同，判別分析是在已知研究對象分成若干類型并已取得各種類型的一批已知樣品的觀測數(shù)據(jù)，在此基礎(chǔ)上根據(jù)某些準(zhǔn)則建立判別式，然后對未知類型的樣品進(jìn)行判別分類。對于聚類分析來說，一批給定樣品要?jiǎng)澐值念愋褪孪炔⒉恢溃枰ㄟ^聚類分析來確定類型。正因?yàn)槿绱?，判別分析和聚類分析往往聯(lián)合起來使用，例如判別分析要求先知道各類總體情況才能判別新樣品的歸類，當(dāng)總體分類不清楚時(shí)，可以先用聚類分析對原來的一批樣品進(jìn)行分類，然后再用判別分析建立判別式對新樣品進(jìn)行判別。聚類與判別聚類(clustering)分成幾類？每個(gè)樣品屬于哪一類？判別(dis

3、criminate)已知分成幾類。(有師分類)根據(jù)訓(xùn)練樣品建立判別函數(shù)根據(jù)判別函數(shù)對待判樣品進(jìn)行歸類分類判別組數(shù)：兩組判別和多組判別數(shù)學(xué)模型：線性判別和非線性判別所處理變量：逐步判別和序貫判別判別準(zhǔn)則：馬氏距離準(zhǔn)則、Fisher準(zhǔn)則、平均損失最小準(zhǔn)則、最小平方準(zhǔn)則、最大似然準(zhǔn)則、最大概率準(zhǔn)則等不同方法：距離判別法、Fisher判別法、Bayes判別法、逐步判別法等距離判別法距離判別按就近原則歸類判別準(zhǔn)則(discriminate criterion)可寫成：X G1，如果D(X,G1)D(X,G2)X 待判，如果D(X,G1)=D(X,G2)如果距離定義采用歐式距離，則需計(jì)算出：然后比較D(X

4、,G1)和D(X,G2)的大小，按照距離最近準(zhǔn)則判別歸類。由于馬氏距離在多元統(tǒng)計(jì)分析中經(jīng)常用到，在這里詳細(xì)討論下針對馬氏距離的判別方法。此時(shí)判別準(zhǔn)則可分以下兩種情況給出。設(shè)和協(xié)差陣。分別為G1,G2的均值向量如果距離定義采用馬氏距離即其中線性判別函數(shù)為是X的二次函數(shù)。判別效果的評價(jià)誤判概率可以通過前瞻性或回顧性兩種方式估計(jì)。 回顧性誤判概率估計(jì)是指用建立判別函數(shù)的樣本回代判別?；仡櫺哉`判概率估計(jì)往往低估誤判概率，從而夸大判別效果。 一般，建立判別函數(shù)前將樣本隨機(jī)分成兩部分，分別占總樣本含量的85%和15%。前者用于建立判別函數(shù)，稱為訓(xùn)練樣本；后者用于考核判別函數(shù)的判別效果。稱為驗(yàn)證樣本。用驗(yàn)證樣本計(jì)算誤判概率作為前瞻性誤判概率的估計(jì)，比較客觀。另外一種值得推薦的誤判概率的估計(jì)方法刀切法或稱交叉核實(shí)法。具體步驟為：1、順序剔除一個(gè)樣品，用余下的N-1個(gè)樣品建立判別