第三講 DPS應用(3、多元統(tǒng)計分析)

1、.,第三章 多 元 統(tǒng) 計 分 析,.,多元統(tǒng)計分析是運用數理統(tǒng)計方法來研究解決多指標問題的理論和方法。在采用多元統(tǒng)計分析進行數據處理、建立宏觀或微觀系統(tǒng)模型時，主要研究以下幾個方面的問題： 簡化系統(tǒng)結構，探討系統(tǒng)內核?？刹捎弥鞒煞址治?、因子分析、對應分析等方法，在眾多因素中找出各個變量最佳的子集合，從子集合所包含的信息描述多變量的系統(tǒng)結果及各個因子對系統(tǒng)的影響。 構造預測模型，進行預報控制。探索多變量系統(tǒng)運動的客觀規(guī)律及其與外部環(huán)境的關系，進行預測預報，以實現(xiàn)對系統(tǒng)的最優(yōu)控制，是應用多元統(tǒng)計分析技術的主要目的。在多元分析中，用于預報控制的模型有兩大類。一類是預測預報模型，通常采用多元線性回歸

2、或逐步回歸分析、判別分析、雙重篩選逐步回歸分析等建模技術。另一類是描述性模型，通常采用聚類分析的建模技術。 進行數值分類，構造分類模式。在多變量系統(tǒng)的分析中，往往需要將系統(tǒng)性質相似的事物或現(xiàn)象歸為一類，以便找出它們之間的聯(lián)系和內在規(guī)律性。過去許多研究多是按單因素進行定性處理，以致處理結果反映不出系統(tǒng)的總的特征。進行數值分類，構造分類模式一般采用聚類分析和判別分析技術。,.,如何選擇適當的方法來解決實際問題？需要對問題進行綜合考慮。對一個問題可以綜合運用多種統(tǒng)計方法進行分析。 例如一個預報模型的建立，可先根據有關生物學、生態(tài)學原理，確定理論模型和試驗設計；根據試驗結果，收集試驗資料；對資料進行初

3、步提煉；然后應用統(tǒng)計分析方法(如相關分析、逐步回歸分析、偏最小二乘回歸分析、主成分分析等)研究各個變量之間的相關性，選擇最佳的變量子集合；在此基礎上構造預報模型，最后對模型進行診斷和優(yōu)化處理，并應用于生產實際。,.,一、回歸分析,.,（一）線性回歸,為研究醫(yī)院所需要的人力，某部門對所轄的17 家醫(yī)院調查了一組數據，共6個變量：x1 為日平均病人數，x2 為月平均x 光透視人數，x3 為月平均所占用的床位天數，x4 為當地人口數/1000，x5 為平均每個病人住院天數，y 為月平均使用的人小時數。 在dps 中，將17 家醫(yī)院數據編輯、定義成數據塊(圖) 在菜單下選擇“多元分析回歸分析線性回歸”

4、功能項后，系統(tǒng)會給出下圖的操作界面,.,（一）線性回歸,數據轉換：提供了取對數、平方根及倒數等3 種數據轉換方式，當殘差圖分析表明方差顯示為非齊性時可考慮對數據進行轉換，在點擊“重新建立方程”按鈕后，即可得到新的回歸方程，并可繼續(xù)診斷殘差性能。,預測區(qū)域：可輸入各個預報因子的取值，并指定計算置信區(qū)間的置信水平，點擊“預測”按鈕后即可得到預測值及其在當前置信水平下的置信區(qū)間值。,當前回歸方程總體檢驗指標模塊：給出了當前模型的決定系數、f 檢驗值及其顯著水平。一個較好的回歸模型不但要求顯著水平的值小，而且決定系數要大。 當診斷、預測結束后，點擊右下角的“返回編輯” 按鈕，系統(tǒng)會給出分析結果,.,（

5、二）逐步回歸分析,從多元線性回歸分析中我們知道，如果采用的自變量越多，則回歸平方和越大，殘差平方和越小。然而，采用較多的變量來擬合回歸方程，會使得方程的穩(wěn)定性差，每個自變量的區(qū)間誤差積累將影響總體誤差，用這樣建立起來的回歸方程作預測的可靠性差、精度低；另一方面，如果采用了對y 影響甚小的變量而遺漏了重要變量，可導致估計量產生偏倚和不一致性。鑒于上述原因，我們希望得到“最優(yōu)”的回歸方程，這樣的“最優(yōu)”回歸方程就是包含所有對y 有顯著影響的變量而不包含對y 影響不顯著的變量的回歸方程。逐步回歸分析法就是一種能自動地從大量可供選擇的變量中選擇那些對建立回歸方程比較重要的變量的方法。,.,（二）逐步回

6、歸分析,數據的輸入格式是一行為一個樣本，一列為一個變量，因變量放在最右邊，輸完一個樣本后再輸下一個樣本。將輸入待分析的所有數據定義成數據矩陣塊。,在逐步回歸分析時，系統(tǒng)首先在0.1 的置信水平下挑選自變量，并自動調整值以保證選入一個自變量因子，在當前所取的fx 值下，進行逐步回歸(引入或剔除變量)。在當前值分析結束時，系統(tǒng)會出現(xiàn)如圖界面，并詢問用戶是繼續(xù)引入變量、剔除變量還是結束變量的引入、剔除工作。,.,（二）逐步回歸分析,輸出結果包括 各個變量的平均值、標準差、協(xié)方差矩陣和相關系數矩陣； 回歸方程式； 偏相關系數、t 檢驗值、復相關系數及其臨界值； 回歸方程剩余標準差； 擬合值及擬合誤差；

7、 直接通徑系數、間接通徑系數和決定系數等。 主要分析結果解釋 (1) 回歸模型診斷：第一，方程的方差分析f 值的顯著水平p 要小于等于0.05，否則，所建立的回歸方程不能使用；第二，各個回歸系數的偏相關系數的顯著水平最好也小于等于0.05；第三，durbin-watson 統(tǒng)計量 d 是否接近于2。 (2) 通徑分析：根據通徑系數的大小和正負，可以推斷各個因子對因變量的直接影響和間接影響。,.,（三）二次多項式回歸分析,現(xiàn)代的二次回歸正交旋轉設計試驗，即把正交設計和回歸分析有機地結合起來，在正交設計的基礎之上，利用回歸分析，在給出的因素和指標之間，找出一個明確的函數表達式，建立因果關系的數學模

8、型，以便定量地描述在某個生物學過程中各因素對指標的作用，并用該數學模型預測和控制生產。目前，組建多元二次回歸模型幾乎都是運用二次(旋轉)回歸設計來實現(xiàn)，當然也可對某些符合要求的歷史資料作同樣的分析，組建類似于二次(旋轉)回歸模型的多元二次多項式模型。 對這類回歸分析模型，也可對其進行逐步回歸分析，只保留顯著的項，剔除不顯著的項。dps 系統(tǒng)提供的二次多項式回歸功能模塊的操作和使用方法可參考單因變量逐步回歸分析部分，不同之處只是在處理數據矩陣時，除原始數據外還自動生成包括數據的二次多項式(即把各個自變量數據的二次多項式也作為一個自變量因子)。因此，系統(tǒng)最多能處理10 個自變量的原始數據矩陣(即m

9、10)。,.,（四）趨勢面分析,在某些研究領域，數學模型多為非線性模型，而且尋求這些非線性模型的函數表達式一般比較困難，在這種情況下可采用多項式形式去擬合回歸方程。在利用趨勢面分析擬合回歸模型時，所選擇的趨勢面模型必須使剩余值比較小，回歸平方和比較大，這樣才能使擬合度較高，結果才能達到足夠的準確性。例如糧食產量與氣溫和降雨量等自然因素的關系是非線性關系，可采用趨勢面分析來擬合回歸模型從而預測糧食產量。 數據的輸入格式是1 行1 個樣本，每行依次放入自變量x、y 和因變量z。將待分析的數據定義成數據塊后，在菜單方式下選擇“趨勢面分析”。,.,（四）趨勢面分析,例如某地銅元素在地表一特定的地層中含

10、量的變化情況，現(xiàn)將各個采樣點的原始數據編輯成右圖的格式。圖中第一列是經度、第二列是緯度，第三列是銅元素含量。,.,（四）趨勢面分析,執(zhí)行“趨勢面分析”后，系統(tǒng)會出現(xiàn)如下對話框。在對話框中，系統(tǒng)給出了當前運行參數的缺省值。當然可根據自己的要求修改這些參數。在對話框中，可改變趨勢面次數等。,.,（四）趨勢面分析,參數修改后，用鼠標點擊“保存圖形”按鈕，這時系統(tǒng)會將等高線圖保存下來。退出對話框后，系統(tǒng)給出分析結果如下： 趨勢面方程： z=-39602.61631+993.64405*x+1703.76971*y-22.62857*x2-9.16000*x*y-30.91428*y2+0.191666

11、7*x3+0.0571429*x2*y +0.0571429*x*y2+0.1916667*y3 殘差標準差=1.027016021942，f=5.9454，p= 0.0015，擬合度=78.10% 從計算結果可以看出，趨勢方程的方差分析，其顯著水平p 等于0.0015，達到極顯著水平，擬合度78.10%。,.,（五）聚類分析,聚類分析(cluster analysis)是數理統(tǒng)計中研究“物以類聚”的一種方法。 在數值分類方面，可歸納為兩大類問題：一類是已知研究對象的分類情況，將某些未知個體正確地歸屬到其中某一類，這是判別分析問題；另一類問題是在事前沒有分類的情況下進行數據結構的分類，這就是聚

12、類分析所要解決的問題。,.,（五）聚類分析,聚類分析的功能是將一批樣品或變量按照它們在性質上的親疏程度進行分類。描述這種親疏程度通常有兩個途徑：一是把每個樣品看成m 維(變量的個數為m個)空間的一個點，進而在m 維坐標中，定義點與點之間的某種距離。另一途徑是用某種相似系數來描述樣品之間的親疏程度。當確定了樣品或變量間的距離或相似系數后，就可以對樣品或變量進行分類。分類的方法很多。一類方法是在樣品距離的基礎上定義類與類之間的距離，首先將n 個樣品自成一類，然后每次將具有最小距離的兩類合并，合并后重新計算類與類之間的距離，將此過程一直繼續(xù)到所有樣品歸為一類為止。最后把這個過程做成一張聚類譜系圖。這

13、種聚類方法稱為系統(tǒng)聚類法。另一類方法是將n 個樣品初步分類，然后根據分類函數盡可能小的原則，對已分類別進行調整，直到分類合理為止。這種聚類方法稱為調試法，如動態(tài)聚類就屬于該類型。此外，還有在不打亂樣本秩序的條件下對樣本進行聚類分析，如有序樣本的最優(yōu)分割法。,.,（五）聚類分析,系統(tǒng)聚類分析 系統(tǒng)聚類就是利用變量或樣本間親疏程度的數量指標，即相似系數或距離遠近來進行聚類。目前已有大量的相似系數和距離，但在數值分類中比較常用的卻是少數。 歐氏距離： 它是聚類分析中最廣泛使用的距離。 絕對值距離(又稱manhattan 度量或網格變量) 切比雪夫距離 蘭氏距離：這是一個自身標準化的量。由于它對大的奇

14、異值不敏感，故它特別適合高度偏倚的數據。 馬氏距離 卡方距離：徐振幫等(1986)認為，卡方距離比歐氏距離等常用的距離系數有更強的分辨能力。,.,（五）聚類分析,系統(tǒng)聚類分析 編輯數據、定義數據塊：一行一個樣本，一列一個變量；選定待分析數據，定義成數據矩陣塊； 進入主菜單，選項執(zhí)行“系統(tǒng)聚類分析”過程：在分析過程中，系統(tǒng)會先后要求選擇數據轉換方法、相似性尺度以及聚類方法。不過，對每一種選擇都有一個默認值?？刹捎孟到y(tǒng)的默認值對數據實施規(guī)格化轉換、采用卡方距離相似尺度和以離差平方和聚類方法進行聚類分析。 例：為研究某地19621988 年三化螟種群消長演替規(guī)律，根據歷年積累的資料進行系統(tǒng)聚類分析。

15、三化螟種群消長特征指標有第二、三代幼蟲發(fā)生量，第二、三代卵盛孵高峰期(分別以5 月31 日和7 月20 日為零)，二代至三代及三代至四代的增殖系數。原始數據編輯整理及其數據塊的定義見圖,.,（五）聚類分析,由于該數據的量綱不同，各列數據(即各個變量)的數量級別相差也較大，故在進行聚類分析之前先采用規(guī)格化變換方法對數據進行處理。對原始數據進行規(guī)格化變換后，再確定距離系數計算方法，在此采用卡方距離進行聚類分析。,最后還要進行聚類分析方法的選擇，本例中分別采用離差平方和法、類平均法、重心法和最短距離法等四種方法進行分析。聚類分析的輸出結果包括數值和圖形兩部分，數值結果為各個樣本的聯(lián)結序號、聯(lián)結水平和

16、聚類譜系圖索引；圖形結果輸出在屏幕上（圖）。,.,（五）聚類分析,從聚類分析結果看，以離差平方和法的聚類效果最好。它將27 個樣本分成4類： 第1 類包括8 個樣本(1，4，5，6，2，3，17，21) 第2 類包括11 個樣本(7，20，14，10，11，12，22，25，26，27，23) 第3 類包括6 個樣本(8，9，18，15，16，19) 第4類只有13 和24，兩個樣本可以看成是一個特殊類別。 最短距離法的聚類效果最差，而重心法由于所得到的譜系圖出現(xiàn)逆轉現(xiàn)象，且無法分類，從樹狀譜系圖觀點來看，該方法是不恰當的，這是重心法的一個缺點。,第1類是重發(fā)生年類型；第2、3類是偏輕發(fā)生年類

17、型，偏輕類型中的第2類是三代多發(fā)型，第3類是四代多發(fā)型；而第4類，即1974年和1985年(樣本13，24)除第三代發(fā)生量大之外，第二代的發(fā)生量也很大，屬于三化螟猖獗發(fā)生年。,.,（五）聚類分析,0-1型變量聚類分析 當原始數據是二元性質的屬性變量時，由于數據結構的特殊性，它不必進行數據轉換處理。它可直接根據原始數據計算相似系數和距離系數。 聚類分析數據編輯格式：一行一個樣本，一列一個變量(第一列可以是樣本名稱)。編輯完后將待分析數據及其樣本名稱同時定義成數據塊，然后執(zhí)行“多元分析聚類分析0-1數據聚類分析”功能，系統(tǒng)出現(xiàn)如下選擇框,.,（五）聚類分析,0-1型變量聚類分析 在用戶選擇框內的右

18、下角，多了一個0-1 化閾值輸入框，這是提供用戶將數量化指標轉換成0-1 指標進行聚類分析的技術。如果是數量化指標，在經過數據轉換后，再將轉換后數據進行規(guī)格化變換處理，即從轉換后數據矩陣的每一個變量中找出其最大和最小值，兩者之差稱為極差，然后從每一個原始數據中減去該變量中的最小值，再除以極差（稱為規(guī)格化轉換）。經這樣的變換后，每列的最大數據變?yōu)?，最小數據變?yōu)?，其余數據取值在0 1 之間。這時和給定的閾值相比，如大于等于給定的閾值則賦值為1，否則賦值為0。,然后選定聚類距離和聚類方法。如果定義的數據塊第一列是樣本名稱，則在“第一列是否是樣本名稱”選擇框中選擇“是”。 分析結束時，系統(tǒng)會顯示系

19、統(tǒng)聚類樹狀圖，用鼠標雙擊樹狀圖后，會顯示提示保存聚類圖的界面,.,（五）聚類分析,動態(tài)聚類分析 動態(tài)聚類法又稱逐步聚類法，其基本思想是：首先，按照一定的方法選取一批凝聚點，然后讓樣品向最近的凝聚點凝聚。這樣由點凝聚成類，得到初始分類。初始分類不一定合理，然后按最近距離原則修改不合理的分類，直到分類比較合理為止，從而形成一個最終的分類結果。,.,（五）聚類分析,動態(tài)聚類分析 主要計算步驟： 第1 步，先將原始數據進行標準化處理。 第2 步，選擇預定數目的凝聚點對樣品進行初始分類（人為分類）。設xij 為已標準化處理后的第 i 個樣品的第 j 個指標，若初始分類數為k，經計算，分別將每個樣品歸入第

20、k 類(1kk)，由此得到初始分類。 第3 步，計算每一類的重心，以該重心作為新的凝聚點，再計算每一個樣品至新凝聚點的距離，并將它劃入最近凝聚點所屬的類別。當所計算的重心與原來的凝聚點完全相同，則過程終止，否則將重復按第3 步的過程計算。 第3 步的重復過程是迭代過程，每一次迭代都使對應的分類函數縮小。當上下兩次的重心完全相同時，計算過程收斂，此時分類函數趨于定值。按批修改法的最終分類結果受到初始分類的影響，這是動態(tài)聚類法的一個缺點。,.,（六）判別分析,在統(tǒng)計分析中，經常遇到分類判別的問題，也就是根據觀測數據對所研究的對象進行分類判別。判別分析方法就是專門根據若干因素對預報對象進行分類的一種

21、方法，通過分析可以建立用于定性預報的數學模型。例如，我們積累了某種病蟲害各種發(fā)生狀態(tài)的若干歷史資料(樣本)，希望從中總結出分類的規(guī)律性(即判別公式)，以便在以后的工作中遇到新的發(fā)生狀態(tài)(樣本)時，只要根據判別公式判斷它所屬的類就行了。在判別分析中，可從不同角度提出問題，故有不同的判別準則，常見如fisher 判別和bayes 判別。 用判別分析方法處理問題時，通常要給出一個衡量新樣本與各已知組別接近程度的描述指標，即判別函數，同時指定一種判別規(guī)則，借以判定新樣本的歸屬。判別規(guī)則可以是統(tǒng)計性的，決定新樣本所屬類別時用到數理統(tǒng)計的顯著性檢驗；也可以是經驗性的，決定樣本歸屬時，只考慮判別函數值的大小

22、。,.,（六）判別分析,兩組判別 兩組間的判別分析是基于統(tǒng)計上的費歇爾(fisher)準則。判別的結果應使兩組間區(qū)別最大，使每組內的離散性最小。 數據的輸入格式是每一行為一個樣本，每一列為一個變量，最右邊的一列為已知樣本的分類類別(用1 或表示)，對于待判別樣本分類類別用0 代替。按系統(tǒng)規(guī)定格式將待分析的所有數據(連同類別一起)定義成數據塊。,.,（六）判別分析,兩組判別 例如，梁振中(1985)根據小麥赤霉病不同發(fā)病田塊所占比例及決定防治對策的原理，將赤霉病劃分為偏重發(fā)生和偏輕發(fā)生兩類，并從氣象因素中篩選出穩(wěn)定通過10的初日(x1)和元月上中旬日照時數(x2)兩個因子。為建立判別分析模型，將

23、原始數據編輯整理成右圖形式并定義數據塊 然后進入主菜單，選擇“多元分析判別分析兩組判別分析”功能項，回車執(zhí)行后輸出結果。,.,（六）判別分析,fisher 線性判別 fisher 判別分析的思想是：用已知分類樣本的觀察指標構造一些彼此正交(不相關)的綜合指標即判別函數，這些綜合指標可以將屬于不同類的個體盡可能的分開，然后計算出每個類的綜合指標的均值，即每個類的中心點。現(xiàn)有一個新樣品，當計算出它的各個綜合指標的值之后，就分別計算出新樣品到每個類中心點的距離，把它歸到離中心點的距離最短的那一類。,.,（六）判別分析,fisher 線性判別 例：這里有3個類別：胃癌患者、萎縮性胃炎患者和非胃病者。每

24、類抽取5例，每例化驗4個生化指標，所得結果如圖。為考察生化指標是否有鑒別胃癌的能力，試作判別分析。 分析時，執(zhí)行多元分析里面的“fisher 線性判別”，這時，系統(tǒng)顯示3 類樣品在兩個綜合指標u1(x),u2(x)平面上的分布（下圖）。,.,（六）判別分析,從圖中可以看出，u1(x)對第一類（胃癌）的判別能力較強，對第二類（萎縮性胃炎）與第三類（非胃?。┡袆e能力差； u2(x) 的判別能力較弱。 最后系統(tǒng)給出分析結果。,.,（六）判別分析,逐步判別分析 在判別分析中，對判別結果可能產生影響的變量往往很多，但是影響有大有小。如果不加選擇地一概采用來建立判別函數，不僅計算工作量大，而且往往由于變量

25、間的自相關性，可使求解逆矩陣的計算精度下降，最終使得判別函數缺乏穩(wěn)定性。因此，適當篩選變量是判別分析中一件很重要的事情。 凡具有篩選能力的判別分析方法統(tǒng)稱為逐步判別分析。與通常的判別分析一樣，逐步判別也有許多不同原則，從而產生各種不同的方法。這里所討論的逐步判別分析法是在多組判別基礎之上發(fā)展起來的一種方法，判別準則為貝葉斯(bayes)判別函數。其基本思路與逐步回歸分析類似，采用“有進有出”的算法，即變量按其重要與否逐步引入，原引入的變量也可能因后來引入的新變量而使之喪失重要性最終被剔除。每步引入或剔除變量都要作相應的統(tǒng)計檢驗，使最后的貝葉斯判別函數僅保留“重要”的變量。,.,（六）判別分析,

26、逐步判別分析 在dps 平臺上，數據按一行一個樣本、一列一個變量的格式依次輸入，最右邊一列為已知樣本的類別號(用1，2，表示)，將待判別樣本的類別用0代替。然后將所有數據(連同類別一起)定義成數據塊，在菜單下選項執(zhí)行。,.,（六）判別分析,逐步判別分析 例：胡秉民(1987)對浙江北部地區(qū)嘉興、桐鄉(xiāng)和湖州19501982 年大麥赤霉病發(fā)生程度與氣象因子關系進行研究，總結出上年12 月降雨量(x1)、上年10月下旬至11 月中旬和當年12 月總雨量(x2)、上年10 月下旬至11 月上旬日照時數(x3)、上年10 月下旬至12 月中旬和當年2 月總雨量(x4)以及當年3 月中旬平均高溫(x5)等

27、5 個因子，并將病情分為輕、中、重三級(分別用1、2、3 表示)。,.,（六）判別分析,逐步判別分析 然后進入菜單，選擇“多元分析判別分析逐步判別分析”功能項，回車執(zhí)行時系統(tǒng)在自行給出的置信水平(0.1)的f 臨界值(2.2134)下進行分析，并篩選出一個以上的因子建立判別函數。然后顯示當前判別的效果，并提示用戶是否改變臨界值,如想改變fx 臨界值，則點yes，然后輸入新的fx臨界值。若輸入0，將進行多組判別分析；若輸入的值大于0，則將進行逐步判別分析。在分析過程中，可根據所選因子的判別效果而調整f 臨界值以獲得最好的擬合效果。,.,（七）多因子分析,多因素分析是一種將多變量(指標)樣本在結構

28、上進行簡化的有效方法。通過分析找到一個包含最佳變量的子集合，使其所包含的變量能反映總體的結構。 主成分分析 主成分分析是把多個指標化為少數幾個綜合指標的一種統(tǒng)計分析方法。在多指標(變量)的研究中，往往由于變量個數太多，且彼此之間存在著一定的相關性，因而使得所觀測的數據在一定程度上有信息的重疊。當變量較多時，在高維空間中研究樣本的分布規(guī)律就更麻煩。主成分分析采取一種降維的方法，找出幾個綜合因子來代表原來眾多的變量，使這些綜合因子盡可能地反映原來變量的信息量，而且彼此之間互不相關，從而達到簡化的目的。,.,（七）多因子分析,主成分分析 例如，羅積玉 (1985)在土壤質量研究中抽取了20個樣本，每樣本4個指標，包括淤泥含量(x1)、粘土含量(x2)、有機物含量(x3)和土壤ph值(x4)。數據編輯和定義如圖 在菜單下選擇“多元分析多因素分析主成分分析”項，執(zhí)行后得出結果,.,（七）多因子分析,因子分析 在統(tǒng)計學中，因子分析屬于多元分析的范疇。它用于研究相關矩陣的內部依賴關系，它將多個變量綜合為少數幾個“因子”，但仍可再現(xiàn)原始變量與“因子”之間的相關關系。 它主要應用于兩個方面：一是將為數眾多的變量減少為幾個新因子，再現(xiàn)系統(tǒng)內變量之間的內在聯(lián)系；二是用于分類，根據變量或者樣本的因子得分值在因子軸所構成的空間中進行分類處理。,.,（七）多因子分析,因子分析 因子分析與主成分分析的區(qū)