多元統(tǒng)計模型

1、統(tǒng)計模型1 統(tǒng)計基本知識(假設(shè)檢驗)2SPSS入門3聚類分析與判別分析4主成分分析與因子分析描述性統(tǒng)計 中數(shù) 眾數(shù) 中位數(shù) 均值 方差 峰度 最值1 統(tǒng)計基礎(chǔ)知識 單樣本T檢驗 獨立樣本T檢驗 配對樣本T檢驗1.1 單樣本T檢驗 定義：定義：SPSS單樣本單樣本T檢驗是檢驗某個變量檢驗是檢驗某個變量的總體均值和某指定值之間是否存在顯著的總體均值和某指定值之間是否存在顯著差異。差異。 統(tǒng)計的統(tǒng)計的前提前提樣本總體服從正態(tài)分布。也就樣本總體服從正態(tài)分布。也就是說單樣本本身無法比較，進行的是其均是說單樣本本身無法比較，進行的是其均數(shù)與已知總體均數(shù)間的比較。數(shù)與已知總體均數(shù)間的比較。 實例1 研究問題

2、研究問題 分析某班級學生的高考數(shù)學成績和全國分析某班級學生的高考數(shù)學成績和全國的平均成績的平均成績70之間是否存在顯著性差異。之間是否存在顯著性差異。數(shù)據(jù)如表數(shù)據(jù)如表1所示。所示。 1.2 兩獨立樣本T檢驗 所謂獨立樣本是指兩個樣本之間彼此獨立沒有任所謂獨立樣本是指兩個樣本之間彼此獨立沒有任何關(guān)聯(lián)，兩個獨立樣本各自接受相同的測量。何關(guān)聯(lián)，兩個獨立樣本各自接受相同的測量。 研究者的主要目的是了解兩個樣本之間是否有顯研究者的主要目的是了解兩個樣本之間是否有顯著差異存在。這個檢驗的著差異存在。這個檢驗的前提如下前提如下。 兩個樣本應是兩個樣本應是互相獨立的互相獨立的，即從一總體中抽取一，即從一總體中

3、抽取一批樣本對從另一總體中抽取一批樣本沒有任何影批樣本對從另一總體中抽取一批樣本沒有任何影響，兩組樣本個案數(shù)目可以不同，個案順序可以響，兩組樣本個案數(shù)目可以不同，個案順序可以隨意調(diào)整。隨意調(diào)整。 樣本來自的兩個總體應該樣本來自的兩個總體應該服從正態(tài)分布服從正態(tài)分布。實例2 研究問題研究問題 分析分析A、B兩所高校大一學生的高考數(shù)學成兩所高校大一學生的高考數(shù)學成績之間是否存在顯著性差異?？冎g是否存在顯著性差異。1.3 兩配對樣本的T檢驗 定義：兩配對樣本定義：兩配對樣本T檢驗是根據(jù)樣本數(shù)據(jù)對檢驗是根據(jù)樣本數(shù)據(jù)對樣本來自的兩配對總體的均值是否有顯著樣本來自的兩配對總體的均值是否有顯著性差異進行推

4、斷。性差異進行推斷。 一般用于同一研究對象（或兩配對對象）一般用于同一研究對象（或兩配對對象）分別給予兩種不同處理的效果比較，以及分別給予兩種不同處理的效果比較，以及同一研究對象（或兩配對對象）處理前后同一研究對象（或兩配對對象）處理前后的效果比較。的效果比較。 兩配對樣本兩配對樣本T檢驗的檢驗的前提要求如下前提要求如下。 兩個樣本應是兩個樣本應是配對的配對的。在應用領(lǐng)域中，。在應用領(lǐng)域中，主要的配對資料包括：具有年齡、性別、主要的配對資料包括：具有年齡、性別、體重、病況等非處理因素相同或相似者。體重、病況等非處理因素相同或相似者。首先兩個樣本的觀察數(shù)目相同，其次兩樣首先兩個樣本的觀察數(shù)目相同

5、，其次兩樣本的觀察值順序不能隨意改變。本的觀察值順序不能隨意改變。 樣本來自的兩個總體應樣本來自的兩個總體應服從正態(tài)分布服從正態(tài)分布 實例3 研究問題研究問題 研究一個班同學在參加了暑期數(shù)學、化學研究一個班同學在參加了暑期數(shù)學、化學培訓班后，學習成績是否有顯著變化。數(shù)培訓班后，學習成績是否有顯著變化。數(shù)據(jù)如表據(jù)如表3所示。所示。 2 方差分析2.1 單因素方差分析單因素方差分析 定義：單因素方差分析測試某一個控制變量定義：單因素方差分析測試某一個控制變量的不同水平是否給觀察變量造成了顯著差的不同水平是否給觀察變量造成了顯著差異和變動。異和變動。 例如，培訓是否給學生成績造成了顯著影例如，培訓是

6、否給學生成績造成了顯著影響；不同地區(qū)的考生成績是否有顯著的差響；不同地區(qū)的考生成績是否有顯著的差異等。異等。 由于方差分析有一個比較嚴格的由于方差分析有一個比較嚴格的前提條件前提條件，即不同水平下，各總體均值服從方差相同即不同水平下，各總體均值服從方差相同的正態(tài)分布，因此方差分析問題就轉(zhuǎn)換成的正態(tài)分布，因此方差分析問題就轉(zhuǎn)換成研究不同水平下各個總體的均值是否有顯研究不同水平下各個總體的均值是否有顯著差異的問題。著差異的問題。 實例4 研究問題研究問題 分析三組學生的成績是否有顯著性差異，表5 人人 名名數(shù)數(shù) 學學組組 別別hxh99.000yaju88.000yu99.000shizg89.0

7、00hah94.000s90.000watet79.002jess56.002wish89.0022_new199.0022_new270.0022_new389.0022_new455.0012_new550.0012_new667.0012_new767.0012_new856.0012_new956.0012.2 多因素方差分析 定義：多因素方差分析中的定義：多因素方差分析中的控制變量在兩個控制變量在兩個或兩個以上或兩個以上，它的研究目的是要分析多個，它的研究目的是要分析多個控制變量的作用、多個控制變量的交互作控制變量的作用、多個控制變量的交互作用以及其他隨機變量是否對結(jié)果產(chǎn)生了顯用以及

8、其他隨機變量是否對結(jié)果產(chǎn)生了顯著影響。著影響。 例如，在本章開始講述的例子，在獲得教例如，在本章開始講述的例子，在獲得教學效果的時候，不僅單純考慮教學方法，學效果的時候，不僅單純考慮教學方法，還要考慮不同風格教材的影響，因此這是還要考慮不同風格教材的影響，因此這是兩個控制變量交互作用的效果檢驗兩個控制變量交互作用的效果檢驗 研究問題研究問題 組別和性別對數(shù)學成績是否存在顯著性的差異人人 名名數(shù)數(shù) 學學組組 別別性性 別別hxh99.000maleyaju88.000femaleyu99.000maleshizg89.000malehah94.000females90.000malewatet7

9、9.002malejess56.002femalewish89.002male2_new199.002male2_new270.002female2_new389.002male2_new455.001female2_new550.001male2_new667.001female2_new767.001male2_new856.001female2_new956.001male3 相關(guān)分析相關(guān)分析 相關(guān)系數(shù)的取值范圍在相關(guān)系數(shù)的取值范圍在1和和+1之間，即之間，即1r+1。其中：。其中： 若若0r1，表明變量之間存在正相關(guān)關(guān)，表明變量之間存在正相關(guān)關(guān)系，即兩個變量的相隨變動方向相同系，即兩個

10、變量的相隨變動方向相同 若若1r0，表明變量之間存在負相關(guān)關(guān)，表明變量之間存在負相關(guān)關(guān)系，即兩個變量的相隨變動方向相反；系，即兩個變量的相隨變動方向相反； 實例5 研究問題研究問題 某班級學生數(shù)學和化學的期末考試成績某班級學生數(shù)學和化學的期末考試成績?nèi)绫砣绫?所示，現(xiàn)要研究該班學生的數(shù)學和化所示，現(xiàn)要研究該班學生的數(shù)學和化學成績之間是否具有相關(guān)性。學成績之間是否具有相關(guān)性。 3.2 定序數(shù)據(jù)的相關(guān)分析 定義：定序變量又稱為有序（定義：定序變量又稱為有序（ordinal）變）變量、順序變量，它取值的大小能夠表示觀量、順序變量，它取值的大小能夠表示觀測對象的某種順序關(guān)系（等級、方位或大測對象的某種

11、順序關(guān)系（等級、方位或大小等），也是基于小等），也是基于“質(zhì)質(zhì)”因素的變量。因素的變量。 例如，例如，“最高學歷最高學歷”變量的取值是：變量的取值是：1小小學及以下、學及以下、2初中、初中、3高中、中專、技高中、中專、技校、校、4大學?？?、大學專科、5大學本科、大學本科、6研究研究生以上。由小到大的取值能夠代表學歷由生以上。由小到大的取值能夠代表學歷由低到高低到高 實例6 研究問題研究問題 某語文老師先后兩次對其班級學生同一某語文老師先后兩次對其班級學生同一篇作文加以評分，兩次成績分別記為變量篇作文加以評分，兩次成績分別記為變量“作文作文1”和和“作文作文2”，數(shù)據(jù)如表，數(shù)據(jù)如表6所示。問所示

12、。問兩次評分的等級相關(guān)有多大，是否達到顯兩次評分的等級相關(guān)有多大，是否達到顯著水平？著水平？ 4 聚類分析 聚類分析又稱群分析，它是研究分類問題的一聚類分析又稱群分析，它是研究分類問題的一種多元統(tǒng)計方法。所謂類，通俗地說，就是指相似種多元統(tǒng)計方法。所謂類，通俗地說，就是指相似元素的集合。那么要將相似元素聚為一類，通常選元素的集合。那么要將相似元素聚為一類，通常選取元素的許多共同指標，然后通過分析元素的指標取元素的許多共同指標，然后通過分析元素的指標值來分辨元素間的差距，從而達到分類的目的。值來分辨元素間的差距，從而達到分類的目的。 聚類分析可以分為：聚類分析可以分為：Q型（樣品分類）分類、型（

13、樣品分類）分類、R型（指標分類）分類。這里介紹的是型（指標分類）分類。這里介紹的是Q型（樣型（樣品分類）分類。品分類）分類。 聚類分析的方法，主要有兩種，一種是聚類分析的方法，主要有兩種，一種是“快速聚類分析方法快速聚類分析方法”（KMeans Cluster Analy- sis），另一種是），另一種是“層次聚類層次聚類分析方法分析方法”（Hierarchical Cluster Analysis）。）。 如果觀察值的個數(shù)多或文件非常龐大（通如果觀察值的個數(shù)多或文件非常龐大（通常觀察值在常觀察值在200個以上），則宜采用快速聚個以上），則宜采用快速聚類分析方法。因為觀察值數(shù)目巨大，層次類分析

14、方法。因為觀察值數(shù)目巨大，層次聚類分析的兩種判別圖形會過于分散，不聚類分析的兩種判別圖形會過于分散，不易解釋。易解釋。 進行聚類分析時，由于對類與類之間的距進行聚類分析時，由于對類與類之間的距離的定義和理解不同，并類的過程中又會離的定義和理解不同，并類的過程中又會產(chǎn)生不同的聚類方法。常用的系統(tǒng)聚類方產(chǎn)生不同的聚類方法。常用的系統(tǒng)聚類方法有法有8種：最短距離法；最長距離法；中間種：最短距離法；最長距離法；中間距離法；重心法；類平均法；可變類平均距離法；重心法；類平均法；可變類平均法；可變法；離差平方和法。法；可變法；離差平方和法。 實例7 研究問題研究問題 對一個班同學的數(shù)學水平進行聚類。聚類對

15、一個班同學的數(shù)學水平進行聚類。聚類的依據(jù)是第一次數(shù)學考試的成績和入學考的依據(jù)是第一次數(shù)學考試的成績和入學考試的成績。數(shù)據(jù)如表試的成績。數(shù)據(jù)如表9所示。所示。實例8 研究問題研究問題 對一個班同學的各科成績進行聚類，分析對一個班同學的各科成績進行聚類，分析哪些課程是屬于一個類的。聚類的依據(jù)是哪些課程是屬于一個類的。聚類的依據(jù)是4門功課的考試成績，數(shù)據(jù)如表門功課的考試成績，數(shù)據(jù)如表8所示。所示。實例9 研究問題研究問題 為研究不同公司的運營特點，調(diào)查了為研究不同公司的運營特點，調(diào)查了15個公司的組織文化、組織氛圍、領(lǐng)導角色個公司的組織文化、組織氛圍、領(lǐng)導角色和員工發(fā)展和員工發(fā)展4方面的內(nèi)容。現(xiàn)要將

16、這方面的內(nèi)容?，F(xiàn)要將這15個公個公司按照其各自的特點分成司按照其各自的特點分成4種類型，數(shù)據(jù)如種類型，數(shù)據(jù)如表表8所示。所示。5 判別分析判別分析 判別分析方法最初應用于考古學判別分析方法最初應用于考古學, 例如要根據(jù)挖掘例如要根據(jù)挖掘出來的人頭蓋骨的各種指標來判別其性別年齡等出來的人頭蓋骨的各種指標來判別其性別年齡等. 近年來近年來, 在生物學分類在生物學分類, 醫(yī)療診斷醫(yī)療診斷, 地質(zhì)找礦地質(zhì)找礦, 石油石油鉆探鉆探, 天氣預報等許多領(lǐng)域天氣預報等許多領(lǐng)域, 判別分析方法已經(jīng)成判別分析方法已經(jīng)成為一種有效的統(tǒng)計推斷方法。為一種有效的統(tǒng)計推斷方法。 判別分析是一種在一些已知研究對象用某種方法

17、判別分析是一種在一些已知研究對象用某種方法已經(jīng)分成若干類的情況下，確定新的樣品的觀測已經(jīng)分成若干類的情況下，確定新的樣品的觀測數(shù)據(jù)屬于哪一類的統(tǒng)計分析方法。數(shù)據(jù)屬于哪一類的統(tǒng)計分析方法。 為了能識別待判斷的對象為了能識別待判斷的對象x = (x1, x2, xm)T是屬于已知是屬于已知類類A1, A2, Ar中的哪一類？中的哪一類？ 事先必須要有一個一般規(guī)則事先必須要有一個一般規(guī)則, 一旦知道了一旦知道了x的值的值, 便能根據(jù)便能根據(jù)這個規(guī)則立即作出判斷這個規(guī)則立即作出判斷, 稱這樣的一個規(guī)則為判別規(guī)則稱這樣的一個規(guī)則為判別規(guī)則(用用于衡量待判對象與各已知類別接近程度的方法準則于衡量待判對象與

18、各已知類別接近程度的方法準則)。 判別規(guī)則往往通過的某個函數(shù)來表達判別規(guī)則往往通過的某個函數(shù)來表達, 我們把它稱為判別我們把它稱為判別函數(shù)函數(shù), 記作記作W(i; x). 常用的方法有：距離判別法、常用的方法有：距離判別法、Fisher判別法、貝判別法、貝葉斯判別法、逐步判別法。葉斯判別法、逐步判別法。判別分析的步驟Step1:進行分類Step2:根據(jù)原則建立判別函數(shù)Step3:確定判別準則Step4:檢驗判別效果Step5:將待判樣本歸類實例10 研究問題研究問題 調(diào)查了調(diào)查了15個公司的組織文化、領(lǐng)導角色和員個公司的組織文化、領(lǐng)導角色和員工發(fā)展工發(fā)展3個方面內(nèi)容作為預測變量，因變量個方面內(nèi)

19、容作為預測變量，因變量為公司對員工的吸引力。為符合研究問題，為公司對員工的吸引力。為符合研究問題，將公司對員工的吸引力根據(jù)被測的實際填將公司對員工的吸引力根據(jù)被測的實際填答情形，劃分為高吸引力組（答情形，劃分為高吸引力組（group=1）、）、中吸引力組（中吸引力組（group=2）和低吸引力組）和低吸引力組（group=3）。數(shù)據(jù)如表）。數(shù)據(jù)如表12所示。所示。實例11類別類別 國家國家 壽命壽命(X1) 成人識字率成人識字率%(X2) 調(diào)整后調(diào)整后GDP(X3)1 美國美國 76 99 5374 1 日本日本 79.5 99 53591 瑞士瑞士 78 99 5372 1 阿根廷阿根廷 7

20、2.1 95.9 5242 1 阿聯(lián)酋阿聯(lián)酋 73.8 77.7 5370 保加利亞保加利亞 71.2 93 4250 2 古巴古巴 75.3 94.9 34122 巴拉圭巴拉圭 70 91.2 33902 格魯吉亞格魯吉亞 72.8 99 2300 南非南非 62.9 80.6 3799待判樣品：待判樣品： 中國中國 68.5 79.3 1950 羅馬麗亞羅馬麗亞 69.9 96.9 2840 希臘希臘 77.6 93.8 5233 哥倫比亞哥倫比亞 69.3 90.3 5159自己試著輸入數(shù)據(jù)，并且判斷下面四個國家的歸屬？自己試著輸入數(shù)據(jù)，并且判斷下面四個國家的歸屬？6 主成分分析 假定你

21、是一個公司的財務經(jīng)理，掌握了公司的所假定你是一個公司的財務經(jīng)理，掌握了公司的所有數(shù)據(jù)，比如固定資產(chǎn)、流動資金、每一筆借貸有數(shù)據(jù)，比如固定資產(chǎn)、流動資金、每一筆借貸的數(shù)額和期限、各種稅費、工資支出、原料消耗、的數(shù)額和期限、各種稅費、工資支出、原料消耗、產(chǎn)值、利潤、折舊、職工人數(shù)、職工的分工和教產(chǎn)值、利潤、折舊、職工人數(shù)、職工的分工和教育程度等等。育程度等等。 如果讓你向上面介紹公司狀況，你能夠把這些指如果讓你向上面介紹公司狀況，你能夠把這些指標和數(shù)字都原封不動地擺出去嗎？標和數(shù)字都原封不動地擺出去嗎？ 當然不能。當然不能。 你必須要把各個方面作出高度概括，用一兩個指你必須要把各個方面作出高度概括

22、，用一兩個指標簡單明了地把情況說清楚。標簡單明了地把情況說清楚。 每個人都會遇到有很多變量的數(shù)據(jù)。每個人都會遇到有很多變量的數(shù)據(jù)。 比如全國或各個地區(qū)的帶有許多經(jīng)濟和社比如全國或各個地區(qū)的帶有許多經(jīng)濟和社會變量的數(shù)據(jù)；各個學校的研究、教學等會變量的數(shù)據(jù)；各個學校的研究、教學等各種變量的數(shù)據(jù)等等。各種變量的數(shù)據(jù)等等。 這些數(shù)據(jù)的共同特點是變量很多，在如此這些數(shù)據(jù)的共同特點是變量很多，在如此多的變量之中，有很多是相關(guān)的。人們希多的變量之中，有很多是相關(guān)的。人們希望能夠找出它們的少數(shù)望能夠找出它們的少數(shù)“代表代表”來對它們來對它們進行描述。進行描述。 在引進主成分分析之前，先看下面的例子。在引進主成

23、分分析之前，先看下面的例子。100個學生的數(shù)學、物理、化學、語文、歷史、英語個學生的數(shù)學、物理、化學、語文、歷史、英語的成績?nèi)缦卤恚ú糠郑?。的成績?nèi)缦卤恚ú糠郑?目前的問題是，能不能把這個數(shù)據(jù)的目前的問題是，能不能把這個數(shù)據(jù)的6個變個變量用一兩個綜合變量來表示呢？量用一兩個綜合變量來表示呢？ 這一兩個綜合變量包含有多少原來的信息這一兩個綜合變量包含有多少原來的信息呢？呢？ 能不能利用找到的綜合變量來對學生排序能不能利用找到的綜合變量來對學生排序呢？這一類數(shù)據(jù)所涉及的問題可以推廣到呢？這一類數(shù)據(jù)所涉及的問題可以推廣到對企業(yè)，對學校進行分析、排序、判別和對企業(yè)，對學校進行分析、排序、判別和分類等

24、問題分類等問題 一般來說，我們希望這些主成分能夠反映一般來說，我們希望這些主成分能夠反映原始變量的絕大部分信息原始變量的絕大部分信息(它們通常表示為它們通常表示為原始變量的某種線性組合原始變量的某種線性組合)，并具有最大的，并具有最大的方差。方差。7 因子分析 因子分析模型是主成分分析的推廣。它也是利用因子分析模型是主成分分析的推廣。它也是利用降維的思想，由研究原始變量相關(guān)矩陣內(nèi)部的依降維的思想，由研究原始變量相關(guān)矩陣內(nèi)部的依賴關(guān)系出發(fā)，把一些具有錯綜復雜關(guān)系的變量歸賴關(guān)系出發(fā)，把一些具有錯綜復雜關(guān)系的變量歸結(jié)為少數(shù)幾個綜合因子的一種多變量統(tǒng)計分析方結(jié)為少數(shù)幾個綜合因子的一種多變量統(tǒng)計分析方法

25、。法。 因子分析的思想始于因子分析的思想始于1904年年Charles Spearman對對學生考試成績的研究。近年來，隨著電子計算機學生考試成績的研究。近年來，隨著電子計算機的高速發(fā)展，人們將因子分析的理論成功地應用的高速發(fā)展，人們將因子分析的理論成功地應用于心理學、醫(yī)學、氣象、地質(zhì)、經(jīng)濟學等各個領(lǐng)于心理學、醫(yī)學、氣象、地質(zhì)、經(jīng)濟學等各個領(lǐng)域，也使得因子分析的理論和方法更加豐富。域，也使得因子分析的理論和方法更加豐富。 因子分析有如下特點。因子分析有如下特點。 （1）因子變量的數(shù)量遠少于原有的指標）因子變量的數(shù)量遠少于原有的指標變量的數(shù)量，對因子變量的分析能夠減少變量的數(shù)量，對因子變量的分析

26、能夠減少分析中的計算工作量。分析中的計算工作量。 （2）因子變量不是對原有變量的取舍，）因子變量不是對原有變量的取舍，而是根據(jù)原始變量的信息進行重新組構(gòu)，而是根據(jù)原始變量的信息進行重新組構(gòu)，它能夠反映原有變量大部分的信息。它能夠反映原有變量大部分的信息。 （3）因子變量之間不存在線性相關(guān)關(guān)系，）因子變量之間不存在線性相關(guān)關(guān)系，對變量的分析比較方便。對變量的分析比較方便。 （4）因子變量具有命名解釋性，即該變）因子變量具有命名解釋性，即該變量是對某些原始變量信息的綜合和反映。量是對某些原始變量信息的綜合和反映。 英國統(tǒng)計學家英國統(tǒng)計學家Moser Scott在在1961年對英國年對英國157個城鎮(zhèn)發(fā)展水平進行調(diào)查時，原始測量個城鎮(zhèn)發(fā)展水平進行調(diào)查時，原始測量的變量有的變量有57個，而通過因子分析發(fā)現(xiàn)，只個，而通過因子分析發(fā)現(xiàn)，只需要用需要用5個新的綜合變量（它們是原始變量個新的綜合變量（它們是原始變量的線性組合），就可以解釋的線性組合），就可以解釋95%的原始信的原始信息。對問題的研究從息。對問題的研究從57維度降低到維度降低到5個維度，個維度，因此可以進行更容易的分析。因此可以進行更容易