MANOVA多響應變量方差綜合分析和計算實例

1、MANOVA多響應變量方差綜合分析和計算實例MANOVA多響應變量方差綜合分析和計算實例第一部分：MANOVA相關基本知識 高曉霞第二部分：MANOVA原理 柯錦秀第三部分：MANOVA實際操作(SPSS) 李帥多元方差分析 MANOVAMANOVA多響應變量方差綜合分析和計算實例相關統(tǒng)計方法的回顧MANOVA基本介紹線性代數(shù)基礎知識回顧MANOVA 基本統(tǒng)計量 高曉霞第一部分：MANOVA相關基本知識MANOVA多響應變量方差綜合分析和計算實例1. 相關統(tǒng)計方法 回顧 t-檢驗 一個自變量、一個響應變量，檢驗兩個樣本(k=2)的平均值差異程度，適用于較小樣本(樣本量:2)樣本均值，檢驗一個或

2、多個自變量對一個響應變量所產(chǎn)生的效應是否有顯著差異。 方差分析在功能上是t-檢驗的推廣。MANOVA多響應變量方差綜合分析和計算實例1. 相關統(tǒng)計方法 回顧1.2.1 單因素方差分析(One-way ANOVA) 主要用于檢驗一個自變量、多個水平或多個處理對所研究的一個響應變量的影響。Eg：四組光照條件不同的樣地中野生高山烏頭的生長速率有無差異？MANOVA多響應變量方差綜合分析和計算實例1. 相關統(tǒng)計方法 回顧1.2.2 多因素方差分析(Multi-factor ANOVA) 檢驗兩個及以上自變量、多個水平或多個處理對所研究的一個響應變量的影響。Eg：四組光照與水分均不相同的樣地中野生高山烏

3、頭的生長速率有無差異？MANOVA多響應變量方差綜合分析和計算實例1. 相關統(tǒng)計方法 回顧1.3 協(xié)方差分析(ANCOVA) 先用回歸方法消除協(xié)變量對單一響應變量的影響(協(xié)變量與響應變量之間存在線性關系)，再用方差分析方法對自變量的影響作出統(tǒng)計推斷。Eg：考慮野生高山烏頭的初始重量對其生長速度存在影響，分析不同光照條件的樣地中不同初始重量的野生高山烏頭生長速率有無差異？MANOVA多響應變量方差綜合分析和計算實例 新問題 四組光照條件不同的樣地中野生高山烏頭的分株數(shù)(克隆大小)、重量以及株高有無差異？多元方差分析Multivariate Analysis of VarianceMANOVA多響

4、應變量方差綜合分析和計算實例 2. MANOVA 基本介紹 針對一個或多個自變量、多個水平或多個處理、存在兩個或兩個以上響應變量的數(shù)據(jù)的方差分析。 在考慮多個響應變量時，MANOVA把多個響應變量看成一個整體，分析自變量對多個響應變量整體的影響，檢驗不同因素水平下響應變量整體的組間差異是否顯著。MANOVA多響應變量方差綜合分析和計算實例 2. MANOVA 基本介紹多元方差分析的基本思想 與單因素ANOVA的平方和分解一樣(將總體方差分解為組間方差和和組內(nèi)方差) MANOVA將響應變量的整體差異分解為兩部分： 組間差異(處理效應) 組內(nèi)差異(誤差效應) 對這兩部分差異進行分析比較。MANOV

5、A多響應變量方差綜合分析和計算實例 2. MANOVA 基本介紹是否可用多次ANOVA檢驗代替MANOVA檢驗？理論上可以對各個因變量單獨進行方差分析，但這種處理存在弊端： 犯第一類錯誤的概率增大，檢驗效率低； 一元分析結果不一致時，難以下結論； 忽略了響應變量間相關關系； 有時多個觀察指標的聯(lián)合分布存在差異，但單獨對每個指標進行統(tǒng)計學檢驗時卻沒有統(tǒng)計學意義；反之亦然。類似ANOVA和多個單獨t-檢驗間的關系MANOVA多響應變量方差綜合分析和計算實例 2. MANOVA 基本介紹2.2 適用情況比較T-test ANOVA MAVOVA目的檢驗兩組均值是否差異檢驗k組(k2)以上均值是否有差

6、異檢驗k組間在兩個以上響應變量間是否有差異樣本個數(shù)k=2k2k2自變量一個一個或多個一個或多個響應變量一個一個多個MANOVA多響應變量方差綜合分析和計算實例 2. MANOVA 基本介紹2.3 MANOVA數(shù)據(jù)要求若響應變量間相關，相關關系應為線性；若響應變量間不是線性相關，則應把非線性關系線性化。樣本規(guī)模：要求總樣本量和各分組樣本量都足夠大不能出現(xiàn)較多缺失量測值(若數(shù)據(jù)缺失較多，不宜取得準確結果)各組樣本數(shù)最好不要差別太大。MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧行列式是一個數(shù)值。根據(jù)由n2個數(shù)aij （i，j=1,2, n）排成的n行n列的數(shù)表而確定的n階

7、行列式記作D，簡記作det(aij)。MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.1 行列式n階行列式的定義：由n2個數(shù)組成的n階行列式等于所有取自不同行不同列的n個元素的乘積的代數(shù)和。D=MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.1 行列式二階行列式的定義：三階行列式的定義：MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.2 向量向量：由n個實數(shù)ai（i=1,2, n）組成的有序數(shù)組（a1,a2,.,an），稱為n維向量，其中ai 稱為第i個分量。行向量，列向量。向量相加：同維、同向的向量才能相加；

8、對應分量各自相加。MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.3 矩陣矩陣：由mn個數(shù)aij（i=1,2,m; j=1,2,n）排成的m行n列的矩形數(shù)表，稱為一個mn矩陣。行與列相等的矩陣稱為方陣。對角矩陣：主對角線以外的所有元素全為零的方陣（n x n 陣）MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.3 矩陣單位陣：主對角線上的所有元素全為1的對角陣，記做1陣數(shù)量矩陣：主對角線上的所有元素全為的對角陣，記做陣MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.3 矩陣轉(zhuǎn)置矩陣：把矩陣A的行換成相應的列，得

9、到的新矩陣稱為A的轉(zhuǎn)置矩陣，記作AT或A。即A中的aij變?yōu)锳T中的aji。對稱矩陣：其轉(zhuǎn)置等于自身的方陣叫做對稱矩陣，就是稱A是對稱矩陣，則有A=AT。對稱矩陣aij= ajiMANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.4 矩陣加法MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.4 矩陣加法MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.5 矩陣減法MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.5 矩陣減法MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回

10、顧3.6 矩陣相乘定義A,B之積m行 l 列矩陣與 l 行n列矩陣的積為m行n列矩陣稱C為A 左乘 B，或 B 右乘 AMANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.6 矩陣相乘MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.6 矩陣相乘AB=MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.6 矩陣相乘相乘的條件：左矩陣的列數(shù)與右矩陣的行數(shù)相等不可乘！MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.7 矩陣相除 現(xiàn)設矩陣A、B，現(xiàn)在求A/B，但矩陣的除法不是直接放在分數(shù)線上計算，而

11、是引入一個新概念：逆矩陣。例如矩陣A的逆矩陣為A-1，則有AA-1=1一個矩陣的逆矩陣的求解方法是：先把一個單位矩陣放在目的矩陣的右邊，然后把左邊的矩陣通過初等行變換轉(zhuǎn)換為單位矩陣，此時右邊的矩陣就是我們要求的逆矩陣。MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.7 矩陣相除 一個矩陣的逆矩陣的求解方法是：先把一個單位矩陣放在目的矩陣的右邊，然后把左邊的矩陣通過初等行變換轉(zhuǎn)換為單位矩陣，此時右邊的矩陣就是我們要求的逆矩陣。MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.7 矩陣相除 MANOVA多響應變量方差綜合分析和計算實例3. 線性

12、代數(shù) 基本知識回顧3.7 矩陣相除 MANOVA多響應變量方差綜合分析和計算實例3. 線性代數(shù) 基本知識回顧3.8 特征根與特征向量 設A為n階方陣，X是n維列向量，如果存在數(shù)l,使方程AX=lX有非零解，則稱l為矩陣A的特征值，相應的非零解稱為A的屬于l的特征向量方程AX=lXAX-lX =O(A-lE)X=O即不論l取何值，方程AX=lX一定有解MANOVA多響應變量方差綜合分析和計算實例例如：對 ，取 l=4，代入方程AX= lX得 AX= 4X(A-4E)X=O(A-4E)X= O有非零解2022/8/6MANOVA多響應變量方差綜合分析和計算實例所以，l=4是矩陣A的一個特征值對 ，

13、取 ，得一個基礎解系則方程(A-4E)X=O的全部解為：c為任意常數(shù)A的屬于l=4 的特征向量：c03. 線性代數(shù) 基本知識回顧2022/8/6MANOVA多響應變量方差綜合分析和計算實例求n階方陣A的特征值：數(shù)l0是A的特征值l0使方程AX= lX有非零解因此 ：l0是A的特征值l0使 成立求A的特征值步驟： (1) 計算n階行列式解得方程的根l1，l2， ，ln，則l1， l2， ，ln即是A的特征值2022/8/6MANOVA多響應變量方差綜合分析和計算實例設2022/8/6MANOVA多響應變量方差綜合分析和計算實例則方程 即 是的n次方程 在復數(shù)域上，方程 一定有 n個根。方程3.

14、線性代數(shù) 基本知識回顧A的特征多項式A的特征方程2022/8/6MANOVA多響應變量方差綜合分析和計算實例解：令 ， 得 l1 =-1，l2 =7則A的特征值為l1 =-1，l2 =7【例】求 的特征值3. 線性代數(shù) 基本知識回顧2022/8/6MANOVA多響應變量方差綜合分析和計算實例4. MANOVA 基本統(tǒng)計量4.1 均向量4.2 離均差平方和與離均差積和矩陣4.3 方差-協(xié)方差矩陣4.4 協(xié)方差陣與離差陣MANOVA多響應變量方差綜合分析和計算實例4. MANOVA 基本統(tǒng)計量12名中學生的身高、體重、胸圍測量資料編號身高(cm)y1體重(kg)y2胸圍(cm)y31171.058

15、.581.02175.065.087.03159.038.071.04155.345.074.05152.035.063.06158.344.575.07154.844.574.08164.051.072.09165.255.079.010164.546.071.011159.148.072.512164.246.573.0MANOVA多響應變量方差綜合分析和計算實例4. MANOVA 基本統(tǒng)計量4.1 均向量均向量(Vector of Means) 均向量的轉(zhuǎn)置MANOVA多響應變量方差綜合分析和計算實例4. MANOVA 基本統(tǒng)計量4.2 離差平方和與離差積和矩陣Sum of Square

16、s and Cross-Products matrix, SSCP 簡稱平方和陣MANOVA多響應變量方差綜合分析和計算實例4. MANOVA 基本統(tǒng)計量4.3 方差-協(xié)方差矩陣 方差-協(xié)方差矩陣(Variance-Covariance Matrix) 簡稱為協(xié)方差陣(covariance matrix)MANOVA多響應變量方差綜合分析和計算實例4. MANOVA 基本統(tǒng)計量4.4 平方和陣與協(xié)方差陣的關系V=SS/df（df = 11）MANOVA多響應變量方差綜合分析和計算實例第二部分：MANOVA原理 柯錦秀 MANOVA多響應變量方差綜合分析和計算實例 MANOVA 基本假定數(shù)據(jù)來自

17、隨機樣本，觀察值間獨立；各響應變量為正態(tài)分布且方差齊性；各響應變量的聯(lián)合分布為多元正態(tài)分布；任何兩組響應變量的協(xié)方差矩陣相同(球形性）;總樣本量(N)、響應變量組數(shù)(k)，組間處理水平數(shù)目(M) 必須滿足N-Mk。MANOVA多響應變量方差綜合分析和計算實例多元正態(tài)分布多元正態(tài)分布指的是多個響應變量之間的正態(tài)分布，它與單響應變量正態(tài)分布在形式上盡管不同，但有很多相似之處，實際上是單響應變量正態(tài)分布在多維上的推廣。49MANOVA多響應變量方差綜合分析和計算實例協(xié)方差矩陣協(xié)方差矩陣計算的是不同響應變量之間的協(xié)方差假設數(shù)據(jù)集有三個響應變量x,y,z，則協(xié)方差矩陣為:協(xié)方差矩陣是一個對稱的矩陣，而且

18、對角線是各個響應變量的方差。50MANOVA多響應變量方差綜合分析和計算實例協(xié)方差矩陣球形性協(xié)方差矩陣的球形性是指該對角線元素(方差)相等、非主對角線元素(協(xié)方差)相等。MANOVA多響應變量方差綜合分析和計算實例協(xié)方差矩陣球形性檢驗用 Mauchly 法 檢驗協(xié)方差陣是否滿足球形性 H0：資料符合球形要求 H1：資料不滿足球形要求檢驗的P值若大于研究者所選擇的顯著性水準時，說明協(xié)方差陣的球形性質(zhì)得到滿足。如不滿足“球?qū)ΨQ”假設，應用“球?qū)ΨQ”校正系數(shù)對受試對象內(nèi)所有變異的自由度進行校正。 (1) Geenhouse - Geisser 調(diào)整系數(shù)(G-G) (2) Huynh - Feldt

19、調(diào)整系數(shù)(H-F)MANOVA多響應變量方差綜合分析和計算實例 MANOVA 基本過程1確定原假設 p個響應變量 g個自變量水平多元方差分析的統(tǒng)計原假設的向量形式如下： u11 u12 u1g u21 u22 u2g H0: . = = = up1 up2 Upg 或者 H0:u1=u2=ugHa:u1, u2, ug不全相等 MANOVA多響應變量方差綜合分析和計算實例 Total Sum of Squares and Cross Products matrix，簡稱SSCP矩陣T，或T (離差平方和與離差積和矩陣) 。是ANOVA中Total sums of squares (SS)在多元

20、中的對應量。 SSCP矩陣T是由PP個元素組成的矩陣 g：自變量水平數(shù)；ni：每組處理中樣本個數(shù) 每個實驗單元p個響應變量所組成的向量與總平均向量之差，乘以此差的轉(zhuǎn)置陣，求和。 MANOVA 基本過程MANOVA多響應變量方差綜合分析和計算實例MANOVA 中總SSCP矩陣T的分解E: error SSCP（組內(nèi)矩陣）H: treat SSCP （組間矩陣） MANOVA 基本過程MANOVA多響應變量方差綜合分析和計算實例3列多元方差分析表N個樣本SSCPT= SH+SE來源df自由度SSCPWilks Lambda檢驗統(tǒng)計量組間g - 1H組內(nèi)N - gE總和N - 1T = H + E

21、MANOVA 基本過程MANOVA多響應變量方差綜合分析和計算實例 多元方差分析的四個檢驗統(tǒng)計量Pillais跡：恒為正數(shù)，值越大，表明該效應項對模型的貢 獻越大；WilksLambda：取值范圍在01之間，值越小，說明該效應項對模型的貢獻越大；Hotelling跡：檢驗矩陣特征根之和，其值總是比Pillais軌跡的值大。與Pillais軌跡相似，值越大貢獻越大；Roy最大根統(tǒng)計量：為檢驗矩陣特征根中最大值，因此它總是小于或等于Hotelling軌跡。 當模型建立的前提條件不滿足時，Pillais跡最為穩(wěn)健。 MANOVA 基本過程MANOVA多響應變量方差綜合分析和計算實例 多元方差分析的四

22、個檢驗統(tǒng)計量計算1.Pillais trace Pillais trace = fH(H+E)-12.Hotelling-Lawleys trace Hotelling-Lawleys trace = f(HE-1)3.Wilks lambda Wilks lambda = |E|/|H+E|4.Roys largest root Roys largest root = max(i) = the maximum eigenvalue of HE-1 MANOVA 基本過程MANOVA多響應變量方差綜合分析和計算實例4計算Wilks Lambda近似F值（判斷統(tǒng)計顯著性）其中： p個響應變量 g

23、個自變量水平 N個樣本個體 MANOVA 基本過程MANOVA多響應變量方差綜合分析和計算實例MANOVA與ANOVA過程比較 ANOVA原假設 MANOVA原假設H0：u1=u2=u3=uiUi 代表四組樣本的總體均值uAiuBiuCi各處理各組樣本總體均值的向量（矩陣）H0：uA1uB1Uc1 uA2uB2uC2 uA3uB3uC3 =MANOVA多響應變量方差綜合分析和計算實例 ANOVA總平方和的分解 SSerror : SSwithin Sstreat : SSbetween MANOVA總SSCP矩陣的分解E: error SSCPH: treat SSCPMANOVA與ANOVA

24、過程比較MANOVA多響應變量方差綜合分析和計算實例 ANOVA表來源d.f.SSMSF處理g - 1SStreatSStreat /(g - 1)MStreat/MSerror誤差N - gSSerrorSSerror /(N - g)總N - 1SStotal MANOVA表來源d.f.SSCP處理g - 1H誤差N - gE總N - 1TMANOVA與ANOVA過程比較MANOVA多響應變量方差綜合分析和計算實例 ANOVA統(tǒng)計顯著性判斷 MANOVA統(tǒng)計顯著性判斷通過比較計算的F值與查 臨界值表的F值判斷是否顯著。4個統(tǒng)計檢驗量；沒有與之相對的臨界值表；計算近似的F值，然后判斷。1.P

25、illais trace Pillais trace = fH(H+E)-12.Hotelling-Lawleys trace Hotelling-Lawleys trace = f(HE-1)3.Wilks lambda Wilks lambda = |E|/|H+E|4.Roys largest root Roys largest root = max(i) or the maximum eigenvalue of HE-1MANOVA與ANOVA過程比較MANOVA多響應變量方差綜合分析和計算實例 ANOVA post hoc comparison MANOVA post hoc com

26、parisonmultiple comparison ：Fishers LSDTukeys WStudent-Newman-KeulsDuncansScheffs S 備選方法：1 對各因變量(響應變量)分別進行方差分析(ANOVA).2 Scheff檢驗、Tukey檢驗、 Student-Newman-Keuls檢驗有多元的修正.MANOVA與ANOVA過程比較MANOVA多響應變量方差綜合分析和計算實例為了考查素質(zhì)教育是否會導致學生學習成績降低,某校對初中二年級兩個班各50名學生分別施以素質(zhì)教育模式和傳統(tǒng)(應試)教育模式教學,在一次模擬考試中收集了兩個班級學生的語文、數(shù)學、英語的考試成績,試做統(tǒng)計分析。（以上4種統(tǒng)計量計算公式比較復雜,僅以Wilks為例進一步說明多元分析方差分析的基本思想） MANOVA 計算實例MANOVA多響應變量方差綜合分析和計算實例 MANOVA 計算實例首先建立多元方差分析的假設。H0:各組總體均數(shù)向量相等,H1:各組總體均數(shù)向量不等或不全相等。對于此例,兩種教育模式學生的三種成績均數(shù)向量為:素質(zhì)教育:Y1=(73