6第六章方差分析.ppt

1、第六章 方差分析,1,為什么要進行方差分析？,第五章中我們介紹了如何進行檢驗來確定兩個總體之間是否有顯著差異； 實際中還會遇到檢驗多個總體參數(shù)，如檢驗多個總體均值是否相等的問題； 當然也會遇到檢驗多個總體的多個變量之間是否相等的問題等等。 這時我們就要用到方差分析！,2,例: 某飲料生產(chǎn)企業(yè)研制出一種新型飲料.飲料的顏色共有四種:橘黃色、粉色、綠色和無色透明。這四種飲料的營養(yǎng)含量、味道、價格、包裝等可能影響銷售量的因素全部相同。現(xiàn)從地理位置相似、經(jīng)營規(guī)模相仿的五家超市上收集了該種飲料的銷售情況。,3,什么是方差分析?,該飲料在五家超市的銷售情況,4,什么是方差分析?,檢驗飲料的顏色對銷售量是否

2、有影響，也就是檢驗四種顏色飲料的平均銷售量是否相同 這一問題歸結為一個檢驗問題，即：檢驗飲料顏色對銷售量是否有影響？ 2. 設1為無色飲料的平均銷售量，2粉色飲料的平均銷售量，3為橘黃色飲料的平均銷售量，4為綠色飲料的平均銷售量，也就是檢驗下面的假設 H0: 1 2 3 4 H1: 1 , 2 , 3 , 4 不全相等 檢驗上述假設所采用的方法就是方差分析,5,方差分析的原理,從方差分析的目的看，是要檢驗四種顏色的飲料的銷售均值是否相等，我們可用方差比較的方法來判斷。 銷售的差異的產(chǎn)生來自兩個方面： 一方面是由不同顏色的差異造成的，既不同的飲料顏色對銷售量產(chǎn)生了影響 另一方面是由于抽選樣本的隨

3、機性而產(chǎn)生的差異，即各顏色內的隨機誤差，如相同顏色的飲料在不同的商場銷售量也不同。,6,方差分析的原理,這兩個方面產(chǎn)生的差異可以用兩個方差來計量： 一個稱為水平之間（組間）方差(組間平方和除以自由度(r-1)，r為組數(shù))， 一個稱為水平內部（組內）方差（組內平方和除以自由度（n-1)，n為樣本容量總數(shù)）。 水平之間的方差既包括系統(tǒng)性因素，也包括隨機性因素； 水平內部方差僅包括隨機性因素。,7,8,組內方差 因素的同一水平(同一個總體)下樣本數(shù)據(jù)的方差 比如，無色飲料A1在5家超市銷售數(shù)量的方差 組內方差只包含隨機誤差 組間方差 因素的不同水平(不同總體)下各樣本之間的方差 比如，A1、A2、A

4、3、A4四種顏色飲料銷售量之間的方差 組間方差既包括隨機誤差，也包括系統(tǒng)誤差,方差分析的基本思想和原理,隨機誤差 在因素的同一水平(同一個總體)下，樣本的各觀察值之間的差異 比如，同一種顏色的飲料在不同超市上的銷售量是不同的 不同超市銷售量的差異可以看成是隨機因素的影響，或者說是由于抽樣的隨機性所造成的，稱為隨機誤差 系統(tǒng)誤差 在因素的不同水平(不同總體)下，各觀察值之間的差異 比如，同一家超市，不同顏色飲料的銷售量也是不同的 這種差異可能是由于抽樣的隨機性所造成的，也可能是由于顏色本身所造成的，后者所形成的誤差是由系統(tǒng)性因素造成的，稱為系統(tǒng)誤差,9,該飲料在五家超市的銷售情況,10,11,首

5、先，四種顏色的銷售情況可看作為分為四個組：,方差分析的原理,如果不同的水平（飲料顏色）對結果沒有影響，那么在水平之間的方差中，就僅僅有隨機因素的差異，而沒有系統(tǒng)性差異， 它與水平內部方差就應該近似， 兩個方差的比值就會接近于1。,12,方差分析的原理,反之，水平之間的方差就會大于水平內的方差，當這個比值達到某個程度，或者說達到某臨界點，就可做出判斷，既不同的水平之間存在著顯著差異。 因此，方差分析就是通過不同方差的比價，做出拒絕原假設或不能拒絕原假設的判斷。,13,方差分析的原理,水平間的方差和水平內方差之比是一個統(tǒng)計量，這個統(tǒng)計量服從F分布：,14,15,自由度為（3，20）和（50，20）

6、的F-分布密度曲線圖。,方差分析的種類,單因素的方差分析 分析一個變量時 One-Way ANOVA 多因素的方差分析 Univariate 分析多個變量時，稱為多元方差分析 Multivariate,16,應用方差分析的條件,各組的觀察數(shù)據(jù)，要看作是從服從正態(tài)分布的總體隨機抽取的樣本； 各組的觀察數(shù)據(jù)，是從具有相同方差的相互獨立的總體中抽取得到的。,17,一元單因素方差分析,18,單因素方差分析的數(shù)據(jù)結構,19,20,單因素方差分析的步驟 提出假設 構造檢驗統(tǒng)計量 統(tǒng)計決策,提出假設,一般提法 H0: m1 = m2 = mk (因素有k個水平） H1: m1 ，m2 ， ，mk不全相等 對

7、前面的例子 H0: m1 = m2 = m3 = m4 顏色對銷售量沒有影響 H0: m1 ，m2 ，m3， m4不全相等 顏色對銷售量有影響,21,構造檢驗的統(tǒng)計量,為檢驗H0是否成立，需確定檢驗的統(tǒng)計量 構造統(tǒng)計量需要計算 水平的均值 全部觀察值的總均值 離差平方和 均方(MS),22,23,SST = SSE + SSA,構造檢驗的統(tǒng)計量(計算水平的均值 ),假定從第i個總體中抽取一個容量為ni的簡單隨機樣本，第i個總體的樣本均值為該樣本的全部觀察值總和除以觀察值的個數(shù) 計算公式為,24,式中： ni為第 i 個總體的樣本觀察值個數(shù) xij 為第 i 個總體的第 j 個觀察值,構造檢驗的

8、統(tǒng)計量(計算全部觀察值的總均值 ),全部觀察值的總和除以觀察值的總個數(shù) 計算公式為,25,構造檢驗的統(tǒng)計量(前例計算結果 ),26,構造檢驗的統(tǒng)計量(計算總離差平方和 SST),全部觀察值 與總平均值 的離差平方和 反映全部觀察值的離散狀況 其計算公式為,27,前例的計算結果： SST = (26.5-28.695)2+(28.7-28.695)2+(32.8-28.695)2 =115.9295,構造檢驗的統(tǒng)計量(計算誤差項平方和 SSE),每個水平或組的各樣本數(shù)據(jù)與其組平均值的離差平方和 反映每個樣本各觀察值的離散狀況，又稱組內離差平方和 該平方和反映的是隨機誤差的大小 計算公式為,28,

9、前例的計算結果：SSE = 39.084,構造檢驗的統(tǒng)計量(計算水平項平方和 SSA),各組平均值 與總平均值 的離差平方和 反映各總體的樣本均值之間的差異程度，又稱組間平方和 該平方和既包括隨機誤差，也包括系統(tǒng)誤差 計算公式為,29,前例的計算結果：SSA = 76.8455,構造檢驗的統(tǒng)計量(三個平方和的關系),總離差平方和(SST)、誤差項離差平方和(SSE)、水平項離差平方和 (SSA) 之間的關系,30,SST = SSE + SSA,構造檢驗的統(tǒng)計量(三個平方和的作用),SST反映了全部數(shù)據(jù)總的誤差程度；SSE反映了隨機誤差的大小；SSA反映了隨機誤差和系統(tǒng)誤差的大小 如果原假設成

10、立，即H1 H2 Hk為真，則表明沒有系統(tǒng)誤差，組間平方和SSA除以自由度后的均方與組內平方和SSE和除以自由度后的均方差異就不會太大；如果組間均方顯著地大于組內均方，說明各水平(總體)之間的差異不僅有隨機誤差，還有系統(tǒng)誤差 判斷因素的水平是否對其觀察值有影響，實際上就是比較組間方差與組內方差之間差異的大小 為檢驗這種差異，需要構造一個用于檢驗的統(tǒng)計量,31,構造檢驗的統(tǒng)計量(計算均方 MS),各離差平方和的大小與觀察值的多少有關，為了消除觀察值多少對離差平方和大小的影響，需要將其平均，這就是均方，也稱為方差 計算方法是用離差平方和除以相應的自由度 三個平方和的自由度分別是 SST 的自由度為

11、n-1，其中n為全部觀察值的個數(shù) SSA的自由度為k-1，其中k為因素水平(總體)的個數(shù) SSE 的自由度為n-k,32,構造檢驗的統(tǒng)計量(計算均方 MS),SSA的均方也稱組間方差，記為MSA，計算公式為,33,SSE的均方也稱組內方差，記為MSE，計算公式為,構造檢驗的統(tǒng)計量(計算檢驗的統(tǒng)計量 F ),將MSA和MSE進行對比，即得到所需要的檢驗統(tǒng)計量F 當H0為真時，二者的比值服從分子自由度為k-1、分母自由度為 n-k 的 F 分布，即,34,構造檢驗的統(tǒng)計量(F分布與拒絕域),35,如果均值相等，F(xiàn)=MSA/MSE1,統(tǒng)計決策, 將統(tǒng)計量的值F與給定的顯著性水平的臨界值F進行比較，作

12、出接受或拒絕原假設H0的決策 根據(jù)給定的顯著性水平，在F分布表中查找與第一自由度df1k-1、第二自由度df2=n-k 相應的臨界值 F 若FF ，則拒絕原假設H0 ，表明均值之間的差異是顯著的，所檢驗的因素(A)對觀察值有顯著影響 若FF ，則不能拒絕原假設H0 ，表明所檢驗的因素(A)對觀察值沒有顯著影響,36,單因素方差分析表(基本結構),37,MSE,單因素方差分析（一個例子）,38,【例】為了對幾個行業(yè)的服務質量進行評價，消費者協(xié)會在零售業(yè)、旅游業(yè)、航空公司、家電制造業(yè)分別抽取了不同的樣本，其中零售業(yè)抽取7家，旅游業(yè)抽取了6家，航空公司抽取5家、家電制造業(yè)抽取了5家，然后記錄了一年中

13、消費者對總共23家服務企業(yè)投訴的次數(shù)，結果如表。試分析這四個行業(yè)的服務質量是否有顯著差異？(0.05),單因素方差分析（一個例子）,39,40,41,2008年8月,關系強度的測量,拒絕原假設表明因子(自變量)與觀測值之間有顯著關系 組間平方和(SS組間)度量了自變量(超市位置)對因變量(銷售額)的影響效應 當組間平方和比組內平方和(SSE)大，而且大到一定程度時，就意味著兩個變量之間的關系顯著，大得越多，表明它們之間的關系就越強。反之，就意味著兩個變量之間的關系不顯著，小得越多，表明它們之間的關系就越弱,2008年8月,關系強度的測量,變量間關系的強度用自變量平方和(SS組間) 占總平方和(

14、SST)的比例大小來反映 自變量平方和占總平方和的比例記為R2 ,即 其平方根R可以用來測量兩個變量之間的關系強度,例題分析：R2=44.74%，R=0.6689。表明超市位置(自變量)對銷售額(因變量)的影響效應占總效應的44.74%。盡管并不高，但超市位置對銷售額的影響都已經(jīng)達到了統(tǒng)計上顯著的程度。R表明超市位置與銷售額之間已達到中等以上的相關,方差分析中的多重比較,44,方差分析中的多重比較（作用）,多重比較是通過對總體均值之間的配對比較來進一步檢驗到底哪些均值之間存在差異 多重比較方法有多種，這里介紹Fisher提出的最小顯著差異方法，簡寫為LSD，該方法可用于判斷到底哪些均值之間有差

15、異 LSD方法是對檢驗兩個總體均值是否相等的t檢驗方法的總體方差估計加以修正(用MSE來代替)而得到的,45,方差分析中的多重比較（步驟）,提出假設 H0: mi = mj (第i個總體的均值等于第j個總體的均值) H1: mi mj (第i個總體的均值不等于第j個總體的均值) 檢驗的統(tǒng)計量為,46,若|t|t，拒絕H0；若|t|t，不能拒絕H0,方差分析中的多重比較（基于統(tǒng)計量xi-xj的LSD方法）,通過判斷樣本均值之差的大小來檢驗 H0 檢驗的統(tǒng)計量為 ：xi xj 檢驗的步驟為 提出假設 H0: mi = mj (第i個總體的均值等于第j個總體的均值) H1: mi mj (第i個總體

16、的均值不等于第j個總體的均值) 計算LSD,47,若|xi-xj|LSD，拒絕H0，若|xi-xj|LSD ，不能拒絕H0,方差分析中的多重比較（實例 ）,根據(jù)前面的計算結果: x1=27.3;x2=29.5; x3=26.4;x4=31.4 提出假設 H0: mi = mj ；H1: mi mj 計算LSD,48,方差分析中的多重比較（實例 ）,49,|x1-x2|= |27.3-29.5| =2.22.096 顏色1與顏色2的銷售量有顯著差異 |x1-x3|= |27.3-26.4| =0.92.096 顏色1與顏色4的銷售量有顯著差異 |x2-x3|= |29.5-26.4| =3.12

17、.096 顏色2與顏色3的銷售量有顯著差異 |x2-x4|= |29.5-31.4| =1.92.096 顏色3與顏色4的銷售量有顯著差異,Spss單因素方差分析的多重比較檢驗,通過上面的檢驗，我們只能判斷控制變量的不同水平是否對觀察變量產(chǎn)生了顯著影響。 我們還想進一步了解：究竟是哪一個水平對觀察變量產(chǎn)生了顯著影響，即那種顏色的飲料對銷售量有顯著影響。 這就是單因素方差分析的多重比較檢驗。,50,51,一元多因素方差分析,52,多因素方差分析 （一個例子）,53,【例】有四個品牌的彩電在五個地區(qū)銷售，為分析彩電的品牌(因素A)和銷售地區(qū)(因素B)對銷售量是否有影響，對每個品牌在各地區(qū)的銷售量取

18、得以下數(shù)據(jù)，見下表。試分析品牌和銷售地區(qū)對彩電的銷售量是否有顯著影響？,一、 不考慮交互作用,第三節(jié) 雙因子方差分析,2008年8月,雙因子方差分析(two-way analysis of variance),分析兩個因子(行因子Row和列因子Column)對實驗結果的影響 如果兩個因子對實驗結果的影響是相互獨立的，分別判斷行因子和列因子對實驗數(shù)據(jù)的影響，這時的雙因子方差分析稱為無交互作用的雙因子方差分析或無重復雙因子方差分析(Two-factor without replication) 如果除了行因子和列因子對實驗數(shù)據(jù)的單獨影響外，兩個因子的搭配還會對結果產(chǎn)生一種新的影響，這時的雙因子方差

19、分析稱為有交互作用的雙因子方差分析或可重復雙因子方差分析 (Two-factor with replication ),2008年8月,雙因子方差分析的基本假定,每個總體都服從正態(tài)分布 對于因子的每一個水平，其觀察值是來自正態(tài)分布總體的簡單隨機樣本 各個總體的方差必須相同 對于各組觀察數(shù)據(jù)，是從具有相同方差的總體中抽取的 觀察值是獨立的,2008年8月,雙因子方差分析 (例題分析),【例】有4個品牌的彩電在5個地區(qū)銷售，為分析彩電的品牌(品牌因子)和銷售地區(qū)(地區(qū)因子)對銷售量的影響，對每顯著個品牌在各地區(qū)的銷售量取得以下數(shù)據(jù)。試分析品牌和銷售地區(qū)對彩電的銷售量是否有顯著影響？(=0.05),

20、2008年8月,分析步驟(提出假設),提出假設 對行因子提出的假設為 H0：m1 = m2 = = mi = = mk (mi為第i個水平的均值) H1：mi (i =1,2, , k) 不全相等 對列因子提出的假設為 H0： m1 = m2 = = mj = = mr (mj為第j個水平的均值) H1： mj (j =1,2,r) 不全相等,2008年8月,雙因子方差分析(例題分析), 提出假設 對品牌因子提出的假設為 H0：m1=m2=m3=m4 (品牌對銷售量無顯著影響) H1：mi (i =1,2, , 4) 不全相等 (有顯著影響) 對地區(qū)因子提出的假設為 H0：m1=m2=m3=m

21、4=m5 (地區(qū)對銷售量無顯著影響) H1：mj (j =1,2,5) 不全相等 (有顯著影響),2008年8月,分析步驟(構造檢驗的統(tǒng)計量),計算平方和(SS) 總誤差平方和 行因子誤差平方和 列因子誤差平方和 隨機誤差項平方和,2008年8月,分析步驟(構造檢驗的統(tǒng)計量), 總誤差平方和(SST )、行因子平方和 (SS行)、列因子平方和(SS列) 、誤差項平方和(SS殘差) 之間的關系,SST = SS行 +SS列+SS殘差,2008年8月,分析步驟(構造檢驗的統(tǒng)計量),計算均方(MS) 誤差平方和除以相應的自由度 三個平方和的自由度分別是 總誤差平方和SST的自由度為 kr-1 行因子

22、平方和SSR的自由度為 k-1 列因子平方和SSC的自由度為 r-1 誤差項平方和SSE的自由度為 (k-1)(r-1),2008年8月,分析步驟(構造檢驗的統(tǒng)計量),計算均方(MS) 行因子的均方，記為MS行，計算公式為 列因子的均方，記為MS列，計算公式為 誤差項的均方，記為MS殘差 ，計算公式為,2008年8月,分析步驟(構造檢驗的統(tǒng)計量),計算檢驗統(tǒng)計量( F ) 檢驗行因子的統(tǒng)計量 檢驗列因子的統(tǒng)計量,2008年8月,分析步驟(做出決策), 計算出統(tǒng)計量的P值與給定的顯著性水平比較， 若PR ，拒絕原假設H0 ，表明均值之間的差異是顯著的，即所檢驗的行因子對觀察值有顯著影響 若PC

23、，拒絕原假設H0 ，表明均值之間有顯著差異，即所檢驗的列因子對觀察值有顯著影響,2008年8月,雙因子方差分析(關系強度的測量),行平方和(SS行)度量了品牌這個自變量對因變量(銷售量)的影響效應 列平方和(SS列)度量了地區(qū)這個自變量對因變量(銷售量)的影響效應 這兩個平方和加在一起則度量了兩個自變量對因變量的聯(lián)合效應 聯(lián)合效應與總平方和的比值定義為R2 其平方根R反映了這兩個自變量合起來與因變量之間的關系強度,2008年8月,雙因子方差分析(關系強度的測量),例題分析 品牌因子和地區(qū)因子合起來總共解釋了銷售量差異的83.94% 其他因子(殘差變量)只解釋了銷售量差異的16.06% R=0.

24、9162，表明品牌和地區(qū)兩個因子合起來與銷售量之間有較強的關系,二、 考慮交互作用,第三節(jié) 雙因子方差分析,2008年8月,可重復雙因子分析(提出假設),提出假設 對行因子提出的假設為 H0：m1 = m2 = = mi = = mk (mi為第i個水平的均值) H1：mi (i =1,2, , k) 不全相等 對列因子提出的假設為 H0： m1 = m2 = = mj = = mr (mj為第j個水平的均值) H1： mj (j =1,2,r) 不全相等 對交互作用的假設為 H0：無交互作用 H1： 有交互作用,2008年8月,可重復雙因子分析(平方和的計算),總平方和： 行變量平方和： 列

25、變量平方和： 交互作用平方和： 誤差項平方和：,SST=SS行+SS列+SS交互+SS殘差,2008年8月,可重復雙因子分析(構造檢驗統(tǒng)計量),檢驗行因子的統(tǒng)計量 檢驗列因子的統(tǒng)計量 檢驗交互作用的統(tǒng)計量,計算出統(tǒng)計量的P值，若P，拒絕原假設,2008年8月,可重復雙因子分析(例題分析),【例】檢驗超市位置、競爭者數(shù)量及其交互作用對銷售額是否有顯著影響(=0.05),一元多因素方差分析,例: 某商家有如下的數(shù)據(jù)，研究這個問題的主要目的是看銷售額是否受到促銷方式、售后服務和獎金這三個自變量的影響，以及怎樣的影響。 Dependent variable因變量:銷售額 Factor因素:促銷方式、售

26、后服務 Covariate協(xié)變量：獎金 數(shù)據(jù)文件：Sales.sav,73,74,一元多因素方差分析,當有兩個或兩個以上因素，進行方差分析時，不僅要考慮每個因素的主效應，往往還要考慮因素與因素之間的交互效應。 主效應就是每個因素對因變量的單獨影響， 而交互效應是當兩個或更多的因素的某些水平同時出現(xiàn)時除了主效應之外的附加影響。,75,只考慮主效應的方差分析,首先假定自變量受到的僅僅有不同因素的主效應（main effect）而沒有交互效應（interaction）和協(xié)變量的影響。 即： 因變量=因素A主效應+因素B的主效應 +隨機誤差項 銷售額=促銷方式+售后服務+隨機誤差項,76,只考慮主效應

27、的方差分析,以我們例子來說，當只考慮主效應時，假定主動促銷比被動促銷可以多產(chǎn)生8萬元效益，而有售后服務比沒有售后服務多產(chǎn)生9萬元效益。那么在沒有交互作用時，同時采取主動促銷和售后服務會產(chǎn)生8917萬元的效益（稱為可加的）。 但如果存在交互效應，那么同時采取主動促銷和售后服務會產(chǎn)生一個附加的效應即交互效應（一般來說也可能是正面的，也可能是負面的），這時的總效應就不是17萬元了。,77,沒有交互作用的模型可以從下面點圖中直觀看出。圖中下面一條折線連接了沒有售后服務時三種促銷狀況的銷售均值，而上面一條連接了有售后服務時三種促銷狀況的銷售均值。由于模型選擇為無交互作用，所以這兩條線是平行的。從該圖可以看出，兩個因子效應綜合效應是簡單的加法。,78,考慮交互效應的方差分析,考慮交互效應的方差分析為： 因變量=因素A主效應+因素B的主效應 +因素A與B的交互效應+隨機誤差 即： 銷售額=促銷方式+售后服務 +促銷方式與售后服務的交互效應 + 隨機誤差項,79,考慮協(xié)變量的多因素方差分析,在進行方差分析時，要求控制變量（因素）是可控的， 但實際中，有些因素的不同水平很難人為控制，但他們確確實實對觀測變量產(chǎn)生顯著的影響。 在方差分析中如果忽略這些因素的存在，而單單去分析其他因素