方法因子分析法

1、因子分析根底理論知識(shí)1概念因子分析(Factor analysis):就是用少數(shù)幾個(gè)因子來(lái)描述許多指標(biāo)或因素之間的聯(lián)系, 以較少幾個(gè)因子來(lái)反映原資料的大局部信息的統(tǒng)計(jì)學(xué)分析方法.從數(shù)學(xué)角度來(lái)看,主成分分析是一種化繁為簡(jiǎn)的降維處理技術(shù).主成分分析(Principal component analysis):是因子分析的一個(gè)特例,是使用最多的因 子提取方法.它通過(guò)坐標(biāo)變換手段,將原有的多個(gè)相關(guān)變量,做線性變化,轉(zhuǎn)換為另外一組不相關(guān)的變量.選取前面幾個(gè)方差最大的主成分,這樣到達(dá)了因子分析較少變量個(gè)數(shù)的目的,同時(shí)又能與較少的變量反映原有變量的絕大局部的信息.兩者關(guān)系：主成分分析(PCA)和因子分析(F

2、A)是兩種把變量維數(shù)降低以便于描述、 理解和分析的方法,而實(shí)際上主成分分析可以說(shuō)是因子分析的一個(gè)特例.2特點(diǎn)(1)因子變量的數(shù)量遠(yuǎn)少于原有的指標(biāo)變量的數(shù)量,因而對(duì)因子變量的分析能夠減少 分析中的工作量.(2)因子變量不是對(duì)原始變量的取舍,而是根據(jù)原始變量的信息進(jìn)行重新組構(gòu),它能 夠反映原有變量大局部的信息.(3)因子變量之間不存在顯著的線性相關(guān)關(guān)系,對(duì)變量的分析比較方便,但原始局部 變量之間多存在較顯著的相關(guān)關(guān)系.(4)因子變量具有命名解釋性,即該變量是對(duì)某些原始變量信息的綜合和反映.在保證數(shù)據(jù)信息喪失最少的原那么下,對(duì)高維變量空間進(jìn)行降維處理(即通過(guò)因子分析或主成分分析).顯然,在一個(gè)低維空

3、間解釋系統(tǒng)要比在高維系統(tǒng)容易的多.3類型根據(jù)研究對(duì)象的不同,把因子分析分為R型和Q型兩種.當(dāng)研究對(duì)象是變量時(shí),屬于 R型因子分析；當(dāng)研究對(duì)象是樣品時(shí),屬于 Q型因子分析.但有的因子分析方法兼有 R型和Q型因子分析的一些特點(diǎn),如因子分析中的對(duì)應(yīng)分析 方法,有的學(xué)者稱之為雙重型因子分析,以示與其他兩類的區(qū)別.4分析原理假定：有n個(gè)地理樣本,每個(gè)樣本共有p個(gè)變量,構(gòu)成一個(gè) nx p階的地理數(shù)據(jù)矩陣XiiX12XipX21X22X2pXn1 xn2xnp當(dāng)p較大時(shí),在p維空間中考察問(wèn)題比較麻煩.這就需要進(jìn)行降維處理,即用較少幾個(gè)綜合指標(biāo)代替原來(lái)指標(biāo), 而且使這些綜合指標(biāo)既能盡量多地反映原來(lái)指標(biāo)所反映的

4、信息,同時(shí)它們之間又是彼此獨(dú)立的.線性組合：記x1 , x2,xp為原變量指標(biāo),z1, z2,zm (mWp)為新變量指標(biāo) (主成分),那么其線性組合為：4l11 x1l 12 x211 px pz2l21x1l 22 x212Pxpzm1m1x11 m2x21 mp xp是原變量在各主成分上的載荷4l11 x1l 12 x211 pxpz2l 21 x1l 22 x212pxpzml m1 x11 m2x21 mp xp無(wú)論是哪一種因子分析方法,其相應(yīng)的因子解都不是唯一的,主因子解僅僅是無(wú)數(shù)因子解中之一.zi與 zj相互無(wú)關(guān)；z1是x1 , x2,xp的一切線性組合中方差最大者,z2是與z1

5、不相關(guān)的x1 , x2 , 的所有線性組合中方差最大者.那么,新變量指標(biāo)z1, z2,分別稱為原變量指標(biāo)的第一,第二,主成分.Z為因子變量或公共因子,可以理解為在高維空間中互相垂直的m個(gè)坐標(biāo)軸.主成分分析實(shí)質(zhì)就是確定原來(lái)變量xj (j=1 , 2 , , p)在各主成分zi (i=1 , 2,m)上的荷載lij.從數(shù)學(xué)上容易知道,從數(shù)學(xué)上也可以證實(shí),它們分別是相關(guān)矩陣的m個(gè)較大的特征值所對(duì)應(yīng)的特征向量.5分析步驟5.1確定待分析的原有假設(shè)干變量是否適合進(jìn)行因子分析(第一步)因子分析是從眾多的原始變量中重構(gòu)少數(shù)幾個(gè)具有代表意義的因子變量的過(guò)程.其潛在的要求：原有變量之間要具有比較強(qiáng)的相關(guān)性.因此

6、,因子分析需要先進(jìn)行相關(guān)分析,計(jì)算原始變量之間的相關(guān)系數(shù)矩陣.如果相關(guān)系數(shù)矩陣在進(jìn)行統(tǒng)計(jì)檢驗(yàn)時(shí),大局部相關(guān)系數(shù)均小于0.3且未通過(guò)檢驗(yàn),那么這些原始變量就不太適合進(jìn)行因子分析.iiri2ri pr 21r 22r2 pRr p 1r p 2r ppn(XkiXi)(. Xj)k 1rij-mn-(XkiXi)2(XkjXj)V k 1k 1進(jìn)行原始變量的相關(guān)分析之前,需要對(duì)輸入的原始數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化計(jì)算(一般采用標(biāo)準(zhǔn)差標(biāo)準(zhǔn)化方法,標(biāo)準(zhǔn)化后的數(shù)據(jù)均值為0,方差為1).SPSS在因子分析中還提供了幾種判定是否適合因子分析的檢驗(yàn)方法.主要有以下3種:巴特利特球形檢驗(yàn)(Bartlett Test of

7、Sphericity )反映象相關(guān)矩陣檢驗(yàn)( Anti-image correlation matriX )KMO (Kaiser-Meyer-Olkin )檢驗(yàn)(1)巴特利特球形檢驗(yàn)該檢驗(yàn)以變量的相關(guān)系數(shù)矩陣作為出發(fā)點(diǎn),它的零假設(shè)H0為相關(guān)系數(shù)矩陣是一個(gè)單位陣,即相關(guān)系數(shù)矩陣對(duì)角線上的所有元素都為1,而所有非對(duì)角線上的元素都為0,也即原始變量?jī)蓛芍g不相關(guān).巴特利特球形檢驗(yàn)的統(tǒng)計(jì)量是根據(jù)相關(guān)系數(shù)矩陣的行列式得到.如果該值較大,且其對(duì)應(yīng)的相伴概率值小于用戶指定的顯著性水平,那么就應(yīng)拒絕零假設(shè)H0,認(rèn)為相關(guān)系數(shù)不可能是單位陣,也即原始變量間存在相關(guān)性.(2)反映象相關(guān)矩陣檢驗(yàn)該檢驗(yàn)以變量的偏相關(guān)

8、系數(shù)矩陣作為出發(fā)點(diǎn),將偏相關(guān)系數(shù)矩陣的每個(gè)元素取反,得到反映象相關(guān)矩陣.偏相關(guān)系數(shù)是在限制了其他變量影響的條件下計(jì)算出來(lái)的相關(guān)系數(shù),如果變量之間存在較多的重疊影響,那么偏相關(guān)系數(shù)就會(huì)較小,這些變量越適合進(jìn)行因子分析.(3) KMO (Kaiser-Meyer-Olkin )檢驗(yàn)該檢驗(yàn)的統(tǒng)計(jì)量用于比較變量之間的簡(jiǎn)單相關(guān)和偏相關(guān)系數(shù).KMO值介于0-1 ,越接近1 ,說(shuō)明所有變量之間簡(jiǎn)單相關(guān)系數(shù)平方和遠(yuǎn)大于偏相關(guān)系數(shù) 平方和,越適合因子分析.其中,Kaiser給出一個(gè) KMO檢驗(yàn)標(biāo)準(zhǔn)：KMO>0.9 ,非常適合；0.8<KMO<0.9 ,適合； 0.7<KMO<0.8

9、 , 一般；0.6<KMO<0.7 ,不太適合；KMO<0.5 ,不適合.5.2 構(gòu)造因子變量因子分析中有很多確定因子變量的方法,如基于主成分模型的主成分分析和基于因子分析模型的主軸因子法、極大似然法、最小二乘法等.前者應(yīng)用最為廣泛.主成分分析法( Principal component analysis ):該方法通過(guò)坐標(biāo)變換,將原有變量作線性變化,轉(zhuǎn)換為另外一組不相關(guān)的變量Zi (主成分.求相關(guān)系數(shù)矩陣的特征根入i 入1,入2,入p>0和相應(yīng)的標(biāo)準(zhǔn)正交的特征向量 li;根 據(jù)相關(guān)系數(shù)矩陣的特征根,即公共因子 Zj的方差奉獻(xiàn)等于因子載荷矩陣 L中第j列各元 素的平方和

10、,計(jì)算公共因子Zj的方差奉獻(xiàn)率與累積奉獻(xiàn)率.p一(i 1,2, , P)kkp1 (i 1,2,p)kk 1主成分分析是在一個(gè)多維坐標(biāo)軸中,將原始變量組成的坐標(biāo)系進(jìn)行平移變換,使得新的坐標(biāo)原點(diǎn)和數(shù)據(jù)群點(diǎn)的重心重合.新坐標(biāo)第一軸與數(shù)據(jù)變化最大方向?qū)?yīng).通過(guò)計(jì)算特征根方差奉獻(xiàn)和方差奉獻(xiàn)率與累積方差奉獻(xiàn)率等指標(biāo),來(lái)判斷選取公共因子的數(shù)量和公共因子主成分所能代表的原始變量信息.公共因子個(gè)數(shù)確實(shí)定準(zhǔn)那么：1根據(jù)特征值的大小來(lái)確定,一般取大于 1的特征值對(duì)應(yīng) 的幾個(gè)公共因子/主成分.2根據(jù)因子的累積方差奉獻(xiàn)率來(lái)確定,一般取累計(jì)奉獻(xiàn)率達(dá) 85-95%的特征值所對(duì)應(yīng)的第一、第二、第 m mwp個(gè)主成分.也有學(xué)

11、者認(rèn)為累積方 差奉獻(xiàn)率應(yīng)在80 %以上.5.3 因子變量的命名解釋因子變量的命名解釋是因子分析的另一個(gè)核心問(wèn)題.經(jīng)過(guò)主成分分析得到的公共因子Z1,Z2,Zm是對(duì)原有變量的綜合.在實(shí)際的應(yīng)用分析中,主要通過(guò)對(duì)載荷矩陣進(jìn)行分析, 得到因子變量和原有變量之間的關(guān)系,從而對(duì)新的因子變量進(jìn)行命名.利用因子旋轉(zhuǎn)方法能使因子變量更具有可解釋性.a.( 1,2,p)Xia11z1a12Z2X2a21Z1a22Z2a1pZpa2 PzpXm am1, am2Z2ampZpl11x1l12X2l1 pxpZ2l21X11 22x21 2 pxp1 m1 X11m2X2lmpxpa11a12.a1m11111122

12、. 11m V ma21A二a21.a2m12111212.12m m.ap1.ap1.apm.J1 p1 1.1 p1 2.1 . pm v m計(jì)算主成分載荷,構(gòu)建載荷矩陣A.載荷矩陣A中某一行表示原有變量 Xi與公共因子 的相關(guān)關(guān)系.載荷矩陣 A中某一列表示某一個(gè)公共因子能夠解釋的原有變量Xi的信息量.有時(shí)因子載荷矩陣的解釋性不太好,通常需要進(jìn)行因子旋轉(zhuǎn),使原有因子變量更具有可解釋性.因子旋轉(zhuǎn)的主要方法：正交旋轉(zhuǎn)、斜交旋轉(zhuǎn).&1a12a1ml111l12-./ 2.11m" ma21A二a21.a2 ml 21 , 1l212.l2m ,= .： m. .ap1ap1 .

13、apm1l p1 X 1l p1 2.1 . lpm m正交旋轉(zhuǎn)和斜交旋轉(zhuǎn)是因子旋轉(zhuǎn)的兩類方法.前者由于保持了坐標(biāo)軸的正交性,因此使用最多.正交旋轉(zhuǎn)的方法很多,其中以方差最大化法最為常用.方差最大正交旋轉(zhuǎn)varimax orthogonal rotation -根本思想：使公共因子的相對(duì)負(fù)荷的方差之和最大,且保持原公共因子的正交性和公共方差總和不變.可使每個(gè)因子上的具有最大載荷的變量數(shù)最小,因此可以簡(jiǎn)化對(duì)因子的解釋.斜交旋轉(zhuǎn)oblique rotation -因子斜交旋轉(zhuǎn)后,各因子負(fù)荷發(fā)生了變化,出現(xiàn)了兩極分化.各因子間不再相互獨(dú)立,而是彼此相關(guān).各因子對(duì)各變量的奉獻(xiàn)的總和也發(fā)生了改變.因子旋轉(zhuǎn)的目的是使因子負(fù)荷兩極分化,要么接近于0,要么接近于1.從而使原有因子變量更具有可解釋性.5.4 計(jì)算因子變量得分因子變量確定以后,對(duì)于每一個(gè)樣本數(shù)據(jù),我們希望得到它們?cè)诓煌蜃由系木唧w數(shù)據(jù)值,即因子得分.估計(jì)因子得分的方法主要有：回歸法、Bartlette法等.計(jì)算因子得分應(yīng)首先將因子變量