主成分分析法及其在SPSS中的操作-精編

1、一、主成分分析基本原理概念：主成分分析是把原來(lái)多個(gè)變量劃為少數(shù)幾個(gè)綜合指標(biāo)的一種統(tǒng)計(jì)分析方法。從數(shù)學(xué)角度來(lái)看，這是一種降維處理技術(shù)。 思路：一個(gè)研究對(duì)象，往往是多要素的復(fù)雜系統(tǒng)。變量太多無(wú)疑會(huì)增加分析問(wèn)題的難度和復(fù)雜性，利用原變量之間的相關(guān)關(guān)系，用較少的新變量代替原來(lái)較多的變量，并使這些少數(shù)變量盡可能多的保留原來(lái)較多的變量所反應(yīng)的信息，這樣問(wèn)題就簡(jiǎn)單化了。 原理：假定有n個(gè)樣本，每個(gè)樣本共有p個(gè)變量，構(gòu)成一個(gè)np階的數(shù)據(jù)矩陣，記原變量指標(biāo)為x1，x2，xp，設(shè)它們降維處理后的綜合指標(biāo)，即新變量為 z1，z2，z3， ，zm(mp)，則系數(shù)lij的確定原則： zi與zj（ij；i，j=1，2，m

2、）相互無(wú)關(guān)；z1是x1，x2，xP的一切線性組合中方差最大者，z2是與z1不相關(guān)的x1，x2，xP的所有線性組合中方差最大者； zm是與z1，z2，zm1都不相關(guān)的x1，x2，xP ， 的所有線性組合中方差最大者。新變量指標(biāo)z1，z2，zm分別稱為原變量指標(biāo)x1，x2，xP的第1，第2，第m主成分。 從以上的分析可以看出，主成分分析的實(shí)質(zhì)就是確定原來(lái)變量xj（j=1，2 ， p）在諸主成分zi（i=1，2，m）上的荷載 lij（ i=1，2，m； j=1，2 ，p）。 從數(shù)學(xué)上可以證明，它們分別是相關(guān)矩陣m個(gè)較大的特征值所對(duì)應(yīng)的特征向量。二、主成分分析的計(jì)算步驟1、計(jì)算相關(guān)系數(shù)矩陣rij（i，

3、j=1，2，p）為原變量xi與xj的相關(guān)系數(shù)， rij=rji，其計(jì)算公式為2、計(jì)算特征值與特征向量解特征方程 ，常用雅可比法（Jacobi）求出特征值，并使其按大小順序排列 ； 分別求出對(duì)應(yīng)于特征值 的特征向量 ，要求 =1，即其中 表示向量 的第j個(gè)分量。3、計(jì)算主成分貢獻(xiàn)率及累計(jì)貢獻(xiàn)率貢獻(xiàn)率：累計(jì)貢獻(xiàn)率：一般取累計(jì)貢獻(xiàn)率達(dá)85%-95%的特征值， 所對(duì)應(yīng)的第1、第2、第m（mp）個(gè)主成分。 4、計(jì)算主成分載荷5、各主成分得分三、主成分分析法在SPSS中的操作1、指標(biāo)數(shù)據(jù)選取、收集與錄入（表1）2、Analyze Data Reduction Factor Analysis，彈出Facto

4、r Analysis 對(duì)話框：3、把指標(biāo)數(shù)據(jù)選入Variables 框，Descriptives: Correlation Matrix 框組中選中Coefficients,然后點(diǎn)擊Continue, 返回Factor Analysis 對(duì)話框，單擊OK。注意：SPSS 在調(diào)用Factor Analyze 過(guò)程進(jìn)行分析時(shí), SPSS 會(huì)自動(dòng)對(duì)原始數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理, 所以在得到計(jì)算結(jié)果后的變量都是指經(jīng)過(guò)標(biāo)準(zhǔn)化處理后的變量, 但SPSS 并不直接給出標(biāo)準(zhǔn)化后的數(shù)據(jù), 如需要得到標(biāo)準(zhǔn)化數(shù)據(jù), 則需調(diào)用Descriptives 過(guò)程進(jìn)行計(jì)算。從表3 可知GDP 與工業(yè)增加值, 第三產(chǎn)業(yè)增加值、固定資

5、產(chǎn)投資、基本建設(shè)投資、社會(huì)消費(fèi)品零售總額、地方財(cái)政收入這幾個(gè)指標(biāo)存在著極其顯著的關(guān)系, 與海關(guān)出口總額存在著顯著關(guān)系?？梢?jiàn)許多變量之間直接的相關(guān)性比較強(qiáng), 證明他們存在信息上的重疊。主成分個(gè)數(shù)提取原則為主成分對(duì)應(yīng)的特征值大于1的前m個(gè)主成分。特征值在某種程度上可以被看成是表示主成分影響力度大小的指標(biāo), 如果特征值小于1, 說(shuō)明該主成分的解釋力度還不如直接引入一個(gè)原變量的平均解釋力度大, 因此一般可以用特征值大于1作為納入標(biāo)準(zhǔn)。通過(guò)表4( 方差分解主成分提取分析) 可知, 提取2個(gè)主成分, 即m=2, 從表5( 初始因子載荷矩陣) 可知GDP、工業(yè)增加值、第三產(chǎn)業(yè)增加值、固定資產(chǎn)投資、基本建設(shè)投

6、資、社會(huì)消費(fèi)品零售總額、海關(guān)出口總額、地方財(cái)政收入在第一主成分上有較高載荷, 說(shuō)明第一主成分基本反映了這些指標(biāo)的信息; 人均GDP 和農(nóng)業(yè)增加值指標(biāo)在第二主成分上有較高載荷, 說(shuō)明第二主成分基本反映了人均GDP 和農(nóng)業(yè)增加值兩個(gè)指標(biāo)的信息。所以提取兩個(gè)主成分是可以基本反映全部指標(biāo)的信息, 所以決定用兩個(gè)新變量來(lái)代替原來(lái)的十個(gè)變量。但這兩個(gè)新變量的表達(dá)還不能從輸出窗口中直接得到, 因?yàn)椤癈omponent Matrix”是指初始因子載荷矩陣, 每一個(gè)載荷量表示主成分與對(duì)應(yīng)變量的相關(guān)系數(shù)。用表5( 主成分載荷矩陣) 中的數(shù)據(jù)除以主成分相對(duì)應(yīng)的特征值開(kāi)平方根便得到兩個(gè)主成分中每個(gè)指標(biāo)所對(duì)應(yīng)的系數(shù)。將

7、初始因子載荷矩陣中的兩列數(shù)據(jù)輸入( 可用復(fù)制粘貼的方法) 到數(shù)據(jù)編輯窗口( 為變量B1、B2) , 然后利用“TransformCompute Variable”, 在Compute Variable對(duì)話框中輸入“A1=B1/SQR(7.22)”注: 第二主成分SQR后的括號(hào)中填1.235, 即可得到特征向量A1(見(jiàn)表6)。同理, 可得到特征向量A2。將得到的特征向量與標(biāo)準(zhǔn)化后的數(shù)據(jù)相乘, 然后就可以得出主成分表達(dá)式注: 因本例只是為了說(shuō)明如何在SPSS 進(jìn)行主成分分析, 故在此不對(duì)提取的主成分進(jìn)行命名, 有興趣的讀者可自行命名。標(biāo)準(zhǔn)化：通過(guò)AnalyzeDescriptive StatisticsDescriptives 對(duì)話框來(lái)實(shí)現(xiàn): 彈出Descriptives 對(duì)話框后, 把X1X10 選入Variables 框, 在Save standardized values as variables 前的方框打上鉤, 點(diǎn)擊“OK”, 經(jīng)標(biāo)準(zhǔn)化的數(shù)據(jù)會(huì)自動(dòng)填入數(shù)據(jù)窗口中, 并以Z開(kāi)頭命名。以每個(gè)主成分所對(duì)應(yīng)的特征值占所提取主成分總的特征值之和的比例作為權(quán)重計(jì)算主成分綜合模型, 即用第一主成分F1 中每個(gè)指標(biāo)所對(duì)應(yīng)的系數(shù)乘上第一主成分F1 所對(duì)應(yīng)的貢獻(xiàn)率再除以所提取兩個(gè)主成分的兩個(gè)貢獻(xiàn)率之和, 然后加上第二主成分F2 中每個(gè)指標(biāo)所對(duì)應(yīng)的