SPSS數(shù)據(jù)分析教程主成分分析

1、SPSS數(shù)據(jù)分析教程主成分分析第11章 主成分分析目錄n11.1主成分分析簡介q11.1.1主成分分析的目的與功能q11.1.2主成分分析的數(shù)學(xué)理論n11.2主成分分析的應(yīng)用條件q11.2.1Bartlett球形檢驗(yàn)q11.2.2KMO統(tǒng)計(jì)量q11.2.3基于相關(guān)系數(shù)矩陣還是協(xié)方差矩陣n11.3主成分分析案例q11.3.1綜合評價(jià)案例q11.3.2主成分分析用于探索量間結(jié)構(gòu)關(guān)系 本章學(xué)習(xí)目標(biāo) n了解主成分分析的應(yīng)用領(lǐng)域；n了解主成分析的應(yīng)用條件；n掌握如何確定主成分的個(gè)數(shù)；n熟練解釋主成分分析的結(jié)果：載荷矩陣、共同度、方差貢獻(xiàn)率等；n掌握應(yīng)用主成分分析進(jìn)行數(shù)據(jù)降維和綜合評價(jià)的方法。11.1 主

2、成分分析簡介主成分分析的目的與功能 n在多變量分析中，分析者所面臨的最大難題是解決眾多變量之間的關(guān)系問題。進(jìn)行數(shù)據(jù)降維可以用盡可能少的新指標(biāo)取代原來較多的指標(biāo)變量，并能包含原來指標(biāo)變量所包含的大部分信息 。n解決多元回歸分析中的多重共線性問題。 n綜合評價(jià)中，人們總是盡可能多地選取評價(jià)指標(biāo)，而這些評價(jià)指標(biāo)之間往往相互重疊，信息冗余是不可避免的。主成分分析則可以把這眾多指標(biāo)所蘊(yùn)含的信息壓縮到少數(shù)幾個(gè)主成分指標(biāo)，然后給出這幾個(gè)主成分指標(biāo)的權(quán)重，綜合到一個(gè)評價(jià)指標(biāo)中。 主成分的主要功能 n數(shù)據(jù)降維（Dimension Reduction）n變量篩選（Variables Screening）主成分分析

3、的算法步驟 n第1步：進(jìn)行樣本數(shù)據(jù)的標(biāo)準(zhǔn)化，以消除指標(biāo)變量的量綱或者單位的影響。n第2步：求出相關(guān)系數(shù)矩陣R R的所有非零特征根 n第3步：選擇主成分個(gè)數(shù)。n第4步：求出相應(yīng)于前s個(gè)特征根的特征向量并將特征向量進(jìn)行單位化。n第5步：計(jì)算主成分變量的取值。 選擇主成分個(gè)數(shù)的方法 n給出方差貢獻(xiàn)率，即給出希望得到的全部信息的比例。要求輸出能夠反映全部信息的100%的主成分。n根據(jù)碎石圖選擇合適的主成分的個(gè)數(shù) 。n設(shè)定特征值滿足的條件或者直接給出所需要的主成分的個(gè)數(shù)s 。共同度和方差貢獻(xiàn)率 n共同度：前s個(gè)主成分能夠解釋的每個(gè)原始變量的方差的比例（稱為共同度）。n方差貢獻(xiàn)率：它是每個(gè)主成分所能夠解釋

4、的所有原始變量的信息（即方差），它由載荷矩陣（特征向量矩陣，即方程11-4）相應(yīng)的列元素的平方和給出。 11.2 主成分分析的應(yīng)用條件Bartlett球形檢驗(yàn)（1） n主成分分析的原始變量之間必須有相關(guān)性，如果變量之間相互獨(dú)立，則無法用主成分分析法來進(jìn)行數(shù)據(jù)降維。 nBartlett球形檢驗(yàn)的假設(shè)為q原假設(shè)：相關(guān)系數(shù)矩陣為單位矩陣（即變量互不相關(guān)）。q備擇假設(shè)：相關(guān)系數(shù)矩陣不是單位矩陣（即變量之間有相關(guān)關(guān)系）。Bartlett球形檢驗(yàn)（2）nSPSS將提供Bartlett球形檢驗(yàn)的卡方統(tǒng)計(jì)量的值、相應(yīng)的自由度和顯著性值。如果顯著性值小于0.05，則認(rèn)為主成分分析是適宜的?？ǚ浇y(tǒng)計(jì)量的值越大，變

5、量之間的相關(guān)性越強(qiáng)。KMO統(tǒng)計(jì)量 （1）nKMO統(tǒng)計(jì)量比較樣本相關(guān)系數(shù)和樣本偏相關(guān)系數(shù)，它用于檢驗(yàn)樣本是否適于作主成分分析。nKMO統(tǒng)計(jì)量的取值在0和1之間，該值越大，則樣本數(shù)據(jù)越適于作主成分分析和因子分析。一般要求該值大于0.5，方可以應(yīng)用主成分分析或者相關(guān)分析。 KMO統(tǒng)計(jì)量 （2）基于相關(guān)系數(shù)矩陣還是協(xié)方差矩陣 n當(dāng)變量取值范圍變化很大或者量綱變化時(shí)，協(xié)方差矩陣變化很大。一般情況下，主成分分析都是基于相關(guān)系數(shù)矩陣的。 主成分分析案例 （1）n某公司有20個(gè)工廠，現(xiàn)在要對每個(gè)工廠作經(jīng)濟(jì)效益分析。從所取得的生產(chǎn)成果和所消耗的人力、物力、財(cái)力的比率等指標(biāo)中，選取5個(gè)指標(biāo)（變量）進(jìn)行分析。 qX

6、1固定資產(chǎn)的產(chǎn)值率；qX2凈產(chǎn)值的勞動(dòng)生產(chǎn)率；qX3百元產(chǎn)值的流動(dòng)資金占用率；qX4百元產(chǎn)值的利潤率；qX5百元資金的利潤率。主成分分析案例（2）n現(xiàn)在對這20個(gè)工廠同時(shí)按照這5項(xiàng)指標(biāo)收集數(shù)據(jù)，然后找出1個(gè)綜合指標(biāo)對它們的經(jīng)濟(jì)效益進(jìn)行排序，找出經(jīng)濟(jì)效益較高的工廠。n應(yīng)用主成分分析法，要求主成分只要能夠反映出全部信息的85%就可以了。 主成分分析案例 （3）n選擇【分析】【降維】【因子分析】，把變量X1到X5都選到“變量”框中。主成分分析案例 （4）因子的旋轉(zhuǎn)n主成分分析得到的主成分不一定要給出有意義的解釋，不需要進(jìn)行因子旋轉(zhuǎn)。但是，因子分析一般需要給出因子有意義的解釋，如果直接得到的因子載荷沒

7、有實(shí)際解釋意義，則必須進(jìn)行因子旋轉(zhuǎn)。 主成分輸出結(jié)果解釋和主成分的計(jì)算 n主成分適用條件的檢驗(yàn)。 檢查KMO和Bartlett檢驗(yàn)結(jié)果，判斷主成分分析（或者因子分析）是否適用。 n解釋共同度、方差貢獻(xiàn)率和因子載荷矩陣。 碎石圖成分矩陣n成分矩陣不能夠直接作為主成分的系數(shù)矩陣。成分矩陣的每一列要除以相應(yīng)成分的特征值的平方根才能作為相應(yīng)主成分的系數(shù)。主成分得分nSPSS沒有給出個(gè)案的主成分的得分，需要我們通過“轉(zhuǎn)換”菜單的“計(jì)算變量”來計(jì)算出每個(gè)個(gè)案的主成分得分。主成分載荷圖主成分分析用于探索變量間結(jié)構(gòu)關(guān)系n打開本章數(shù)據(jù)Stock.sav ，它記錄了紐約股票交易所2004年1月到2005年12月間

8、5種股票的周收益率。這5種股票分別為JP摩根、花旗銀行、富國銀行、殼牌和埃克森美孚5家公司的股票。觀測數(shù)據(jù)為連續(xù)的103周的股票周收益率。 n我們想了解這5家公司的收益率是否有某種關(guān)聯(lián)?，F(xiàn)在把這5家公司的收益率分別作為5個(gè)變量，然后用主成分分析法來探索它們之間的關(guān)系。結(jié)果分析（1）初始特征值 提取平方和載入 成份 合計(jì) 方差的% 累積% 合計(jì) 方差的% 累積% 1 2.437 48.745 48.745 2.437 48.745 48.745 2 1.407 28.140 76.886 1.407 28.140 76.886 3 .501 10.010 86.896 4 .400 8.001 94.897 5 .255 5.103 100.000