SPSS對主成分回歸實驗報告

1、多元統(tǒng)計分析分析實驗報告 2012 年 月 日學(xué)院經(jīng)貿(mào)學(xué)院姓名學(xué)號實驗名稱 實驗成績一、實驗?zāi)康模ㄒ唬├肧PSS對主成分回歸進(jìn)行計算機實現(xiàn).（二）要求熟練軟件操作步驟，重點掌握對軟件處理結(jié)果的解釋.二、實驗內(nèi)容 以教材例題7.2為實驗對象，應(yīng)用軟件對例題進(jìn)行操作練習(xí)，以掌握多元統(tǒng)計分析方法的應(yīng)用三、實驗步驟（以文字列出軟件操作過程并附上操作截圖）1、數(shù)據(jù)文件的輸入或建立：(文件名以學(xué)號或姓名命名) 將表7.2數(shù)據(jù)輸入spss：點擊“文件”下“新建”“數(shù)據(jù)”見圖1：圖1點擊左下角“變量視圖”首先定義變量名稱及類型：見圖2：圖2：然后點擊“數(shù)據(jù)視圖”進(jìn)行數(shù)據(jù)輸入（圖3）：圖3完成數(shù)據(jù)輸入2、具體

2、操作分析過程 ：（1）首先做因變量Y與自變量X1-X3的普通線性回歸： 在變量視圖下點擊“分析”菜單，選擇“回歸”-“線性”（圖4）： 圖4將因變量Y調(diào)入“因變量”欄，將x1-x3調(diào)入“自變量”欄（圖5）：然后選擇相關(guān)要輸出的結(jié)果：點擊右上角“統(tǒng)計量（s）”：“回歸系數(shù)”下選擇“估計”；“殘差”下選擇“D.W”；在右上角選擇輸出“模型擬合度”、“部分相關(guān)和偏相關(guān)”“共線性診斷”（后兩項是做多重共線性檢驗）。選完后點擊“繼續(xù)”（見圖6）如果需要對因變量與殘差進(jìn)行圖形分析則需要在“繪制”下選擇相關(guān)項目（圖7），一般不需要則繼續(xù)如果需要將相關(guān)結(jié)果如因變量預(yù)測值、殘差等保存則點擊“保存”（圖8），選擇

3、要保存的項目如果是逐步回歸法或者設(shè)置不帶常數(shù)項的回歸模型則點擊“選項”（圖9）其他選項按軟件默認(rèn)。最后點擊“確定”，運行線性回歸，輸出相關(guān)結(jié)果（見表1-3）圖5圖6圖7圖8圖9回歸分析輸出結(jié)果：表1模型匯總b模型RR 方調(diào)整 R 方標(biāo)準(zhǔn) 估計的誤差Durbin-Watson1.996a.992.988.488872.740a. 預(yù)測變量: (常量), x3, x2, x1。b. 因變量: y表2Anovab模型平方和df均方FSig.1回歸204.776368.259285.610.000a殘差1.6737.239總計206.44910a. 預(yù)測變量: (常量), x3, x2, x1。b.

4、因變量: y表3系數(shù)a模型非標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)系數(shù)tSig.相關(guān)性共線性統(tǒng)計量B標(biāo)準(zhǔn) 誤差試用版零階偏部分容差VIF1(常量)-10.1281.212-8.355.000x1-.051.070-.339-.731.488.965-.266-.025.005185.997x2.587.095.2136.203.000.251.920.211.9811.019x3.287.1021.3032.807.026.972.728.095.005186.110a. 因變量: y由表可知，回歸模型擬合優(yōu)度達(dá)到99.2%，方差分析也顯示線性回歸方程整體顯著（F=285.61，Sig.=0.000）但是回歸系數(shù)估計

5、結(jié)果中，x1的系數(shù)為-0.051與一般經(jīng)濟(jì)理論矛盾且不顯著（t檢驗值-0.731，檢驗的p值0.488），經(jīng)多重共線性診斷（x1與x3的VIF值高達(dá)180以上）表明自變量存在共線性。運用主成分分析做多重共線性處理：（2）自變量x1-x3的主成分分析：由于spss沒有獨立的主成分分析模塊，需要在因子分析里完成，因此需要特別注意：在數(shù)據(jù)窗口下選擇“分析”“降維”“因子分析”（見圖10）；在彈出的窗口中將x1-x3調(diào)入“變量”（見圖11）；然后點擊“描述”，選擇要輸出的統(tǒng)計量（見圖12）：選中“統(tǒng)計量”下的兩個項目（輸出變量描述統(tǒng)計和初始分析結(jié)果）；在“相關(guān)矩陣”一般要選擇輸出“系數(shù)”、“顯著性水平

6、”、“KMO”（做主成分分析和因子分析的適用性檢驗，也就是檢驗變量之間的相關(guān)系數(shù)是否足夠大可以做因子分析）選完后點擊“繼續(xù)”進(jìn)行下一步；點擊“抽取”（見圖13）：在“方法”下默認(rèn)“主成分”；“分析”下，默認(rèn)“相關(guān)性矩陣”（含義是要對變量做標(biāo)準(zhǔn)化處理，然后基于標(biāo)準(zhǔn)化后的協(xié)差陣也就是相關(guān)陣進(jìn)行分解做因子分析或主成分分析），如果不需要對變量做標(biāo)準(zhǔn)化處理就選“協(xié)方差矩陣”；“輸出”中的兩項都選，要求輸出沒有旋轉(zhuǎn)的因子解（主成分分析必選項）和碎石圖（用圖形決定提取的主成分或因子的個數(shù)）；“抽取“下，默認(rèn)的是基于特征值（大于1表示提取的因子或主成分至少代表1個單位標(biāo)準(zhǔn)差的變量信息，因為標(biāo)準(zhǔn)化后的變量方差為

7、1，因子或者主成分作為提取的綜合變量應(yīng)該至少代表1個變量的信息），也可以自選提取的因子個數(shù)（即第二項），本例中做主成分回歸，選擇提取全部可能的3個主成分，所以自選個數(shù)填3。選完后點擊 “繼續(xù)”進(jìn)行下一步；點擊“旋轉(zhuǎn)”（圖14），按默認(rèn)的“方法”下不旋轉(zhuǎn)（注意，主成分分析不能旋轉(zhuǎn)?。┢渌挥眠x，點擊“繼續(xù)”進(jìn)行下一步；點擊“得分”，計算不旋轉(zhuǎn)的初始因子得分（圖15），選中“保存為變量”，“方法”下按默認(rèn)，其他不修改，點擊“繼續(xù)”進(jìn)行下一步。“選項”下可以不選按默認(rèn)（選項里主要針對缺失值和系數(shù)顯示格式，不影響分析結(jié)果）最后點擊“確定”，運行因子分析。圖10圖11圖12圖13圖14圖15由運行結(jié)果計

8、算主成分：表4、描述統(tǒng)計量均值標(biāo)準(zhǔn)差分析 Nx1194.590929.9995211x23.30001.6492411x3139.736420.6344011表5、相關(guān)矩陣x1x2x3相關(guān)x11.000.026.997x2.0261.000.036x3.997.0361.000Sig.（單側(cè)）x1.470.000x2.470.459x3.000.459表6、KMO 和 Bartlett 的檢驗取樣足夠度的 Kaiser-Meyer-Olkin 度量。.492Bartlett 的球形度檢驗近似卡方42.687df3Sig.000表7、解釋的總方差成份初始特征值提取平方和載入合計方差的 %累積 %

9、合計方差的 %累積 %11.99966.63866.6381.99966.63866.6382.99833.27299.910.99833.27299.9103.003.090100.000.003.090100.000提取方法：主成份分析。表8、成份矩陣a成份123x1.999-.036.037x2.062.998.000x3.999-.026-.037提取方法 :主成份。a. 已提取了 3 個成份。由表5、6可知適合做主成分或因子分析（KMO檢驗通過），表7知前兩個主成分（初始因子）貢獻(xiàn)率已達(dá)99.91%，提取前兩個主成分用于分析。由表8（初始因子載荷陣）和表7可計算前兩個特征向量，用表8

10、前兩列分別除以前兩個特征值的平方根得前兩個主成分表達(dá)式：F1=0.7066X1*+0.0439X2*+0.7066X3*（式1）F2=-0.0360X1*+0.9990X2*-0.0260X3*（式2）其中X1*-X3*表示為標(biāo)準(zhǔn)化變量（這是因為在進(jìn)行主成分分析時是以標(biāo)準(zhǔn)化變量進(jìn)行分析的，是從相關(guān)陣出發(fā)分析的，見圖13的選項）。由于主成分互不相關(guān)，可以用提取的主成分代替自變量進(jìn)行回歸分析，因此需要計算主成分得分來代替自變量X1-X3。主成分的計算：依據(jù)式1和2中兩個主成分的表達(dá)式，對各自變量標(biāo)準(zhǔn)化后帶入就可以計算出每個樣品的主成分得分。但是在spss中，由因子分析提取時是用主成分法提取的，根據(jù)

11、初始因子與主成分的關(guān)系，未旋轉(zhuǎn)的初始因子等于主成分除以特征根的平方根，因此主成分得分等于因子得分乘以特征根的平方根，因此可以由因子得分計算主成分得分。前面在因子分析選項中保存了因子得分（見圖15），因此計算兩個主成分得分：點擊“轉(zhuǎn)換”“計算變量”(圖16)：在彈出的窗口分別定義主成分F1=第一因子得分*第一特征根的平方根（圖17）和F2=第二因子得分*第二特征根的平方根。（3）主成分回歸過程：要做主成分回歸，需要用標(biāo)準(zhǔn)化的因變量（因為自變量經(jīng)過標(biāo)準(zhǔn)化處理做主成分分析，因變量需要對應(yīng)做標(biāo)準(zhǔn)化）與主成分做回歸，對因變量Y做標(biāo)準(zhǔn)化處理，點擊“分析”“描述統(tǒng)計”“描述”（見圖18），在彈出窗口中將Y調(diào)

12、入變量，并選中“將標(biāo)準(zhǔn)化得分另存為變量”（圖19）后確定完成Y的標(biāo)準(zhǔn)化。點擊“分析”-“回歸”-“線性”（圖20）在彈出窗口（圖21）中將Zscore（y）調(diào)入因變量，F(xiàn)1和F2調(diào)入自變量，其他選項同前面圖6-9，然后點擊“確定”運行主成分回歸，相關(guān)輸出結(jié)果見表9圖16圖17圖18圖19圖20圖21主成分回歸結(jié)果：表9、模型匯總模型RR 方調(diào)整 R 方標(biāo)準(zhǔn) 估計的誤差1.994a.988.985.12104901a. 預(yù)測變量: (常量), F1, F2。表10、Anovab模型平方和df均方FSig.1回歸9.88324.941337.230.000a殘差.1178.015總計10.00010a. 預(yù)測變量: (常量), F1, F2。b. 因變量: Zscore(y)表11、系數(shù)a模型非標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)系數(shù)tSig.共線性統(tǒng)計量B標(biāo)準(zhǔn) 誤差試用版容差VIF1(常量)-3.043E-16.036.0001.000F2.191.038.1914.993.0011.0001.000F1.690.027.97625.486.0001.0001.000a. 因變量: