多元線性回歸實(shí)例分析報(bào)告

1、SP SS-回歸-多元線性回歸模型案例解析！（ 一）多元線性回歸，主要就是研究一個(gè)因變量與多個(gè)自變量之間得相關(guān)關(guān)系，跟一元回歸原理差不多，區(qū)別在于影響因素（自變量）更多些而已，例如：一元線性回歸方程為:Y = 00 十 十 E毫無(wú)疑問(wèn)，多元線性回歸方程應(yīng)該為:Y = Bq +02 +角工2 + +上圖中得x1,x2, xp分別代表“自變量”Xp截止，代表有P個(gè)自變量，如果有“ N組樣本，那么這個(gè)多元線性回歸，將會(huì)組成一個(gè)矩陣，如下圖所示：記r紐樣本分別是（勺02,y =>'2ar1 jY""1片丿,0 二卩占丿那么，多元線性回歸方程矩陣形式為："上

2、+ £ ：其中:代表隨機(jī)誤差，其中隨機(jī)誤差分為：可解釋得誤差與 不可解釋得誤差，隨機(jī)誤差必須滿足以下四個(gè)條件，多元線性方程才有意義（一元線性方程也一樣）1服成正太分布，即指：隨機(jī)誤差必須就是服成正太分別得隨機(jī)變量。2:無(wú)偏性假設(shè)，即指：期望值為隨機(jī)誤差變量方差都相等3:同共方差性假設(shè)，即指，所有得4:獨(dú)立性假設(shè)，即指：所有得隨機(jī)誤差變量都相互獨(dú)立，可以用協(xié)方差解釋。今天跟大家一起討論一下，SPSS-多元線性回歸得具體操作過(guò)程，下面以教程教程數(shù)據(jù)為例，分析汽車(chē)特征與汽車(chē)銷(xiāo)售量之間得關(guān)系。通過(guò)分析汽車(chē)特征跟汽車(chē)銷(xiāo)售量得關(guān)系，建立擬合多元線性回歸模型。數(shù)據(jù)如下圖所示：1 salesnesa

3、letyp&priceengiriEhorsepow ,wheelbaswidthlength1S.919'16 360021.500!1.8140101.267.3172.439 36419S7502B4003 2225108 170 3192 314.114182250-3.2225106.970.5192.08 58829 725042 0003-S'210114 671 4196620 3972225S033.9901.81501O2?663 2178.01378023i'S5'5033 9&028200108 776 1192 O

4、9;138039 000062 000第310113 074 Q198219 747-026.9902.5170107.363.41176.019_2312Se75033 400I2.8133107 363 517'6 O'17.5373& 13S0|3S.900； 2-8193111470.9188.091 56112-475021 9751!311751i0'9 072 7194.639.3£013.740025.300,3.3240109 072 7196227 86120 190'031.965j:3.32051138747206.8S

5、326Z13 360'027 635130205112273 5200 063.72&22525039.E95；壯275115.374.5207215 94327 100'O'I44-475146275112 275 0201 0e.53G25725039.G&5,4.6275108.075 S200.G11 IBSIS 225031 CIOi302C0107 470 3194呂14.785-146.225；!5 7355117.577.0201.2US. 519'9.250'013 2S02.2,115104.167 9ieo'

6、9135 12611 225016 6351；3 1170107 069 4190424.62&10.3110'0|1S.S9013.1175110I7.&72 S200.942 59311 525O'l19 390134180110 572 7197 9curt點(diǎn)擊“分析”一一回歸一一線性一一進(jìn)入如下圖所示得界面:塊1的1ijj Veliicleb'peltyipeJPrice inthodsandslprice $ Engine siz&Ierginesa篷擇變(E：i J一個(gè)對(duì)簽Q* I 護(hù) Pneo需thousands priceVVLS

7、權(quán)重®:蛆廠逛manuraclMod si mo'del I 爐新車(chē)售價(jià)(單位=. 茨拜肯二手車(chē)售價(jià) £| Vehicle 射pg typ鬪 撈'Price in thousand. 爐 Engine size engi. 袴 Horsep'OW'erlhor. 夕'jVlieelba3 |whe, 擰車(chē)寬WFdlhl 務(wù)軍衽lergtA 少車(chē)凈垂curb.wgt 少 Fuel capacity 拐耗油量辺硏Inpgj Cooks Dfstance . 少 95鈾 LCI forinsa. 撐 95«i4 UCliforIn

8、sa.LCI kr Insa.J ,牯貼£川重置遲）取消j mJ10將“銷(xiāo)售量”作為“因變量”拖入因變量框內(nèi)，將“車(chē)長(zhǎng)，車(chē)寬，耗油率，車(chē)凈重等個(gè)自變量 拖入自變量框內(nèi)，如上圖所示，在“方法”旁邊，選擇“逐步”，當(dāng)然，您也可 以選擇其它得方式，如果您選擇“進(jìn)入”默認(rèn)得方式，在分析結(jié)果中，將會(huì)得到如下圖所示 得結(jié)果：（所有得自變量，都會(huì)強(qiáng)行進(jìn)入）輸入/窿去的吏量h移去的孌量左法1油量迎冊(cè)， 車(chē)穩(wěn) Price in tnoLJsands, Vehicle type, 車(chē)毘Engine size, Fuel capacity, Wheelbase, 軍淨(jìng)重， Horsepower輸入a. 已

9、輸入斯肓諸號(hào)的吏量b. 因變呈：Log-transformecJ sales如果您選擇“逐步”這個(gè)方法，將會(huì)得到如下圖所示得結(jié)果：（將會(huì)根據(jù)預(yù)先設(shè)定得“ 計(jì)量得概率值進(jìn)行篩選，最先進(jìn)入回歸方程得“自變量”應(yīng)該就是跟“因變量”關(guān)系最為密切，貢獻(xiàn)最大得，如下圖可以瞧出，車(chē)得價(jià)格與車(chē)軸跟因變量關(guān)系最為密切，符合判斷條件得概率值必須小于 0、05,當(dāng)概率值大于等于 0、1時(shí)將會(huì)被剔除）輸入去的變量mmy輪入的喪量移去的孌晝方法1Price in ttiousands1歩進(jìn)右隹則;F- to-enteriy 率 V .050 - F-to-remove 的槪率=.1000 -2WhE 創(chuàng) basE1母進(jìn)

10、燧卿;F- to-enterB（y 率 V .050 - F-toremowe 的6?率= 100）4a.囲變董：Loig-transfcrmed sales“選擇變量（E）"框內(nèi)，我并沒(méi)有輸入數(shù)據(jù)，如果您需要對(duì)某個(gè)“自變量”進(jìn)行條件篩選, 可以將那個(gè)自變量，移入“選擇變量框”內(nèi)，有一個(gè)前提就就是：該變量從未在另一個(gè)目標(biāo) 列表中出現(xiàn)！，再點(diǎn)擊“規(guī)則”設(shè)定相應(yīng)得“篩選條件”即可，如下圖所示：定義璉棄規(guī)則sales 値W： k.i.J .產(chǎn)壬一二thousands h不等于 小于 小于等于 丸于 大于等于點(diǎn)擊“統(tǒng)計(jì)量”彈出如下所示得框，如下所示:回歸系懐置倍國(guó)何'!'=協(xié)

11、方羞矩隣k翹擬合度他）L R右套出電O描述性廠肯盼相關(guān)和偏相關(guān)性已r共線性wcL Ddrbin*Watson(U) n個(gè)就診斷©在“回歸系數(shù)”下面勾選“估計(jì)，在右側(cè)勾選” 模型擬合度“與”共線性診斷“兩個(gè)選項(xiàng), 再勾選“個(gè)案診斷”再點(diǎn)擊“離群值”一般默認(rèn)值為“3”，（設(shè)定異常值得依據(jù)，只有當(dāng)殘差超過(guò)3倍標(biāo)準(zhǔn)差得觀測(cè)才會(huì)被當(dāng)做異常值）點(diǎn)擊繼續(xù)。提示：共線性檢驗(yàn)，如果有兩個(gè)或兩個(gè)以上得自變量之間存在線性相關(guān)關(guān)系，就會(huì)產(chǎn)生多重共線性現(xiàn)象。這時(shí)候，用最小二乘法估計(jì)得模型參數(shù)就會(huì)不穩(wěn)定，回歸系數(shù)得估計(jì)值很容易引起誤導(dǎo)或者導(dǎo)致錯(cuò)誤得結(jié)論。所以，需要勾選“共線性診斷”來(lái)做判斷通過(guò)容許度可以計(jì)算共線

12、性得存在與否？容許度T0L=1-RI平方或方差膨脹因子（VIF）: VIF=1/1-RI平方，其中RI平方就是用其她自變量預(yù)測(cè)第 I個(gè)變量得復(fù)相關(guān)系數(shù)， 顯然，VIF為T(mén)OL得倒數(shù)，TOL得值越小，VIF得值越大，自變量 XI與其她自變量之間存在 共線性得可能性越大。提供三種處理方法：1 :從有共線性問(wèn)題得變量里刪除不重要得變量2:增加樣本量或重新抽取樣本。3:采用其她方法擬合模型，如領(lǐng)回歸法，逐步回歸法，主成分分析法。再點(diǎn)擊“繪制”選項(xiàng)，如下所示：D匚P匚NDNT 它 PRED "2RESID "DRESID 沁 PRED "SFIESID *SDRESID卜一

13、-直育圖®） 正態(tài)槪率團(tuán)遲上圖中：DEP ENDENT因變量）ZP RED（標(biāo)準(zhǔn)化預(yù)測(cè)值）ZRESID（標(biāo)準(zhǔn)化殘差）除殘差）ADJPRED修正后預(yù)測(cè)值）SRSID（學(xué)生化殘差）除殘差）一般我們大部分以“自變量”作為X軸，用“殘差”作為 丫軸，殊情況，這里我們以“ ZP RE（標(biāo)準(zhǔn)化預(yù)測(cè)值）作為"X"軸，分別用DRESID（易 ySDRESID（學(xué)生化剔但就是，也不要忽略特“ SDRESID（血生化剔除殘差）”與“ ZRESID（標(biāo)準(zhǔn)化殘差）作為 丫軸，分別作為兩組繪圖變量。 再點(diǎn)擊”保存“按鈕，進(jìn)入如下界面：總寄預(yù)測(cè)値-I丨未標(biāo)準(zhǔn)化應(yīng)標(biāo)港化遲）調(diào)節(jié)Q）均値預(yù)測(cè)値的

14、S.E.fP）-戎差丨未特推代f凹， 5?1標(biāo)范»衛(wèi) 學(xué)生臨r i »<y1學(xué)生化已制除r日距離門(mén)M迪希Mb詒距離（出 a Co世晅密旳杠桿値世05 %-預(yù)測(cè)區(qū)間M均値（啪M單値（1） 置信區(qū)聞©-議響緘計(jì)S 0坦曲日標(biāo)準(zhǔn)化DfS電怡© D歸肝）i標(biāo)準(zhǔn)叱D1F贋門(mén)協(xié)有蓋比率®系城統(tǒng)計(jì)!' '1創(chuàng)建承數(shù)煩計(jì)&>HM-oniD-露寫(xiě):三斯數(shù)鳶丈詳A 1靈阡也MWW包含協(xié)方差矩陣2）（cook距離，主要就是指：把一個(gè) cook距離越大，表明該個(gè)案對(duì)回按鈕，再點(diǎn)擊"確定按鈕，得到如如上圖所示：勾選“距離”下

15、面得“cook距離”選項(xiàng)個(gè)案從計(jì)算回歸系數(shù)得樣本中剔除時(shí)所引起得殘差大小， 歸系數(shù)得影響也越大） 在“預(yù)測(cè)區(qū)間”勾選“均值”與“單值”點(diǎn)擊“繼續(xù)” 下所示得分析結(jié)果：（此分析結(jié)果，采用得就是“逐步法”得到得結(jié)果）模型RR方調(diào)整R方標(biāo)準(zhǔn)估計(jì)硼1.552'.304.300ri155342.655b.430.4221.013572模型匯總oa.預(yù)測(cè)變S:), Price inlhousandsb埠5ijgS:), Price inihousands, Wheelbasec國(guó)變量：Log-transformed salesAnova°平方和df均方Fgig.1廚m殘差 總計(jì)81 72

16、0186,662268,383115015181 720124465.670.OOCP2囲m殘差 總計(jì)115,311153.072268,383214915157.6561,02766.122.000a. 預(yù)測(cè)芟量：(常量L Price inihousands*b. 預(yù)測(cè)變量:潔量),Price in Ihousands. Wheelbase *c. 因變量:Log-lransfomned sales己講除的克XCBeta IntSig.傭相關(guān)共線性統(tǒng)計(jì)iVIF最小容建Vehicle type25P3.854.000.301.9981.002.998Engine size.34204128.0

17、00.320.6111.636,611Horsepowgr.257"2.062.041.167.2933.417293Wheelbase356'5718JOO.424,9881.012.988車(chē)寬.2443.517.001.277.892仁421.892車(chē)氏.308"4790.000.365.9761,025.976車(chē)凈重.346°4.600-000.3537221,385722Fuel capacity.266"3.B8rQUU.2旳.820i.2ia.U2U耗油量:邁冊(cè)-.1 98"-2.584011-7077681.319758V

18、ehicle 1ypeJ 29*1,928.056J 57.8351J97.827Engine size.145b1.576.117.128.4452.246.445Horse po werXI28b.229.819.019.2663-910.256車(chē)寬.CI25b-.275784-.023.4702 J 26.470車(chē)長(zhǎng)D27b.237.813.020.2903.448.290車(chē)凈重105b1.028.306.084.3652741.365Fuel capacityX）02b.024.981.002.4432.259.443耗油量辺府.014164.870.014.5591790.559a

19、IM型中的損測(cè)孌量（常量h Price in thousandsb g型中描兩j竇S i第量L Price in thousands. Wheelbase® c.曲夷量:Log-transformed sales模型非標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)系數(shù)tSig.共線性統(tǒng)計(jì)量B標(biāo)準(zhǔn)IS蓬試用版容SVIF1（第量）Price in thousands4.684-.051J 94.0065522.090-8.104000_0001.0031.0002（常量）Price in thousandsWheelbase1.822-.055.0611.161.006.011-.590.3561.583-9.4875

20、.718116000_000.988.9881.0121.012a.因賓晝 Ug-transformed $ale$共線性診斷合模型維數(shù)特征値條件索引方隆比例（隔Price in thousandsWheelbase111.8851.000.06062.1154,051 94.94212.847rooo.00.02-002.1504 351.01.973.00333412.99.00.99a.因變量:Log-lransformed sales蕩差統(tǒng)計(jì)量N極小値極大fi均ffl標(biāo)準(zhǔn)僞瑩N義測(cè)値=245405642043.29052.868512155標(biāo)準(zhǔn)預(yù)測(cè)値-4,0452.693.002.99

21、4155預(yù)測(cè)値的掠準(zhǔn)誤羞.082,354130.057165調(diào)整的預(yù)測(cè)値- 440425.6721 43.28907.874840155殘差-4.9711132.327782.005131.998146155標(biāo)準(zhǔn)慕垂4.9052.297.005.985165student化殘差-4.9502.307.006.994155己刪除的殘差-5.0631552.348876.0065801.017413155SludentfE已刪除的殘差5 3972.341.0021.016165Mahal。SiS.001174161.9643423165Cook的距畫(huà).000.151.006.0仃155居中杠桿値.

22、000.115013.023155直方圖El口標(biāo)率化戟差礙"985因變?cè)椋篖og-transformed sales回歸slides化刪徐的(PS5M-2-e2.eo74.97 O71.02Q69 725Qq35,517.51813.1DS；O,33<?6.13S45.7D53<嗎普"及69 749 9 O.O19 39 厲41謬誠(chéng)Sd；耦蘇網(wǎng)孚龍愉聲屈° 昭5 O佃期?診瞬2講蘭辺世 |».575&23d46 305 °4315 357,082.605巒 O O12.0S 3?5fl579922.19S 蹄I呷Od d 1

23、624 25 345 O13,635 19.04519.540le.DS14.29iie.i45 Oi9.4eo16 9025 45 O-6-4回日林準(zhǔn)化預(yù)計(jì)値SPSS-回歸一多元線性回歸結(jié)果分析（二），最近一直很忙，公司得潮起潮落，就好比人生得跌巖起伏，眼瞧著一步步走向衰弱，卻無(wú) 能為力，也許要學(xué)習(xí)“步步驚心”里面“四阿哥”得座右銘：“行到水窮處”，”坐瞧云起 時(shí)“。接著上一期得“多元線性回歸解析”里面得內(nèi)容，上一次，沒(méi)有寫(xiě)結(jié)果分析，這次 補(bǔ)上，結(jié)果分析如下所示： 結(jié)果分析1:輸入/密去的變量mmy輪入的喪量格去的變量方法1Price in ttiousands1歩進(jìn)F- tsEritEr的

24、梱 率 s .050 ' F-to-remove 的槪率=. moo亠2VVhE創(chuàng)basE1歩進(jìn)燧卿;F- to-enterftih 率 <=.050 - F-toremove 的槽f率H 100)-a.醫(yī)變董：LO'g-transforinecI sales由于開(kāi)始選擇得就是“逐步”法，逐步法就是“向前”與“向后”得結(jié)合體，從結(jié)果可以瞧出，最先進(jìn)入“線性回歸模型”得就是“ price in thousa nds"建立了模型1,緊隨其后得就是“Wheelbase" 建立了模型2，所以，模型中有此方法有個(gè)概率值， 當(dāng)小于等于0、 05時(shí)，進(jìn)入“線性回歸模

25、型”（最先進(jìn)入模型得，相關(guān)性最強(qiáng)，關(guān)系最為密切）當(dāng)大于等0、 1時(shí)，從“線性模型中”剔除按型匯總Q襪型RR方調(diào)整R方標(biāo)準(zhǔn)估計(jì)的誤 差1552"3043001.1 1 55342.055.4221.013573乩預(yù)測(cè)變配(a), Price inir»OLisands*tr預(yù)測(cè)克量：Price iniriousands, Wheelbasec,因Log-frarisfoFTTied sles撲型平芳和df母方FSig.1冋歸總計(jì)01.720130 602255.3931150151817201.244165.070.0002回歸總計(jì)115311153072255.393214

26、915157.6561.027&E.122.000a預(yù)液變量:Price inlhousands*h.預(yù)演I孌量脩量y Price inlHousands. Wheelbase* c.Log-lrarsfomed sal&s結(jié)果分析:1:從“模型匯總”中可以瞧出，有兩個(gè)模型, 型2得擬合優(yōu)度明顯比模型 1要好一些（模型1與模型2）從R2擬合優(yōu)度來(lái)瞧，模（0、 422>0、 300）2：從“Anova"表中，可以瞧出“模型 2”中得“回歸平方與”為115、311，“殘差平方與”為153、072,由于總平方與=回歸平方與+殘差平方與，由于殘差平方與（即指隨即誤差，不

27、可解釋得誤差）由于“回歸平方與”跟“殘差平方與”幾乎接近，所有，此線性回歸模型只 解釋了總平方與得一半，3:根據(jù)后面得“ F統(tǒng)計(jì)量”得概率值為 0、00,由于0、00<0、01,隨著“自變量”得引入， 其顯著性概率值均遠(yuǎn)小于 0、01,所以可以顯著地拒絕總體回歸系數(shù)為0得原假設(shè)，通過(guò)ANOVA方差分析表可以瞧出“銷(xiāo)售量”與“價(jià)格”與“軸距”之間存在著線性關(guān)系，至于線性關(guān)系己講降的歪屋U棋型Beta In1Sig偏相關(guān)共線性統(tǒng)計(jì)量容差VIF最小容畫(huà)1Vehidetypie3.S54,000,301,9361X02.993ErigMe:s 血.曲4.12S.0003206-111.G3G.G

28、11Horsepower2572.002.041.1 073S33.417.293Wheelbase.3565 71S.000424see1.012336車(chē)寬.2443.517.0C12?70021.121.S92.3084 790.00030S9761.025.976年凈重.3斗滬4 BOO00D3537221.335.722Fuel cap日city.266'3.63?.000.2的.8201.219.820耕油量邁冊(cè)-.193-2 534011-.207.7561.319.7582Vehicle type1 一 920.056.1578351J37.B27Engine size1

29、.576.117.129.4452.246.445Horsepower.028220819.019.2563.910256年寬-.275.764-.023.4702.126.470車(chē)怪.D2汕.237.613.0203S03.446.230車(chē)淨(jìng)重,1051 028.306.081.3652.741365Fuel capacity.00?*=.024.9G1003.443工253.443耗油量邁坍.014.154.070.0145591790.559a襪型中的預(yù)測(cè)夷量Price ir thousandsitji g型中的預(yù)測(cè)夷量Price iri thousands, c. 0夷星：匚sales

30、得強(qiáng)弱，需要進(jìn)一步進(jìn)行分析。結(jié)果分析:1:從“已排除得變量”表中，可以瞧出：“模型2 ”中各變量得T檢得概率值都大于“05”所以，不能夠引入“線性回歸模型”必須剔除。非標(biāo)建化茉數(shù)標(biāo)準(zhǔn)系數(shù)tSig共線性纟五計(jì)呈B標(biāo)準(zhǔn)羞訶用飯訓(xùn)F1儒量）Price In thousands4 634*051.194.000-55224 090-e 104OOO.0001.0001.0002淳Price in thou sandsWheelbase-1.322-.0550611 .151Dae.011-.5S0.355-1.533-9,4375718.116XOO000.938.9301 0131 012禮Log-

31、transformed sales從“系數(shù)a”表中可以瞧出:1:多元線性回歸方程應(yīng)該為：銷(xiāo)售量 =-1、822-0、055*價(jià)格+0、061*軸距但就是，由于常數(shù)項(xiàng)得 sig為（0、116>0、1）所以常數(shù)項(xiàng)不具備顯著性，所以，我們?cè)偾坪竺娴谩皹?biāo)準(zhǔn)系數(shù)”，在標(biāo)準(zhǔn)系數(shù)一列中，可以瞧到“常數(shù)項(xiàng)”沒(méi)有數(shù)值，已經(jīng)被剔除所以：標(biāo)準(zhǔn)化得回歸方程為：銷(xiāo)售量=-0、59*價(jià)格+0、356*軸距2：再瞧最后一列“共線性統(tǒng)計(jì)量”，其中“價(jià)格”與“軸距”兩個(gè)容差與“vif都一樣,而且VIF都為1、012，且都小于5,所以兩個(gè)自變量之間沒(méi)有出現(xiàn)共線性，容忍度與 膨脹因子就是互為倒數(shù)關(guān)系，容忍度越小，膨脹因子越大，發(fā)生共線性得可能性也越大模型維數(shù)將粧値臬半索引方蓋比例Pilce in thousandsWh&elbase111 .SB 51 000loeOG2.1154.051.34.94312.'3'471 000.0002.002.1501.3G1.01.97JI300333 412.39.00”99a. Log-transformed sales殘差頸計(jì)量之櫃小値狠大逋均値標(biāo)準(zhǔn)偏養(yǎng)N預(yù)測(cè)値-245405.642043.29