線性回歸是統(tǒng)計(jì)分析方法中最常用的方法之一如果所研究的

線性回歸是統(tǒng)計(jì)分析方法中最常用的方法之一。如果所研究的現(xiàn)象有若干個(gè)影響因素，且這些因素對(duì)現(xiàn)象的綜合影響是線性的，則可以使用線性回歸的方法建立現(xiàn)象（因變量）與影響因素（自變量）之間的線性函數(shù)關(guān)系式。由于多元線性回歸的計(jì)算量比較大，所以有必要應(yīng)用統(tǒng)計(jì)分析軟件實(shí)現(xiàn)。這一節(jié)將專(zhuān)門(mén)介紹SPSS軟件的線性回歸分析的操作方法，包括求回歸系數(shù)，給出回歸模型的各項(xiàng)檢驗(yàn)統(tǒng)計(jì)量值及相應(yīng)的概率，對(duì)輸出結(jié)果的分析等相關(guān)內(nèi)容?！?.1線性回歸模型假設(shè)條件與模型的各種檢驗(yàn)1、線性回歸的假設(shè)理論（1）正態(tài)性假設(shè)：即所研究的變量均服從正態(tài)分布；（2）等方差假設(shè)：即各變量總體的方差是相等的；（3）獨(dú)立性假設(shè),即各變量之間是相互獨(dú)立的；（4）殘差項(xiàng)無(wú)自相關(guān)性，即誤差項(xiàng)之間互不相關(guān)，Cov@，￡）=0ij2、線性回歸模型的檢驗(yàn)項(xiàng)目（1）回歸系數(shù)的檢驗(yàn)（t檢驗(yàn)）。（2）回歸方程的檢驗(yàn)（F檢驗(yàn)）。（3）擬合程度判定（可決系數(shù)R2）。（4）D.W檢驗(yàn)（殘差項(xiàng)是否自相關(guān)）。（5）共線性檢驗(yàn)（多元線性回歸）。（6）殘差圖示分析（判斷異方差性和殘差序列自相關(guān)）?！?.2線性回歸分析的具體步驟SPSS軟件中進(jìn)行線性回歸分析的選擇項(xiàng)為Analyze—Regression—Linear。如圖3.9所示。面通過(guò)例題介紹線性回歸分析的操作過(guò)程。圖3.9示。面通過(guò)例題介紹線性回歸分析的操作過(guò)程。圖3.9Regression分析功能菜單例3.仍然用例2的數(shù)據(jù)，考察火柴銷(xiāo)售量與各影響因素之間的相關(guān)關(guān)系，建立火柴銷(xiāo)售量對(duì)于相關(guān)因素煤氣戶(hù)數(shù)、卷煙銷(xiāo)量、蚊香銷(xiāo)量、打火石銷(xiāo)量的線性回歸模型，通過(guò)對(duì)模型的分析，找出合適的線性回歸方程。解：建立線性回歸模型的具體操作步驟如下：1、打開(kāi)數(shù)據(jù)文件SY-9，單擊AnalyzetRegressiontLinear打開(kāi)Linear對(duì)話框如圖3.10所示。2、從左邊框中選擇因變量Y進(jìn)入Dependent框內(nèi)，選擇一個(gè)或多個(gè)自變量進(jìn)入Independent框內(nèi)。從Method框內(nèi)下拉式菜單中選擇回歸分析方法，有強(qiáng)行進(jìn)入法(Enter),消去法(Remove)，向前選擇法(Forward)，向后剔除法(Backward)及逐步回歸法(Stepwise)五種。本例中選擇逐步回歸法(Stepwise)。3、單擊Statistics，打開(kāi)LinearRegression：Statistics對(duì)話框，可以選擇輸出的統(tǒng)計(jì)量如圖3.11所示。?RegressionCoefficients欄，回歸系數(shù)選項(xiàng)欄。Estimates(系統(tǒng)默認(rèn))：輸出回歸系數(shù)的相關(guān)統(tǒng)計(jì)量：包括回歸系數(shù)，回歸系數(shù)標(biāo)準(zhǔn)誤、標(biāo)準(zhǔn)化回歸系數(shù)、回歸系數(shù)檢驗(yàn)統(tǒng)計(jì)量(t值)及相應(yīng)的檢驗(yàn)統(tǒng)計(jì)量概率的卩值(sig)。本例中只選擇此項(xiàng)。Confidenceintervals:輸出每一個(gè)非標(biāo)準(zhǔn)化回歸系數(shù)95%的置信區(qū)間。Covariancematrix：輸出協(xié)方差矩陣。?與模型擬合及擬合效果有關(guān)的選擇項(xiàng)。Modelfit是默認(rèn)項(xiàng)。能夠輸出復(fù)相關(guān)系數(shù)R、R2及R2修正值，估計(jì)值的標(biāo)準(zhǔn)誤，方差分析表。Rsquaredchange:引入或剔除一個(gè)變量時(shí)，R2的變化。Descriptives:基本統(tǒng)計(jì)描述。PartandPartialcorrelations:相關(guān)系數(shù)及偏相關(guān)系數(shù)。Collinearitydiagnostics:共線性診斷。主要對(duì)于多元回歸模型，分析各自變量的之間的共線性的統(tǒng)計(jì)量：包括容忍度和方差膨脹因子、特征值，條件指數(shù)等。本例中選擇上面所有的統(tǒng)計(jì)項(xiàng)。?Residuals殘差欄Durbin-Watson：D.W檢驗(yàn).Casewisediagnostics:奇異值診斷,有兩個(gè)選項(xiàng)：Outliersoutside（）standarddeviations:奇異值判據(jù)，默認(rèn)項(xiàng)標(biāo)準(zhǔn)差三3。Allcase輸出所有觀測(cè)量的殘差值。本例中選擇D.W檢驗(yàn)及奇異值診斷，選擇標(biāo)準(zhǔn)差為2,即置信度約為95%。圖3.11LinearRegression：Statistics4、如果需要觀察圖形，可單擊Plots按紐，打開(kāi)LinearRegression：Plots對(duì)話框如圖3.12所示。在此對(duì)話框中可以選擇所需要的圖形。圖3.12LinearRegression：Plots對(duì)話框在左上角的源變量框中，選擇Dependent進(jìn)入X（或Y）軸變量框，選擇其它變量進(jìn)入Y（或X）軸變量框，除因變量外，其客觀存在變量依次是：ZPRED:標(biāo)準(zhǔn)化預(yù)測(cè)值，ZRESID:標(biāo)準(zhǔn)化殘差，DRESID:剔除殘差，ADJPRED:修正后預(yù)測(cè)值，SRESID學(xué)生化殘差，SDRESID:學(xué)生化剔除殘差。?StandardizedResidualPlots欄，標(biāo)準(zhǔn)化殘差圖類(lèi)型，有選擇項(xiàng)：Histogram:標(biāo)準(zhǔn)化殘差直方圖

Normalprobabilityplot標(biāo)準(zhǔn)化殘差序列的正態(tài)分布概率圖.Produceallpartialplots依次繪制因變量和所有自變量的散布圖本例中選擇因變量Dependent與標(biāo)準(zhǔn)化殘差ZRESID的殘差圖。5、單擊Options按紐，打開(kāi)LinearRegression：Options對(duì)話框，如圖3.13所示?？梢詮闹羞x擇模型擬合判斷準(zhǔn)則SteppingMethodCriteria及缺失值的處理方式。LinearRegression:OptionsSteppingMethodCriteriaUseprobabilityofFEntry:|廠UseFvalueRemoval:|.10SteppingMethodCriteriaUseprobabilityofFEntry:|廠UseFvalueRemoval:|.10Entry：3.8^Removal：2.71兩IncludeconstantinequationMissingValuesExcludecaseslistwiseCExi圖爭(zhēng)耳￡苕ses_gainyhseCExi圖爭(zhēng)耳￡苕ses_gainyhseng"MethodiCTiteria*欄，設(shè)置變量引入或剔13LinearRegression：Options對(duì)話框除模型的判別標(biāo)準(zhǔn)。UseUse?SteppiprobabilityofF:米用F檢驗(yàn)的概率為判別依據(jù)。Fvalue:采用F值作為檢驗(yàn)標(biāo)準(zhǔn)。Includeconstantinequation回歸方程中包括常數(shù)項(xiàng)。?MissingValues缺失值的處理方式。本例中選擇系統(tǒng)默認(rèn)項(xiàng)。6、如果要保存預(yù)測(cè)值等數(shù)據(jù)，可單擊Save按紐打開(kāi)LinearRegression：Save對(duì)話框。選擇需要保存的數(shù)據(jù)種類(lèi)作為新變量存在數(shù)據(jù)編輯窗口。其中有預(yù)測(cè)值、殘差，預(yù)測(cè)區(qū)間等本例中不做選擇。7、當(dāng)所有選擇完成后，單擊OK得到分析結(jié)果。主要的分析結(jié)果見(jiàn)表3.4。表3.4(a)ModelSummary(d)模型綜合分析表ModelRRSquareAdjustedRSquareStd.ErroroftheEstimateChangeStatistics變動(dòng)分析Durbin-WatsonRSquareChangeFChangedf1df2Sig.FChange1.879(a).772.7552.44047.77244.085113.0002.994(b).988.986.58304.216215.772112.0003.997(c).994.993.41783.00612.365111.0052.066aPredictors:(Constant),卷煙銷(xiāo)量(萬(wàn)箱)bPredictors:(Constant),卷煙銷(xiāo)量(萬(wàn)箱),打火石銷(xiāo)量(百萬(wàn)粒)cPredictors:(Constant),卷煙銷(xiāo)量(萬(wàn)箱),打火石銷(xiāo)量(百萬(wàn)粒),煤氣戶(hù)數(shù)(萬(wàn)戶(hù))dDependentVariable:火柴銷(xiāo)量(萬(wàn)件)表3.4(a)模型綜合分析中有模型的復(fù)相關(guān)系數(shù)R,樣本決定系數(shù)R2修正的可決系數(shù)亍2,估計(jì)標(biāo)準(zhǔn)誤，模型變化導(dǎo)致的可決系數(shù)及F值的變化，D.W檢驗(yàn)值等。由上表中知模型3的修正的可決系數(shù)為0.993,其模型的擬合程度最好，DW值為2.066，顯然通過(guò)DW檢驗(yàn)，說(shuō)明殘差項(xiàng)不存在一階自相關(guān)。表3.4(b)方差分析表ANOVAdModelSumofSquaresdfMeanSquareFSig.1Regression262.5661262.56644.085.000aResidual77.427135.956Total339.993142Regression335.9142167.957494.090.000bResidual4.07912.340Total339.993143Regression338.0733112.691645.483.000cResidual1.92011.175Total339.99314Predict。rs:(Constant),萬(wàn)箱Predictors:(Constant),萬(wàn)箱，百萬(wàn)粒Predictors:(Constant),萬(wàn)箱，百萬(wàn)粒，萬(wàn)戶(hù)DependentVariable:萬(wàn)件方差分析表3.4(b)同時(shí)給出了3個(gè)模型的方差分析表。其中模型3的F值最大，說(shuō)明模型3的回歸效果最顯著。表3.4(c)回歸系數(shù)Model非標(biāo)準(zhǔn)化回歸系數(shù)UnstandardizedCoefficients標(biāo)準(zhǔn)化回歸系數(shù)StandardizedCoefficients檢驗(yàn)統(tǒng)計(jì)量tP值Sig相關(guān)系數(shù)Correlations共線性統(tǒng)計(jì)CollinearityStatistics單相偏相方差關(guān)關(guān)容忍度膨脹Std.Zero-PartiTolera因子BErrorBetaorderalPartnceVIF1(Constant)13.3921.9996.698.000卷煙銷(xiāo)量(萬(wàn).320.048.8796.640.00.879.879.8791.0001.000

箱）02(Constant).0017.240.54531.6470卷煙銷(xiāo)量（萬(wàn).00.315.012.86527.3470.879.992.865.9991.001箱）打火石銷(xiāo)量（百-14.68.00-.243.017-.46590-.490-.973-.464.9991.001萬(wàn)粒）3(Constant).0017.420.39444.2430卷煙銷(xiāo)量（萬(wàn).00.254.019.69813.2280.879.970.300.1855.417箱）打火石銷(xiāo)量（百-20.52.00-.243.012-.46560-.490-.987-.465.9991.001萬(wàn)粒）煤氣戶(hù)數(shù)（萬(wàn).00.049.014.1853.5165.826.727.080.1855.415戶(hù)）aDependentVariable:火柴銷(xiāo)量（萬(wàn)件）表3.4（c）中的Model欄中，模型1是先將卷煙銷(xiāo)量作為自變量進(jìn)入模型，模型2將卷煙銷(xiāo)量與打火石銷(xiāo)量?jī)蓚€(gè)自變量進(jìn)入模型，模型3是將卷煙、打火石和煤氣戶(hù)數(shù)三個(gè)自變量進(jìn)入模型。第四個(gè)自變量蚊香銷(xiāo)量沒(méi)有通過(guò)檢驗(yàn)自動(dòng)剔除?；貧w系數(shù)表的輸出結(jié)果可以看出，回歸系數(shù)都通過(guò)檢驗(yàn)，模型中自變量與因變量的偏相關(guān)系數(shù)都在0.7以上，說(shuō)明進(jìn)入模型的自變量對(duì)因變量的影響都比較顯著。由最后兩列的容忍度Tolerance和方差膨脹因子VIF的值來(lái)看，自變量之間不存在強(qiáng)烈的共線性。表3.4（d）相關(guān)系數(shù)表Correlations火柴銷(xiāo)量（萬(wàn)件）煤氣戶(hù)數(shù)（萬(wàn)戶(hù)）卷煙銷(xiāo)量（萬(wàn)箱）蚊香銷(xiāo)量（十萬(wàn)盒）打火石銷(xiāo)量（百萬(wàn)粒）Pearson火柴銷(xiāo)量（萬(wàn)件）Correlat1.000.826.879.808-.490ion煤氣戶(hù)數(shù)（萬(wàn)戶(hù)）.8261.000.903.949-.023卷煙銷(xiāo)量（萬(wàn)箱）.879.9031.000.903-.029蚊香銷(xiāo)量（十萬(wàn)盒）.808.949.9031.000-.007打火石銷(xiāo)量（百萬(wàn)粒）-.490-.023-.029-.0071.000Sig.(1-taile火柴銷(xiāo)量（萬(wàn)件）.000.000.000.032d)煤氣戶(hù)數(shù)（萬(wàn)戶(hù)）.000.000.000.468卷煙銷(xiāo)量（萬(wàn)箱）.000.000.000.458

蚊香銷(xiāo)量（十萬(wàn)盒）.000.000.000..490打火石銷(xiāo)量（百萬(wàn)粒）.032.468.458.490.N火柴銷(xiāo)量（萬(wàn)件）1515151515煤氣戶(hù)數(shù)（萬(wàn)戶(hù)）1515151515卷煙銷(xiāo)量（萬(wàn)箱）1515151515蚊香銷(xiāo)量（十萬(wàn)盒）1515151515打火石銷(xiāo)量（百萬(wàn)粒）1515151515相關(guān)分析表中表示的相關(guān)系數(shù)是全部變量（自變量與因變量）的兩兩變量之間的簡(jiǎn)單相關(guān)系數(shù)和相關(guān)性檢驗(yàn)。表3.4（e）殘差統(tǒng)計(jì)ResidualsStatisticsMinimumMaximumMeanStd.DeviationNPredictedValue17.927232.153225.98934.9140715Residual-.9332.9950.0000.3703715Std.PredictedValue-1.6411.254.0001.00015Std.Residual-2.2332.381.000.88615a.DependentVariable萬(wàn)件殘差統(tǒng)計(jì)表3.4（e）表示了預(yù)測(cè)值、殘差、標(biāo)準(zhǔn)化預(yù)測(cè)值和標(biāo)準(zhǔn)化殘差的特征值。其中包括預(yù)測(cè)值及殘差項(xiàng)的最小值和最大值、均值、標(biāo)準(zhǔn)誤和樣本容量。表3.4(f)共線性診斷表：CollinearityDiagnosticsModelDimensionEigenvalueConditionIndexVarianeeProportions(Constant)萬(wàn)箱百萬(wàn)粒萬(wàn)戶(hù)111.9491.000.03.032.057212.7421.000.01.01.032.2123.597.03.12.843.0467.73313.6641.000.01.00.02.002.2623.742.00.01.74.023.0647.568.84.01.24.074.01118.30.91a.DependentVarible:萬(wàn)件共線性診斷表中第二列是特征值，第三列是條件指數(shù)，最后一列是方差比。最大的條件指數(shù)小于20，說(shuō)明自變量之間不存在比較強(qiáng)烈的共線性。表3.4（g）奇異值表（標(biāo)準(zhǔn)化殘差值大于2）CasewiseDiagnosticsaCaseNumberStd.Residual萬(wàn)件PredictedValueResidual122.38129.6928.6950.995014-2.23331.0531.9832-.9332a.DependentVariable:萬(wàn)件奇異值表3.4(g)中依次是序號(hào)，標(biāo)準(zhǔn)化殘差值，實(shí)際觀測(cè)值、預(yù)測(cè)值及殘差值。表中給出的兩個(gè)個(gè)Sca據(jù)的標(biāo)準(zhǔn)化殘差(數(shù)據(jù)號(hào)為12和14)超出了2。表3.4(h)標(biāo)準(zhǔn)化殘差圖：DependentVariable:萬(wàn)件的。最終得回歸模型為：y=17.42+0.254x+0.049x一0.243x124§6.3曲線估計(jì)上節(jié)介紹了線性回歸模型的分析和檢驗(yàn)方法。如果某對(duì)變量數(shù)據(jù)的散點(diǎn)圖不是直線，而是某種曲線的形式時(shí)，可以利用曲線估計(jì)的方法為數(shù)據(jù)尋求一條合適的曲線，也可用變量代換的方法將曲線方程變?yōu)橹本€方程，用線性回歸模型進(jìn)行分析和預(yù)測(cè)。SPSS提供了多種曲線方程。列出表3.5如下：表3.5可化為線性方程的曲線方程函數(shù)名稱(chēng)方程形式相應(yīng)的線性回歸方程Linear線性函數(shù)y=b+bx丿01Quadratic二次多項(xiàng)式y(tǒng)=b+bx+bx2012y=b+bx+bxrx'=x2012Compound復(fù)合模型y=bbx01lny=lnb+xlnb01Growth生長(zhǎng)曲線y=e（b0+%x）y，=b。+bxy'=lnyLogarithmic對(duì)數(shù)函數(shù)y=b+blnx01y=b+bx'x'=lnx01Cubic三次多項(xiàng)式y(tǒng)=b+bx+bx2+bx30123y=b+bx+bx'+bx''x'=x2；x''=x3J0123'

SS曲線y=e(*0+bjx)y'=b+bXy'=lny;x'=1/xExponential指數(shù)函數(shù)y=beb1xyf=b'+bxy'=lny;b'=lnb0100Inverse逆函數(shù)y=b+(b/x)01y=b+bx'x'=1/x01Power幕函數(shù)y=b(xbi)0y'=b'+bx'y'=lny;b'=lnb0100x'=lnxLogistic邏輯曲線y=(1/u+bbx)-i01y'=b'+b'x01y'=ln(1/y-1/u);b'=lnb。；％=lnb這里以例題說(shuō)明曲線擬合的具體操作方法。例4：表3.6表示的是全國(guó)1990年至2002年人均消費(fèi)支出與教育支出的統(tǒng)計(jì)數(shù)據(jù)，試以人均消費(fèi)性支出為解釋變量，教育支出作為被解釋變量，擬合用一條合適的函數(shù)曲線。表3.6人均消費(fèi)支出與教育支出數(shù)據(jù)表（見(jiàn)參考文獻(xiàn)［3］）年份人均消費(fèi)性支出（元）教育支出（兀）19901627.6438.2419911854.2247.9119922203.657.5619933138.5671.0019944442.09153.9819955565.68194.6219966544.73307.9519977188.71419.1919987911.94542.7819997493.31556.9320007997.37656.2820019463.071091.8520029396.451062.13解：首先根據(jù)上表建立數(shù)據(jù)SY-10,作出人均消費(fèi)支出與教育支出的散點(diǎn)圖3.14如下:120012001000800教育支出400'20020004000600080001000800教育支出400'200200040006000800010000年人均消費(fèi)性支出（元）圖3.14人均消費(fèi)與教育支出的散點(diǎn)圖由上面圖形可以看出，兩個(gè)變量的散點(diǎn)圖為增長(zhǎng)的曲線形式，故選擇合適的函數(shù)進(jìn)行曲線估計(jì)。具體操作如下：1、單擊AnalyzetRegressiontCurveEstimation打開(kāi)CurveEstimation對(duì)話框。如圖3.15所示：圖3.15CurveEstimation曲線估計(jì)對(duì)話框2、選擇估計(jì)曲線：SPSS有多條曲線形式供選擇。根據(jù)散點(diǎn)圖，本例中選擇Quadratic,Power，和Compound曲線進(jìn)行對(duì)比分析。3、單擊Save按紐，打開(kāi)Save對(duì)話框如圖3.16所示。

圖3.16CurveEstimation：Save對(duì)話框選擇需要保存到數(shù)據(jù)表中的項(xiàng)目。在SaveVariables欄中，復(fù)選項(xiàng)依次是：PredictedValues預(yù)測(cè)值、Residuals殘差、Predictionintervals預(yù)測(cè)區(qū)間，可以在下方框中選擇置信度，默認(rèn)值為95%。本例中不作選擇。4、所有選擇完成后，單擊0K，得到輸出結(jié)果如表3.7.：表3.7表3.7曲線估計(jì)輸出表與曲線圖ObservedQuadraticCompoundPowerIndependent:XObservedQuadraticCompoundPower決定系數(shù)自由度F值P值回歸系數(shù)DependentMthRsqd.f.FSigfb0b1b2YQUA.98710382.64.000252.698-.14752.5E-05YCOM.995112086.35.00020.95501.0004YPOW.95411229.58.0003.6E-051.8460從表中可以看出，可決系數(shù)接近1的模型是Com復(fù)合函數(shù)，同時(shí)也可通過(guò)圖形驗(yàn)證這三個(gè)模型對(duì)觀察值的擬合程度。下面對(duì)以上三個(gè)模型進(jìn)一步分析。在主對(duì)話框的下方選擇輸出方差分析表DisplayAMOVAtable,可得到方差分析表的詳細(xì)分析結(jié)果如表3.8所示：表3.8曲線估計(jì)及方差分析表Dependentvariable..YMethod..QUADRATI二次多項(xiàng)式復(fù)相關(guān)指數(shù)MultipleR.99353可決系數(shù)RSquare.98710修正的可決系數(shù)AdjustedRSquare.98452標(biāo)準(zhǔn)誤StandardError45.70690AnalysisofVariance:方差分析表自由度DF平方和SumofSquares均方MeanSquareRegression21598766.0799383.00Residuals1020891.22089.12F（檢驗(yàn)統(tǒng)計(jì)量）=382.64096SignifF(假設(shè)檢驗(yàn)P值)=.0000VariablesintheEquation變量回歸系數(shù)標(biāo)準(zhǔn)誤標(biāo)準(zhǔn)化系數(shù)T值P值VariableBSEBBetaTSigTX-.147527.025041-1.134958-5.892.0002X**22.46018091E-052.2722E-062.08579710.827.0000(Constant)252.69789057.7922484.373.0014Dependentvariable..YMethod..COMPOUND復(fù)合函數(shù)ListwiseDeletionofMissingDataMultipleR.99737RSquare.99476AdjustedRSquare.99428StandardError.09002AnalysisofVariance:DFSumofSquaresMeanSquareDFSumofSquaresMeanSquareRegression16.90528916.905289

Regression16.90528916.905289Residuals11.089131.0081032086.35111SignifF=.0000Variable(Constant)Variables1.00042020.955019Dependentvariable..ListwiseDeletionofMissingMultiple.97687RSquare.95428AdjustedRSquare.95012StandardError.26578AnalysisDFRegressionResiduals11229.58009VariableintheEquationSEBBeta9.1977E-062.7111541.226139DataofVariance:SumofSquares16.217387.777033SignifVariablesMethod..POWERMeanSquare16.217387.070639.0000intheEquationBSEBBeta1.845988.121832.976871(Constant)3.5781705054E-053.7164E-05Residuals11.089131.0081032086.35111SignifF=.0000Variable(Constant)Variables1.00042020.955019Dependentvariable..ListwiseDeletionofMissingMultiple.97687RSquare.95428AdjustedRSquare.95012StandardError.26578AnalysisDFRegressionResiduals11229.58009VariableintheEquationSEBBeta9.1977E-062.7111541.226139DataofVariance:SumofSquares16.2