回歸分析課件

第五章回歸分析★★第五章回歸分析★★

從實(shí)踐意義講上，手機(jī)的用戶滿意度應(yīng)該與產(chǎn)品的質(zhì)量、價(jià)格和形象有關(guān)，因此我們以“用戶滿意度”為因變量，“質(zhì)量”、“形象”和“價(jià)格”為自變量，作線性回歸分析。利用SPSS軟件的回歸分析，得到回歸方程如下：

用戶滿意度=0.008×形象+0.645×質(zhì)量+0.221×價(jià)格

對(duì)于SIM手機(jī)來說，質(zhì)量對(duì)其用戶滿意度的貢獻(xiàn)比較大，質(zhì)量每提高1分，用戶滿意度將提高0.645分；其次是價(jià)格，用戶對(duì)價(jià)格的評(píng)價(jià)每提高1分，其滿意度將提高0.221分；而形象對(duì)產(chǎn)品用戶滿意度的貢獻(xiàn)相對(duì)較小，形象每提高1分，用戶滿意度僅提高0.008分。SIM手機(jī)用戶滿意度與相關(guān)變量線性回歸分析從實(shí)踐意義講上，手機(jī)的用戶滿意度應(yīng)該與產(chǎn)品的質(zhì)量、價(jià)格和方程各檢驗(yàn)指標(biāo)及含義如下：

方程各檢驗(yàn)指標(biāo)及含義如下：相關(guān)分析研究的是現(xiàn)象之間是否相關(guān)、相關(guān)的方向和密切程度，一般不區(qū)別自變量或因變量?；貧w分析則要分析現(xiàn)象之間相關(guān)的具體形式，確定其因果關(guān)系，并用數(shù)學(xué)模型來表現(xiàn)其具體關(guān)系。比如說，從相關(guān)分析中我們可以得知“質(zhì)量”和“用戶滿意度”變量密切相關(guān)，但是這兩個(gè)變量之間到底是哪個(gè)變量受哪個(gè)變量的影響，影響程度如何，則需要通過回歸分析方法來確定。相關(guān)分析研究的是現(xiàn)象之間是否相關(guān)、相關(guān)的方向和密切程度，一般回歸分析：研究變量間的非確定關(guān)系，構(gòu)造變量間經(jīng)驗(yàn)公式的數(shù)理統(tǒng)計(jì)方法?；貧w分析是確定兩種或兩種以上變數(shù)間相互依賴的定量關(guān)系的一種統(tǒng)計(jì)分析方法?；貧w分析（RegressionAnalysis)回歸分析：研究變量間的非確定關(guān)系，構(gòu)造變量間經(jīng)驗(yàn)公式的數(shù)理統(tǒng)進(jìn)行相關(guān)分析回歸分析是對(duì)具有因果關(guān)系的影響因素（自變量）和預(yù)測(cè)對(duì)象（因變量）所進(jìn)行的數(shù)理統(tǒng)計(jì)分析處理。只有當(dāng)變量與因變量確實(shí)存在某種關(guān)系時(shí)，建立的回歸方程才有意義。因此，作為自變量的因素與作為因變量的預(yù)測(cè)對(duì)象是否有關(guān)，相關(guān)程度如何，以及判斷這種相關(guān)程度的把握性多大，就成為進(jìn)行回歸分析必須要解決的問題。進(jìn)行相關(guān)分析，一般要求出相關(guān)關(guān)系，以相關(guān)系數(shù)的大小來判斷自變量和因變量的相關(guān)的程度。

進(jìn)行相關(guān)分析回歸分析是對(duì)具有因果關(guān)系的影響因素（自變量）和預(yù)SPSS提供的回歸分析過程有：Analyze

Regression菜單中，回歸分析過程包括：

線性回歸(Linear)、曲線估計(jì)(CurveEstimation)、二分變量邏輯回歸(BinaryLogistic)、多分變量邏輯回歸(MultinomialLogistic)、序回歸(Ordinal)、概率單位回歸(Probit)、非線性回歸(Nonlinear)、加權(quán)估計(jì)(WeightEstimation)、最優(yōu)編碼回歸(optimalScaling)和二階段最小平方法(2-StageLeastSquares)?；貧w分析回歸分析回歸分析按照涉及的自變量的多少，可分為一元回歸分析和多元回歸分析；按照自變量和因變量之間的關(guān)系類型，可分為線性回歸分析和非線性回歸分析。如果在回歸分析中，只包括一個(gè)自變量和一個(gè)因變量，且二者的關(guān)系可用一條直線近似表示，這種回歸分析稱為一元線性回歸分析。如果回歸分析中包括兩個(gè)或兩個(gè)以上的自變量，且因變量和自變量之間是線性關(guān)系，則稱為多元線性回歸分析。5.1線性回歸回歸分析按照涉及的自變量的多少，可分為一元回歸分析和多元回歸一元線性回歸一元線性回歸，又稱直線回歸，即模型為Y=aX+b+ε，這里X是自變量，Y是因變量，ε是隨機(jī)誤差，通常假定隨機(jī)誤差的均值為0，方差為σ^2（σ^2大于0）σ2與X的值無關(guān)。

一元線性回歸一元線性回歸，又稱直線回歸，即模型為Y=aX+b多元線性回歸根據(jù)多個(gè)自變量的最優(yōu)組合建立回歸方程來預(yù)測(cè)因變量的回歸分析稱為多元回歸分析。多元線性回歸分析擬合后的方程為常數(shù)項(xiàng)變量的偏回歸系數(shù)多元線性回歸根據(jù)多個(gè)自變量的最優(yōu)組合建立回歸方程來預(yù)測(cè)因變量線性回歸分析例5.1a根據(jù)數(shù)據(jù)集data11-13中的資料，試建立以初始工資(salbegin)、工作經(jīng)驗(yàn)(prevexp)、工作時(shí)間(jobtime)、工作種類(jobcat)和受教育年限(educ)為自變量，以當(dāng)前工資(salary)為因變量的多元回歸模型，以分析職工工資水平受各因素影響的程度。線性回歸分析例5.1a根據(jù)數(shù)據(jù)集data11-13中的資料，LinearRegression對(duì)話框因變量自變量指定回歸方法全部選入逐步回歸強(qiáng)行剔除向后剔除向前選擇加權(quán)最小平方法指定選擇參與回歸分析觀測(cè)量的變量指定作為觀測(cè)量標(biāo)簽的變量(Analyze

Regressionlinear)LinearRegression對(duì)話框因變量自變量指定回歸LinearRegression對(duì)話框關(guān)于回歸系數(shù)的選擇項(xiàng)非標(biāo)準(zhǔn)化回歸系數(shù)95%置信限非標(biāo)準(zhǔn)化回歸系數(shù)的方差-協(xié)方差提供判定系數(shù)、估計(jì)標(biāo)準(zhǔn)誤、ANOVA表等顯示每個(gè)自變量進(jìn)入方程后對(duì)R2和F值的影響描述性統(tǒng)計(jì)量部分相關(guān)和偏相關(guān)共線性診斷德賓-沃森檢驗(yàn)與回歸系數(shù)相關(guān)的統(tǒng)計(jì)量觀測(cè)值診斷LinearRegression對(duì)話框關(guān)于回歸系數(shù)的選擇LinearRegression對(duì)話框標(biāo)準(zhǔn)化預(yù)測(cè)值標(biāo)準(zhǔn)化殘差剔除殘差調(diào)整預(yù)測(cè)值學(xué)生化殘差學(xué)生化剔除殘差輸出標(biāo)準(zhǔn)化殘差相對(duì)于因變量的散布圖標(biāo)準(zhǔn)化殘差圖直方圖正態(tài)概率圖(系統(tǒng)默認(rèn)為不輸出圖形)LinearRegression對(duì)話框標(biāo)準(zhǔn)化預(yù)測(cè)值標(biāo)準(zhǔn)化LinearRegression對(duì)話框本對(duì)話框用來定義存儲(chǔ)進(jìn)入數(shù)據(jù)文件的新變量預(yù)測(cè)值距離預(yù)測(cè)區(qū)間殘差存儲(chǔ)到新的文件中影響點(diǎn)的統(tǒng)計(jì)量LinearRegression對(duì)話框本對(duì)話框用來定義存LinearRegression對(duì)話框逐步回歸法變量取舍標(biāo)準(zhǔn)用F值的顯著性水平作為標(biāo)準(zhǔn)用F值作為標(biāo)準(zhǔn)在回歸方程中包括常項(xiàng)缺失值的處理方式用均值代替缺失值LinearRegression對(duì)話框逐步回歸法變量取舍輸出結(jié)果(部分)：復(fù)相關(guān)系數(shù)的判定系數(shù)輸出結(jié)果(部分)：復(fù)相關(guān)系數(shù)的判定系數(shù)輸出結(jié)果(部分)：輸出結(jié)果(部分)：異常值，影響點(diǎn)和共線性判斷異常值：標(biāo)準(zhǔn)化殘差的絕對(duì)值>3異常值異常值，影響點(diǎn)和共線性判斷異常值：標(biāo)準(zhǔn)化殘差的絕對(duì)值>3異常影響點(diǎn)識(shí)別影響點(diǎn)的指標(biāo)：1.Dresid,剔除殘差。2.Sdresid,學(xué)生化殘差。殘差除以它的標(biāo)準(zhǔn)誤，其值>23.Cook距離4.Mahalanobis距離5.Leveragevalues,中心點(diǎn)杠桿值6.CovarianceRatio，協(xié)方差比，衡量某個(gè)觀測(cè)量是否對(duì)回歸系數(shù)有顯著的影響。影響點(diǎn)識(shí)別影響點(diǎn)的指標(biāo)：共線性問題定義：某些自變量彼此相關(guān)分為精確共線性與近似共線性。共線性問題定義：某些自變量彼此相關(guān)共線性問題識(shí)別共線性的統(tǒng)計(jì)量：1.容許度(Tolerance)：值越小，共線性越強(qiáng)2.方差膨脹因子(VIF)：值越大，共線性越強(qiáng)3.特征值(Eigenvalues)：越接近0，共線性越強(qiáng)4.條件系數(shù)(ConditionIndex)：》155.方差比例(VarianceProportions)：值越大，共線性越強(qiáng)共線性問題

常用的共線性問題的解決方法：1.從產(chǎn)生共線性問題的自變量中剔除不重要的自變量2.增加樣本量3.重新抽取樣本數(shù)據(jù)常用的共線性問題的解決方法：作數(shù)據(jù)散點(diǎn)圖觀察因變量與自變量之間關(guān)系是否有線性關(guān)系。GraphsLegacyDialogsScatter/DotSimpleScatter作數(shù)據(jù)散點(diǎn)圖觀察因變量與自變量之間關(guān)系是否有線性關(guān)系。輸出結(jié)果：輸出結(jié)果：初始與當(dāng)前工資散點(diǎn)圖初始與當(dāng)前工資散點(diǎn)圖LinearRegression對(duì)話框LinearRegression對(duì)話框LinearRegression對(duì)話框奇異值判別LinearRegression對(duì)話框奇異值判別LinearRegression對(duì)話框確定影響點(diǎn)LinearRegression對(duì)話框確定影響點(diǎn)LinearRegression對(duì)話框檢測(cè)模型的直線性和方差的齊性。標(biāo)準(zhǔn)化殘差標(biāo)準(zhǔn)化預(yù)測(cè)值LinearRegression對(duì)話框檢測(cè)模型的直線性和輸出結(jié)果：引入或從模型中剔除的變量輸出結(jié)果：引入或從模型中剔除的變量輸出結(jié)果：擬合過程小結(jié)輸出結(jié)果：擬合過程小結(jié)輸出結(jié)果：方差分析輸出結(jié)果：方差分析輸出結(jié)果：逐步回歸過程中不在方程中的變量輸出結(jié)果：逐步回歸過程中不在方程中的變量輸出結(jié)果：各步回歸過程中的統(tǒng)計(jì)量輸出結(jié)果：各步回歸過程中的統(tǒng)計(jì)量當(dāng)前工資變量的異常值表輸出結(jié)果：當(dāng)前工資變量的異常值表輸出結(jié)果：殘差統(tǒng)計(jì)量輸出結(jié)果：殘差統(tǒng)計(jì)量輸出結(jié)果：影響點(diǎn)查找輸出結(jié)果：影響點(diǎn)查找輸出結(jié)果：輸出結(jié)果：當(dāng)前工資的預(yù)測(cè)值與學(xué)生化殘差散點(diǎn)圖輸出結(jié)果：當(dāng)前工資的預(yù)測(cè)值與學(xué)生化殘差散點(diǎn)圖5.2曲線估計(jì)線性回歸只適用于因變量與自變量的數(shù)據(jù)分布呈直線趨勢(shì)的情況若數(shù)據(jù)分布呈曲線趨勢(shì)且具有某種函數(shù)的圖形特點(diǎn)，就需要通過曲線估計(jì)來尋找和建立適合的模型5.2曲線估計(jì)線性回歸只適用于因變量與自變量的數(shù)據(jù)分布呈曲線估計(jì)曲線估計(jì)對(duì)數(shù)據(jù)的要求是：自變量與因變量均為數(shù)值型變量，模型殘差呈正態(tài)分布；SPSS提供的曲線估計(jì)過程可通過曲線估計(jì)對(duì)話框(Analyze

Regression

CurveEstimation)實(shí)現(xiàn)。

曲線估計(jì)曲線估計(jì)對(duì)數(shù)據(jù)的要求是：自變量與因變量均為數(shù)值型變量第5章回歸分析課件曲線估計(jì)例5.2已知調(diào)查得到的某單位廢品率和生產(chǎn)率的數(shù)據(jù)如下，試建立廢品率對(duì)生產(chǎn)率的回歸模型(數(shù)據(jù)集12)。曲線估計(jì)例5.2已知調(diào)查得到的某單位廢品率和生產(chǎn)率的數(shù)據(jù)如下散點(diǎn)圖散點(diǎn)圖生產(chǎn)率與廢品率的散點(diǎn)圖生產(chǎn)率與廢品率的散點(diǎn)圖CurveEstimation對(duì)話框輸出方差分析表自變量因變量以時(shí)間順序?yàn)樽宰兞勘４嫘伦兞吭跀?shù)據(jù)集中回歸方程中包括常數(shù)項(xiàng)產(chǎn)生模型圖CurveEstimation對(duì)話框輸出方差分析表自變量因輸出結(jié)果(1)---直線模型>0.0001,顯著性檢驗(yàn)不成立輸出結(jié)果(1)---直線模型>0.0001,顯著性檢驗(yàn)不成立輸出結(jié)果(2)---二次曲線模型>0.0001,顯著性檢驗(yàn)不成立輸出結(jié)果(2)---二次曲線模型>0.0001,顯著性檢驗(yàn)不輸出結(jié)果(3)---指數(shù)曲線模型<0.0001,回歸方程有統(tǒng)計(jì)意義輸出結(jié)果(3)---指數(shù)曲線模型<0.0001,回歸方程有統(tǒng)輸出結(jié)果(4)---模型擬合圖輸出結(jié)果(4)---模型擬合圖曲線估計(jì)例5.3用數(shù)據(jù)集data11-01中的數(shù)據(jù)研究車生weightt與每加侖公里數(shù)mpg之間的關(guān)系。曲線估計(jì)例5.3用數(shù)據(jù)集data11-01中的數(shù)據(jù)研究車生w1.制作觀測(cè)量數(shù)據(jù)的散點(diǎn)圖GraphsLegacyDialogsScatter/Dot以變量mpg做Y軸，變量weightt做X軸。1.制作觀測(cè)量數(shù)據(jù)的散點(diǎn)圖GraphsLe第5章回歸分析課件輸出結(jié)果：每加侖里程與車重散點(diǎn)圖輸出結(jié)果：每加侖里程與車重散