第四章 多重共線性

1、計量經(jīng)濟(jì)學(xué)第四章多重共線性1引子：發(fā)展農(nóng)業(yè)和建筑業(yè)會減少財政收入嗎？為了分析各主要因素對財政收入的影響，建立財政收入模型:CSi = b0 + b1NZi + b2GZi + b3 JZZi+ b4TPOPi其中: CS財政收入(億元) ; NZ農(nóng)業(yè)增加值(億元);JZZ建筑業(yè)增加值(億元);CUM最終消費(fèi)(億元);+ b5CUMi + b6 SZMi + uiGZ工業(yè)增加值(億元); TPOP總?cè)丝?萬人);SZM受災(zāi)面積(萬公頃)數(shù)據(jù)樣本時期1978年-2003年（資料來源：中計年鑒2004，中2004年版）計采用普通最小二乘法得到以下估計結(jié)果2財政收入模型的EViews估計結(jié)果Varia

2、bleCoefficientStd. Errort-StatisticProb.R-squaredAdjusted R-squaredS.E. of regression Sum squared resid Log likelihood Durbin-Watson stat0.9950150.993441481.53804405699.-193.41651.873809Mean dependent varS.D. dependent var Akaike info criterionSchwarz criterionF-statisticProb(F-statistic)5897.824594

3、5.85415.4166515.75537632.09990.0000300農(nóng)業(yè)增加值NZ 工業(yè)增加值GZ建筑業(yè)增加值JZZ 總?cè)丝赥POP最終消費(fèi)CUM受災(zāi)面積SZM 截距項(xiàng)-1.5350900.898788-1.5270890.1511600.101514-0.036836-11793.340.1297780.2454661.2062420.0337590.1053290.0184603191.096-11.828613.661558-1.2659894.4776460.963783-1.995382-3.6957040.00000.00170.22080.00030.34730.0605

4、0.0015模型估計與檢驗(yàn)結(jié)果分析 可決系數(shù)為0.995，校正的可決系數(shù)為0.993，模型擬合很好。模型對財政收入的解釋程度高達(dá)99.5%。 F統(tǒng)計量為632.10，說明0.05水平下回歸方程整體上顯著。 t 檢驗(yàn)結(jié)果表明，除了農(nóng)業(yè)增加值、工業(yè)增加值和總?cè)丝谝酝?，其他因素對財政收入的影響均不顯著。農(nóng)業(yè)增加值和建筑業(yè)增加值的回歸系數(shù)是負(fù)數(shù)。農(nóng)業(yè)和建筑業(yè)的發(fā)展反而會使財政收入減少嗎？!這樣的異常結(jié)果顯然與理論分析和實(shí)踐經(jīng)驗(yàn)不相符。 若模型設(shè)定和數(shù)據(jù)真實(shí)性沒問題，問題出在哪里呢？4第四章多重共線性本章討論四個問題：什么是多重共線性多重共線性產(chǎn)生的后果多重共線性的檢驗(yàn)多重共線性的補(bǔ)救措施5第一節(jié)什么是

5、多重共線性本節(jié)基本內(nèi)容: 多重共線性的含義產(chǎn)生多重共線性的背景6一、多重共線性的含義在計量經(jīng)濟(jì)學(xué)中所謂的多重共線性(Multi-Collinearity)，不僅包括完全的多重共線性，還 包括不完全的多重共線性。X 2 , X 3 , Xk ，如果存在不全為0的對于解釋變量數(shù)1 ,2 ,.k，使得l1 + l2 X 2i + l3 X3i + . + lk X ki = 0i = 1, 2,., n則稱解釋變量共線性。X 2 , X 3 ,X k 之間存在著完全的多重7當(dāng) Rank(X ) k時，表明在數(shù)據(jù)矩陣 X 中，至少有一個列向量可以用其余的列向量線性表示，則說明存在完全的多重共線性。8不

6、完全的多重共線性實(shí)際中，常見的情形是解釋變量之間存在不完全的多重共線性。X 2 , X 3 ,X k，存在不全為0的數(shù)對于解釋變量l1 , l2 ,lk，使得l1 + l2 X 2i + l3 X3i + . + lk X ki + ui = 0 i = 1, 2,., nui為隨Xk量。這表明解釋變量其中，X 2 , X 3 ,只是一種近似的線性關(guān)系。9回歸模型中解釋變量的關(guān)系可能表現(xiàn)為三種情形：= 0rx x(1)，解釋變量間毫無線性關(guān)系，變量間相ij互正交。這時已不需要作多元回歸，每個參數(shù)bj都可以通過Y 對 Xj 的一元回歸來估計。= 1(2)rx x，解釋變量間完全共線性。此時模型參

7、ij數(shù)將無法確定。(3)0rx x 1，解釋變量間存在一定程度的線性關(guān)ij系。實(shí)際中常遇到的情形。10二、產(chǎn)生多重共線性的背景多重共線性產(chǎn)生的經(jīng)濟(jì)背景主要有幾種情形：1. 經(jīng)濟(jì)變量之間具有共同變化趨勢。2. 模型中包含滯后變量。3. 利用截面數(shù)據(jù)建立模型也可能出現(xiàn)多重共線性。4. 樣本數(shù)據(jù)自身的原因。11第二節(jié)多重共線性產(chǎn)生的后果本節(jié)基本內(nèi)容: 完全多重共線性產(chǎn)生的后果不完全多重共線性產(chǎn)生的后果12一、完全多重共線性產(chǎn)生的后果1.參數(shù)的估計值不確定當(dāng)解釋變量完全線性相關(guān)時 OLS 估計式不確定 從偏回歸系數(shù)意義看：在X 2 和 X 3完全共線性時，無法保持X 3 不變，去單獨(dú)考慮 X 2 對Y

8、的影響（ X 2不可區(qū)分）X 3和的影響= 00 從OLS估計式看：可以證明此時2.參數(shù)估計值的方差無限大2OLS估計式的方差成為無窮大： Var(b) = 213二、不完全多重共線性產(chǎn)生的后果如果模型中存在不完全的多重共線性，可以得到參數(shù)的估計值，但是對計量經(jīng)濟(jì)分析可能會產(chǎn)生 一系列的影響。1.參數(shù)估計值的方差增大 2112Var( 2 ) = =22x(1- r2 )2x(1- r)2i232i23rVar(b 2 )當(dāng)增大時也增大23142. 對參數(shù)區(qū)間估計時，置信區(qū)間趨于變大3. 假設(shè)檢驗(yàn)容易作出錯誤的判斷4. 可能造成可決系數(shù)較高，但對各個參數(shù)單獨(dú)的 t 檢驗(yàn)卻可能不顯著，甚至可能使

9、估計的回歸系數(shù)符號相反，得出完全錯誤的結(jié)論。15第三節(jié)多重共線性的檢驗(yàn)本節(jié)基本內(nèi)容： 簡單相關(guān)系數(shù)檢驗(yàn)法 方差擴(kuò)大（膨脹）因子法 直觀判斷法 逐步回歸法16一、簡單相關(guān)系數(shù)檢驗(yàn)法含義：簡單相關(guān)系數(shù)檢驗(yàn)法是利用解釋變量之間的線性相關(guān)程度去判斷是否存在嚴(yán)重多重共線性 的一種簡便方法。判斷規(guī)則：一般而言，如果每兩個解釋變量的簡單相關(guān)系數(shù)(零階相關(guān)系數(shù))比較高，例如大于0.8， 則可認(rèn)為存在著較嚴(yán)重的多重共線性。17注意：較高的簡單相關(guān)系數(shù)只是多重共線性存在的充分條件，而不是必要條件。特別是在多于兩個解釋 變量的回歸模型中，有時較低的簡單相關(guān)系數(shù)也 可能存在多重共線性。因此并不能簡單地依據(jù)相關(guān)系數(shù)進(jìn)行

10、多重共線性的準(zhǔn)確判斷。18二、方差擴(kuò)大（膨脹）因子法的參數(shù)估計式 jX j統(tǒng)計上可以證明，解釋變量的方差可表示為 2 21VIFjVar( j ) =2j22jx1- RjxX jVIFj是變量其中的的方差擴(kuò)大因子1VIF=(Variance Inflation Factor)，即()j2j1- RR2其中是多個解釋變量輔助回歸的可決系數(shù)j19經(jīng)驗(yàn)規(guī)則 方差膨脹因子越大，表明解釋變量之間的多重共性越嚴(yán)重。反過來，方差膨脹因子越接近于1， 多重共線性越弱。 經(jīng)驗(yàn)表明，方差膨脹因子10時，說明解釋變量 與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會過度地影響最小二乘估計。20三、直觀

11、判斷法1. 當(dāng)增加或剔除一個解釋變量，或者改變一個觀測值時，回歸參數(shù)的估計值發(fā)生較大變化，回歸方程可能存在嚴(yán)重的多重共線性。2. 從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒有通過顯著性檢驗(yàn)時，可初步判斷可能存在嚴(yán)重的多重共線性。213. 有些解釋變量的回歸系數(shù)所帶正負(fù)號與定性分析結(jié)果違，很可能存在多重共線性。4. 解釋變量的相關(guān)矩陣中，自變量之間的相關(guān)系數(shù)較大時，可能會存在多重共線性問題。22四、逐步回歸檢測法逐步回歸的基本思想將變量逐個的引入模型，每引入一個解釋變量后， 都要進(jìn)行檢驗(yàn)，并對已經(jīng)選入的解釋變量逐個進(jìn)行 t 檢驗(yàn)，當(dāng)原來引入的解釋變量由于后面解釋變

12、量的引入而變得不再顯著時，則將其剔除。以確保每次引 入新的變量之前回歸方程中只包含顯著的變量。在逐步回歸中，高度相關(guān)的解釋變量，在引入時會被剔除。因而也是一種檢測多重共線性的有效方法。23第四節(jié)多重共線性的補(bǔ)救措施本節(jié)基本內(nèi)容: 修正多重共線性的經(jīng)驗(yàn)方法逐步回歸法24一、修正多重共線性的經(jīng)驗(yàn)方法1. 剔除變量法把方差擴(kuò)大因子最大者所對應(yīng)的自變量首先剔除再重新建立回歸方程，直至回歸方程中不再存在嚴(yán)重的多重共線性。注意:若剔除了重要變量，可能引起模型的設(shè)定誤差。252. 增大樣本容量如果樣本容量增加，會減小回歸參數(shù)的方差，標(biāo)準(zhǔn)誤差也同樣會減小。因此盡可能地收集足夠多的樣本數(shù)據(jù)可以改進(jìn)模型參數(shù)的估計

13、。問題：增加樣本數(shù)據(jù)在實(shí)際計量分析中常面臨許多困難。263. 變換模型形式一般而言，差分后變量之間的相關(guān)性要比差分前弱得多，所以差分后的模型可能降低出現(xiàn)共線性的可能性，此時可直接估計差分方程。問題：差分會丟失一些信息，差分模型的誤差項(xiàng)可能存在序列相關(guān)，可能會違背經(jīng)典線性回歸模型的相關(guān)假設(shè)，在具體運(yùn)用時要慎重。274. 利用非樣本先驗(yàn)信息通過經(jīng)濟(jì)理論分析能夠得到某些參數(shù)之間的關(guān)系，可以將這種關(guān)系作為約束條件，將此約束條件和樣本信息結(jié)合起來進(jìn)行約束最小二乘估計。285. 橫截面數(shù)據(jù)與時序數(shù)據(jù)并用首先利用橫截面數(shù)據(jù)估計出部分參數(shù)，再利用時序數(shù)據(jù)估計出另外的部分參數(shù)，最后得到整個方程參數(shù)的估計。注意：

14、這里包含著假設(shè)，即參數(shù)的橫截面估計和從純粹時間序列分析中得到的估計是一樣的。296. 變量變換變量變換的主要方法：(1) 計算相對指標(biāo)(2) 將名義數(shù)據(jù)轉(zhuǎn)換為實(shí)際數(shù)據(jù)(3)將小類指標(biāo)合并成大類指標(biāo)變量數(shù)據(jù)的變換有時可得到較好的結(jié)果，但無法保證一定可以得到很好的結(jié)果。30二、逐步回歸法（1） 用被解釋變量對每一個所考慮的解釋變量做簡 單回歸。（2） 以對被解釋變量貢獻(xiàn)最大的解釋變量所對應(yīng)的回歸方程為基礎(chǔ)，按對被解釋變量貢獻(xiàn)大小的順序逐個引入其余的解釋變量。若新變量的引入改進(jìn)了 R和2檢F 驗(yàn)，且回歸參數(shù)的t 檢驗(yàn)在統(tǒng)計上也是顯著的，則在模型中保留該變量。31若新變量的引入未能改進(jìn) R和2檢F 驗(yàn)

15、，且對其他回歸參數(shù)估計值的t 檢驗(yàn)也未帶來什么影響，則認(rèn)為該變量是多余變量。若新變量的引入未能改進(jìn)R和2檢F 驗(yàn)，且顯著地影響了其他回歸參數(shù)估計值的數(shù)值或符號，同時本身的回歸參數(shù)也通不過t 檢驗(yàn)，說明出現(xiàn)了嚴(yán)重的多重共線性。32第五節(jié)案例分析一、研究的目的要求提出研究的問題為了規(guī)劃中國未來國內(nèi)旅游產(chǎn)業(yè)的發(fā)展，需要定量地分析影響中國國內(nèi)旅游市場發(fā)展的主要因素。二、模型設(shè)定及其估計影響因素分析與確定影響因素主要有國內(nèi)旅游，X農(nóng)村居民人均人數(shù)X，2城鎮(zhèn)居民人均旅游支出3旅游支出 X 4，并以公路里程次和X 5鐵路里程X作6為相關(guān)基礎(chǔ)設(shè)施的代表理論模型的設(shè)定Yt = b1 + b2 X 2t + b3

16、 X 3t + b4 X 4t + b5 X 5t + b6 X 6t + ut其中 ：Yt第 t 年全國國內(nèi)旅游收入33數(shù)據(jù)來源:中計年鑒200434數(shù)據(jù)的收集與處理年份國內(nèi)旅游收入Y（億元）國內(nèi)旅游人數(shù)X2（萬人次）城鎮(zhèn)居民人均旅游支出X3（元）農(nóng)村居民人均旅游支出X4 （元）公路里程 X5（萬公里）鐵路里程X6（ 萬公里）19941023.552400414.754.9111.785.9019951375.762900464.061.5115.705.9719961638.463900534.170.5118.586.4919972112.764400599.8145.7122.646.

17、6019982391.269450607.0197.0127.856.6419992831.971900614.8249.5135.176.7420003175.574400678.6226.6140.276.8720013522.478400708.3212.7169.807.0120023878.487800739.7209.1176.527.1920033442.387000684.9200.0180.987.30OLS 法估計的結(jié)果= 0.9954= 0.9897R2R2該模型可，決系數(shù)很高，F(xiàn)檢驗(yàn)值173.3525,明顯顯著。但是當(dāng) a = 0.05時ta 2 (n - k) = t

18、0.025 (10 - 6) = 2.776不僅X 2 、X 6系數(shù)的t檢驗(yàn)、不顯著，而且 X 6 系數(shù)的符號與預(yù)期的相反，這表明很可能存在嚴(yán)重的多重共線性。35計算各解釋變量的相關(guān)系數(shù)表明各解釋變量間確實(shí)存在嚴(yán)重的多重共線性36三、消除多重共線性采用逐步回歸法檢驗(yàn)和解決多重共線性問題。分別作Y 對X2、X3、X4、X5、X6的一元回歸R 2的大小排序?yàn)椋篨3、X6、X2、X5、X4。以X3為基礎(chǔ)，順次加入其他變量逐步回歸，過程從略（見教材）37變量X2X3X4X5X6參數(shù)估計值0.08429.052311.667334.33242014.146t 統(tǒng)計量8.665913.15985.19676.46758.7487R 20.90370.95580.77150.83940.9054四、回歸結(jié)果的解釋與分析最后消除多重共線性的結(jié)果Y= -2442.386 + 4.2196X+