多重共線性問題課件

問題一：多重共線性Multi-Collinearity一、多重共線性的概念二、實際經濟問題中的多重共線性三、多重共線性的后果四、多重共線性的檢驗五、克服多重共線性的方法六、案例*七、分部回歸與多重共線性一、多重共線性的概念對于模型

Yi=0+1X1i+2X2i++kXki+i

i=1,2,…,n其基本假設之一是解釋變量是互相獨立的。

如果某兩個或多個解釋變量之間出現(xiàn)了相關性，則稱為多重共線性(Multicollinearity)。

如果存在

c1X1i+c2X2i+…+ckXki=0

i=1,2,…,n

其中:ci不全為0，則稱為解釋變量間存在完全共線性（perfectmulticollinearity）。

如果存在

c1X1i+c2X2i+…+ckXki+vi=0

i=1,2,…,n

其中ci不全為0，vi為隨機誤差項，則稱為

近似共線性（approximatemulticollinearity）或交互相關(intercorrelated)。二、實際經濟問題中的多重共線性

一般地，產生多重共線性的主要原因有以下三個方面：（1）經濟變量相關的共同趨勢

時間序列樣本：經濟繁榮時期，各基本經濟變量（收入、消費、投資、價格）都趨于增長；衰退時期，又同時趨于下降。

橫截面數(shù)據(jù)：生產函數(shù)中，資本投入與勞動力投入往往出現(xiàn)高度相關情況，大企業(yè)二者都大，小企業(yè)都小。（2）滯后變量的引入在經濟計量模型中，往往需要引入滯后經濟變量來反映真實的經濟關系。例如，消費=f(當期收入,前期收入）顯然，兩期收入間有較強的線性相關性。（3）樣本資料的限制

由于完全符合理論模型所要求的樣本數(shù)據(jù)較難收集，特定樣本可能存在某種程度的多重共線性。

一般經驗：

時間序列數(shù)據(jù)樣本：簡單線性模型，往往存在多重共線性。

截面數(shù)據(jù)樣本：問題不那么嚴重，但多重共線性仍然是存在的。

二、多重共線性的后果1、完全共線性情況下的后果(1)完全共線性下參數(shù)估計量不存在(2)參數(shù)估計量的方差無限大（1）參數(shù)估計值的方差增大（2）對參數(shù)區(qū)間估計時,置信區(qū)間趨于變大（3）嚴重多重共線時,假設檢驗容易做出錯誤的判斷（4）當多重共線性嚴重時,可能造成可決系數(shù)R2較高經F檢驗的參數(shù)聯(lián)合顯著性也很高，但對各個參數(shù)單獨的t檢驗卻可能不顯著，甚至可能使估計的回歸系數(shù)相反，得出完全錯誤的結論。注意：

除非是完全共線性，多重共線性并不意味著任何基本假設的違背；因此，即使出現(xiàn)較高程度的多重共線性，OLS估計量仍具有線性性等良好的統(tǒng)計性質。

問題在于，即使OLS法仍是最好的估計方法，它卻不是“完美的”，尤其是在統(tǒng)計推斷上無法給出真正有用的信息。1、檢驗多重共線性是否存在

(1)對兩個解釋變量的模型，采用簡單相關系數(shù)法求出X1與X2的簡單相關系數(shù)r，若|r|接近1，則說明兩變量存在較強的多重共線性。(2)對多個解釋變量的模型，采用綜合統(tǒng)計檢驗法若在OLS法下：R2與F值較大，但t檢驗值較小，說明各解釋變量對Y的聯(lián)合線性作用顯著，但各解釋變量間存在共線性而使得它們對Y的獨立作用不能分辨，故t檢驗不顯著。2、判明存在多重共線性的范圍

如果存在多重共線性，需進一步確定究竟由哪些變量引起。(1)判定系數(shù)檢驗法使模型中每一個解釋變量分別以其余解釋變量為解釋變量進行回歸，并計算相應的擬合優(yōu)度。如果某一種回歸Xji=1X1i+2X2i+LXLi的判定系數(shù)較大，說明Xj與其他X間存在共線性。具體可進一步對上述回歸方程作F檢驗：

式中：Rj?2為第j個解釋變量對其他解釋變量的回歸方程的決定系數(shù)，若存在較強的共線性，則Rj?2較大且接近于1，這時（1-Rj?2）較小，從而Fj的值較大。因此，給定顯著性水平，計算F值，并與相應的臨界值比較，來判定是否存在相關性。

構造如下F統(tǒng)計量

在模型中排除某一個解釋變量Xj，估計模型；如果擬合優(yōu)度與包含Xj時十分接近，則說明Xj與其它解釋變量之間存在共線性。另一等價的檢驗是:(2)逐步回歸法

以Y為被解釋變量，逐個引入解釋變量，構成回歸模型，進行模型估計。根據(jù)擬合優(yōu)度的變化決定新引入的變量是否獨立。

如果擬合優(yōu)度變化顯著，則說明新引入的變量是一個獨立解釋變量；

如果擬合優(yōu)度變化很不顯著，則說明新引入的變量與其它變量之間存在共線性關系。經驗規(guī)則●方差膨脹因子越大，表明解釋變量之間的多重共性越嚴重。反過來，方差膨脹因子越接近于1，多重共線性越弱?！窠涷灡砻?，方差膨脹因子≥10時，說明解釋變量與其余解釋變量之間有嚴重的多重共線性，且這種多重共線性可能會過度地影響最小二乘估計。③有些解釋變量的回歸系數(shù)所帶正負號與定性分析結果違背時，很可能存在多重共線性。④解釋變量的相關矩陣中，自變量之間的相關系數(shù)較大時，可能會存在多重共線性問題。找出引起多重共線性的解釋變量，將它排除出去。以逐步回歸法(stepwise)得到最廣泛的應用。

注意：這時，剩余解釋變量參數(shù)的經濟含義和數(shù)值都發(fā)生了變化。

如果模型被檢驗證明存在多重共線性，則需要發(fā)展新的方法估計模型，最常用的方法有三類。四、克服多重共線性的方法1、第一類方法：排除引起共線性的變量一般而言，差分后變量之間的相關性要比差分前弱得多，所以差分后的模型可能降低出現(xiàn)共線性的可能性，此時可直接估計差分方程。問題：差分會丟失一些信息，差分模型的誤差項可能存在序列相關，可能會違背經典線性回歸模型的相關假設，在具體運用時要慎重。

例

如：由表中的比值可以直觀地看到，增量的線性關系弱于總量之間的線性關系。

進一步分析：Y與C(-1)之間的判定系數(shù)為0.9988，△Y與△C(-1)之間的判定系數(shù)為0.9567②橫截面數(shù)據(jù)與時序數(shù)據(jù)并用首先利用橫截面數(shù)據(jù)估計出部分參數(shù)，再利用時序數(shù)據(jù)估計出另外的部分參數(shù)，最后得到整個方程參數(shù)的估計。注意：這里包含著假設，即參數(shù)的橫截面估計和從純粹時間序列分析中得到的估計是一樣的。

③變量變換變量變換的主要方法：(1)計算相對指標(2)將名義數(shù)據(jù)轉換為實際數(shù)據(jù)(3)將小類指標合并成大類指標變量數(shù)據(jù)的變換有時可得到較好的結果，但無法保證一定可以得到很好的結果。*④嶺回歸法（RidgeRegression）

70年代發(fā)展的嶺回歸法，以引入偏誤為代價減小參數(shù)估計量的方差，受到人們的重視。具體方法是：引入矩陣D，使參數(shù)估計量為

其中矩陣D一般選擇為主對角陣，即

D=aI

a為大于0的常數(shù)。（*）顯然，與未含D的參數(shù)B的估計量相比，(*)式的估計量有較小的方差。六、案例——中國糧食生產函數(shù)

根據(jù)理論和經驗分析，影響糧食生產（Y）的主要因素有：農業(yè)化肥施用量（X1）；糧食播種面積(X2)成災面積(X3);農業(yè)機械總動力(X4);農業(yè)勞動力(X5)已知中國糧食生產的相關數(shù)據(jù)，建立中國糧食生產函數(shù)：Y=0+1X1+2X2+3X3

+4X4

+4X5

+

1、用OLS法估計上述模型：R2接近于1；給定=5%，得F臨界值F0.05(5,12)=3.11

F=638.4>15.19，故認上述糧食生產的總體線性關系顯著成立。但X4

、X5

的參數(shù)未通過t檢驗，且符號不正確，故解釋變量間可能存在多重共線性。(-0.91)(8.39)(3.32)(-2.81)(-1.45)(-0.14)2、檢驗簡單相關系數(shù)發(fā)現(xiàn)：X1與X4間存在高度相關性。列出X1，X2，X3，X4，X5的相關系數(shù)矩陣：3、找出最簡單的回歸形式可見，應選第1個式子為初始的回歸模型。分別作Y與X1，X2，X4，X5間的回歸：

(25.58)(11.49)R2=0.8919F=132.1DW=1.56

(-0.49)(1.14)R2=0.075F=1.30DW