《線程的多維性》PPT課件.ppt

1、1,第四章 多重共線性 嗆口小辣椒博客,計量經(jīng)濟學,3,引子：發(fā)展農(nóng)業(yè)和建筑業(yè)會減少財政收入嗎？,為了分析各主要因素對財政收入的影響，建立財政收 入模型: 其中: CS財政收入(億元) ; NZ農(nóng)業(yè)增加值(億元); GZ工業(yè)增加值(億元); JZZ建筑業(yè)增加值(億元); TPOP總?cè)丝?萬人); CUM最終消費(億元); SZM受災面積(萬公頃) 數(shù)據(jù)樣本時期1978年-2003年（資料來源：中國統(tǒng)計年鑒2004，中國統(tǒng)計出版社2004年版） 采用普通最小二乘法得到以下估計結(jié)果,4,財政收入模型的EViews估計結(jié)果,5,可決系數(shù)為0.995，校正的可決系數(shù)為0.993，模型擬合很好。模型對財

2、政收入的解釋程度高達99.5%。 F統(tǒng)計量為632.10，說明0.05水平下回歸方程整體上顯著。 t 檢驗結(jié)果表明，除了工業(yè)增加值和總?cè)丝谝酝?，其他因素對財政收入的影響均不顯著。 農(nóng)業(yè)增加值和建筑業(yè)增加值的回歸系數(shù)是負數(shù)。 農(nóng)業(yè)和建筑業(yè)的發(fā)展反而會使財政收入減少嗎？! 這樣的異常結(jié)果顯然與理論分析和實踐經(jīng)驗不相符。 若模型設定和數(shù)據(jù)真實性沒問題，問題出在哪里呢？,模型估計與檢驗結(jié)果分析,6,第四章 多重共線性,本章討論四個問題： 什么是多重共線性 多重共線性產(chǎn)生的后果 多重共線性的檢驗 多重共線性的補救措施,7,第一節(jié) 什么是多重共線性,本節(jié)基本內(nèi)容: 多重共線性的含義 產(chǎn)生多重共線性的背景,

3、8,一、多重共線性的含義,對于模型 i=1,2,n 其基本假設之一是解釋變量是互相獨立的。 如果某兩個或多個解釋變量之間出現(xiàn)了相關性，則稱為多重共線性,9,不完全的多重共線性: 在計量經(jīng)濟學中所謂的多重共線性(Multi-Collinearity)，不僅包括完全的多重共線性，還包括不完全的多重共線性。 對于解釋變量 ，如果存在不全為0的 數(shù) ，使得 則稱解釋變量 之間存在著完全的多重 共線性。,10,當 時，表明在數(shù)據(jù)矩陣 中，至少有一個列向量可以用其余的列向量線性表示，則說明存在完全的多重共線性。 矩陣表示為,11,不完全的多重共線性,實際中，常見的情形是解釋變量之間存在不完全的多重共線性。

4、,12,無多重共線性,如果解釋變量之間不存在上述關系，則稱解釋變量之間無多重共線性此時： 注意：個解釋變量不存在多重共線性（線性相關）并不能說明它們之間無關，不存在非線性關系,13,，解釋變量間毫無線性關系，變量間相互正交。這時已不需要作多元回歸，每個參數(shù)j都可以通過Y 對 Xj 的一元回歸來估計。,14,二、產(chǎn)生多重共線性的原因,多重共線性產(chǎn)生的經(jīng)濟背景主要有幾種情形： 1.經(jīng)濟變量之間往往存在同方向的變化趨勢。當他們被引入同一個模型成為解釋變量時，會出現(xiàn)多重共線性 2.模型中包含滯后變量，變量各期值之間有可能高度相關。 3.利用截面數(shù)據(jù)建立模型也可能出現(xiàn)多重共線性。 4.經(jīng)濟變量之間往往存

5、在著密切的內(nèi)在關聯(lián)度，要素之間互相制約，互相依存。 5.樣本數(shù)據(jù)自身的原因，數(shù)據(jù)收集的范圍過窄，造成某些解釋變量之間似乎有相同或相反變化趨勢的假象。 .在建模過程中由于解釋變量選擇不當，引起變量之間的多重共線性 注：解釋變量之間的多重共線性不可避免，只可能使多重共線性的程度盡可能地減弱,15,第二節(jié) 多重共線性產(chǎn)生的后果,本節(jié)基本內(nèi)容: 完全多重共線性產(chǎn)生的后果 不完全多重共線性產(chǎn)生的后果,16,一、完全多重共線性產(chǎn)生的后果,17,1.參數(shù)的估計值不確定 當解釋變量完全線性相關時 OLS 估計式不確定 從偏回歸系數(shù)意義看：在 和 完全共線性時，無法保持 不變，去單獨考慮 對 的影響（ 和 的影

6、響不可區(qū)分） 從OLS估計式看：可以證明此時 2.參數(shù)估計值的方差無限大 OLS估計式的方差成為無窮大：,18,二、不完全多重共線性產(chǎn)生的后果,19,如果模型中存在不完全的多重共線性，可以得到參數(shù)的估計值，但是對計量經(jīng)濟分析可能會產(chǎn)生一系列的影響。 1.參數(shù)估計值的方差增大 為對其他解釋變量做輔助回歸模型的決定系數(shù) 其中： 稱為方差膨脹因子 當與其他解釋變量存在嚴重的多重共線性時：,20,2.對參數(shù)區(qū)間估計時， 置信區(qū)間趨于變大區(qū)間估計失去可靠性；預測區(qū)間變大，降低預測精度 3.假設檢驗容易作出錯誤的判斷，檢驗的可靠性降低，可能導致在假設檢驗中舍去重要的解釋變量 因為：回歸參數(shù)顯著性檢驗,21

7、,4.可能造成可決系數(shù)較高，但對各個參數(shù)單獨的 t 檢驗卻可能不顯著，甚至可能使估計的回歸系數(shù)符號相反，得出完全錯誤的結(jié)論。無法正確反映每個解釋變量對被解釋變量的單獨影響。 回歸模型缺乏穩(wěn)定性 當樣本觀測數(shù)據(jù)發(fā)生微小變化時，模型參數(shù)的估計值會有很大的變化（氏檢驗）,22,第三節(jié) 多重共線性的檢驗,本節(jié)基本內(nèi)容： 簡單相關系數(shù)檢驗法 方差擴大（膨脹）因子法 直觀判斷法 逐步回歸法,23,一、簡單相關系數(shù)檢驗法,含義：簡單相關系數(shù)檢驗法是利用解釋變量之間的線性相關程度去判斷是否存在嚴重多重共線性的一種簡便方法。 判斷規(guī)則：一般而言，如果每兩個解釋變量的簡單相關系數(shù)(零階相關系數(shù))比較高，例如大于0

8、.8，則可認為存在著較嚴重的多重共線性。,24,Klein判別公式:,25,注意： 1.較高的簡單相關系數(shù)只是多重共線性存在的充分條件，而不是必要條件。 2.只適用于兩個解釋變量之間存在線性相關檢驗,對于三個或更多的解釋變量之間存在的線性相關關系不適用 3.相關系數(shù)很大則必存在多重共線性,而相關系數(shù)很小卻未必沒有多重共線性.特別是在多于兩個解釋變量的回歸模型中，有時較低的簡單相關系數(shù)也可能存在多重共線性。因此并不能簡單地依據(jù)相關系數(shù)進行多重共線性的準確判斷。,26,二、輔助回歸檢驗法,27,三、方差擴大（膨脹）因子法,28,經(jīng)驗規(guī)則,方差膨脹因子越大，表明解釋變量之間的多重共性越嚴重。反過來，

9、方差膨脹因子越接近于1，多重共線性越弱。 經(jīng)驗表明，方差膨脹因子10時，說明解釋變量與其余解釋變量之間有嚴重的多重共線性，且這種多重共線性可能會過度地影響最小二乘估計。,29,四、直觀判斷法,根據(jù)回歸結(jié)果判斷也叫不顯著系數(shù)檢驗法 1.從定性分析認為，一些重要的解釋變量的回歸系數(shù)的標準誤差較大，在回歸方程中沒有通過顯著性檢驗時，可初步判斷可能存在嚴重的多重共線性。 F檢驗大于給定顯著性水平下的臨界值.但模型中的全部或部分參數(shù)估計值卻不顯著,或系數(shù)估計值的符號不對,則模型自變量之間存在多重共線性.,30,2. 當增加或剔除一個解釋變量，或者改變一個觀測值時，回歸參數(shù)的估計值發(fā)生較大變化，回歸方程可

10、能存在嚴重的多重共線性。 3. 有些解釋變量的回歸系數(shù)所帶正負號與定性分析結(jié)果違背時，很可能存在多重共線性。 4. 解釋變量的相關矩陣中，自變量之間的相關系數(shù)較大時，可能會存在多重共線性問題。,31,五、逐步回歸檢測法,也稱Frisch綜合分析法其基本思想： 將變量逐個的引入模型，每引入一個解釋變量后，都要進行檢驗，并對已經(jīng)選入的解釋變量逐個進行t 檢驗，當原來引入的解釋變量由于后面解釋變量的引入而變得不再顯著時，則將其剔除。以確保每次引入新的變量之前回歸方程中只包含顯著的變量。 在逐步回歸中，高度相關的解釋變量，在引入時會被剔除。因而也是一種檢測多重共線性的有效方法。,32,六、特征值檢驗法

11、,33,第四節(jié) 多重共線性的補救措施,本節(jié)基本內(nèi)容: 修正多重共線性的經(jīng)驗方法 逐步回歸法,34,一、修正多重共線性的經(jīng)驗方法,1. 剔除變量法 是降低多重共線性最簡便的方法. 把方差擴大因子最大者所對應的自變量首先 剔除再重新建立回歸方程，直至回歸方程中 不再存在嚴重的多重共線性。 注意: 若剔除了重要變量，可能引起模型的設 定誤差。,35,2. 增大樣本容 樣本容量增加，會減小回歸參數(shù)的方差，標準誤差也同樣會減小。因此盡可能地收集足夠多的樣本數(shù)據(jù)可以改進模型參數(shù)的估計。 樣本容量越小有近似多重共線性的可能性就越大,反之,樣本容量越大,多重共線性的可能性就越小問題：增加樣本數(shù)據(jù)在實際計量分析

12、中常面臨許多困難,受制于實際情況。 增大樣本容量并不必然降低近似的多重共線性,如增加的數(shù)據(jù)也有類似的共線性,就不起作用 如果變量總體中本來就有共線性問題,再增大樣本容量也無濟于事.,36,3. 變換模型形式 一般而言，差分后變量之間的相關性要比差分 前弱得多，所以差分后的模型可能降低出現(xiàn)共 線性的可能性，此時可直接估計差分方程。 問題：差分會丟失一些信息，差分模型的誤差 項可能存在序列相關，可能會違背經(jīng)典線性回 歸模型的相關假設，在具體運用時要慎重。,37,4. 利用非樣本先驗信息 通過經(jīng)濟理論分析能夠得到某些參數(shù)之間的關 系，可以將這種關系作為約束條件，將此約束 條件和樣本信息結(jié)合起來進行約

13、束最小二乘估 計。,38,5. 橫截面數(shù)據(jù)與時序數(shù)據(jù)并用 首先利用橫截面數(shù)據(jù)估計出部分參數(shù)，再利用 時序數(shù)據(jù)估計出另外的部分參數(shù)，最后得到整 個方程參數(shù)的估計。 注意：這里包含著假設，即參數(shù)的橫截面估計和 從純粹時間序列分析中得到的估計是一樣的。,39,6. 變量變換 變量變換的主要方法： (1)計算相對指標 (2)將名義數(shù)據(jù)轉(zhuǎn)換為實際數(shù)據(jù) (3)將小類指標合并成大類指標 變量數(shù)據(jù)的變換有時可得到較好的結(jié)果，但無 法保證一定可以得到很好的結(jié)果。,40,二、逐步回歸法,（1）用被解釋變量對每一個所考慮的解釋變量做簡單回歸。 （2）以對被解釋變量貢獻最大的解釋變量所對應的回歸方程為基礎，按對被解釋

14、變量貢獻大小的順序逐個引入其余的解釋變量。 若新變量的引入改進了 和 檢驗，且回歸參 數(shù)的t 檢驗在統(tǒng)計上也是顯著的，則在模型中保 留該變量。,41,若新變量的引入未能改進 和 檢驗，且對其他回 歸參數(shù)估計值的t 檢驗也未帶來什么影響，則認為該 變量是多余變量。 若新變量的引入未能改進 和 檢驗，且顯著地影 響了其他回歸參數(shù)估計值的數(shù)值或符號，同時本身的 回歸參數(shù)也通不過t 檢驗，說明出現(xiàn)了嚴重的多重共 線性。,42,三、其他方法(了解).,1.嶺回歸法 2.主成分回歸.,43,第五節(jié) 案例分析,一、研究的目的要求 提出研究的問題為了規(guī)劃中國未來國內(nèi)旅游產(chǎn)業(yè) 的發(fā)展，需要定量地分析影響中國國內(nèi)

15、旅游市場發(fā)展 的主要因素。 二、模型設定及其估計 影響因素分析與確定影響因素主要有國內(nèi)旅游 人數(shù) ，城鎮(zhèn)居民人均旅游支出 ，農(nóng)村居民人均 旅游支出 ，并以公路里程次 和鐵路里程 作為相關基礎設施的代表 理論模型的設定 其中 ： 第 t 年全國國內(nèi)旅游收入,44,數(shù)據(jù)的收集與處理,數(shù)據(jù)來源:中國統(tǒng)計年鑒2004,45,該模型,，,可決系數(shù)很高，F(xiàn)檢驗值 173.3525,明顯顯著。 但是當,時,、,不僅 、 系數(shù)的t檢驗不顯著，而且 系數(shù)的符號與預期的相反，這表明很可能存在嚴重的多重共線性。,OLS 法估計的結(jié)果,46,計算各解釋變量的相關系數(shù),表明各解釋變量間確實存在嚴重的多重共線性,47,三

16、、消除多重共線性,采用逐步回歸法檢驗和解決多重供線性問題。 分別作Y 對X2、X3、X4、X5、X6的一元回歸,的大小排序為：X3、X6、X2、X5、X4。,以X3為基礎，順次加入其他變量逐步回歸，過程從略 （見教材）,48,最后消除多重共線性的結(jié)果,這說明，在其他因素不變的情況下，當城鎮(zhèn)居民人均旅游支出 和農(nóng)村居民人均旅游支出 分別增長1元時，國內(nèi)旅游收入 將分別增長4.21億元和3.22 億元。在其他因素不變的情況下， 作為旅游設施的代表，公路里程 每增加1萬公里時, 國內(nèi)旅游 收入 將增長13.63億元。,四、回歸結(jié)果的解釋與分析,49,第四章 小結(jié),1.多重共線性是指各個解釋變量之間有準確或近似 準確的線性關系。 2.多重共線性的后果： 如果各個解釋變量之間有完全的共線性，則它們的 回歸系數(shù)是不確定的，并且它們的方差會無窮大。 如果共線性是高度的但不完全的，回歸系數(shù)可估計， 但有較大的標準誤差?；貧w系數(shù)不能準確地估計。,50,3.診斷共線性的經(jīng)驗方法： (1) 表現(xiàn)為可決系數(shù)異常高而回歸系數(shù)的t 檢驗不顯著。 (2) 變量之間