計量經(jīng)濟學(xué) 第七章 多重共線性

1、計量經(jīng)濟學(xué) 第七章 多重共線性1第1頁，共49頁，2022年，5月20日，7點5分，星期三7.1 多重共線性的兩種表現(xiàn)形式對于形如的多元線性回歸模型，如果自變量之間存在較強的線性關(guān)系，或者說一組不全為零的常數(shù) ，使得那么就說原模型中存在多重共線性。則表明原模型中存在完全多重共線性則表明原模型中存在不完全多重共線性2第2頁，共49頁，2022年，5月20日，7點5分，星期三1. 完全多重共線性假設(shè)為了研究某種商品的需求函數(shù)4912984522964432943942923852903762883472863282843092822910280 收集到一組樣本數(shù)據(jù)，觀察兩個自變量，它們之間實際上存

2、在下面函數(shù)關(guān)系 也就是說兩個自變量之間存在明確的線性關(guān)系，即所謂的完全共線性3第3頁，共49頁，2022年，5月20日，7點5分，星期三因而原來的模型變?yōu)?這個模型實際上變成了一個一元線性回歸模型，我們可以估計出截距系數(shù)和斜率系數(shù) 在上面的方程組中，有三個未知數(shù)，沒有辦法求出原回歸模型中三個參數(shù)的唯一解，這就是完全多重共線性的后果4第4頁，共49頁，2022年，5月20日，7點5分，星期三2. 不完全多重共線性假設(shè)現(xiàn)在收集到另外一組樣本數(shù)據(jù)，在這個樣本中，兩個自變量之間沒有明確的函數(shù)關(guān)系，但是它們之間的相關(guān)系數(shù) ， 說明兩個變量之間還是存在線性相關(guān)關(guān)系491297.5452294.944329

3、3.5394292.8385290.2376289.7347285.8328294.6309291.12910278.85第5頁，共49頁，2022年，5月20日，7點5分，星期三在這種不完全多重共線性情況下，可以對模型使用最小二乘估計，得到下面的結(jié)果(-3.4444)(-0.7911) 參數(shù)是可以估計出來，但是這個模型存在下面兩個問題:1.收入?yún)?shù)的斜率系數(shù)符號為負，在現(xiàn)實生活中我們知道隨著人們收入的增加，對一般商品的需求應(yīng)該也是增加的，參數(shù)符號應(yīng)該為正；2.收入?yún)?shù)沒有通過t檢驗6第6頁，共49頁，2022年，5月20日，7點5分，星期三7.2 多重共線性產(chǎn)生的原因1、經(jīng)濟變量之間的內(nèi)在聯(lián)

4、系(對橫截面數(shù)據(jù))工業(yè)生產(chǎn)函數(shù)中，勞動力投入量和資金投入量產(chǎn)品需求函數(shù)中，商品本身價格和替代品價格消費函數(shù)中，人們的收入和財產(chǎn)這些變量之間實際上相互聯(lián)系，經(jīng)常會表現(xiàn)出一定的相關(guān)關(guān)系2、經(jīng)濟變量共同變化的趨勢(對時間序列數(shù)據(jù)) 這些經(jīng)濟變量本身之間可能沒有非常密切的聯(lián)系，但是它們在相同的樣本期間內(nèi)，有著相同變化的趨勢，比如在經(jīng)濟繁榮的時期，人們的收入、投資、就業(yè)等經(jīng)濟變量都會相同的增長趨勢7第7頁，共49頁，2022年，5月20日，7點5分，星期三3、模型中引入了滯后變量 比如在消費函數(shù)中引入了上一期或者前幾期收入，各期收入之間有可能是高度相關(guān)的8第8頁，共49頁，2022年，5月20日，7點5

5、分，星期三7.3 多重共線性的后果 多重共線性對多元線性模型的影響，可以從完全多重共線性和不完全多重共線性兩個方面進行分析。(1)參數(shù)無法估計(參數(shù)無唯一解) 前面我們已經(jīng)通過一個例子說明在完全多線性的情況下，沒有辦法得到參數(shù)的唯一解，實際上我們也可以從二元線性回歸模型的參數(shù)估計表達式中得出同樣得結(jié)論1.完全多重共線性對模型的影響9第9頁，共49頁，2022年，5月20日，7點5分，星期三以一個二元線性回歸模型的偏斜率系數(shù)為例在完全共線性情況下，若10第10頁，共49頁，2022年，5月20日，7點5分，星期三(2)參數(shù)估計量的方差無窮大在多元線性回歸模型一章中也給出了參數(shù)估計量的方差11第1

6、1頁，共49頁，2022年，5月20日，7點5分，星期三兩個自變量完全共線性時，12第12頁，共49頁，2022年，5月20日，7點5分，星期三2.不完全多重共線性對模型的影響(1)參數(shù)估計值的方差增大 隨著自變量之間的相關(guān)性增強，估計參數(shù)的方差也隨之增大，從剛推導(dǎo)出的方差表達式中也可以看出13第13頁，共49頁，2022年，5月20日，7點5分，星期三為此特別定義方差膨脹因子010.520.850.9100.95200.96250.97330.98500.991000.9991000 觀察右側(cè)方差增大的趨勢表，可以發(fā)現(xiàn)當(dāng)變量之間的的相關(guān)系數(shù) ，方差急劇增大14第14頁，共49頁，2022年，

7、5月20日，7點5分，星期三(2)t檢驗的可靠性降低 模型中存在多重共線性時，估計參數(shù)的方差增大，因此其標準差也會增大，從而使得t檢驗值減小,一個或多個自變量可能沒有辦法通過參數(shù)的顯著性檢驗，其檢驗的可靠性也會降低(3)難以區(qū)分每個自變量對因變量的單獨影響 正是由于自變量之間的共線性，它們相互影響，因此沒有辦法分離出每個解釋變量對因變量的影響15第15頁，共49頁，2022年，5月20日，7點5分，星期三(4)參數(shù)估計值及其標準差對數(shù)據(jù)的微小變化都非常敏感yx1x212420234124605816yx1x21242023404612581616第16頁，共49頁，2022年，5月20日，7點

8、5分，星期三7.4 多重共線性的檢驗多重共線性檢驗一般要實現(xiàn)下面幾個任務(wù)1.檢驗多重共線性是否存在2.判斷多重共線性問題的嚴重程度3.判斷多重共線性的具體形式 多重共線性產(chǎn)生的原因比較復(fù)雜，在實際的檢驗過程中沒有固定的、確定的方法，只有一些探索性的手段17第17頁，共49頁，2022年，5月20日，7點5分，星期三1.利用相關(guān)系數(shù)檢驗通過計算自變量之間的兩兩的相關(guān)系數(shù)，可以大體判斷出模型中是否存在多重共線性以 新教材P115模型為例經(jīng)過計算，四個自變量兩兩的相關(guān)系數(shù)如下 從上面的相關(guān)系數(shù)矩陣中可以看出這四個自變量兩兩之間高度相關(guān)，因此原模型中存在多重共線性問題18第18頁，共49頁，2022年

9、，5月20日，7點5分，星期三2.綜合分析普通最小二乘估計的結(jié)果 如果最小二乘估計結(jié)果的擬合系數(shù)和方程總體顯著統(tǒng)計量都比較大，而有的自變量的偏斜率系數(shù)t檢驗值較小，無法通過顯著性檢驗，此時模型中可能會存在多重共線性問題仍以 新教材P115或老教材P146頁的數(shù)據(jù)為例 (-1.7614) (3.7076) (0.2951) (-2.2049) (2.2391) 19第19頁，共49頁，2022年，5月20日，7點5分，星期三3.通過輔助回歸方程進行檢驗 這種檢驗方法通過建立每個自變量和其它自變量之間的輔助線性回歸方程來檢驗?zāi)Ｐ椭惺欠翊嬖诙嘀毓簿€性，也就是建立形如 如果其中某些自變量通過參數(shù)顯著性

10、檢驗，就表明模型中存在多重共線性。20第20頁，共49頁，2022年，5月20日，7點5分，星期三不僅能檢驗是否模型中是否存在多重共線性，而且可以得到多重共線性的具體形式；這種檢驗方法具有比較顯著的作用：結(jié)合相關(guān)和偏相關(guān)分析，可以進一步斷定模型中哪些自變量引起多重共線性21第21頁，共49頁，2022年，5月20日，7點5分，星期三 例7.3對教材P146頁的模型進行輔助方程檢驗(-3.0501) (3.5450) (-0.8013) (2.3868)(0.8944) (3.5450) (1.0732) (-1.3268)22第22頁，共49頁，2022年，5月20日，7點5分，星期三(0.9

11、844) (-0.8013) (1.0731) (3.3131)(3.9530) (2.3868) (-1.3268) (3.313123第23頁，共49頁，2022年，5月20日，7點5分，星期三4.通過計算方差膨脹因子和容許度來判斷 ( 1) 計算每個自變量對應(yīng)的方差膨脹因子VIF來判斷模型中是否存在多重共線性，一般認為如果方差膨脹因子VIF10，那么模型中的自變量之間是高度共線性的。24第24頁，共49頁，2022年，5月20日，7點5分，星期三 (2)容許度(tolerance)是方差膨脹因子的倒數(shù)，某個自變量的容許度就是其他自變量所不能解釋的這個自變量的變動程度。某個自變量的容許度數(shù)

12、值越大，其他自變量對該自變量的解釋程度越小，那么這個自變量和其他自變量的共線性程度越??；反之則表明這個自變量和其他自變量的共線性程度越大。25第25頁，共49頁，2022年，5月20日，7點5分，星期三輔助回歸方程(1)0.9922 127.62100.0078輔助回歸方程(2)0.9820 55.49900.0180輔助回歸方程(3)0.9863 73.04000.0137輔助回歸方程(4)0.9921 126.61200.0079 通過計算可以看出每一個輔助回歸方程中的方差膨脹因子都大于10，容許度都比較小，因此原模型中存在比較嚴重的共線性問題例7.4 利用例7.3中的輔助回歸方差來計算V

13、IF和Tol26第26頁，共49頁，2022年，5月20日，7點5分，星期三方差膨脹因子的有關(guān)說明 使用方差膨脹因子來度量模型中的共線性僅僅是一種經(jīng)驗方法，它的使用也受到一些批評。一個較高的方差膨脹因子既不是導(dǎo)致參數(shù)估計值較大的標準誤差的必要條件也不是充分條件，也就是說一個較高的VIF度量出來的較高的多重共線性不一定會導(dǎo)致參數(shù)估計值較高的標準誤差。27第27頁，共49頁，2022年，5月20日，7點5分，星期三X127.62103.70760.0139K55.49900.29510.7798P173.0400-2.20490.0786p0126.61202.23910.0753 對比模型中每個

14、自變量的方差膨脹因子和參數(shù)顯著性檢驗的結(jié)果，可以發(fā)現(xiàn)第二個自變量的方差膨脹因子是最小的，但偏偏是它沒有通過參數(shù)的顯著性檢驗，第一個自變量和第四個自變量的方差膨脹因子都是非常大的，但是它們反而都通過了參數(shù)的顯著性檢驗比較例7.3中的VIF和t統(tǒng)計量28第28頁，共49頁，2022年，5月20日，7點5分，星期三課堂練習(xí)題 某商品的需求函數(shù)為 其中Y為需求量,X1為商品價格,X2為收入,現(xiàn)已知兩個自變量之間的相關(guān)系數(shù)為-0.96,需求函數(shù)的回歸結(jié)果為:(1)計算該模型的方差膨脹因子(2)結(jié)合方差膨脹因子和相關(guān)的檢驗統(tǒng)計量,判斷該模型是否存在多重共線性29第29頁，共49頁，2022年，5月20日，

15、7點5分，星期三7.5 多重共線性的解決方法在處理多重共線性問題之前，必須明確兩點:如果建立模型的目的僅僅是為了預(yù)測，只要模型的擬合系數(shù)較大，而且自變量之間的相關(guān)關(guān)系在短時間內(nèi)不會變化，那么多重共線性的影響其實并不太重要；多重共線性產(chǎn)生最主要的原因是多元線性回歸模型中自變量之間的相關(guān)性，其根本解決方法是剔除回歸模型中的若干自變量，但是這樣一來又會帶來其他的問題模型的經(jīng)濟意義不盡合理 如生產(chǎn)函數(shù)中，勞動力投入和資本投入之間經(jīng)常高度相關(guān)，剔除其中任何一個都不太合適30第30頁，共49頁，2022年，5月20日，7點5分，星期三如果剔除的變量是比較重要的，那么將影響回歸模型的估計，容易使得模型產(chǎn)生異

16、方差和自相關(guān)的問題； 如果自變量剔除不當(dāng)，還會使得模型設(shè)定存在偏差，造成參數(shù)估計嚴重偏誤 為了解決多重共線性的問題，我們應(yīng)該慎重考慮，根據(jù)自變量的特點，分別采用直接剔除法和間接剔除法來對多重共線性進行補救31第31頁，共49頁，2022年，5月20日，7點5分，星期三1.直接剔除次要或者可以替代的變量 如果模型中有些自變量可能是沒有顯著影響的，或者它們的影響可以用其他變量來代替，那么可以直接剔除32第32頁，共49頁，2022年，5月20日，7點5分，星期三2.間接剔除重要的解釋變量 (1)利用已知或者附加的信息 前面我們講到，在柯布道格拉斯生產(chǎn)函數(shù)中，勞動力投入L和資本投入K之間常常是高度相

17、關(guān)的，如果我們事先知道勞動力投入和資本投入之間是規(guī)模報酬不變的，即1，則原來的生產(chǎn)函數(shù)可以改寫為 對于模型中重要的解釋變量，可以利用下面的方法將它們“間接剔除”：33第33頁，共49頁，2022年，5月20日，7點5分，星期三34第34頁，共49頁，2022年，5月20日，7點5分，星期三(2)改變模型的形式對原來的模型進行適當(dāng)?shù)母淖冇袝r也可以消除或者減少模型中自變量之間的相關(guān)程度： 1)改變模型的函數(shù)形式，將線性回歸模型轉(zhuǎn)為為對數(shù)模型或者多項式模型等； 2)改變自變量的形式，使用差分變量、相對數(shù)變量； 3)改變變量的統(tǒng)計指標，比如在生產(chǎn)函數(shù)中，勞動力投入使用職工工資指標，資本投入采用固定資產(chǎn)

18、或者流動資產(chǎn)指標來進行分析。35第35頁，共49頁，2022年，5月20日，7點5分，星期三比如我們在前面提到過的商品需求函數(shù)36第36頁，共49頁，2022年，5月20日，7點5分，星期三(3)增加樣本容量多重共線性是一個樣本現(xiàn)象，在研究同一個問題的另外一個樣本中或許并不存在非常嚴重的多重共線性，因此增大樣本容量也許能夠減輕模型中大的共線性程度。但是在在實際的工作中，社會經(jīng)濟的數(shù)據(jù)并不是通過實驗方法來獲得的，要得到新增的數(shù)據(jù)并不是輕而易舉的事情，也許要花費很大的代價。37第37頁，共49頁，2022年，5月20日，7點5分，星期三(4)綜合使用橫截面數(shù)據(jù)和時間序列數(shù)據(jù) 比如研究汽車的需求函數(shù)

19、，假定收集到車輛出售數(shù)量、車輛平均價格和消費者收入的有關(guān)數(shù)據(jù)，并且設(shè)定 如果價格和收入之間有高度共線性的趨勢，對上面的模型進行回歸將會遇到多重共線性問題。為了解決這個問題a)假設(shè)我們能夠收集到橫截面的數(shù)據(jù)，我們就能比較可靠地估計收入彈性，因為這些數(shù)據(jù)都產(chǎn)生在同一時間內(nèi)，價格不至于發(fā)生很大變化38第38頁，共49頁，2022年，5月20日，7點5分，星期三需求函數(shù)就可以寫成b)再利用時間序列數(shù)據(jù)，估計價格彈性 這種方法的問題：這種方法解釋起來可能有一定的問題，它假定收入彈性的橫截面估計值和從純粹的時間序列分析中得到的估計值完全一致。 當(dāng)橫截面估計在不同截面之間沒有多大變化時可以考慮使用這種方法。

20、39第39頁，共49頁，2022年，5月20日，7點5分，星期三1、向前選擇法(Forward)7.6多元回歸模型中選擇自變量的方法思路：向前選擇法從一元線性回歸模型開始，找出擬合系數(shù)最大的一元線性回歸模型和自變量，然后再向模型中增加一個變量，找到擬合系數(shù) 或 F 值最大的二元線性回歸模型；采用類似方法不停地向模型中增加自變量。當(dāng)增加的自變量不能使殘差平方和明顯減少時，結(jié)束這一過程。40第40頁，共49頁，2022年，5月20日，7點5分，星期三問題：這種方法不能反應(yīng)引入新的自變量后模型的變化情況，某個自變量開始可能是顯著的，但是引入其他自變量后也許會變得不顯著了，但是沒有機會將它剔除出去，只

21、考慮引入變量，沒有考慮剔除的方法是不全面的。特點：使用這種方法，變量被增加到模型中，就不容許把它從模型中剔除。41第41頁，共49頁，2022年，5月20日，7點5分，星期三2、向后排除法(Backward)思路：這種方法和向前選擇法相反，它從包含所有自變量的回歸模型開始，然后利用準則從模型中剔除變量，使模型的擬合系數(shù)減小最小的自變量會被從模型中剔除出去；這樣每次只剔除一個變量，直到剔除的自變量使得模型的擬合系數(shù)顯著減小為止。特點：使用這種方法，不容許把剔除的變量再增加到模型中。42第42頁，共49頁，2022年，5月20日，7點5分，星期三思路：這種方法和向前選擇法有些相似，但是在每增加一個變量時，會對模型中的所有自變量進行檢驗，判斷是否需要刪除某個自變量。如果增加一個新的自變量以后，先前引入的某個自變量對模型的貢獻變得不顯著