多重共線性與隨機(jī)解釋變量

多重共線性與隨機(jī)解釋變量第1頁，課件共84頁，創(chuàng)作于2023年2月一、多重共線性的概念第2頁，課件共84頁，創(chuàng)作于2023年2月1、多重共線性對于模型

（i=1,2,…,n）

如果某兩個或多個解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性。其基本假設(shè)之一是解釋變量kXXX,,,21L互相獨(dú)立。

第3頁，課件共84頁，創(chuàng)作于2023年2月

如果存在

c1X1i+c2X2i+…+ckXki=0i=1,2,…,n其中:ci不全為0，即某一個解釋變量可以用其它解釋變量的線性組合表示，則稱為解釋變量間存在完全共線性。

如果存在c1X1i+c2X2i+…+ckXki+vi=0i=1,2,…,n其中ci不全為0，vi為隨機(jī)誤差項(xiàng)，則稱為一般共線性(近似共線性)或交互相關(guān)(intercorrelated)。第4頁，課件共84頁，創(chuàng)作于2023年2月

在矩陣表示的線性回歸模型

Y=XB+N

中，完全共線性意味著：秩(X)<k+1。換言之，矩陣中，至少有一列向量可由其他列向量（不包括第一列）線性表出。?????è?=knnnkkXXXXXXXXXXLLLLLLLL212221212111111n×(k+1)第5頁，課件共84頁，創(chuàng)作于2023年2月

注意：完全共線性的情況并不多見，一般出現(xiàn)的是在一定程度上的共線性，即近似共線性。例如，如果X2=aX1，則X1與X2的相關(guān)系數(shù)為a，解釋變量X2對因變量的作用完全可以由X1代替。

第6頁，課件共84頁，創(chuàng)作于2023年2月2、實(shí)際經(jīng)濟(jì)問題中的多重共線性現(xiàn)象

經(jīng)濟(jì)變量的共同變化趨勢

時間序列樣本：經(jīng)濟(jì)繁榮時期，各基本經(jīng)濟(jì)變量（收入、消費(fèi)、投資、價格）都趨于增長；經(jīng)濟(jì)衰退時期，各基本經(jīng)濟(jì)變量又同時趨于下降。

橫截面數(shù)據(jù)：如生產(chǎn)函數(shù)中，資本投入與勞動力投入往往出現(xiàn)高度相關(guān)情況，大企業(yè)二者都大，而小企業(yè)二者都小。第7頁，課件共84頁，創(chuàng)作于2023年2月

滯后變量的引入

在計量經(jīng)濟(jì)模型中，往往需要引入滯后經(jīng)濟(jì)變量來反映真實(shí)的經(jīng)濟(jì)關(guān)系。

例如：消費(fèi)=f(當(dāng)期收入It,前期消費(fèi)Ct-1）Ct=β0+β1It+β2Ct-1+μt(t=1,2,···,n)顯然，當(dāng)期收入與前期消費(fèi)間有較強(qiáng)的線性相關(guān)性。第8頁，課件共84頁，創(chuàng)作于2023年2月

一般經(jīng)驗(yàn)

對于采用時間序列數(shù)據(jù)作樣本、以簡單線性形式建立的計量經(jīng)濟(jì)學(xué)模型，往往存在多重共線性；以截面數(shù)據(jù)作樣本時，問題不那么嚴(yán)重，但多重共線性仍然是存在的。第9頁，課件共84頁，創(chuàng)作于2023年2月二、多重共線性的后果第10頁，課件共84頁，創(chuàng)作于2023年2月

1、完全共線性下參數(shù)估計量不存在如果解釋變量之間存在完全共線性，則(X’X)-1不存在，無法得到參數(shù)的估計量。多元線性回歸模型

的普通最小二乘參數(shù)估計量為：

因?yàn)槿绻忉屪兞縦XXX,,,21L完全共線性，那么通過適當(dāng)?shù)木€性變換，可以將X中某一列的全部元素變?yōu)?，從而行列式0=￠XX。

第11頁，課件共84頁，創(chuàng)作于2023年2月2、近似共線性下OLS法參數(shù)估計量非有效

在一般共線性（或稱近似共線性）下，雖然可以得到OLS法參數(shù)估計量，但是由參數(shù)估計量方差的表達(dá)式可以看出，由于此時|X’X|0，引起(X’X)-1主對角線元素較大，從而使得參數(shù)估計量的方差也較大，OLS參數(shù)估計量非有效。第12頁，課件共84頁，創(chuàng)作于2023年2月第13頁，課件共84頁，創(chuàng)作于2023年2月所以，多重共線性使參數(shù)估計量的方差增大。方差擴(kuò)大因子(VarianceInflationFactor)為1/(1-r2)，其增大趨勢見下表：第14頁，課件共84頁，創(chuàng)作于2023年2月3、參數(shù)估計量的經(jīng)濟(jì)含義不合理

如果模型(2.8.1)中兩個解釋變量具有線性相關(guān)性，例如X1和X2，那么它們中的一個變量可以由另一個變量表征。這時，X1和X2前的參數(shù)并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系，而是反映它們對被解釋變量的共同影響。所以，各自的參數(shù)已經(jīng)失去了應(yīng)有的經(jīng)濟(jì)含義，于是經(jīng)常表現(xiàn)出似乎反常的現(xiàn)象，例如本來應(yīng)該是正的，結(jié)果恰是負(fù)的。第15頁，課件共84頁，創(chuàng)作于2023年2月4、變量的顯著性檢驗(yàn)失去意義存在多重共線性時參數(shù)估計值的方差與標(biāo)準(zhǔn)差變大容易使通過樣本計算的t值小于臨界值，誤導(dǎo)作出參數(shù)為0的推斷可能將重要的解釋變量排除在模型之外第16頁，課件共84頁，創(chuàng)作于2023年2月5、模型的預(yù)測功能失效參數(shù)估計量的方差較大，會使預(yù)測值的置信區(qū)間較大，預(yù)測精確度較差，從而使預(yù)測失去意義。第17頁，課件共84頁，創(chuàng)作于2023年2月三、多重共線性的檢驗(yàn)第18頁，課件共84頁，創(chuàng)作于2023年2月

由于多重共線性表現(xiàn)為解釋變量之間具有相關(guān)關(guān)系，所以用于多重共線性的檢驗(yàn)方法主要是統(tǒng)計方法，如判定系數(shù)檢驗(yàn)法、逐步回歸檢驗(yàn)法等。

多重共線性檢驗(yàn)的任務(wù)是：（1）檢驗(yàn)多重共線性是否存在；（2）估計多重共線性的范圍，即判斷哪些變量之間存在共線性。第19頁，課件共84頁，創(chuàng)作于2023年2月1、檢驗(yàn)多重共線性是否存在

(1)對兩個解釋變量的模型，采用簡單相關(guān)系數(shù)法

求出X1與X2的簡單相關(guān)系數(shù)r，若|r|接近1，則說明兩變量存在較強(qiáng)的多重共線性。

(2)對多個解釋變量的模型，采用綜合統(tǒng)計檢驗(yàn)法

若在OLS法下，模型的R2與F值較大，但各參數(shù)估計量的t檢驗(yàn)值較小，則說明各解釋變量對Y的聯(lián)合線性作用顯著，但各解釋變量之間存在共線性而使得它們各自對Y的獨(dú)立作用不能分辨，故t檢驗(yàn)不顯著。第20頁，課件共84頁，創(chuàng)作于2023年2月2、判明存在多重共線性的范圍

將模型中每一個解釋變量分別以其余解釋變量為解釋變量進(jìn)行回歸計算，并計算相應(yīng)的擬合優(yōu)度，也稱為判定系數(shù)。如果在某一種形式

Xji=1X1i+2X2i++LXLi中判定系數(shù)較大，則說明在該形式中作為被解釋變量的Xj可以用其他X的線性組合代替，即Xj與其他X之間存在共線性。(1)判定系數(shù)檢驗(yàn)法第21頁，課件共84頁，創(chuàng)作于2023年2月一種等價的檢驗(yàn)：

在模型中排除某一個解釋變量Xj，估計模型，如果擬合優(yōu)度與包含Xj時十分接近，則說明Xj與其它解釋變量之間存在共線性。第22頁，課件共84頁，創(chuàng)作于2023年2月(2)逐步回歸法

以Y為被解釋變量，逐個引入解釋變量，構(gòu)成回歸模型，進(jìn)行模型估計。根據(jù)擬合優(yōu)度的變化決定新引入的變量是否可以用其它變量的線性組合代替，而不作為獨(dú)立的解釋變量。如果擬合優(yōu)度變化顯著，則說明新引入的變量是一個獨(dú)立解釋變量；如果擬合優(yōu)度變化很不顯著，則說明新引入的變量不是一個獨(dú)立解釋變量，它可以用其它變量的線性組合代替，也就是說它與其它變量之間存在共線性關(guān)系。第23頁，課件共84頁，創(chuàng)作于2023年2月(3)擴(kuò)大因子法方差擴(kuò)大因子：VIFj=1/(1-R2j)R2j=xj關(guān)于其余x的判定系數(shù)，若VIFj>10，認(rèn)為xj與其余變量共線；平均擴(kuò)大因子遠(yuǎn)遠(yuǎn)大于1，認(rèn)為xj與其余變量共線；容忍度：

TOLj=1-R2j(xj的容忍度)第24頁，課件共84頁，創(chuàng)作于2023年2月(3)特征根法特征根分析：若（X’X）有多個特征根近似為0，則X就有多個多重貢獻(xiàn)關(guān)系；條件數(shù)：記λi為（X’X）的第i個特征根，λm為最大特征根，稱ki=（λm/λi）為第i個條件數(shù)若0<k<10(無共線)，10<k<100(較嚴(yán)重共線)，k>100(嚴(yán)重共線)第25頁，課件共84頁，創(chuàng)作于2023年2月四、克服多重共線性的方法第26頁，課件共84頁，創(chuàng)作于2023年2月克服多重共線性的方法:第一類方法：排除引起共線性的變量第二類方法：差分法第三類方法：減少參數(shù)估計量的方差第27頁，課件共84頁，創(chuàng)作于2023年2月

1、第一類方法：排除引起共線性的變量

找出引起多重共線性的解釋變量，將它排除出去，是最為有效的克服多重共線性問題的方法。上述用于檢驗(yàn)多重共線性的方法，同時就是克服多重共線性問題的方法，其中又以逐步回歸法得到最廣泛的應(yīng)用。

但應(yīng)注意的是：排除了引起共線性的變量后，剩余解釋變量參數(shù)的經(jīng)濟(jì)含義和數(shù)值都發(fā)生了變化。它們不再僅僅反映自身與被解釋變量的關(guān)系，也包含了與它們成線性關(guān)系的、被排除的變量對被解釋變量的影響。第28頁，課件共84頁，創(chuàng)作于2023年2月2、第二類方法：差分法

對于以時間序列數(shù)據(jù)為樣本、以直接線性關(guān)系為模型關(guān)系形式的計量經(jīng)濟(jì)學(xué)模型，將原模型變換為差分模型Yi=1X1i+2X2i++kXki+i可以有效地消除存在于原模型中的多重共線性。

原因在于：一般來講，增量之間的線性關(guān)系遠(yuǎn)比總量之間的線性關(guān)系弱得多。第29頁，課件共84頁，創(chuàng)作于2023年2月例如：在中國消費(fèi)模型中的2個變量：第30頁，課件共84頁，創(chuàng)作于2023年2月

由表中的比值可以直觀地看到，兩變量增量的線性關(guān)系弱于總量之間的線性關(guān)系。

進(jìn)一步分析：

Y與C(-1)之間的判定系數(shù)為0.9845，△Y與△C(-1)之間的判定系數(shù)為0.7456。

一般認(rèn)為：兩個變量之間的判定系數(shù)大于0.8時，二者之間存在線性關(guān)系。所以，原模型經(jīng)檢驗(yàn)被認(rèn)為具有多重共線性，而差分模型則可以認(rèn)為不具有多重共線性。第31頁，課件共84頁，創(chuàng)作于2023年2月五、案例一：服裝市場需求函數(shù)□第32頁，課件共84頁，創(chuàng)作于2023年2月1、建立模型

根據(jù)理論和經(jīng)驗(yàn)分析，影響居民服裝類支出Y的主要因素有：可支配收入X、居民流動資產(chǎn)擁有量K、服裝價格指數(shù)P1、物價總指數(shù)P0。已知某地區(qū)的有關(guān)資料，根據(jù)散點(diǎn)圖判斷，建立線性服裝消費(fèi)支出模型：

Y=0+1X+2K+3P1+4P0+第33頁，課件共84頁，創(chuàng)作于2023年2月2、樣本數(shù)據(jù)第34頁，課件共84頁，創(chuàng)作于2023年2月

由于R2較大且接近于1，而且F=638.4，大于臨界值：F0.05(4,5)=15.19，故認(rèn)為服裝支出與上述解釋變量間總體線性關(guān)系顯著。但由于變量K的參數(shù)估計值的t檢驗(yàn)值較?。ㄎ茨芡ㄟ^檢驗(yàn)），故解釋變量間存在多重共線性。3、估計模型（1）用OLS法估計上述模型：

第35頁，課件共84頁，創(chuàng)作于2023年2月（2）檢驗(yàn)簡單相關(guān)系數(shù)不難看出，各解釋變量間存在高度相關(guān)性，其中尤其以P1和P0間的相關(guān)系數(shù)為最高。第36頁，課件共84頁，創(chuàng)作于2023年2月（3）找出最簡單的回歸形式可見，應(yīng)選①為初始的回歸模型。第37頁，課件共84頁，創(chuàng)作于2023年2月（4）逐步回歸

將其他解釋變量分別導(dǎo)入上述初始回歸模型，尋找最佳回歸方程。第38頁，課件共84頁，創(chuàng)作于2023年2月4、討論：

①在初始模型中引入P1，模型擬合優(yōu)度提高，且參數(shù)符號合理，但P1的t檢驗(yàn)未通過；②再引入K，擬合優(yōu)度雖有提高，但K與P1的t檢驗(yàn)未能通過，且X與P1的t檢驗(yàn)值及F檢驗(yàn)值有所下降，表明引入K并未對回歸模型帶來明顯的“好處”，K可能是多余的；③去掉K，加入P0，擬合優(yōu)度有所提高，且各解釋變量的t檢驗(yàn)全部通過，F(xiàn)值也增大了。④將4個解釋變量全部包括進(jìn)模型，擬合優(yōu)度未有明顯改觀，K的t檢驗(yàn)未能通過，K顯然是多余的。第39頁，課件共84頁，創(chuàng)作于2023年2月

5、結(jié)論回歸方程以Y=f(X,P1,P0)為最優(yōu)：

Y=-12.45+0.10X-0.19P1+0.31P0第40頁，課件共84頁，創(chuàng)作于2023年2月五、案例二：中國消費(fèi)函數(shù)模型第41頁，課件共84頁，創(chuàng)作于2023年2月1、OLS法估計結(jié)果第42頁，課件共84頁，創(chuàng)作于2023年2月2、差分法估計結(jié)果第43頁，課件共84頁，創(chuàng)作于2023年2月3、比較β1：0.48095→0.49672β2：0.19854→0.15850在消除了共線性后，GDP對CONS的影響增大，CONS1對CONS的影響減少。第44頁，課件共84頁，創(chuàng)作于2023年2月當(dāng)模型存在共線性，將某個共線性變量去掉，剩余變量的參數(shù)估計結(jié)果將發(fā)生變化，而且經(jīng)濟(jì)含義有可能發(fā)生變化；嚴(yán)格地說，實(shí)際模型由于總存在一定程度的共線性，所以每個參數(shù)估計量并不真正反映對應(yīng)變量與被解釋變量之間的結(jié)構(gòu)關(guān)系。第45頁，課件共84頁，創(chuàng)作于2023年2月模型選擇準(zhǔn)則1、R2準(zhǔn)則2、調(diào)整的R2準(zhǔn)則3、赤池信息（AIC）準(zhǔn)則4、施瓦茨信息（SIC）準(zhǔn)則第46頁，課件共84頁，創(chuàng)作于2023年2月R2準(zhǔn)則第47頁，課件共84頁，創(chuàng)作于2023年2月調(diào)整的R2準(zhǔn)則準(zhǔn)則：該值越大越好！注意：被解釋變量相同才能比較！第48頁，課件共84頁，創(chuàng)作于2023年2月赤池信息（AIC）準(zhǔn)則準(zhǔn)則：該值越小越好！注意：被解釋變量相同才能比較！可用于比較一模型樣本內(nèi)或樣本外的預(yù)測表現(xiàn)！第49頁，課件共84頁，創(chuàng)作于2023年2月施瓦茨信息（SIC）準(zhǔn)則準(zhǔn)則：該值越小越好！注意：被解釋變量相同才能比較！可用于比較一模型樣本內(nèi)或樣本外的預(yù)測表現(xiàn)！第50頁，課件共84頁，創(chuàng)作于2023年2月Cp統(tǒng)計量其中：----樣本量；

----模型中自變量個數(shù)；

----1+全回歸模型中個數(shù)（）；

----有個自變量的回歸模型的決定系數(shù)；

----全回歸模型的決定系數(shù)。如果一個模型和真實(shí)模型之間只有隨機(jī)差異，的平均值為，而且，數(shù)據(jù)擬合的很好的回歸模型其值應(yīng)小于。因此，在用這個統(tǒng)計量對不同的回歸模型進(jìn)行評估時，目的往往是為了找到一個模型使其表達(dá)式值為負(fù)。第51頁，課件共84頁，創(chuàng)作于2023年2月隨機(jī)解釋變量

RandomIndependentVariable一、隨機(jī)解釋變量問題二、隨機(jī)解釋變量的后果三、工具變量法四、案例第52頁，課件共84頁，創(chuàng)作于2023年2月一、隨機(jī)解釋變量問題第53頁，課件共84頁，創(chuàng)作于2023年2月1、隨機(jī)解釋變量問題單方程線性計量經(jīng)濟(jì)學(xué)模型的假設(shè)之一是：

Cov(Xi,i)=0即解釋變量與隨機(jī)項(xiàng)不相關(guān)。

違背這一假設(shè)的問題被稱為隨機(jī)解釋變量問題。這一假設(shè)實(shí)際上是要求：或者X是確定性變量，不是隨機(jī)變量；或者X雖是隨機(jī)變量，但與隨機(jī)誤差項(xiàng)不相關(guān)。第54頁，課件共84頁，創(chuàng)作于2023年2月2、隨機(jī)解釋變量問題的三種情況

對于模型

Yi=0+1X1i+2X2i++kXki+i（i=1,2,…,n)

為討論方便，假設(shè)其中X2為隨機(jī)解釋變量

對于隨機(jī)解釋變量問題，又分三種不同情況：⑴隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)不相關(guān)，即

E（X2）=0第55頁，課件共84頁，創(chuàng)作于2023年2月⑵隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)在小樣本下相關(guān)，在大樣本下漸近無關(guān)，即在小樣本下

E（X2）0

在大樣本下

Plim（X2ii/n）=0

或：P(lim(X2ii/n)=0)=1⑶隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)高度相關(guān)，且

Plim（X2ii/n）0第56頁，課件共84頁，創(chuàng)作于2023年2月2、實(shí)際經(jīng)濟(jì)問題中的隨機(jī)解釋變量問題

在實(shí)際經(jīng)濟(jì)問題中，經(jīng)濟(jì)變量往往都具有隨機(jī)性。但是在單方程計量經(jīng)濟(jì)學(xué)模型中，凡是外生變量都被認(rèn)為是確定性的。

于是隨機(jī)解釋變量問題主要表現(xiàn)于用滯后被解釋變量作為模型的解釋變量的情況。第57頁，課件共84頁，創(chuàng)作于2023年2月例如：耐用品存量調(diào)整模型：

耐用品的存量Qt由前一個時期的存量Qt-1和當(dāng)期收入It共同決定：

Qt=0+1It+2Qt-1+tt=1,,T

這是一個滯后被解釋變量作為解釋變量的模型。但是，如果模型不存在隨機(jī)誤差項(xiàng)的序列相關(guān)性，那么隨機(jī)解釋變量Qt-1只與t-1相關(guān)，與t不相關(guān)，屬于上述的第1種情況。第58頁，課件共84頁，創(chuàng)作于2023年2月合理預(yù)期的消費(fèi)函數(shù)模型

合理預(yù)期理論認(rèn)為消費(fèi)是由對收入的預(yù)期所決定的，或者說消費(fèi)是有計劃的，而這個計劃是根據(jù)對收入的預(yù)期制定的。于是有：第59頁，課件共84頁，創(chuàng)作于2023年2月

在該模型中，作為解釋變量的Ct-1不僅是一個隨機(jī)解釋變量，而且與模型的隨機(jī)誤差項(xiàng)（t-t-1）高度相關(guān)（因?yàn)镃t-1與t-1高度相關(guān)）。屬于上述第3種情況。第60頁，課件共84頁，創(chuàng)作于2023年2月二、隨機(jī)解釋變量的后果第61頁，課件共84頁，創(chuàng)作于2023年2月1、出發(fā)點(diǎn)

計量經(jīng)濟(jì)學(xué)模型一旦出現(xiàn)隨機(jī)解釋變量，如果仍采用OLS法估計模型參數(shù)，不同性質(zhì)的隨機(jī)解釋變量會產(chǎn)生不同的后果。對回歸模型

Y=XB+N第62頁，課件共84頁，創(chuàng)作于2023年2月取期望，有

可見，隨機(jī)解釋變量帶來什么后果取決于它與隨機(jī)誤差項(xiàng)是否相關(guān)。第63頁，課件共84頁，創(chuàng)作于2023年2月2、當(dāng)隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)不相關(guān)時這時采用OLS法估計模型參數(shù)，得到的參數(shù)估計量仍然是無偏估計量。第64頁，課件共84頁，創(chuàng)作于2023年2月

3、當(dāng)隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)在小樣本下相關(guān)，在大樣本下漸近無關(guān)時這時采用OLS法估計模型參數(shù)，得到的參數(shù)估計量在小樣本下是有偏的，在大樣本下具有漸近無偏的。第65頁，課件共84頁，創(chuàng)作于2023年2月4、當(dāng)隨機(jī)解釋變量與隨機(jī)誤差項(xiàng)高度相關(guān)時這時采用OLS法估計模型參數(shù)，得到的參數(shù)估計量在小樣本下是有偏的，在大樣本下也不具有漸近無偏性。此時OLS法失效，需要發(fā)展新的方法估計模型。第66頁，課件共84頁，創(chuàng)作于2023年2月5、當(dāng)滯后被解釋變量作解釋變量，并且與隨機(jī)誤差項(xiàng)相關(guān)時

這時，除了OLS法參數(shù)估計量是有偏的以外，還帶來兩個后果：

①模型必然具有隨機(jī)誤差項(xiàng)的自相關(guān)性。因?yàn)樵摐蟊唤忉屪兞颗c滯后隨機(jī)誤差項(xiàng)相關(guān)，又與當(dāng)期隨機(jī)誤差項(xiàng)相關(guān)。

②D.W.檢驗(yàn)失效。因?yàn)椴还蹹.W.統(tǒng)計量的數(shù)值是多少，隨機(jī)誤差項(xiàng)的自相關(guān)性總是存在的。第67頁，課件共84頁，創(chuàng)作于2023年2月三、工具變量法

InstrumentalVariablesMethod第68頁，課件共84頁，創(chuàng)作于2023年2月

1、工具變量的選取

工具變量：在模型估計過程中被作為工具使用，以替代模型中與隨機(jī)誤差項(xiàng)相關(guān)的隨機(jī)解釋變量。

選擇為工具變量的變量必須滿足以下條件：

（1）與所替代的隨機(jī)解釋變量高度相關(guān)；（2）與隨機(jī)誤差項(xiàng)不相關(guān)；（3）與模型中其它解釋變量不相關(guān)，以避免出現(xiàn)多重共線性。第69頁，課件共84頁，創(chuàng)作于2023年2月2、工具變量的應(yīng)用對于多元線性模型Yi=0+1X1i+2X2i++kXki+i（i=1,2,…,n)第70頁，課件共84頁，創(chuàng)作于202