CHP3多元線性回歸模型(1)(1)課件

1、1第三章 多元線性回歸模型（2）一、 基本概念回顧二、基本假設(shè)三、檢驗四、自變量關(guān)系 第1頁，共65頁。2一，概念：1、偏回歸系數(shù)：1 、與雙變量模型一樣分為確定性成分和隨機(jī)性成分。2、Y X U也分別為被解釋變量、解釋變量 隨機(jī)擾動項。3 不同的是回歸系數(shù)我們稱之為偏回歸系數(shù)第2頁，共65頁。3偏回歸系數(shù)討論：經(jīng)濟(jì)學(xué)中的比較靜態(tài)分析與偏回歸系數(shù)的含義！問題：我們?nèi)绾卧u價某一解釋變量對被解釋變量的真實(shí)影響？如：如何評價X2對Y變化的真實(shí)貢獻(xiàn)？控制住X3影響！第3頁，共65頁。4如何控制住X3影響？以生產(chǎn)函數(shù)為例假定在度量勞動投入X2的單位變化對產(chǎn)出的影響時，我們要控制資本投入X3的線性影響。為

2、此目的可進(jìn)行如下步驟：做Y 對X3的回歸做X2對X3的回歸除去X3對Y 的影響Yi的值（“凈化”了的Y ）除去X3對X2 的影響X2i的值 （“凈化”了的X2第4頁，共65頁。5步驟三第5頁，共65頁。6一般形式：對于有 個解釋變量的線性回歸模型 模型中參數(shù) 是偏回歸系數(shù)，樣本容量為偏回歸系數(shù)：控制其它解釋量不變的條件下，第 個解釋變量的單位變動對應(yīng)變量平均值的影響。第6頁，共65頁。7指對各個回歸系數(shù)而言是“線性”的，對變量則可是線性的，也可是非線性的例如：生產(chǎn)函數(shù)取自然對數(shù)2、線性第7頁，共65頁。83、多元總體與樣本回歸函數(shù)第8頁，共65頁。9 用矩陣表示第9頁，共65頁。10二、多元線

3、性回歸模型的基本假定 假設(shè)1，解釋變量是非隨機(jī)的或固定的，且各X之間互不相關(guān)（無多重共線性）。 假設(shè)2，隨機(jī)誤差項具有零均值、同方差及不序列相關(guān)性。第10頁，共65頁。11 假設(shè)3，解釋變量與隨機(jī)項不相關(guān) 假設(shè)4，隨機(jī)項滿足正態(tài)分布 第11頁，共65頁。12上述假設(shè)的矩陣符號表示 式： 假設(shè)1，nk維矩陣X是非隨機(jī)的，且X的秩=k，即X滿秩。 假設(shè)2， 回憶線性代數(shù)中關(guān)于滿秩、線性無關(guān)!對角線說明了擾動項的同方差性！對角線之外說明了擾動項的序列無關(guān)性！第12頁，共65頁。13假設(shè)4，向量 有一多維正態(tài)分布，即 假設(shè)3，E(X)=0，即 轉(zhuǎn)置假設(shè)5，回歸模型的設(shè)定是正確的。第13頁，共65頁。1

4、41、修正的可決系數(shù)可決系數(shù)只涉及變差，沒有考慮自由度。如果用自由度去校正所計算的變差，可糾正解釋變量個數(shù)不同引起的對比困難。三、多元回歸檢驗第14頁，共65頁。152、F檢驗第15頁，共65頁。163、判定系數(shù)與F之間的關(guān)系：多元回歸總體的顯著性檢驗與判定系數(shù)的顯著性檢驗是等價的。第16頁，共65頁。4、T檢驗17第17頁，共65頁。四、自變量關(guān)系1、篩選自變量，偏F。與FC18第18頁，共65頁。19判定系數(shù)比較的前提條件：被解釋變量相同：不同解釋變量的判定系數(shù)不可比樣本容量相同矯正的判定系數(shù)可作為增減變量的依據(jù)2、判定系數(shù)第19頁，共65頁。3、受限最小二乘：有約束條件的模型20第20頁

5、，共65頁。21第21頁，共65頁。但是，如果約束條件為真，則受約束回歸模型與無約束回歸模型具有相同的解釋能力，RSSR 與 RSSU的差異變小。 可用RSSR - RSSU的大小來檢驗約束的真實(shí)性于是：第22頁，共65頁。 討論： 如果約束條件無效， RSSR 與 RSSU的差異較大，計算的F值也較大。 于是，可用計算的F統(tǒng)計量的值與所給定的顯著性水平下的臨界值作比較，對約束條件的真實(shí)性進(jìn)行檢驗。注意，kU - kR恰為約束條件的個數(shù)。第23頁，共65頁。這里的F檢驗適合所有關(guān)于參數(shù)線性約束的檢驗如：多元回歸中對方程總體線性性的F檢驗： H0： j=0 j=1,2,k這里：受約束回歸模型為這

6、里，運(yùn)用了ESSR 0。第24頁，共65頁。 利用約束條件判定對回歸模型增加或減少解釋變量考慮如下兩個回歸模型(*)(*)(*)式可看成是（*）式的受約束回歸：H0：相應(yīng)的統(tǒng)計量為：第25頁，共65頁。 如果約束條件為真，即額外的變量Xk+1, , Xk+q對沒有解釋能力，則統(tǒng)計量較?。?否則，約束條件為假，意味著額外的變量對有較強(qiáng)的解釋能力，則統(tǒng)計量較大。 因此，可通過F的計算值與臨界值的比較，來判斷額外變量是否應(yīng)包括在模型中。討論： 統(tǒng)計量的另一個等價式第26頁，共65頁。 利用有限最小二乘判定參數(shù)的穩(wěn)定性 1、鄒氏參數(shù)穩(wěn)定性檢驗 建立模型時往往希望模型的參數(shù)是穩(wěn)定的，即所謂的結(jié)構(gòu)不變，這

7、將提高模型的預(yù)測與分析功能。如何檢驗？ 假設(shè)需要建立的模型為在兩個連續(xù)的時間序列（1,2,，n1）與（n1+1,，n1+n2）中，相應(yīng)的模型分別為：第27頁，共65頁。 合并兩個時間序列為( 1,2,，n1 ，n1+1,，n1+n2 )，則可寫出如下無約束回歸模型 如果=，表示沒有發(fā)生結(jié)構(gòu)變化，因此可針對如下假設(shè)進(jìn)行檢驗： H0: =(*)式施加上述約束后變換為受約束回歸模型(*)（*）第28頁，共65頁。因此，檢驗的F統(tǒng)計量為： 記RSS1與RSS2為在兩時間段上分別回歸后所得的殘差平方和，容易驗證，于是第29頁，共65頁。參數(shù)穩(wěn)定性的檢驗步驟： （1）分別以兩連續(xù)時間序列作為兩個樣本進(jìn)行回

8、歸，得到相應(yīng)的殘差平方： RSS1與RSS2 （2）將兩序列并為一個大樣本后進(jìn)行回歸，得到大樣本下的殘差平方和RSSR （3）計算F統(tǒng)計量的值，與臨界值比較： 若F值大于臨界值，則拒絕原假設(shè)，認(rèn)為發(fā)生了結(jié)構(gòu)變化，參數(shù)是非穩(wěn)定的。 該檢驗也被稱為鄒氏參數(shù)穩(wěn)定性檢驗（Chow test for parameter stability）。第30頁，共65頁。 2、鄒氏預(yù)測檢驗 上述參數(shù)穩(wěn)定性檢驗要求n2k。 如果出現(xiàn)n2F(n2, n1-k-1) ，則拒絕原假設(shè)，認(rèn)為預(yù)測期發(fā)生了結(jié)構(gòu)變化。第34頁，共65頁。 例3.6.2 中國城鎮(zhèn)居民食品人均消費(fèi)需求的鄒氏檢驗。 1、參數(shù)穩(wěn)定性檢驗19811994

9、：RSS1=0.003240 19952001： (9.96) (7.14) (-5.13) (1.81) 19812001: (14.83) (27.26) (-3.24) (-11.17) 第35頁，共65頁。 給定=5%，查表得臨界值F0.05(4, 13)=3.18 判斷：F值臨界值，拒絕參數(shù)穩(wěn)定的原假設(shè)，表明中國城鎮(zhèn)居民食品人均消費(fèi)需求在1994年前后發(fā)生了顯著變化。 2、鄒氏預(yù)測檢驗給定=5%，查表得臨界值F0.05(7, 10)=3.18判斷： F值臨界值，拒絕參數(shù)穩(wěn)定的原假設(shè) 第36頁，共65頁。 *四、非線性約束 也可對模型參數(shù)施加非線性約束,如對模型施加非線性約束12=1,

10、得到受約束回歸模型: 該模型必需采用非線性最小二乘法（nonlinear least squares）進(jìn)行估計。 非線性約束檢驗是建立在最大似然原理基礎(chǔ)上的,有最大似然比檢驗、沃爾德檢驗與拉格朗日乘數(shù)檢驗.第37頁，共65頁。1、最大似然比檢驗 (likelihood ratio test, LR) 估計:無約束回歸模型與受約束回歸模型， 方法:最大似然法， 檢驗:兩個似然函數(shù)的值的差異是否“足夠”大。 記L(,2)為一似然函數(shù):無約束回歸 : Max:受約束回歸 : Max:或求極值： g():以各約束條件為元素的列向量, ：以相應(yīng)拉格朗日乘數(shù)為元素的行向量 約束：g()=0第38頁，共65

11、頁。 受約束的函數(shù)值不會超過無約束的函數(shù)值，但如果約束條件為真，則兩個函數(shù)值就非?！敖咏?。 由此，定義似然比（likelihood ratio）: 如果比值很小，說明兩似然函數(shù)值差距較大，則應(yīng)拒絕約束條件為真的假設(shè)； 如果比值接近于，說明兩似然函數(shù)值很接近，應(yīng)接受約束條件為真的假設(shè)。 具體檢驗時，由于大樣本下： h是約束條件的個數(shù)。因此： 通過LR統(tǒng)計量的2分布特性來進(jìn)行判斷。 第39頁，共65頁。 在中國城鎮(zhèn)居民人均食品消費(fèi)需求例中，對零階齊次性的檢驗： LR= -2(38.57-38.73)=0.32 給出=5%、查得臨界值20.05(1)3.84， 判斷： LR 20.05(1),不拒

12、絕原約束的假設(shè)， 表明:中國城鎮(zhèn)居民對食品的人均消費(fèi)需求函數(shù)滿足零階齊次性條件。 第40頁，共65頁。 、沃爾德檢驗（Wald test, W） 沃爾德檢驗中，只須估計無約束模型。如對 在所有古典假設(shè)都成立的條件下，容易證明 因此，在1+2=1的約束條件下 第41頁，共65頁。記 可建立沃爾德統(tǒng)計量: 如果有h個約束條件，可得到h個統(tǒng)計量z1,z2,zh 約束條件為真時，可建立大樣本下的服從自由度為h的漸近2 分布統(tǒng)計量 其中，Z為以zi為元素的列向量，C是Z的方差-協(xié)方差矩陣。 因此，W從總體上測量了無約束回歸不滿足約束條件的程度。 對非線性約束，沃爾德統(tǒng)計量W的算法描述要復(fù)雜得多。 第42

13、頁，共65頁。 3、拉格朗日乘數(shù)檢驗 拉格朗日乘數(shù)檢驗則只需估計受約束模型. 受約束回歸是求最大似然法的極值問題: 是拉格朗日乘數(shù)行向量，衡量各約束條件對最大似然函數(shù)值的影響程度。 如果某一約束為真，則該約束條件對最大似然函數(shù)值的影響很小，于是，相應(yīng)的拉格朗日乘數(shù)的值應(yīng)接近于零。 因此，拉格朗日乘數(shù)檢驗就是檢驗?zāi)承├窭嗜粘藬?shù)的值是否“足夠大”，如果“足夠大”，則拒絕約束條件為真的假設(shè)。第43頁，共65頁。 拉格朗日統(tǒng)計量LM本身是一個關(guān)于拉格朗日乘數(shù)的復(fù)雜的函數(shù)，在各約束條件為真的情況下，服從一自由度恰為約束條件個數(shù)的漸近2分布。 n為樣本容量，R2為如下被稱為輔助回歸（auxiliary

14、regression）的可決系數(shù): 如果約束是非線性的，輔助回歸方程的估計比較復(fù)雜，但仍可按（*）式計算LM統(tǒng)計量的值。 最后，一般地有:LMLRW 同樣地，如果為線性約束，LM服從一精確的2分布：(*)第44頁，共65頁。453、受約束的OLS一般的多元模型都是非受限 （約束）模型。因此我們用OLS估計時，稱為非受限最小二乘。經(jīng)濟(jì)理論有時會提出某一回歸模型中的系數(shù)滿足一些線性等式約束條件。當(dāng)具備這個約束條件后，方程是否有效，要進(jìn)行檢驗例如，考慮柯布一道格拉斯生產(chǎn)函數(shù)中的規(guī)模報酬不變每一同比例的投入變化有同比例的產(chǎn)出變化即檢驗中，有兩種方法（t檢驗和F檢驗）第45頁，共65頁。46對模型施加約

15、束得或(*)(*)如果對（*）式回歸得出則由約束條件可得：第46頁，共65頁。47 但是，如果約束條件為真，則受約束回歸模型與無約束回歸模型具有相同的解釋能力，RSSR 與 RSSU的差異變小。如果約束條件無效， RSSR 與 RSSU的差異較大，計算的F值也較大于是，可用計算的F統(tǒng)計量的值與所給定的顯著性水平下的臨界值作比較，對約束條件的真實(shí)性進(jìn)行檢驗。第47頁，共65頁。48t檢驗第48頁，共65頁。49七、參數(shù)的置信區(qū)間 參數(shù)的置信區(qū)間用來考察：在一次抽樣中所估計的參數(shù)值離參數(shù)的真實(shí)值有多“近”。 在變量的顯著性檢驗中已經(jīng)知道：第49頁，共65頁。50容易推出：在(1-)的置信水平下j的

16、置信區(qū)間是 其中，t/2為顯著性水平為 、自由度為n-k-1的臨界值。 第50頁，共65頁。51如何才能縮小置信區(qū)間？ 增大樣本容量n，因為在同樣的樣本容量下，n越大，t分布表中的臨界值越小，同時，增大樣本容量，還可使樣本參數(shù)估計量的標(biāo)準(zhǔn)差減??； 提高模型的擬合優(yōu)度，因為樣本參數(shù)估計量的標(biāo)準(zhǔn)差與殘差平方和呈正比，模型優(yōu)度越高，殘差平方和應(yīng)越小，置信區(qū)間的就越窄。在實(shí)際應(yīng)用中，我們希望置信度越高越好，置信區(qū)間越小越好。第51頁，共65頁。52第五節(jié) 案例分析案例：中國稅收增長的分析提出問題改革開放以來，隨著經(jīng)濟(jì)體制改革的深化和經(jīng)濟(jì)的快速增長，中國的財政收支狀況發(fā)生很大變化，為了研究影響中國稅收收

17、入增長的主要原因，分析中央和地方稅收收入的增長規(guī)律，預(yù)測中國稅收未來的增長趨勢，需要建立計量經(jīng)濟(jì)模型。第52頁，共65頁。53理論分析影響中國稅收收入增長的主要因素可能有：（1）從宏觀經(jīng)濟(jì)看，經(jīng)濟(jì)整體增長是稅收增長的基本源泉。（2）社會經(jīng)濟(jì)的發(fā)展和社會保障等都對公共財政提出要求，公共財政的需求對當(dāng)年的稅收收入可能會有一定的影響。（3）物價水平。中國的稅制結(jié)構(gòu)以流轉(zhuǎn)稅為主，以現(xiàn)行價格計算的GDP和經(jīng)營者的收入水平都與物價水平有關(guān)。（4）稅收政策因素。第53頁，共65頁。54 以各項稅收收入Y 作為被解釋變量 以GDP表示經(jīng)濟(jì)整體增長水平 以財政支出表示公共財政的需求 以商品零售價格指數(shù)表示物價水

18、平 稅收政策因素較難用數(shù)量表示,暫時不予考慮建立模型第54頁，共65頁。55模型設(shè)定為:其中： 各項稅收收入（億元） 國內(nèi)生產(chǎn)總值（億元） 財政支出（億元） 商品零售價格指數(shù)（%）第55頁，共65頁。56數(shù)據(jù)來源：中國統(tǒng)計年鑒其中: 各項稅收收入（億元） 國內(nèi)生產(chǎn)總值（億元） 財政支出（億元） 商品零售價格指數(shù)（%）數(shù)據(jù)收集第56頁，共65頁。57假定模型中隨機(jī)項滿足基本假定，可用OLS法估計其參數(shù)。具體操作：用EViews軟件，估計結(jié)果為：參數(shù)估計第57頁，共65頁。58t檢驗：給定 ，查t分布表，在自由度為 時臨界值為 ，因為 的參數(shù)對應(yīng)的t統(tǒng)計量均大于2.080, 這說明在5%的顯著性水平下，斜率系數(shù)均顯著不為零，表明國內(nèi)生產(chǎn)總值、財政支出、商品零售價格指數(shù)對財政收入分別都有顯著影響。 第58頁，共65頁。59本模型中所估計的參數(shù)的符號與經(jīng)濟(jì)理論分析一致，說明在其他因素不變的情況下，國內(nèi)生產(chǎn)總值每增加1億元，平均說來財政收入將增加2