計量經濟學-第5章課件

5.1多元線性模型概述原因：影響因變量的解釋變量不止一個例如：在資本投入不變的情況下，勞動投入變動對經濟增長的影響。在勞動投入不變的情況下，資本投入變動對經濟增長的影響。偏回歸系數(shù)15.1多元線性模型概述若有解釋變量與個解釋變量可建立如下線性多元模型：或者2可以用矩陣表示為：其中，X的秩為K，即X列滿秩，X的各列是線性無關的。3回憶：由線性代數(shù)可知如果一個矩陣沒有逆矩陣，則被稱為奇異矩陣，如果有則為非奇異矩陣（non-singular）對于n階方陣A，A是非奇異矩陣的充要條件是A的行列式不等于0當且僅當矩陣滿秩時，其行列式不等于零證明：思考：如果X列線性相關，則矩陣就不存在。45.2線性模型的基本假設假設1假設2：隨機擾動項的數(shù)學期望為零，回歸模型在期望意義上描述了總體回歸方程。55.2線性模型的基本假設假設3：隨機擾動項的方差為常數(shù)，并且兩兩不相關。這里的假設2就是一元模型中的假設2與假設3的綜合，即同方差性與序列無關性的假設。6假設4隨機擾動項μ和解釋變量X不相關，即μ中不含解釋變量X的任何信息。假設5X是秩為K的T*K的矩陣。它要求X的各列線性無關，或者說解釋變量之間不存在多重共線性——非完全共線。非完全共線是指變量X2不能表示為另一變量X3的完全線性函數(shù)。因而，若有X2i=3+2X3i或X2i=4X3i則這兩個變量之間是共線性的，因為X2、X3之間存在完全的線性關系，如果X2＝4X3，則將它代入會發(fā)現(xiàn)：E(Yi)=B1+B2(4X3i)+B3X3i=B1+(4B2+B3)X3i

=B1+AX3i7在存在完全共線性的情況下，不能估計偏回歸系數(shù)B2和B3的值；不能估計解釋變量X2和X3各自對因變量Y的影響。即使能夠估計出來也是錯誤的。假設6隨機擾動項μ為服從正態(tài)分布的隨機向量，即

在樣本容量足夠大時，中心極限定理，假設6是近似成立的。因此，假設6可以是不必要的。以上假定在純數(shù)學的意義是保證估計參數(shù)有唯一的解，同時保證了良好的統(tǒng)計特征。8與一元回歸類似，我們只能得到樣本，而不能得到總體，因此，建立的樣本回歸方程為5.3普通最小二乘估計（OSL）9回顧：普通最小二乘估計是使得回歸的殘差平方和最小。5.3普通最小二乘估計（OSL）105.3普通最小二乘估計（OSL）上式中，利用了（1×T）（T×K）（K×1）=（1×1）是一個標量，它的轉置矩陣不變，即11求偏導，得到則

是使方差最小化的解。XX’是非奇異矩陣，故逆矩陣存在又因為其二階條件12知識點：正定矩陣對于任意的非零向量c，令則除非v中的每一個元素為0，否則a為正的。但是，若v為0，則這與X中的向量線性相關，這與X的假設是矛盾的，故X滿秩，則必有為正定矩陣。13設蘋果銷量不僅與的價格(元/千克)有關，而且與相應的廣告支出有關。14設需求量Y關于價格X1和廣告支出X2的線性回歸模型。15故樣本回歸模型為165.4最小二乘估計量的統(tǒng)計特征（2）無偏性（1）線性性估計量是關于Y的線性組合。17（3）最小方差性。先求估計量的協(xié)方差矩陣下面證明在所有線性無偏估計量中，具有最小的方差。采用反證法證明18證明：令假設另一個線性無偏估計量b=（A+C）Y若b為無偏估計量，則必有1920是半正定矩陣，這個矩陣對應的二次形式為0的前提條件是C=0，當C=0時，線性無偏估計b就是最小二乘估計215.4最小二乘估計量的統(tǒng)計特征基于以上的證明，我們知道，最小二乘估計具有線性性無偏性有效性：在所有線性無偏估計量中具有最小方差性所以，最小二乘估計量為最佳線性無偏估計量（BLUE）。22隨機誤差項方差的無偏估計量為其中為樣本容量，為待估計參數(shù)的個數(shù)。（樣本殘差有個自由度）由上文的推導可知隨機誤差項一般是不知道的，因此需要用殘差e來估計，在多元回歸中可以證明:5.5統(tǒng)計推斷（為t檢驗準備）23命題1：可以證明（課后練習）1）對稱性：M=M’2）冪等性：MM=M3）與X的正交性：MX=024命題2：復習線性代數(shù)：關于跡的概念注意：e’e是一個數(shù)25命題326命題4：27285.6變量的顯著性檢驗（t檢驗）證明：OLS估計量的分布由于假定u服從正態(tài)分布，即，因此295.6變量的顯著性檢驗（t檢驗）又因為貝塔估計值是關于Y的線性函數(shù)（線性性），所以貝塔估計值服從正態(tài)分布，其均值和方差分別為30所以，31其中為樣本容量，為待估計參數(shù)的個數(shù)。（樣本殘差有個自由度）以cii表示矩陣(X’X)-1

主對角線上的第i個元素，于是參數(shù)估計量的方差為：其中，

2為隨機誤差項的總體方差，由于總體未知，故方差也不可知。因此，在實際計算時，用它的估計量代替:注意：這里將截距項也作為一個參數(shù)。32若2已知，可構造如下統(tǒng)計量

但實際上2未知，只能構造如下統(tǒng)計量

參數(shù)估計值得樣本標準差33A、提出原假設：備選假設：B、計算：C、給出顯著水平，查自由度為的分布表，得臨界值t檢驗的步驟34D、作出判斷。如果，接受原假設。如果，拒絕原假設，接受備選假設。P值：原假設不被拒絕的最大顯著程度（接受原假設的概率），顯然P值越小，越能夠拒絕原假設，越能夠接受備擇假設。35參數(shù)的置信區(qū)間

參數(shù)的置信區(qū)間用來考察：在一次抽樣中所估計的參數(shù)值離參數(shù)的真實值有多“近”。在變量的顯著性檢驗中已經知道：36容易推出：在(1-

)的置信水平下

i的置信區(qū)間是

其中，t

/2為顯著性水平為

、自由度為n-k的臨界值。

375.7方程的擬合優(yōu)度檢驗（R2）總平方和：回歸平方和：殘差平方和：38395.7方程的擬合優(yōu)度檢驗（R2）1）可決系數(shù)：越接近1，估計的回歸函數(shù)的擬合優(yōu)度越好。

問題：在應用過程中發(fā)現(xiàn)，如果在模型中增加一個解釋變量，

R2往往增大（Why?)這就給人一個錯覺：要使得模型擬合得好，只要增加解釋變量即可。但是，現(xiàn)實情況往往是，由增加解釋變量個數(shù)引起的R2的增大與擬合好壞無關，所以，R2需調整。40在樣本容量一定的情況下，增加解釋變量必定使得自由度減少，所以調整的思路是:將殘差平方和與總離差平方和分別除以各自的自由度，以剔除變量個數(shù)對擬合優(yōu)度的影響，定義調整的可決系數(shù)為41

*3）、赤池信息準則和施瓦茨準則為了比較所含解釋變量個數(shù)不同的多元回歸模型的擬合優(yōu)度，常用的標準還有:

赤池信息準則（Akaikeinformationcriterion,AIC）施瓦茨準則（Schwarzcriterion，SC）

這兩準則均要求僅當所增加的解釋變量能夠減少AIC值或AC值時才在原模型中增加該解釋變量。

42方程的顯著性檢驗：被解釋變量與解釋變量之間的線性關系在總體上是否顯著成立作出推斷。思想：檢驗是否所有的參數(shù)中至少有一個參數(shù)顯著異于0。t檢驗只是檢驗某個參數(shù)的顯著性，F(xiàn)檢驗是檢驗整個方程中的顯著性。5.8方程的顯著性檢驗(F檢驗)43步驟1:提出如下原假設與備擇假設

H0：

0=

1=

2=

=

k=0H1：

j不全為0

F檢驗的思想來自于總離差平方和的分解式：

TSS=ESS+RSS44

如果這個比值較大，則X的聯(lián)合體對Y的解釋程度高，可認為總體存在線性關系，反之總體上可能不存在線性關系。因此,可通過該比值的大小對總體線性關系進行推斷。步驟2：構造統(tǒng)計量F，根據(jù)數(shù)理統(tǒng)計學中的知識，在原假設H0成立的條件下，統(tǒng)計量

45服從分母自由度為k-1,分子自由度為n-k的F分布。

MSE和MSR分別為回歸均方與誤差均方顯然F值越大，越能拒絕原假設，且方程的解釋能力越好！C、設定檢驗水平，則檢驗規(guī)則為：若，接受若，拒絕46討論：擬合優(yōu)度檢驗與方程顯著性檢驗關系的由可推出：與或4748討論：F檢驗與t檢驗F檢驗與t檢驗的區(qū)別與聯(lián)系F檢驗和t檢驗的對象不同當對全部參數(shù)的t檢驗均顯著時，F(xiàn)檢驗一定是顯著的。當F檢驗顯著時，并不意味著t檢驗一定是顯著的，可能的對某個參數(shù)的t檢驗顯著，但對其他參數(shù)的t檢驗不顯著；當然也有可能對所有參數(shù)均顯著。49例：柯布－道格拉斯生產函數(shù)例1：1958－1972年臺灣地區(qū)農業(yè)部門的柯布－道格拉斯生產函數(shù)?？虏?道格拉斯生產函數(shù)形式為，估算時需做變換，變換為對數(shù)線性模型進行估算。取對數(shù)，有505152535.9多元模型的參數(shù)取舍思想：利用檢驗來檢驗模型中的參數(shù)是否滿足某種約束條件，如是否可以去掉某些參數(shù)從而簡化模型，從而選擇一個最優(yōu)的模型。545.9多元模型的參數(shù)取舍(1)把所有可能影響被解釋變量的變量全部納入模型回歸，可以得到一個沒有約束的回歸殘差。(2)把若干（一個或多個）解釋變量去掉，重新回歸，得到一個有約束的回歸殘差。（去掉幾個變量，就意味著增加了幾個約束條件）55構造統(tǒng)計量：。其中為約束條件的個數(shù)，為樣本容量，為無約束模型的待估計參數(shù)的個數(shù)。5.9多元模型的參數(shù)取舍56F檢驗量計算式上下同時除以SST，也可以變化為由可決系數(shù)表示的形式:5.9多元模型的參數(shù)取舍57(4)選擇顯著性水平，檢驗規(guī)則為：若，接受約束條件，即模型的簡化是可行的。若，拒絕接受約束條件，即模型的簡化是不可行的。注意：約束條件是某些參數(shù)“設置為零”，原假設為約束條件成立。5.9多元模型的參數(shù)取舍58（1）回歸無約束的模型的結果在上文已經給出59無約束模型的回歸結果表示為:LOG(Y)=-3.3384+1.4988*LOG(LABOUR)+0.4899*LOG(CAPITAL)(-1.363)(2.777)(4.800)

回歸結果含義：臺灣地區(qū)1958－1972年農業(yè)部門的勞動與資本的產出彈性分別是1.4988與0.4899,在樣本期內，勞動投入每增加1個百分點，導致產出增加近1.5個百分點，資本的投入每增加1個百分點，導致產出增加0.5個百分點。兩個產出彈性相加得1.988，說明臺灣地區(qū)1958－1972年農業(yè)部門存在規(guī)模報酬遞增。估計回歸擬合程度良好，從可決系數(shù)來看，產出變化近90％的原因可以由資本與勞動的投入來解釋。60有約束的模型（2）臺灣地區(qū)1958－1972年農業(yè)部門的生產規(guī)模報酬是否顯著異于1?；貧w有約束的回歸，約束條件為：EstimationEquation:LOG(Y)=C(1)+C(2)*LO