第三章受約束回歸問題

第三章受約束回歸問題一、模型參數(shù)的線性約束二、對回歸模型增加或減少解釋變量三、參數(shù)的穩(wěn)定性檢驗四、非線性約束2/4/2023受約束回歸在建立回歸模型時，有時根據(jù)經濟理論需要對模型中的參數(shù)施加一定的約束條件。例如：需求函數(shù)的0階齊次性條件：當所有商品和消費者貨幣支出總額按同一比例變動時，需求量保持不變。生產函數(shù)的1階齊次性條件：α+β=1模型施加約束條件后進行回歸，稱為受約束回歸（restrictedregression）;未加任何約束的回歸稱為無約束回歸（unrestrictedregression）。2/4/2023一、模型參數(shù)的線性約束多元回歸模型:2/4/2023施加約束:得:或:(1)(2)2/4/2023如果對（2）式回歸得出:則由約束條件可得：

然而，對所研究的具體問題能否施加約束？需進一步進行相應的檢驗。常用的檢驗有：F檢驗、x2檢驗與t檢驗。F檢驗

在同一樣本下，記無約束樣本回歸模型為:2/4/2023受約束樣本回歸模型為:于是:2/4/2023

受約束樣本回歸模型的殘差平方和：RSSR于是e′e為無約束樣本回歸模型的殘差平方和：RSSU(3)受約束與無約束模型都有相同的總離差平方和TSS（因為受約束與無約束模型都有相同的被解釋變量和樣本）

這意味著，通常情況下，對模型施加約束條件會降低模型的解釋能力。（模型的擬合優(yōu)度=回歸平方和/總平方和)但是，如果約束條件為真，則受約束回歸模型與無約束回歸模型具有相同或者近似的解釋能力，RSSR

與RSSU的差異變小。2/4/2023由（3）式RSSR

≥

RSSU從而ESSR≤

ESSU（ESS為回歸平方和）2/4/2023可用二者的差:RSSR-RSSU的大小來檢驗約束的真實性

根據(jù)數(shù)理統(tǒng)計學的知識：其中kU為無約束模型解釋變量個數(shù)，kR為受約束模型解釋變量個數(shù)，于是：結論如果約束條件無效，RSSR

與RSSU的差異較大，計算的F值也較大。于是，可用計算的F統(tǒng)計量的值與所給定的顯著性水平下的臨界值作比較，對約束條件的真實性進行檢驗。注意，kU-kR恰為參數(shù)關系約束條件的個數(shù)。2/4/2023模型參數(shù)約束回歸案例

例3.1建立中國城鎮(zhèn)居民食品消費需求函數(shù)模型。2/4/2023

根據(jù)需求理論，城鎮(zhèn)居民對食品的消費需求函數(shù)大致為:

Q:城鎮(zhèn)居民的食品支出總額，X：城鎮(zhèn)居民的消費支出總額,P1：食品價格指數(shù)，P0：居民消費價格指數(shù)。

(4)2/4/2023

零階齊次性，當所有商品和消費者貨幣支出總額按同一比例變動時，需求量保持不變。

(5)為了進行比較，將同時估計（4）式與（5）式。

2/4/2023

根據(jù)恩格爾定律，居民對食品的消費支出與居民的總支出間呈冪函數(shù)的變化關系:

首先,確定具體的函數(shù)形式對上式進行對數(shù)變換，得到:

(6)2/4/2023考慮到零階齊次性時(7)式相當于是對（6）式施加如下約束而得:因此，對（7）式進行回歸，就意味著原需求函數(shù)滿足零階齊次性條件。(7)2/4/2023X：人均消費X1：人均食品消費GP：居民消費價格指數(shù)FP：居民食品消費價格指數(shù)XC：人均消費（90年價）Q：人均食品消費（90年價）P0：居民消費價格縮減指數(shù)（1990=100）P1：居民食品消費價格縮減指數(shù)（1990=1002/4/2023中國城鎮(zhèn)居民人均食品消費

特征：消費行為在1981~1995年間表現(xiàn)出較強的一致性；1995年之后呈現(xiàn)出另外一種變動特征。

因此：我們只建立1981~1994年中國城鎮(zhèn)居民對食品的消費需求模型。各變量的彈性之和，比較接近于零，但不為零。2/4/2023建立1981~1994年中國城鎮(zhèn)居民對食品的消費需求模型:

(9.03)(25.35)(-2.28)(-7.34))ln(92.0)ln(08.0)ln(05.163.3)?ln(01PPXQ--+=2/4/2023按零階齊次性表達式回歸:

（75.86）(52.66)(-3.62)

2/4/2023與接近。意味著：所建立的食品需求函數(shù)滿足零階齊次性特征。為了比較，改寫該式為：

零階齊次性檢驗2/4/2023

例1.1

中國城鎮(zhèn)居民對食品的人均消費需求實例中，對零階齊次性檢驗：

無約束回歸:RSSU=0.00324，kU=3

受約束回歸:RSSR=0.00332，KR=2

樣本容量n=14，約束條件個數(shù)kU-kR=3-2=1取=5%，查得臨界值F0.05(1,10)=4.96結論：不能拒絕中國城鎮(zhèn)居民對食品的人均消費需求函數(shù)具有零階齊次特性這一假設。2/4/2023說明：這里的F檢驗適合所有關于參數(shù)線性約束的檢驗

例1.2生產函數(shù)的一階齊次性檢驗2/4/202321

生產函數(shù)的數(shù)學形式為

在最初提出的C-D生產函數(shù)中，假定參數(shù)滿足+=1

，也就是假定研究對象滿足規(guī)模報酬不變條件。Q為產出，K為資本投入，L為勞動力投入。很容易推出參數(shù),分別是資本和勞動的產出彈性。那么由產出彈性的經濟意義，應該有,

即當資本與勞動的數(shù)量同時增長倍時，產出量也增長

倍。1937年，提出了C-D生產函數(shù)的改進型，即取消了+=1

的假定，允許要素的產出彈性之和大于1或小于1。2/4/202322

例1.2

Cobb-Douglas生產函數(shù)估計形式如下：

利用美國主要金屬工業(yè)企業(yè)的數(shù)據(jù)（27個企業(yè)的數(shù)據(jù)），C-D生產函數(shù)估計結果如下（Eviews輸出結果）：

2/4/202323

從結果看LogL和logK的系數(shù)和小于1，但為確定這種差異是統(tǒng)計顯著的，常進行有約束的Wald系數(shù)檢驗、F檢驗。選擇View/CoefficientTests/Wald-CoefficientRestrictions，在編輯對話框中輸入約束條件。為檢驗

+=1的規(guī)模報酬不變的假設，輸入下列約束：

c(2)+c(3)=1EViews顯示Wald檢驗如下結果（原假設：約束條件有效）：

EViews顯示F統(tǒng)計量和

2統(tǒng)計量及相應的P值。2統(tǒng)計量等于F統(tǒng)計量乘以檢驗約束條件數(shù)。本例中，僅有一個約束條件，所以這兩個檢驗統(tǒng)計量等價。它們的P值表明可以接受規(guī)模報酬不變的原假設。二、對回歸模型增加或減少解釋變量考慮如下兩個回歸模型2/4/2023(8)(9)(8)式可看成是（9）式的受約束回歸：H0：2/4/2023相應的Ｆ統(tǒng)計量為：

將上式分子和分母同時除以TSS,得到Ｆ統(tǒng)計量的另一個等價式：2/4/2023

如果約束條件為真，即額外的變量Xk+1,…,Xk+q對Ｙ沒有解釋能力，則Ｆ統(tǒng)計量較小；否則，約束條件為假，意味著額外的變量對Ｙ有較強的解釋能力，則Ｆ統(tǒng)計量較大。因此，可通過F統(tǒng)計量的計算值與臨界值的比較，來判斷額外變量是否應包括在模型中。結論：

檢驗若干線性約束條件是否成立的F

檢驗

例11.1：建立中國國債發(fā)行額模型選擇3個解釋變量，國內生產總值，財政赤字額，年還本付息額，根據(jù)散點圖建立中國國債發(fā)行額模型如下：

DEBTt=0

+1GDPt

+2DEFt

+3REPAYt

+ut其中DEBTt表示國債發(fā)行總額（單位：億元），GDPt表示年國內生產總值（單位：百億元），DEFt表示年財政赤字額（單位：億元），REPAYt表示年還本付息額（單位：億元）。

例11.1：建立中國國債發(fā)行額模型EViews可以有三種途徑完成上述F檢驗。（1）在輸出結果窗口中點擊View，選CoefficientTests,WaldCoefficientRestrictions功能（Wald參數(shù)約束檢驗），在隨后彈出的對話框中填入c(3)=c(4)=0?？傻萌缦陆Y果。其中F=537.5。例11.1：建立中國國債發(fā)行額模型

（第3版256頁）例11.1：建立中國國債發(fā)行額模型三、參數(shù)的穩(wěn)定性檢驗2/4/20231、參數(shù)穩(wěn)定性檢驗(ChowTest，鄒檢驗)

建立模型時往往希望模型的參數(shù)是穩(wěn)定的，即所謂的結構不變，這將提高模型的預測與分析功能。如何檢驗？

假設需要建立的模型為在兩個連續(xù)的時間序列（1,2,…，n1）與（n1+1,…，n1+n2）中，相應的模型分別為：2/4/2023

合并兩個時間序列為(1,2,…，n1

，n1+1,…，n1+n2)，則可寫出如下無約束回歸模型

如果=，表示沒有發(fā)生結構變化，因此可針對如下假設進行檢驗：

H0:=(10)式施加上述約束后變換為受約束回歸模型(10)（11）2/4/2023因此，檢驗的F統(tǒng)計量為：

記RSS1與RSS2為在兩時間段上分別回歸后所得的殘差平方和。容易證明：于是)]1(2,[~)]1(2/[/)(2121+-++-+-=knnFknnRSSk+1RSSRSSFUUR)]1(2,[~)]1(2/[)(/)]([21212121+-++-+++-=knnK+1FknnRSSRSSk+1RSSRSSRSSFRK+1參數(shù)穩(wěn)定性的檢驗步驟（1）分別以兩連續(xù)時間序列作為兩個樣本進行回歸，得到相應的殘差平方：RSS1與RSS2

（2）將兩序列并為一個大樣本后進行回歸，得到大樣本下的殘差平方和RSSR（施加相等約束）（3）計算F統(tǒng)計量的值，與臨界值比較：

若F值大于臨界值，則拒絕原假設，認為發(fā)生了結構變化，參數(shù)是非穩(wěn)定的。該檢驗也被稱為鄒氏參數(shù)穩(wěn)定性檢驗，簡稱鄒檢驗（Chowtestforparameterstability）。2/4/2023

2/4/2023

例1.3

中國城鎮(zhèn)居民食品人均消費需求的鄒檢驗。

X：人均消費X1：人均食品消費GP：居民消費價格指數(shù)FP：居民食品消費價格指數(shù)XC：人均消費（90年價）Q：人均食品消費（90年價）P0：居民消費價格縮減指數(shù)（1990=100）P1：居民食品消費價格縮減指數(shù)（1990=1002/4/2023

1.參數(shù)穩(wěn)定性檢驗1981~1994：RSS1=0.003240

1995~2001：

(9.96)(7.14)(-5.13)(1.81)

2/4/20231981~2001:

(14.83)(27.26)(-3.24)(-11.17)給定=5%，查表得臨界值F0.05(4,13)=3.1834.10)821/()000058.0003240.0(4/)]0000580.0003240.0(013789.0[=-++-=F2/4/2023

結論：F值>臨界值，拒絕參數(shù)穩(wěn)定的原假設，表明中國城鎮(zhèn)居民食品人均消費需求在1994年前后發(fā)生了顯著變化。

2/4/20232、預測檢驗

上述參數(shù)穩(wěn)定性檢驗要求n2>k。（k為自變量個數(shù)）如果出現(xiàn)n2<k

，則往往進行如下的鄒氏預測檢驗（Chowtestforpredictivefailure）。

鄒氏預測檢驗的基本思想:

先用前一時間段n1個樣本估計原模型，再用估計出的參數(shù)進行后一時間段n2個樣本的預測。

如果預測誤差較大，則說明參數(shù)發(fā)生了變化，否則說明參數(shù)是穩(wěn)定的。2/4/2023

分別以、表示第一與第二時間段的參數(shù)，則:其中，(12)2/4/2023

如果

=0，則

=，表明參數(shù)在估計期與預測期相同(12)的矩陣式：

可見，用前n1個樣本估計可得前k個參數(shù)的估計，而是用后n2個樣本測算的預測誤差X2(-)(13)2/4/2023如果參數(shù)沒有發(fā)生變化，則=0，矩陣式簡化為(14)（14）式與（13）式2/4/2023這里：KU-KR=n2；RSSU=RSS1

分別可看成受約束與無約束回歸模型，于是有如下F檢驗：2/4/2023

(1)

在兩時間段的合成大樣本下做OLS回歸，得受約束模型的殘差平方和RSSR

；

(2)

對前一時間段的n1個子樣做OLS回歸，得殘差平方和RSS1

；

(3)

計算檢驗的F統(tǒng)計量，做出判斷：鄒氏預測檢驗步驟

給定顯著性水平，查F分布表，得臨界值F(n2,n1-k-1)，如果

F>F(n2,n1-k-1)

，則拒絕原假設，認為預測期發(fā)生了結構變化。2/4/20232、鄒氏預測檢驗給定=5%，查表得臨界值F0.05(7,10)=3.18

結論：F值>臨界值，拒絕參數(shù)穩(wěn)定的原假設

例1.3

中國城鎮(zhèn)居民食品人均消費需求的鄒檢驗。

參數(shù)穩(wěn)定性檢驗——數(shù)據(jù)表參數(shù)穩(wěn)定性檢驗——全部樣本估計參數(shù)穩(wěn)定性檢驗——選擇Chow檢驗參數(shù)穩(wěn)定性檢驗——選擇突變點參數(shù)穩(wěn)定性檢驗——檢驗在5%的顯著性水平下，自由度為（4，13）的F分布的臨界值為3.18，可見計算的F值遠大于臨界值，拒絕參數(shù)穩(wěn)定的原假設，表明中國城鎮(zhèn)居民對食品的人均消費需求行為在1995年前后發(fā)生了顯著變化。2/4/202352

例1.4:中國1978年?2006年的數(shù)據(jù)建立的居民消費方程：

const=449.07+0.734*inct+?t

(8.64)(126.1)R2=0.998D.W.=0.53其中:cons是居民消費；inc是可支配收入。方程中c0=449.07代表自發(fā)消費，表示收入等于零時的消費水平；而c1=0.734代表了邊際消費傾向，0<c1<1，即收入每增加1元，消費將增加

c1元。從系數(shù)中可以看出邊際消費傾向是0.73。也即1978年~2006年中國居民可支配收入的73%用來消費。參數(shù)穩(wěn)定性檢驗——選擇預測檢驗2/4/202353

選擇View/StabilityTest/ChowForecastTest進行Chow預測檢驗。對預測樣本開始時期或觀測值數(shù)進行定義。數(shù)據(jù)應在當前觀測值區(qū)間內。

仍以例1.4所建立的消費函數(shù)為例，定義1994作為預測區(qū)間第一個分割點。檢驗重新估計1978—1993的方程，并且使用這個結果來計算剩余時期的預測誤差。結果如下：

對數(shù)似然比（LR）統(tǒng)計量和F統(tǒng)計量拒絕原假設（5%水平），說明中國的消費函數(shù)在1994年前后有結構變化。

四、非線性約束

也可對模型參數(shù)施加非線性約束,如對模型2/4/202354

施加非線性約束12=1,得到受約束回歸模型:

該模型必須采用非線性最小二乘法（nonlinearleastsquares）進行估計。如果施加于模型的約束是非線性的，模型存在參數(shù)非線性，或者擾動項的分布不是正態(tài)的，在這些情況下，F(xiàn)檢驗就不再適用，通常需要采用最大似然比檢驗LikelihoodRatio,LR)、沃爾德檢驗(Wald)與拉格朗日乘數(shù)檢驗(LagrangeMultiplier,LM)這三個檢驗方法中的一個來檢驗約束條件是否成立。這些檢驗是建立在最大似然原理基礎上的。2/4/2023

1、似然比檢驗(likelihoodratiotest,LR)基本思路是如果約束條件成立，則相應的約束模型與無約束模型的對數(shù)似然函數(shù)極大值應該是近似相等的。似然函數(shù)

表示由無約束模型得到的對數(shù)似然函數(shù)極大值。表示由受約束模型得到的對數(shù)似然函數(shù)極大值2/4/20232/4/20231、似然比檢驗

(likelihoodratiotest,LR)

估計:無約束回歸模型與受約束回歸模型，

方法:極大似然法，

檢驗:兩個似然函數(shù)的值的差異是否“足夠”大。

記L(,2)為一似然函數(shù):無約束回歸

:Max:受約束回歸

:Max:約束：g()=02/4/2023

受約束的似然函數(shù)值不會超過無約束的函數(shù)值，但如果約束條件為真，則兩個似然函數(shù)值就非?！敖咏?。

由此，定義似然比（likelihoodratio）:

2/4/2023

判斷規(guī)則：

如果比值很小，說明兩似然函數(shù)值差距較大，則應拒絕約束條件為真的假設；

如果比值接近于１，說明兩似然函數(shù)值很接近，應接受約束條件為真的假設。

具體檢驗時，由于大樣本下：h是約束條件的個數(shù)。因此：通過LR統(tǒng)計量的2分布特性來進行判斷。LR檢驗要檢驗的是

是否顯著異于0。

似然比（LR）檢驗例11.2：用LR統(tǒng)計量檢驗原假設b3=b4=0。是否成立。估計結果如下；

DEBTt=4.31

+0.35

GDPt

+0.99

DEFt

+0.88

REPAYt

(0.2)(2.2)(31.5)(17.8)

R2=0.9990,DW=2.12,T=22,logL=-115.8888,(1980-2001)

得約束模型估計結果如下，

DEBTt=-388.40

+4.49

GDPt

(-3.1)(17.2)

R2=0.94,DW=0.25,T=22,logL=-161.0583,(1980-2001)

計算LR統(tǒng)計量的值，

LR=-2[logL(b~,

2~s)-

logL(b?,

2?s)]=

-2(-161.0583+115.8888)=90.34

因為LR=90.34>c

2(2)=5.99，所以推翻原假設。結論是不能從模型中

刪除解釋變量DEFt和REPAYt。檢驗結果與上面的F檢驗結論相一致。

似然比（LR）檢驗2/4/2023

在中國城鎮(zhèn)居民人均食品消費需求例中，對零階齊次性的檢驗：LR=-2(38.57-38.73)=0.32

給出=5%、查得臨界值20.05(1)＝3.84，

LR<20.05(1),不拒絕原約束的假設，

結論:中國城鎮(zhèn)居民對食品的人均消費需求函數(shù)滿足零階齊次性條件。

2、沃爾德（Wald）檢驗在實踐中似然比檢驗的缺點是需要估計約束和無約束參數(shù)向量，既要進行約束回歸，又要進行無約束回歸。如果模型結構比較復雜，其估計值可能很難計算。兩個可供選擇的方法沃爾德檢驗（WaldTest)和拉格朗日乘數(shù)檢驗，可以解決這個問題。這兩個檢驗只需要估計約束和無約束參數(shù)向量之一。２、沃爾德檢驗（Waldtest,W）沃爾德檢驗是由沃爾德1943年提出來的，F(xiàn)檢驗和似然比LR檢驗都需要估計約束模型和無約束模型兩個模型。沃爾德檢驗只需要估計一個無約束模型。沃爾德檢驗既適用于線性參數(shù)約束，又適用于非線性參數(shù)約束。2/4/202364

設是在無約束情況下得到的參數(shù)估計值向量，要檢驗的原假設為：若約束條件成立，則至少應該近似地滿足約束條件。如果原假設是錯的，則應該顯著地不等于0。W檢驗就是遵循這個思路構建的。

W統(tǒng)計量：

成立和大樣本的情況下，W服從自由度為約束條件個數(shù)的分布。其中

需注意的是，W統(tǒng)計量僅需要無約束模型的計算，但仍需要計算協(xié)方差矩陣，其估計值由下式給出：

其中表示估計。是一個矩陣，J是約束條件的個數(shù)，K是待估計參數(shù)的個數(shù)，它的第j行是第j個約束關于的第k個元素的導數(shù)。２、沃爾德檢驗（Waldtest）例

沃爾德檢驗中，只須估計無約束模型。如對2/4/2023

在所有經典假設都成立的條件下，容易證明2/4/2023因此，在1+2=1的約束條件下:

記可建立沃爾德統(tǒng)計量:沃爾德（Wald）檢驗（第3版261頁）沃爾德（Wald）檢驗（第3版262頁）3、拉格朗日乘數(shù)（LM）檢驗

拉格朗日乘數(shù)（LM）檢驗基于受約束模型，只需估計受約束模型，無需估計無約束模型。（第3版第265頁）拉格朗日乘子（LM）檢驗（第3版265頁）11.6拉格朗日乘子（LM）檢驗（第3版266頁）11.6拉格朗日乘子（LM）檢驗（第3版267頁）11.6拉格朗日乘子（LM）檢驗4、實際應用中三種檢驗法