第十八對數(shù)極大似然估計

第十八對數(shù)極大似然估計演示文稿當(dāng)前1頁，總共52頁。（優(yōu)選）第十八對數(shù)極大似然估計當(dāng)前2頁，總共52頁。§18.1概論用對數(shù)極大似然估計來估計一個模型，主要的工作是建立用來求解似然函數(shù)的說明文本。用EViews指定對數(shù)極大似然函數(shù)的說明是很容易的，因為似然函數(shù)的說明只是一系列對序列的賦值語句，這些賦值語句在極大化的過程中被反復(fù)的計算。我們所要做的只是寫下一組語句，在計算時，這些語句將描述一個包含每個觀測值對似然函數(shù)貢獻的序列。當(dāng)前3頁，總共52頁。首先，我們簡單地回顧一下線性回歸模型的對數(shù)極大似然估計方法?？紤]多元線性回歸模型的一般形式

t=1,2,…,T(1)其中k是解釋變量個數(shù)，T是觀測值個數(shù)，隨機擾動項

～，那么服從如下的正態(tài)分布：～(2)其中當(dāng)前4頁，總共52頁。

Y的隨機抽取的T個樣本觀測值的聯(lián)合概率為

(3)這就是變量Y的似然函數(shù)。對似然函數(shù)求極大值和對對數(shù)似然函數(shù)求極大值是等價的，對數(shù)似然函數(shù)為

(4)

當(dāng)前5頁，總共52頁。注意到，我們能將對數(shù)似然函數(shù)寫成所有觀測值t的對數(shù)似然貢獻和的形式，

(5)

這里單個貢獻由下面的式子給出：

(6)

當(dāng)前6頁，總共52頁。以只含一個解釋變量的方程為例。假定知道模型參數(shù)的真實值，并且想用EViews產(chǎn)生一個包含每個觀測值的貢獻的序列?？梢詫⒁阎膮?shù)賦值給系數(shù)向量的c(1)到c(3)元素，然后把下面的賦值語句作為EViews的命令或程序來執(zhí)行。

Seriesres=y-c(1)-c(2)*xSeriesvar=c(3)SerieslogL1=-log(2*3.14159*var)/2-(res^2/var)/2

前面兩行語句描述了用來存儲計算時的中間結(jié)果的序列。第一個語句創(chuàng)建了殘差序列：res，而第二個語句創(chuàng)建了方差序列：var。而序列l(wèi)ogL1包含了每個觀測值的對數(shù)似然貢獻的集合。當(dāng)前7頁，總共52頁。下面考慮稍復(fù)雜的例子，假設(shè)數(shù)據(jù)是由條件異方差回歸模型生成的：

(18.1)

這里，x,y,z是觀測序列，而1,2,3,,是模型的參數(shù)。有T個觀測值的樣本的對數(shù)似然函數(shù)可以寫成：

(18.2)

這里，是標(biāo)準正態(tài)分布的密度函數(shù)。當(dāng)前8頁，總共52頁。

Eviews中的標(biāo)準正態(tài)分布的對數(shù)似然函數(shù)為，將對數(shù)似然函數(shù)寫成所有觀測值

t

的對數(shù)似然貢獻的和的形式：

(18.3)

這里每個觀測值的貢獻由下面的式子給出：

(18.4)當(dāng)前9頁，總共52頁。將這一例子的對數(shù)極大似然函數(shù)過程寫成下面的賦值語句：

Seriesres=y-c(1)-c(2)*x-c(3)*zSeriesvar=c(4)*z^c(5)SerieslogL1=log(@dnorm(res/@sqrt(var)))-log(var)/2

前面兩行語句創(chuàng)建了殘差序列res和方差序列var，參數(shù)c(1),c(2),c(3)代表了回歸系數(shù)，c(4)代表了，c(5)代表了，序列l(wèi)ogL1包含了每個觀測值的對數(shù)似然貢獻的集合。

當(dāng)前10頁，總共52頁。現(xiàn)在假定不知道模型參數(shù)的真實值，而想使用數(shù)據(jù)來估計它。參數(shù)的極大似然估計被定義為：使得樣本中所有隨機抽取的一組觀測值的聯(lián)合概率密度，即似然函數(shù)取最大值的那組參數(shù)值。而對數(shù)極大似然方法使得尋找這些極大似然估計變得容易了。只需創(chuàng)建一個新的對數(shù)似然對象，把上面的賦值語句輸入到logL的說明窗口，然后讓EViews來估計這個模型。在輸入賦值語句時，只需對上面的文本做兩處微小的改動就可以了。首先，把每行開頭的關(guān)鍵字series刪掉（因為似然說明暗含了假定序列是當(dāng)前的）。第二，必須在說明中加入額外的一行（它為包含似然貢獻的序列命名）。當(dāng)前11頁，總共52頁。這樣，要在logL說明窗口輸入下面的內(nèi)容：

@logLlogL1res=y-c(1)-c(2)*x-c(3)*zvar=c(4)*z^c(5)logL1=log(@dnorm(res/@sqrt(var)))-log(var)/2

對數(shù)似然函數(shù)的第一行，@logLlogL1，告訴EViews用logL1序列來存儲似然貢獻。余下的行定義了中間結(jié)果的計算和實際的似然貢獻的計算。當(dāng)用EViews估計模型參數(shù)時，它將對不同參數(shù)值重復(fù)執(zhí)行說明中的賦值語句，使用迭代法來求使得對數(shù)似然貢獻最大的一組參數(shù)值。當(dāng)EViews再不能提高全部的似然貢獻時，它將停止迭代并在估計輸出中報告最終參數(shù)值和估計標(biāo)準差。本章下面的部分將更詳細地討論使用似然方法說明，估計和檢驗時要遵循的規(guī)則。

當(dāng)前12頁，總共52頁。要創(chuàng)建一個似然對象，選擇Objects/NewObject.../LogL或者在命令窗口輸入“l(fā)ogL”。似然窗口將打開一個空白說明視圖。說明視圖是一個文本窗口，在這個窗口里可以輸入描述統(tǒng)計模型的說明語句，還可以設(shè)置控制估計程序各個方面的選項。

一．似然的定義正如概述中所描述的那樣，似然說明的主線是一系列賦值語句，在計算時，這些賦值語句將產(chǎn)生一個包含樣本中每個觀測值的對數(shù)似然貢獻的序列。賦值語句的多少可以由自己決定。

§18.2似然說明當(dāng)前13頁，總共52頁。每個似然說明都必須包含一個控制語句，該語句命名了保存似然貢獻的序列。語句的格式為：

@logLseries_name

這里series_name是保存似然貢獻的序列的名字，可以寫在似然說明的任何位置。如果想在估計完成后刪除說明中的一個或多個序列，可以使用@temp語句：

@tempseries_name1sereis_name2...

這個語句告訴EViews在對說明的計算完成后，刪除列表中的序列。如果在logL中創(chuàng)建了許多中間結(jié)果，又不愿意工作文件因包含這些結(jié)果的序列而弄得混亂的話，那么就刪除這些序列。當(dāng)前14頁，總共52頁。二．參數(shù)名在上面的例子中，我們使用了系數(shù)c(1)到c(5)作為未知參數(shù)的名稱。更一般的，出現(xiàn)在說明中一個已命名的系數(shù)向量中的每一個元素都將被視為待估參數(shù)。例如在條件異方差性的例子中，可以在三個不同的系數(shù)向量中選擇使用的系數(shù)：一個均值方程向量，一個方差方程向量，一個方差參數(shù)向量。首先用下面的命令創(chuàng)建三個命名的系數(shù)向量：

coef(3)betacoef(1)sigmacoef(1)alpha當(dāng)前15頁，總共52頁。于是可以寫出下面的似然說明：

@logLlogL1res=y-beta(1)-beta(2)*x-beta(3)*zvar=sigma(1)*z^alpha(1)logL1=log(@dnorm(res/@sqrt(var)))-log(var)/2

由于說明中的已命名的系數(shù)向量的所有元素都將被視為待估參數(shù)，必須確定所有的系數(shù)確實影響了一個或多個似然貢獻的值。如果一個參數(shù)對似然沒有影響，那么在試圖進行參數(shù)估計時，將遇到一個奇異錯誤。應(yīng)該注意到除了系數(shù)元素外所有的對象在估計過程中都將被視為固定的，不可改變的。例如，假定omega是工作文件中一個已命名的標(biāo)量，如果將子表達式var定義如下：

var=omega*z^alpha(1)EViews將不會估計omega。omega的值將被固定在估計的開始值上。

當(dāng)前16頁，總共52頁。

三．估計的順序

logL說明包含了一個或多個能夠產(chǎn)生包含似然貢獻的序列的賦值語句。在執(zhí)行這些賦值語句的時候，EViews總是從頂部到底部執(zhí)行，所以后面計算要用到的表達式應(yīng)放在前面。

EViews對整個樣本重復(fù)地計算每個表達式。EViews對模型進行重復(fù)計算時采用方程順序和樣本觀測值順序兩種不同方式，這樣就必須指定采用那種方式，即觀測值和方程的執(zhí)行順序。

當(dāng)前17頁，總共52頁。默認情形下，EViews用觀測值順序來計算模型，此種方式是先用第一個觀測值來計算所有的賦值語句，接下來是用第二個觀測值來計算所有的賦值語句，如此往復(fù)，直到估計樣本中所有觀測值都使用過。這是用觀測值順序來計算遞歸模型的正確順序，遞歸模型中每一個觀測值的似然貢獻依賴于前面的觀測值，例如AR模型或ARCH模型?？梢愿淖冇嬎愕捻樞颍@樣EViews就可以用方程順序來計算模型，先用所有的觀測值來計算第一個賦值語句，然后用所有的觀測值計算第二個賦值語句，如此往復(fù)，對說明中每一個賦值語句都用同樣方式進行計算。這是用中間序列的總量統(tǒng)計作為后面計算的輸入的模型的正確順序?？梢酝ㄟ^在說明中加入一條語句來聲明所選擇的計算方法。要用方程順序來計算，僅加一行關(guān)鍵字“@byeqn”。要用樣本順序來計算，可以用關(guān)鍵字“@byobs”。如果沒有給出關(guān)鍵字，那么系統(tǒng)默認為“@byobs”。當(dāng)前18頁，總共52頁。

例1對于一個普通回歸方程（18-1/eq-qgdptc)(18.5)

qgdptc是季度GDP季節(jié)調(diào)整后序列，ratec是實際利率，m1tc是M1季節(jié)調(diào)整后序列，其極大似然函數(shù)貢獻為利用極大似然方法求解，作為@byobs語句的一個例子，考慮下面的說明（18-1/logl-qgdptc)：

當(dāng)前19頁，總共52頁。

@logllogl1@byobsres=log(qgdptc)-c(1)-c(2)*ratec(-3)-c(3)*log(m1tc(-1))var=c(4)logl1=log(@dnorm(res/@sqrt(var)))-log(var)/2@tempresvarlogl1

如果在說明中有遞歸結(jié)構(gòu)，或要求基于中間結(jié)果總量統(tǒng)計的計算的條件下，如果想得到正確的結(jié)果，就必須選擇適當(dāng)?shù)挠嬎沩樞颉．?dāng)前20頁，總共52頁。利用極大似然方法估計出未知參數(shù)0，1，2，

2后，寫出方程為：

(2.43)(-2.3)(17.16)當(dāng)前21頁，總共52頁。例2我們在12章研究人均家庭交通及通訊支出(CUM)和可支配收入(IN

)的關(guān)系，考慮如下方程：cumi

=c0+c1ini

+ui

。為消除方程中的異方差，利用加權(quán)最小二乘求解（18-2/eq-w)

。也可用同樣的處理方法利用極大似然方法求解，作為@byeqn語句的一個例子，考慮下面的說明：

@logLl_w@byeqnres=cum-c(1)-c(2)*invar=c(3)weight=1/abs(res)l_w=-log(2*3.1415926)/2-log(weight*@sqrt(var))-(weight*res)^2/(weight^2*var))/2@tempresvarl_wweight

這個說明通過利用殘差res建立加權(quán)向量weight=1/abs(res)來完成一個加權(quán)最小二乘回歸。res的賦值語句計算了在每次計算時的殘差，而這被用做構(gòu)造權(quán)重序列。@byeqn語句指示EViews在一個給定的迭代過程中，必須先算出所有的殘差res，然后再計算殘差的加權(quán)向量weight。

當(dāng)前22頁，總共52頁。利用極大似然方法估計出未知參數(shù)c0，c1，

2后，寫出方程為：

(-2656507)(22105600)當(dāng)前23頁，總共52頁。

四．解析導(dǎo)數(shù)默認情形下，當(dāng)極大化似然函數(shù)和形成標(biāo)準差的估計時，EViews計算似然函數(shù)關(guān)于參數(shù)的數(shù)值微分。也可以用@deriv語句為一個或多個導(dǎo)數(shù)指定解析表達式，該語句格式為：

@derivpname1sname1pname2sname2...

這里pname是模型中的一個參數(shù)名稱，而sname是由模型產(chǎn)生的對應(yīng)的導(dǎo)數(shù)序列的名稱。例如@deriva(1)grad1a(2)grad2a(3)grad3grad1=xa/dgrad2=grad1*x1grad3=grad2*x2

當(dāng)前24頁，總共52頁。五．導(dǎo)數(shù)步長如果模型的參數(shù)沒有指定解析微分，EViews將用數(shù)值方法來計算似然函數(shù)關(guān)于這些參數(shù)的導(dǎo)數(shù)。在計算導(dǎo)數(shù)時的步長由兩個參數(shù)控制：r

(相對步長)和m（最小步長）。用表示參數(shù)在第i次迭代時的值，那么在第i+1次迭代時的步長由下式定義：

(18.6)雙側(cè)數(shù)值微分被定義為：

(18.7)

當(dāng)前25頁，總共52頁。而單側(cè)數(shù)值微分則由下式計算：

(18.8)

這里f是似然函數(shù)。雙側(cè)導(dǎo)數(shù)更加精確，但它要對似然函數(shù)進行的計算量大概是單側(cè)導(dǎo)數(shù)的兩倍，運行時間上也是如此。

@derivstep可以用來控制步長和在每次迭代時計算導(dǎo)數(shù)的方法。關(guān)鍵字@derivstep后面必須設(shè)置三項：被設(shè)置的參數(shù)名（或用關(guān)鍵字@all代替）；相對步長；最小步長。默認設(shè)置（近似的）為：

@derivstep(1)@all1.49e-81e-10

這里括弧里的“１”表示用的是單側(cè)導(dǎo)數(shù)，而@all關(guān)鍵字表示設(shè)置的步長適用于所有參數(shù)。@all后面第一個數(shù)值是相對步長，第二個數(shù)值是最小步長。默認的相對步長被設(shè)置為1.4910-8

，而最小步長為m＝10-10。

當(dāng)前26頁，總共52頁?！?8.3估計一旦定義了一個似然對象，可以用EViews來尋找使得似然函數(shù)取最大值的參數(shù)值。只需在似然窗口工具欄中單擊Estimate就可以打開估計對話框。在這個對話框里有許多用來控制估計過程不同方面的選項。大多數(shù)問題使用默認設(shè)置就可以。單擊OK，EViews將用當(dāng)前的設(shè)置開始估計。

當(dāng)前27頁，總共52頁。

一．初值由于EViews使用迭代法來求極大似然估計，初值的選擇就顯得非常重要了。對于似然函數(shù)只有一個極大值的問題，只是經(jīng)過多少次迭代使估計收斂的問題。對于那些多個極大值的似然函數(shù)所面臨的問題是決定選擇極大值中哪一個。在某些情況下，如果不給出合理的初值，EViews將無法作出估計。默認情況下，EViews使用儲存在系數(shù)向量或估計前的向量中的值。如果在說明中用了@param語句，那么就用語句指定的值來代替。在模型(18-1)的例子中，為均值方程系數(shù)賦初值的一個方法是簡單的OLS法，這是因為即使在異方差性（有界）存在的條件下，OLS也提供了一致的點估計。為了用OLS估計值作為初值，首先要用下面的命令來估計OLS方程：

equationeq1.1sycxz

在對這個方程進行估計后，C系數(shù)向量中的元素c(1)，c(2)，c(3)將包含OLS估計的結(jié)果。當(dāng)前28頁，總共52頁。要設(shè)置c(4)表示OLS估計的殘差方差，可以在命令窗口中輸入下面的賦值語句：c(4)=eq1.@se^2。可選擇地，可以利用簡單的賦值語句任意設(shè)置參數(shù)值：

c(4)=0.005

現(xiàn)在，如果在執(zhí)行了OLS估計及其后面的命令后馬上估計logl模型的話，那么將用設(shè)置在C向量里的值作為初值。象上面我們提到的那樣，將參數(shù)初始值賦值為已知值的另一種方法是在似然模型說明中加入@param語句。例如，如果在logl的說明中加入了下面的行:@paramc(1)0.1c(2)0.1c(3)0.1c(4)0.005

那么EViews會將初值設(shè)置為:c(1)=c(2)=c(3)=0.1，c(4)=0.005。當(dāng)前29頁，總共52頁。

二．估計樣本在估計對數(shù)似然函數(shù)的參數(shù)時，EViews就在EstimationOption對話框里指定了將使用的觀測值的樣本。EViews在當(dāng)前參數(shù)值下，將使用觀測值順序或方程順序用樣本中的每一個觀測值來對logl中每個表達式進行計算。所有這些計算都服從于EViews中關(guān)于序列表達式計算的規(guī)則。如果在對數(shù)似然序列的初始參數(shù)值中有缺少值，EViews將發(fā)出錯誤信息而估計過程也將終止。相對于其他的EViews內(nèi)部過程的處理方式，在估計模型參數(shù)時logl估計不能進行終點調(diào)整或是去掉那些欠缺值的觀測值。

當(dāng)前30頁，總共52頁。§18.4LogL視圖

(1)likelihoodSpecification:顯示定義和編輯似然說明的窗口。

(2)EstimationOutput:顯示通過最大化似然函數(shù)得到的估計結(jié)果。

(3)CovarianceMatrix:顯示參數(shù)估計的協(xié)方差矩陣。這是通過計算在最優(yōu)參數(shù)值下一階導(dǎo)數(shù)的外積的和的逆求得的?？梢杂聾cov這個函數(shù)將其保存為(SYM)矩陣。

(4)WaldCoefficientTest:執(zhí)行Wald系數(shù)限制檢驗。參看第15章，系數(shù)檢驗，關(guān)于Wald檢驗的討論。

當(dāng)前31頁，總共52頁。

(5)Gradients:如果模型沒有被估計，顯示當(dāng)前參數(shù)值下logL的梯度（一階導(dǎo)數(shù)）視圖，若模型已經(jīng)被估計，則顯示收斂的參數(shù)值下logL的梯度視圖。當(dāng)你處理收斂問題時，這些圖將成為有用的鑒別工具。

(6)

CheckDerivatives:如果使用了@param語句，顯示在初值下數(shù)值微分和解析微分（如果可獲得）的值，如果沒有使用@param語句，則給出在當(dāng)前值下數(shù)值微分和解析微分的值，以及用模型中所有樣本計算的每個系數(shù)數(shù)值微分的和。

當(dāng)前32頁，總共52頁?！?8.5LogL過程

(1)Estimate:彈出一個設(shè)置估計選項的對話框，并估計對數(shù)似然函數(shù)的參數(shù)。

(2)MakeModel:建立一個估計對數(shù)似然函數(shù)說明的未命名的模型對象。

(3)MakeGradientGroup:在參數(shù)估計值下創(chuàng)建一個未命名的對數(shù)似然函數(shù)的梯度組（一階導(dǎo)數(shù)）。這些梯度常用來構(gòu)造拉格朗日乘數(shù)檢驗。

(4)UpdateCoefsfromLogL:用似然函數(shù)對象得出的估計值來更新系數(shù)向量。該過程讓你可以將極大似然估計結(jié)果作為其他估計問題的初始值。大多數(shù)這些過程和EViews的其他估計對象相似。下面我們將著重介紹LogL對象所獨有的特征。

當(dāng)前33頁，總共52頁。

1．估計輸出

LogL對象的標(biāo)準輸出除了包含系數(shù)和標(biāo)準差估計外，還描述了估計的方法，估計使用的樣本，估計的日期和時間，計算順序以及估計過程收斂的信息,EViews還提供了對數(shù)似然函數(shù)值，平均對數(shù)似然函數(shù)值，系數(shù)個數(shù)以及三個信息標(biāo)準。

當(dāng)前34頁，總共52頁。

2．梯度梯度表格視圖可以檢查似然函數(shù)的梯度。如果模型尚未估計，那么就在當(dāng)前參數(shù)值下計算梯度，若模型已經(jīng)估計出來了，就在收斂的參數(shù)值下計算。

視圖在處理收斂性或奇點問題時是一個有用的鑒別工具。一個常見的問題是，由錯誤的定義似然過程，不恰當(dāng)?shù)某踔担蚴悄Ｐ筒豢勺R別等導(dǎo)致某個參數(shù)的導(dǎo)數(shù)為零可能產(chǎn)生奇異矩陣。

當(dāng)前35頁，總共52頁。

3．檢查導(dǎo)數(shù)可以用CheckDerivatives視圖來檢查數(shù)值微分或是解析微分表達式的是否有效。如果在對數(shù)似然函數(shù)說明中包含了@param語句，那么將用指定的值來計算導(dǎo)數(shù)，否則將用當(dāng)前系數(shù)值來計算導(dǎo)數(shù)。該視圖的第一部分列出了用戶提供的導(dǎo)數(shù)的名稱，步長參數(shù)和計算導(dǎo)數(shù)時使用的系數(shù)值。本例中列出的相對步長和最小步長都是默認設(shè)置。第二部分用模型中所有樣本計算了每個系數(shù)的數(shù)值微分的和，如果可能的話，還要計算解析微分的和。當(dāng)前36頁，總共52頁?！?8.6問題解答

由于logL對象的極大的靈活性，在使用對數(shù)似然方法進行估計時比使用其他EViews的內(nèi)部估計方法更容易出錯。如果在估計時遇到了困難，下面的建議將幫助解決這些問題：

(1)檢查似然說明

一個簡單錯誤包括錯誤符號就可以使估計過程停止工作。必須檢查模型的每個參數(shù)是否確實定義了（在某些說明中可能不得不將參數(shù)標(biāo)準化）。另外，模型中出現(xiàn)的每個參數(shù)必須直接的或間接的影響似然貢獻。CheckDerivatives視圖可以部分的解決后者的問題。

當(dāng)前37頁，總共52頁。

(2)選擇初值如果由于缺失值或數(shù)學(xué)運算域錯誤（對負數(shù)取對數(shù)或取平方根，除數(shù)為零等等）導(dǎo)致樣本中似然貢獻無法評價，那么將立刻停止估計并給出錯誤信息：“Cannotcompute@loglduetomissingvalues(由于缺失值無法計算@logL)”。另外，選擇的初值不恰當(dāng)也可能使似然函數(shù)效果不理想。應(yīng)該給參數(shù)一個合理的初值。如果有一個近似求解該問題的簡單的估計技術(shù)，可以把由該方法得到的估計值作為極大似然估計的初值。

(3)檢查導(dǎo)數(shù)如果使用解析微分，使用CheckDerivatives視圖來確認是否已經(jīng)正確的標(biāo)記了導(dǎo)數(shù)。如果使用的是數(shù)值微分，就要考慮指定解析微分或是調(diào)整導(dǎo)數(shù)方法或步長選項。

當(dāng)前38頁，總共52頁。

(4)估計前正確地處理滯后值問題和其他EViews估計程序相比，在估計一個對數(shù)似然模型時，logL估計程序不會用NA或滯后形式從樣本中自動去掉某個觀測值。如果似然說明包含滯后值，必須從估計樣本的開始值中去掉一些觀測值，或者必須對說明作出標(biāo)記從而使前面樣本中的錯誤值不會影響到整個樣本（參見AR(1)和GARCH模型的示例）。既然用來評價似然函數(shù)的序列包含在工作文件中（除非使用了@temp語句刪除它們），那么可以利用這些中間結(jié)果序列來檢驗對數(shù)似然和中間序列的值，以發(fā)現(xiàn)滯后和缺值的問題。

當(dāng)前39頁，總共52頁。

(5)修正模型參數(shù)如果有導(dǎo)致數(shù)學(xué)錯誤的參數(shù)值的問題，可以考慮修正模型參數(shù)以將之限制在其有效域內(nèi)。我們看到的大多數(shù)估計過程中的錯誤信息本身具有解釋。而錯誤信息“nearsingularmatrix(近似奇異矩陣)”卻不是很明確的。當(dāng)EViews不能求由導(dǎo)數(shù)外積的和構(gòu)成的矩陣的逆以致不能決定最優(yōu)化過程下一步的方向時，就給出這個錯誤信息。這個錯誤可能意味著各種類型的錯誤，其中包括不適當(dāng)?shù)某踔?，但是?dāng)在理論上或?qū)τ行?shù)據(jù)，模型不可識別時，幾乎總是出現(xiàn)這種錯誤。

當(dāng)前40頁，總共52頁。§18.7限制

必須注意對數(shù)似然中估計參數(shù)使用的算法并不是對任意的問題都適用的。在似然貢獻的導(dǎo)數(shù)的外積的和的基礎(chǔ)上，該算法給出了對數(shù)似然函數(shù)的Hessian矩陣的近似值。該近似值是建立在極大似然目標(biāo)函數(shù)的函數(shù)形式和統(tǒng)計特性的基礎(chǔ)之上的，而且在一般條件它并不是一個理想的近似值。因此，可能或不可能用其他函數(shù)形式來獲得結(jié)果。此外，只有當(dāng)描述似然貢獻的序列，其單個貢獻都被正確的設(shè)定并具有好的理論對數(shù)似然定義時，參數(shù)值的標(biāo)準差才有意義?，F(xiàn)在，用來描述似然貢獻的表達式必須遵守EViews關(guān)于序列表達式的規(guī)則。這些限制暗示我們不能在似然說明中使用矩陣運算。為了寫出聯(lián)立方程模型的似然函數(shù)，必須寫出行列式和二次型的表達式。對于那些多于三個方程的模型而言，這樣做盡管是可能的，但會很繁瑣。這種情況的例子參見多元GARCH程序。另外，對數(shù)似然方法不能直接處理一般的不等式約束的最優(yōu)化問題。

當(dāng)前41頁，總共52頁。§18.8實例

一、AR(1)模型的極大似然函數(shù)一階自回歸過程有如下形式，記作AR(1)：

(18.9)

～在此情形下，總體參數(shù)向量為。首先考察樣本中第一個觀察值y1的概率分布。由于在時，存在一個滿足(18.9)的協(xié)方差平穩(wěn)過程，此時，，所以，第一個觀察值的密度函數(shù)形如

(18.10)

當(dāng)前42頁，總共52頁。接下來考慮第二個觀察值Y2在觀察到的Y1=y1條件下的分布。由(18.9)(18.11)

可以將隨機變量Y1視做確定性常數(shù)y1。在此情形下，(18.11)給出Y2作為常數(shù)和隨機變量的和。因此～，

(18.12)

一般地，只通過Yt-1

對Yt起作用，第t個觀察值以前t-1個觀察值為條件的分布為：

(18.13)當(dāng)前43頁，總共52頁。完全樣本的似然函數(shù)為

(18.14)

其對數(shù)似然函數(shù)（記作log）可由(18.14)取對數(shù)求得：

(18.15)

將(18.10)和(18.14)代入(18.15)，由AR(1)過程得到一個樣本量為T的樣本的對數(shù)似然為(18.16)當(dāng)前44頁，總共52頁。

例3AR(1)模型的極大似然估計

（18-ar1)

我們用數(shù)據(jù)生成過程生成Y，其中t是一個白噪聲過程，即t～。AR(1)過程的樣本量為T的對數(shù)似然函數(shù)為(18.16)式，總體參數(shù)向量為。利用極大似然估計方法估計的AR(1)模型:@LOGLLOGL1@PARAMC(1)-0.5RHO(1)0.85RES=@RECODE(D1=1,Y-C(1)/(1-RHO(1)),Y-C(1)-RHO(1)*Y(-1))VAR=@RECODE(D1=1,S2(1)/(1-RHO(1)^2),S2(1))SRES=RES/@SQRT(VAR)LOGL1=LOG(@DNORM(SRES))-LOG(VAR)/2@TEMPRESVARSRESLOGL1

其中@RECODE函數(shù)的第1個參數(shù)是條件，如果滿足，執(zhí)行第2個表達式；否則執(zhí)行第3個表達式。當(dāng)前45頁，總共52頁。AR(1)模型的表達式為：（-3.05)(17.22)當(dāng)前46頁，總共52頁。

二、GARCH（1,1）的極大似然函數(shù)標(biāo)準的GARCH（p,q）模型的形式為：

(18.16)

要想寫出GARCH（p,q）模型的極大似然函數(shù)，首先要分析擾動項ut

的密度函數(shù)。為了方便起見，我們對方程(18.16)采用另外一種方法來表示，它對ut的序列相關(guān)施以更強的假定。假定；(18.17)

這里，{vt}是一個i