第六章時(shí)間序列模型1培訓(xùn)課件

第六章、時(shí)間序列分析模型

（1）E&M-IMU問(wèn)題的引出：非平穩(wěn)變量與經(jīng)典回歸模型

1、常見(jiàn)的數(shù)據(jù)類(lèi)型：到目前為止，經(jīng)典計(jì)量經(jīng)濟(jì)模型常用到的數(shù)據(jù)有：時(shí)間序列數(shù)據(jù)（time-seriesdata)；截面數(shù)據(jù)(cross-sectionaldata)平行/面板數(shù)據(jù)（paneldata/time-seriescross-sectiondata)

★時(shí)間序列數(shù)據(jù)是最常見(jiàn)，也是最常用到的數(shù)據(jù)。E&M-IMU2、經(jīng)典回歸模型與數(shù)據(jù)的平穩(wěn)性

經(jīng)典回歸分析暗含著一個(gè)重要的假設(shè)：

數(shù)據(jù)是平穩(wěn)的

1）數(shù)據(jù)非平穩(wěn)，大樣本下的統(tǒng)計(jì)推斷基礎(chǔ)——“一致性”要求——被破懷。

經(jīng)典回歸分析的假設(shè)之一：解釋變量X是非隨機(jī)變量

放寬該假設(shè)：X是隨機(jī)變量，則需進(jìn)一步要求：

(1)X與隨機(jī)擾動(dòng)項(xiàng)

不相關(guān)∶Cov(X,)=0依概率收斂：(2)E&M-IMU

表現(xiàn)在:兩個(gè)本來(lái)沒(méi)有任何因果關(guān)系的變量，卻有很高的相關(guān)性（有較高的R2)：例如：如果有兩列時(shí)間序列數(shù)據(jù)表現(xiàn)出一致的變化趨勢(shì)（非平穩(wěn)的），即使它們沒(méi)有任何有意義的關(guān)系，但進(jìn)行回歸也可表現(xiàn)出較高的可決系數(shù)。在現(xiàn)實(shí)經(jīng)濟(jì)生活中：情況往往是實(shí)際的時(shí)間序列數(shù)據(jù)是非平穩(wěn)的，而且主要的經(jīng)濟(jì)變量如消費(fèi)、收入、價(jià)格往往表現(xiàn)為一致的上升或下降。這樣，仍然通過(guò)經(jīng)典的因果關(guān)系模型進(jìn)行分析，一般不會(huì)得到有意義的結(jié)果。2、數(shù)據(jù)非平穩(wěn)，往往導(dǎo)致出現(xiàn)“虛假回歸”問(wèn)題：E&M-IMU

時(shí)間序列分析模型方法就是在這樣的情況下，以通過(guò)揭示時(shí)間序列自身的變化規(guī)律為主線而發(fā)展起來(lái)的全新的計(jì)量經(jīng)濟(jì)學(xué)方法論。

時(shí)間序列分析已組成現(xiàn)代計(jì)量經(jīng)濟(jì)學(xué)的重要內(nèi)容，并廣泛應(yīng)用于經(jīng)濟(jì)分析與預(yù)測(cè)當(dāng)中。一、數(shù)據(jù)的平穩(wěn)性及其檢驗(yàn)二、時(shí)間序列模型的基本概念及其適用性三、隨機(jī)時(shí)間序列模型的平穩(wěn)性條件四、隨機(jī)時(shí)間序列模型的識(shí)別五、隨機(jī)時(shí)間序列模型的估計(jì)六、模型的檢驗(yàn)時(shí)間序列分析模型假定某個(gè)時(shí)間序列是由某一隨機(jī)過(guò)程（stochasticprocess）生成的，即假定時(shí)間序列{Xt}（t=1,2,…）的每一個(gè)數(shù)值都是從一個(gè)概率分布中隨機(jī)得到，如果滿足下列條件：

1）均值E(Xt)=

是與時(shí)間t無(wú)關(guān)的常數(shù)；

2）方差Var(Xt)=

2是與時(shí)間t無(wú)關(guān)的常數(shù)；

3）協(xié)方差Cov(Xt,Xt+k)=

k

是只與時(shí)期間隔k有關(guān)，與時(shí)間t無(wú)關(guān)的常數(shù)；則稱(chēng)該隨機(jī)時(shí)間序列是平穩(wěn)的（stationary)，而該隨機(jī)過(guò)程是一平穩(wěn)隨機(jī)過(guò)程（stationarystochasticprocess）。

一、時(shí)間序列數(shù)據(jù)的平穩(wěn)性

例1．一個(gè)最簡(jiǎn)單的隨機(jī)時(shí)間序列是一具有零均值同方差的獨(dú)立分布序列：

Xt=

t

，

t~N(0,2)

例2．另一個(gè)簡(jiǎn)單的隨機(jī)時(shí)間列序被稱(chēng)為隨機(jī)游走（randomwalk），該序列由如下隨機(jī)過(guò)程生成：

Xt=Xt-1+

t這里，

t是一個(gè)白噪聲。該序列常被稱(chēng)為是一個(gè)白噪聲（whitenoise）。由于Xt具有相同的均值與方差，且協(xié)方差為零,由定義,一個(gè)白噪聲序列是平穩(wěn)的。

為了檢驗(yàn)該序列是否具有相同的方差，可假設(shè)Xt的初值為X0，則易知

X1=X0+

1X2=X1+2=X0+1+2

…

…Xt=X0+

1+2+…+

t

由于X0為常數(shù)，t是一個(gè)白噪聲，因此Var(Xt)=t2

即Xt的方差與時(shí)間t有關(guān)而非常數(shù)，它是一非平穩(wěn)序列。

容易知道該序列有相同的均值：E(Xt)=E(Xt-1)然而，對(duì)X取一階差分（firstdifference）:Xt=Xt-Xt-1=t由于

t是一個(gè)白噪聲，則序列{Xt}是平穩(wěn)的。

后面將會(huì)看到:如果一個(gè)時(shí)間序列是非平穩(wěn)的，它常常可通過(guò)取差分的方法而形成平穩(wěn)序列。事實(shí)上，隨機(jī)游走過(guò)程是下面我們稱(chēng)之為1階自回歸AR(1)過(guò)程的特例

Xt=Xt-1+

t

不難驗(yàn)證:1)||>1時(shí)，該隨機(jī)過(guò)程生成的時(shí)間序列是發(fā)散的，表現(xiàn)為持續(xù)上升(

>1)或持續(xù)下降(

<-1)，因此是非平穩(wěn)的；可以證明:只有當(dāng)-1<

<1時(shí)，該隨機(jī)過(guò)程才是平穩(wěn)的。2)=1時(shí)，是一個(gè)隨機(jī)游走過(guò)程，也是非平穩(wěn)的。

1階自回歸過(guò)程AR(1)又是如下k階自回歸AR(K)過(guò)程的特例：

Xt=

1Xt-1+2Xt-2…+kXt-k該隨機(jī)過(guò)程平穩(wěn)性條件將在以后介紹。

平穩(wěn)性檢驗(yàn)的圖示判斷

給出一個(gè)隨機(jī)時(shí)間序列，首先可通過(guò)該序列的時(shí)間路徑圖來(lái)粗略地判斷它是否是平穩(wěn)的。一個(gè)平穩(wěn)的時(shí)間序列在圖形上往往表現(xiàn)出一種圍繞其均值不斷波動(dòng)的過(guò)程；而非平穩(wěn)序列則往往表現(xiàn)出在不同的時(shí)間段具有不同的均值（如持續(xù)上升或持續(xù)下降）。

進(jìn)一步的判斷:

檢驗(yàn)樣本自相關(guān)函數(shù)及其圖形

定義隨機(jī)時(shí)間序列的自相關(guān)函數(shù)（autocorrelationfunction,ACF）如下：

k=k/0

自相關(guān)函數(shù)是關(guān)于滯后期k的遞減函數(shù)(Why?)。

實(shí)際上,對(duì)一個(gè)隨機(jī)過(guò)程只有一個(gè)實(shí)現(xiàn)（樣本），因此，只能計(jì)算樣本自相關(guān)函數(shù)（Sampleautocorrelationfunction）。一個(gè)時(shí)間序列的樣本自相關(guān)函數(shù)定義為：

易知，隨著k的增加，樣本自相關(guān)函數(shù)下降且趨于零。但從下降速度來(lái)看，平穩(wěn)序列要比非平穩(wěn)序列快得多。注意:

確定樣本自相關(guān)函數(shù)rk某一數(shù)值是否足夠接近于0是非常有用的，因?yàn)樗蓹z驗(yàn)對(duì)應(yīng)的自相關(guān)函數(shù)

k的真值是否為0的假設(shè)。

Bartlett曾證明:如果時(shí)間序列由白噪聲過(guò)程生成，則對(duì)所有的k>0，樣本自相關(guān)系數(shù)近似地服從以0為均值，1/n為方差的正態(tài)分布，其中n為樣本數(shù)。也可檢驗(yàn)對(duì)所有k>0，自相關(guān)系數(shù)都為0的聯(lián)合假設(shè)，這可通過(guò)如下QLB統(tǒng)計(jì)量進(jìn)行：

該統(tǒng)計(jì)量近似地服從自由度為m的

2分布（m為滯后長(zhǎng)度）。因此:如果計(jì)算的Q值大于顯著性水平為

的臨界值，則有1-

的把握拒絕所有

k(k>0)同時(shí)為0的假設(shè)。

在討論了平穩(wěn)時(shí)間序列的重要性之后，接下來(lái)的一個(gè)實(shí)際問(wèn)題是：

1、如何建立一個(gè)平穩(wěn)時(shí)間序列的模型，

2、如何用所建的模型進(jìn)行預(yù)測(cè)?；卮穑?/p>

可以通過(guò)建立隨機(jī)時(shí)間序列分析模型來(lái)進(jìn)行

與經(jīng)典回歸分析不同的是：

1、這里所建立的時(shí)間序列模型主要不是以不同變量間的因果關(guān)系為基礎(chǔ)，而是尋找時(shí)間序列自身的變化規(guī)律；

2、同樣地，在預(yù)測(cè)一個(gè)時(shí)間序列未來(lái)的變化時(shí)，不再使用一組與之有因果關(guān)系的其他變量，而只是用該序列的過(guò)去行為來(lái)預(yù)測(cè)未來(lái)。二、時(shí)間序列模型的基本概念及其適用性

1、時(shí)間序列模型的基本概念時(shí)間序列模型（timeseriesmodeling）是指僅用它的過(guò)去值及隨機(jī)擾動(dòng)項(xiàng)所建立起來(lái)的模型，其一般形式為

Xt=F(Xt-1,Xt-2,…,

t)

建立具體的時(shí)間序列模型，需解決如下三個(gè)問(wèn)題：

(1)模型的具體形式

(2)時(shí)序變量的滯后期

(3)隨機(jī)擾動(dòng)項(xiàng)的結(jié)構(gòu)例如，取線性方程、一期滯后以及白噪聲隨機(jī)擾動(dòng)項(xiàng)（

t=

t），模型將是一個(gè)1階自回歸過(guò)程AR(1)(Autoregressiveprocess)：

Xt=Xt-1+t這里，

t特指一白噪聲。

一般的p階自回歸過(guò)程AR(p)是

Xt=

1Xt-1+2Xt-2+…+pXt-p+

t(*)(1)如果隨機(jī)擾動(dòng)項(xiàng)是一個(gè)白噪聲(

t=

t)，則稱(chēng)(*)式為一純AR(p)過(guò)程（pureAR(p)process），記為

Xt=

1Xt-1+2Xt-2+…+pXt-p+t(2)如果

t不是一個(gè)白噪聲，通常認(rèn)為它是一個(gè)q階的移動(dòng)平均（movingaverage）過(guò)程MA(q)：

t=

t-

1

t-1-

2

t-2-

-

q

t-q

該式給出了一個(gè)純MA(q)過(guò)程（pureMA(p)process）。

將純AR(p)與純MA(q)結(jié)合，得到一個(gè)一般的自回歸移動(dòng)平均（autoregressivemovingaverage）過(guò)程ARMA（p,q）：

Xt=

1Xt-1+2Xt-2+…+pXt-p+

t-

1

t-1-

2

t-2-

-

q

t-q

該式表明：（1）一個(gè)隨機(jī)時(shí)間序列可以通過(guò)一個(gè)自回歸移動(dòng)平均過(guò)程生成，即該序列可以由其自身的滯后值以及隨機(jī)擾動(dòng)項(xiàng)來(lái)解釋。（2）如果該序列是平穩(wěn)的，即它的行為并不會(huì)隨著時(shí)間的推移而變化，那么我們就可以通過(guò)該序列過(guò)去的行為來(lái)預(yù)測(cè)未來(lái)。這也正是隨機(jī)時(shí)間序列分析模型的優(yōu)勢(shì)所在。

經(jīng)典回歸模型的問(wèn)題：迄今為止，對(duì)一個(gè)時(shí)間序列Xt的變動(dòng)進(jìn)行解釋或預(yù)測(cè)，是通過(guò)某個(gè)單方程回歸模型或聯(lián)立方程回歸模型進(jìn)行的，由于它們以因果關(guān)系為基礎(chǔ)，且具有一定的模型結(jié)構(gòu)，因此也常稱(chēng)為結(jié)構(gòu)式模型（structuralmodel）。然而，如果Xt波動(dòng)的主要原因可能是我們無(wú)法解釋的因素，如氣候、消費(fèi)者偏好的變化等，則利用結(jié)構(gòu)式模型來(lái)解釋Xt的變動(dòng)就比較困難或不可能，因?yàn)橐〉孟鄳?yīng)的量化數(shù)據(jù)，并建立令人滿意的回歸模型是很困難的。有時(shí)，即使能估計(jì)出一個(gè)較為滿意的因果關(guān)系回歸方程，但由于對(duì)某些解釋變量未來(lái)值的預(yù)測(cè)本身就非常困難，甚至比預(yù)測(cè)被解釋變量的未來(lái)值更困難，這時(shí)因果關(guān)系的回歸模型及其預(yù)測(cè)技術(shù)就不適用了。

2、時(shí)間序列分析模型的適用性

例如，時(shí)間序列過(guò)去是否有明顯的增長(zhǎng)趨勢(shì)，如果增長(zhǎng)趨勢(shì)在過(guò)去的行為中占主導(dǎo)地位，能否認(rèn)為它也會(huì)在未來(lái)的行為里占主導(dǎo)地位呢？或者時(shí)間序列顯示出循環(huán)周期性行為，我們能否利用過(guò)去的這種行為來(lái)外推它的未來(lái)走向？

●隨機(jī)時(shí)間序列分析模型，就是要通過(guò)序列過(guò)去的變化特征來(lái)預(yù)測(cè)未來(lái)的變化趨勢(shì)。使用時(shí)間序列分析模型的另一個(gè)原因在于：

如果經(jīng)濟(jì)理論正確地闡釋了現(xiàn)實(shí)經(jīng)濟(jì)結(jié)構(gòu)，則這一結(jié)構(gòu)可以寫(xiě)成類(lèi)似于ARMA(p,q)式的時(shí)間序列分析模型的形式。

在這些情況下，我們采用另一條預(yù)測(cè)途徑：通過(guò)時(shí)間序列的歷史數(shù)據(jù)，得出關(guān)于其過(guò)去行為的有關(guān)結(jié)論，進(jìn)而對(duì)時(shí)間序列未來(lái)行為進(jìn)行推斷。

例如，對(duì)于如下最簡(jiǎn)單的宏觀經(jīng)濟(jì)模型：

這里，Ct、It、Yt分別表示消費(fèi)、投資與國(guó)民收入。

Ct與Yt作為內(nèi)生變量，它們的運(yùn)動(dòng)是由作為外生變量的投資It的運(yùn)動(dòng)及隨機(jī)擾動(dòng)項(xiàng)

t的變化決定的。上述模型可作變形如下：

兩個(gè)方程等式右邊除去第一項(xiàng)外的剩余部分可看成一個(gè)綜合性的隨機(jī)擾動(dòng)項(xiàng)，其特征依賴(lài)于投資項(xiàng)It的行為。

如果It是一個(gè)白噪聲，則消費(fèi)序列Ct就成為一個(gè)1階自回歸過(guò)程AR(1)，而收入序列Yt就成為一個(gè)(1,1)階的自回歸移動(dòng)平均過(guò)程ARMA(1,1)。

自回歸移動(dòng)平均模型（ARMA）是隨機(jī)時(shí)間序列分析模型的普遍形式，自回歸模型（AR）和移動(dòng)平均模型（MA）是它的特殊情況。關(guān)于這幾類(lèi)模型的研究，是時(shí)間序列分析的重點(diǎn)內(nèi)容：主要包括模型的平穩(wěn)性分析、模型的識(shí)別和模型的估計(jì)。

三、隨機(jī)時(shí)間序列模型的平穩(wěn)性條件

1、AR(p)模型的平穩(wěn)性條件

隨機(jī)時(shí)間序列模型的平穩(wěn)性，可通過(guò)它所生成的隨機(jī)時(shí)間序列的平穩(wěn)性來(lái)判斷。如果一個(gè)p階自回歸模型AR(p)生成的時(shí)間序列是平穩(wěn)的，就說(shuō)該AR(p)模型是平穩(wěn)的，否則，就說(shuō)該AR(p)模型是非平穩(wěn)的?？紤]p階自回歸模型AR(p)

Xt=

1Xt-1+2Xt-2+…+pXt-p+t(*)引入滯后算子（lagoperator）L：

LXt=Xt-1,L2Xt=Xt-2,…,LpXt=Xt-p(*)式變換為

(1-

1L-

2L2-…-

pLp)Xt=

t

記

(L)=(1-

1L-

2L2-…-

pLp),則稱(chēng)多項(xiàng)式方程

(z)=(1-

1z-

2z2-…-

pzp)=0為AR(p)的特征方程(characteristicequation)。

可以證明，如果該特征方程的所有根在單位圓外（根的模大于1），則AR(p)模型是平穩(wěn)的。

例、AR(1)模型的平穩(wěn)性條件。對(duì)1階自回歸模型AR(1)方程兩邊平方再求數(shù)學(xué)期望，得到Xt的方差由于Xt僅與

t相關(guān)，因此，E(Xt-1

t)=0。如果該模型穩(wěn)定，則有E(Xt2)=E(Xt-12)，從而上式可變換為：在穩(wěn)定條件下，該方差是一非負(fù)的常數(shù)，從而有

||<1。

而AR(1)的特征方程的根為z=1/

AR(1)穩(wěn)定，即||<1，意味著特征根大于1。AR(2)模型的平穩(wěn)性。對(duì)AR(2)模型

方程兩邊同乘以Xt，再取期望得：

又由于于是

同樣地，由原式還可得到于是方差為

由平穩(wěn)性的定義，該方差必須是一不變的正數(shù)，于是有

1+2<1,2-1<1,|2|<1這就是AR(2)的平穩(wěn)性條件，或稱(chēng)為平穩(wěn)域。它是一頂點(diǎn)分別為（-2,-1），（2,-1），（0,1）的三角形。

對(duì)應(yīng)的特征方程1-

1z-2z2=0

的兩個(gè)根z1、z2滿足：

z1z2=-1/

2,

z1+z2=-

1/

2AR(2)模型解出

1，

2由AR(2)的平穩(wěn)性，|

2|=1/|z1||z2|<1

，則至少有一個(gè)根的模大于1，不妨設(shè)|z1|>1，有于是|z2|>1。由

2

-

1

<1可推出同樣的結(jié)果。

對(duì)高階自回模型AR(p)來(lái)說(shuō)，多數(shù)情況下沒(méi)有必要直接計(jì)算其特征方程的特征根，但有一些有用的規(guī)則可用來(lái)檢驗(yàn)高階自回歸模型的穩(wěn)定性：

(1)AR(p)模型穩(wěn)定的必要條件是：

1+2++p<1

(2)由于

i(i=1,2,p)可正可負(fù)，AR(p)模型穩(wěn)定的充分條件是：

|1|+|2|++|p|<1

對(duì)于移動(dòng)平均模型MR(q)：

Xt=

t-

1

t-1-

2

t-2-

-

q

t-q

其中

t是一個(gè)白噪聲，于是2、MA(q)模型的平穩(wěn)性

當(dāng)滯后期大于q時(shí)，Xt的自協(xié)方差系數(shù)為0。因此:有限階移動(dòng)平均模型總是平穩(wěn)的。

由于ARMA(p,q)模型是AR(p)模型與MA(q)模型的組合：Xt=

1Xt-1+2Xt-2+…+pXt-p+

t-

1

t-1-

2

t-2-

-

q

t-q3、ARMA(p,q)模型的平穩(wěn)性

而MA(q)模型總是平穩(wěn)的，因此ARMA(p,q)模型的平穩(wěn)性取決于AR(p)部分的平穩(wěn)性。

當(dāng)AR(p)部分平穩(wěn)時(shí)，則該ARMA(p,q)模型是平穩(wěn)的，否則，不是平穩(wěn)的。

最后

（1）一個(gè)平穩(wěn)的時(shí)間序列總可以找到生成它的平穩(wěn)的隨機(jī)過(guò)程或模型；（2）一個(gè)非平穩(wěn)的隨機(jī)時(shí)間序列通?？梢酝ㄟ^(guò)差分的方法將它變換為平穩(wěn)的，對(duì)差分后平穩(wěn)的時(shí)間序列也可找出對(duì)應(yīng)的平穩(wěn)隨機(jī)過(guò)程或模型。

因此，如果我們將一個(gè)非平穩(wěn)時(shí)間序列通過(guò)d次差分，將它變?yōu)槠椒€(wěn)的，然后用一個(gè)平穩(wěn)的ARMA(p,q)模型作為它的生成模型，則我們就說(shuō)該原始時(shí)間序列是一個(gè)自回歸單整移動(dòng)平均（autoregressiveintegratedmovingaverage）時(shí)間序列，記為ARIMA(p,d,q)。

例如，一個(gè)ARMA(2,1,2)時(shí)間序列在它成為平穩(wěn)序列之前先得差分一次，然后用一個(gè)ARMA(2,2)模型作為它的生成模型的。

當(dāng)然，一個(gè)ARMA(p,0,0)過(guò)程表示了一個(gè)純AR(p)平穩(wěn)過(guò)程；一個(gè)ARMA(0,0,q)表示一個(gè)純MA(q)平穩(wěn)過(guò)程。

所謂隨機(jī)時(shí)間序列模型的識(shí)別，就是對(duì)于一個(gè)平穩(wěn)的隨機(jī)時(shí)間序列，找出生成它的合適的隨機(jī)過(guò)程或模型，即判斷該時(shí)間序列是遵循一純AR過(guò)程、還是遵循一純MA過(guò)程或ARMA過(guò)程。

所使用的工具主要是時(shí)間序列的自相關(guān)函數(shù)（autocorrelationfunction，ACF）及偏自相關(guān)函數(shù)（partialautocorrelationfunction，PACF

）。

四、隨機(jī)時(shí)間序列模型的識(shí)別1、AR(p)過(guò)程

(1)自相關(guān)函數(shù)（ACF）

1階自回歸模型AR(1)

Xt=Xt-1+t

的k階滯后自協(xié)方差為：

=1,2,…因此，AR(1)模型的自相關(guān)函數(shù)為

=1,2,…

由AR(1)的穩(wěn)定性知||<1，因此，k

時(shí)，自相關(guān)函數(shù)呈指數(shù)形衰減，直到零。這種現(xiàn)象稱(chēng)為拖尾或稱(chēng)AR(1)有無(wú)窮記憶（infinitememory）。注意，

<0時(shí)，呈振蕩衰減狀。

Xt=

1Xt-1+2Xt-2+t該模型的方差0以及滯后1期與2期的自協(xié)方差1,2分別為２階自回歸模型AR(2)

類(lèi)似地,可寫(xiě)出一般的k期滯后自協(xié)方差：

(K=2,3,…)于是,AR(2)的k階自相關(guān)函數(shù)為：

(K=2,3,…)其中

:

1=1/(1-2),0=1如果AR(2)穩(wěn)定，則由

1+2<1知|

k|衰減趨于零，呈拖尾狀。至于衰減的形式，要看AR(2)特征根的實(shí)虛性，若為實(shí)根，則呈單調(diào)或振蕩型衰減，若為虛根，則呈正弦波型衰減。

一般地，p階自回歸模型AR(p)

k期滯后協(xié)方差為:從而有自相關(guān)函數(shù)

:

可見(jiàn)，無(wú)論k有多大，

k的計(jì)算均與其１到p階滯后的自相關(guān)函數(shù)有關(guān)，因此呈拖尾狀。

如果AR(p)是穩(wěn)定的，則|

k|遞減且趨于零。

Xt=

1Xt-1+2Xt-2+…pXt-p+t

其中：1/zi是AR(p)特征方程

(z)=0的特征根，由AR(p)平穩(wěn)的條件知，|zi|<1;

因此，當(dāng)1/zi均為實(shí)數(shù)根時(shí)，

k呈幾何型衰減（單調(diào)或振蕩）；當(dāng)存在虛數(shù)根時(shí)，則一對(duì)共扼復(fù)根構(gòu)成通解中的一個(gè)阻尼正弦波項(xiàng)，

k呈正弦波衰減。事實(shí)上，自相關(guān)函數(shù)是一p階差分方程，其通解為

（2）偏自相關(guān)函數(shù)（PACF

）

自相關(guān)函數(shù)ACF(k)給出了Xt與Xt-1的總體相關(guān)性，但總體相關(guān)性可能掩蓋了變量間完全不同的隱含關(guān)系。

例如，在AR(1)隨機(jī)過(guò)程中，Xt與Xt-2間有相關(guān)性可能主要是由于它們各自與Xt-1間的相關(guān)性帶來(lái)的:即：自相關(guān)函數(shù)中包含了這種所有的“間接”相關(guān)。

與之相反，Xt與Xt-k間的偏自相關(guān)函數(shù)(partialautocorrelation，簡(jiǎn)記為PACF)則是消除了中間變量Xt-1，…，Xt-k+1

帶來(lái)的間接相關(guān)后的直接相關(guān)性，它是在已知序列值Xt-1，…，Xt-k+1的條件下，Xt與Xt-k間關(guān)系的度量。

從Xt中去掉Xt-1的影響，則只剩下隨機(jī)擾動(dòng)項(xiàng)

t，顯然它與Xt-2無(wú)關(guān)，因此我們說(shuō)Xt與Xt-2的偏自相關(guān)系數(shù)為零，記為

在AR(1)

Xt=Xt-1+t

中，

同樣地，在AR(p)過(guò)程中，對(duì)所有的k>p，Xt與Xt-k間的偏自相關(guān)系數(shù)為零。

AR(p)的一個(gè)主要特征是:k>p時(shí)，

k*=Corr(Xt,Xt-k)=0

即

k*在p以后是截尾的。一隨機(jī)時(shí)間序列的識(shí)別原則：若Xt的偏自相關(guān)函數(shù)在p以后截尾，即k>p時(shí)，

k*=0，而它的自相關(guān)函數(shù)

k是拖尾的，則此序列是自回歸AR(p)序列。

在實(shí)際識(shí)別時(shí)，由于樣本偏自相關(guān)函數(shù)rk*是總體偏自相關(guān)函數(shù)

k*的一個(gè)估計(jì)，由于樣本的隨機(jī)性，當(dāng)k>p時(shí)，rk*不會(huì)全為0，而是在0的上下波動(dòng)。但可以證明，當(dāng)k>p時(shí)，rk*服從如下漸近正態(tài)分布:

rk*~N(0,1/n)式中n表示樣本容量。因此，如果計(jì)算的rk*滿足

需指出的是，我們就有95.5%的把握判斷原時(shí)間序列在p之后截尾。

對(duì)MA(1)過(guò)程

2、MA(q)過(guò)程可容易地寫(xiě)出它的自協(xié)方差系數(shù)：于是，MA(1)過(guò)程的自相關(guān)函數(shù)為：可見(jiàn)，當(dāng)k>1時(shí)，

k=0，即Xt與Xt-k不相關(guān)，MA(1)自相關(guān)函數(shù)是截尾的。

MA(1)過(guò)程可以等價(jià)地寫(xiě)成

t關(guān)于無(wú)窮序列Xt，Xt-1，…的線性組合的形式：或（*）

(*)是一個(gè)AR()過(guò)程，它的偏自相關(guān)函數(shù)非截尾但卻趨于零，因此MA(1)的偏自相關(guān)函數(shù)是非截尾但卻趨于零的。

注意:(*)式只有當(dāng)|

|<1時(shí)才有意義，否則意味著距Xt越遠(yuǎn)的X值，對(duì)Xt的影響越大，顯然不符合常理。因此，我們把|

|<1稱(chēng)為MA(1)的可逆性條件（invertibilitycondition）或可逆域。

其自協(xié)方差系數(shù)為一般地，q階移動(dòng)平均過(guò)程MA(q)

相應(yīng)的自相關(guān)函數(shù)為

可見(jiàn)，當(dāng)k>q時(shí)，Xt與Xt-k不相關(guān)，即存在截尾現(xiàn)象，因此，當(dāng)k>q時(shí)，

k=0是MA(q)的一個(gè)特征。于是：可以根據(jù)自相關(guān)系數(shù)是否從某一點(diǎn)開(kāi)始一直為0來(lái)判斷MA(q)模型的階。

與MA(1)相仿，可以驗(yàn)證MA(q)過(guò)程的偏自相關(guān)函數(shù)是非截尾但趨于零的。

MA(q)模型的識(shí)別規(guī)則：若隨機(jī)序列的自相關(guān)函數(shù)截尾，即自q以后，

k=0（k>q）；而它的偏自相關(guān)函數(shù)是拖尾的，則此序列是滑動(dòng)平均MA(q)序列。

同樣需要注意的是：在實(shí)際識(shí)別時(shí)，由于樣本自相關(guān)函數(shù)rk是總體自相關(guān)函數(shù)

k的一個(gè)估計(jì)，由于樣本的隨機(jī)性，當(dāng)k>q時(shí)，rk不會(huì)全為0，而是在0的上下波動(dòng)。但可以證明，當(dāng)k>q時(shí)，rk服從如下漸近正態(tài)分布:

rk~N(0,1/n)式中n表示樣本容量。我們就有95.5%的把握判斷原時(shí)間序列在q之后截尾。因此，如果計(jì)算的rk滿足：

ARMA(p,q)的自相關(guān)函數(shù)，可以看作MA(q)的自相關(guān)函數(shù)和AR(p)的自相關(guān)函數(shù)的混合物。

當(dāng)p=0時(shí)，它具有截尾性質(zhì)；

當(dāng)q=0時(shí)，它具有拖尾性質(zhì)；當(dāng)p、q都不為0時(shí)，它具有拖尾性質(zhì)

從識(shí)別上看，通常：

ARMA(p，q)過(guò)程的偏自相關(guān)函數(shù)（PACF）可能在p階滯后前有幾項(xiàng)明顯的尖柱（spikes），但從p階滯后項(xiàng)開(kāi)始逐漸趨向于零；而它的自相關(guān)函數(shù)（ACF）則是在q階滯后前有幾項(xiàng)明顯的尖柱，從q階滯后項(xiàng)開(kāi)始逐漸趨向于零。

3、ARMA(p,q)過(guò)程

AR(p)、MA(q)、ARMA(p,q)模型的估計(jì)方法較多，大體上分為3類(lèi)：（1）最小二乘估計(jì)；（2）矩估計(jì)；（3）利用自相關(guān)函數(shù)的直接估計(jì)。下面有選擇地加以介紹。結(jié)構(gòu)階數(shù)模型識(shí)別確定估計(jì)參數(shù)五、隨機(jī)時(shí)間序列模型的估計(jì)

⒈AR(p)模型的YuleWalker方程估計(jì)

在AR(p)模型的識(shí)別中，曾得到利用

k=-k，得到如下方程組：

此方程組被稱(chēng)為YuleWalker方程組。該方程組建立了AR(p)模型的模型參數(shù)

1,2,,p與自相關(guān)函數(shù)

1,2,,p的關(guān)系，

利用實(shí)際時(shí)間序列提供的信息，首先求得自相關(guān)函數(shù)的估計(jì)值

然后利用YuleWalker方程組，求解模型參數(shù)的估計(jì)值由于于是從而可得

2的估計(jì)值

在具體計(jì)算時(shí)，可用樣本自相關(guān)函數(shù)rk替代。

⒉MA(q)模型的矩估計(jì)

將MA(q)模型的自協(xié)方差函數(shù)中的各個(gè)量用估計(jì)量代替，得到：

首先求得自協(xié)方差函數(shù)的估計(jì)值，(*)是一個(gè)包含(q+1)個(gè)待估參數(shù)(*)的非線性方程組，可以用直接法或迭代法求解。

常用的迭代方法有線性迭代法和Newton-Raphsan迭代法。

（1）MA(1)模型的直接算法

對(duì)于MA(1)模型，（*）式相應(yīng)地寫(xiě)成于是

或有于是有解

由于參數(shù)估計(jì)有兩組解，可根據(jù)可逆性條件|

1|<1來(lái)判斷選取一組。

（2）MA(q)模型的迭代算法

對(duì)于q>1的MA(q)模型，一般用迭代算法估計(jì)參數(shù)：由（*）式得第一步，給出的一組初值，比如代入（**）式，計(jì)算出第一次迭代值

（**）

第二步，將第一次迭代值代入（**）式，計(jì)算出第二次迭代值

按此反復(fù)迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時(shí)（滿足一定的精度），便停止迭代，并用第m步的迭代結(jié)果作為（**）的近似解。

⒊ARMA(p,q)模型的矩估計(jì)

在ARMA(p,q)中共有(p+q+1)個(gè)待估參數(shù)

1,2,,p與

1,2,,q以及

2，其估計(jì)量計(jì)算步驟及公式如下：

第一步，估計(jì)

1,2,,p

是總體自相關(guān)函數(shù)的估計(jì)值，可用樣本自相關(guān)函數(shù)rk代替。

第二步，改寫(xiě)模型，求

1,2,,q以及

2的估計(jì)值將模型

改寫(xiě)為：

令于是(*)可以寫(xiě)成：

(*)

構(gòu)成一個(gè)MA模型。按照估計(jì)MA模型參數(shù)的方法，可以得到

1,2,,q以及

2的估計(jì)值。

⒋AR(p)的最小二乘估計(jì)假設(shè)模型AR(p)的參數(shù)估計(jì)值已經(jīng)得到，即有

殘差的平方和為：(*)

根據(jù)最小二乘原理，所要求的參數(shù)估計(jì)值是下列方程組的解：即

j=1,2,…,p(**)

解該方程組，就可得到待估參數(shù)的估計(jì)值。

為了與AR(p)模型的YuleWalker方程估計(jì)進(jìn)行比較，將(**)改寫(xiě)成：j=1,2,…,p由自協(xié)方差函數(shù)的定義，并用自協(xié)方差函數(shù)的估計(jì)值代入，上式表示的方程組即為：

或j=1,2,…,pj=1,2,…,p解該方程組，得到：即為參數(shù)的最小二乘估計(jì)。

YuleWalker方程組的解比較發(fā)現(xiàn)，當(dāng)n足夠大時(shí)，二者是相似的。

2的估計(jì)值為：

需要說(shuō)明的是，在上述模型的平穩(wěn)性、識(shí)別與估計(jì)的討論中，ARMA(p,q)模型中均未包含常數(shù)項(xiàng)。

如果包含常數(shù)項(xiàng)，該常數(shù)項(xiàng)并不影響模型的原有性質(zhì)，因?yàn)橥ㄟ^(guò)適當(dāng)?shù)淖冃?，可將包含常?shù)項(xiàng)的模型轉(zhuǎn)換為不含常數(shù)項(xiàng)的模型。下面以一般的ARMA(p,q)模型為例說(shuō)明。對(duì)含有常數(shù)項(xiàng)的模型方程兩邊同減

/(1-

1--p)，則可得到其中

1、殘差項(xiàng)的白噪聲檢驗(yàn)

由于ARMA(p,q)模型的識(shí)別與估計(jì)是在假設(shè)隨機(jī)擾動(dòng)項(xiàng)是一白噪聲的基礎(chǔ)上進(jìn)行的，因此，如果估計(jì)的模型確認(rèn)正確的話，殘差應(yīng)代表一白噪聲序列。

如果通過(guò)所估計(jì)的模型計(jì)算的樣本殘差不代表一白噪聲，則說(shuō)明模型的識(shí)別與估計(jì)有誤，需重新識(shí)別與估計(jì)。

在實(shí)際檢驗(yàn)時(shí)，主要檢驗(yàn)殘差序列是否存在自相關(guān)。

六、模型的檢驗(yàn)

時(shí)間序列模型的識(shí)別與估計(jì)過(guò)程往往是同步進(jìn)行的。由于在實(shí)際識(shí)別ARMA(p,q)模型時(shí)，滯后項(xiàng)階數(shù)的選擇并不是一件容易的事，因此模型在識(shí)別與估計(jì)之后還需進(jìn)行檢驗(yàn)。

2、AIC與SBC模型選擇標(biāo)準(zhǔn)

另外一個(gè)遇到的問(wèn)題是，在實(shí)際識(shí)別ARMA(p,q)模型時(shí)，需多次反復(fù)償試，有可能存在不止一組（p,q）值都能通過(guò)識(shí)別檢驗(yàn)。顯然，增加p與q的階數(shù)，可增加擬合優(yōu)度，但卻同時(shí)降低了自由度。

因此，對(duì)可能的適當(dāng)?shù)哪Ｐ停嬖谥Ｐ偷摹昂?jiǎn)潔性”與模型的擬合優(yōu)度的權(quán)衡選擇問(wèn)題。

可用QLB的統(tǒng)計(jì)量進(jìn)行

2檢驗(yàn)：在給定顯著性水平下，可計(jì)算不同滯后期的QLB值，通過(guò)與

2分布表中的相應(yīng)臨界值比較，來(lái)檢驗(yàn)是否拒絕殘差序列為白噪聲的假設(shè)。若大于相應(yīng)臨界值，則應(yīng)拒絕所估計(jì)的模型，需重新識(shí)別與估計(jì)。

其中，n為待估參數(shù)個(gè)數(shù)（p+q+可能存在的常數(shù)項(xiàng)），T為可使用的觀測(cè)值，RSS為殘差平方和（Residualsumofsquares）。

在選擇可能的模型時(shí)，AIC與SBC越小越好

顯然，如果添加的滯后項(xiàng)沒(méi)有解釋能力，則對(duì)RSS值的減小沒(méi)有多大幫助，卻增加待估參數(shù)的個(gè)數(shù)，因此使得AIC或SBC的值增加。

需注意的是：在不同模型間進(jìn)行比較時(shí)，必須選取相同的時(shí)間段。

常用的模型選擇的判別標(biāo)準(zhǔn)有：赤池信息法（Akaikeinformationcriterion，簡(jiǎn)記為AIC）與施瓦茲貝葉斯法（SchwartzBayesiancriterion，簡(jiǎn)記為SBC）：

中國(guó)支出法GDP是非平穩(wěn)的，但它的一階差分是平穩(wěn)的，即支出法GDP是I(1)時(shí)間序列。可以對(duì)經(jīng)過(guò)一階差分后的GDP建立適當(dāng)?shù)腁RMA(p,q)模型。記GDP經(jīng)一階差分后的新序列為GDPD1，該新序列的樣本自相關(guān)函數(shù)圖與偏自相關(guān)函數(shù)圖如下：

例、；中國(guó)支出法GDP的ARMA(p,q)模型估計(jì)。

圖形：樣本自相關(guān)函數(shù)圖形呈正弦線型衰減波，而