《時(shí)間序列模型》PPT課件.ppt

1、第六章、時(shí)間序列分析模型（1）,E 因此，當(dāng)1/zi均為實(shí)數(shù)根時(shí)，k呈幾何型衰減（單調(diào)或振蕩）； 當(dāng)存在虛數(shù)根時(shí)，則一對共扼復(fù)根構(gòu)成通解中的一個(gè)阻尼正弦波項(xiàng)，k呈正弦波衰減。,事實(shí)上，自相關(guān)函數(shù),是一p階差分方程，其通解為,（2）偏自相關(guān)函數(shù)（PACF ）,自相關(guān)函數(shù)ACF(k)給出了Xt與Xt-1的總體相關(guān)性，但總體相關(guān)性可能掩蓋了變量間完全不同的隱含關(guān)系。 例如，在AR(1)隨機(jī)過程中，Xt與Xt-2間有相關(guān)性可能主要是由于它們各自與Xt-1間的相關(guān)性帶來的:,即：自相關(guān)函數(shù)中包含了這種所有的“間接”相關(guān)。 與之相反，Xt與Xt-k間的偏自相關(guān)函數(shù)(partial autocorrelat

2、ion，簡記為PACF)則是消除了中間變量Xt-1，Xt-k+1 帶來的間接相關(guān)后的直接相關(guān)性，它是在已知序列值Xt-1，Xt-k+1的條件下，Xt與Xt-k間關(guān)系的度量。,從Xt中去掉Xt-1的影響，則只剩下隨機(jī)擾動項(xiàng)t，顯然它與Xt-2無關(guān)，因此我們說Xt與Xt-2的偏自相關(guān)系數(shù)為零，記為,在AR(1) Xt=Xt-1+ t 中，,同樣地，在AR(p)過程中，對所有的kp，Xt與Xt-k間的偏自相關(guān)系數(shù)為零。 AR(p)的一個(gè)主要特征是:kp時(shí)，k*=Corr(Xt,Xt-k)=0 即k*在p以后是截尾的。,一隨機(jī)時(shí)間序列的識別原則： 若Xt的偏自相關(guān)函數(shù)在p以后截尾，即kp時(shí)，k*=0，

3、而它的自相關(guān)函數(shù)k是拖尾的，則此序列是自回歸AR(p)序列。,在實(shí)際識別時(shí)，由于樣本偏自相關(guān)函數(shù)rk*是總體偏自相關(guān)函數(shù)k*的一個(gè)估計(jì)，由于樣本的隨機(jī)性，當(dāng)kp時(shí)，rk*不會全為0，而是在0的上下波動。但可以證明，當(dāng)kp時(shí)，rk*服從如下漸近正態(tài)分布: rk*N(0,1/n) 式中n表示樣本容量。 因此，如果計(jì)算的rk*滿足,需指出的是，,我們就有95.5%的把握判斷原時(shí)間序列在p之后截尾。,對MA(1)過程,2、MA(q)過程,可容易地寫出它的自協(xié)方差系數(shù)：,于是，MA(1)過程的自相關(guān)函數(shù)為：,可見，當(dāng)k1時(shí)，k=0，即Xt與Xt-k不相關(guān)，MA(1)自相關(guān)函數(shù)是截尾的。,MA(1)過程可

4、以等價(jià)地寫成t關(guān)于無窮序列Xt，Xt-1，的線性組合的形式：,或,（*）,(*)是一個(gè)AR()過程，它的偏自相關(guān)函數(shù)非截尾但卻趨于零，因此MA(1)的偏自相關(guān)函數(shù)是非截尾但卻趨于零的。,注意: (*)式只有當(dāng)|1時(shí)才有意義，否則意味著距Xt越遠(yuǎn)的X值，對Xt的影響越大，顯然不符合常理。 因此，我們把|1稱為MA(1)的可逆性條件（invertibility condition）或可逆域。,其自協(xié)方差系數(shù)為,一般地，q階移動平均過程MA(q),相應(yīng)的自相關(guān)函數(shù)為,可見，當(dāng)kq時(shí)， Xt與Xt-k不相關(guān)，即存在截尾現(xiàn)象，因此，當(dāng)kq時(shí)， k=0是MA(q)的一個(gè)特征。 于是：可以根據(jù)自相關(guān)系數(shù)是否

5、從某一點(diǎn)開始一直為0來判斷MA(q)模型的階。,與MA(1)相仿，可以驗(yàn)證MA(q)過程的偏自相關(guān)函數(shù)是非截尾但趨于零的。,MA(q)模型的識別規(guī)則：若隨機(jī)序列的自相關(guān)函數(shù)截尾，即自q以后，k=0（ kq）；而它的偏自相關(guān)函數(shù)是拖尾的，則此序列是滑動平均MA(q)序列。,同樣需要注意的是：在實(shí)際識別時(shí)，由于樣本自相關(guān)函數(shù)rk是總體自相關(guān)函數(shù)k的一個(gè)估計(jì)，由于樣本的隨機(jī)性，當(dāng)kq時(shí)，rk不會全為0，而是在0的上下波動。但可以證明，當(dāng)kq時(shí)，rk服從如下漸近正態(tài)分布: rkN(0,1/n) 式中n表示樣本容量。,我們就有95.5%的把握判斷原時(shí)間序列在q之后截尾。,因此，如果計(jì)算的rk滿足：,AR

6、MA(p,q)的自相關(guān)函數(shù)，可以看作MA(q)的自相關(guān)函數(shù)和AR(p)的自相關(guān)函數(shù)的混合物。 當(dāng)p=0時(shí)，它具有截尾性質(zhì)； 當(dāng)q=0時(shí)，它具有拖尾性質(zhì)； 當(dāng)p、q都不為0時(shí)，它具有拖尾性質(zhì) 從識別上看，通常： ARMA(p，q)過程的偏自相關(guān)函數(shù)（PACF）可能在p階滯后前有幾項(xiàng)明顯的尖柱（spikes），但從p階滯后項(xiàng)開始逐漸趨向于零； 而它的自相關(guān)函數(shù)（ACF）則是在q階滯后前有幾項(xiàng)明顯的尖柱，從q階滯后項(xiàng)開始逐漸趨向于零。,3、ARMA(p, q)過程,AR(p)、MA(q)、ARMA(p,q)模型的估計(jì)方法較多，大體上分為3類： （1）最小二乘估計(jì)； （2）矩估計(jì)； （3）利用自相關(guān)函

7、數(shù)的直接估計(jì)。 下面有選擇地加以介紹。,結(jié)構(gòu) 階數(shù),模型 識別,確定,估計(jì),參數(shù),五、隨機(jī)時(shí)間序列模型的估計(jì), AR(p)模型的Yule Walker方程估計(jì),在AR(p)模型的識別中，曾得到,利用k=-k，得到如下方程組：,此方程組被稱為Yule Walker方程組。該方程組建立了AR(p)模型的模型參數(shù)1,2,p與自相關(guān)函數(shù)1,2,p的關(guān)系，,利用實(shí)際時(shí)間序列提供的信息，首先求得自相關(guān)函數(shù)的估計(jì)值,然后利用Yule Walker方程組，求解模型參數(shù)的估計(jì)值,由于,于是,從而可得2的估計(jì)值,在具體計(jì)算時(shí)，,可用樣本自相關(guān)函數(shù)rk替代。, MA(q)模型的矩估計(jì),將MA(q)模型的自協(xié)方差函數(shù)

8、中的各個(gè)量用估計(jì)量代替，得到：,首先求得自協(xié)方差函數(shù)的估計(jì)值，(*)是一個(gè)包含(q+1)個(gè)待估參數(shù),(*),的非線性方程組，可以用直接法或迭代法求解。,常用的迭代方法有線性迭代法和Newton-Raphsan迭代法。,（1）MA(1)模型的直接算法,對于MA(1)模型，（*）式相應(yīng)地寫成,于是,或,有,于是有解,由于參數(shù)估計(jì)有兩組解，可根據(jù)可逆性條件|1|1來判斷選取一組。,（2）MA(q)模型的迭代算法,對于q1的MA(q)模型，一般用迭代算法估計(jì)參數(shù)： 由（*）式得,第一步，給出,的一組初值，比如,代入（*）式，計(jì)算出第一次迭代值,（*）,第二步，將第一次迭代值代入（*）式，計(jì)算出第二次迭

9、代值,按此反復(fù)迭代下去，直到第m步的迭代值與第m-1步的迭代值相差不大時(shí)（滿足一定的精度），便停止迭代，并用第m步的迭代結(jié)果作為（*）的近似解。, ARMA(p,q)模型的矩估計(jì),在ARMA(p,q)中共有(p+q+1)個(gè)待估參數(shù)1,2,p與1,2,q以及2，其估計(jì)量計(jì)算步驟及公式如下： 第一步，估計(jì)1,2,p,是總體自相關(guān)函數(shù)的估計(jì)值，可用樣本自相關(guān)函數(shù)rk代替。,第二步，改寫模型，求1,2,q以及2的估計(jì)值,將模型,改寫為：,令,于是(*)可以寫成：,(*),構(gòu)成一個(gè)MA模型。按照估計(jì)MA模型參數(shù)的方法，可以得到1,2,q以及2的估計(jì)值。, AR(p)的最小二乘估計(jì),假設(shè)模型AR(p)的參

10、數(shù)估計(jì)值已經(jīng)得到，即有,殘差的平方和為：,(*),根據(jù)最小二乘原理，所要求的參數(shù)估計(jì)值是下列方程組的解：,即,j=1,2,p (*),解該方程組，就可得到待估參數(shù)的估計(jì)值。,為了與AR(p)模型的Yule Walker方程估計(jì)進(jìn)行比較，將(*)改寫成：,j=1,2,p,由自協(xié)方差函數(shù)的定義，并用自協(xié)方差函數(shù)的估計(jì)值,代入，上式表示的方程組即為：,或,j=1,2,p,j=1,2,p,解該方程組，得到：,即為參數(shù)的最小二乘估計(jì)。 Yule Walker方程組的解,比較發(fā)現(xiàn)，當(dāng)n足夠大時(shí)，二者是相似的。2的估計(jì)值為：,需要說明的是，在上述模型的平穩(wěn)性、識別與估計(jì)的討論中，ARMA(p,q)模型中均未

11、包含常數(shù)項(xiàng)。,如果包含常數(shù)項(xiàng)，該常數(shù)項(xiàng)并不影響模型的原有性質(zhì)，因?yàn)橥ㄟ^適當(dāng)?shù)淖冃?，可將包含常?shù)項(xiàng)的模型轉(zhuǎn)換為不含常數(shù)項(xiàng)的模型。 下面以一般的ARMA(p,q)模型為例說明。 對含有常數(shù)項(xiàng)的模型,方程兩邊同減/(1-1-p)，則可得到,其中,1、殘差項(xiàng)的白噪聲檢驗(yàn) 由于ARMA(p,q)模型的識別與估計(jì)是在假設(shè)隨機(jī)擾動項(xiàng)是一白噪聲的基礎(chǔ)上進(jìn)行的，因此，如果估計(jì)的模型確認(rèn)正確的話，殘差應(yīng)代表一白噪聲序列。 如果通過所估計(jì)的模型計(jì)算的樣本殘差不代表一白噪聲，則說明模型的識別與估計(jì)有誤，需重新識別與估計(jì)。 在實(shí)際檢驗(yàn)時(shí)，主要檢驗(yàn)殘差序列是否存在自相關(guān)。,六、模型的檢驗(yàn),時(shí)間序列模型的識別與估計(jì)過程往往

12、是同步進(jìn)行的。由于在實(shí)際識別ARMA(p,q)模型時(shí)，滯后項(xiàng)階數(shù)的選擇并不是一件容易的事，因此模型在識別與估計(jì)之后還需進(jìn)行檢驗(yàn)。,2、AIC與SBC模型選擇標(biāo)準(zhǔn) 另外一個(gè)遇到的問題是，在實(shí)際識別ARMA(p,q)模型時(shí)，需多次反復(fù)償試，有可能存在不止一組（p,q）值都能通過識別檢驗(yàn)。 顯然，增加p與q的階數(shù)，可增加擬合優(yōu)度，但卻同時(shí)降低了自由度。 因此，對可能的適當(dāng)?shù)哪Ｐ?，存在著模型的“簡潔性”與模型的擬合優(yōu)度的權(quán)衡選擇問題。,可用QLB的統(tǒng)計(jì)量進(jìn)行2檢驗(yàn)：在給定顯著性水平下，可計(jì)算不同滯后期的QLB值，通過與2分布表中的相應(yīng)臨界值比較，來檢驗(yàn)是否拒絕殘差序列為白噪聲的假設(shè)。 若大于相應(yīng)臨界值

13、，則應(yīng)拒絕所估計(jì)的模型，需重新識別與估計(jì)。,其中，n為待估參數(shù)個(gè)數(shù)（p+q+可能存在的常數(shù)項(xiàng)），T為可使用的觀測值，RSS為殘差平方和（Residual sum of squares）。 在選擇可能的模型時(shí)，AIC與SBC越小越好 顯然，如果添加的滯后項(xiàng)沒有解釋能力，則對RSS值的減小沒有多大幫助，卻增加待估參數(shù)的個(gè)數(shù)，因此使得AIC或SBC的值增加。 需注意的是：在不同模型間進(jìn)行比較時(shí)，必須選取相同的時(shí)間段。,常用的模型選擇的判別標(biāo)準(zhǔn)有：赤池信息法（Akaike information criterion，簡記為AIC）與施瓦茲貝葉斯法（Schwartz Bayesian criterion

14、，簡記為SBC）：,中國支出法GDP是非平穩(wěn)的，但它的一階差分是平穩(wěn)的，即支出法GDP是I(1)時(shí)間序列。 可以對經(jīng)過一階差分后的GDP建立適當(dāng)?shù)腁RMA(p,q)模型。 記GDP經(jīng)一階差分后的新序列為GDPD1，該新序列的樣本自相關(guān)函數(shù)圖與偏自相關(guān)函數(shù)圖如下：,例、；中國支出法GDP的ARMA(p,q)模型估計(jì)。,圖形：樣本自相關(guān)函數(shù)圖形呈正弦線型衰減波，而偏自相關(guān)函數(shù)圖形則在滯后兩期后迅速趨于0。因此可初步判斷該序列滿足2階自回歸過程AR(2)。,自相關(guān)函數(shù)與偏自相關(guān)函數(shù)的函數(shù)值： 相關(guān)函數(shù)具有明顯的拖尾性； 偏自相關(guān)函數(shù)值在k2以后，,可認(rèn)為：偏自相關(guān)函數(shù)是截尾的。再次驗(yàn)證了一階差分后的

15、GDP滿足AR(2)隨機(jī)過程。,設(shè)序列GDPD1的模型形式為,有如下Yule Walker 方程：,解為：,用OLS法回歸的結(jié)果為：,（7.91) (-3.60) r2=0.8469 R2=0.8385 DW=1.15,有時(shí)，在用回歸法時(shí)，也可加入常數(shù)項(xiàng)。 本例中加入常數(shù)項(xiàng)的回歸為：,（1.99） （7.74） （-3.58） r2 =0.8758 R2 =0.8612 DW.=1.22,模型檢驗(yàn),下表列出三模型的殘差項(xiàng)的自相關(guān)系數(shù)及QLB檢驗(yàn)值。,模型1與模型3的殘差項(xiàng)接近于一白噪聲，但模型2存在4階滯后相關(guān)問題，Q統(tǒng)計(jì)量的檢驗(yàn)也得出模型2拒絕所有自相關(guān)系數(shù)為零的假設(shè)。因此: 模型1與3可作

16、為描述中國支出法GDP一階差分序列的隨機(jī)生成過程。,用建立的AR(2)模型對中國支出法GDP進(jìn)行外推預(yù)測。,模型1可作如下展開：,于是，當(dāng)已知t-1、t-2、t-3期的GDP時(shí)，就可對第t期的GDP作出外推預(yù)測。 模型3的預(yù)測式與此相類似，只不過多出一項(xiàng)常數(shù)項(xiàng)。,對2001年中國支出法GDP的預(yù)測結(jié)果（億元） 預(yù)測值 實(shí)際值 誤差 模型1 95469 95933 -0.48% 模型3 97160 95933 1.28%,由于中國人均居民消費(fèi)（CPC）與人均國內(nèi)生產(chǎn)總值（GDPPC）這兩時(shí)間序列是非平穩(wěn)的，因此不宜直接建立它們的因果關(guān)系回歸方程。 但它們都是I(2)時(shí)間序列，因此可以建立它們的ARIMA(p,d,q)模型。 下面只建立中國人均居民消費(fèi)（CPC）的隨機(jī)時(shí)間序列模型。 中國人均居民消費(fèi)（CPC）經(jīng)過二次差分后的新序列記為CPCD2，其自相關(guān)函數(shù)、偏自相關(guān)函數(shù)及Q統(tǒng)計(jì)量的值列于下表：,例 、 中國人均居民消費(fèi)的ARMA(p,q)模型,在5%的顯著性水平下，通過Q統(tǒng)計(jì)量容易驗(yàn)證該序列本身就接近于一白噪聲，因此可考慮采用零階MA(0