時間序列分析方法 第04章 預測

1、時間序列分析方法講義 第4章 預測PAGE PAGE 20第四章 預 測在本章當中我們討論預測的一般概念和方法，然后分析利用模型進行預測的問題。4.1 預期原理利用各種條條件對某某個變量量下一個個時點或或者時間間階段內內取值的的判斷是是預測的的重要情情形。為為此，需需要了解解如何確確定預測測值和度度量預測測的精度度。4.1.11基于條條件預期期的預測測假設我們可可以觀察察到一組組隨機變變量的樣樣本值，然然后利用用這些數(shù)數(shù)據(jù)預測測隨機變變量的值值。特別別地，一一個最為為簡單的的情形就就是利用用的前個樣樣本值預預測，此此時可以以描述為為：假設表示根根據(jù)對于于做出的預預測。那那么如何何度量預預測效果

2、果呢？通常情情況下，我們利用損失函數(shù)來度量預測效果的優(yōu)劣。假設預測值與真實值之間的偏離作為損失，則簡單的二次損失函數(shù)可以表示為(該度量也稱為預測的均方誤差)：定理4.11使得預預測均方方誤差達達到最小小的預測測是給定定時，對對的條件件數(shù)學期期望，即即：證明：假設設基于對對的任意意預測值值為：則此預測的的均方誤誤差為：對上式均方方誤差進進行分解解，可以以得到：其中交叉項項的數(shù)學學期望為為(利用數(shù)數(shù)學期望望的疊代代法則)：因此均方誤誤差為：為了使得均均方誤差差達到最最小，則則有：此時最優(yōu)預預測的均均方誤差差為：End我們以后經(jīng)經(jīng)常使用用條件數(shù)數(shù)學期望望作為隨隨機變量量的預測測值。4.1.22 基于

3、于線性投投影的預預測由于上述條條件數(shù)學學期望比比較難以以確定，因因此將預預測函數(shù)數(shù)的范圍圍限制在在線性函函數(shù)當中中，我們們考慮下下述線性性預測：如此預測的的選取是是所有預預測變量量的線性性組合，預預測的優(yōu)優(yōu)劣則體體現(xiàn)在系系數(shù)向量量的選擇擇上。定義4.11如果我我們可以以求出一一個系數(shù)數(shù)向量值值，使得得預測誤誤差與不相關關：則稱預測為為基于的線線性投影影。定理4.22在所有有線性預預測當中中，線性性投影預預測具有有最小的的均方誤誤差。證明：假設設是任意意一個線線性預測測，則對對應的均均方誤差差可以分分解為：由于是線性性投影，則則有：因此均方誤誤差為：為了使得均均方誤差差達到最最小，線線性預測測滿

4、足：這是一個線線性投影影。Ennd我們將線性性投影預預測表示示為：或者簡化為為：顯然線性投投影的預預測誤差差仍然不不小于條條件期望望預測，因因此有：當條件中包包含常數(shù)數(shù)的時候候，此時時線性投投影當中中就含有有常數(shù)，為為此使用用表示含含有常數(shù)數(shù)項的線線性投影影預測，即即：4.1.33線性投投影的性性質根據(jù)線性投投影的定定義，我我們可以以求出投投影的系系數(shù)向量量：如果是可逆逆的，則則有：命題4.11 線線性預測測滿足下下述性質質：(1) 最最優(yōu)線性性預測的的均方誤誤差為：(2) 線線性投影影滿足線線性平移移性質：證明：(11) 根根據(jù)投影影向量的的表達式式，可以以得到：化簡就可以以得到命命題表達達

5、式。(2) 需需要證明明是的線性性投影。顯顯然，它它是線性性函數(shù)，其其次，可可以證明明它滿足正正交性質質。Ennd4.1.44線性投投影和普普通最小小二乘回回歸線性投影與與最小二二乘估計計緊密相相關，這這兩種概概念之間間存在聯(lián)聯(lián)系。例例如，將將基于建立立線性回回歸方程程，得到到：對于給定和和的T個樣本本，樣本本殘差平平方和定定義為：使得殘差平平方和達達到最小小的系數(shù)數(shù)最小二二乘估計計為：如果過程是是協(xié)方差差平穩(wěn)過過程且關關于二階階矩是遍遍歷的，則則有：因此上述OOLS估估計按概概率收斂斂到線性性投影系系數(shù)：4.1.55向量預預測上述結果可可以推廣廣到利用用維向量量預測維向向量，記記為：其中為投

6、影影系數(shù)的的一個階階矩陣，滿滿足正交交條件：上式說明預預測誤差差的每一一個分量量與條件件變量的的每一個個分量都都無關。命題4.22假設是的最小小均方誤誤差線性性預測，則則對任意意的線性性組合，它它的最小小均方誤誤差線性性預測為為：證明：只需需證明是是線性投投影即可可，這時時需要驗驗證相應應的正交交性。EEnd類似地，投投影矩陣陣為：與此對應的的均方誤誤差矩陣陣為：4.2基基于無限限個觀測測值的預預測無論是條件件期望預預測還是是正交線線性預測測，都是是基于有有限個條條件變量量的，下下面我們們分析基基于無限限個觀測測值情形形下的預預測。4.2.11基于滯滯后誤差差的預測測考察一個無無限階移移動平均

7、均過程：，假設已經(jīng)知知道過去去所有時時間階段段的殘差差觀測值值，也知知道模型型中各種種參數(shù)的的值?，F(xiàn)現(xiàn)在我們們要預測測個階段段以后的的，根據(jù)據(jù)模型它它應該是是：對此最優(yōu)線線性預測測形式為為：這個預測值值的對應應誤差為為：這個預測值值的均方方誤差為為：例4.1 試求過過程的最最優(yōu)線性性預測。解：過程為為：，則它的最優(yōu)優(yōu)線性預預測為：對應的均方方誤差為為： 上述述預測具具有清楚楚的含義義，在時時間間隔隔以后，使使用過程程的均值值進行預預測，而而方差是是過程的的無條件件方差。4.2.22基于滯滯后Y的預測測一般情況下下，我們們僅僅可可以觀察察到Y的值，為為此假設設移動平平均過程程具有可可逆表示示：其

8、中：，假設上述AAR過程程與MAA過程之之間滯后后算子多多項式的的關系：1. 協(xié)方方差平穩(wěn)穩(wěn)的過程程為：表示成為算算子多項項式形式式：滿足：，2. 一個個過程可可以表示示成為：也可以表示示成為算算子多項項式形式式：在可逆性假假設條件件下，則則有：，如果給出了了觀測值值，可以以在模型型當中構構造出殘殘差序列列，例如如在過程程當中：對于給定系系數(shù)和，由由上式可可以計算算出：在可逆的過過程當中中，可以以得到：最后，可以以得到給給定條件件下的預預測公式式為：或者：w-k公式w-k公式上述公式也也被稱為為Wieenerr-Koolmoogorrov預預測公式式。上述述公式當當中的算算子是截截斷形式式的算

9、子子表達式式，算子子表達式式中將滯滯后算子子的負指指數(shù)項省省略。4.2.33預測一一個過程程對于一個平平穩(wěn)的過過程，可可以將算算子多項項式表示示成為：利用上述公公式，可可以得到到階段后后的最優(yōu)優(yōu)線性預預測為：上述預測公公式說明明，隨著著預測階階段的增增加，預預測值將將趨于長長期均值值。對應應的預測測誤差為為：隨著預測階階段的增增加，預預測誤差差也趨于于無條件件方差。4.2.44預測一一個過程程對于一個平平穩(wěn)的過過程，可可以利用用Wieenerr-Koolmoogorrov預預測公式式進行預預測。該該公式的的主要特特點在于于：它可可以利用用過去的的過程觀觀測值和和未來的的殘差值值表示預預測值，然

10、然后未來來的殘差差值利用用期望去去掉。其中表示矩矩陣中第第行、第第列元素素，矩陣陣為： 這時階段的的最優(yōu)預預測為：顯然上述預預測是均均值基礎礎上加上上觀測值值的一個個線性組組合，是是觀測值值的線性性函數(shù)。相應的預測測誤差為為：下面我們給給出具體體的預測測推導過過程：(1) 進進行1個個時期的的預測，它它滿足：(2) 將將時間開開始階段段換為，得得到：根據(jù)多重投投影定理理斷言，如如果的期預測測是期信信息的投投影，則則該預測測也是期期進行的的最優(yōu)線線性預測測，則有有：將1期預測測代入得得到：(3)過程程的前期期預測根根據(jù)疊代代可以得得到：，其中：，4.2.55預測一一個過程程繼續(xù)考察一一個過程程，

11、可以以利用滯滯后算子子表示為為：，利用Wieenerr-Koolmoogorrov預預測公式式進行預預測，得得到：向前預測11期時有有：則預測值為為：當預測步長長超過11時：則預測值為為：4.2.66預測一一個過程程繼續(xù)考察一一個可逆逆的過程程：利用Wieenerr-Koolmoogorrov預預測公式式進行預預測，得得到：其中：對于比較近近期的預預測()有：其中可以利利用下述述遞推表表示：對于比較遠遠期的預預測()比較簡簡單：4.2.77預測一一個過程程過程可以表表示為：假設該過程程是平穩(wěn)穩(wěn)的()和可逆逆的()，則：其中：代入到預測測公式中中：注意到對于于任意，預預測值滿滿足遞推推公式：這意

12、味著預預測值按按照幾何何方式以以速度收收斂到無無條件均均值。前前1期預預測由下下式給出出：上式可以等等價地表表示為：其中：或者：4.2.88預測一一個過程程綜合上述各各種預測測情形，我我們可以以得到預預測平穩(wěn)穩(wěn)過程的的方法。過程可以表示為：最優(yōu)線性預預測方程程可以表表示為： 其中可以利利用下述述遞推表表示：前期預測為為：其中：，4.2基基于無限限個觀測測值的預預測下面我們假假設已知知模型的的參數(shù)，但但是只獲獲得了有有限樣本本情形下下的預測測問題。4.3.11最優(yōu)預預測的近近似基于有限個個觀察值值的預測測方法是是假設樣樣本之前前的殘差差都為零零，這是是因為有有下面的的近似公公式存在在：4.3.2

13、2有限樣樣本情形形下的精精確預測測利用線性投投影可以以得到有有限樣本本情形下下的精確確預測：4.7 ARMMA(11)過程程之和下面我們考考慮兩個個ARMMA過程程相加所所得到的的時間序序列性質質。4.7.11MA(11)過程程與白噪噪聲之和和假設一個序序列是零零均值的的過程：其中是白噪噪聲序列列，滿足足：此時過程自自協(xié)方差差函數(shù)為為：假設隨機過過程是另另外一個個白噪聲聲過程，滿滿足：假設兩個白白噪聲序序列之間間在任何何時點都都是不相相關的，也也即有：，這是也有：，目前的問題題是，如如何觀測測到一個個序列是是上述移移動平均均過程和和白噪聲聲過程的的和，那那么這個個和過程程的性質質如何？顯然，上

14、述述過程仍仍然具有有零均值值，它的的自協(xié)方方差函數(shù)數(shù)可以表表示為：由此可見，隨隨機過程程也是平平穩(wěn)過程程，它的的自協(xié)方方差函數(shù)數(shù)與過程程是類似似的。此此時，我我們設想想是否有有一個過過程：其中白噪聲聲滿足：它具有與和和過程一一致的自自協(xié)方差差函數(shù)？如何是這樣樣，則要要求白噪噪聲的方方差滿足足：對于給定的的參數(shù)：，滿足足上述要要求的值值為：在特殊情形形下，如如果，則則上式變變?yōu)椋簩τ谄渌榍樾危煽梢苑治鑫鼍哂邢嘞嗤詤f(xié)協(xié)方差函函數(shù)的自自回歸系系數(shù)的要要求。4.7.22兩個移移動平均均過程之之和假設是過程程，是過程，并并且兩個個過程的的殘差在在任何時時點都不不相關，則則可以證證明，他他們的和和過

15、程滿滿足過程程。4.7.22兩個自自回歸過過程之和和假設隨機過過程和是兩個個過程，滿滿足：其中和是兩兩個在任任何時點點上都不不相關的的白噪聲聲序列。假假設我們們可以觀觀察到并且想利用用來對進行行預測。為此，我們們需要分分析時間間序列的的結構。在在特殊情情形下，如如果一旦旦自回歸歸系數(shù)相相同，或或，則直直接得到到的自回回歸表示示：如果，則有有：可以等價地地表示為為：對應的要求求為：因此可以知知道：更為一般地地，對于于兩個殘殘差序列列不相關關的自回回歸過程程而言：它們相加可可以得到到一個過過程：，4.8WWoldd分解和和Boxx-Jeenkiins建建模思想想平穩(wěn)時間序序列具有有類似的的性質，那

16、那么如果果表示平平穩(wěn)時間間序列的的一般結結構呢？Wolld分解解定理給給出了一一般的結結論。4.8.11Wolld分解解定理4.33(Woold分分解定理理)任何零零均值協(xié)協(xié)方差平平穩(wěn)過程程可以表表示成為為如下形形式：其中：，是利用用預測時產(chǎn)產(chǎn)生的誤誤差：對于任意，與不相關關，并且且也可以以利用利利用進行行預測：稱為過程的的線性確確定性成成分，而而稱為過過程的線線性非確確定性成成分。如如果，則則稱該過過程是純純線性不不確定性性的。4.8.22Boxx-Jeenkiins建建模思想想任何時間序序列數(shù)據(jù)據(jù)都有自自己的生生成機制制，但是是如何揭揭示和描描述時間間序列的的數(shù)據(jù)生生成機制制呢？這這需要利

17、利用時間間序列模模型對數(shù)數(shù)據(jù)生成成機制進進行逼近近或者近近似，這這就需要要尋求建建立時間間序列模模型的基基本過程程。(1) 建建立模型型一個基基本出發(fā)發(fā)點是，所所采用的的模型越越節(jié)儉越越好，所所要估計計的參數(shù)數(shù)越多，模模型出現(xiàn)現(xiàn)錯誤的的可能性性就越大大。(2) 即即使一個個復雜的的模型描描述和模模擬歷史史數(shù)據(jù)的的能力很很好，但但是有時時進行預預測時的的誤差卻卻很大。以以前大型型經(jīng)濟計計量模型型的失敗敗則說明明了這一一點。Box-JJenkkinss提出并并倡導的的預測方方法主要要步驟為為：(1) 如如果有必必要，可可以對數(shù)數(shù)據(jù)進行行變化，使使得數(shù)據(jù)據(jù)的協(xié)方方差平穩(wěn)穩(wěn)性變得得更為合合理。(2)

18、對對于描述述平穩(wěn)性性數(shù)據(jù)的的模型的的階數(shù)做做出一個個初始的的數(shù)值比比較小的的猜測。(3) 估估計自回回歸和移移動平均均算子多多項式中中的系數(shù)數(shù)。(4) 對對模型進進行診斷斷分析以以確定所所得到的的模型確確實與觀觀測到的的數(shù)據(jù)具具有類似似的特征征。其中數(shù)據(jù)變變化主要要根據(jù)經(jīng)經(jīng)濟時間間序列的的特征，對對數(shù)序列列的差分分是非常常常用的的變換方方法。時時間序列列模型的的估計與與診斷是是后面討討論的主主要內容容。4.8.33 樣本本自相關關函數(shù)為了確定模模型的階階數(shù)，我我們首先先討論自自相關函函數(shù)的估估計問題題。一般般情況下下可以利利用樣本本的矩估估計進行行：，根據(jù)和過程程的性質質，我們們可以根根據(jù)上述述樣本