平穩(wěn)時間序列模型的建立

1、平穩(wěn)時間序列模型的建立第1頁，共100頁，2022年，5月20日，7點2分，星期三1、建模流程 （有限長度）時序樣本模型識別與定階模型參數(shù)估計模型適用性檢驗?zāi)Ｐ蛢?yōu)化2、基本前提 平穩(wěn)序列Xt 零均值序列EXt=0建模步驟第2頁，共100頁，2022年，5月20日，7點2分，星期三流程圖平穩(wěn)非白噪聲序列計算樣本相關(guān)系數(shù)模型識別參數(shù)估計模型檢驗?zāi)Ｐ蛢?yōu)化序列預(yù)測YN第3頁，共100頁，2022年，5月20日，7點2分，星期三一、平穩(wěn)性檢驗二、純隨機(jī)性檢驗三、計算樣本自相關(guān)函數(shù)四、關(guān)于非零均值的平穩(wěn)序列第一節(jié) 時間序列的預(yù)處理第4頁，共100頁，2022年，5月20日，7點2分，星期三本章所介紹的是對

2、零均值平穩(wěn)序列建立ARMA模型，因此，在對實際的序列進(jìn)行模型識別之前，應(yīng)首先檢驗序列是否平穩(wěn)，若序列非平穩(wěn)，應(yīng)先通過適當(dāng)變換將其化為平穩(wěn)序列，然后再進(jìn)行模型識別.第5頁，共100頁，2022年，5月20日，7點2分，星期三序列的非平穩(wěn)包括均值非平穩(wěn)和方差非平穩(wěn).均值非平穩(wěn)序列平穩(wěn)化的方法：差分變換.方差非平穩(wěn)序列平穩(wěn)化的方法：對數(shù)變換、平方根變換等.序列平穩(wěn)性的檢驗方法和手段主要有：序列趨勢圖、自相關(guān)圖、單位根檢驗、非參數(shù)檢驗方法等等.第6頁，共100頁，2022年，5月20日，7點2分，星期三一、平穩(wěn)性檢驗圖檢驗方法（一）時序圖檢驗 根據(jù)平穩(wěn)時間序列均值、方差為常數(shù)的性質(zhì)，平穩(wěn)序列的時序圖應(yīng)

3、該顯示出該序列始終在一個常數(shù)值附近隨機(jī)波動，而且波動的范圍有界、無明顯趨勢及周期特征.（二）自相關(guān)圖檢驗 平穩(wěn)序列通常具有短期相關(guān)性.該性質(zhì)用自相關(guān)函數(shù)來描述就是隨著延遲期數(shù)的增加，平穩(wěn)序列的自相關(guān)函數(shù)會很快地衰減向零.第7頁，共100頁，2022年，5月20日，7點2分，星期三例題例1檢驗1964年1999年中國紗年產(chǎn)量序列的平穩(wěn)性例2檢驗1962年1月1975年12月平均每頭奶牛月產(chǎn)奶量序列的平穩(wěn)性例3檢驗1949年1998年北京市每年最高氣溫序列的平穩(wěn)性第8頁，共100頁，2022年，5月20日，7點2分，星期三例1 時序圖第9頁，共100頁，2022年，5月20日，7點2分，星期三例1

4、 自相關(guān)圖第10頁，共100頁，2022年，5月20日，7點2分，星期三例2 時序圖第11頁，共100頁，2022年，5月20日，7點2分，星期三例2 自相關(guān)圖第12頁，共100頁，2022年，5月20日，7點2分，星期三例3 時序圖第13頁，共100頁，2022年，5月20日，7點2分，星期三例3 自相關(guān)圖第14頁，共100頁，2022年，5月20日，7點2分，星期三（一）純隨機(jī)序列的定義純隨機(jī)序列也稱為白噪聲序列，它滿足如下兩條性質(zhì) 二、純隨機(jī)性檢驗 第15頁，共100頁，2022年，5月20日，7點2分，星期三（二）純隨機(jī)性檢驗 檢驗原理 假設(shè)條件 檢驗統(tǒng)計量 判別原則應(yīng)用舉例第16頁，

5、共100頁，2022年，5月20日，7點2分，星期三Barlett定理 如果一個時間序列是純隨機(jī)的，得到一個觀察期數(shù)為 的觀察序列，那么該序列的延遲非零期的樣本自相關(guān)系數(shù)將近似服從均值為零，方差為序列觀察期數(shù)倒數(shù)的正態(tài)分布1、檢驗原理第17頁，共100頁，2022年，5月20日，7點2分，星期三2、假設(shè)條件原假設(shè)：延遲期數(shù)小于或等于 期的序列值之間相互獨立備擇假設(shè)：延遲期數(shù)小于或等于 期的序列值之間有相關(guān)性 第18頁，共100頁，2022年，5月20日，7點2分，星期三3、檢驗統(tǒng)計量Q統(tǒng)計量 LB統(tǒng)計量 第19頁，共100頁，2022年，5月20日，7點2分，星期三4、判別原則拒絕原假設(shè)當(dāng)檢驗

6、統(tǒng)計量大于 分位點，或該統(tǒng)計量的P值小于 時，則可以以 的置信水平拒絕原假設(shè)，認(rèn)為該序列為非白噪聲序列接受原假設(shè)當(dāng)檢驗統(tǒng)計量小于 分位點，或該統(tǒng)計量的P值大于 時，則認(rèn)為在 的置信水平下無法拒絕原假設(shè)，即不能顯著拒絕序列為純隨機(jī)序列的假定 第20頁，共100頁，2022年，5月20日，7點2分，星期三例4、標(biāo)準(zhǔn)正態(tài)白噪聲序列純隨機(jī)性檢驗樣本自相關(guān)圖5、應(yīng)用舉例第21頁，共100頁，2022年，5月20日，7點2分，星期三檢驗結(jié)果延遲統(tǒng)計量檢驗統(tǒng)計量值P值延遲6期2.360.8838延遲12期5.350.9454由于P值顯著大于顯著性水平 ，所以該序列不能拒絕純隨機(jī)的原假設(shè).第22頁，共100頁

7、，2022年，5月20日，7點2分，星期三例5、對1950年1998年北京市城鄉(xiāng)居民定期儲蓄所占比例序列的平穩(wěn)性與純隨機(jī)性進(jìn)行檢驗 第23頁，共100頁，2022年，5月20日，7點2分，星期三 自相關(guān)圖第24頁，共100頁，2022年，5月20日，7點2分，星期三白噪聲檢驗結(jié)果延遲階數(shù)LB統(tǒng)計量檢驗LB檢驗統(tǒng)計量的值P值675.460.00011282.57p以后截尾，即kp 時， ，而且它的自相關(guān)函數(shù) 拖尾，則可判斷此序列是AR(p)序列.第31頁，共100頁，2022年，5月20日，7點2分，星期三若序列xt的自相關(guān)函數(shù) 在kq以后截尾，即kq 時， ，而且它的偏自相關(guān)函數(shù) 拖尾，則可判

8、斷此序列是MA(q)序列.若序列xt的自相關(guān)函數(shù)、偏相關(guān)函數(shù)都呈拖尾形態(tài)，則可斷言此序列是ARMA序列.若序列的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)不但都不截尾，而且至少有一個下降趨勢勢緩慢或呈周期性衰減，則可認(rèn)為它也不是拖尾的，此時序列是非平穩(wěn)序列，應(yīng)先將其轉(zhuǎn)化為平穩(wěn)序列后再進(jìn)行模型識別.第32頁，共100頁，2022年，5月20日，7點2分，星期三模型定階的困難因為由于樣本的隨機(jī)性，樣本的相關(guān)系數(shù)不會呈現(xiàn)出理論截尾的完美情況，本應(yīng)截尾的 或 仍會呈現(xiàn)出小值振蕩的情況由于平穩(wěn)時間序列通常都具有短期相關(guān)性，隨著延遲階數(shù) ， 與 都會衰減至零值附近作小值波動？當(dāng) 或 在延遲若干階之后衰減為小值波動時，什么情

9、況下該看作為相關(guān)系數(shù)截尾，什么情況下該看作為相關(guān)系數(shù)在延遲若干階之后正常衰減到零值附近作拖尾波動呢？ 二、模型定階第33頁，共100頁，2022年，5月20日，7點2分，星期三樣本相關(guān)系數(shù)的近似分布BarlettQuenouille1、經(jīng)驗定階方法第34頁，共100頁，2022年，5月20日，7點2分，星期三95的置信區(qū)間第35頁，共100頁，2022年，5月20日，7點2分，星期三模型定階的經(jīng)驗方法如果樣本(偏)自相關(guān)系數(shù)在最初的p階明顯大于兩倍標(biāo)準(zhǔn)差范圍，而后幾乎95的自相關(guān)系數(shù)都落在2倍標(biāo)準(zhǔn)差的范圍以內(nèi)，而且通常由非零自相關(guān)系數(shù)衰減為小值波動的過程非常突然.這時，通常視為(偏)自相關(guān)系數(shù)

10、截尾.截尾階數(shù)為p.第36頁，共100頁，2022年，5月20日，7點2分，星期三例1上海延中實業(yè)股票數(shù)據(jù)識別（一階差分后）平均每日生產(chǎn)汽車廢品數(shù)據(jù)的識別(n=45)美國女性失業(yè)月數(shù)據(jù)識別（差分后）第37頁，共100頁，2022年，5月20日，7點2分，星期三上海延中實業(yè)股份有限公司是上海首家向社會公開發(fā)行股票的企業(yè). 1985年1月底發(fā)行股票500萬元，其中由上海延中復(fù)印工業(yè)公司出資30萬元.上海延中實業(yè)股票收盤價基本反映了滬市股票的大致走向.總觀測期n619，先作出原序列的樣本自相關(guān)函數(shù)和樣本偏相關(guān)函數(shù)，其結(jié)果見表1和圖1.上海延中實業(yè)股票數(shù)據(jù)識別（一階差分后）第38頁，共100頁，202

11、2年，5月20日，7點2分，星期三表1 延中股票的樣本自相關(guān)和樣本偏自相關(guān)函數(shù)值第39頁，共100頁，2022年，5月20日，7點2分，星期三美國1961年1月至1985年12月間女性失業(yè)月人數(shù)時間序列美國女性失業(yè)月數(shù)據(jù)識別（差分后）第40頁，共100頁，2022年，5月20日，7點2分，星期三第41頁，共100頁，2022年，5月20日，7點2分，星期三第42頁，共100頁，2022年，5月20日，7點2分，星期三第43頁，共100頁，2022年，5月20日，7點2分，星期三第44頁，共100頁，2022年，5月20日，7點2分，星期三第45頁，共100頁，2022年，5月20日，7點2分，

12、星期三第46頁，共100頁，2022年，5月20日，7點2分，星期三2、殘差方差圖定階法（1）基本思想如果擬合的模型階數(shù)與真正階數(shù)不符合，則模型的殘差平方和SSE必然偏大，殘差方差將比真正模型的殘差方差大。如果是不足擬合，那么逐漸增加模型階數(shù)，模型的殘差方差會漸減少，直到殘差方差達(dá)到最小。如果是過度擬合，此時逐漸少模型階數(shù)，模型殘差方差分逐漸下降，直到殘差方差達(dá)到最小。第47頁，共100頁，2022年，5月20日，7點2分，星期三（2）殘差方差的估計公式注：式中 “實際觀察值個數(shù)”是指擬合模型時實際使用的觀察值項數(shù)，即經(jīng)過平穩(wěn)化后的有效樣本容量。設(shè)原序列有n個樣本，若建立的模型中有含有自回歸A

13、R部分, 且階數(shù)為p，則實際觀察值個數(shù)為n-p個。若沒有AR部分，則實際觀察值個數(shù)即為n個。模型的參數(shù)個數(shù)指模型中所含的參數(shù)個數(shù)，如：若是不帶常數(shù)項的ARMA(p,q)模型，參數(shù)個數(shù)為p+q個，若帶有常數(shù)項，則參數(shù)個數(shù)為p+q+1個。第48頁，共100頁，2022年，5月20日，7點2分，星期三用Eviews建立ARMA模型后，可直接得到剩余平方和SSE(Sum squared resid)輸出結(jié)果中也可直接得到殘差標(biāo)準(zhǔn)差： S.E.of regression ，此項的平方即為殘差方差。因此，對不同的模型殘差方差進(jìn)行比較，直接比較此項既可。第49頁，共100頁，2022年，5月20日，7點2分

14、，星期三例：以磨輪剖面數(shù)據(jù)為例，分別建立適應(yīng)性模型，輸出結(jié)果見圖示，從中選擇最佳模型。第50頁，共100頁，2022年，5月20日，7點2分，星期三第51頁，共100頁，2022年，5月20日，7點2分，星期三第52頁，共100頁，2022年，5月20日，7點2分，星期三第53頁，共100頁，2022年，5月20日，7點2分，星期三三個模型殘差方差比較第54頁，共100頁，2022年，5月20日，7點2分，星期三3、F檢驗定階法基本思想（以一般情形和ARMA(p,q)模型為例）先對數(shù)據(jù)擬合ARMA(p,q)模型(假設(shè)不含常數(shù)項)，設(shè)其殘差平方和為Q0，再對數(shù)據(jù)擬合 較低階的模型ARMA(p-m

15、,q-s)，設(shè)其殘差平方和為Q1。建立原假：第55頁，共100頁，2022年，5月20日，7點2分，星期三在原假設(shè)成立的條件下有：于是計算統(tǒng)計量F，在給定的顯著性水平下。若FF ，則拒絕原假設(shè)，說明兩模型差異是顯著的，此時模型階數(shù)存在升高的可能性。若FF ，此不能拒絕原假設(shè)，說明兩模型差異不顯著，此時模型階數(shù)存在降低的可能性。注：F檢驗定階法的應(yīng)用條件：兩模型中有一個為合適模型。第56頁，共100頁，2022年，5月20日，7點2分，星期三4、最佳準(zhǔn)則函數(shù)定階法最佳準(zhǔn)則函數(shù)法，即確定出一個準(zhǔn)則函數(shù)，該函數(shù)既要考慮某一模型擬合時對原始數(shù)據(jù)的接近程度，同時又要考慮模型中所含待定參數(shù)的個數(shù)。建模時，

16、使準(zhǔn)則函數(shù)達(dá)到極小的是最佳模型。第57頁，共100頁，2022年，5月20日，7點2分，星期三4.1 赤池的AIC準(zhǔn)則和BIC準(zhǔn)則 4.1.1 AIC 準(zhǔn)則(Akaike iformationcriterion) AIC準(zhǔn)則是1973年由赤池（Akaike）提出，此準(zhǔn)則是對FPE準(zhǔn)則(用來判別AR模型的階數(shù)是否合適)的推廣，用來識別ARMA模型的階數(shù)。第58頁，共100頁，2022年，5月20日，7點2分，星期三AIC準(zhǔn)則函數(shù)為：式中，M為模型中參數(shù)的個數(shù)。AIC的簡化式為：式中： 是殘差方差 的極大似然估計值。第59頁，共100頁，2022年，5月20日，7點2分，星期三Eviews輸出的A

17、kaike info criterion與上述形式略有差別(參見Eviews help)，其定義為：其中：n是實際觀察值的個數(shù)。第60頁，共100頁，2022年，5月20日，7點2分，星期三4.1.2 BIC準(zhǔn)則柴田（Shibata）1976年證明AIC有過分估計自回歸參數(shù)的傾向，于是Akaike又提出了AIC方法的貝葉斯擴(kuò)展，即BIC。BIC準(zhǔn)則函數(shù)為：式中：C為常數(shù)。余同前。第61頁，共100頁，2022年，5月20日，7點2分，星期三4.2 施瓦茨(Schwarz)的SC準(zhǔn)則此準(zhǔn)則1978年由Schwarz提出，被稱為SBC(Schwartzs Bayesian criterion)。準(zhǔn)

18、則函數(shù)：簡化式為：第62頁，共100頁，2022年，5月20日，7點2分，星期三同樣Eviews輸出的結(jié)果與上形式略有差別，其定義為：第63頁，共100頁，2022年，5月20日，7點2分，星期三準(zhǔn)則函數(shù)使用注意1、當(dāng)樣本量趨于無窮時，用AIC準(zhǔn)則挑選的最佳模型的階數(shù)往往比真實模型階數(shù)高，而用SBC準(zhǔn)則確定的最佳模型的階數(shù)往往與真實模型的階數(shù)相一致。2、樣本量不是很大時，SBC準(zhǔn)則的定階效果不及AIC。第64頁，共100頁，2022年，5月20日，7點2分，星期三一、矩估計二、極大似然估計三、最小二乘估計 第三節(jié) 模型參數(shù)估計第65頁，共100頁，2022年，5月20日，7點2分，星期三一、矩

19、估計原理樣本自相關(guān)系數(shù)估計總體自相關(guān)系數(shù)樣本一階均值估計總體均值，樣本方差估計總體方差第66頁，共100頁，2022年，5月20日，7點2分，星期三例1 求AR(2)模型系數(shù)的矩估計AR(2)模型Yule-Walker方程矩估計（Yule-Walker方程的解）第67頁，共100頁，2022年，5月20日，7點2分，星期三例2 求MA(1)模型系數(shù)的矩估計MA(1)模型方程矩估計第68頁，共100頁，2022年，5月20日，7點2分，星期三例3 求ARMA(1,1)模型系數(shù)的矩估計ARMA(1,1)模型方程矩估計第69頁，共100頁，2022年，5月20日，7點2分，星期三對矩估計的評價優(yōu)點估

20、計思想簡單直觀不需要假設(shè)總體分布計算量小（低階模型場合）缺點信息浪費嚴(yán)重只用到了p+q個樣本自相關(guān)系數(shù)信息，其他信息都被忽略估計精度差通常矩估計方法被用作極大似然估計和最小二乘估計迭代計算的初始值 第70頁，共100頁，2022年，5月20日，7點2分，星期三二、極大似然估計原理在極大似然準(zhǔn)則下，認(rèn)為樣本來自使該樣本出現(xiàn)概率最大的總體。因此未知參數(shù)的極大似然估計就是使得似然函數(shù)（即聯(lián)合密度函數(shù)）達(dá)到最大的參數(shù)值 第71頁，共100頁，2022年，5月20日，7點2分，星期三似然方程由于 和 都不是 的顯式表達(dá)式。因而似然方程組實際上是由p+q+1個超越方程構(gòu)成，通常需要經(jīng)過復(fù)雜的迭代算法才能求

21、出未知參數(shù)的極大似然估計值 第72頁，共100頁，2022年，5月20日，7點2分，星期三對極大似然估計的評價優(yōu)點極大似然估計充分應(yīng)用了每一個觀察值所提供的信息，因而它的估計精度高同時還具有估計的一致性、漸近正態(tài)性和漸近有效性等許多優(yōu)良的統(tǒng)計性質(zhì)缺點需要假定總體分布第73頁，共100頁，2022年，5月20日，7點2分，星期三三、最小二乘估計原理使殘差平方和達(dá)到最小的那組參數(shù)值即為最小二乘估計值 第74頁，共100頁，2022年，5月20日，7點2分，星期三條件最小二乘估計實際中最常用的參數(shù)估計方法假設(shè)條件殘差平方和方程解法迭代法第75頁，共100頁，2022年，5月20日，7點2分，星期三對

22、最小二乘估計的評價優(yōu)點最小二乘估計充分應(yīng)用了每一個觀察值所提供的信息，因而它的估計精度高條件最小二乘估計方法使用率最高缺點需要假定總體分布第76頁，共100頁，2022年，5月20日，7點2分，星期三例4 確定1950年1998年北京市城鄉(xiāng)居民定期儲蓄比例序列擬合模型的口徑 擬合模型：AR(1)估計方法：極大似然估計模型口徑第77頁，共100頁，2022年，5月20日，7點2分，星期三例5確定美國科羅拉多州某一加油站連續(xù)57天的OVERSHORTS序列擬合模型的口徑 擬合模型：MA(1)估計方法：條件最小二乘估計模型口徑第78頁，共100頁，2022年，5月20日，7點2分，星期三例6確定18

23、80-1985全球氣表平均溫度改變值差分序列擬合模型的口徑 擬合模型：ARMA(1,1)估計方法：條件最小二乘估計模型口徑第79頁，共100頁，2022年，5月20日，7點2分，星期三一、模型檢驗二、模型的優(yōu)化 第四節(jié) 模型檢驗與優(yōu)化第80頁，共100頁，2022年，5月20日，7點2分，星期三一、模型的檢驗1、模型的平穩(wěn)可逆性檢驗Eviews 估計結(jié)果直接輸出自回歸部分所對應(yīng)的差分方程的特征根:inverted AR root.移動平均部分所對應(yīng)的差分方程的特征方程的特征根：inverted MA root.第81頁，共100頁，2022年，5月20日，7點2分，星期三目的檢驗?zāi)Ｐ偷挠行裕?/p>

24、對信息的提取是否充分）檢驗對象殘差序列判定原則一個好的擬合模型應(yīng)該能夠提取觀察值序列中幾乎所有的樣本相關(guān)信息，即殘差序列應(yīng)該為白噪聲序列. 反之，如果殘差序列為非白噪聲序列，那就意味著殘差序列中還殘留著相關(guān)信息未被提取，這就說明擬合模型不夠有效.2、模型的顯著性（適應(yīng)性）檢驗第82頁，共100頁，2022年，5月20日，7點2分，星期三假設(shè)條件原假設(shè)：殘差序列為白噪聲序列備擇假設(shè)：殘差序列為非白噪聲序列第83頁，共100頁，2022年，5月20日，7點2分，星期三檢驗統(tǒng)計量LB統(tǒng)計量第84頁，共100頁，2022年，5月20日，7點2分，星期三例1檢驗1950年1998年北京市城鄉(xiāng)居民定期儲蓄

25、比例序列擬合模型的顯著性 殘差白噪聲序列檢驗結(jié)果延遲階數(shù)LB統(tǒng)計量P值檢驗結(jié)論65.830.3229擬合模型顯著有效1210.280.50501811.380.8361第85頁，共100頁，2022年，5月20日，7點2分，星期三3、參數(shù)顯著性檢驗?zāi)康臋z驗每一個未知參數(shù)是否顯著非零.刪除不顯著參數(shù)使模型結(jié)構(gòu)最精簡 假設(shè)條件檢驗統(tǒng)計量第86頁，共100頁，2022年，5月20日，7點2分，星期三例2檢驗1950年1998年北京市城鄉(xiāng)居民定期儲蓄比例序列極大似然估計模型的參數(shù)是否顯著 參數(shù)檢驗結(jié)果檢驗參數(shù)t統(tǒng)計量P值結(jié)論均值46.120.0001顯著6.720.0001顯著第87頁，共100頁，2

26、022年，5月20日，7點2分，星期三例3 對OVERSHORTS序列的擬合模型進(jìn)行檢驗 殘差白噪聲檢驗參數(shù)顯著性檢驗檢驗參數(shù)t統(tǒng)計量P值結(jié)論均值3.750.0004顯著10.600.0001顯著延遲階數(shù)LB統(tǒng)計量P值結(jié)論63.150.6772模型顯著有效129.050.6171第88頁，共100頁，2022年，5月20日，7點2分，星期三例4 對1880-1985全球氣表平均溫度改變值差分序列擬合模型進(jìn)行檢驗 殘差白噪聲檢驗參數(shù)顯著性檢驗檢驗參數(shù)t統(tǒng)計量P值結(jié)論16.340.0001顯著3.50.0007顯著延遲階數(shù)LB統(tǒng)計量P值結(jié)論65.280.2595模型顯著有效1210.300.4247第89頁，共100頁，2022年，5月20日，7點2分，星期三二、模型優(yōu)化問題提出當(dāng)一個擬合模型通過了檢驗，說明在一定的置信水平下，該模型能有效地擬合觀察值序列的波動，但這種有效模型并不是唯一的.優(yōu)化的目的選擇相對最優(yōu)模型 第90頁，共100頁，2022年，5月20日，7點2分，星期三例7 擬合某一化