非平穩(wěn)序列的隨機(jī)分析

非平穩(wěn)序列的隨機(jī)分析本章結(jié)構(gòu)確定性趨勢模型和隨機(jī)趨勢模型ARIMA模型Auto-Regressive模型異方差的性質(zhì)方差齊性變化條件異方差模型第2頁,共122頁，2024年2月25日，星期天4.1確定性趨勢和隨機(jī)趨勢模型確定性趨勢隨機(jī)趨勢第3頁,共122頁，2024年2月25日，星期天確定性趨勢所謂確定性趨勢（deterministictrend），是指模型中含有明確的時間t變量，趨勢可以有t的線性函數(shù)表示。例如：確定性趨勢模型又稱“均值非平穩(wěn)模型”、“趨勢平穩(wěn)模型”。確定性趨勢模型剔除趨勢項(xiàng)即為平穩(wěn)模型。如上例：第4頁,共122頁，2024年2月25日，星期天隨機(jī)趨勢模型隨機(jī)趨勢模型常被稱為單位根過程，模型中AR項(xiàng)含有成分（1-B），典型例子是隨機(jī)游走模型。隨機(jī)趨勢模型又稱“差分平穩(wěn)模型”，可以通過差分剔除趨勢，使模型平穩(wěn)化。如對隨機(jī)游走模型：第5頁,共122頁，2024年2月25日，星期天趨勢模型的比較確定性趨勢模型表現(xiàn)在均值的非平穩(wěn)。隨機(jī)趨勢模型中，每個隨機(jī)干擾項(xiàng)對條件均值的影響是持久的。模型的方差非平穩(wěn)。對不同的非平穩(wěn)模型，應(yīng)使用不同的平穩(wěn)化方法。對于同一模型，兩種趨勢可能兼而有之。第6頁,共122頁，2024年2月25日，星期天差分方式的選擇序列蘊(yùn)含著顯著的線性趨勢，一階差分就可以實(shí)現(xiàn)趨勢平穩(wěn)

序列蘊(yùn)含著曲線趨勢，通常低階（二階或三階）差分就可以提取出曲線趨勢的影響

對于蘊(yùn)含著固定周期的序列進(jìn)行步長為周期長度的差分運(yùn)算，通?？梢暂^好地提取周期信息

第7頁,共122頁，2024年2月25日，星期天例4.1【例4.1】1964年——1999年中國紗年產(chǎn)量序列蘊(yùn)含著一個近似線性的遞增趨勢。對該序列進(jìn)行一階差分運(yùn)算考察差分運(yùn)算對該序列線性趨勢信息的提取作用

第8頁,共122頁，2024年2月25日，星期天差分前后時序圖原序列時序圖差分后序列時序圖第9頁,共122頁，2024年2月25日，星期天例4.2嘗試提取1950年——1999年北京市民用車輛擁有量序列的確定性信息第10頁,共122頁，2024年2月25日，星期天差分后序列時序圖一階差分二階差分第11頁,共122頁，2024年2月25日，星期天例4.3差分運(yùn)算提取1962年1月——1975年12月平均每頭奶牛的月產(chǎn)奶量序列中的確定性信息

第12頁,共122頁，2024年2月25日，星期天差分后序列時序圖一階差分1階－12步差分第13頁,共122頁，2024年2月25日，星期天過差分

足夠多次的差分運(yùn)算可以充分地提取原序列中的非平穩(wěn)確定性信息但過度的差分會造成有用信息的浪費(fèi)

第14頁,共122頁，2024年2月25日，星期天例4.4假設(shè)序列如下

考察一階差分后序列和二階差分序列的平穩(wěn)性與方差第15頁,共122頁，2024年2月25日，星期天比較一階差分平穩(wěn)方差小二階差分（過差分）平穩(wěn)方差大第16頁,共122頁，2024年2月25日，星期天4.2ARIMA模型ARIMA模型結(jié)構(gòu)ARIMA模型性質(zhì)ARIMA模型建模ARIMA模型預(yù)測疏系數(shù)模型季節(jié)模型第17頁,共122頁，2024年2月25日，星期天ARIMA模型結(jié)構(gòu)使用場合差分平穩(wěn)序列擬合模型結(jié)構(gòu)第18頁,共122頁，2024年2月25日，星期天ARIMA模型族d=0ARIMA(p,d,q)=ARMA(p,q)P=0ARIMA(P,d,q)=IMA(d,q)q=0ARIMA(P,d,q)=ARI(p,d)d=1,P=q=0ARIMA(P,d,q)=randomwalkmodel第19頁,共122頁，2024年2月25日，星期天隨機(jī)游走模型(randomwalk)模型結(jié)構(gòu)模型產(chǎn)生典故KarlPearson(1905)在《自然》雜志上提問：假如有個醉漢醉得非常嚴(yán)重，完全喪失方向感，把他放在荒郊野外，一段時間之后再去找他，在什么地方找到他的概率最大呢？第20頁,共122頁，2024年2月25日，星期天ARIMA模型的平穩(wěn)性ARIMA(p,d,q)模型共有p+d個特征根，其中p個在單位圓內(nèi)，d個在單位圓上。所以當(dāng)時ARIMA(p,d,q)模型非平穩(wěn)。例4.5ARIMA(0,1,0)時序圖第21頁,共122頁，2024年2月25日，星期天ARIMA模型的方差齊性時，原序列方差非齊性d階差分后，差分后序列方差齊性第22頁,共122頁，2024年2月25日，星期天ARIMA模型建模步驟獲得觀察值序列平穩(wěn)性檢驗(yàn)差分運(yùn)算YN白噪聲檢驗(yàn)Y分析結(jié)束N擬合ARMA模型第23頁,共122頁，2024年2月25日，星期天例4.6對1952年——1988年中國農(nóng)業(yè)實(shí)際國民收入指數(shù)序列建模

第24頁,共122頁，2024年2月25日，星期天一階差分序列時序圖第25頁,共122頁，2024年2月25日，星期天一階差分序列自相關(guān)圖第26頁,共122頁，2024年2月25日，星期天一階差分后序列白噪聲檢驗(yàn)延遲階數(shù)統(tǒng)計(jì)量P值615.330.01781218.330.10601824.660.1344第27頁,共122頁，2024年2月25日，星期天擬合ARMA模型偏自相關(guān)圖第28頁,共122頁，2024年2月25日，星期天建模定階ARIMA(0,1,1)參數(shù)估計(jì)模型檢驗(yàn)?zāi)Ｐ惋@著參數(shù)顯著第29頁,共122頁，2024年2月25日，星期天ARIMA模型預(yù)測原則最小均方誤差預(yù)測原理

Green函數(shù)遞推公式第30頁,共122頁，2024年2月25日，星期天預(yù)測值第31頁,共122頁，2024年2月25日，星期天例4.7已知ARIMA(1,1,1)模型為

且求的95％的置信區(qū)間

第32頁,共122頁，2024年2月25日，星期天預(yù)測值等價形式計(jì)算預(yù)測值第33頁,共122頁，2024年2月25日，星期天計(jì)算置信區(qū)間Green函數(shù)值方差95％置信區(qū)間第34頁,共122頁，2024年2月25日，星期天例4.6續(xù)：對中國農(nóng)業(yè)實(shí)際國民收入指數(shù)序列做為期10年的預(yù)測

第35頁,共122頁，2024年2月25日，星期天疏系數(shù)模型ARIMA(p,d,q)模型是指d階差分后自相關(guān)最高階數(shù)為p，移動平均最高階數(shù)為q的模型，通常它包含p+q個獨(dú)立的未知系數(shù)：如果該模型中有部分自相關(guān)系數(shù)或部分移動平滑系數(shù)為零，即原模型中有部分系數(shù)省缺了，那么該模型稱為疏系數(shù)模型。第36頁,共122頁，2024年2月25日，星期天疏系數(shù)模型類型如果只是自相關(guān)部分有省缺系數(shù)，那么該疏系數(shù)模型可以簡記為為非零自相關(guān)系數(shù)的階數(shù)如果只是移動平滑部分有省缺系數(shù)，那么該疏系數(shù)模型可以簡記為為非零移動平均系數(shù)的階數(shù)如果自相關(guān)和移動平滑部分都有省缺，可以簡記為第37頁,共122頁，2024年2月25日，星期天例4.8對1917年－1975年美國23歲婦女每萬人生育率序列建模

第38頁,共122頁，2024年2月25日，星期天一階差分第39頁,共122頁，2024年2月25日，星期天自相關(guān)圖第40頁,共122頁，2024年2月25日，星期天偏自相關(guān)圖第41頁,共122頁，2024年2月25日，星期天建模定階ARIMA((1,4),1,0)參數(shù)估計(jì)模型檢驗(yàn)?zāi)Ｐ惋@著參數(shù)顯著第42頁,共122頁，2024年2月25日，星期天季節(jié)模型簡單季節(jié)模型乘積季節(jié)模型

第43頁,共122頁，2024年2月25日，星期天簡單季節(jié)模型簡單季節(jié)模型是指序列中的季節(jié)效應(yīng)和其它效應(yīng)之間是加法關(guān)系簡單季節(jié)模型通過簡單的趨勢差分、季節(jié)差分之后序列即可轉(zhuǎn)化為平穩(wěn)，它的模型結(jié)構(gòu)通常如下

第44頁,共122頁，2024年2月25日，星期天例5.9擬合1962——1991年德國工人季度失業(yè)率序列

第45頁,共122頁，2024年2月25日，星期天差分平穩(wěn)對原序列作一階差分消除趨勢，再作4步差分消除季節(jié)效應(yīng)的影響，差分后序列的時序圖如下

第46頁,共122頁，2024年2月25日，星期天白噪聲檢驗(yàn)延遲階數(shù)統(tǒng)計(jì)量P值643.84<0.00011251.71<0.00011854.48<0.0001第47頁,共122頁，2024年2月25日，星期天差分后序列自相關(guān)圖第48頁,共122頁，2024年2月25日，星期天差分后序列偏自相關(guān)圖第49頁,共122頁，2024年2月25日，星期天模型擬合定階ARIMA((1,4),(1,4),0)參數(shù)估計(jì)第50頁,共122頁，2024年2月25日，星期天模型檢驗(yàn)殘差白噪聲檢驗(yàn)參數(shù)顯著性檢驗(yàn)延遲階數(shù)統(tǒng)計(jì)量P值待估參數(shù)統(tǒng)計(jì)量P值62.090.71915.48<0.00011210.990.3584-3.41<0.0001第51頁,共122頁，2024年2月25日，星期天擬合效果圖第52頁,共122頁，2024年2月25日，星期天 傳統(tǒng)季節(jié)分析方法基于季節(jié)分量是確定性變量，且與其他非季節(jié)分量獨(dú)立。季節(jié)分量也可以是隨機(jī)的，且與非季節(jié)分量相關(guān)，隨機(jī)ARIMA模型推廣到季節(jié)時間序列，形成季節(jié)ARIMA模型，有時簡記為SARIMA模型。乘積季節(jié)模型第53頁,共122頁，2024年2月25日，星期天設(shè)序列存在規(guī)則的周期（S），如果把原序列按周期重新排列，即可得到一個二維列聯(lián)表。乘積季節(jié)模型第54頁,共122頁，2024年2月25日，星期天含義：隨機(jī)季節(jié)模型，是對季節(jié)性隨機(jī)序列中不同周期的同一周期點(diǎn)之間的相關(guān)關(guān)系的一種擬合。季節(jié)型模型的ARMA表達(dá)形式為這里

乘積季節(jié)模型第55頁,共122頁，2024年2月25日，星期天不獨(dú)立，不妨設(shè)

則有

為白噪聲；

乘積季節(jié)模型最終的模型形式為：第56頁,共122頁，2024年2月25日，星期天乘積季節(jié)模型這里表示不同周期的同一周期點(diǎn)上的相關(guān)關(guān)系；

則表示同一周期內(nèi)不同周期點(diǎn)上的相關(guān)關(guān)系。

第57頁,共122頁，2024年2月25日，星期天乘積季節(jié)模型從結(jié)構(gòu)上看，它是季節(jié)模型與ARIMA模型的結(jié)合形式，稱之為乘積季節(jié)模型。常用的兩個模型

記為：第58頁,共122頁，2024年2月25日，星期天例4.10:擬合1948——1981年美國女性月度失業(yè)率序列

第59頁,共122頁，2024年2月25日，星期天差分平穩(wěn)一階、12步差分第60頁,共122頁，2024年2月25日，星期天差分后序列自相關(guān)圖第61頁,共122頁，2024年2月25日，星期天差分后序列偏自相關(guān)圖第62頁,共122頁，2024年2月25日，星期天簡單季節(jié)模型擬合結(jié)果延遲階數(shù)擬合模型殘差白噪聲檢驗(yàn)AR(1,12)MA(1,2,12)ARMA((1,12),(1,12)值P值值P值值P值614.580.00579.50.023315.770.00041216.420.088314.190.115817.990.0213結(jié)果擬合模型均不顯著第63頁,共122頁，2024年2月25日，星期天乘積季節(jié)模型擬合模型定階ARIMA(1,1,1)×(0,1,1)12參數(shù)估計(jì)第64頁,共122頁，2024年2月25日，星期天模型檢驗(yàn)殘差白噪聲檢驗(yàn)參數(shù)顯著性檢驗(yàn)延遲階數(shù)統(tǒng)計(jì)量P值待估參數(shù)統(tǒng)計(jì)量P值64.500.2120-4.66<0.0001129.420.400223.03<0.00011820.580.1507-6.81<0.0001結(jié)果模型顯著參數(shù)均顯著第65頁,共122頁，2024年2月25日，星期天乘積季節(jié)模型擬合效果圖第66頁,共122頁，2024年2月25日，星期天4.3Auto-Regressive模型構(gòu)造思想首先通過確定性因素分解方法提取序列中主要的確定性信息然后對殘差序列擬合自回歸模型，以便充分提取相關(guān)信息

第67頁,共122頁，2024年2月25日，星期天Auto-Regressive模型結(jié)構(gòu)第68頁,共122頁，2024年2月25日，星期天對趨勢效應(yīng)的常用擬合方法自變量為時間t的冪函數(shù)自變量為歷史觀察值第69頁,共122頁，2024年2月25日，星期天對季節(jié)效應(yīng)的常用擬合方法給定季節(jié)指數(shù)建立季節(jié)自回歸模型第70頁,共122頁，2024年2月25日，星期天例4.6續(xù)使用Auto-Regressive模型分析1952年－1988年中國農(nóng)業(yè)實(shí)際國民收入指數(shù)序列。時序圖顯示該序列有顯著的線性遞增趨勢，但沒有季節(jié)效應(yīng)，所以考慮建立如下結(jié)構(gòu)的Auto-Regressive模型

第71頁,共122頁，2024年2月25日，星期天趨勢擬合方法一：變量為時間t的冪函數(shù)方法二：變量為一階延遲序列值

第72頁,共122頁，2024年2月25日，星期天趨勢擬合效果圖第73頁,共122頁，2024年2月25日，星期天殘差自相關(guān)檢驗(yàn)檢驗(yàn)原理回歸模型擬合充分，殘差的性質(zhì)回歸模型擬合得不充分，殘差的性質(zhì)第74頁,共122頁，2024年2月25日，星期天Durbin-Waston檢驗(yàn)（DW檢驗(yàn)）

假設(shè)條件原假設(shè)：殘差序列不存在一階自相關(guān)性

備擇假設(shè)：殘差序列存在一階自相關(guān)性

第75頁,共122頁，2024年2月25日，星期天DW統(tǒng)計(jì)量構(gòu)造統(tǒng)計(jì)量DW統(tǒng)計(jì)量和自相關(guān)系數(shù)的關(guān)系第76頁,共122頁，2024年2月25日，星期天DW統(tǒng)計(jì)量的判定結(jié)果正相關(guān)相關(guān)性待定不相關(guān)相關(guān)性待定負(fù)相關(guān)042第77頁,共122頁，2024年2月25日，星期天例4.6續(xù)

檢驗(yàn)第一個確定性趨勢模型

殘差序列的自相關(guān)性。第78頁,共122頁，2024年2月25日，星期天DW檢驗(yàn)結(jié)果檢驗(yàn)結(jié)果檢驗(yàn)結(jié)論檢驗(yàn)結(jié)果顯示殘差序列高度正自相關(guān)。DW統(tǒng)計(jì)量的值P值0.13781.421.530.0001第79頁,共122頁，2024年2月25日，星期天Durbinh檢驗(yàn)

DW統(tǒng)計(jì)量的缺陷當(dāng)回歸因子包含延遲因變量時，殘差序列的DW統(tǒng)計(jì)量是一個有偏統(tǒng)計(jì)量。在這種場合下使用DW統(tǒng)計(jì)量容易產(chǎn)生殘差序列正自相關(guān)性不顯著的誤判

Durbinh檢驗(yàn)第80頁,共122頁，2024年2月25日，星期天例4.6續(xù)檢驗(yàn)第二個確定性趨勢模型

殘差序列的自相關(guān)性。第81頁,共122頁，2024年2月25日，星期天Dh檢驗(yàn)結(jié)果檢驗(yàn)結(jié)果檢驗(yàn)結(jié)論檢驗(yàn)結(jié)果顯示殘差序列高度正自相關(guān)。Dh統(tǒng)計(jì)量的值P值2.80380.0025第82頁,共122頁，2024年2月25日，星期天殘差序列擬合確定自回歸模型的階數(shù)參數(shù)估計(jì)模型檢驗(yàn)第83頁,共122頁，2024年2月25日，星期天例4.6續(xù)對第一個確定性趨勢模型的殘差序列進(jìn)行擬合第84頁,共122頁，2024年2月25日，星期天殘差序列自相關(guān)圖第85頁,共122頁，2024年2月25日，星期天殘差序列偏自相關(guān)圖第86頁,共122頁，2024年2月25日，星期天模型擬合定階AR(2)參數(shù)估計(jì)方法極大似然估計(jì)最終擬合模型口徑第87頁,共122頁，2024年2月25日，星期天例4.6第二個Auto－Regressive模型的擬合結(jié)果第88頁,共122頁，2024年2月25日，星期天三個擬合模型的比較模型AICSBCARIMA(0,1,1)模型：249.3305252.4976Auto－Regressive模型一：260.8454267.2891Auto－Regressive模型二：250.6317253.7987第89頁,共122頁，2024年2月25日，星期天4.4異方差的性質(zhì)異方差的定義如果隨機(jī)誤差序列的方差會隨著時間的變化而變化，這種情況被稱作為異方差異方差的影響忽視異方差的存在會導(dǎo)致殘差的方差會被嚴(yán)重低估，繼而參數(shù)顯著性檢驗(yàn)容易犯納偽錯誤，這使得參數(shù)的顯著性檢驗(yàn)失去意義，最終導(dǎo)致模型的擬合精度受影響。

第90頁,共122頁，2024年2月25日，星期天異方差直觀診斷殘差圖殘差平方圖第91頁,共122頁，2024年2月25日，星期天殘差圖方差齊性殘差圖遞增型異方差殘差圖第92頁,共122頁，2024年2月25日，星期天殘差平方圖原理殘差序列的方差實(shí)際上就是它平方的期望。所以考察殘差序列是否方差齊性，主要是考察殘差平方序列是否平穩(wěn)

第93頁,共122頁，2024年2月25日，星期天例4.11直觀考察美國1963年4月——1971年7月短期國庫券的月度收益率序列的方差齊性。

第94頁,共122頁，2024年2月25日，星期天一階差分后殘差圖第95頁,共122頁，2024年2月25日，星期天一階差分后殘差平方圖第96頁,共122頁，2024年2月25日，星期天異方差處理方法假如已知異方差函數(shù)具體形式，進(jìn)行方差齊性變化假如不知異方差函數(shù)的具體形式，擬合條件異方差模型第97頁,共122頁，2024年2月25日，星期天4.5方差齊性變換使用場合序列顯示出顯著的異方差性，且方差與均值之間具有某種函數(shù)關(guān)系

其中：是某個已知函數(shù)處理思路嘗試尋找一個轉(zhuǎn)換函數(shù)，使得經(jīng)轉(zhuǎn)換后的變量滿足方差齊性第98頁,共122頁，2024年2月25日，星期天轉(zhuǎn)換函數(shù)的確定原理轉(zhuǎn)換函數(shù)在附近作一階泰勒展開求轉(zhuǎn)換函數(shù)的方差轉(zhuǎn)換函數(shù)的確定第99頁,共122頁，2024年2月25日，星期天常用轉(zhuǎn)換函數(shù)的確定假定轉(zhuǎn)換函數(shù)的確定第100頁,共122頁，2024年2月25日，星期天例4.11續(xù)對美國1963年4月——1971年7月短期國庫券的月度收益率序列使用方差齊性變換方法進(jìn)行分析

假定函數(shù)變換第101頁,共122頁，2024年2月25日，星期天對數(shù)序列時序圖第102頁,共122頁，2024年2月25日，星期天一階差分后序列圖第103頁,共122頁，2024年2月25日，星期天白噪聲檢驗(yàn)延遲階數(shù)LB統(tǒng)計(jì)量P值63.580.73371210.820.54411821.710.2452第104頁,共122頁，2024年2月25日，星期天擬合模型口徑及擬合效果圖第105頁,共122頁，2024年2月25日，星期天4.6條件異方差模型ARCH模型GARCH模型GARCH模型的變體EGARCH模型IGARCH模型GARCH-M模型AR-GARCH模型第106頁,共122頁，2024年2月25日，星期天ARCH模型假定原理通過構(gòu)造殘差平方序列的自回歸模型來擬合異方差函數(shù)

ARCH(q)模型結(jié)構(gòu)第107頁,共122頁，2024年2月25日，星期天GARCH模型結(jié)構(gòu)使用場合ARCH模型實(shí)際上適用于異方差函數(shù)短期自相關(guān)過程