平穩(wěn)時間序列解析總結計劃

安穩(wěn)時間序列分析總結方案安穩(wěn)時間序列分析總結方案PAGEPAGE36安穩(wěn)時間序列分析總結方案PAGE第3章安穩(wěn)時間序列剖析

一個序列經過預辦理被辨別為安穩(wěn)非白噪聲序列，那就說明該序列是一個包含著有關信息的安穩(wěn)序列。3.1方法性工具

3.1.1差分運算

一、p階差分

記xt為xt的1階差分：xtxtxt1記2xt為xt的2階差分：2xtxtxt1xt2xt1xt2以此類推：記pxt為xt的p階差分：pxtp1xtp1xt1二、k步差分記kt為x的k步差分：kxtxtxtkxt延緩算子一、定義延緩算子相當與一個時間指針，目前序列值乘以一個延緩算子，就相當于把目前序列值的時間向過去撥了一個時刻。記B為延緩算子，有xt1Bxtxt2B2xtxtpBPxt二、用延緩算子表示差分運算1、p階差分pxt(1B)pxt

延緩算子的性質：1.B012.假定c為任一常數，有B(cxt)cB(xt)cxt13.對隨意倆個序列{xt}和{yt}，有B(xtyt)xt1yt14.Bnxtxtnnn!5.(1B)n(1)iCniBi,此中Cnii0i!(ni)!2、k步差分kxtxtxtk(1Bk)xtARMA模型的性質AR模型定義擁有以下構造的模型稱為p階自回歸模型，簡記為AR(p):xt01xt12xt2pxtptp0,E(t)0,Var(t)2,E(st)0,st(3.4)Exst0,stAR(p)模型有三個限制條件：條件一：p0。這個限制條件保證了模型的最高階數為p。條件二：E(t)0,Var(t)2,E(st)0,st。這個限制條件其實是要求隨機擾亂序列{t}為零均值白噪聲序列。條件三：Exst0,st。這個限制條件說明當期的隨機擾亂與過去的序列值沒關。往常把AR(p)模型簡記為：xt01xt12xt2pxtpt(3.5)當00時，自回歸模型式(3.4)又稱為中心化AR(p)模型。非中心化AR(p)序列能夠經過下邊變化中心化AR(p)系列。令0,ytxt112p{yt}為{xt}的中心化序列。AR(p)模型又能夠記為：(B)xtt，此中(B)11B2B2pBp稱為p階自回歸系數多項式二、AR模型安穩(wěn)性判斷P45【例】觀察以下四個AR模型的安穩(wěn)性：(1)xtt1t(2)xtt1t(3)xtxt1t2t(4)xtxt1t2t擬合這四個序列的序列值，并會繪制時序圖，發(fā)現(1)(3)模型安穩(wěn)，(2)(4)模型非安穩(wěn)1、特色根鑒別任一此中心化AR(p)模型(B)xtt都能夠視為一個非齊次線性差分方程。xt01xt12xt2pxtpt那么其齊次線性方程(B)xt0的特色方程為：xp1xp12xp2p0設1,2,,p為齊次線性方程(B)xt(11B2B2pBp)xt0的p個特色根。所以AR(p)模型安穩(wěn)的充要條件是它的p個特色根1,2,,p都在單位圓內。同時等價于：AR模型的自回歸系數多項式的根，即(u)0的根，都在單位圓外。證明：設1,2,,p為齊次線性方程(B)xt0的p個特色根，任取i,i(1,2p)，帶入特色方程：pp1p20i1i2ip把ui1(B)0中，有帶入i(ui)11111[pp1p2p]0122pppi1i2iiiii(B)能夠因子分解成：p依據這個性質，(B)(1iB)，i1(B)xtttpki于是能夠獲得非其次線性方程t的一個特解：xt(B)pi11t(1iB)iBi1、安穩(wěn)域鑒別使得特色方程xt01xt12xt2pxtp0的全部特色根都在單位圓內的系數會合{1,2,,p|特色根都在單位圓內}被稱為AR(p)模型的安穩(wěn)域。(1)AR(1)模型的安穩(wěn)域AR(1)模型為：xtxt1t，其特色方程為：0，特色根為：。那么AR〔1〕模型安穩(wěn)的充要條件是1,那么AR(1)模型的安穩(wěn)域是{11}(2)AR(2)模型的安穩(wěn)域AR(2)模型為：xt1xt12xt2t。其特色方程為：20，特色根為：12242,224211111。那么AR〔2〕模型安穩(wěn)的充要條件是：11且21，進而有：22{所以能夠導出：

121,且11，211221)21212)1212121(11)(12)13)2112121(11)(12)1所以AR(2)模型的安穩(wěn)域：{1,2|21,且121}【例續(xù)】分別用特色根鑒別法和安穩(wěn)域鑒別法查驗以下四個AR模型的安穩(wěn)性：(1)xtt1t(2)xtt1t(3)xtxt1t2t(4)xtxt2tt1此中{t}~WN(0,2)模型特色根鑒別安穩(wěn)域鑒別結論1)12)13)1i,1i20.5,120.5,2112224)131320.5,121.5,21,1222三、安穩(wěn)AR模型的統(tǒng)計性質1、均值假定AR(p)知足了安穩(wěn)性條件，于是ExtE(01xt12xt2pxtpt)由安穩(wěn)序列均值為常數的性質得：Ext(tT)，因為{t}~WN(0,2)，所以(3.12)等價于(112p)0112p特別關于中心化AR(p)模型有Ext0。、方差(1)Green函數。設1,2,,p為安穩(wěn)AR(p)模型的特色根，那么安穩(wěn)AR(p)模型能夠寫成：tpkipki(iB)jpjxti11iBttkiitj?Gjtj(B)i1j0j0i1j0pkii(j1,2,)，系數Gj(j1,2，〕此中Gjj稱為Green函數。i1pBj，那么(3.13)簡記為：xt記G(B)GjG(B)ti1再將(3.14)帶入AR(p)模型(B)xtt中，獲得(B)G(B)ttGreen函數的遞推公式為：G01jGjkGjk,j1,2,k1{k,kp此中k0,kp

安穩(wěn)非安穩(wěn)安穩(wěn)非安穩(wěn)(3.12)(3.13)(3.14)(2)安穩(wěn)AR模型的方差。對安穩(wěn)AR模型xtG(B)t兩邊就方差，有Var(xt)Var(GjBjt)Var(Gjtj)G2jVar(t)Gj22j0j0j0j0因為Gj2，這說明安穩(wěn)序列{xt}方差有界，等于常數Gj22j0j0【例】求安穩(wěn)AR(1)模型的方差。AR(1)模型：(1tjj1B)xttxt(1B)t1tj(11B)j0j0Green函數為：Gj1j,(j0,1,)，所以安穩(wěn)AR(1)模型的方差為：22j22Var(xt)GjVar(t)112j0j013、協(xié)方差函數在安穩(wěn)模型xt01xt12xt2pxtpt等號兩邊同時乘xtk(k1)，再求希望，得E(xtxtk)1E(xt1xtk)2E(xt2xtk)pE(xtpxtk)E(txtk)又由E(txtk)0,k1，kE(xtxtk)，能夠獲得自協(xié)方差函數的遞推公式：k1k12k2pkp(3.17)【例】求安穩(wěn)AR(1)模型的自協(xié)方差函數。安穩(wěn)AR(1)模型的自協(xié)方差函數的遞推公式是：kk1k1102k2又由【例】知，02，所以安穩(wěn)AR(1)模型的自協(xié)方差函數的遞推公式是：2,k11k1111【例】求安穩(wěn)AR(2)模型的自協(xié)方差函數。求安穩(wěn)AR(2)模型的自協(xié)方差函數的遞推公式為：

k1k12k2,k1，特別地，當k=1時，有11021，即10101利用Green函數能夠推出AR(2)模型的協(xié)方差：01222)(12)(12)(111所以安穩(wěn)AR(2)模型的協(xié)方差函數的推導公式為：01222)(12)(12)(11101101k1k12k2,k24、自有關系數(1)安穩(wěn)AR模型自有關系數的推導公式。因為kk，式(3.17)兩邊同時除以0，能夠獲得自有關系數的推導公式：0k1k12k2pkp安穩(wěn)AR(1)模型的自有關系數推導公式：k1k,k0安穩(wěn)AR(2)模型的自有關系數推導公式：1k112k1k12k2,k2自有關系數的性質。安穩(wěn)AR模型自有關系數有連個明顯的特征：一、拖尾性二、呈負指數衰減5、偏自有關系數(1)偏自有關系數的定義。定義關于安穩(wěn)序列{x}，所謂滯后k偏自有關系數就是指在給定中間k-1個隨機變量xt1,xt2,,xtk1條件下，t或許在剔除中間k-1個隨機變量xt1,xt2,,xtk1的擾亂后，xtk對xt的影響的有關胸懷。E[(xt?)(xtk?ExtExtk)]kkxt,xt1|xt1,xt2,,xtk1E[(xt?2]kExtk)(2)偏自有關系數的計算。關于安穩(wěn)序列{xt}，用過去的k期序列值xt1,xt2,,xtk1對xt作k階自回歸擬合，即xtk1xt1k2xt2kkxtkt(3.12)式中，E(t)0,Etxs0(st)。在式(3.12)兩邊同時乘xtk，并求希望，得lk1l1k2l2kklk,l1，取前k個方程構成的方程組：1k10k21kkk12k11k20kkk2kk1k1k2k2kk0該方程構成為Yule—Walker方程。用矩陣表達11k1k1111k2?k22(3.27)k1k21kkk那么kkDk，此中D11k1111D11k2,Dk112k1k21k1k2kD為式(3.27)的隊列式，Dk為把D中第k個列向量換成(3.27)等號右側的自有關系數響亮后構成的隊列式。偏自有關系數的截尾性。安穩(wěn)的AR(p)模型的偏自有關系數擁有p步截尾性。指kk0,kp，只需當k>p時，Dk0。AR(1)模型的偏自有關系數為：AR(2)模型的偏自有關系數為：

1,k1kk0,k2112kk2,k20,k2模型一、定義定義擁有以下構造的模型稱為q階挪動均勻(movingaverage)模型，簡記為MA(q):xtt1t1qtqq0(3.32)E(t)0,Var(t)2,E(ts)0,st使用MA(q)模型需要知足兩個限制條件：條件一：q0，這個限制條件保證了模型的最高階數為q。條件二：E(t)0,Var(t)2,E(ts)0,st，即隨機擾亂項{t}為零均值白噪聲序列{t}~WN(0,2)往常把MA(q)模型簡記為：xtt1t1qtq(3.33)當0時，模型(3.33)稱為中心化MA(q)模型，而對非中心化模型只需做一個簡單的位移ytxt，就能夠轉變證中心化MA(q)模型。使用延緩算子，中心化MA(q)模型又簡記為：xt(B)t，式中(B)11B2B2qBq，稱為q階挪動均勻系數多項式。二、MA模型的統(tǒng)計性質1、常數均值當q時，MA(q)模型擁有常數均值：ExtE(t1t1qtq)假如該模型為中心化MA(q)模型，那么該模型均值為零。、常熟方差Var(xt)Var(

qtq)(1222)2t1t112q3、自協(xié)方差函數只與滯后階數有關，且q階截尾E(xtxtk)E[(t2(11qk

1t1qtq)(tk1tk1qtkq)]22)2,k02q=(kiki)2,1kqi10,kq4、自有關系數q階截尾kk0MA(1)模型的自有關系數為

1,k0qk(kiki)i1,1kq(122212q)0,kqMA(2)模型的自有關系數為1,k0k12,k1110,k15、偏自有關系數拖尾(1)當q時，MA(q)模型必定為安穩(wěn)模型。

1,k012122,k1112k2,k2122120,k2(2)MA(q)模型的偏自有關系數拖尾，自有關系數q階截尾。三、MA模型的可逆性為了保證一個給定的自有關函數能夠對應獨一的MA模型，我們就要給模型增添拘束條件。這個拘束條件稱為MA模型的可逆性條件?？赡娴亩xMA(1)模型擁有以下構造式，他們的自有關系數正好相等：模型1：xttt1模型2：xtt1t1把這兩個MA(1)模型表示成兩個自有關模型形式：模型1：xt模型2：xtt1t1B1B明顯，1時，模型1收斂，而模型2不收斂；1時，模型1不收斂，而模型2收斂。假定一個MA模型能夠表示成收斂的AR模型形式，那么該MA模型那么稱為可逆模型。一個自有關系數獨一對應一個可逆MA模型。(2)MA(q)模型的可逆性條件。MA(q)模型能夠表示為：xtt(3.34)(B)式中(B)11B2B2qBq，稱為q階挪動均勻系數多項式。假定1,1,,1是該系數多項式的q個根，那么(B)能夠分解成：12qq(B)(1kB)(3.35)k1(3.35)式帶入(3.34)，得txtxt(3.36)q(11B)(1qB)(1kB)k1式(3.36)收斂的充要條件是：MA(q)模型的可逆性條件。

k1，等價于MA(q)模型的系數多項式的根都在單位圓外，11。這個條件稱為k、逆函數的推導公式假如一個MA(q)模型知足可逆性條件，它就能夠寫成以下兩種等價形式：(B)txt(a)(B)xt(b)把(b)式帶入(a)式，得(B)(B)xtxt,I01由待定系數法能夠獲得逆函數的推導公式：lIljIlj,l1j1式中，ji,kqIiBixtIixti0,k，tI(B)xtqi1i1P64【例續(xù)】考慮【例】中的四個MA模型的可逆性，并寫出可逆MA模型的逆轉局勢。4、MA模型偏自有關系數拖尾k0,MA(q)模型延緩k階偏自有關系數為：kIlklkkkl02，因為Ilkl不會恒等于零，所以MA(q)模型偏自有關系數拖尾。(1222)12ql0模型一、定義定義把擁有以下構造的模型稱為自回歸挪動均勻模型，簡記為ARMA(p,q):xt01xt12xt2pxtpt1t1qtqp0,q0E(t)0,Var(t)2,E(st)0,st(3.38)Exst0,st假定00，該模型稱為中心化ARMA(p,q)模型。中心化ARMA(p,q)模型能夠簡記為：xt1xt12xt2pxtpt1t1qtq(3.10)引入延緩算子后，中心化ARMA(p,q)模型又能夠表示為：(B)xt(B)t(B)11B2B2pBp，為p階自回歸系數多項式式中，2B2，(B)11BqBq，為q階挪動均勻系數多項式q0時，ARMA(p,q)模型就退化成AR(p)模型明顯，當p0時，ARMA(p,q)模型就退化成MA(q)模型二、安穩(wěn)條件與可逆條件關于一個ARMA(p,q)

模型，簡單推導出

ARMA(p,q)

模型的安穩(wěn)條件是：

(B)0的根都在單位圓外。

ARMA(p,q)模型可逆的條件是：

(B)

0的根都在單位圓外。即，當

(B)

0,

(B)

0的根都在單位圓外是，稱

ARMA(p,q)

模型為安穩(wěn)可逆模型。三、傳達形式與逆轉形式關于一個安穩(wěn)可逆ARMA(p,q)模型，它的傳達形式為：xt1(B)(B)tGjtjj0式中，{G1,G2,}為Green函數。能夠獲得ARMA(p,q)模型下的Green函數的推導公式為：G01kGkjGkjk,k1j1能夠獲得ARMA(p,q)模型的逆轉形式為：t1(B)(B)Iixtjj1式中，{I1,I2,}為逆函數。能夠獲得ARMA(p,q)模型下的逆函數的推導公式為：I01kIljIkjk,k1j1此中，k,1jp，k,1jqkpkq0,j0,j四、ARMA(p,q)模型的統(tǒng)計性質1、均值關于一個非中心化安穩(wěn)可逆的ARMA(p,q)模型：xt01xt12xt2pxtpt1t1qtq兩邊同時求均值：Ext0112p、自協(xié)方差函數kE(xtxtk)2GiGiki0、自有關系數GiGikki0k20Gii0觀察AR(p)、MA(q)、ARMA(p,q)模型的自有關系數和偏自有關系數，能夠總結出模型自有關系數k偏自有關系數kkAR(p)拖尾p階截尾MA(q)q階截尾拖尾ARMA(p,q)拖尾拖尾安穩(wěn)時間序列時間序列建模的一般步驟如何判斷安穩(wěn)性？什么是安穩(wěn)性？這里指寬安穩(wěn)。假如序列{xt}知足以下條件，那么稱為是安穩(wěn)的。1.E(xt)

,

t2.Var(xt)

2,

t3.Cov(xt

,xs)

Cov(xtk,xs

k),

s,t,k性質

3的一個推論是，對

s,t

,k,Corr

(xt,xs)

Corr(xtk

,xsk)，記為

k，稱為延緩為

k

的自有關系數

k

st安穩(wěn)性的直觀含義是

“序列的前二階矩不隨時間的推移而改變

〞，這使得我們能夠把不一樣時間點的數據放在一同作統(tǒng)計推測.察看時序圖依據安穩(wěn)性的定義，安穩(wěn)序列擁有常數均值和常數方差的性質，所以其時序圖應當在一個常數值鄰近顛簸，且顛簸的范圍有界；擁有明顯趨向性和周期性的序列往常不是安穩(wěn)序列；比如：自有關圖查驗安穩(wěn)序列往常只擁有短期的自有關，即自有關函數(ACF)常常很快的衰減到零。所以衰減很慢的序列很可能是非安穩(wěn)的。比如前面三個例子里面對應的自有關圖分別以下：??如何做白噪聲查驗？?什么是白噪聲？假如序列

{xt}

知足

E(xt

)

,Var(xt

)

2,Cov(xt,xs)

0,

t

s，那么稱

{xt}為白噪聲序列

(WhiteNoise),

記為xt

~WN(

,

2)假如xt還聽從正態(tài)散布，那么稱為高斯白噪聲。白噪聲是純隨機序列，它擁有性質，0,k所以我們能夠經過查驗以下假定來查驗序列是不是白噪聲H0:12m0H1:km,使得k0m2查驗統(tǒng)計量為LB(Ljung-Box)統(tǒng)計量LBn(n2)?knkk1在原假定建立的條件下，LB近似聽從自由度為m的卡方散布m2LBm212時拒絕原假定。注：為何只需要查驗前6期，12期或許前18期的自有關呢？這是因為一個安穩(wěn)序列往常只存在短期的自有關，假如短期之間都不存在明顯的自有關，那么更長久的延緩之間就更不會存在自有關了；相反的，假如存在明顯的短期自有關，那么該序列必定不是白噪聲；如何計算自有關系數和偏自有關系數？樣本自有關系數(SACF)nk(xtx)(xtkx)t1?kn(xtx)2t1?樣本偏自有關系數(SPACF)DkkkD1?1?k11?1?1此中，??11?k2，??11?2DDk?k1?k21?k1?k2?k如何辨別模型？所謂的模型辨別就是選用是適合的p,q,也就是模型定階；ARMA模型的理論ACF和理論PACF理論上講，我們能夠依據上述特色確立模型的階，但在實質操作中擁有以下阻礙a)SACF,SPACF不會出現理論上的完滿截尾狀況；本應截尾的SACF和SPACF仍會出現小值震蕩的狀況；安穩(wěn)序列往常只擁有短期有關性，當k足夠大是，SACF和SPACF總會衰減到零值鄰近做小值震蕩。什么時候以為k0？因為?kk近似聽從標準正態(tài)散布，所以當k0時，se(?k)?kkPse(?k)于是有P{2se(?k)?k2se(?k)}95%所以，當SACF落在2倍標準差的范圍內是，我們以為k0；?如何判斷截尾仍是拖尾？假如有SACF在最先的d階明顯大于然，那么能夠視為是“截尾〞；反之，假如超出5%的SACF都落在

2倍標準差，爾后幾乎2倍標準差范圍以外，或許

95%的SACF都落在2倍標準差內，且這類過程很突SACF衰減到零的過程比較遲緩連續(xù)，那么往常不是截尾；比如：【例】1950-1980年北京那個城鄉(xiāng)居民按期積蓄的占比按期積蓄占比時序圖所以，我們能夠考慮用以下的AR(1)模型來擬合該數據(1B)(xt)t【例】對美國科羅拉多州某一加油站連續(xù)57天的OVERSHORT序列建模所以，我們能夠選用以下的

MA(1)模型來對該數據建模xt

t

t1【例

】對1880-1985

年全世界氣表均勻溫度改變值差分序列(原數據不安穩(wěn)，已經做過安穩(wěn)化辦理了原數據的時序圖

)差分后的時序圖上邊的SACF和SPACF均沒有明顯的截尾性，所以我們能夠考慮用ARMA模型來擬合，ARMA(1,1)模型：(1B)(xt)(1B)t如何預計未知參數？主要有兩種方法：極大似然預計喝最小二乘預計。關于以下一般的ARMA(p,q)模型，xtq(B)p(B)t此中，t~WN(0,2)(B)101BpBp(B)11B2B2qBq的預計因為是序列的均值，所以我們用樣本均值來預計它，?1nntxt1我們需要預計以下參數1,,p,1,,q,2合計pq1未知參數；極大似然預計似然原那么：樣原來自使得該樣本出現概率最大的整體方法：找出樣本的結合密度函數(即似然函數)，找使得該函數抵達最大的參數值~(x1,xn),?(1,,p,1,,q)記x假定~聽從多元正態(tài)散布MVN(0,2)，那么似然函數為xL(~~)2(2)1exp{~1~2)}2;x)(2xx/(2~而后對上式求最大值得MLE;最小二乘預計最小化下邊的準那么Q(~)

n[xt1xt1pxtp1t11tq]2t1條件最小二乘法實質頂用得最多的是所謂的條件最小二乘法，它的想法以下：回想ARMA模型的逆轉形式：tixti，我們假定xt0,t0，i0那么條件最小乘法最小化以下準那么：Q(~)

n2tt1在SAS軟件里，只需要在ARIMA過程里面增添以下語句即可自動獲得未知參數的預計Estimatep=*,q=*;【例續(xù)】1950-1998年北京市城鄉(xiāng)居民按期積蓄比率estimatep=1method=ml;estimatep=1;極大似然預計的結果以下條件最小二乘預計的結果以下所以預計的模型為xtt1t,?2【例續(xù)】美國科羅拉多州某加油站連續(xù)57天的OVERSHORT數據estimateq=1method=ml;estimateq=1;極大似然預計的結果以下：條件最小二乘預計的結果以下：所以，預計獲得的模型為xttt1,?2【例續(xù)】1980-1985年全世界氣表均勻溫度改變差分值序列estimatep=1q=1;estimatep=1q=1method=ml;極大似然預計的結果以下：條件最下二乘預計的結果以下：所以，所得的模型為xtt1tt1,?2模型的有效性查驗模型的有效性是看模型能否充分地從數據中提取了信息，所以在這里，一個有效的好的模型應當幾乎提取了數據中全部的信息，使得剩下的殘差?1,,?n中不再包含任何有關信息，即殘差應當是純隨機的序列，即白噪聲序列。這樣的模型才是明顯的有效的模型。所以，在擬合模型以后我們要對殘差做白噪聲查驗，假如查驗結果顯示殘差非白噪聲，那么說明模型不夠有效，還需要選擇其余的模型；在SAS里面，estimate過程中會自動報告殘差的白噪聲查驗結果；【例續(xù)】美國科羅拉多州某加油站連續(xù)57天的OVERSHORT數據結果說明MA(1)模型有效；【例續(xù)】1980-1985年全世界氣表均勻溫度改變差分值序列:結果顯示ARMA(1,1)模型有效；對該數據，察看其ACF圖像，假如以為ACF1階截尾，我們擬合MA(1)模型，發(fā)現殘差查驗結果以下：這說明用MA(1)模型