時(shí)間序列修改后吉大

1、時(shí)間序列分析 (J.D.Hamilton)前言: 3.平穩(wěn)ARMA 過程(p49-78),6.譜分析(p179-202),10.協(xié)方差-平穩(wěn)向量過程(p305-336),21.異方差時(shí)間序列模型(p799-817).3. 平穩(wěn)ARMA 過程3.0 概述(認(rèn)識(shí)論,方法論,歷史觀,發(fā)展觀)”回歸模型”?”自回歸模型”?它們聯(lián)系 ?為什么用”回歸”一詞?它們的推廣模型是什么?它們的應(yīng)用背景是什么?*考慮 ”父-子身高的關(guān)系”X-父親的身高,Y-兒子的身高,它們有關(guān)系嗎?樣的關(guān)系呢?不是確定的關(guān)系! 又不是沒有關(guān)系!在同族中抽取n 對(duì)父-子的身高, 即有 n 對(duì)數(shù)據(jù):(X1,Y1), (X2,Y2),

2、 ,(Xn,Yn).1kn.=Yka +bXk ,1kn.Yka +bXk + ek ,(0.1)*此為一元線性回歸模型.ek-差異, 其他, 等等.*如果, 如果能到一個(gè)父系的長子身高序列, 即X1,X2,Xn, 顯然,(X1,X2),(X2,X3),(Xn-1,Xn)是(n-1)對(duì)父-子身高數(shù)據(jù),與(Xk,Yk)相比,這里的YkXk+1 ,=k=1,2,n-1.依同樣論述有1kn.Xk +1 =a +bXkek ,+(0.2)*此為一元線性自回歸模型(自變?cè)?Yk 是因變?cè)猉k 的延遲)回歸英文翻譯Regres(0.2),具體說來如下:*記-平均身高. 由(0.2)得Xk +1-bXkek

3、 -(注意=(b+1)-b)= a += a +(b-1) +b(Xk -)+ ek.記Wk = (Xk -)-第k 代長子身高與平均身高之差, c= a +(b-1),于是有Wk+1= c +bWkek.+(0.3)特別人們發(fā)現(xiàn): 0b1.它表明:平均說來, 當(dāng)父親身高超過平均身高時(shí),其子身高也會(huì)超過平均身高,但是,比父親身高更靠近平均身高.有回歸平均身高的趨向!穩(wěn)定系統(tǒng)!*回歸模型的推廣: (線性模型)*增加自變?cè)獋€(gè)數(shù):比如, 兒子身高不僅與父親還與母親, 甚至于祖父母有關(guān), 于是(0.1)式應(yīng)推廣為:1kn. (0.4)Yk= a +b1X1k + bpXpk +ek ,*此為p 元線性

4、回歸模型.*向非線廣:仍以父-子身高的關(guān)系為例, 它們的真實(shí)關(guān)系應(yīng)是比(0.1)式更一般的形式:Yk(Xk )+ ek ,1kn.=(0.5)而(0.4)式 更一般的形式:Yk(X1k,Xpk )+ ek ,1kn.=(0.6)近年來, 又引出了比(0.6)式更廣的模型:Yk =(X1k,Xpk )+s(X1k,Xpk )ek ,1kn.此為條件異方差回歸模型.(0.7)*(0.7)式的更一般的形式:Yk =(X1k,Xpk ;ek ),1kn.(0.8)模型越復(fù)雜, 越近似真實(shí)情況, 也越難統(tǒng)計(jì)分析.* 應(yīng)用背景:非常廣泛!主要用于預(yù)報(bào),控制,檢測(cè),管理.模型的獲得方法有兩類.3.1 期望,

5、平穩(wěn)性,遍歷性:確切說,是對(duì)(0.1)至(0.8)式中ek的最起碼的假定,根據(jù)這些假定就可以引出隨機(jī)過程和各種模型概念, 用它們近似描述ek(本來是說不清的).而且,對(duì)這些起碼的假定, 也只是以最直觀的方式, 而非嚴(yán)格的概率論觀點(diǎn), 加以介紹.*期望和隨機(jī)過程隨機(jī)過程: X(t);-t1 時(shí).2201-1i(3.3.3)(3.3.4)(3.3.5)(3.3.5)式是一階移動(dòng)平均過程的基本特征!它表現(xiàn)為自協(xié)方差函數(shù)序列0,1,2,即0,1,0,0,0,.在 1 以后是截尾的,這一特征與0 和1 的具體取值并不密切,易見,所以,可用序列的自相關(guān)函數(shù)表述.* 自相關(guān)函數(shù):k=k/0,k=0,1,(3

6、.3.6)這是因?yàn)閗=k/0=k/00=1/21/2E(Y -)(Y -)/E(Y-) ,22 1/2) E(Y -t+ktt+kt它是Yt+k 和Yt 的相關(guān)系數(shù),依平穩(wěn)性它與t 無關(guān), 但與k有關(guān), 所以稱函數(shù), 又因是序列自身的關(guān)系, 所以稱自相關(guān)函數(shù).* 對(duì)于(3.3.1)的一階移動(dòng)平均過程而言, 由(3.3.4)和(3.3.5)知0=1, 1=/(1+ ), 當(dāng)k1, =0.2k(3.3.7)可見, 自相關(guān)函數(shù)在 1 以后全為零(截尾)是一階移動(dòng)平均過程的本質(zhì)性特征!* 以上內(nèi)容不難推廣到* q 階移動(dòng)平均過程:(MA(q)(見p58-59)模型Yt=+1t-1+qt-q+t,(3.

7、3.8)特征k=0, k=0,當(dāng)kq.(3.3.12)即,它的自協(xié)方差函數(shù)在 q 步以后截尾.關(guān)于0, 1,q 的具體表達(dá)式為 =(1+ + + ) , =E )222222(3.3.10)012qt =( + + + ,2)(3.3.12)j=1,2,qjjj+1 1j+2 2-j表達(dá)了0, 1,q注意, 以上(3.3.10)和(3.3.10)式,和參數(shù) , , 的相互依賴關(guān)系! 但是, 除非 q=1,一2212q ,般很難求解. 況且, 它們的解還有不唯一性問題, 此問題放在 3.7 節(jié)中解答.*例2(見 p59).3.4 自回歸過程.(自回歸序列AutoRegres-AR)*一階自回歸過

8、程(AR(1) (相當(dāng)于概述)*實(shí)際背景:*定義:Yt-1t ,Yt=c +(3.4.1)t 與Yt-1,Yt-2,獨(dú)立!其中t是白噪聲序列,而且,t又被稱為新息序列!所以, 在文獻(xiàn)中,*求解:由(3.4.1)式反復(fù)迭代有: (不妨叫Yt=c+Yt-1 +t=c+(c+Yt-2 +t-1)+t)=c+c+2Y+ +t-2t-1t Y +(c+c)+( + )2=t-2tt-1 Y +(c+c+ c)+( + + )322=t-3tt-1t-2= Y +(c+c)+( + +)nn-1n-1=c+t-ntt-1t-n+1c+ c+)+( + + ) (當(dāng)n)22(c+tt-1t-2=c/(1-)

9、+k .(3.4.2)k=0t-k*平穩(wěn)性:顯然, 上式成立的充分必要條件是:1. 即 (-1, 1)于是有名稱: 區(qū)間(-1,1)為AR(1)模型的平穩(wěn)域;(3.4.2)式的解為 AR(1)模型的平穩(wěn)解;- AR(1)平穩(wěn)序列;它也是MA()序列(見(3.3.13)式).均值函數(shù):由(3.4.2)式和Et=0,有*Yt=c/(1-)=.(3.4.3)反復(fù)迭代法* 自相關(guān)函數(shù): 在(3.3.18)式, 此時(shí)j= ,jj=0,1,于是 AR(1)的自協(xié)方差函數(shù)為k= /(1- )= ,2 j2j0AR(1)的自相關(guān)函數(shù)為j=0,1,(3.4.5)k=k/0= ,jj=0,1,(3.4.6)*回顧

10、模型 AR(1)(3.4.1)式Y(jié)t=c+Yt-1 +t,兩邊同取均值得=EYt=Ec+EYt-1 +Et=c+ =c/(1-).在(3.4.1)式兩邊同減上式 =c+ 得(Yt-)=(Yt-1-) +t.Wt=(Yt-), 它是Yt的中心化序列!記它滿足中心化的AR(1)模型Wt=Wt-1 +t.以Wt-k(k1)同乘上式兩邊,(3.4.1)然后再同取均值得k=EWtWt-k=EWt-1Wt-k+EtWt-k=k-1,k=1,2, (3.4.15)其中用到t 與Wt-k 獨(dú)立,和Et=0,即EtWt-k=EtEWt-k=0.由此可得 = .將 W =+ 兩邊平方后, 再同取均值得kWk0tt

11、-1t =EW = EW+E +2EW = + = /(1- ).222222220tt-1tt-1 t00記 L 為(一步)延遲算子(運(yùn)算), 即 L = ,L W =W ,等等.2tt-1tt-2Wt=Wt-1 +t 可寫成于是,模型推演方法:(不用(3.3.18)式)Wt=LWt +tWt-LWt =t 或者或者(1-L)Wt=t.(3.4.1)對(duì)上式進(jìn)行形式上的L) = L =k .-1k kW =(1-ttk=0tk=0t-k其中(1-L)-1=kLk (1-L)kLk=1.k=0k=0以上推演方法, 不僅簡便, 而且能推廣到高階情況!* 高階推廣:Yt=c+1Yt-1+t-p +t

12、 ,=c+1+p, Wt=1Wt-1+t-p +t ,(3.4.13)記代數(shù)運(yùn)算(A)1.(對(duì)比 1, (A)是A 的譜半徑)所說的暫敘到此.* 二階AR 模型:(見 p64-66)(概述其難點(diǎn)所在)模型:Yt=c+1Yt-1 +2Yt-2+t,Wt=1Wt-1 +2Wt-2+t,(3.4.10)依前所述, 只要求得(3.4.10)式的解, 就不難獲得 AR(2)模型的個(gè)項(xiàng)特征量. 要獲得(3.4.10)式的解,就等價(jià)Wt的(3.3.13)式中的系數(shù)j(0jq),再取均值得E(Wt-1Wt-1-t-t-k=E(t+1t-1+qt-q)Wt-k即有k-1k-1 +pk-p=0,k=q+1,q+2

13、,(3.5.5)很有趣, 雖然ARMA(p,q)序列的自協(xié)方差序列不截尾, 但是它的線性組和序列t-1t-1 +pt-p 確在q 步后截尾. 由此又可找到0,1 ,p+q 和參數(shù)既可給出此模型的判別依據(jù), , , , , , , 的依賴關(guān)系.(見第5 章)212p12q3.6 自協(xié)方差生成函數(shù)(譜表示)(移至第 6 章)3.7 可逆性:* 先舉兩個(gè)例子,首先看Wt=t+(1/2)t-1其中t為正態(tài)白噪聲,即 tN(0, ).2(*)于是有EWt=0, EWt = +(1/2)2 =(1+(1/4) =(5/4) ,222221=EWtWt-1=E(t+(1/2)t-1)(t-1+(1/2)t-

14、2)=(1/2) .2再考查另一模型Zt=t+2t-1,(*)其中t為正態(tài)白噪聲,即 tN(0, /4),2即,Et = = /4,222于是有EZt=0, EZt = +4 =5 =(5/4) ,222221=EZtZt-1=E(t+2t-1)(t-1+2t-2)=2 =(2/4) =(1/2) .222可見序列Wt和Zt有相同的均值,和相同的自協(xié)方差函數(shù).而且它又是正態(tài)的(此條不可少!), 于是它們有完全相同的概率分布結(jié)構(gòu)! 在理論和應(yīng)用中都無法區(qū)分.出現(xiàn)此問題的根源在于: 模型(*)和(*)分別可寫成Wt=(1+(1/2)L)t=1(L)t, Zt=(1+2L)t=2(L)t,1(L)=02(L)=0奇妙的是,和的根互為倒數(shù)! 因?yàn)?1(L)=0 的根是 2, 2(L)=0 的根是 1/2.具此,可以因?yàn)?(L)=0 的根是 2,它在使用模型(*),圓外!至此,可以回答第 3.3 節(jié)提到的不能唯一確定 MA(q)的系數(shù)問題了.具體地說, 就是將 MA(q)模型的系數(shù)多項(xiàng)式