非線性時(shí)間序列

1、近代時(shí)間序列選講:非線性時(shí)間序列頁(yè)腳二.GARCH模型三.多元時(shí)間序列協(xié)整模型非線性時(shí)間序列非線性時(shí)間序列淺釋1. 從線性到非線性自回歸模型2.第二章.線性時(shí)間序列定義的多樣性 非線性時(shí)間序列模型1.概述2. 非線性自回歸模型3. 帶條件異方差的自回歸模型4. 兩種可逆性5. 時(shí)間序列與偽隨機(jī)數(shù) 第三章.馬爾可夫鏈與AR模型1 .馬爾可夫鏈2 . AR模型所確定的馬爾可夫鏈3 .若干例子第四章.統(tǒng)計(jì)建模方法1 .概論2 .線性性檢驗(yàn)3 . AR模型參數(shù)估計(jì)4 . AR模型階數(shù)估計(jì) 第五章.實(shí)例和展望1 .實(shí)例2 . 展望第一章.非線性時(shí)間序列淺釋1.從線性到非線性自回歸模型時(shí)間序列xt是一串隨

2、機(jī)變量序列， 它有廣泛的實(shí)際背景，特別是在經(jīng)濟(jì)與金 融領(lǐng)域中尤其顯著.關(guān)于它們的從線性與 非線性概念，可從以下的例子入手作一淺 釋的說(shuō)明.考查一階線性自回歸模型-LAR(l)：Xt=axt-i+et, t=l,2, (1. 1)其中ej 為 i. i. d.序列，且 Eet=O, Eet=CT2<<», 而且et與獨(dú)立.反復(fù)使用(L 1) 式的遞推關(guān)系，就可得到Xt=axt-i+et=et + axt-i=et + a et-i + axt-2)=et + aet-i + a2 xt-2 =et + aet-i + a et-2(1.2)I I n-1 n+,+ a et

3、-n+i +a xt-n.如果當(dāng)n78時(shí),(1.3)et+aet-i+a2et-2+ , +4 e t-n+i一Zuj=o°° a%t-j .(1.4)雖然保證以上的收斂是有條件的，而且要涉及到具體收斂的含義，但是，對(duì)以上的簡(jiǎn)單模型，不難相信，當(dāng)|a|<l時(shí)， (L3)(L4)式成立.于是，當(dāng)|a|<l時(shí),模型LAR(l)有平穩(wěn)解，且可表達(dá)為Xt=Lj=o°° aJet-j .(1.5)頁(yè)腳通過(guò)上面敘述可見(jiàn)求LAR(l)模型的解有簡(jiǎn)便之優(yōu)點(diǎn)，此其一.還有第二點(diǎn)，容易推廣到LAR(p)模型.為此考查如下的p階線 性自回歸模型LAR(p)：xt=

4、aiXt-i+a2Xt-2+. +apXt-P+et, t=l,2,(1. 6)其中et為 ie i. d.序歹!),且 Eet=O, Eet=CT2<oo,而且et與xt-i, Xt-i,獨(dú)立.雖然反復(fù)使用(L6)式的遞推式,仍然可得到(1.2)式的類(lèi)似結(jié)果，但是，用擴(kuò)后的一階多元AR模型 求解時(shí)，可顯示出與LAR(l)模型求解的神 奇的相似.為此記0.(a a a 12p(1.7)10 -0A= , 、0 0 0 ,于是(1. 6)式可寫(xiě)成如下的等價(jià)形式:Xt=A Xt-i+ etU.(1.8)反復(fù)使用此式的遞推關(guān)系，形式上仿照 (1.2)式可得Xt=AXt-i+etU=eJJ+ e

5、 t-i AU+A2x t-2二=etU+e t-iAU+e t-2A2U+ +et-n+iAn-1U+AnXw.如果矩陣A的譜半徑(A的特征值的最大 模)九(A),滿(mǎn)足如下條件%(A)<1,(1.10)由上式可猜想到(1. 8)式有如下的解：Xt=Zk-AkUet.k.(1.11)其中向量X的第一分量&形成的序列xj, 就是模型(1.6)式的解.由此不難看出，它有以下表達(dá)方式Xt=Lk=o°°(pket-k.其中系數(shù)S由(1.6)式中的8,(X2,.，4 確定，細(xì)節(jié)從略.不過(guò)，(L 11)式給了我們重要啟發(fā)，即考慮形如Xt=Zk=o°°Y

6、ket-k, Zk=o0°Yk2 < 8, (L 12)的時(shí)間序列類(lèi)(其中系數(shù)呼能保證(L 12) 式中的Xt有定義).在文獻(xiàn)中，這樣的序列 Xt就被稱(chēng)為線性時(shí)間序列.雖然以上給出了線性時(shí)間序列的定義, 以下暫時(shí)不討論什么是非線性時(shí)間序列, 代之先討論一階非線性自回歸模型NLAR(l),以便與LAR(l)模型進(jìn)行比較分析.首先寫(xiě)出NLAR(l)模型如下xt=(p(Xt-i) +et, t=l,2, (1. 13)其中ej為i.i.d,序列，且Eet=O, Eet=CT2<oo,而且et與xi,Xt.2,獨(dú)立，這些假定與 LAR(l)模型相同，但是，中區(qū)一1)不再是xi 的

7、線性函數(shù)，代之為非線性函數(shù)，比如(p(Xt-i) =xt-i/ a+bxt-i2).此時(shí)雖然仍可反復(fù)使用(1. 13)式進(jìn)行迭代, 但是所得結(jié)果是Xt=(p (Xt-1) +et=et+ <p (Xt-i)=et+ <p ( et-i+ (p (Xt-2)=et+ (p ( et-i+ (p ( et-2+ <p (xt-3)二=et+(p ( et-i+ cp ( et-2+ +(p (xt n) ).(1. 14)根據(jù)此式，我們既不能輕易判斷(P(Xl)函 數(shù)滿(mǎn)足怎樣的條件時(shí)，上式會(huì)有極限，也 不能猜測(cè)其極限有怎樣的形式.對(duì)于P階非線性自回歸模型Xt=(p(Xt-1,Xt

8、-2, ,Xt-p) +et, t=l,2,(1. 15)仿照（1.6）至（L9）式的擴(kuò)的方法,我們引入如下記號(hào)Xt-i,Xt-2,，Xt-p)三。（乙一，七一2，改_；、4頁(yè)腳I 7(1. 16)我們得到與（L 15）式等價(jià)的模型Xt 二(XtJ +etU,(L 17)但是，我們?cè)僖驳貌怀觯?.9）至（L14）式的 結(jié)果，至此我們已將看出，從線性到非線性自回歸模型有實(shí)質(zhì)性差異，要說(shuō)清楚它們, 并不是很簡(jiǎn)單的事情.從數(shù)學(xué)角度而言, 討論線性自回歸模型可借用泛函分析方法, 然而，討論非線性自回歸模型，則要借用 馬爾可夫鏈的理論和方法.這也正是本講 座要介紹的主要容.2.線性時(shí)間序列定義的多樣性現(xiàn)

9、在簡(jiǎn)單敘述一下非線性時(shí)間序列定 義的復(fù)雜性，它與線性時(shí)間序列的定義有 關(guān).前一小節(jié)中（1.12）式所顯示的線性時(shí) 間序列，只是一種定義方式.如果改變對(duì) 系數(shù)呼的限制條件，就會(huì)給出不同的定義. 更為重要的是，在近代研究中，將U.12） 式中的i.i.d .序列a放寬為平穩(wěn)鞅差序 列，這在預(yù)報(bào)理論中很有意義.無(wú)論引用哪一種線性時(shí)間序列定義, 都對(duì)相應(yīng)的序列的性質(zhì)有所研究，因?yàn)槠?研究成果可用于有關(guān)的線性時(shí)間序列模型 解的特性研究.事實(shí)上，已經(jīng)有豐富的成 果被載入文獻(xiàn)史冊(cè).依上所述可知，由于線性時(shí)間序列定 義的多樣性，必然帶來(lái)非線性時(shí)間序列定 義的復(fù)雜性.這里需要強(qiáng)調(diào)指的是，對(duì)于非線性時(shí)間序列，幾乎

10、沒(méi)有文章研究它們 的一般性質(zhì)，這與線性時(shí)間序列情況不同.于是人們要問(wèn)，我們用哪些工具來(lái)研究非 線性時(shí)間序列模型解的特性呢？這正是本 次演講要回答的問(wèn)題.確切地說(shuō)，我們將 介紹馬爾可夫鏈，并借助于此來(lái)討論非線 性自回歸模型解的問(wèn)題.第二章.非線性時(shí)間序列模型1.概論從(1. 12)式可見(jiàn)，一個(gè)線性時(shí)間序列a,被ej的分布和全部系數(shù)曲所決定.在此 有無(wú)窮多個(gè)自由參數(shù)，這對(duì)統(tǒng)計(jì)不方便，因 此人們更關(guān)心只依賴(lài)有限個(gè)自由參數(shù)的線 性時(shí)間序列，這就是線性時(shí)間序列的參數(shù)模 型.其中最常用的如ARMA模型.對(duì)于非線 性時(shí)間序列而言，使用參數(shù)模型方法幾乎 是唯一的選擇.由于非線性函數(shù)的多樣性, 帶來(lái)了非線性時(shí)間

11、序列模型的多樣性.但 是，迄今為止被研究得較多，又有應(yīng)用價(jià) 值的非線性時(shí)序模型，為數(shù)極少，而且主 要是針對(duì)非線性自回歸模型.在介紹此類(lèi) 模型之前，我們先對(duì)非線性時(shí)序模型的分 類(lèi)作一概述.通用假定:kJ為i. i.d.序歹!,且E£t=O, 而且就與反-1, Xt-2,獨(dú)立.可加噪聲模型:(2. 1)Xt=(p(Xt-1, Xt-2)+端, t=l,2,其中(P()是自回歸函數(shù).當(dāng)它僅依賴(lài)于有 限個(gè)未知參數(shù)時(shí)，記此參數(shù)向量為a,其相 應(yīng)的1)模型常寫(xiě)成Xt=(p(Xt-i, Xt-2，；a) +加， t=l,2,-(2.2)否則，稱(chēng)1)式稱(chēng)為非參數(shù)模型.關(guān)于(2. 1)(2. 2)的模

12、型的平穩(wěn)性，要在下一章討論，但是，它有類(lèi)似于線性AR 模型的幾個(gè)簡(jiǎn)單性質(zhì)，是重要的而且容易 獲得的，它們是：E(xt|xt-i,Xt-2, )=E(p(Xt-i,xt-2, -)+811Xt-l f Xt-2, 二(p(Xti,Xt2,)+E(£t I Xt-1, Xt-2, )=(p(xt-i,Xt-2, )(2. 3)var xt | Xt-i, Xt-2 , =E xt-(p(Xt-i,)2I Xt-l 9 Xt-2 9 =Eet2|xt-i, Xt-2 ,二 Est2=q2. 4)P(xt<x|xt-i,Xt-2, =P (P(Xt-1, ) +£t<x

13、 I Xt-l, Xt-2, 二 P£t<X-(p(Xt-i, -) |xt-i,Xt-2, ) =F8 (x-(p(Xt-1, ).5)其中凡是琰的分布函數(shù).帶條件異方差的模型:Xt=(p(Xt-i,Xt-2, )+S (Xt-i,Xt-2,)£t,t=l,2,(2. 6)其中(P()和S()也有限參數(shù)與非參數(shù)型 之分，這都是不言自明的.另外，(2.6)式 顯然不屬于可加噪聲模型.但是，它比下 面的更一般的非可加噪聲模型要簡(jiǎn)單得多.這可通過(guò)推廣(2.3)(2. 4)5)式看出,即有,E(Xt|xt-i,Xt-2,)=E(p(Xt-i,Xt-2,)+S (xt-iXt

14、-2, -)£tXt-1 9 Xt-2 9=(p(Xt-i, Xt-2,)+S(Xt-i, Xt-2, -OEtstlxt-Xt, =(p(xt-l,Xt-2, )3)'var xt I Xt-i, Xt-2 , =Ext-cp(xt-i, I Xt-l 9 Xt-2 ,=E S2 區(qū)-1 9 Xt-2 9Xt-2=S2(Xt-1, Xt-2,)Eet2| Xt-1,Xt-2頁(yè)腳=S2(Xt-1, Xt-2,)。2.(2. 4)'Pxt<x|xt-i,Xt-2, =p(p(xt-i, )+S(Xt-i, - )et<x|xt-i, Xt-2 , =P

15、63;tx-(p(Xt.1,)/S(Xt.1,) =Fe(x-cp(Xt-i,)/S(Xt-i, ).(2. 5”一般非線性時(shí)序模型:Xt=|/(Xt-1, Xt-2, ； Ct, £t-i, )t=l,2,(2. 7)其中甲()也有參數(shù)與非參數(shù)型之區(qū)別，這也是不言自明的.顯然,7)式既不是可加噪聲模型，也不屬于6)式的帶條件異方差的模型.雖然，它可能具有條件異方 差性質(zhì).相反，后兩者都是7）式的特殊 類(lèi)型.雖說(shuō)7）式是更廣的模型形式，在 文獻(xiàn)中卻很少被研究.只有雙線性模型作 為它的一種特殊情況，在文獻(xiàn)中有些應(yīng)用 和研究結(jié)果出現(xiàn).現(xiàn)寫(xiě)出其模型于后，可 供理解其雙線性模型的含義Xt2j

16、=i CljXt-j+Xj=i pj£t-j +Si=lPSj=lQ0ij£t-iXt-j.2.非線性自回歸模型在前一小節(jié)中的1）和2）式就是非 線性自回歸模型，而且屬于可加噪聲模型 類(lèi).在這一小節(jié)里，我們將介紹幾種2） 式的常見(jiàn)的模型.函數(shù)后的線性自回歸模型:f (xt) =aif(Xt-i) +a2f (xt-2)+. +apf (xt-P) +e(2. 8)t=l,2,其中f(.)是一元函數(shù)，它有已知和未知的 不同情況，不過(guò)總考慮單調(diào)增函數(shù)的情況,a=(ai,a2,，ap)。是未知參數(shù).在實(shí)際應(yīng)用 中，&是可獲得量測(cè)的序列.當(dāng)f(.)是已知函數(shù)時(shí)，任區(qū))也是可

17、獲得量測(cè)的序列，于是只需考慮yt=f(xj所 滿(mǎn)足的線性AR模型yt二otiyt-i+a2yL2+ +Opyt-P+£t, t=l,2,-(2.9)此時(shí)可不涉及非線性自回歸模型概念.在 宏觀計(jì)量經(jīng)濟(jì)分析中，常常對(duì)原始數(shù)據(jù)先 取對(duì)數(shù)后，再作線性自回歸模型統(tǒng)計(jì)分析, 就屬于此種情況.這種先取對(duì)數(shù)的方法, 不僅簡(jiǎn)單，而且有經(jīng)濟(jì)背景的合理解釋?zhuān)?反應(yīng)了經(jīng)濟(jì)增長(zhǎng)幅度的量化規(guī)律.雖然在 統(tǒng)計(jì)學(xué)中還有更多的變換可使用，比如 Box-Cox變換，但是，由于缺少經(jīng)濟(jì)背景的 合理解釋?zhuān)苌俦皇褂?由此看來(lái)，當(dāng)f(.) 有實(shí)際背景依據(jù)時(shí)，可以考慮使用7)式的模型.當(dāng)f(.)是未知函數(shù)時(shí)，f(Xt)不是可

18、量測(cè)的序列，于是只能考慮(2. 8)模型.注l=if(.)是單調(diào)函數(shù)，可記它的逆變換函數(shù)為 f 1 (.),于是由8)模型可得xt= f 1 (aif (xt-i)+a2f (Xt-2)+. +Opf(Xt-p) +£t),9”此式屬于7)式的特殊情況，此類(lèi)模型很 少被使用.取而代之是考慮如下的模型xt=aif (xt-i) +a2f(Xt-2)+ +apf (xt-P) +et,(2. 10)其中f(.)是一元函數(shù)，也有已知和未知之 分，可不限于單調(diào)增函數(shù).此式屬于1) 式的特殊情況，有一定的使用價(jià)值.當(dāng)(2.10)式中的f(.)函數(shù)是已知時(shí), 此式還有更進(jìn)一步的推廣模型，xt=a

19、ifi(Xt-i, Xt-s) +a2f2(xt-i,，xt-s)+. +apfp(Xt-i, Xt-s) +£t,t=l,2,(2. 11)其中fk()(k=l,2,p)是已知的s元函 數(shù).例如，以后將要多次提到的如下的模型：xt=ail (xt-i<0) xt-i+a2I (xt-i>0) xt-i+fit, t=l,2,-(2. 12)其中1(.)是示性函數(shù).此模型是分段線性 的，是著名的TAR模型的特殊情況.為了有 助于理解它，我們寫(xiě)出它的分段形式：ax +s , x <0,-I 廿,2,好.產(chǎn)名，彳？ 0.請(qǐng)注意，(2.8)(2. 10)和(2.11)式具有一個(gè)共同的特征，就是未知參數(shù)都以線性形式出現(xiàn)在模型中.這一特點(diǎn)在統(tǒng)計(jì)建模 時(shí)帶來(lái)極大的方便.此類(lèi)模型便于實(shí)際應(yīng) 用.但是，對(duì)于Xt而言不具有線性特性, 所以，討論它們的平穩(wěn)解的問(wèn)題，討論它 們的建模理論依據(jù)問(wèn)題，都需要借助于馬爾 可夫鏈的工具