時(shí)間序列分析-估計(jì)

第七章潛周期模型的參數(shù)估計(jì)潛周期模型的參數(shù)估計(jì)混合自回歸潛周期模型的參數(shù)估計(jì)二維隨機(jī)場(chǎng)的潛周期模型及其參數(shù)估計(jì)潛周期模型通常的余弦信號(hào)是用潛周期模型描述的.其中正數(shù)是相應(yīng)于第個(gè)j角頻率的振幅.是一個(gè)零均值的線性平穩(wěn)序列，被稱(chēng)為有色噪聲.第一節(jié)潛周期模型的參數(shù)估計(jì)A.復(fù)值潛周期模型的初估計(jì)B.角頻率的精估計(jì)C.實(shí)值模型（1.1）的參數(shù)估計(jì)D.模型的預(yù)測(cè)它是對(duì)周期疊加項(xiàng)的隨機(jī)干擾.滿足（1.1）的時(shí)間序列被稱(chēng)為潛頻率或潛周期序列.模型（1.1）還可以寫(xiě)成復(fù)的形式-復(fù)值潛周期模型定理1.1（見(jiàn)文獻(xiàn)[13]）設(shè)是獨(dú)立同分布的線性濾波器滿足平穩(wěn)噪聲由定義.則有如下的結(jié)果其中是的譜密度.A.復(fù)值潛周期模型的參數(shù)估計(jì)對(duì)于來(lái)自復(fù)值潛周期模型（1.3）的觀測(cè)數(shù)據(jù)引入函數(shù)類(lèi)似地定義于是

于是，當(dāng)N充分大以后，實(shí)值連續(xù)函數(shù)在區(qū)間上的圖形具有如下的形狀：（1）在每個(gè)的鄰域內(nèi)有一峰群，其最高峰的高度大于最高峰的下面隱藏著角頻率；（2）在所有的的鄰域外（3）峰群的個(gè)數(shù)就是潛周期模型中的周期（或角頻率)個(gè)數(shù)的估計(jì).根據(jù)的圖形形狀，可以給出對(duì)潛周期模型（1.3）中的角頻率個(gè)數(shù)，角頻率向量和振幅向量進(jìn)行估計(jì)得方法.一般采用下面三種離散化的方法.方法1

當(dāng)潛周期模型中的各振幅的絕對(duì)值差別不大，并且平穩(wěn)噪聲的譜密度沒(méi)有明顯的峰值時(shí)可以采用本方法.取滿足：當(dāng)時(shí)，第一步定義計(jì)算

第二步計(jì)算的最大值.當(dāng)，定義，停止計(jì)算.否則，定義在中計(jì)算的最大值.當(dāng),定義，停止計(jì)算.以此類(lèi)推.當(dāng)在的最大值，在的最大值時(shí)，定義q的估計(jì)為并將最大值點(diǎn)按從小到大重排后得到的角頻率向量的初估計(jì)

方法2

當(dāng)潛周期模型中的各振幅的絕對(duì)值有較大的差別，但是平穩(wěn)噪聲的譜密度沒(méi)有明顯的峰值時(shí)可以采用本方法.

取正整數(shù)滿足：當(dāng)時(shí)，和第一步定義計(jì)算第二步和方法1中的第二步相同.最后得到角頻率向量的初估計(jì)（1.9）.方法3

當(dāng)潛周期模型中的各振幅的絕對(duì)值有較大的差別，但是平穩(wěn)噪聲的譜密度有陡峭的峰值時(shí)可以采用本方法.第一步取正數(shù)，定義計(jì)算第二步和方法1中的第二步相同.最后得到角頻率向量的初估計(jì)(1.9).定理1.2（見(jiàn)文獻(xiàn)[25]）設(shè)模型(1.3)中的平穩(wěn)噪聲滿足定理1.1中的條件，則幾乎必然的當(dāng)N充分大后，由上面的三種方法定義的和初估計(jì)滿足

有了角頻率的估計(jì)量(1.9)，就可以定義振幅的估計(jì)如下：B.角頻率的精估計(jì)得到角頻率的初估計(jì)（1.9）后，可以用以下的方法改進(jìn)估計(jì)得精度，得到精度更高的估計(jì)量.方法1周期圖的最大估計(jì)對(duì)每一，在它的8/N鄰域中用加密計(jì)算函數(shù)的方法來(lái)得到經(jīng)加密計(jì)算后的最大值點(diǎn)如果計(jì)算的密度可以達(dá)到，就稱(chēng)為的周期圖最大估計(jì).用代替（1.12）中的，從而得到振幅的精估計(jì)：定理1.3（見(jiàn)文獻(xiàn)[25]）設(shè)模型（1.3）中的平穩(wěn)噪聲滿足定理1.1中的條件，則有如下的結(jié)果：方法2

角頻率估計(jì)得二次分析法用表示c的輻角.取正整數(shù)，則存在正整數(shù)m，滿足對(duì)于定義最后將改進(jìn)的初估計(jì)代入（1.13），就得到的估計(jì).C.實(shí)值模型（1.1）的參數(shù)估計(jì)由于觀測(cè)數(shù)據(jù)是實(shí)值的，所以是偶函數(shù)，因而只需在上找出峰值的個(gè)數(shù)作為角頻率個(gè)數(shù)k的估計(jì).每個(gè)峰群中的最高峰下對(duì)應(yīng)一個(gè)角頻率的估計(jì)設(shè)由（1.13）或（1.14）定義.定義的估計(jì)如下：如果，取如果，取初始相位的估計(jì)取作D.模型的檢測(cè)對(duì)于實(shí)值模型（1.1），在得到周期個(gè)數(shù)的估計(jì)，角頻率的估計(jì)，振幅的估計(jì)和初始相位的估計(jì)后，為了檢測(cè)模型是否合理，需要計(jì)算殘差和它的樣本自相關(guān)函數(shù)這里是的樣本均值.如果有收斂到零的性質(zhì)，就認(rèn)為模型合適.第二節(jié)混合自回歸潛周期模型的參數(shù)估計(jì)A.混合自回歸潛周期模型B.模型（2.5）的參數(shù)估計(jì)C.模型（2.5）的擬合檢驗(yàn)和預(yù)測(cè)D.混合ARMA潛周期模型的參數(shù)估計(jì)A.混合自回歸潛周期模型在模型（1.3）中，如果有色噪聲是AR（p）序列，則可以寫(xiě)成其中是，實(shí)系數(shù)多項(xiàng)式A（z）滿足最小相位條件當(dāng)利用（2.1）可以將（1.6）寫(xiě)成在上式兩邊同時(shí)乘上，取，就得到其中于是可以將（2.3）寫(xiě)成混合自回歸潛周期模型（2.4）描述的時(shí)間序列比自回歸模型或潛周期模型更加廣泛.它不僅考慮多個(gè)頻率成分的疊加，還考慮了歷史對(duì)現(xiàn)狀的影響.實(shí)值得混合自回歸潛周期模型具有如下的一般形式：設(shè)是多項(xiàng)式A（z）的所有互異根，

是的重?cái)?shù)，則滿足模型（2.4）的任何時(shí)間序列具有如下的形式：其中由的Taylor展開(kāi)式?jīng)Q定.B.模型（2.5）的參數(shù)估計(jì)設(shè)觀測(cè)數(shù)據(jù)

滿足模型（2.5），定義

（2.8）利用（2.8）和（2.6）可以把（2.5）改寫(xiě)成這是一個(gè)潛周期模型，只是多出了一個(gè)加項(xiàng).利用定理1.1可得所以模型（2.4）中的潛頻率個(gè)數(shù)和潛頻率的估計(jì)可以利用上節(jié)的方法得到.注意，計(jì)算時(shí)也要先對(duì)數(shù)據(jù)進(jìn)行零均值化處理.假設(shè)已經(jīng)得到潛周期個(gè)數(shù)q的估計(jì)和角頻率的初估計(jì)（或周期圖最大估計(jì)）定義定義按6.1節(jié)的方法對(duì)進(jìn)行AR(p)擬合，可以得到自回歸的介紹p，自回歸系數(shù)和白噪聲方差的估計(jì)定義模型（2.4）的振幅的估計(jì)最后，對(duì)于實(shí)值模型（2.5），定義k的估計(jì)如下模型（2.5）中的振幅角頻率和初始相位的估計(jì)按第一節(jié)的C中的方法得到：如果，取如果，取初始相位的估計(jì)取作C.模型（2.5）的擬合檢驗(yàn)和預(yù)測(cè)得到明顯（2.5）的參數(shù)估計(jì)后就可以計(jì)算殘差如果殘差（2.14）可以通過(guò)白噪聲的檢驗(yàn)，就認(rèn)為模型參數(shù)的選擇是合理的.這時(shí)可以用對(duì)進(jìn)行預(yù)測(cè).對(duì)依次定義后，可以用對(duì)進(jìn)行遞推預(yù)測(cè).D.混合ARMA潛周期模型的參數(shù)估計(jì)更一般地還可以對(duì)數(shù)據(jù)擬合混合ARMA潛周期模型（2.15）其中，除了要求自回歸和潛周期部分滿足模型（2.5）中的所有條件外，還要求運(yùn)動(dòng)平均部分的系數(shù)滿足可逆條件當(dāng)模型（2.15）的參數(shù)估計(jì)方法和自回歸潛周期模型的參數(shù)估計(jì)方法相同.首先將明顯（2.15）改寫(xiě)成（2.16）利用觀測(cè)數(shù)據(jù)計(jì)算出（2.10）和（2.11）的和后，對(duì)用（2.12）定義的按6.3節(jié)的方法建立模型.設(shè)得到的ARMA模型的參數(shù)估計(jì)是在利用（2.13）估計(jì)（2.16）的振幅.最后得到模型（2.15）中k的估計(jì)振幅，角頻率和初相位的估計(jì)按如下的方法給出：如果，取如果，取初始相位的估計(jì)取作第三節(jié)二維隨機(jī)場(chǎng)的潛周期模型及其參數(shù)估計(jì)二維隨機(jī)場(chǎng)也稱(chēng)為二維時(shí)空序列，它是定義在平面格點(diǎn)上的隨機(jī)變量的集合如果對(duì)中的任何和，有就稱(chēng)是平穩(wěn)隨機(jī)場(chǎng)或平穩(wěn)時(shí)空序列.二維離散信號(hào)場(chǎng)是定義在的信號(hào)矩陣這里是點(diǎn)的信號(hào).最簡(jiǎn)單的二維復(fù)三角信號(hào)場(chǎng)就是一個(gè)重要的例子，它具有如下形式其中，和是中的分?jǐn)?shù)，分別稱(chēng)作水平角頻率和垂直角頻率.

類(lèi)似一維復(fù)三角信號(hào)，當(dāng)輸入信號(hào)是p個(gè)復(fù)三角成分的疊加時(shí)，經(jīng)過(guò)（絕對(duì)可和的）線性濾波器后的輸出信號(hào)仍然是p個(gè)具有相同角頻率的復(fù)三角信號(hào)的疊加.在上述的輸入輸出系統(tǒng)中如果有隨機(jī)干擾的存在，輸出信號(hào)就變成（3.2）其中是一個(gè)二維零均值實(shí)值噪聲，滿足

（3.3）滿足（3.3）的時(shí)空序列被稱(chēng)為二維白噪聲.模型（3.2）被稱(chēng)為二維潛周期模型，它是一維潛周期模型（1.6）在隨機(jī)場(chǎng)上的體現(xiàn).我們的統(tǒng)計(jì)問(wèn)題是對(duì)觀測(cè)數(shù)據(jù)建立模型（3.2）.設(shè)觀測(cè)數(shù)據(jù)（3.4）滿足模型（3.2）.經(jīng)簡(jiǎn)單計(jì)算得到(3.5)對(duì)充分大的N，M勾畫(huà)出函數(shù)的大致圖形.連續(xù)函數(shù)在每個(gè)角頻率的附近處都有一個(gè)峰群，最高峰的高度約為.在所有角頻率點(diǎn)的鄰域外，被某一致控制.于是，潛頻率個(gè)數(shù)p的估計(jì)就是函數(shù)在的峰群數(shù).在每個(gè)峰群的最高峰下面是一個(gè)角頻率點(diǎn)的估計(jì).因此，可以定義的估計(jì)如下：

（3.7）第八章時(shí)間序列的譜估計(jì)平穩(wěn)序列的譜表示平穩(wěn)序列的周期圖加窗譜估計(jì)加窗譜估計(jì)得比較第一節(jié)平穩(wěn)序列的譜表示

A.隨機(jī)積分的定義B.隨機(jī)積分的性質(zhì)C.平穩(wěn)序列的譜表示D.線性平穩(wěn)序列的譜表示E.離散譜序列的特征F.離散譜序列的隨機(jī)測(cè)度G.平穩(wěn)序列的頻譜性質(zhì)H.平穩(wěn)序列的分解A.隨機(jī)積分的定義

定義1.1稱(chēng)復(fù)值時(shí)間序列是正交增量過(guò)程，如果它滿足（1）對(duì)一切（2）對(duì)任何有其中表示的共軛.

定義1.2

稱(chēng)正交增量過(guò)程是右連續(xù)的，如果時(shí)，對(duì)任何，有

定理1.1

設(shè)是正交增量過(guò)程，則有唯一的分布函數(shù)，使得在任何，有證明取，則對(duì)，利用正交增量性得到

例1.1

設(shè)是上的獨(dú)立增量過(guò)程，對(duì)，這時(shí)是上的布朗運(yùn)動(dòng)，因而是正交增量過(guò)程，B.隨機(jī)積分的性質(zhì)

定理1.2設(shè)是正交增量過(guò)程，有相應(yīng)的分布函數(shù).對(duì)于隨機(jī)積分I（g）有如下的性質(zhì)：（1）（2）這里a，b是復(fù)常數(shù)（3）（4）證明設(shè)階梯函數(shù)使得當(dāng)時(shí)，利用內(nèi)積的連續(xù)性得到（2）因?yàn)殡A梯函數(shù)在中收斂到，隨機(jī)變量在中收斂到所以按隨機(jī)積分的定義得到(2).（3）利用內(nèi)積的連續(xù)性和（7）得到最后一個(gè)等號(hào)用到中內(nèi)積的連續(xù)性.

(4)在(3)中將f,g都取成（f-g）,再利用(2)得到

C.平穩(wěn)序列的譜表示

定理1.3（譜表示定理）對(duì)零均值平穩(wěn)序列，有右連續(xù)的正交增量過(guò)程，使得和并且相應(yīng)于的分布函數(shù)恰好是的譜密度函數(shù).如果另有右連續(xù)的正交增量過(guò)程也滿足上述的條件，則在上述定理中，稱(chēng)正交增量過(guò)程為的隨機(jī)測(cè)度.

定義1.2(接例1.1)對(duì)于布朗運(yùn)動(dòng)定義平穩(wěn)序列則有譜函數(shù)，有譜密度于是是白噪聲.又從隨機(jī)積分的定義知道，是一個(gè)復(fù)值得正態(tài)白噪聲.D.線性平穩(wěn)序列的譜表示設(shè)是，從譜表示定理知道，存在惟一的正交增量過(guò)程，使得設(shè)實(shí)數(shù)列平方可和，是由生成的線性平穩(wěn)序列

則它有譜密度和譜函數(shù)如下：

由于級(jí)數(shù)在中均方收斂，所以在中

其中是右連續(xù)的正交增量過(guò)程，有分布函數(shù).于是，是的隨機(jī)測(cè)度.E.離散譜序列的特征設(shè)平穩(wěn)序列的譜函數(shù)是階梯函數(shù)，則可以證明是離散譜序列.定理1.4

如果平穩(wěn)序列的譜函數(shù)是階梯函數(shù)，且只在有跳躍高度，則當(dāng)時(shí)，存在零均值隨機(jī)變量序列，使得和成立.特別，當(dāng)譜函數(shù)只p個(gè)跳躍點(diǎn)時(shí)，F(xiàn).離散譜序列的隨機(jī)測(cè)度如果離散譜序列由定義，其中滿足可以證明

是的隨機(jī)測(cè)度.G.平穩(wěn)序列的譜性質(zhì)設(shè)平穩(wěn)序列有譜表示，譜函數(shù).當(dāng)絕對(duì)連續(xù)時(shí)，有譜密度

如果在處有一個(gè)峰值，則在有增量這是正交增量過(guò)程在集中的能量.H.平穩(wěn)序列的分解從實(shí)變函數(shù)論知道，每個(gè)分布函數(shù)可以唯一分解成絕對(duì)連續(xù)部分，跳躍部分和奇異部分:這種分解被稱(chēng)為L(zhǎng)ebesgue分解.定理1.5設(shè)零均值平穩(wěn)序列有譜函數(shù).相應(yīng)于的Lebesgue分解,可以惟一分解成三個(gè)相互正交的零均值平穩(wěn)序列的和其中有譜函數(shù)

.第二節(jié)平穩(wěn)序列的周期圖A.周期圖的定義B.周期圖的性質(zhì)

由于平穩(wěn)序列的譜密度形狀能體現(xiàn)該平穩(wěn)序列的頻率特性,所以對(duì)于平穩(wěn)序列的譜密度進(jìn)行估計(jì),特別是估計(jì)譜密度的峰值情況是應(yīng)用時(shí)間序列分析的重要任務(wù)之一.平穩(wěn)序列的周期圖中蘊(yùn)含了譜密度的信息，所以有必要對(duì)周期圖詳加考察.本節(jié)假設(shè)所述的平穩(wěn)序列是零均值的和實(shí)值的.A.周期圖的定義設(shè)平穩(wěn)序列有譜密度和自協(xié)方差，則如果絕對(duì)可和：，則于是從觀測(cè)數(shù)據(jù)出發(fā)，譜密度的估計(jì)應(yīng)當(dāng)定義為

下面研究的基本性質(zhì).

定義

引理2.1

證明記用表示元素都是1的N維列向量，則定義2.1

稱(chēng)由定義的為觀測(cè)數(shù)據(jù)的周期圖.定理2.2

對(duì)于時(shí)間序列的觀測(cè)值，定義則B.周期圖的性質(zhì)定理2.3如果零均值平穩(wěn)序列的自協(xié)方差絕對(duì)可和：，則是的漸進(jìn)無(wú)偏估計(jì)：證明利用定理2.2和Kronecker引理得到定理2.4

設(shè)是獨(dú)立同分布的，實(shí)數(shù)列滿足.線性平穩(wěn)序列由定義.用表示的周期圖，則有如下的結(jié)果其中是的譜密度.例2.1

設(shè)是標(biāo)準(zhǔn)正態(tài)白噪聲，則有譜密度則服從標(biāo)準(zhǔn)正態(tài)白噪聲N(0,1).于是的分布于N無(wú)關(guān).因而不依概率收斂到零.也就是說(shuō)，不是f(0)的弱相合估計(jì).例2.2

平穩(wěn)AR（2）序列的譜密度是從120個(gè)觀測(cè)數(shù)據(jù)的周期圖可知，它圍繞劇烈擺動(dòng).第三節(jié)加窗譜估計(jì)A.時(shí)窗B.譜窗C.幾種常見(jiàn)的譜窗和時(shí)窗A.時(shí)窗對(duì)周期圖加上權(quán)函數(shù)后得到加權(quán)譜估計(jì)為了克服周期圖的振動(dòng)，應(yīng)當(dāng)是的單調(diào)減少函數(shù).通常上式中的權(quán)函數(shù)稱(chēng)為時(shí)窗.稱(chēng)此式是加時(shí)窗譜估計(jì)，簡(jiǎn)稱(chēng)為加窗譜估計(jì).例3.1

在例2.2中，如果取時(shí)窗就得到由（2.11）定義的譜估計(jì).對(duì)于序列來(lái)講，這個(gè)加窗譜估計(jì)要比周期圖好得多.一般來(lái)講，如果時(shí)窗取得合適，都會(huì)得到相合的加窗譜估計(jì).例3.2

設(shè)是MA（q)序列，滿足由于自協(xié)方差函數(shù)q后截尾，所以的譜密度是對(duì)正整數(shù)，取時(shí)窗則加窗譜估計(jì)為如果是獨(dú)立分布的白噪聲，則當(dāng)時(shí)，收斂到.于是這表明加窗譜估計(jì)是的強(qiáng)相合估計(jì).B.譜窗定義3.1

如果譜密度的估計(jì)可以寫(xiě)成就稱(chēng)是的加譜窗譜估計(jì)，也簡(jiǎn)稱(chēng)為加窗譜估計(jì).稱(chēng)權(quán)函數(shù)為譜窗.加窗譜估計(jì)的時(shí)窗和譜窗之間有以下的換算關(guān)系：C.幾個(gè)常用的譜窗和時(shí)窗設(shè)是經(jīng)過(guò)零均值化的觀測(cè)樣本.樣本的自協(xié)方差函數(shù)是周期圖是取正整數(shù)，滿足和.實(shí)際應(yīng)用時(shí)可以將取成，這里A是正常數(shù)，一般取值在1和3之間.常見(jiàn)的譜窗有：截?cái)啻埃珺artlett窗，Daniell窗，Turkey窗，Parzen窗，Bartlett-Priestley窗第四節(jié)加窗譜估計(jì)的比較A.方差的比較B.分辨率的比較A.方差的比較定理4.1

設(shè)是平穩(wěn)正態(tài)序列，有連續(xù)可微的譜密度譜窗函數(shù)滿足第三節(jié)中的條件（1）—（5）.加窗譜估計(jì)有（3.4）定義，則有如下的結(jié)果：（1）是的漸近無(wú)偏估計(jì)：（2）是的均方相合估計(jì)：（3）當(dāng)N充分大后，有其中B.分辨率的比較設(shè)譜密度連續(xù)，在處有一個(gè)明顯的峰值，如果有滿足當(dāng)稱(chēng)是在處的帶寬,完全類(lèi)似的可以定義譜密度在處有一明顯低谷時(shí)的帶寬.用表示譜窗，關(guān)于譜窗的帶寬有以下幾種常用的定義.B1半功率帶寬.其中由決定.B2Parzen帶寬.B3Jenkin帶寬第九章多維平穩(wěn)序列介紹多維平穩(wěn)序列多維平穩(wěn)序列的均值和自協(xié)方差函數(shù)的估計(jì)多維AR(p)序列第一節(jié)多維平穩(wěn)序列一、二階矩有窮的多維時(shí)間序列定義1.1設(shè)為m維隨機(jī)向量序列，其中

若，則稱(chēng)為二階矩有窮的m維隨機(jī)向量序列，簡(jiǎn)稱(chēng)為m維隨機(jī)序列。記分別稱(chēng)為的均值向量函數(shù)和協(xié)方差陣函數(shù)，其中*表示共軛轉(zhuǎn)置。

二、多維平穩(wěn)時(shí)間序列定義1.2：設(shè)為m維二階矩有窮隨機(jī)序列，若均值向量函數(shù)和協(xié)方差函數(shù)滿足則稱(chēng)為m維平穩(wěn)序列，稱(chēng)為平穩(wěn)相關(guān)。

定理1.1為m維平穩(wěn)序列的協(xié)方差陣函數(shù)，則(i)(ii)(iii)

(iv)對(duì)任意正整數(shù),m維復(fù)向量,有即為非負(fù)定陣。

定義1.3：若m維平穩(wěn)序列滿足

(1.1)

其中S>0(正定陣)，則稱(chēng)是m維平穩(wěn)白噪聲序列，簡(jiǎn)稱(chēng)m維白噪聲序列。

定義1.4：若m維隨機(jī)序列滿足：

(1.2)其中為滿足(1.1)的s維白噪聲序列，為常值陣序列，滿足

則稱(chēng)為m維平穩(wěn)線性序列?？勺C(1.2)中的每個(gè)分量都均方收斂，且有常見(jiàn)多維平穩(wěn)模型1、多維滑動(dòng)平均模型2、多維自回歸模型第二節(jié)多維平穩(wěn)序列的均值和

自協(xié)方差函數(shù)的估計(jì)一.均值的估計(jì)設(shè)是m維平穩(wěn)序列，是觀測(cè)值，均值的點(diǎn)估計(jì)定義為

相合性：定理2.1如果的每個(gè)分量序列都是嚴(yán)平穩(wěn)遍歷序列，則當(dāng)時(shí)定理2.2如果自協(xié)方差函數(shù)滿足條件

則其中

定理2.3如果則當(dāng)時(shí)，有

定理2.4如果為以下的m維平穩(wěn)線性序列

二.自協(xié)方差函數(shù)的估計(jì)設(shè)是m維平穩(wěn)序列，是觀測(cè)值，的估計(jì)為

相關(guān)系數(shù)的估計(jì)為

其中表示的第(i,j)元素，自相關(guān)系數(shù)矩陣的估計(jì)是

第三節(jié)多維AR(p)序列一.多維ARMA模型定義3.1設(shè)為實(shí)m維平穩(wěn)序列，稱(chēng)它為m維ARMA(p,q)序列，如果滿足如下m維隨機(jī)差分方程

(3.1)

其中為實(shí)系數(shù)陣，為實(shí)m維白噪聲序列，記

(3.2)

且滿足如下條件：(i)(ii)和是左互質(zhì)，即若，則(iii),rank表示秩。若滿足條件(i)，則稱(chēng)(3.1)具有平穩(wěn)性和可逆性，且有當(dāng)p=0時(shí)，稱(chēng)(3.1)為m維MA(q)模型，當(dāng)q=0時(shí)，稱(chēng)(3.1)為m維AR(p)模型。

多維ARMA(p,q)模型(3.1)的傳遞形式和逆轉(zhuǎn)形式分別為：

且

注：對(duì)多維ARMA(p,q)模型建模時(shí)遇到兩大困難，(1)多維ARMA(p,q)模型的參數(shù)不可由唯一決定，當(dāng)然也不可由的自協(xié)方差函數(shù)唯一決定稱(chēng)之為多維ARMA模型的不可識(shí)別性。(2)一維ARMA模型中，對(duì)滑動(dòng)平均參數(shù)的估計(jì)常要采用非線性最小二乘估計(jì)，對(duì)于多維情形就更復(fù)雜、更困難。二.多維AR模型定義3.2設(shè)為實(shí)m維平穩(wěn)序列，稱(chēng)它為m維AR(p)序列，如果滿足如下m維隨機(jī)差分方程

(3.3)

其中為實(shí)系數(shù)陣，為實(shí)m維白噪聲序列，記

(3.4)

且滿足如下條件：(i)(ii)VAR(1)模型的解:VAR(1)序列的自協(xié)方差函數(shù):

三.多維AR模型的參數(shù)估計(jì)目的：假定自回歸的階數(shù)p已知，求出自回歸系數(shù)陣和白噪聲方差陣S的估計(jì)。1.自回歸系數(shù)陣的矩估計(jì)設(shè)為VAR(p)序列

(3.3)

對(duì)(3.3)等式兩邊右乘，再求數(shù)學(xué)期望得，

(3.5)式取n=1,2,…,p可表為矩陣型的線性方程組：

(3.7)

令

稱(chēng)(3.6)式為Yule-Walker方程，它可表為

(3.7)設(shè)為的長(zhǎng)度為n的樣本，當(dāng)n充分大時(shí)，m維樣本自協(xié)方差陣

(3.8)

可作為的估計(jì)。于是，系數(shù)陣的估計(jì)：AR(p)模型的系數(shù)陣的估計(jì)

(3.9)稱(chēng)為的矩估計(jì)，又稱(chēng)為Yule-Walker估計(jì)。

白噪聲方差S的矩估計(jì)為(3.10)

2.多維AR(p)模型系數(shù)的最小二乘估計(jì)求使得，

(3.11)達(dá)最小，則必須滿足：

(3.12)其中是的第行第j列的元素。

則有，

(3.13)記

(3.14)

則(3.13)為

(3.15)當(dāng)n充分大時(shí)，漸近相等。

系數(shù)陣的最小二乘估計(jì)：由(3.15)解出，記稱(chēng)之為的最小二乘估計(jì)。m維白噪聲序列的方差陣S的最小二乘估計(jì)：

(3.16)

3.多維AR(p)模型系數(shù)陣的遞推估計(jì)1).m維AR模型系數(shù)陣隨階數(shù)p的遞推算法為了表示自回歸系數(shù)陣隨著模型階數(shù)p而變，將它表示為則模型表示為：

(3.17)相應(yīng)的記為，它滿足

(3.18)

記，并定義