基于BP神經網絡的時序預測及其應用

西華大學畢業(yè)論文西華大學畢業(yè)論文PAGEPAGE12目錄摘要 1前言 2第一章時間序列的預測函數及其評價指標 4第一節(jié)預測函數 5第二節(jié)評價預測的數量指標 5第二章BP神經網絡 6第一節(jié)BP神經網絡的結構 6第二節(jié)BP神經網絡算法及公式推導 7第三節(jié)BP神經網絡算法的步驟 9第三章基于BP神經網絡的時間序列預測及其應用 11第四章結論 14總結與體會 15致謝詞 15參考文獻 15附錄 16摘要首先，本文介紹了時間序列的含義和時間序列預測在國內外的研究情況，列舉了兩個時間序列預測的實際例子。文中闡述了時間序列預測及其評價指標，比較了各評價指標之間的長處和短處。其次,本文闡述了BP神經網絡算法及其公式推導。給出了BP神經網絡算法的流程圖。最后,本文從實用出發(fā)，列出了1993年至GDP的數據,此組數據呈現出增長趨勢,這種增長趨勢反映了近十幾年我國經濟的快速增長。用BP神經網絡預測出我國2007年的GDP是200790億元,這表明今后我國經濟有減緩的跡象,這也說明我國近幾年宏觀經濟調控獲得了一定的成果。【關鍵詞】時間序列神經網絡預測GDPAbstractThisgradepaper,timesseries,andthedevelopmentoftimesseriesforecastareintroducedatfirst,andthenthepracticalexamplesoftimesseriesforecastareenumerated.Thefunctionoftimesseriesforecastanditsevaluativeindexaregiven.Wecomparetheadvantageanddisadvantageoftheseevaluativeindexes.Secondly,TheprinciplesofBPneuralnetworkandBPneuralnetwork’salgorithmarepresented.Finally,weparticularizeourcountryGDPstatistics,whichitincreases,whichitindicateseconomy’sfastincreasing,yearbyyear,from1993to2006.WealsostudyBPneuralnetwork’sforecastalgorithm.OurcountryGDPin2007,wicheitisabout200790hundredmillionsisforecastedbyBPneuralnetwork,anditshowsthattheChinesemacro-economypolicyintenyearsaresucceed.KeywordstimeseriesneuralnetworkpredictionGDP前言1970年G.M.Jenkins的《TimeSeriesAnalysis:ForecastingandControl》一書問世以來，時間序列的預測發(fā)展迅速，并在社會經濟、自然科學及工程各個領域中獲得了廣泛應用。在科學研究中，用數學模型去描述一種物理現象的特征，這一思想是確信無疑的。具體地，如果可以根據物理定律建立一個模型，再根據這個模型能對依賴于時間的量在任何瞬間都幾乎準確地計算其值，則這種現象就是完全確定的。然而，如果不簡化，沒有一種現象是完全確定的。許多依賴于時間的現象有很多未知影響因素，不能寫出一個確定性的模型去計算該現象的未來特性。但是，用所建立的模型來計算某個未來變量落在兩個特定界限之間的概率，這卻是可能的，這樣的模型稱為概率模型或隨機模型。時間序列（TimeSeries）模型就是隨機模型。由個順序觀測值的時間序列，被看作是隨機過程生成的時間序列無窮總體中的一個樣本實現。隨機過程中的隨機數據，如按時間順序、或按空間順序、或按某種物理量順序排成一串數據序列，就是時間序列（簡稱時序）。這種觀察數據依順序先后排列，并各有其大小，正是數據的這種順序和大小包含了對象運動的有關信息，表現著對象變化的動態(tài)過程，因此時間序列也往往稱為動態(tài)數據。時間序列中相鄰觀測值的依賴關系需要采用參數模型來刻畫。參數模型中應用最廣泛的是自回歸模型，即AR模型。傳統(tǒng)的時間序列預測就是利用這些數學模型和系統(tǒng)的過去值及現在值來預測其未來值。下面列舉兩個來自于實際問題的時序預測的例子。例1我國財政收入增長速度的年度時序(見附錄1)。圖1給出了1952年～2000年我國財政收入增長速度的時序曲線。時序預測的任務就是對原始數據進行細致的考察，對數據建立適當的時序模型，找出我國財政收入增長速度變動的內在規(guī)律性，依其規(guī)律對2000年以后的年份的財政收入增長速度進行預測。圖11952年～2000年我國財政收入增長速度的時序曲線例2武漢市日平均氣溫記錄（見附錄2）。圖2給出了從1987年12月1日開始至1988年11月30日的366個日平均氣溫的時序曲線。這366個觀測數據蘊涵了武漢市日平均氣溫變化的內在規(guī)律性。依其規(guī)律可預測未來某時刻的氣溫。圖2武漢市日平均氣溫時序(1987/12/1～1988/11/30)這兩個圖中的曲線都有一個共同特點，即它們似乎都沒有一個明確的趨勢，例如一條直線或一個正弦波等。圖1中曲線似乎圍繞著一個固定的水平起伏，這個特性使我們可以假定這組數據是“平穩(wěn)的”；圖2不具有這個特性，我們可以假定這組數據是“非平穩(wěn)的”。根據時序不同的特性，時序預測需要建立不同的預測模型進行預測和分析。1927年，Yule首先提出AR模型，根據沃爾夫爾（Wolfer）太陽黑子數的統(tǒng)計分析更逼真地描述太陽黑子現象，從而做到能夠預測太陽的活動。在我國，雖然時間序列理論和其應用研究起步較晚，但在工程界和數學界的共同努力下發(fā)展很快。工程界于1983年12月在武漢華中理工大學舉行“全國第一界時間序列分析在機械工程中應用學術討論會”，數學界于1984年4月在北京舉行“全國第一次時間序列會議”。雖然時間序列分析的應用不限于預測，但它源于預測（特別是市場預測），而且目前應用最多的還是預測。在過去的幾十年里，人們建立大量的時序模型對各類隨機過程進行擬合，但所有的建模方法明顯地基于兩個假設——平穩(wěn)性和線性。對復雜非線性系統(tǒng)或過程的研究，我們所得到的時間序列一般都不滿足平穩(wěn)性和線性。1987年Lapedes和Farber首先應用神經網絡進行時間序列預測以來，神經網絡預測越來越受到重視，目前已有多種不同形式的神經網絡被用于工業(yè)、經濟、社會等領域的近期或短期預測，其中最常用的是BP和RBF這兩種前饋網絡。本文用BP神經網絡對我國的2007年GDP進行預測.第一章時間序列的預測函數及其評價指標在自然科學、工程技術、社會經濟等問題中，經常需要“根據以往的歷史數據觀測”希望對“將來的某一時刻的觀測”作出預報的問題，并且希望預報越精確越好。對不同系統(tǒng)和不同物理過程應選用不同的預測模型，而模型的選取及其正確的建模主要與系統(tǒng)特征或其時間序列分布規(guī)律有關，既可以是動態(tài)離散數據，也可以是連續(xù)隨機變量的采樣值，如何評價一個預測模型，需要理解預測函數及其評價指標。第一節(jié)預測函數根據時間序列的歷史觀測值，對未來時刻的取值進行估計，稱為對時間序列進行步預測，所得估計值記為，稱為的預測值或的步預測值。既然是根據樣本提供的信息來確定的，自然想到應將表示為的某個函數稱為預測函數。這樣，求預測公式的問題就變成確定預測函數的具體表達式的問題。怎樣選取預測函數呢？直觀的想法是所選取的預測函數應能使預測誤差盡可能的小，這就需要確定一種準則，比如Z準則，使得依據Z準則能衡量采用某種預測函數所得的預測誤差比采用別的預測函數所得的預測誤差小。于是，根據不同的實際問題和不同的背景，可以討論在不同的函數和Z準則之下的時間序列預測問題，比如函數可以是的線性函數，也可以是非線性函數。準則Z一般取為均方誤差標準。第二節(jié)評價預測的數量指標表示真值的預測值,預測誤差主要有以下幾種:絕對誤差:相對誤差:平均誤差:平均相對誤差:均方誤差:標準誤差:對于同一個預測結果,上述各指標不一定具有一致性。前兩個指標，均對各個數據點的預測結果進行評價，沒有集中這對真值與預測值之間的關系。后四個指標集中了這對預測結果，能作為預測方法的評價指標，但各自又有自身的不足。由于絕對誤差有正有負，求平均誤差時可能出現正負抵消的情況；平均相對誤差、均方誤差和標準誤差均具有量綱，故只能在同一量綱下才能對預測方法做出客觀、準確地評價。第二章BP神經網絡1943年心理學家W.S.McCulloch和數學家W.Pitts所提出的M-P模型以來，人工神經網絡的研究經歷了一條由興起到蕭條、又由蕭條到興盛的曲折發(fā)展道路。最近20年的發(fā)展，BP神經網絡的算法已經相對成熟。下面首先介紹BP神經網絡結構和算法。第一節(jié)BP神經網絡的結構BP神經網絡簡稱BP網絡，它有輸入層、輸出層和中間隱層。最簡單的BP網絡就是僅有一個中間隱層的情形，即3層BP網絡，如圖3所示。每層具有神經元的個數可以不一樣，前一層的神經元與后一層的神經元之間有權值連接，且每一個神經元的非線性傳遞函數最簡單的就是S型函數。最常用的S函數形式為，其中參數。...…圖3BP神經網絡模型結構第二節(jié)BP神經網絡算法及公式推導首先介紹BP網絡的學習算法，它有兩個階段，一方面從網絡的輸入層向前計算，如果網絡各層間的權值和每層閾值已經設定，輸入已知的樣本，則可以計算每一層的神經元輸出。另一方面從最后輸出層向后計算，并逐步修改各層間的權值和每層閾值。將這一過程的兩個階段反復交替，直到達到誤差小于設定的值為止。其次，介紹BP網絡算法及其計算公式推導。設輸入向量為，網絡最后輸出端的期望輸出向量為，實際輸出向量為，中間共有個隱層，第層隱層的輸出向量為，連接第層隱層中第個神經元與第層隱層中第個神經元的權值為閾值，記，則各層神經元的輸出滿足其中是加到第層隱層中第個神經元前輸入的個數，即第層隱層中神經元的個數。令，則有若令定義網絡輸出層的第個神經元的誤差和平方誤差為則輸出層（個神經元）總的平方誤差為輸出層神經元的公式推導：定義局部剃度為，且取則故權值的修正量為其中負號表示修正值按剃度下降方向，為學習效率。第層隱層神經元的公式推導：同樣定義局部剃度為，則又有從而權值的修正量為其中負號表示修正值按剃度下降方向，為學習效率。同理可得：對任意第隱層神經元有第三節(jié)BP神經網絡算法的步驟A.初始化，選定一個結構合理的網絡，通常給出可以調節(jié)的參數（權值和閾值）為均勻分布的較小的隨機數。B.第個樣本的計算：1）向前計算對第層隱層中第個神經元若，則，若，則2）向后計算對輸出層中第個神經元對第層隱層中第個神經元3）修改權值和閾值，,其中是學習率。C.輸入新的樣本，直到達到預期要求。用BP算法訓練網絡通常是每輸入一個樣本修改一次權值，其算法流程圖如圖4：E<EE<Emax是初始化權值和閾值計算輸出層誤差輸入樣本，計算各層輸出計算局部梯度修正隱層權值和閾值修正輸出層權值和閾值停機E=0否圖4BP算法的流程圖有關BP算法的詳細討論可參考文獻[7-11]。第三章基于BP神經網絡的時間序列預測及其應用自從1987年Lapedes和Farber首先應用神經網絡進行時間序列預測以來，神經網絡作為一種新的時間序列預測方法，表現了良好的逼近非線性品質，有很高的預測精度。但神經網絡尚處少年期，理論尚不完善，還不足以提供一套可賴以遵循的設計準則和實用方法。目前，網絡結構及參數的確定多采用基于實驗的試探法，通過實驗不斷對多種方案進行比較和改進，直到選取一個滿意方案為止。BP網絡是應用最廣泛的預測模型。一般來說，一次觀測中過去值與未來值之間存在聯(lián)系，當過去觀測值作為BP網絡的輸入，給出未來值作為BP網絡的輸出，從數學角度看，BP網絡成為輸入輸出的非線性函數。記一個時間序列，進行其預測可用下式描述:。基于BP網絡的時間序列預測方法就是用BP網絡來擬合預測函數，然后預測未來值。我國第一次經濟普查圓滿完成了各項任務后，國家統(tǒng)計局利用普查數據對2004年GDP進行了核算，并于2005年12月20日發(fā)布了核算結果。為保持GDP數據的歷史可比性，按照國際慣例，國家統(tǒng)計局對2004年以前一定年度GDP歷史數據進行了修訂。GDP表明GDP有上升的趨勢,這種上升的趨勢反映了經濟快速增長年份1993199419951996199719981999GDP（億元）35333.948197.960750.571176.678973.084402.389677.1年份2000200120022003200420052006GDP（億元）99214.6109655.2120332.7135822.8159878.3182320.6209407.0表1GDP本文采用MATLAB語言編寫帶有動量項和自適應學習率的BP網絡程序網絡訓練動量項系數我們選擇輸出層有2個神經元，用搜索輸入層有6個神經元、隱層有4個神經元，這樣的三層BP網絡是我國國內生產總值（GDP）適合的預測模型第143樣本的總平方誤差最小，見圖5。此時得到的權值和閾值如表2和表3。按此時的權值和閾值進行預測，得到2005年和2006年我國GDP預測值,見表4。表4可見2005和2006年我國GDP預測的相對誤差絕對值平均值4.1我們所得BP網絡結構是一個比較好的優(yōu)化過程然后用此BP網絡結構預測出2007年我國GDP為200790億元。表明今后我國經濟有放慢的征兆,這也說明我國近幾年宏觀經濟調控收到了一定的效果。由于GDP是衡量經濟發(fā)展的一個重要指標，也是衡量一個國家當前生產力的發(fā)展水平。那么通過預測我國的GDP，其預測結果對未來經濟政策的制定具有一定的參考價值。圖56—4—2結構的BP網絡訓練的誤差平方和曲線W1234561-0.5200-0.0383-0.0133-0.5331-0.57850.12440.435720.1860-0.1066-0.05580.19830.21330.10890.301630.38360.3766-0.1492-0.1499-0.07390.04430.30384-0.25900.2216-0.8730.26860.58830.62780.1776表2輸入層與隱層間權值和隱層閾值W12341-0.9788-0.4884-0.17930.0488-1.32602-0.05390.72250.36000.81031.2641表3隱層與輸出層權值和輸出層閾值年份真值（1.0e+005*）預測值（1.0e+005*）相對誤差的絕對值20051.82321.81800.29%20062.09411.92787.94%20072.0079表4我國2005、2006和2007年的GDP預測值第四章結論本文首先介紹了時間序列含義，根據相鄰觀測值的依賴關系可以對時間序列進行預測,并給出了兩個來自實際問題的時間序列預測的例子。接著闡述了時間序列預測函數，即，并且給出了六個評價預測結果的數量指標：絕對誤差、相對誤差、平均誤差、平均相對誤差、均方誤差、標準誤差,這6個指標只有相對誤差不需要量綱,其它5個都必須在同一量綱下。然后詳細討論了BP神經網絡的結構和算法，并進行了公式推導,給出了BP神經網絡的流程圖。最后用BP神經網絡對我國2007年的GDP進行了預測，得到以下主要結果：1.采用MATLAB語言編寫B(tài)P網絡程序，利用1993年至2006年我國GDP的數據，得到了比較理想的BP網絡結構，即6-4-2結構的BP神經網絡，也得到了比較理想的BP網絡參數，見表2和表3。2.表明GDP有上升的趨勢,這種上升的趨勢反映了我國最近十幾年經濟的快速增長。通過BP神經網絡預測出2007的GDP為200790億元。這個預測值比2006年我國GDP的實際值209407億元小,這表明我國經濟有放慢的征兆,這也