神經網(wǎng)絡方法環(huán)境工程

1神經網(wǎng)絡

人工神經網(wǎng)絡能夠模仿人腦的功能，具有對信息進行并行處理、分布式存貯，良好的自適應性、自組織性、自學習與推理的能力，表現(xiàn)出容錯性、非線性、非局域性、非凸性等特點，適用于對模糊信息或復雜的非線性關系進行識別與映射。2BP神經網(wǎng)絡

誤差反向傳播網(wǎng)絡（Back－PropagationNetwork），簡稱BP神經網(wǎng)絡，是目前人工神經網(wǎng)絡最具有代表性的一種網(wǎng)絡，應用最為廣泛。BP神經網(wǎng)絡通常由輸入層、若干隱含層和輸出層組成，最基本的BP神經網(wǎng)絡通常由一個輸入層、一個隱含層和一個輸出層組成。X表示網(wǎng)絡的輸入、H表示隱含層、Y表示網(wǎng)絡的輸出，Wij表示輸入層與隱含層之間的連接權值，Vjk表示隱含層到輸出層的連接權值。m、l、n分別表示輸入層、隱含層、輸出層神經元的個數(shù)。Q1j和P1j分別表示隱含層、輸出層神經元的閾值。3BP網(wǎng)絡整個學習過程的一般步驟如下：①網(wǎng)絡初始化。給各連接權值{Wij}、{Vjk}及閾值{Q1j}、{P1j}賦予（-1，+1）間的隨機量。②將第t（t=1）個學習樣本輸入到圖的網(wǎng)絡中。③計算隱含層第j神經元輸入{sj}和輸出{bj}：，即：式中：

f（x）—網(wǎng)絡相應函數(shù)，取f（x）為Sigmoid函數(shù)，即。4④計算輸出層第k神經元的輸入{Lk}和輸出層的輸出{Ck}，即：⑤計算輸出層各神經元的一般化誤差{dk}：式中：Yk—第k神經元的期望輸出。⑥計算隱含層第j神經元的一般化誤差{Ej}：5⑦調整連接權值和閾值：式中：η—學習速率，0<η<1。⑧選取下一個訓練樣本對（t=2），重復步驟③～⑦，直至所有樣本對（t=1，2，…m）訓練完畢，即完成了訓練樣本集的一輪訓練。6⑨計算全局誤差SSE：式中：M—學習樣本的對數(shù)；Ykt—第t對學習樣本的期望輸出；Ckt—第t對學習樣本的計算輸出⑩如果SSE小于預先設定的一個誤差值，則網(wǎng)絡停止學習；否則將重復步驟③～⑦，進行樣本學習樣本集的下一輪訓練。7標準BP算法是基于梯度下降法，通過計算目標函數(shù)對網(wǎng)絡權值和閾值的梯度進行修正。學習過程是通過調整權重和閾值使期望值和神經網(wǎng)絡輸出值的均方誤差趨于最小實現(xiàn)的，只用到均方誤差函數(shù)對權值和閾值的一階導數(shù)信息。標準梯度下降法權值和閾值的迭代過程可表示為：標準BP算法：由網(wǎng)絡所有權值和閾值所形成的向量。

學習速率目標函數(shù)(均方誤差函數(shù))

目標函數(shù)的梯度(一階導數(shù))

迭代次數(shù)

8BP神經網(wǎng)絡的缺點：BP神經網(wǎng)絡是目前應用最多的一種神經網(wǎng)絡形式，但不是非常完美，表現(xiàn)出結構確定的人為性、訓練速度慢以及初始權值對結果影響的隨機性等缺陷；存在學習過程易陷入局部極小、易出現(xiàn)震蕩和網(wǎng)絡存在冗余連接或節(jié)點等缺陷；另外，隱含層單元數(shù)及隱含層結點數(shù)的確定至今沒有統(tǒng)一的方法。9對于上述存在的缺點，許多學者對BP網(wǎng)絡進行了改進，大多采用基于標準梯度下降的改進方法，如附加動量法、彈性BP算法、自適應調整參數(shù)法等或基于標準數(shù)值優(yōu)化的改進方法，如擬牛頓法、共扼梯度法和LM法等，并沒有將兩種改進方法結合起來。

BP神經網(wǎng)絡的改進：10（1）基于標準數(shù)值優(yōu)化的改進BP神經網(wǎng)絡的訓練實質上是非線性目標函數(shù)的優(yōu)化問題，標準BP神經網(wǎng)絡利用了目標函數(shù)的一階導數(shù)信息。本次改進采用“LM”法，它是基于標準數(shù)值優(yōu)化的改進方法，在利用目標函數(shù)的一階導數(shù)信息的基礎上，還利用了目標函數(shù)的二階導數(shù)信息。改進后的權值和閾值的迭代過程表示為：DH—是對角矩陣，其對角元素為H的對角元素；11μ—阻尼因子（若E(X(k+1))≥E(X(k)),μ(k+1)=10μ(k)；否則μ(k+1)=0.1μ(k)）。

該改進方法根據(jù)迭代的結果動態(tài)地調整阻尼因子，使每次的迭代誤差函數(shù)值都有所下降，收斂速度快。（2）基于梯度下降的改進標準BP算法的步長λ是定值，這就導致了λ難以確定，若λ過小，在誤差曲面較平坦的區(qū)域，收斂較慢；當步長λ較大時，又會在峽谷區(qū)域引起震蕩。針對上述缺陷，本次采用步長自適應改進方法確定λ，即：式中：β—某一小正數(shù)，β∈[0.01，0.03]；

p—訓練次數(shù)

Ep—第p次的訓練誤差。12

該方法的優(yōu)點是當誤差減小時步長相應增大，當誤差增大時步長相應減小，克服了標準BP算法步長難以確定的缺陷。采用這兩種方法改進的BP神經網(wǎng)絡能克服標準BP神經網(wǎng)絡訓練速度慢、初始權值對結果影響的隨機性、在學習過程易陷入局部極小、易出現(xiàn)震蕩等缺陷。13基于人工神經網(wǎng)絡的綜合評價方法步驟

（1）確定評價指標集，指標個數(shù)為BP網(wǎng)絡中輸入節(jié)點的個數(shù)；

（2）確定BP網(wǎng)絡的層數(shù)，一般采用具有一個輸入層，一個隱含層和一個輸出層的三層網(wǎng)絡模型結構；

（3）明確評價結果輸出層的節(jié)點數(shù)為1;

（4）對指標值進行標準化處理；

（5）用隨機數(shù)（一般為0-1之間的數(shù)）初始化網(wǎng)絡節(jié)點的權值與網(wǎng)絡閾值；

（6）將標準化以后的指標樣本值輸入網(wǎng)絡，并給出相應的期望輸出；

14基于人工神經網(wǎng)絡的綜合評價方法步驟（7）正向傳播，計算各層節(jié)點的輸出；

（8）計算各層節(jié)點的誤差；

（9）反向傳播，修正權重；

（10）計算誤差。當誤差小于給定的擬合誤差，網(wǎng)絡訓練結束；否則轉到（7），繼續(xù)訓練；

（11）訓練所得網(wǎng)絡權重就可以用于正式的評價。15神經網(wǎng)絡在地下水環(huán)境評價中的應用

地下水環(huán)境質量評價是地下水資源評價的一項重要內容，它根據(jù)地下水中主要物質成分和給定的水質標準，分析地下水水質的時空分布狀況和可用程度，為地下水資源的開發(fā)利用、規(guī)劃和管理提供科學依據(jù)。16神經筆網(wǎng)絡追在地弟下水驗環(huán)境詠評價婦中的肆應用地下帽水水謹質評結價的遍方法橡有很隆多,如模爐糊數(shù)滲學法家、灰銜色聚擴類法丙、物肌元分吧析法宵、內環(huán)梅羅辛指數(shù)稿法等勿。在炒設計始模糊塊數(shù)學已的隸押屬度止函數(shù)濟、灰碰色聚乎類的塘白化士函數(shù)挽時及昂在確班定各鉗評價紅指標竭的權秤重時更，都禍存在逝著人鬼為因毯素，羊造成克評價高模式嫁難以臟通用兇，而劉且也問存在將著在傘計算駱時丟區(qū)失信泳息太猾多而劇使評奏價結稀果與撐實際岸不符紙。內腰梅羅悔指數(shù)因法數(shù)款學過劍程簡統(tǒng)捷，倉運算鴿方便雪，物分理概弄念清映晰等濾，該值方法仆的主棕要缺掉點是揚過于譽突出循最大蔽污染娘因子鈔，未淚考慮最權重恒因素陰，對欣各污佛染因劉子等居同對銹待等走。這許些方酷法并養(yǎng)沒有由很好零解決炕評價扔因子魔與水蕩質等嘩級間臨復雜僵的非禾線性芝關系輩，以棍及水愁體污驚染的掘模糊僅性與惱隨機府性，赤至今旨還沒粘統(tǒng)一額的評毅價模圖型。17神經牲網(wǎng)絡族在地鄭下水數(shù)環(huán)境赤評價徒中的估應用表1水質長資料18神經銀網(wǎng)絡程在地筑下水騎環(huán)境追評價卸中的棟應用19神經拼網(wǎng)絡愛在地駐下水蒼環(huán)境塔評價芝中的剛應用I類水紀的標們準界驚值為I類水蘆的分刺級代章表值撓，Ⅱ類水銜的分戒級代最表值懸為I類水爽和Ⅱ類水篇標準關界值乞的中疼值，償其余盟依次磚類推閥，將Ⅳ類水遣或Ⅴ類水醬的界慚值作國為Ⅴ類水類的分涉級代孩表值貿。得拴到本熄次BP網(wǎng)絡獸的訓桑練樣起本，框見表2。1訓練孝樣本勸選擇表2地下偏水質肌量標者準分圖級類姜別和災網(wǎng)絡剛期望戶輸出湖值20神經倍網(wǎng)絡便在地流下水掛環(huán)境罪評價歪中的等應用2數(shù)據(jù)特的預愉處理BP網(wǎng)絡千模型吊一般尚以S形函賴數(shù)作界為轉顧換函惕數(shù)，羅該函小數(shù)的寸值域蓄為[0，1]，因坑此在皺網(wǎng)絡崖訓練士時要將不原始體數(shù)據(jù)僻進行粒處理于，規(guī)撿范到[0，1]之間抖，常壟用的想數(shù)據(jù)蜜預處夢理方碗法主抗要有巴標準憤化法奏、重勾新標涼法、貴變換椒法、哄比例籮壓縮面法、溜壓縮涂系數(shù)者法。為了制實現(xiàn)醒將網(wǎng)烤絡輸貪入數(shù)幻玉據(jù)信序息集膽進行察合理溉的壓評縮，餅又能逮夠體庭現(xiàn)原期始輸炒入數(shù)視據(jù)信嚼息之多間的敏差別堆，建爆議使渴用壓集縮系敵數(shù)法際。公求式如諷下：T=緒αX式中仙：X—壘—原始介數(shù)據(jù)肢；α—種—壓縮亂系數(shù)般法，0<側α<自1,根據(jù)曬具體星對象貍選取α的值掃；T—俯—變換搬后的夕數(shù)據(jù)葬。21神經國網(wǎng)絡蠅在地毛下水及環(huán)境哥評價姿中的董應用3隱層臺及隱蒸層神狼經元做節(jié)點因數(shù)的具確定地下渣水環(huán)攀境質纖量評織價是磚一個輪非線靠性關滅系較確為復齡雜的脾問題向，神餅經網(wǎng)捏絡具匪有逼差近任夕意非劫線性解函數(shù)癥的能時力，贊且一蔽般的墨三層BP網(wǎng)絡攔模型饒就能蜻滿足誓大部饒分非短線性弓系統(tǒng)敞要求[7籌-8溫]，因慎此本枯次采辛用一蔽個隱粉含層汽。隱含畫層神團經元鎖節(jié)點酒數(shù)的項確定繡是人全工神置經網(wǎng)武絡設闊計中設最為爽關鍵敬的步該驟，幅它直算接影薦響網(wǎng)享絡對至復雜弱問題捆的映行射能估力。旅目前女出現(xiàn)季的確從定隱非含層蒼神經歡元方開法是壩多樣螞的，仁但都泰缺乏縱令人冒信服身的依戒據(jù)，鉆有時哈常常異也是戰(zhàn)無效般的。珍本文盟采用章“試佳算法罷”確蛾定神誦經元泰個數(shù)點，經察試算玩，最多佳隱催含層自節(jié)點漿數(shù)為15個。22神經昆網(wǎng)絡灰在地輛下水衛(wèi)環(huán)境套評價否中的源應用4地下卵水環(huán)錄境質滿量評塊價由于滲本次終評價柔指標蘿選擇葬了5個評金價因避子，滋因此評輸入侵層神梢經元叢節(jié)點掉數(shù)為5個，睜評價乓等級符為5個，涼輸出謊層神養(yǎng)經元驅節(jié)點發(fā)數(shù)為5個，膛隱含反層神崗經元仙節(jié)點乳數(shù)經致試算素為15個，睛因本餅次BP網(wǎng)絡蜘的拓庭撲結段構為嫌：一刷個輸消入層矮，神斤經元飼節(jié)點排數(shù)為5個；弱一個斗隱含江層，釣神經誘元節(jié)司點數(shù)嶼為15個；搶一個認輸出批層，蕉神經僑元節(jié)民點數(shù)攔為5個。23神經鏟網(wǎng)絡天在地批下水言環(huán)境誘評價爬中的屢應用4地下剃水環(huán)贏境質萬量評傳價表3地下攏水環(huán)舒境質運量評剛價結神果24神經順網(wǎng)絡活時間抗序列蟻預測卵模型記一壩個時震間序商列為{Xt}，其悲中xt=x(t)，t=婦0，±1，±2，…。時邀間序筋列預呼測也素就是承根據(jù)向時間服序列{Xt}的歷摧史觀挑測值xn，xn興-1，…，xn-換m對未吼來n+k時刻缺（k>0）的匠取值暗進行等估計秀，可削以認楊為xn，xn-1，…，xn-灣m之間賠存在豪有某聚種函廢數(shù)關卡系，豪可用鴿下式啟描述勢：25神經茅網(wǎng)絡很時間悠序列豈預測章模型水的步疑驟神經傻網(wǎng)絡輔預測庫時間位序列絹的方用法就侄是用防神經仆網(wǎng)絡田來擬聲合某甜一時靈間序篇列的夠函數(shù)F(·婆)，然勻后將磚之用尸于時室間序薯列的筐預測框。建燥立神皺經網(wǎng)榮絡時至間序綿列預箭測模務型有等以下莊幾個旗步驟勸：（1）數(shù)榜據(jù)的妄預處活理BP神經羽網(wǎng)絡竭一般汪以S型函啞數(shù)作昏為轉握換函說數(shù)，慌該函徹數(shù)的僚值域微為[0，1]，因勵此在扮網(wǎng)絡殺訓練精時要山將原夜始數(shù)魄據(jù)進組行處攀理，估規(guī)范睜到[0，1]之間盟，常梯用的冊數(shù)據(jù)矩預處匹理方需法主距要有殘標準烘化法只、重董新標轎法、澤變換英法、徒比例再壓縮肯法、熄壓縮寧系數(shù)蒼法。26神經炮網(wǎng)絡晴時間滑序列單預測暢模型詠的步門驟（1）數(shù)西據(jù)的撈預處噸理為了蜜實現(xiàn)殿將輸向入數(shù)戲據(jù)信渠息集夕進行穗合理那的壓稿縮，糖又能列夠體秋現(xiàn)原含始輸腫入數(shù)形據(jù)信丑息之教間的酒差別媽，本涼次研觸究采撒用壓脆縮系返數(shù)法貍，對仔數(shù)據(jù)樓進行聽預處炕理，騎公式騰如下歪：T=αX式中遇：X—原始暢數(shù)據(jù)現(xiàn)；α—壓縮霸系數(shù)蕩法，0<α<1，根膚據(jù)具偏體對記象選桃取α的值笑；T—變換內后的痕數(shù)據(jù)接。27神經泄網(wǎng)絡騎時間柴序列賴預測矮模型糞的步攏驟（2）隱武層及西隱層如神經船元節(jié)滿點數(shù)傻的確怖定神經災網(wǎng)絡傳具有望逼近氏任意驢非線肆性函捏數(shù)的獵能力其，且碎一般萌的三印層BP網(wǎng)絡殿模型撈就能價滿足割大部市分非航線性稱系統(tǒng)血要求顫，本扎次研女究采悅用上終述改獄進的BP神經醉網(wǎng)絡錘。隱擊含層奔神經年元節(jié)送點數(shù)券的確刷定是竭人工脾神經偵網(wǎng)絡起設計爽中最心為關糾鍵的餐步驟腦，它績直接稿影響愉網(wǎng)絡愚對復乒雜問永題的罷映射怨能力垃。目之前出烤現(xiàn)的刮確定慨隱含蛛層神侄經元保個數(shù)慮的方疏法是抵多樣堪的，朱但都警缺乏叮令人酷信服冠的依川據(jù)，菜有時席常常號也是薯無效飄的。針本次揀研究黎采用增隱含鼓層采朵用一鈔層，喇隱含擱層節(jié)要點數(shù)糞的確蠻定采狠用“寇試算斗法”句。28神經篩網(wǎng)絡愿時間勒序列扛預測銹模型鑰的步檢驟（3）網(wǎng)火絡結嘆構設辰計網(wǎng)絡嫩結構副設計瞧包括脹確定限網(wǎng)絡跳的隱攀層數(shù)折、隱殊層神慨經元脾節(jié)點任數(shù)及地輸入付、輸誰出層省神經眉元節(jié)躺點數(shù)暗。輸味入、糕輸出牌層神腫經元放節(jié)點戚數(shù)由茂實際淡問題治決定認。29神經崗網(wǎng)絡倡時間拜序列達預測假模型維的步燥驟（4）樣浪本的鄙選取將時漆間序愛列作娃為樣料本集托，并弄將其捷分為建兩組抓，一講組作評為訓臟練樣近本，鍋一組哲作為專檢驗順樣本扎。訓仙練樣超本的匯選擇務通常啟遵循扶以下庭原則拖：樣柏本足后夠多叼，具泛有代值表性乘且樣哄本分襯布均默勻。30神經正網(wǎng)絡列時間蒼序列術預測例模型發(fā)的步掩驟（5）訓阿練網(wǎng)葵絡用訓族練樣套本，優(yōu)對神殊經網(wǎng)架絡進足行訓稠練，井得到輝神經汁網(wǎng)絡題時間待序列濃預測良模型歐。31神經燒網(wǎng)絡朱時間紗序列荒預測遲模型綠的步北驟（6）驗扒證網(wǎng)誰絡對網(wǎng)撈絡進顆行檢畜驗，歌即對爛檢驗牌時間丈序列灘進行所預測罵，與犬檢驗紗樣本伐對比碑，分疫析預館測的村效果瞞，效禽果滿觸足精第度要辜求便煌可以異用來桶進行烘長期論預測焦。檢盜驗方刺法通鍬常采誤用后鳳驗預自測法樓。32神經懼網(wǎng)絡歸時間即序列別預測忠模型捕的步肆驟（6）驗你