建模與仿真神經(jīng)網(wǎng)絡(luò)課件

什么是神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)方法在生物信息學(xué)中的應(yīng)用神經(jīng)網(wǎng)絡(luò)在matlab中的實(shí)現(xiàn)2/352023/7/24神經(jīng)網(wǎng)絡(luò)知識(shí)人工神經(jīng)網(wǎng)絡(luò)對(duì)人腦或自然神經(jīng)網(wǎng)絡(luò)若干基本特性的抽象和模擬

非局域性非線(xiàn)性性非定常性非凸性神經(jīng)網(wǎng)絡(luò)的基本性質(zhì)3/352023/7/24神經(jīng)元神經(jīng)網(wǎng)絡(luò)知識(shí)4/352023/7/24傳遞（激活）函數(shù)類(lèi)型閾值函數(shù)線(xiàn)性函數(shù)對(duì)數(shù)函數(shù)正切函數(shù)神經(jīng)網(wǎng)絡(luò)知識(shí)5/352023/7/24神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)知識(shí)6/352023/7/24神經(jīng)網(wǎng)絡(luò)分類(lèi)前向網(wǎng)絡(luò)反饋網(wǎng)絡(luò)互聯(lián)網(wǎng)絡(luò)層內(nèi)互聯(lián)前向網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)知識(shí)7/352023/7/24神經(jīng)網(wǎng)絡(luò)知識(shí)神經(jīng)網(wǎng)絡(luò)模型感知器網(wǎng)絡(luò)線(xiàn)性神經(jīng)網(wǎng)絡(luò)BP網(wǎng)絡(luò)徑向基函數(shù)網(wǎng)絡(luò)反饋網(wǎng)絡(luò)自組織網(wǎng)絡(luò)神經(jīng)元傳遞函數(shù)、網(wǎng)絡(luò)學(xué)習(xí)函數(shù)、激活函數(shù)不同net=newp()net=newlind()net=newff()net=newrbe()8/352023/7/24網(wǎng)絡(luò)訓(xùn)練函數(shù)神經(jīng)網(wǎng)絡(luò)知識(shí)trainbfgBFGS擬牛頓法trainbr貝葉斯方法traincgbPowell-Beale共軛梯度法traincgfFletcher-Powell共軛梯度法traincgpPolak-Ribiere共軛梯度法traingd梯度下降法traingda自適應(yīng)速率梯度下降法traingdm動(dòng)量梯度下降法trainlmLevenberg-Marquardt算法traingdx動(dòng)量和自適應(yīng)速率梯度下降法9/352023/7/24學(xué)習(xí)算法適用問(wèn)題類(lèi)型收斂性能占用存儲(chǔ)空間其他特點(diǎn)trainlm函數(shù)擬合收斂快誤差小大性能隨網(wǎng)絡(luò)規(guī)模增大而變差trainrp模式分類(lèi)收斂最快較小性能隨網(wǎng)絡(luò)訓(xùn)練誤差減小而變差trainscg函數(shù)擬合模式分類(lèi)收斂較快性能穩(wěn)定中等尤其適用于網(wǎng)絡(luò)規(guī)模較大的情況trainbfg函數(shù)擬合收斂較快較大計(jì)算量隨網(wǎng)絡(luò)規(guī)模增大呈幾何增大traingdx模式分類(lèi)收斂較慢較小適用于“提前停止”方法，可提高網(wǎng)絡(luò)推廣能力神經(jīng)網(wǎng)絡(luò)知識(shí)網(wǎng)絡(luò)訓(xùn)練函數(shù)10/352023/7/24網(wǎng)絡(luò)權(quán)值、誤差學(xué)習(xí)函數(shù)神經(jīng)網(wǎng)絡(luò)知識(shí)mae絕對(duì)平均誤差mse均方誤差msereg規(guī)則化均方誤差sse平方誤差和網(wǎng)絡(luò)性能函數(shù)learpn標(biāo)準(zhǔn)化感知器學(xué)習(xí)規(guī)則learnwhLMS算法（近似梯度下降法）learngd梯度下降法learngdm動(dòng)量梯度下降法11/352023/7/24以任意精度逼近任何函數(shù)魯棒性、容錯(cuò)性強(qiáng)進(jìn)行快速、大量運(yùn)算學(xué)習(xí)和自適應(yīng)不確定的系統(tǒng)神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)同時(shí)處理定性、定量知識(shí)12/352023/7/24神經(jīng)網(wǎng)絡(luò)知識(shí)神經(jīng)網(wǎng)絡(luò)主要應(yīng)用領(lǐng)域模式識(shí)別信號(hào)處理知識(shí)工程專(zhuān)家系統(tǒng)優(yōu)化組合機(jī)器人控制13/352023/7/24奶牛產(chǎn)奶量預(yù)測(cè)研究意義研究進(jìn)展神經(jīng)網(wǎng)絡(luò)方法神經(jīng)網(wǎng)絡(luò)應(yīng)用實(shí)例農(nóng)場(chǎng)主關(guān)心什么先輩（競(jìng)爭(zhēng)對(duì)手）做了什么14/352023/7/24初產(chǎn)奶牛產(chǎn)奶量預(yù)測(cè)研究問(wèn)題研究數(shù)據(jù)神經(jīng)網(wǎng)絡(luò)方法神經(jīng)網(wǎng)絡(luò)應(yīng)用實(shí)例初產(chǎn)奶牛產(chǎn)奶量《》親代奶牛產(chǎn)奶量親代奶牛30d、60d、90d、…、305d產(chǎn)奶量初產(chǎn)奶牛305d產(chǎn)奶量初產(chǎn)奶牛產(chǎn)奶量《》初產(chǎn)奶牛營(yíng)養(yǎng)量初產(chǎn)奶牛30d、60d、90d、…、305d營(yíng)養(yǎng)量15/352023/7/24神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)訓(xùn)練集、測(cè)試集交互檢驗(yàn)Jackknife檢驗(yàn)采用標(biāo)準(zhǔn)集隨機(jī)選取GB126，CB25876個(gè)訓(xùn)練，12或1個(gè)預(yù)測(cè)方法檢驗(yàn)16/352023/7/24模型建立依據(jù)原則（1）網(wǎng)絡(luò)規(guī)模持平于樣本集大?。?）輸入層、隱層的結(jié)點(diǎn)數(shù)比例為2:1

（3）運(yùn)算簡(jiǎn)單、易于理解神經(jīng)網(wǎng)絡(luò)方法17/352023/7/24神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)模型結(jié)構(gòu)步驟一三層BP網(wǎng)絡(luò)結(jié)構(gòu)輸出節(jié)點(diǎn)數(shù)為1模型結(jié)構(gòu)步驟二訓(xùn)練樣本數(shù)76輸入節(jié)點(diǎn)數(shù)為7隱層采用S型傳遞函數(shù)采用標(biāo)準(zhǔn)訓(xùn)練、權(quán)值、性能函數(shù)18/352023/7/24網(wǎng)絡(luò)模型結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu)模型網(wǎng)絡(luò)模型層數(shù)節(jié)點(diǎn)數(shù)傳遞函數(shù)輸入層7正切函數(shù)線(xiàn)性函數(shù)隱含層10輸出層1訓(xùn)練函數(shù)：traingdx網(wǎng)絡(luò)權(quán)值、誤差學(xué)習(xí)函數(shù)：learngdm網(wǎng)絡(luò)性能函數(shù)：mse是否是最好的選擇方式19/352023/7/24神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)工作步驟初始化網(wǎng)絡(luò)權(quán)值矩陣和神經(jīng)元閾值矩陣提供學(xué)習(xí)樣本計(jì)算網(wǎng)絡(luò)實(shí)際輸出和隱層神經(jīng)元輸出計(jì)算誤差對(duì)各層的影響修正權(quán)值和閾值計(jì)算網(wǎng)絡(luò)輸出誤差判斷誤差是否滿(mǎn)足要求結(jié)束訓(xùn)練20/352023/7/24神經(jīng)網(wǎng)絡(luò)程序?qū)崿F(xiàn)MATLAB神經(jīng)網(wǎng)絡(luò)工具箱主要程序設(shè)計(jì)Net=newff(PR,[S1,S2],{TF1,TF2},BTF,BLF,PF);PR=minmax(Original_data);%確定輸入層輸入數(shù)據(jù)的大小范圍S1、S2;%分別為網(wǎng)絡(luò)隱層、輸出層神經(jīng)元個(gè)數(shù)TF1、TF2;%分別為隱層、輸出層傳遞函數(shù)BTF、BLF、PF;%分別為網(wǎng)絡(luò)訓(xùn)練函數(shù)、學(xué)習(xí)函數(shù)和性能函數(shù)21/352023/7/24MATLAB神經(jīng)網(wǎng)絡(luò)工具箱net.performFcn=‘mse’;%設(shè)置性能函數(shù)為均方誤差net.trainParam.goal=0.01;%設(shè)置性能目標(biāo)值net.trainParam.epochs=25000;%設(shè)置最大訓(xùn)練步數(shù)net.trainParam.lr=0.02;%設(shè)置學(xué)習(xí)率設(shè)置各性能目標(biāo)值如下神經(jīng)網(wǎng)絡(luò)程序?qū)崿F(xiàn)22/352023/7/24神經(jīng)網(wǎng)絡(luò)程序?qū)崿F(xiàn)MATLAB神經(jīng)網(wǎng)絡(luò)工具箱主要程序設(shè)計(jì)Original_data=textread(‘original.txt’);net=train(net,Train_data,Train_target_data)；%網(wǎng)絡(luò)訓(xùn)練Out_data(i)=sim(net,Test_data)；%網(wǎng)絡(luò)仿真Target_data=textread(‘target.txt’);[R,P]=corrcoef(Target_data,Out_data)；%精度驗(yàn)證23/352023/7/2424/352023/7/2425/352023/7/2426/352023/7/2427/352023/7/2428/352023/7/2429/352023/7/24130/352023/7/247101131/352023/7/2432/352023/7/2433/352023/7/24預(yù)測(cè)結(jié)果最后預(yù)測(cè)結(jié)果真實(shí)產(chǎn)奶量預(yù)測(cè)奶量34/352023/7/24對(duì)初始權(quán)重敏感，易收斂于局部極小收斂緩慢甚至不收斂隱層節(jié)點(diǎn)數(shù)不好確定過(guò)擬合/過(guò)訓(xùn)練問(wèn)題BP神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)35/352023/7/24動(dòng)量法和自適應(yīng)學(xué)習(xí)率調(diào)整共軛梯度法遺傳算法優(yōu)化解決方案其他網(wǎng)絡(luò)：多層感知器網(wǎng)絡(luò)、徑向多層感知器網(wǎng)絡(luò)、徑向基函數(shù)網(wǎng)絡(luò)后面內(nèi)容直接刪除就行資料可以編輯修改使用資料可以編輯修改使用資料僅供參考，實(shí)際情況實(shí)際分析主要經(jīng)營(yíng)：課件設(shè)計(jì)，文檔制作，網(wǎng)絡(luò)軟件設(shè)計(jì)、圖文設(shè)計(jì)制作、發(fā)布廣告等秉著以?xún)?yōu)質(zhì)的服務(wù)對(duì)待每一位客戶(hù)，做到讓客戶(hù)滿(mǎn)意！致力于數(shù)據(jù)挖掘，合同簡(jiǎn)歷、論文寫(xiě)作、PPT設(shè)