自然計(jì)算模型系列之 粒子群( 魚群鳥群) 算法

先進(jìn)計(jì)算模型〔2〕自然計(jì)算模型系列之粒子群〔魚群/鳥群〕算法四川大學(xué)計(jì)算機(jī)學(xué)院2021博士生課程〔遺傳算法，基因表達(dá)式編程，粒子群算法(PSO)，蟻群算法，魚群算法，….)唐常杰四川大學(xué)計(jì)算機(jī)學(xué)院2023/11/141目錄，大致方案第一次自然計(jì)算模型系列1：概述篇自然計(jì)算模型系列2粒子群〔魚群/鳥群〕算法自然計(jì)算模型系列3基因表達(dá)式編程第二次自然計(jì)算模型系列4：模擬退火算法自然計(jì)算模型系列5：蟻群算法自然計(jì)算模型系列6：免疫計(jì)算模型〔思路和比喻〕下載URL:校園網(wǎng)和學(xué)院網(wǎng):///~chjtang/teach/tang_teaching.htm://7/~tangchangjie/teach/tang_teaching.htm2023/11/142今天自然計(jì)算模型〔NatureComputing)概述GEP基因表達(dá)式編程PSO粒子群算法魚群鳥群算法下一次蟻群算法模擬退火算法人工免疫思想〔比喻〕……歡送同學(xué)在下次發(fā)言〔5-30分鐘均可〕〔如A先講，可跳至32頁(yè)〕提綱2023/11/143資料出處和致謝參考資料：本PPT僅作和同學(xué)們?cè)谟懻摪鎯?nèi)交流之用參考了假設(shè)干教科書，文獻(xiàn)和論文和報(bào)告。在末尾列出50多篇，但參考的文獻(xiàn)不只這些,主要是遺傳算法、基因表達(dá)式編程、粒子群算法的相關(guān)作者等等，包括國(guó)內(nèi)外，校內(nèi)外專家和本實(shí)驗(yàn)室成員的工作對(duì)未列出的文獻(xiàn)作者也在此一并致謝。參考文獻(xiàn)可能有遺漏，歡送未列出的文獻(xiàn)作者及時(shí)指出，，以便即時(shí)在參考文獻(xiàn)中補(bǔ)充。作PPT類似于把小說(shuō)改編為劇本，有重新創(chuàng)作的成分，也希望其它引用本PPT材料的標(biāo)注本PPT2023/11/144歡送指正我們?cè)赑SO方面的工作不多，難免疏漏：我們?cè)赑SO方面的工作不多，可能有疏漏，歡送指正：1張培頌，唐常杰，丁鑫鑫，徐開闊,“基于劃分和重分布的粒子群算法及優(yōu)化策略〞，四川大學(xué)學(xué)報(bào)〔自然科學(xué)版〕Vol.44,No.2pp312-315,2007.4，ZHANGPei-song,TANGChang-jie,DINGXin-xin,XUKai-kuo，“AnImprovedParticleSwarmOptimizationBasedonDivisionandRedistribution〞，JournalofSichuanUniversity(NaturalScienceEdition),Vol.44,No.2pp312-315,2007.42蘇輝，唐常杰，喬少杰，徐開闊,張培頌，宋美嬌“基于搜索空間劃分和Sharing函數(shù)的粒子群優(yōu)化算法〞，四川大學(xué)學(xué)報(bào)〔自然科學(xué)版〕Vol.44,No.5pp985-989,2007.10，SUHui,TANGChang-jie,QiaoShao-jie,XUKai-kuo，ZHANGPei-song,SongMei-jiao“AnImprovedParticleSwarmOptimizationBasedonSearchSpaceDivisionandSharingFunction〞，JournalofSichuanUniversity(NaturalScienceEdition),Vol.44,No.5pp985-989,2007.103倪勝巧，唐常杰，曾旭晟，喬少杰,曾春秋，"EAMode:一種新的基于引擎粒子系統(tǒng)的圖像渲染模式",Vol.44No.6，Dec.2007.p1220-1224；NISheng-qiao，TANGChang-jie，ZENGXu-sheng，QIAOShao-jie，ZENGChun-qiu,"E&AMode:ANewModeforImageRomancingBasedonEngineParticlesSystem"，JournalofSichuanUniversity(NaturalScienceEdition),Vol.44No.6，Dec.2007.p1220-12244QihongLiu,TiandeLi,ChangjieTang,QiweiLiu,JunZhu,XinxinDing,JiangWu:TwoPhaseParallelParticleSwarmAlgorithmbasedonRegionalandSocialStudyofObjectOptimization.ThirdInternationalConferenceonNaturalComputation,ICNC2007,Vol.3,Aug.2007,p:827~831.EI5丁鑫鑫唐常杰曾濤張培頌徐開闊劉齊宏,基于最正確粒子共享和分層搜索的并行粒子群優(yōu)化算法tobepublished.2023/11/145

啟發(fā)式搜索的方法，用于解決那些屬于NP的比較困難的計(jì)算方法。對(duì)簡(jiǎn)單問(wèn)題，可以確定算法解決的〔如解一元二次方程〕不要用這些方法。實(shí)例請(qǐng)兩同學(xué)去電腦海洋城買一款指定性能，價(jià)格低的電腦啟發(fā)式規(guī)那么：人多力量大，三個(gè)臭皮匠，賽過(guò)諸葛亮。帶上上，互通消息啟發(fā)式搜索及例如2023/11/148“人多力量大〞規(guī)那么的啟發(fā)下搜索比喻：兩人帶到電腦海洋城選購(gòu)機(jī)器，貨比多家縱坐標(biāo)價(jià)格這樣搜索比窮舉搜索快，不一定最好，〔沒有窮舉〕但比較快，比較好實(shí)際上這是是N=2的PSO，有見廉思齊的機(jī)制2023/11/149鳥群算法其他應(yīng)用例子并發(fā)地搜山抓嫌疑人，并發(fā)地排查嫌疑人比喻，事件不同哲理同2023/11/1410

書歸正傳今天內(nèi)容PSO之一：ParticleSwarmOptimizationPSO算法國(guó)際網(wǎng)站:///2023/11/1411PSO:特點(diǎn)1可看成是遺傳算法家族的成員〔或親戚〕sharesmanysimilaritieswithevolutionarycomputationsuchasGeneticAlgorithms(GA).initializedwithapopulationofrandomsolutionssearchesforoptimabyupdatinggenerations.愚公移山2PSO=GA–(交叉+簡(jiǎn)單變異〕+〔見賢思齊的變異〕unlikeGA,PSOhasnoevolutionoperatorssuchascrossoverandmutation.Solutions=particles,flythroughtheproblemspaceByfollowingthecurrentoptimumparticles..緊跟頭鳥2一種說(shuō)法：PSO是GA的特例，簡(jiǎn)化,后面看：是不是這樣？PSO

2023/11/1412簡(jiǎn)介ParticleSwarmOptimization

解決優(yōu)化問(wèn)題的方法傳統(tǒng)搜尋方法如果問(wèn)題是可計(jì)算，且是多項(xiàng)式復(fù)雜度的確定圖靈機(jī)，確定算法，〔參見可計(jì)算理論課程〕保證能找到最正確解HeuristicSearch啟發(fā)性規(guī)那么：有道理，不保證100%成功，可能含矛盾。三思而行〔哪三思？危、變、退〕當(dāng)斷不斷反受其亂如森林中下山沿小溪

兩條規(guī)那么似乎矛盾2023/11/1413一種說(shuō)法：一種說(shuō)法：PSO=GA–(變異+交叉

)PSO是GA的特例，簡(jiǎn)化在遺傳算法或GEP中去掉變異和交叉

后面看：是不是這樣？2023/11/1414PSO先驅(qū)RussellEberhart〔羅素愛伯罕？〕RussEberhart2023/11/1415PSO先驅(qū)JamesKennedy〔詹姆斯，肯尼迪？〕JamesKennedy2023/11/1416PSO外師物化〔啟發(fā)〕，內(nèi)得心源〔靈感〕生物學(xué)家對(duì)鳥(魚)群覓食的行為研究社會(huì)行為(Social-OnlyModel)認(rèn)知模型(Cognition-OnlyModel)什么行為？且看下頁(yè)分解2023/11/1417觀察家里魚缸：一條魚〔當(dāng)前的帶頭魚，通常是老魚〕發(fā)現(xiàn)食物，其他的〔通常是新魚〕同伴能感知聲波,..養(yǎng)魚能發(fā)現(xiàn)算法，不是玩物喪志!

2023/11/1418問(wèn)題魚群鳥群都是低智能動(dòng)物，人比魚群、鳥群高了很多層次，人群中高智能的計(jì)算機(jī)科學(xué)家去模擬低智能動(dòng)物，不是見賢思齊，而是，見低思齊，禮賢下〞物“，值得嗎，有用嗎？答案值得?？聪旅婕?xì)細(xì)道來(lái)。2023/11/1419問(wèn)題魚群鳥群都是低智能動(dòng)物，人比魚群、鳥群高了很多層次，人群中高智能的計(jì)算機(jī)科學(xué)家去模擬低智能動(dòng)物，不是見賢思齊，而是，見低思齊，禮賢下〞物“，值得嗎，有用嗎？答案：值得。且看下面細(xì)細(xì)道來(lái)。2023/11/1420你們把觀察的現(xiàn)象形式化嗎？建立模型，抽象化，粒子群特性看看現(xiàn)象，你們把觀察的現(xiàn)象形式化嗎？提示：一群鳥在覓食2023/11/1421尋優(yōu)問(wèn)題解想象成一只鳥(魚)，稱Particle每個(gè)Particle都有記憶性所有的Particle都透過(guò)FitnessFunction以判斷目前的位置之好壞每個(gè)Particle透過(guò)Velocity〔速度〕Function以決定移動(dòng)的距離與方向建立模型，抽象化，2023/11/1422鳥〔魚〕有記憶鳥〔魚〕能比較鳥〔魚〕可通訊〔播送〕鳥〔魚〕會(huì)學(xué)習(xí)向好鳥〔魚〕學(xué)習(xí)，見異思遷〔有點(diǎn)貶義〕見賢思齊從善如流〔褒義〕追尾行為，一條魚發(fā)現(xiàn)食物時(shí)，伙伴會(huì)尾隨算法思想：模擬鳥〔魚〕覓食、聚群和追尾行為寫論文時(shí)，寫觀察不需要證明，大多數(shù)情況下成立，能解決問(wèn)題，就有用幾個(gè)觀察或假定2023/11/1423鳥〔魚〕有記憶鳥〔魚〕能比較鳥〔魚〕可通訊〔播送〕鳥〔魚〕會(huì)學(xué)習(xí)向好鳥〔魚〕學(xué)習(xí)，見異思遷〔有點(diǎn)貶義〕見賢思齊從善如流〔褒義〕追尾行為，一條魚發(fā)現(xiàn)食物時(shí)，伙伴會(huì)尾隨算法思想：模擬鳥〔魚〕覓食、聚群和追尾行為寫論文時(shí)，寫觀察不需要證明，大多數(shù)情況下成立，能解決問(wèn)題，就有用幾個(gè)觀察或假定2023/11/1424算法思想模擬鳥〔魚〕覓食、聚群和追尾行為找食不如找?guī)ь^鳥〔動(dòng)態(tài)帶頭鳥，可罷免、重選〕，追隨領(lǐng)袖〔或鄰域中領(lǐng)袖，部落酋長(zhǎng)〕跟蹤兩個(gè)“極值〞來(lái)更新自己。自己的經(jīng)驗(yàn)：自己歷史上最優(yōu)解個(gè)體極值pBest.全局經(jīng)驗(yàn)和部落經(jīng)驗(yàn)：gBest。另〔鄰居極值〕向領(lǐng)袖學(xué)習(xí)，見賢思齊，從善如流，不斷更新自己2023/11/1425鳥〔魚〕有記憶鳥〔魚〕能比較向好鳥〔魚〕學(xué)習(xí)，見異思遷，從善如流寫論文時(shí)，寫觀察不需要證明，觀察結(jié)論在大多數(shù)情況下成立，能解決以大批問(wèn)題，有用從觀察到理論，是實(shí)驗(yàn)科學(xué)的研究方法三個(gè)觀察或假定2023/11/1426分隔規(guī)那么，盡量防止與臨近伙伴過(guò)于擁擠對(duì)準(zhǔn)規(guī)那么，盡量與臨近伙伴的平均方向一致；內(nèi)聚規(guī)那么，盡量朝臨近伙伴的中心移動(dòng)。追尾行為當(dāng)魚群中的一條或幾條魚發(fā)現(xiàn)食物時(shí)，其臨近的伙伴會(huì)尾隨其快速到達(dá)食物點(diǎn)。更多的觀察或假定2023/11/1427PSO的主要步驟

遺傳算法-編譯-交叉Initialize初始化Evaluation評(píng)價(jià)FindthePbest單個(gè)粒子迄今最正確位置〔有歷史觀〕FindtheGbestUpdatethePosition更新回到Evaluation繼續(xù)執(zhí)行，符合終止條件成立2023/11/1428PSO的主要步驟

遺傳算法-編譯-交叉Initialize初始化Evaluation評(píng)價(jià)FindthePbest單個(gè)粒子迄今最正確位置〔有歷史觀〕FindtheGbestUpdatethePosition更新回到Evaluation繼續(xù)執(zhí)行，符合終止條件成立2023/11/1429PSO的主要步驟

遺傳算法-編譯-交叉Initialize初始化Evaluation評(píng)價(jià)FindthePbest單個(gè)粒子迄今最正確位置〔有歷史觀〕FindtheGbestUpdatethePosition更新回到Evaluation繼續(xù)執(zhí)行，符合終止條件成立2023/11/1430PSO的主要步驟

遺傳算法-編譯-交叉Initialize初始化Evaluation評(píng)價(jià)FindthePbest單個(gè)粒子迄今最正確位置〔有歷史觀〕FindtheGbestUpdatethePosition更新回到Evaluation繼續(xù)執(zhí)行，符合終止條件成立2023/11/1431PSO的主要步驟

遺傳算法-編譯-交叉Initialize初始化Evaluation評(píng)價(jià)FindthePbest單個(gè)粒子迄今最正確位〔有歷史〕FindtheGbestUpdatethePosition更新循環(huán)到Evaluation，知道符合終止條件成立2023/11/1432PSO的初始化隨機(jī)設(shè)置每Particle之初始位置與速度2023/11/1433PSO的適應(yīng)度評(píng)價(jià)用

FitnessFunction計(jì)算出其FitnessValue判斷每一Particle之好壞初步印象：技術(shù)比GEP簡(jiǎn)單，功能能可能也差一些〕2023/11/1434FindthePbest—單個(gè)粒子優(yōu)化找出每個(gè)Particle到目前為止的搜尋過(guò)程中最正確解〔迄今的覓食的最正確速度和位置，鳥能記憶和比較〕，稱為PbestP--pastPastBestSolution注意這里局部?jī)?yōu)化2023/11/1435FindtheGbest高度表示得分多少。山峰處得分高找出所有Particle到目前為止全局最優(yōu)解，記為GbestGlobalBestSolutionPastBestSolution注意這里2023/11/1436PSO更新〔相當(dāng)于遺傳算法的新的一代，進(jìn)化〕更新位置(從善假設(shè)流，與時(shí)俱進(jìn)，調(diào)整自己〕依VelocityFunction更新每Particle的移動(dòng)方向與速度回Evaluation步驟繼續(xù)，直到符合終止條件2023/11/1437PSO流程〔與遺傳算法相比，少了變異和交叉〕比喻為遺傳算法的新生一代，相當(dāng)于鳳凰涅槃2023/11/1438PSOVelocityFunction

速度函數(shù)的構(gòu)成Cognition-OnlyModelPSOVelocityFunctionSocial-OnlyModel||+兩個(gè)分量主觀的客觀的2023/11/1439插曲：一個(gè)有趣的比喻三國(guó)時(shí)，群雄并起，很多粒子：曹操，孫權(quán)，類被，袁紹….，他們要覓食〔地盤和資源〕許邵評(píng)論曹操用了一個(gè)先天歧義的句子兩個(gè)分量都有a3許邵評(píng)曹操：亂世奸雄治世能臣亂世奸雄治世能臣現(xiàn)在回到PSO現(xiàn)實(shí)中狀語(yǔ)：表達(dá)客觀條件〔社會(huì)模型〕決定人人生動(dòng)賓結(jié)構(gòu)：表達(dá)主觀愿望〔認(rèn)知模型〕決定人生2023/11/1440插曲：一個(gè)有趣的比喻三國(guó)時(shí)，群雄并起，很多粒子：曹操，孫權(quán)，類被，袁紹….，他們要覓食〔地盤和資源〕許邵評(píng)論曹操用了一個(gè)先天歧義的句子兩個(gè)分量都有a3許邵評(píng)曹操：亂世奸雄治世能臣亂世奸雄治世能臣問(wèn)題：能否用他描述或局部地描述三國(guó)群英？難，要簡(jiǎn)化模型現(xiàn)在回到PSO現(xiàn)實(shí)中狀語(yǔ)：表達(dá)客觀條件〔社會(huì)模型〕決定人人生動(dòng)賓結(jié)構(gòu)：表達(dá)主觀愿望〔認(rèn)知模型〕決定人生2023/11/1441PSOVelocityFunction〔后面有動(dòng)畫演示〕認(rèn)知模型Cognition-OnlyModelVid：第i個(gè)particle(有d個(gè)維度)之速度Pid：該particle到目前為止所出現(xiàn)的最正確位置Xid：該particle目前之所在位置C1：學(xué)習(xí)常數(shù)rand()：0~1之間的隨機(jī)數(shù)速度的增量旨在彌補(bǔ)與先進(jìn)的差距與先進(jìn)的差距2023/11/1442社會(huì)模型Social-OnlyModelVid：第i個(gè)particle(有d個(gè)維度)之速度Pgd：所有particle到目前為止所出現(xiàn)的最正確位置Xid：該particle目前之所在位置C2：學(xué)習(xí)常數(shù)rand()：0~1之間的隨機(jī)數(shù)PSOVelocityFunction〔后面有動(dòng)畫演示〕速度的增量旨在彌補(bǔ)與先進(jìn)的差距與先進(jìn)的差距與上頁(yè)不同點(diǎn)2023/11/1443 Vid：第i個(gè)particle(d維)速度 Pid：每個(gè)particle迄今出現(xiàn)的最正確位置 Pgd：所有particle迄今最正確位置 Xid：每個(gè)particle目前位置 C1,C2：學(xué)習(xí)常數(shù) w：慣性權(quán)重 rand()：0~1之間隨機(jī)數(shù)PSOVelocityFunction〔后面有動(dòng)畫演示〕個(gè)體認(rèn)知模型〔主觀〕社會(huì)模型〔客觀〕2023/11/1444區(qū)域最正確解全域最正確解運(yùn)動(dòng)向量慣性向量動(dòng)畫演示動(dòng)能向量

StudyFactorHereIam!ThebestpositionofteamMybestpositionxpgpivPBestgBest2023/11/1445鳥〔魚〕有記憶鳥〔魚〕能比較，會(huì)總結(jié)向好鳥〔魚〕學(xué)習(xí)，見賢思齊不但從善如流，還能統(tǒng)籌兼顧局部經(jīng)驗(yàn)和全局經(jīng)驗(yàn)上頁(yè)的演示確實(shí)說(shuō)明了這三點(diǎn)〔必要時(shí)重新演示一次〕復(fù)習(xí)：三個(gè)觀察或假定2023/11/1446鳥〔魚〕有記憶鳥〔魚〕能比較，會(huì)總結(jié)向好鳥〔魚〕學(xué)習(xí)，從善如流不但從善如流，還能統(tǒng)籌兼顧局部經(jīng)驗(yàn)和全局經(jīng)驗(yàn)上頁(yè)的演示確實(shí)說(shuō)明了這三點(diǎn)〔必要時(shí)重新演示一次〕復(fù)習(xí)：三個(gè)觀察或假定2023/11/1447PSO算法

I)Foreachparticle:InitializeparticleII)Do:

a)Foreachparticle:

1)Calculatefitnessvalue

2)Ifthefitnessvalueisbetterthanthebestfitnessvalue(Pbest) inhistory

3)SetcurrentvalueasthenewPbest

End

b)Foreachparticle:

1)Findintheparticleneighborhood,theparticlewiththebest fitness2)Calculateparticlevelocityaccordingtothevelocityfunction3)UpdateparticlepositionaccordingtothepositionfunctionEnd

Whilemaximumiterationsorminimumerrorcriteriaisnotattained

初始化計(jì)算個(gè)體適應(yīng)度總結(jié)，自己縱向比較2023/11/1448PSO算法

I)Foreachparticle:InitializeparticleII)Do:

a)Foreachparticle:

1)Calculatefitnessvalue

2)Ifthefitnessvalueisbetterthanthebestfitnessvalue(Pbest) inhistory

3)SetcurrentvalueasthenewPbest

End

b)Foreachparticle:

1)Findintheparticleneighborhood,theparticlewiththebest fitness2)Calculateparticlevelocityaccordingtothevelocityfunction3)UpdateparticlepositionaccordingtothepositionfunctionEnd

Whilemaximumiterationsorminimumerrorcriteriaisnotattained

吸取歷史經(jīng)驗(yàn)計(jì)算個(gè)體適應(yīng)度總結(jié)，自己縱向比較，2023/11/1449PSO算法

I)Foreachparticle:InitializeparticleII)Do:

a)Foreachparticle:

1)Calculatefitnessvalue

2)Ifthefitnessvalueisbetterthanthebestfitnessvalue(Pbest) inhistory

3)SetcurrentvalueasthenewPbest

End

b)Foreachparticle:

1)Findintheparticleneighborhood,theparticlewiththebestfitness

2)Calculateparticlevelocityaccordingtothevelocityfunction3)UpdateparticlepositionaccordingtothepositionfunctionEnd

Whilemaximumiterationsorminimumerrorcriteriaisnotattained

橫向比較，找適應(yīng)度最好的鄰居或部落領(lǐng)袖見賢思齊2023/11/1450PSO算法

I)Foreachparticle:InitializeparticleII)Do:

a)Foreachparticle:

1)Calculatefitnessvalue

2)Ifthefitnessvalueisbetterthanthebestfitnessvalue(Pbest) inhistory

3)SetcurrentvalueasthenewPbest

End

b)Foreachparticle:

1)Findintheparticleneighborhood,theparticlewiththebestfitness

2)Calculate

particlevelocityaccordingtothevelocityfunction

3)UpdateparticlepositionaccordingtothepositionfunctionEnd

Whilemaximumiterationsorminimumerrorcriteriaisnotattained

終止條件2023/11/1451智能何在？擬人化的詞匯：計(jì)算個(gè)體適應(yīng)度，總結(jié)，自己縱向比較吸取歷史經(jīng)驗(yàn)，橫向比較，找適應(yīng)度最好的鄰居或部落領(lǐng)袖見賢思齊SofarAnyquestion?是否好理解?比喻不嚴(yán)格，但有助于理解和記憶。2023/11/1452PSO解集合的坐標(biāo)表示法xzy123123123f(3,3,1)=14f(2,1,2)=7f(1,3,3)=82023/11/1453Note合理解組合目前最正確解個(gè)體最優(yōu)解全域區(qū)域PSO粒子子群優(yōu)化二維例子2023/11/1454實(shí)例2023/11/1455曲面表示實(shí)際例子

GriewankRastriginRosenbrock2023/11/1456Bestresultafter40000evaluationsOptimum=0,Dimension=30實(shí)例子

2023/11/1457與遺傳算法比較相似點(diǎn)Bothalgorithmsstartwithagroupofarandomlygeneratedpopulation隨機(jī)初始化Bothhavefitnessvaluestoevaluatethepopulation

BothupdatethepopulationandsearchfortheoptimumwithrandomtechniquesBothsystemsdonotguaranteesuccess不保證成功〔是啟發(fā)式方法的特征〕2023/11/1458不同點(diǎn)Dissimilarityhasnoevolutionoperatorssuchascrossoverandmutation不需要交叉和變異〔是優(yōu)點(diǎn)還是缺點(diǎn)？〕InPSO,thepotentialsolutions,calledparticles,flythroughtheproblemspacebyfollowingthecurrentoptimumparticles潛在解在整個(gè)空間追隨當(dāng)前優(yōu)化解追隨頭鳥就是勝利個(gè)體不死亡〔遺傳操作比較殘酷，可能殺死個(gè)體〕Particlesupdatethemselveswiththeinternalvelocity更新速度相當(dāng)于進(jìn)化代數(shù)，代代有進(jìn)步，一代比一代強(qiáng)，收斂較快？與遺傳算法比較2023/11/1459PSO的優(yōu)點(diǎn)PSOiseasytoimplementandtherearefewparameterstoadjust

容易實(shí)現(xiàn)ComparedwithGA,alltheparticlestendtoconvergetothebestsolutionquicklyeveninthelocalversioninmostcases

收斂快2023/11/1460簡(jiǎn)單表現(xiàn)在那些地方？有何經(jīng)驗(yàn)？實(shí)數(shù)編碼,〔遺傳算法一樣是二進(jìn)制編碼〕有掛f(x)=x1^2+x2^2+x3^2,粒子直接編碼為(x1,x2,x3),適應(yīng)度函數(shù)即f(x).調(diào)節(jié)參數(shù)少。粒子數(shù):一般20–40.簡(jiǎn)單問(wèn)題10，復(fù)雜問(wèn)題,100粒子長(zhǎng):由優(yōu)化問(wèn)題決定,就是問(wèn)題解的長(zhǎng)度粒子范圍:由優(yōu)化問(wèn)題決定,每維可設(shè)定不同范圍2023/11/1461參數(shù)設(shè)置經(jīng)驗(yàn)Vmax:最大速度,粒子在一個(gè)循環(huán)中最大的移動(dòng)距離,常設(shè)為粒子的范圍寬度,上例,粒子(x1,x2,x3)x1屬于[-10,10],那么Vmax的大小就是20學(xué)習(xí)因子:c1和c2通常等于2.〔0和4之間〕中止條件:最大循環(huán)數(shù)以及最小錯(cuò)誤要求.最小錯(cuò)誤可設(shè)為1個(gè)錯(cuò)誤分類,最大循環(huán)設(shè)定為2000,由的問(wèn)題確定.全局PSO和局部PSO:全局版速度快，不過(guò)有時(shí)會(huì)陷入局部最優(yōu).局部PSO收斂速度慢，難陷入局部最優(yōu).實(shí)際,可先全局PSO，找到大致結(jié)果,再局部PSO進(jìn)行搜索.慣性權(quán)重,參見Shi和Eberhart1998年的論文(題目:Amodifiedparticleswarmoptimizer)2023/11/1462一些體會(huì)〔不成熟意見〕從實(shí)驗(yàn)效果來(lái)看和遺傳算法差不多，不能明顯感覺到人工魚群算法比遺傳算法好在哪里。和蟻群算法比較類似。不如GEP快，但GEP要難學(xué)一些博士生課程：GEP將化一個(gè)學(xué)期的時(shí)間討論2023/11/1463插問(wèn)：誰(shuí)提出魚群算法〔轉(zhuǎn)至魚群算法博客〕山東大學(xué)的李曉磊，(1973-),男/講師/博士，研究方向復(fù)雜系統(tǒng)智能優(yōu)化、人工智能等山東大學(xué)控制科學(xué)與工程學(xué)院，山東濟(jì)南，郵政編碼250061在很多文章中，說(shuō)“人工魚群算法〞是他提出來(lái)的。如：李曉磊,路飛,田國(guó)會(huì),錢積新.組合優(yōu)化問(wèn)題的人工魚群算法應(yīng)用[J].山東大學(xué)學(xué)報(bào)(工學(xué)版).2004.34(5):64-67一文中，說(shuō)：“人工魚群算法是筆者模仿魚類行為方式提出的一種基于動(dòng)物自治體的優(yōu)化方法，是集群智能思想的一個(gè)具體應(yīng)用。它能很好地解決非線性函數(shù)優(yōu)化等問(wèn)題。它的主要特點(diǎn)是不需要了解問(wèn)題的特殊信息，只需要對(duì)問(wèn)題進(jìn)行優(yōu)劣的比較，有著較快的收斂速度...〞其中引文是他自己的這篇：李曉磊,邵之江,錢積新.一種基于動(dòng)物自治體的尋優(yōu)模式:魚群算法[J].系統(tǒng)工程理論與實(shí)踐,2002,22(11):32-38.與RussellEberhart的PSO有區(qū)別嗎？2023/11/1464忠告：博士生群體不是魚群、鳥群博士生群體是最有活力的創(chuàng)新群體不要學(xué)魚群和鳥群不能見異思遷，老跟別人跑，要有自己的主見，要?jiǎng)?chuàng)造，要掀起潮流。什么是創(chuàng)造？創(chuàng)造就是無(wú)中生有。什么是掀起潮流，掀起潮流就是興風(fēng)作浪，能在學(xué)術(shù)界興一股風(fēng)，作已成浪，可以不簡(jiǎn)單。2023/11/1465忠告：博士生群體不是魚群鳥群博士生群體是最有活力的創(chuàng)新群體不要學(xué)魚群和鳥群不能見異思遷，老跟別人跑，要有自己的主見，要?jiǎng)?chuàng)造，要掀起潮流什么是創(chuàng)造？創(chuàng)造就是無(wú)中生有。什么是掀起潮流，掀起潮流就是興風(fēng)作浪，能在學(xué)術(shù)界興一股風(fēng)，作已成浪，可以不簡(jiǎn)單。2023/11/1466忠告：博士生群體不是魚群鳥群博士生群體是最有活力的創(chuàng)新群體不要學(xué)魚群和鳥群不能見異思遷，老跟別人跑，要有自己的主見，要?jiǎng)?chuàng)造，要掀起潮流。什么是創(chuàng)造？創(chuàng)造就是無(wú)中生有。什么是掀起潮流，掀起潮流就是興風(fēng)作浪，能在學(xué)術(shù)界興一股風(fēng)，作已成浪，可以不簡(jiǎn)單。2023/11/1467忠告：博士生群體不是魚群鳥群博士生群體是最有活力的創(chuàng)新群體不要學(xué)魚群和鳥群不能見異思遷，老跟別人跑，要有自己的主見，要?jiǎng)?chuàng)造？要掀起潮流什么是創(chuàng)造？創(chuàng)造就是無(wú)中生有。什么是掀起潮流？掀起潮流就是興風(fēng)作浪，能在學(xué)術(shù)界興一股風(fēng)，作已成浪，可以不簡(jiǎn)單。2023/11/1468忠告：博士生群體不是魚群鳥群博士生群體是最有活力的創(chuàng)新群體不要學(xué)魚群和鳥群不能見異思遷，老跟別人跑，要有自己的主見，要?jiǎng)?chuàng)造？要掀起潮流什么是創(chuàng)造？創(chuàng)造就是無(wú)中生有。什么是掀起潮流？掀起潮流就是興風(fēng)作浪，能在學(xué)術(shù)界興一股風(fēng)，作已成浪，可以不簡(jiǎn)單。2023/11/1469忠告：博士生群體不是魚群鳥群博士生群體是最有活力的創(chuàng)新群體不要學(xué)魚群和鳥群不能見異思遷，老跟別人跑，要有自己的主見，要?jiǎng)?chuàng)造？要掀起潮流什么是創(chuàng)造？創(chuàng)造就是無(wú)中生有。什么是掀起潮流，掀起潮流就是興風(fēng)作浪，能在學(xué)術(shù)界興一股風(fēng)，作已成浪，可不簡(jiǎn)單。要付出。2023/11/1470小結(jié)課程方案和特點(diǎn)學(xué)習(xí)方法計(jì)算機(jī)科學(xué)家向大自然學(xué)習(xí)開展歷史幾本相關(guān)的中文書書籍遺傳算法家族的成員PSO先驅(qū)外師物化，內(nèi)得心源三個(gè)觀察或假定,模擬鳥〔魚〕覓食、聚群和追尾行為PSO的主要步驟PSO的評(píng)價(jià)PSO流程動(dòng)能向量算法偽代碼與遺傳算法比較優(yōu)點(diǎn)缺點(diǎn)參數(shù)設(shè)置經(jīng)驗(yàn)體會(huì)參考文獻(xiàn)2023/11/1471致謝和參考文獻(xiàn)參考資料：本PPT僅作和同學(xué)們?cè)谟懻摪鎯?nèi)交流之用參考了假設(shè)干教科書，文獻(xiàn)和論文和報(bào)告。在末尾列出30多篇，但參考的文獻(xiàn)不只這些,主要是遺傳算法、基因表達(dá)式編程、粒子群算法的相關(guān)作者等等，特別感謝成功大學(xué)黃悅民教授的相關(guān)文獻(xiàn)和講座對(duì)未列出文獻(xiàn)作者也在此一并致謝。歡送未列出的文獻(xiàn)作者及時(shí)指出，以便即時(shí)在參考文獻(xiàn)中補(bǔ)充。2023/11/1472致謝和參考文獻(xiàn)參考了假設(shè)干教科書，文獻(xiàn)和論文和PPT，下面列出31篇，但參考的文獻(xiàn)不知這些,對(duì)為列出的也在次一并致謝，1Ferreira,C.,CompletereferenceforthefirstGEPpaper,(12/5/2001).GeneExpressionProgramming:ANewAdaptiveAlgorithmforSolvingProblems,ComplexSystems,13(2):87-129.2Ferreira,C.GeneExpressionProgramming,FirstEdition,PrintedandBoundedinPortugal,AngradoHeroismo,Portugal,2002.Depositolegaln0187498/02(第一本GEP專著)．3Ferreira,C.,2001.GeneExpressionProgramminginProblemSolving,invitedtutorialofthe6thOnlineWorldConferenceonSoftComputinginIndustrialApplications,September10-24,2001.4Ferreira,C.,DiscoveryoftheBooleanFunctionstotheBestDensity-ClassificationRulesUsingGeneExpressionProgramming.Proceedingsofthe4thEuropeanConferenceonGeneticProgramming,EuroGP2002,volume2278ofLectureNotesinComputerScience,pages51-60,Springer-Verlag,BerlinGermany,2002.5Ferreira,C.,2002.AnalyzingtheFounderEffectinSimulatedEvolutionaryProcessesUsingGeneExpressionProgramming.InA.Abraham,J.Ruiz-del-Solar,andM.Kpen(eds),SoftComputingSystems:Design,ManagementandApplications,pp.153-162,IOSPress,Netherlands,2002.6美國(guó)專利Ferreira,C.,2001.Linearandnon-lineargeneticalgorithmsforsolvingproblemssuchasoptimization,functionfinding,planningandlogicsynthesis.U.S.A.PatentApplicationN09/899,282filedJuly6,2001.7左劼，唐常杰，張?zhí)鞈c，ZuoJie,TangChangjieandZhangTianqing，"MiningPredicateAssociationRulebyGeneExpressionProgramming",WAIM02(InternationalConferenceforWebInformationAge2002).LNCS(LectureNotesInComputerscience)Vol.2419,pp.92-103,editedbyXiaofengMeng,JianwneSu,andYujunWang,SpringerVerlagBerlingHeidelberg2002.8,ISBN3-540-44045-32023/11/1473致謝和參考文獻(xiàn)參考了假設(shè)干教科書，文獻(xiàn)和論文和PPT8]ZuoJie(左劼)，YuZhongHua(于中華)，Low-leakageloadingpatternoptimizationforPWRNPPreloadcoreusinggeneticalgorithms,NuclearPowerEngineeringv23nSUPPL.May2002YuanZiNengChubanShep12-160258-0926InChineseEI024471783919黃曉冬唐常杰普東航曾令明，基于基因表達(dá)式編程的函數(shù)關(guān)系發(fā)現(xiàn)方法AGeneExpressionProgrammingBasedFunctionDiscoveryMethod，計(jì)算機(jī)科學(xué)，Vol.30(2003.10)(A),pp278-282.ISBN1002-137X，NDBC2003優(yōu)秀研究生論文.10賈曉斌，唐常杰，左劼，陳安龍，黃曉冬，汪銳,〞基于基因表達(dá)式編程的頻繁函數(shù)集挖掘〞,SCUKE-DBResearchReportNo.03016,:///~chjtang/paper_doc/2004/gep-freq-func-abst.zip11汪銳，唐常杰等，“基于基因表達(dá)式編程的因子分解〞,SCUKE-DBResearchReportNo.04001,:///~chjtang/paper_doc/2004/factorization.zip12周昌樂(lè).心腦計(jì)算舉要.北京清華大學(xué)出版社，2003.23713PenroseR.TheEmperor’sNewMind:ConcerningComputers,Minds,andtheLawsofPhysics.NewYork:OxfordUniversityPress,1989.64014PenroseR.ShadowsoftheMinds,ASearchfortheMissingScienceofConsciousness.NewYork:OxfordUniversityPress,1994.480.15黃席樾,張著洪,何傳江,胡小兵,馬笑瀟,現(xiàn)代智能算法理論及應(yīng)用.科學(xué)出版社,2005.16]蔡自興,徐光祐,人工智能及其應(yīng)用(第三版),清華大學(xué)出版社,2004.817MinskyM.LogicalVersusAnalogicalorSymbolicVersusConnectionistorNeatVersusScruffy.AIMagazine,1991,12(2):34~51.18陳國(guó)良,王煦法,莊鎮(zhèn)泉,等.遺傳算法及其應(yīng)用[M].北京:人民郵電出版社,1996.onNeuralNetwork,1994,5(1):96～101.，2023/11/1474致謝和參考文獻(xiàn)19]QiXF,PalmieriF,Theoreticalanalysisofevolutionaryalgorithmswithaninfinitepopulationsizeincontinuousspace[J].IEEETransactionsonNeuralNetwork,1994,5(1):102～119.20莊健,王孫安.自調(diào)節(jié)遺傳算法的研究[J].西安交通大學(xué)學(xué)報(bào),2002,36(11):359～363.21張鈴,張鈸.統(tǒng)計(jì)遺傳算法[J].軟件學(xué)報(bào),1997,8(5):335～344.22張鈴,張鈸.遺傳算法機(jī)理的研究[J].軟件學(xué)報(bào),2000,11(7):945～952.23張文修,梁怡.遺傳算法的數(shù)學(xué)根底[M].西安:西安交通大學(xué)出版社,2001.54～79.358~365.24MeuleauNandDorigoM.Antcolonyoptimizationandstochasticgradientdescent.Artif.Life,2002,8(2):103~121.25馬良，項(xiàng)培軍.螞蟻算法在組合優(yōu)化中的應(yīng)用.管理科學(xué)學(xué)報(bào)，2001,4(2):32~37.26陳峻,沈潔,秦玲.蟻群算法求解連續(xù)空間優(yōu)化問(wèn)題的一種新方法.軟件學(xué)報(bào),2002,13(12):2317~2323.2023/11/1475致謝和參考文獻(xiàn)27汪鐳,吳啟迪.蟻群算法在系統(tǒng)辨識(shí)中的應(yīng)用.自動(dòng)化學(xué)報(bào),2003,29(1):102~109.28胡小兵,黃席樾.蟻群算法在迷宮最優(yōu)路徑中的應(yīng)用.計(jì)算機(jī)仿真，2005,22(2):26~29.ExpressionProgramming",WAIM02(InternationalConferencef