粒子群優(yōu)化算法綜述

〔摘要〕粒子群優(yōu)化(PSO)算法是一種新興的優(yōu)化技術(shù)，其思想來源于人工生命和演化計算理論。PSO通過粒子追隨自己找到的最優(yōu)解和整個群的最優(yōu)解來完成優(yōu)化。該算法簡單易實現(xiàn)，可調(diào)參數(shù)少，已得到廣泛研究和應(yīng)用。詳細(xì)介紹了PSO的基本原理、其特點、各種改進方式及其應(yīng)用等，并對其未來的研究進行展望?！彩告I詞〕群體智能；優(yōu)化算法；粒子群優(yōu)搜索空間中一只鳥的位置，稱這些鳥為”粒子”Dorig。等憶、追隨當(dāng)前的最優(yōu)粒子，在解空間中搜索。每從生物進化的機理中受到啟發(fā)，通過模擬螞蟻的次迭代的過程不是完全隨機的，如果找到較好物群體卻表現(xiàn)出處理復(fù)雜問題的能力，群體智能的另一個極值點是整個種群目前找到的最好就是這些團體行為在人工智能問題中的應(yīng)用。粒解，稱為全局極值點(用gbest表示其位置)，而前其應(yīng)用已擴展到組合優(yōu)化問題。由于其簡單、為粒子的鄰居，所有鄰居中的最好和研究。粒子群算法在求解優(yōu)化函數(shù)時，表現(xiàn)解后，粒子根據(jù)如下的式(1)和式(2)來更新自己題，通過迭代尋優(yōu)計算，能夠迅速找到近似解，表示，位置表示為因而粒子群算法在匸程計算中被廣泛的解對應(yīng)于粒子群優(yōu)化算法是基于群體的演化算似.蹤它有限數(shù)量的鄰居，但最終的整體結(jié)果是整個通過跟蹤這兩個最佳位置式鳥群好像在一個中心的控制之下，即復(fù)雜的全局(1)和(2)分別更新各微粒的速度和位置。源于對鳥群捕仗行為在每一次迭代中，評價各微物，那么找到食物的最簡單有效的策略就是搜尋目前離食物最產(chǎn)生的，并用于解決優(yōu)化問題。另外，人們通常是以他們M己及他人的經(jīng)驗來作為決策的依據(jù)，這就構(gòu)成了PSOViJ(t)+cjrjRj-XqCt)]+c2r2[^g.j-Xq(t)](1)XiJ(t+1)=XiJ(t)+VjJCt4-CpC2是加速系數(shù)(或稱學(xué)習(xí)因子)，分設(shè)每一個粒子在大小1的鄰域CpC2是加速系數(shù)(或稱學(xué)習(xí)因子)，分設(shè)每一個粒子在大小1的鄰域的最大步長，若太小，則粒子可能遠(yuǎn)離目標(biāo)區(qū)域,若太大則會導(dǎo)致突然向目標(biāo)區(qū)域飛去，或飛過目標(biāo)區(qū)域。合適的cl,c2可以加快收斂且不易斂慢，但不容易陷入局部最優(yōu)。在實際應(yīng)用隨機數(shù)。通過設(shè)置微粒的速度區(qū)間［Vmin,%3PSO的改進通常是在允許的范圍內(nèi)隨機產(chǎn)生法相結(jié)合，研究各種混合優(yōu)化算法，達到取且計算出其相應(yīng)的個體極值(即個體極值點的適應(yīng)度值)，而全局極值(即全局極值點的適應(yīng)度值)就是個體極值中最好的，記長補短、改善算歷史最佳位置和領(lǐng)域或群體歷史最佳位置劇集，形成粒子種群的快速趨同效應(yīng)，容易出現(xiàn)陷入局部極限、早熟置為該粒子的位置，且更新個體極值。如果所有粒子的個體極值中最好的好數(shù)。算法具體參數(shù)設(shè)置不同，結(jié)果怒同。算法具體參數(shù)主要依賴于微粒個數(shù)、慣性權(quán)重、學(xué)習(xí)因子，以及添研究人員相繼提出記錄該粒子的序粒子群初始化了各種改進措施。本文將這些改進分為4子的位置，類：粒子群初始化、鄰域拓?fù)?、參?shù)選擇和研究表明，粒子群初始化對算法性能產(chǎn)前的迭代次數(shù)達到了預(yù)先設(shè)定的最大次數(shù)(或生一定影響【"I。為了初里種群盡可能均勻達到最小錯誤要求)，則停I上迭代，輸出最覆蓋整個搜索空間，提高全局搜索能力，(CVTs)的種群初始化方法；薛明志等人［18］采用正交有全局版和局部版兩種，全局版收斂快，但有時弓I子來避免早熟，假設(shè)計方法對種群進行初始們具有正交的運動軌跡：文獻［16］認(rèn)為均勻分布隨機數(shù)進行初始化實現(xiàn)容易但尤其對高維空間效果差，并另外比較了3種初始化分布方3.2、鄰域拓?fù)涓鶕?jù)粒子鄰域是否為整個群然具有較快的收斂速度，但更容易陷入局部極采用每個粒子僅在一定的鄰域內(nèi)進行信息交換，究成果，本文將鄰域分為空間鄰域(spatial使用簇分析將整個粒子群劃分為多個簇，然后用子相似性動態(tài)地將粒子群體按種類劃分為多個子種群，再以每個子種群的最佳個體作為每個粒子構(gòu)，歷史最佳位置更優(yōu)的粒子處于上層，每個粒子的速度由自身歷史最佳位置和等級樹中處于該粒子上一個節(jié)點的粒子的歷史最佳位置決定。o空間鄰域直接在搜索空間按粒子間的距離(如一個時變的歐式空間鄰域算子：在搜索初始階段，將鄰域定義為每個粒子白身：隨著迭代次數(shù)的增加，將鄰域范圍逐漸擴展到整個種群。性能空間指根據(jù)性能指標(biāo)(如適應(yīng)度、目標(biāo)函數(shù)值戊U分的鄰域，如文獻［24］采用適應(yīng)度距離鄰粒子。社會尖系鄰域通常按粒子存儲陣列的索引編號進行劃分［25］,這也是研尢最多的一種劃分手段，主要有這些拓?fù)涞男阅鼙憩F(xiàn)各異；但總的來說，隨機拓?fù)渫鶎Υ蠖鄶?shù)問題能表現(xiàn)出較好的性能，其次model),其中包含一個主群體，多個仆群體，仆群體進行獨立的搜索，主群體在仆群體提供的最佳位置基礎(chǔ)上開展搜索。文獻索。文獻［14］則每間隔一定代數(shù)將整個群體身和鄰域的歷史最佳位置聚集，而沒有向鄰域內(nèi)其他個體(即使這些個體很優(yōu)秀)學(xué)習(xí)，造成信息資源的浪費，共至因此而陷入局部極值；考慮到其他粒子的成功經(jīng)驗。上述粒子間學(xué)習(xí)是在整個D維空間中隨機拓?fù)?。此外，文獻〔21〕提出動態(tài)社會構(gòu)造鄰域進行的，這樣當(dāng)搜索空間維數(shù)較高增加，逐漸增加粒子間連接，最后形成星形拓此外，還有其它一些主要對群體進行劃分的鄰域結(jié)構(gòu)(本文暫稱“宏觀鄰域”；則上述鄰域稱為“微觀鄰域”)。文獻［19］引入了子種群，子種群間通過繁殖時往往容易遭受“維數(shù)路就是采用協(xié)作行為，利用多個群體分別在目標(biāo)搜索空間中的不同維度上進行搜索，也就是一個優(yōu)化解由多個獨立群體協(xié)作完成，每個群體只負(fù)責(zé)優(yōu)化這個解矢量部分［1&19］的技術(shù)，提出了等級協(xié)作進行D-維空間搜索、乂能在不同維上選擇不同法，根據(jù)個體當(dāng)前位置的適應(yīng)度，將每一個個體與其它若干個個體相比較，然后依據(jù)比較結(jié)果對學(xué)習(xí)對象的新的學(xué)習(xí)策略，稱為全而學(xué)習(xí)半的當(dāng)前位置和速度差一半的位置和速度，同時保留每個個體所記憶的個體最好位置；部模型。還有一類局部模型就是主動改變粒子鄰域空間，避免碰撞和擁擠，本文稱之為PSO的［3］將粒子分為自然粒子和帶電粒子，當(dāng)帶電粒子過于接近時產(chǎn)生斥力，使之分開以提高粒鄰粒子距離成反比的自組織危險度(self-高，當(dāng)達到一定閾值后，對該粒子進行重新初始化或推開一定距離降低危險度，達到提高群體多樣性的目的；文獻［15］提出一種帶空間粒子殖多種操作同時「I適應(yīng)確定速度更新公式中的等人［8］利用差分進化(DE)操作選擇速度更新高算法的局部搜索能力，如文獻［9］提出一種粒子是否會碰撞，并采取隨機彈離、實際物理彈離、簡單的速度一直線彈離等措施將其分開。還有作者引入其它一些機制，以改進PS0的性能。文獻［6］根據(jù)耗散結(jié)構(gòu)的自組織性，提高粒子多樣性、增強粒子的全局探索能力，或提出一種耗散粒子群優(yōu)化算法(dissipative者提高局部開發(fā)能力、增強收斂速度與精度。這PSO)。該算法通過附加噪聲持續(xù)為粒子群引入術(shù)門適應(yīng)調(diào)整收縮因子/慣性權(quán)值、加速常數(shù)傭于天線優(yōu)化設(shè)計利遞歸神經(jīng)網(wǎng)絡(luò)設(shè)計：文獻態(tài)的狀態(tài)，乂由于群體中存在內(nèi)在的非線性相互作用，從而形成自組織耗散結(jié)構(gòu)，使粒子群能夠“持續(xù)進化抑制早熟停滯。文獻［7］將白然進化過程中的群體滅絕現(xiàn)象引入PSO,在微粒的位置和速度更新之后，按照一個預(yù)先定義的滅絕間隔重新初始化所有微粒的速度。文獻［8］通過為修改速度更新公式，實現(xiàn)種群內(nèi)信息充分共亨，防止了微粒因缺乏足夠的信息而判斷失誤所導(dǎo)致陷入局部極小。文獻［9］將引力場模型引常數(shù)和慣性常數(shù)或收縮因等。a)最大速度的選擇：如式(2.1)所小的粒2)產(chǎn)生的運動軌跡是不可控的，使得粒子在問題跳動，速度往往被限制在L-vimx?vinax］內(nèi)。增大，有利于全高，粒子運動軌跡可能失去規(guī)律性，哄至越過最優(yōu)解所在區(qū)域，導(dǎo)致算法難以收斂而陷入停滯狀態(tài)；相反％%太小，粒子運動步長太短，算法可能陷入局部極値［3］。此外，文獻［17］提出了的動態(tài)調(diào)節(jié)方法以改善算法性能：而文獻［48］提出了也白適應(yīng)于稍:體最佳和最差適應(yīng)度值％<的選擇方法。b)加速常數(shù)的選擇：式(1)中的加速常數(shù)勺和6分別用于控制粒子指向自身或鄰域最佳位取出白適應(yīng)時變調(diào)整策略，即勺隨著進化代數(shù)從2.的粒子群算法，根據(jù)群體多樣性指標(biāo)調(diào)整加速和探索新區(qū)域的能力，而收縮因子方法則不于實現(xiàn)，沒有很多參數(shù)需要調(diào)整，且不需要梯c)慣性權(quán)值或收縮因子的選擇：當(dāng)PSO的速度更新公式采用式仃)時，即使和兩個加速因子選擇合適，粒子仍然可能飛出問題空間，其至趨于無窮大，發(fā)生群體"其中為慣性常數(shù)。文獻［8］建議隨著更獻［15］通過采用隨機近似理論(stochastic提出了一種隨更新代數(shù)遞減至0的取值策略，以提高算法的搜索略，算法后期由于慣性權(quán)值過小，會失去化問題和混合整數(shù)非線性優(yōu)化問題的有效優(yōu)化匸具［1］。目前己經(jīng)廣泛應(yīng)用丁?函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、模糊系統(tǒng)控制以及其他遺確定神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。作為演化神經(jīng)網(wǎng)絡(luò)的例獻［23］中用改進的速度更新方程訓(xùn)練模糊神標(biāo)優(yōu)化問題、最小最大化問題、整數(shù)規(guī)劃問題有:模糊控制器設(shè)計、車間作業(yè)調(diào)度、機器人實時路徑規(guī)劃、自動目標(biāo)檢測、時頻分析等2吋q皿ft)+射)(珂■鯊子群優(yōu)化算法是一種新興并沒有給出收斂性、收斂速度估計等方面的數(shù)些研究，但是目前其理論和數(shù)學(xué)基礎(chǔ)的研究還2)利用不同問題的特點設(shè)計出相應(yīng)有效的算法，是非常有意義的工作。因此當(dāng)測試函數(shù)表現(xiàn)出各自的優(yōu)勢［16］,但由于慣性常數(shù)方法通常采用慣性權(quán)值隨更新代數(shù)增加而遞減的策潛力的演化算法,但還存在一些問題，在這一點上它與遺傳參考文獻u[5]謝曉鋒，張文俊，楊之廉?微粒群算