一種新的粒子群優(yōu)化模型

一種新的粒子群優(yōu)化模型

關(guān)于粒子群優(yōu)化問題的研究干預(yù)顆粒組優(yōu)化算法（pso）由兩位科學(xué)家開發(fā)，該算法是基于團隊智能的全球優(yōu)化方法。該方法通過團隊中的合作與競爭中的集體智能指導(dǎo)來優(yōu)化搜索。PSO的優(yōu)勢在于簡單、容易實現(xiàn)，同時又有深刻的智能背景；既適合科學(xué)研究，又特別適合工程應(yīng)用。國內(nèi)外許多學(xué)者對粒子群優(yōu)化的理論和應(yīng)用做了廣泛研究。文分析了粒子間連接方式對優(yōu)化性能的影響。文給出了多個粒子群相互協(xié)作分別對整個解向量不同部分進行優(yōu)化的方法，很好的改善了粒子群優(yōu)化的性能。文將最初笛卡爾坐標(biāo)系下的PSO推廣到極坐標(biāo)系。為了改善PSO的搜索性能，文提出了將自適應(yīng)PSO與變異算子相結(jié)合的混合算法，并應(yīng)用于交通控制中。文提出了把PSO與混沌搜索相結(jié)合的方法，很好地提高了搜索效果，但該方法只是將PSO與混沌搜索以一定方式交替使用。文與文給出了如何更好地把PSO應(yīng)用于電網(wǎng)規(guī)劃中。文把PSO應(yīng)用于多模型自適應(yīng)動態(tài)矩陣控制中，很好地改善了控制效果。文給出了如何把PSO用于具有約束的廣義預(yù)測控制器，在提高控制性能的基礎(chǔ)上擴大了廣義預(yù)測控制器的應(yīng)用范圍。以往的粒子群優(yōu)化算法都是求助于隨機系數(shù)以實現(xiàn)對最優(yōu)解的搜索，從而很難對系統(tǒng)的性能進行分析。本文提出了一種新的粒子模型，不同于以往的粒子群算法包含隨機參數(shù)，而是一個確定性的簡單混沌粒子群。文中通過對粒子群的分析得到了兩個收斂性結(jié)論；最后給出數(shù)值仿真，通過與基本PSO的對比說明了文中所提出方法的優(yōu)越性及其有效性。1解空間的動態(tài)方程PSO算法其思想源于模擬鳥群和魚群覓食過程，粒子群中每個粒子代表優(yōu)化問題解空間內(nèi)的一個解。在下一時刻每個粒子位置通過個體本身的經(jīng)驗和整個群體的經(jīng)驗調(diào)整位置變化。每個粒子對解空間的搜索過程可以由位置和速度兩個元素構(gòu)成，一般可以由下面兩個動態(tài)方程表示。其中Vi=[vi1,vi2,,vin]稱為粒子i的速度，代表從當(dāng)前時刻到下一刻的變化值；Xi=[xi1,xi2,,xin]稱為粒子i的位置，它經(jīng)歷過的最好位置記為Pi，群體中所有粒子經(jīng)歷過的最好位置為Pg;2為加速度因子，代表將每個微粒推向Pi和Pg位置的統(tǒng)計加速項的權(quán)重，rand1(·)和rand2(·)為兩個相互獨立在范圍里變化的隨機函數(shù)，可以理解為“大腦中存在混沌現(xiàn)象”。2混合顆粒群優(yōu)化2.1基于社會網(wǎng)絡(luò)的模擬仿真因為每個粒子可以看成是單個魚或鳥的思考決定下一個位置的模型，因此粒子可以由具有“隨機”的神經(jīng)網(wǎng)絡(luò)來模擬。根據(jù)粒子的模型(1)-(2)，粒子i的位置可以看成如圖1所示神經(jīng)網(wǎng)絡(luò)的輸出。由圖1可以看出，該神經(jīng)網(wǎng)絡(luò)（也就是粒子模型）有以下三個特點：(1)類似于Hopfield神經(jīng)網(wǎng)絡(luò)，具有反饋輸入；(2)類似于反向傳播神經(jīng)網(wǎng)絡(luò)，具有外部輸入；(3)類似于混沌神經(jīng)網(wǎng)絡(luò)，具有隨機現(xiàn)象。由于PSO是模擬簡化的群體模型行為而得到的，因此新建的模型也應(yīng)該具有群體模型的特點。生物社會學(xué)家Wilsin認為：在覓食過程中，群體中的各個成員可以從整個群體已獲得的信息受益；尤其當(dāng)食物分布在未知區(qū)域時，這種合作帶來的好處將遠遠超過由于為小部分食物而進行競爭所帶來的負面影響。這說明同種群內(nèi)部個體間信息共享是非常重要的。因此，在基于社會群體的優(yōu)化算法中，已獲得的較好經(jīng)驗起到非常重要的作用。許多種連接方式反應(yīng)種群中的個體間的影響。為了簡單起見，只選取種群中最好的經(jīng)驗對個體有影響。除了種群的整體因素對個體有影響外，每個個體已有的經(jīng)驗對自身也有影響。由上面的描述得出，單個粒子的模型至少反映兩方面的內(nèi)容：整個種群或所有粒子發(fā)現(xiàn)的最好位置；單個粒子發(fā)現(xiàn)的最好位置。人工神經(jīng)網(wǎng)絡(luò)是模擬生物大腦的模型。其中Hopfield神經(jīng)網(wǎng)絡(luò)具有隨著神經(jīng)元狀態(tài)的更新，能量函數(shù)單調(diào)減小最終整個網(wǎng)絡(luò)達到穩(wěn)定的特點。利用Hopfield網(wǎng)絡(luò)的特點，可以把需要優(yōu)化問題的評價函數(shù)映射到Hopfield網(wǎng)絡(luò)的能量函數(shù)，通過網(wǎng)絡(luò)狀態(tài)更新解決優(yōu)化問題。因此，可以用Hopfield網(wǎng)絡(luò)模擬單個粒子的行為。根據(jù)前面的分析或圖1可知神經(jīng)網(wǎng)絡(luò)模型兩個外部輸入為ipj(ipj由內(nèi)部和外部共同決定的所以看成外部輸入）和pgj；模型的輸出為ixj。在沒有約束的情況下粒子i的第j個元素的能量函數(shù)可以選為：其中A,B和C為正常數(shù)；(xij-pgj)2反映了當(dāng)前狀態(tài)趨向于整個群體已獲得的最優(yōu)值；(xjip-pij)2和(xij-xjip)2反映了當(dāng)前位置趨向個體已經(jīng)獲得的最好值。為了保證能量函數(shù)單調(diào)收斂性，可以采用文所提出的狀態(tài)更新方法：根據(jù)原始的PSO算法知道鳥或魚在覓食的過程存在隨機或混沌特性，而(4)—(7)是不存在這種特性。為此，通過在(4)或(6)，或者在兩個式子中同時添加狀態(tài)自回歸項就有可能產(chǎn)生混沌現(xiàn)象，此時動態(tài)方程(4)和(6)就可以變?yōu)椋簽榱耸沟脿顟B(tài)隨著時間推移狀態(tài)退出混沌，從而增加了一個參數(shù)方程：其中0<β<1。一般的實際問題可以抽象成下面的優(yōu)化問題：其中f(X)是目標(biāo)函數(shù)，也稱為適應(yīng)度函數(shù)；X是具有n個元素的優(yōu)化向量；ia和ib分別為優(yōu)化向量中相應(yīng)元素變化范圍的下界和上界。由(5)可以知道模型的輸出狀態(tài)ixj∈(0,1)，因此需要優(yōu)化問題的變量的范圍(11)應(yīng)該根據(jù)下式歸一化到(0,1)：為了得到實際問題的解時，可以用下式返回到原來的尺度：2.2最佳適應(yīng)度由于混沌粒子群優(yōu)化是一種基于迭代的優(yōu)化算法,是通過初始化一組隨機解,然后采用迭代搜索最優(yōu)值。具有如下過程：第1步：種群及參數(shù)初始化；然后通過(13)式根據(jù)種群初始值得出實際變量值；計算出個體所對應(yīng)的適應(yīng)度作為個體以獲得的最好位置的適應(yīng)度，進而得到初始化種群中最佳適應(yīng)度所對應(yīng)的個體。第2步：對種群內(nèi)的每一個個體根據(jù)(13)求出實際變量值，然后求出計算適應(yīng)值；第3步：種群根據(jù)適應(yīng)值進行位置信息更新；如果種群中最佳適應(yīng)度發(fā)生變化則對參數(shù)z(t)進行重新初化；第4步：如果終止準(zhǔn)則滿足,則停止，并且通過(13)求出問題的實際解；否則轉(zhuǎn)到第2步。3動態(tài)模型的建立根據(jù)(8)—(10)，當(dāng)t→∞時z(t)以指數(shù)衰減到0；并且在實際應(yīng)用中可以在z(t)非常小或模型狀態(tài)退出混沌時直接設(shè)為0。因此，只需要分析z(t)=0時動態(tài)方程的收斂性就可以了。當(dāng)粒子的神經(jīng)網(wǎng)絡(luò)模型的內(nèi)部狀態(tài)采用異步更新（或稱為串行更新）時，有下面收斂性定理。定理1：當(dāng)PSO采用(5)、(7)—(10)動態(tài)模型并且其狀態(tài)采用異步更新時，網(wǎng)絡(luò)的狀態(tài)最終收斂到平衡點。證明：根據(jù)前面說明，只需要證明在z(t)=0時(8)和(9)收斂到平衡點就可以了。根據(jù)方程(8)和(9)可知由于這里的激活函數(shù)h()為sigmoid函數(shù)，是單調(diào)增函數(shù)，所以?ui?xi>0。當(dāng)?xi≠0時，能量函數(shù)J隨著狀態(tài)異步更新單調(diào)減??；直到狀態(tài)達到穩(wěn)定，此時對于該模型有在z(t)=0時，根據(jù)(15)和(8)—(9)可知，求出的解就為粒子i唯一的平衡點：證明完畢。定理2：當(dāng)PSO采用(5)、(7)—(10)動態(tài)模型并且其狀態(tài)采用異步更新時，粒子群中的各個粒子的輸出狀態(tài)最終收斂到以pg為球心，半徑為的超球體中(如果是二維則是在圓內(nèi))。證明：根據(jù)定理1可以知道各個粒子狀態(tài)最終收斂到的唯一平衡點(xie,xipe），根據(jù)(17)、(18)可以知道粒子i的輸出狀態(tài)由整個種群粒子發(fā)現(xiàn)的最好位置和單個粒子i發(fā)現(xiàn)的最好位置決定。粒子i最終輸出狀態(tài)到整個種群粒子發(fā)現(xiàn)的最好位置的歐氏長度為（其中為二范數(shù)運算），將(17)代入可以得到因此，粒子群中的各個粒子的輸出狀態(tài)最終收斂到以pg為球心，半徑的超球體中。證明完畢。根據(jù)(20)可以看出，當(dāng)A>>B,A>>C或者AB+AC>>BC時，粒子群中的各個粒子最終收斂到pg的一個非常小的臨域，即xij≈xjie。下面分析隨著z(t)的衰減模型的動態(tài)性能變化情況。為了簡單起見，這里只分析只有一個粒子，并且粒子向量中只有一個變量的情況。(3)和(8)—(10)中的參數(shù)分別設(shè)置為所有參數(shù)都固定，圖2顯示了狀態(tài)ix(t)，z(t)以及最大Lyapunov指數(shù)隨時間的變化情況；圖中橫坐標(biāo)為運行步數(shù)。其中在求Lyapunov指數(shù)時，首先需要把(8)和(9)狀態(tài)的同步跟新形式轉(zhuǎn)化成異步更新形式，然后采用下面式子的定義形式：由(17)可知最終網(wǎng)絡(luò)輸出趨向于xie=0.2，這一點，在圖2(a)中也得到了驗證。雖然圖2(c)直接反映了最大Lyapunov指數(shù)隨時間的變化，但是在求解過程中實際上是根據(jù)在不同的時間點選取不同的參數(shù)z進行求解，從而圖2(c)間接反映了參數(shù)z在一定范圍內(nèi)所對應(yīng)的最大Lyapunov指數(shù)譜。根據(jù)圖2可以直觀的看出，其搜索軌道展現(xiàn)了從混沌到周期分岔再到匯的逆周期分岔演化過程。初始混沌式搜索模式展寬了搜索范圍，擬周期分岔演化過程決定了搜索的穩(wěn)定性和收斂性。從而達到優(yōu)化的目的。4混沌神經(jīng)網(wǎng)絡(luò)群的優(yōu)化為了給出該模型在優(yōu)化中的有效性，這里選擇一個著名基準(zhǔn)優(yōu)化問題Rastrigin函數(shù)。當(dāng)變量個數(shù)n=2時，函數(shù)的表達式為其中-1≤xi≤1,i=1,2.該函數(shù)有大約50個局部最小點，其中全局最小點為在(x1,x2)=(0,0)處取得的-2。采用混沌神經(jīng)網(wǎng)絡(luò)群優(yōu)化算法時，種群中粒子個數(shù)設(shè)置為20，并且初始化模型的參數(shù)為：各個粒子的初始化采用在變量的變化范圍內(nèi)相互獨立取隨機數(shù)。根據(jù)混沌粒子群優(yōu)化迭代過程，被優(yōu)化函數(shù)值隨時間的變化情況如圖3所示。最終，粒子群中最好的值為在(x1,x2)=(0,0)處取得的-2。由圖3可以看出混沌神經(jīng)網(wǎng)絡(luò)群優(yōu)化具有很好的優(yōu)化效果。由于需要優(yōu)化的變量有兩個，從而種群中所有個體在二維平面中最終收斂情況如圖4所示。其中圖4中，圓心為(0,0)，半徑是由(20)決定。當(dāng)采用基本的粒子群算法時，種群中粒子個數(shù)設(shè)置為20，各個粒子的初始化采用在變量的變化范圍內(nèi)相互獨立取隨機數(shù)。最終，粒子群中最好的值也是為在(x1,x2)=(0,0)處取得的-2。但是種群中粒子分散無規(guī)律，各個粒子的最終狀態(tài)