基于群體信息挖掘的協(xié)同差分進(jìn)化算法

基于群體信息挖掘的協(xié)同差分進(jìn)化算法

1995年，stornr和價(jià)格k相繼提出了分散發(fā)展算法（de）。它是一種隨機(jī)的并行直接搜索算法,可以對非線性不可微連續(xù)空間函數(shù)進(jìn)行最小化。DE以遺傳算法為基礎(chǔ),所以它和遺傳算法、微粒群算法等一樣,都是基于群體智能理論的優(yōu)化算法。DE采用實(shí)數(shù)編碼,在算法中引入擾動矢量,采用基于差分的簡單變異操作和一對一的競爭生存策略,具有簡單易用的特性;DE可以動態(tài)跟蹤當(dāng)前的搜索情況,以調(diào)整其搜索策略,具有速度快、魯棒性好、搜索能力強(qiáng)等優(yōu)點(diǎn)。為了提高DE的性能,目前已提出了許多改進(jìn)的方法。Chiou等提出了一種集成螞蟻方向的差分進(jìn)化算法,利用蟻群算法的概念,尋求合適的變異操作粒子來加快全局搜索的性能。Xu等提出了一種融合粒子群算法的差分進(jìn)化算法,該算法分為兩步:第一步用標(biāo)準(zhǔn)的粒子群算法進(jìn)行優(yōu)化,第二步用DE來對粒子進(jìn)行差分操作,并將該算法用于神經(jīng)網(wǎng)絡(luò)的建模,得到了比較好的效果。Kaelo等使用了一種改進(jìn)的差分策略來優(yōu)化差分操作,并使用了一個(gè)在固定區(qū)間的F因子來代替隨機(jī)產(chǎn)生的F因子,對幾個(gè)經(jīng)典函數(shù)的測試表明,算法的性能有很大的提高。DE的局部搜索能力較差,并易陷入局部最優(yōu)點(diǎn)。為了提高DE的尋優(yōu)速度和尋優(yōu)效能,提出了一種基于群體信息挖掘的協(xié)同差分進(jìn)化算法。該算法首先利用協(xié)同進(jìn)化的思想,將種群分解成不同的子種群,每個(gè)子種群采用不同的差分策略進(jìn)行獨(dú)立的差分和交叉操作,再將各個(gè)子種群合并成一個(gè)種群,并根據(jù)每個(gè)個(gè)體的適應(yīng)度值挑選出最優(yōu)個(gè)體;為了提高差分進(jìn)化算法的局部搜索能力,引入了多元回歸分析和模式搜索算法,對于整個(gè)種群,利用最小二乘法求得種群的尋優(yōu)方向信息,并以此來指導(dǎo)種群中的每一個(gè)個(gè)體進(jìn)行模式搜索,大大提高了算法的尋優(yōu)能力和效能。1de的變異向量DE的基本步驟如下。步驟1:初始化。生成由NP個(gè)個(gè)體組成的初始種群X0=[x10,x20,,x0NP],種群維數(shù)為D,確定變異算子F和交叉算子CR,確定最大進(jìn)化代數(shù)Gmax,令G=0。步驟2:對于第G代個(gè)體xiG(i=1,2,,NP),計(jì)算每個(gè)個(gè)體的適應(yīng)度值PE(xiG),并計(jì)算最優(yōu)個(gè)體xGbest。步驟3:變異。對于每個(gè)目標(biāo)向量xiG,i=1,2,,NP,基本DE的變異向量產(chǎn)生如下:生成變異后的種群VG+1=[v1G+1,v2G+1,,vNPG+1]。步驟4:交叉。為了增加干擾參數(shù)向量的多言性,引入交叉操作。向量變?yōu)槭街?randb(j)為產(chǎn)生一個(gè)之間隨機(jī)數(shù)發(fā)生器的第j個(gè)估計(jì)值;rnbr(i)∈(1,2,,D)為一個(gè)隨機(jī)選擇的序列,用它來確保uiG+1至少從viG+1獲得一個(gè)參數(shù)。生成交叉后的種群UG+1=[u1G+1,u2G+1,,uNPG+1]。步驟5:競爭。為決定試驗(yàn)向量uiG+1是否會成為下一代中的成員,DE按照貪婪準(zhǔn)則將試驗(yàn)向量與當(dāng)前種群中的目標(biāo)向量xiG進(jìn)行比較。生成第G+1代種群XG+1=??x1G+1,x2G+1,,xNPG+1??。步驟6:G=G+1,重復(fù)步驟2到步驟5,直到滿足算法的終止條件或G>Gmax。以上是最基本的DE操作程序。DE在工作時(shí)產(chǎn)生了幾種有代表性的差分策略,并用符號DE/x/u/z加以區(qū)分,其中:x限定當(dāng)前被變異的向量是“隨機(jī)的”或“最佳的”;u是所利用的差向量的個(gè)數(shù);z表示交叉程序的操作方法。式中,ri為隨機(jī)整數(shù),表示個(gè)體在種群中的序號,r1、r2、r3、r4和r5互不相同。2系統(tǒng)研究并取得了重要進(jìn)展協(xié)同進(jìn)化概念在進(jìn)化計(jì)算中的應(yīng)用最早可追溯到Hillis的宿主和寄生物模型及Husbands車間作業(yè)調(diào)度的多物種協(xié)同進(jìn)化模型。由DeJong領(lǐng)導(dǎo)的GeorgeMason大學(xué)進(jìn)化計(jì)算實(shí)驗(yàn)室對協(xié)同進(jìn)化算法進(jìn)行了系統(tǒng)的研究,并取得了重要的進(jìn)展。傳統(tǒng)進(jìn)化算法將待求解的問題映射為單一種群或單一種群的多個(gè)子種群的進(jìn)化;而協(xié)同進(jìn)化算法借鑒自然界中的協(xié)同進(jìn)化機(jī)制,在傳統(tǒng)進(jìn)化算法的基礎(chǔ)上引入生態(tài)系統(tǒng)的概念,將復(fù)雜系統(tǒng)分解為一系列相互作用的各物種組成的生態(tài)子系統(tǒng),每個(gè)子系統(tǒng)對應(yīng)于生態(tài)系統(tǒng)的一個(gè)物種,這些物種的遺傳過程是互相隔離的,即個(gè)體只與其所屬物種的其它個(gè)體進(jìn)行交叉操作,各子系統(tǒng)分別進(jìn)行優(yōu)化,而各物種間通過共同的系統(tǒng)模型相互作用,從整體上進(jìn)行協(xié)調(diào),各物種共同進(jìn)化,相互合作,完成生態(tài)系統(tǒng)整體的進(jìn)化。子系統(tǒng)的優(yōu)化和整體協(xié)調(diào)的過程往往需要交替迭代進(jìn)行,直到找到優(yōu)化問題的解。3回歸分析回歸分析是用數(shù)理統(tǒng)計(jì)的方法處理相關(guān)關(guān)系,以確定變量之間是否存在相關(guān)關(guān)系。如果存在相關(guān)關(guān)系,就找出變量間的合適數(shù)學(xué)表達(dá)式,即回歸方程。3.1多元線性回歸分析的原理多元線性模型的一般形式為式中,NP為樣本數(shù),D為自變量個(gè)數(shù),令多元線性回歸模型簡化為3.2x-1xy利用最小二乘估計(jì)可得回歸系數(shù)b為b=(X′X)-1X′y。在本文中回歸系數(shù)b就代表了種群整體所包含的最優(yōu)解所在方向的信息,也就是為整個(gè)種群的模式搜索提供了一個(gè)具體的方向。4移動點(diǎn)組成模式搜索算法是Hooke和Jeeves于1961年提出的。它由兩部分組成,即一個(gè)是探測移動,另一個(gè)是模式移動,就是先通過“探測性移動”尋找最佳點(diǎn)信息,然后利用“模式性移動”沿著找到的最佳點(diǎn)的信息前進(jìn),這兩種移動交替進(jìn)行直到步長δ小于事先給定的某個(gè)正數(shù)ε為止。4.1步長探測移動探測移動在某個(gè)已知點(diǎn)附近,對一個(gè)可行解x∈RD分別對其D個(gè)正反坐標(biāo)軸方向ei進(jìn)行步長探測移動,如探測成功(即至少有一個(gè)下降步)后,則進(jìn)行模式移動,如果探測移動步失敗,則縮短步長δ=0.5δ,繼續(xù)探測,直到δ<ε,則認(rèn)為找到了最優(yōu)值。坐標(biāo)軸方向ei為一個(gè)向量,其第i個(gè)值為1,其余全部為0。4.2模式移動在第g步可行解x(g)探測移動后,得到x(g+1)。如果f[x(g+1)]<f[x(g)],則進(jìn)行模式移動4.3反方向探測算法步驟1:給定初始值x0,初始步長δ,中止條件ε,循環(huán)次數(shù)g=0。步驟2:記t=x(g),先在坐標(biāo)軸e1方向上探測移動,如果f(t+δe1)<f(t),則沿e1正方向探測成功t=t+δe1,否則沿e1反方向探測移動,如果f(t-δe1)<f(t),則探測成功t=t-δe1,如此重復(fù)操作,直到對D個(gè)坐標(biāo)軸方向全部探測完畢。步驟3:如果步驟2中探測有一次成功,即f(t)<f[x(g)],則x(g+1)=t,轉(zhuǎn)到步驟4。否則縮短步長,令δ=0.5δ,重復(fù)步驟2,如果δ<ε,則算法中止。步驟4:進(jìn)行模式移動,即x(g+1)=x(g+1)+[x(g+1)-x(g)],令g=g+1,轉(zhuǎn)步驟2。4.4外來人口搜索本文中所應(yīng)用的模式搜索是基于尋優(yōu)方向的模式移動,具體說就是種群中的所有個(gè)體在一個(gè)包含最優(yōu)解信息的方向上,按照一定的初始步長作模式搜索,以期望找到比目前更優(yōu)的解,直到步長衰減到事先給定的某個(gè)正數(shù)閾值為止,則跳出模式搜索。5種群模式搜索算法本文將協(xié)同進(jìn)化的思想引入DE,其方法是將整個(gè)種群分成s個(gè)相同大小的子種群,每個(gè)子種群采用不同的差分策略分別進(jìn)化,在s個(gè)子種群完成差分和交叉操作后,再將這s個(gè)子種群合并為一個(gè)種群,從中挑選出一個(gè)最佳適應(yīng)度函數(shù)值的個(gè)體,作為當(dāng)前整個(gè)種群的最優(yōu)個(gè)體,并提取整個(gè)種群所包含的最優(yōu)解所在方向的信息,對整個(gè)種群進(jìn)行模式搜索,算法的步驟如下。步驟1:生成初始種群X1,確定各個(gè)參數(shù)的值。步驟2:對于第G代種群XG,根據(jù)每個(gè)個(gè)體的適應(yīng)度函數(shù)值,挑選出一個(gè)最優(yōu)的個(gè)體xGbest。步驟3:將第G代種群分成s個(gè)大小相等的子種群X1G,X2G,…,XsG。步驟4:對于s個(gè)子種群,分別采用s種不同的差分策略執(zhí)行變異操作,生成s個(gè)變異后的種群步驟5:執(zhí)行交叉操作。分別對s個(gè)子種群分別執(zhí)行交叉操作,生成s個(gè)交叉后的種群U1G+1,步驟6:將s個(gè)種群合并成一個(gè)種群UG+1,并執(zhí)行競爭操作生成第G+1代種群XG+1。步驟7:對種群XG+1進(jìn)行模式搜索,得到模式搜索后的種群XG+1。步驟8:G=G+1,重復(fù)式(2)～式(7),直到滿足算法的終止條件或G>Gmax。6de與cde的算法比較為了驗(yàn)證算法的有效性,對經(jīng)典的測試函數(shù),分別用本文提出的CCDE和DE來求解函數(shù)的最優(yōu)值。所選取的測試函數(shù)為Rastrigrin函數(shù):這是一個(gè)具有多個(gè)局部最優(yōu)點(diǎn)的多峰函數(shù),其局部極小點(diǎn)成正弦坡度分布,它在{xixi∈(-5.12,5.12),i=1,2,,D}內(nèi)大約有10D個(gè)局部極小點(diǎn),當(dāng)且僅當(dāng)x=(x1,x2,,xD)=0時(shí),其全局最小值為0。分別用DE和CCDE進(jìn)行運(yùn)算。其中,種群規(guī)模設(shè)為100;子種群個(gè)數(shù)選為5;變異算子F設(shè)為0.6;交叉算子CR設(shè)為0.3;最大迭代次數(shù)為2500;測試函數(shù)的變量維數(shù)為20;搜索空間門限值設(shè)為10-4,即當(dāng)f(x)≤10-4時(shí),即認(rèn)為該算法已達(dá)到最優(yōu)解。為減少偶然性共運(yùn)行10次,每次運(yùn)行時(shí)兩種算法的初始種群都相同,對于DE分別采用5種不同的策略進(jìn)行測試。各代的最優(yōu)適應(yīng)值(為10次的平均值)隨代數(shù)的變化如圖1所示。由圖1可以看出,CCDE的尋優(yōu)速度和尋優(yōu)質(zhì)量均優(yōu)于DE。兩種算法在10次運(yùn)行中所得到最優(yōu)解的次數(shù)、最小代數(shù)、平均代數(shù)、平均最優(yōu)適應(yīng)度值如表1所示。由表1可以看出,在10次的運(yùn)行過程中CCDE有10次得到的最優(yōu)值小于搜索空間的門限值,達(dá)到最優(yōu);而DE嚴(yán)重依賴于所選取的差分策略。CCDE在10次的運(yùn)行中達(dá)到的平均最優(yōu)適應(yīng)度值為0,遠(yuǎn)遠(yuǎn)低于5種DE的平均最優(yōu)適應(yīng)度值。從圖1和表1可以看出,本文所提出的CCDE在搜索性能和搜索質(zhì)量上遠(yuǎn)遠(yuǎn)高于DE。74生理和色譜分析精對苯二甲酸(PTA)是合成聚酯纖維和塑料的重要原料,主要用來合成聚酯的中間體苯二甲酸乙二醇酯(PET)。目前世界上約80%的PTA采用美國的AMOCO工藝生產(chǎn),其主要工藝路線分為對二甲苯(PX)氧化反應(yīng)過程和對苯二甲酸(TA)加氫精制過程兩單元。在PX氧化生成TA過程中,對羧基苯甲醛(4-CBA)是氧化反應(yīng)的一個(gè)重要中間產(chǎn)物,它能與氧化單元產(chǎn)品粗對苯二甲酸(CTA)共結(jié)晶而隨CTA產(chǎn)品析出。4-CBA含量過高將使產(chǎn)品著色,嚴(yán)重影響產(chǎn)品品質(zhì);4-CBA含量過低,則氧化過度,燃燒損失嚴(yán)重。因此應(yīng)當(dāng)將TA產(chǎn)品中4-CBA含量穩(wěn)定在一個(gè)合適的水平。由于在氧化反應(yīng)器中,4-CBA的測量通常都是在經(jīng)過反應(yīng)器、結(jié)晶器、水洗、干燥后的TA產(chǎn)品中進(jìn)行采樣測量;此外,TA中4-CBA含量的測量采用的是色譜分析,具有嚴(yán)重的滯后性。因此,必須開發(fā)4-CBA含量軟測量模型,能夠?qū)崟r(shí)預(yù)報(bào)當(dāng)前反應(yīng)狀況下的4-CBA含量,以克服人工分析值的滯后問題,為產(chǎn)品質(zhì)量的實(shí)時(shí)控制提供依據(jù)。7.14cta產(chǎn)品的表征在生產(chǎn)過程中4-CBA含量是無法實(shí)時(shí)測量的,只能人工取樣分析。由于人工分析值不可避免存在延遲,這為實(shí)時(shí)、有效地控制CTA產(chǎn)品的4-CBA含量帶來困難。通過對氧化反應(yīng)生產(chǎn)過程進(jìn)行分析發(fā)現(xiàn),在保證進(jìn)料中對二甲苯濃度和第一結(jié)晶器尾氧濃度不變的情況下,CTA產(chǎn)品中4-CBA含量m4-CBA(質(zhì)量分?jǐn)?shù))是氧化反應(yīng)器進(jìn)料流量Fm和第一結(jié)晶器空氣流量Fair的函數(shù),并有式中,?m4-CBA是4-CBA含量軟測量模型估算值;α、β、γ、χ、φ是4-CBA含量軟測量模型待估參數(shù),可通過采集不同生產(chǎn)工況下氧化反應(yīng)器進(jìn)料流量Fm,第一結(jié)晶器空氣流量Fair以及對應(yīng)的CTA產(chǎn)品中4-CBA含量m4-CBA,形成樣本進(jìn)行估計(jì)。7.2優(yōu)化目標(biāo)函數(shù)及仿真結(jié)果設(shè)采集樣本容量為l,第i個(gè)樣本為Fmi、Fiair、mi4-CBA。在模型參數(shù)已知時(shí),由模型式(15)可計(jì)算CTA產(chǎn)品中4-CBA含量mi4-CBA的估算值m?i4-CBA,它與mi4-CBA的相對誤差絕對值為所有樣本數(shù)據(jù)的相對誤差平方和均值為估計(jì)模型參數(shù)的原則就是使式(17)的相對誤差平方和均值E達(dá)到最小。式(17)即為優(yōu)化的目標(biāo)函數(shù)的具體函數(shù)。用CCDE估計(jì)式(15)的5個(gè)模型參數(shù),樣本從實(shí)際生產(chǎn)過程中采集,共采集了462組數(shù)據(jù),隨機(jī)挑選其中345組作為樣本數(shù)據(jù),即l=345,剩余的117組數(shù)據(jù)形成校驗(yàn)樣本。算法的參數(shù)設(shè)置為:NP為200;F為0.6;CR為0.3;最大迭代次數(shù)為1000;以式(17)的相對誤差平方和均值E作為目標(biāo)函數(shù),算法進(jìn)行參數(shù)估計(jì)得到的結(jié)果:α為0.101055;β為70.89833;γ為0.594662;χ為1494.785;φ為0.173599。應(yīng)用4-CBA軟測量模型對校驗(yàn)樣本進(jìn)行預(yù)測,以CTA產(chǎn)品中4-CBA含量預(yù)測值為橫坐標(biāo),以其實(shí)際值為縱坐標(biāo)作圖,得到的結(jié)果如圖2所示。圖2中,有一個(gè)樣本點(diǎn)有較大偏差,通過工藝分析,該樣本為粗差數(shù)據(jù);除此外,其他樣本點(diǎn)分布在對角線的兩側(cè),即模型預(yù)測值與分析值一致?？梢钥闯?用CCDE對4-CBA軟測量模型進(jìn)行參數(shù)估計(jì),所得到的預(yù)測結(jié)果比較好,模型能良好的預(yù)測CTA產(chǎn)品中4-CBA含量。CCDE用于4-CBA軟測量模型得到的最優(yōu)目標(biāo)函數(shù)值和預(yù)測相對誤差平方和均值如表2所示。8cde的應(yīng)用CCDE利用協(xié)同進(jìn)化的思想,將種群分解成不同的子種群,每個(gè)子種群采用不同的差分策略進(jìn)行獨(dú)立的差分和交叉操作,再將各個(gè)子種群合并成一個(gè)種群,并根據(jù)每個(gè)個(gè)體的適應(yīng)度值挑選出最優(yōu)個(gè)體;引入了多元回歸分析和模式搜索算法,對于整個(gè)種群,利用最小二乘法求得種群的尋優(yōu)方向信息,并以此來指導(dǎo)種群中的每一個(gè)個(gè)體進(jìn)行模式搜索,提高了算法的搜索能力。仿真研究和在PTA氧化反應(yīng)4-CBA含量軟測量模型參數(shù)估計(jì)中的應(yīng)用表明:CCDE具有較優(yōu)的搜索性能,利用其建立軟測量模型,能較準(zhǔn)確地預(yù)測CTA產(chǎn)品中4-CBA的含量,可以為PTA氧化反應(yīng)過程操作優(yōu)化提供指導(dǎo)。符號說明b——回歸系數(shù)E——樣本數(shù)據(jù)相對誤差平方和均值F——變異算子Fm——氧化反應(yīng)器進(jìn)料流量,kg/hf(G