第十二章 模擬退火算法與人工免疫算法簡(jiǎn)介

第十二章模擬退火算法與人工免疫算法簡(jiǎn)介

本章對(duì)目前常用的幾種智能優(yōu)化計(jì)算算法作簡(jiǎn)單介紹，以使讀者對(duì)它們有個(gè)基本認(rèn)識(shí)。內(nèi)容包括神經(jīng)網(wǎng)絡(luò)、遺傳算法、模擬退火算法和神經(jīng)網(wǎng)絡(luò)混合優(yōu)化學(xué)習(xí)策略。

12.1模擬退火算法

模擬退火算法(simulatedannealing,簡(jiǎn)稱SA)的思想最早是由Metropolis等(1953)提出的，1983年Kirkpatrick等將其用于組合優(yōu)化。SA算法是基于MonteCarlo迭代求解策略的一種隨機(jī)尋優(yōu)算法，其出發(fā)點(diǎn)是基于物理中固體物質(zhì)的退火過程與一般組合優(yōu)化問題之間的相似性。模擬退火算法模擬退火算法在某一初溫下，伴隨溫度參數(shù)的不斷下降，結(jié)合概率突跳特性在解空間中隨機(jī)尋找目標(biāo)函數(shù)的全局最優(yōu)解，即在局部?jī)?yōu)解能概率性地跳出并最終趨于全局最優(yōu)解。模擬退火算法是一種通用的優(yōu)化算法，目前已在工程中得到了廣泛應(yīng)用。模擬退火算法12.1.1物理退火過程和Metropolis準(zhǔn)則簡(jiǎn)單而言，物理退火過程由以下三部分組成：⑴加溫過程。其目的是增強(qiáng)粒子的熱運(yùn)動(dòng)，使其偏離平衡位置。當(dāng)溫度足夠高時(shí)，固體將溶解為液體，從而消除系統(tǒng)原先可能存在的非均勻態(tài)，使隨后進(jìn)行的冷卻過程以某一平衡態(tài)為起點(diǎn)。溶解過程與系統(tǒng)的熵增過程聯(lián)系，系統(tǒng)能量也隨溫度的升高而增大。模擬退火算法⑵等溫過程。物理學(xué)的知識(shí)告訴我們，對(duì)于與周圍環(huán)境交換熱量而溫度不變的封閉系統(tǒng)，系統(tǒng)狀態(tài)的自發(fā)變化總是朝自由能減少的方向進(jìn)行，當(dāng)自由能達(dá)到最小時(shí)，系統(tǒng)達(dá)到平衡態(tài)。⑶冷卻過程。目的是使粒子的熱運(yùn)動(dòng)減弱并漸趨有序，系統(tǒng)能量逐漸下降，從而得到低能的晶體結(jié)構(gòu)。模擬退火算法Metropolis等在1953年提出了重要性采樣法，即以概率接受新狀態(tài)。具體而言，在溫度t,由當(dāng)前狀態(tài)i產(chǎn)生新狀態(tài)j，兩者的能量分別為，若則接受新狀態(tài)j為當(dāng)前狀態(tài)；否則，若概率大于區(qū)間內(nèi)的隨機(jī)數(shù)則仍舊接受新狀態(tài)j為當(dāng)前狀態(tài)，若不成立則保留i為當(dāng)前狀態(tài)，其中k為Boltzmann常數(shù)。模擬退火算法這種重要性采樣過程在高溫下可接受與當(dāng)前狀態(tài)能量差較大的新狀態(tài)，而在低溫下基本只接受與當(dāng)前能量差較小的新狀態(tài)，而且當(dāng)溫度趨于零時(shí)，就不能接受比當(dāng)前狀態(tài)能量高的新狀態(tài)。這種接受準(zhǔn)則通常稱為Metropolis準(zhǔn)則。模擬退火算法12.1.2模擬退火算法的基本思想和步驟1983年Kirkpatrick等意識(shí)到組合優(yōu)化與物理退火的相似性，并受到Metropolis準(zhǔn)則的啟迪，提出了模擬退火算法。模擬退火算法是基于MonteCarlo迭代求解策略的一種隨機(jī)尋優(yōu)算法，其出發(fā)點(diǎn)是基于物理退火過程與組合優(yōu)化之間的相似性，SA由某一較高初溫開始，利用具有概率突跳特性的Metropolis抽樣策略在解空間中進(jìn)行隨機(jī)搜索，伴隨溫度的不斷下降重復(fù)抽樣過程，最終得到問題的全局最優(yōu)解。模擬退火算法標(biāo)準(zhǔn)模擬退火算法的一般步驟可描述如下：⑴給定初溫，隨機(jī)產(chǎn)生初始狀態(tài)，令；⑵Repeat:①Repeat產(chǎn)生新狀態(tài)；模擬退火算法

Until抽樣穩(wěn)定準(zhǔn)則滿足；②退溫，并令；

Until算法終止準(zhǔn)則滿足；⑶輸出算法搜索結(jié)果。模擬退火算法12.1.3模擬退火算法關(guān)鍵參數(shù)和操作的設(shè)定從算法流程上看，模擬退火算法包括三函數(shù)兩準(zhǔn)則，即狀態(tài)產(chǎn)生函數(shù)、狀態(tài)接受函數(shù)、溫度更新函數(shù)、內(nèi)循環(huán)終止準(zhǔn)則和外循環(huán)終止準(zhǔn)則，這些環(huán)節(jié)的設(shè)計(jì)將決定SA算法的優(yōu)化性能。此外，初溫的選擇對(duì)SA算法性能也有很大影響。模擬退火算法⑴狀態(tài)產(chǎn)生函數(shù)設(shè)計(jì)狀態(tài)產(chǎn)生函數(shù)（鄰域函數(shù)）的出發(fā)點(diǎn)應(yīng)該是盡可能保證產(chǎn)生的候選解遍布全部的解空間。通常，狀態(tài)產(chǎn)生函數(shù)由兩部分組成，即產(chǎn)生候選解的方式和候選解產(chǎn)生的概率分布。模擬退火算法⑵狀態(tài)接受函數(shù)狀態(tài)接受函數(shù)一般以概率的方式給出，不同接受函數(shù)的差別主要在于接受概率的形式不同。設(shè)計(jì)狀態(tài)接受概率，應(yīng)該遵循以下原則：①在固定溫度下，接受使目標(biāo)函數(shù)值下降的候選解的概率要大于使目標(biāo)值上升的候選解的概率；模擬退火算法②隨溫度的下降，接受使目標(biāo)函數(shù)值上升的解的概率要逐漸減?。虎郛?dāng)溫度趨于零時(shí)，只能接受目標(biāo)函數(shù)值下降的解。狀態(tài)接受函數(shù)的引入是SA算法實(shí)現(xiàn)全局搜索的最關(guān)鍵的因素，SA算法中通常采用min[1,exp(-△C/t)]作為狀態(tài)接受函數(shù)。

模擬退火算法⑶初溫初始溫度、溫度更新函數(shù)、內(nèi)循環(huán)終止準(zhǔn)則和外循環(huán)終止準(zhǔn)則通常被稱為退火歷程(annealingschedule)。實(shí)驗(yàn)表明，初溫越大，獲得高質(zhì)量解的幾率越大，但花費(fèi)的計(jì)算時(shí)間將增加。因此，初溫的確定應(yīng)折衷考慮優(yōu)化質(zhì)量和優(yōu)化效率，常用方法包括：模擬退火算法①均勻抽樣一組狀態(tài)，以各狀態(tài)目標(biāo)值的方差為初溫。②隨機(jī)產(chǎn)生一組狀態(tài)，確定兩兩狀態(tài)間的最大目標(biāo)值差，然后依據(jù)差值，利用一定的函數(shù)確定初溫。譬如,其中

為初始接受概率③利用經(jīng)驗(yàn)公式給出。模擬退火算法⑷溫度更新函數(shù)溫度更新函數(shù)，即溫度的下降方式，用于在外循環(huán)中修改溫度值。目前，最常用的溫度更新函數(shù)為指數(shù)退溫函數(shù)，即，其中且其大小可以不斷變化。模擬退火算法⑸內(nèi)循環(huán)終止準(zhǔn)則內(nèi)循環(huán)終止準(zhǔn)則，或稱Metropolis抽樣穩(wěn)定準(zhǔn)則，用于決定在各溫度下產(chǎn)生候選解的數(shù)目。在非時(shí)齊SA算法理論中，由于在每個(gè)溫度下只產(chǎn)生一個(gè)或少量候選解，所以不存在選擇內(nèi)循環(huán)終止準(zhǔn)則的問題。

模擬退火算法而在時(shí)齊SA算法理論中，收斂條件要求在每個(gè)溫度下產(chǎn)生候選解的數(shù)目趨于無窮大，以使相應(yīng)的馬氏鏈達(dá)到平穩(wěn)概率分布，顯然在實(shí)際應(yīng)用算法時(shí)這是無法實(shí)現(xiàn)的。常用的抽樣準(zhǔn)則包括：①檢驗(yàn)?zāi)繕?biāo)函數(shù)的均值是否穩(wěn)定；②連續(xù)若干步的目標(biāo)值變化較小；③按一定的步數(shù)抽樣。

模擬退火算法⑹外循環(huán)終止準(zhǔn)則外循環(huán)終止準(zhǔn)則，即算法終止準(zhǔn)則，用于決定算法何時(shí)結(jié)束。設(shè)置溫度終值是一種簡(jiǎn)單的方法。SA算法的收斂性理論中要求溫度終值趨于零，這顯然不合實(shí)際。通常的做法是：

模擬退火算法①設(shè)置終止溫度的閾值；②設(shè)置外循環(huán)迭代次數(shù)；③算法收斂到的最優(yōu)值連續(xù)若干步保持不變；④檢驗(yàn)系統(tǒng)熵是否穩(wěn)定。

12.1.4神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略

鑒于GA、SA的全局優(yōu)化特性和通用性，即優(yōu)化過程無需導(dǎo)數(shù)信息，我們可以基于實(shí)數(shù)編碼構(gòu)造BPSA、BPGA混合優(yōu)化學(xué)習(xí)策略，以提高前向網(wǎng)絡(luò)學(xué)習(xí)的速度、精度，特別是避免陷入局部極小的能力。12.1.4神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略4.1BPSA混合學(xué)習(xí)策略在BPSA混合學(xué)習(xí)策略中，采用以BP為主框架，并在學(xué)習(xí)過程中引入SA策略。這樣做，既利用了基于梯度下降的有指導(dǎo)學(xué)習(xí)來提高局部搜索性能，也利用了SA的概率突跳性來實(shí)現(xiàn)最終的全局收斂，從而可提高學(xué)習(xí)速度和精度。

BP-SA混合學(xué)習(xí)策略的算法步驟如下：

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略⑴

隨機(jī)產(chǎn)生初始權(quán)值，確定初溫，令⑵

利用BP計(jì)算。利用SA進(jìn)行搜索：

①

利用SA狀態(tài)產(chǎn)生函數(shù)產(chǎn)生新權(quán)值，，其中為隨機(jī)擾動(dòng)。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略②

計(jì)算的目標(biāo)函數(shù)值與的目標(biāo)函數(shù)值之差。③

計(jì)算接受概率。④

若，則取；否則保持不變。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略(4)利用退溫函數(shù)進(jìn)行退溫，其中為退溫速率。若對(duì)應(yīng)的目標(biāo)函數(shù)滿足要求精度，則終止算法并輸出結(jié)果；否則，令，轉(zhuǎn)步驟⑵。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略4.2BPGA混合學(xué)習(xí)策略神經(jīng)網(wǎng)絡(luò)的連接權(quán)包含著神經(jīng)網(wǎng)絡(luò)系統(tǒng)的全部知識(shí)。反向傳播的BP神經(jīng)網(wǎng)絡(luò)(backpropagationnetwork)的學(xué)習(xí)算法是基于梯度下降的，因而具有以下缺點(diǎn)：網(wǎng)絡(luò)訓(xùn)練速度慢、容易陷入局部極小值、全局搜索能力差等。而遺傳算法的搜索遍及整個(gè)解空間，因此容易得到全局最優(yōu)解，而且遺傳算法不要求目標(biāo)函數(shù)連續(xù)、可微，甚至不要求目標(biāo)函數(shù)有顯函數(shù)的形式，只要求問題可計(jì)算。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略因此，將擅長(zhǎng)全局搜索的遺傳算法和局部尋優(yōu)能力較強(qiáng)的BP算法結(jié)合起來，可以避免陷入局部極小值，提高算法收斂速度，很快找到問題的全局最優(yōu)解。BP算法和遺傳算法結(jié)合訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)重的主要步驟為：神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略(1)以神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)之間的連接權(quán)重和節(jié)點(diǎn)的閾值為參數(shù)，采用實(shí)數(shù)編碼。采用三層神經(jīng)網(wǎng)絡(luò)，設(shè)輸入節(jié)點(diǎn)數(shù)為p，輸出節(jié)點(diǎn)數(shù)為q，隱層節(jié)點(diǎn)數(shù)為r，則編碼長(zhǎng)度n為：

（10-4-1）

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略(2)設(shè)定神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)連接權(quán)重的取值范圍,產(chǎn)生相應(yīng)范圍的均勻分布隨機(jī)數(shù)賦給基因值，產(chǎn)生初始群體；(3)對(duì)群體中個(gè)體進(jìn)行評(píng)價(jià)。將個(gè)體解碼賦值給相應(yīng)的連接權(quán)(包括節(jié)點(diǎn)閾值)，引入學(xué)習(xí)樣本計(jì)算出學(xué)習(xí)誤差E，個(gè)體的適應(yīng)度定義為：.（10-4-2）

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略(4)對(duì)群體中的個(gè)體執(zhí)行遺傳操作：①

選擇操作。采用比例選擇算子，若群體規(guī)模為M，則適應(yīng)度為的個(gè)體被選中進(jìn)入下一代的概率為：.

（10-4-3）

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略②

交叉操作。由于采用實(shí)數(shù)編碼，故選擇算術(shù)交叉算子。父代中的個(gè)體和以交叉概率進(jìn)行交叉操作，可產(chǎn)生的子代個(gè)體為：

（10-4-4）和

（10-4-5）其中a為參數(shù)。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略③

變異操作。采用均勻變異算子。個(gè)體的各個(gè)基因位以變異概率發(fā)生變異，即按概率用區(qū)間中的均勻分布隨機(jī)數(shù)代替原有值。

⑸

引入最優(yōu)保留策略。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略⑹

判斷滿足遺傳算法操作終止條件否？不滿足則轉(zhuǎn)步驟⑶。否則轉(zhuǎn)步驟⑺。⑺

將遺傳算法搜索的最優(yōu)個(gè)體解碼，賦值給神經(jīng)網(wǎng)絡(luò)權(quán)重(包括節(jié)點(diǎn)閾值)，繼續(xù)采用BP算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的權(quán)重和閾值。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略4.3GASA混合學(xué)習(xí)策略采用三層前饋網(wǎng)絡(luò)，GA和SA結(jié)合訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)重的步驟如下：⑴

給定模擬退火初溫，令；⑵

以神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)之間的連接權(quán)重和節(jié)點(diǎn)的閾值為參數(shù)，采用實(shí)數(shù)編碼。采用三層神經(jīng)網(wǎng)絡(luò)，設(shè)輸入節(jié)點(diǎn)數(shù)為p，輸出節(jié)點(diǎn)數(shù)為q，隱層節(jié)點(diǎn)數(shù)為r，則編碼長(zhǎng)度n為：

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略

（10-4-6）⑶設(shè)定神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)連接權(quán)重的取值范圍，產(chǎn)生相應(yīng)范圍的均勻分布隨機(jī)數(shù)賦給基因值，產(chǎn)生初始群體；⑷對(duì)群體中個(gè)體進(jìn)行評(píng)價(jià)。將個(gè)體解碼賦值給相應(yīng)的連接權(quán)(包括節(jié)點(diǎn)閾值)，引入學(xué)習(xí)樣本計(jì)算出學(xué)習(xí)誤差E，個(gè)體的適應(yīng)度定義為：.（10-4-7）

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略⑸

對(duì)群體中的個(gè)體執(zhí)行遺傳操作：①

選擇操作。采用比例選擇算子，若群體規(guī)模為M，則適應(yīng)度為的個(gè)體被選中進(jìn)入下一代的概率為：.（10-4-8）

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略②

交叉操作。由于采用實(shí)數(shù)編碼，故選擇算術(shù)交叉算子。父代中的個(gè)體和以交叉概率進(jìn)行交叉操作，可產(chǎn)生的子代個(gè)體為：

（10-4-9）和

（10-4-10）其中a為參數(shù)。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略③

變異操作。采用均勻變異算子。個(gè)體的各個(gè)基因位以變異概率發(fā)生變異，即按概率用區(qū)間中的均勻分布隨機(jī)數(shù)代替原有值。⑹

引入最優(yōu)保留策略。

⑺

對(duì)群體中每一個(gè)個(gè)體引入模擬退火操作：

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略①

利用SA狀態(tài)產(chǎn)生函數(shù)產(chǎn)生新基因值，，其中為隨機(jī)擾動(dòng)。②

計(jì)算的目標(biāo)函數(shù)值與的目標(biāo)函數(shù)值之差。③

計(jì)算接受概率。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略④

若，則取；否則保持不變。⑤

引入最優(yōu)保留策略。⑥

利用退溫函數(shù)進(jìn)行退溫，其中為退溫速率。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略⑻

判斷滿足遺傳算法操作終止條件否？不滿足則轉(zhuǎn)步驟⑷。否則轉(zhuǎn)步驟⑼。⑼

將遺傳算法搜索的最優(yōu)個(gè)體解碼，賦值給神經(jīng)網(wǎng)絡(luò)權(quán)重(包括節(jié)點(diǎn)閾值)。

二、人工免疫系統(tǒng)引言12免疫算法3典型的人工免疫系統(tǒng)——ARTIS4基本免疫方法引言人工免疫系統(tǒng)作為人工智能領(lǐng)域的重要分支，同神經(jīng)網(wǎng)絡(luò)及遺傳算法一樣也是智能信息處理的重要手段，已經(jīng)受到越來越多的關(guān)注。它通過類似于生物免疫系統(tǒng)的機(jī)能，構(gòu)造具有動(dòng)態(tài)性和自適應(yīng)性的信息防御體系，以此來抵制外部無用、有害信息的侵入，從而保證接受信息的有效性與無害性。背景在生物科學(xué)領(lǐng)域，人們對(duì)進(jìn)化、遺傳和免疫等自然現(xiàn)象已經(jīng)進(jìn)行了廣泛而深入的研究；進(jìn)化算法是建立在模仿生物遺傳與自然選擇基礎(chǔ)上的一種并行優(yōu)化算法，其性能優(yōu)異、應(yīng)用廣泛；進(jìn)化算子在為每個(gè)個(gè)體提供了進(jìn)化機(jī)會(huì)的同時(shí)，也無可避免地產(chǎn)生了退化的可能；大多數(shù)待求問題有可以利用的先驗(yàn)知識(shí)或特征信息，故可以利用這些信息來抑制進(jìn)化過程中的退化現(xiàn)象；生物免疫理論為改進(jìn)原有算法的性能，建立集進(jìn)化與免疫機(jī)制于一體的新型全局并行算法奠定了基礎(chǔ)。一門新興的研究領(lǐng)域Farmer等人在1986年首先在工程領(lǐng)域提出免疫概念；Varela等人受免疫網(wǎng)絡(luò)學(xué)說的啟發(fā)，提出并進(jìn)而完善免疫網(wǎng)絡(luò)模型。人工免疫網(wǎng)絡(luò)模型獨(dú)特型免疫網(wǎng)絡(luò)（Jerne）；互聯(lián)耦合免疫網(wǎng)絡(luò)（Ishiguro）；免疫反應(yīng)網(wǎng)絡(luò)（Mitsumoto）；對(duì)稱網(wǎng)絡(luò)（Hoffmann）；多值免疫網(wǎng)絡(luò)（Tang）.免疫學(xué)習(xí)算法反面選擇算法（Forrest）；免疫學(xué)習(xí)算法（Hunt&Cooke）；免疫遺傳算法（Chun）；免疫Agent算法（Ishida）；免疫網(wǎng)絡(luò)調(diào)節(jié)算法（Wang&Cao）；免疫進(jìn)化算法（Jiao&Wang）國(guó)際研究1996年，日本，基于免疫性系統(tǒng)的國(guó)際專題討論會(huì)，提出并確認(rèn)人工免疫系統(tǒng)（AIS）的概念；1997年，IEEE的SMC組織專門成立了人工免疫系統(tǒng)及應(yīng)用的分會(huì)組織；目前，幾乎所有有關(guān)人工智能領(lǐng)域的學(xué)術(shù)會(huì)議都收錄AIS方面的論文。應(yīng)用自動(dòng)控制

故障診斷模式識(shí)別圖象識(shí)別優(yōu)化設(shè)計(jì)機(jī)器學(xué)習(xí)網(wǎng)絡(luò)安全AIS在控制領(lǐng)域中的應(yīng)用PID型免疫反饋控制器（Takahashi）；機(jī)器人控制（Mitsumoto,Ishiguro,Lee）；控制系統(tǒng)的設(shè)計(jì)（Ishida）；復(fù)雜動(dòng)態(tài)行為建模和自適應(yīng)控制（Kumak）；倒擺的控制（Bersini）。AIS在故障診斷中的應(yīng)用基于相關(guān)識(shí)別特性的免疫網(wǎng)絡(luò)模型用于故障診斷的方法（Ishida）；通過構(gòu)造大規(guī)模獨(dú)特型免疫網(wǎng)絡(luò)來建立用于在線服務(wù)的故障診斷系統(tǒng)（Ishiguru）。AIS在模式識(shí)別中的應(yīng)用Hunt等人開發(fā)了一種具有學(xué)習(xí)能力的人工免疫系統(tǒng)并用于模式識(shí)別。AIS在聯(lián)想記憶中的應(yīng)用Gilbert等人采用免疫網(wǎng)絡(luò)模型設(shè)計(jì)了一種內(nèi)容可訪的自動(dòng)聯(lián)想記憶系統(tǒng)并用于圖像識(shí)別。AIS在優(yōu)化設(shè)計(jì)中的應(yīng)用永磁同步電動(dòng)機(jī)的參數(shù)修正的優(yōu)化設(shè)計(jì)；電磁設(shè)備的外形優(yōu)化；VLSI印刷線路板的布線優(yōu)化設(shè)計(jì)；函數(shù)測(cè)試；旅行商問題的求解；約束搜索優(yōu)化問題和多判據(jù)設(shè)計(jì)問題；AIS在網(wǎng)絡(luò)安全的應(yīng)用數(shù)據(jù)檢測(cè)（Forrest）；病毒檢測(cè)（Kephart）；UNIX過程監(jiān)控（Forrest）。國(guó)際研究新動(dòng)向之一以開發(fā)新型的智能系統(tǒng)方法為背景，研究基于生物免疫系統(tǒng)機(jī)理的智能系統(tǒng)理論和技術(shù)，同時(shí)將AIS與模糊系統(tǒng)、神經(jīng)網(wǎng)絡(luò)和遺傳算法等軟計(jì)算技術(shù)進(jìn)行集成，并給出其應(yīng)用方法。國(guó)際研究新動(dòng)向之二基于最新發(fā)展的免疫網(wǎng)絡(luò)學(xué)說進(jìn)一步建立并完善模糊、神經(jīng)和其它一些專有類型的人工免疫網(wǎng)絡(luò)模型及其應(yīng)用方法。國(guó)際研究新動(dòng)向之三將人工免疫系統(tǒng)與遺傳系統(tǒng)的機(jī)理相互結(jié)合，并歸納出各種免疫學(xué)習(xí)算法。比如：免疫系統(tǒng)的多樣性遺傳機(jī)理和細(xì)胞選擇機(jī)理可用于改善原遺傳算法中對(duì)局部搜索問題不是很有效的情況；獨(dú)特型網(wǎng)絡(luò)機(jī)理可用于免疫系統(tǒng)中的遺傳部分以避免系統(tǒng)出現(xiàn)早熟現(xiàn)象；發(fā)展用于處理受約束的遺傳搜索和多準(zhǔn)則問題的免疫學(xué)習(xí)算法等。國(guó)際研究新動(dòng)向之四基于免疫反饋和學(xué)習(xí)機(jī)理，設(shè)計(jì)自調(diào)整、自組織和自學(xué)習(xí)的免疫反饋控制器。展開對(duì)基于免疫反饋機(jī)理的控制系統(tǒng)的設(shè)計(jì)方法和應(yīng)用研究，這有可能成為工程領(lǐng)域中種新型的智能控制系統(tǒng)，具有重要的理論意義與廣泛的應(yīng)用前景。國(guó)際研究新動(dòng)向之五進(jìn)一步研究基于免疫系統(tǒng)機(jī)理的分布式自治系統(tǒng)。分布式免疫自治系統(tǒng)在智能計(jì)算、系統(tǒng)科學(xué)和經(jīng)濟(jì)領(lǐng)域?qū)?huì)有廣闊的應(yīng)用前景。國(guó)際研究新動(dòng)向之六發(fā)展基于DNA編碼的人工免疫系統(tǒng)以及基于DNA計(jì)算的免疫算法。嘗試將DNA計(jì)算模型引入人工免疫系統(tǒng)中，研究一種基于DNA計(jì)算與AIS相結(jié)合的，有較強(qiáng)抗干擾能力和穩(wěn)定性能的智能系統(tǒng)國(guó)際研究新動(dòng)向之七近年來有學(xué)者已開始研究B細(xì)胞—抗體網(wǎng)絡(luò)的振蕩、混濁和穩(wěn)態(tài)等非線性特性，不過其工作才剛剛開始。人們應(yīng)進(jìn)一步