智能控制 課件 第七章-智能優(yōu)化算法概述

基于智能優(yōu)化算法的智能控制智能控制1

第七章

TheoreticalFoundationsofNeural

Networks基于智能優(yōu)化算法的智能控制智能控制2Ch77.1 智能優(yōu)化算法概述7.2 進(jìn)化類優(yōu)化算法7.3 群智能類優(yōu)化算法7.4 智能優(yōu)化算法在智能控制中的應(yīng)用基于智能優(yōu)化算法的智能控制智能控制3Ch77.1 智能優(yōu)化算法概述7.2 進(jìn)化類優(yōu)化算法7.3 群智能類優(yōu)化算法7.4 智能優(yōu)化算法在智能控制中的應(yīng)用1 優(yōu)化問(wèn)題在給定約束的前提下，求使目標(biāo)最優(yōu)的參數(shù)配置。x

=

argmin??

?? ?? , ?? ∈ ??參數(shù)：待優(yōu)化的變量 ??目標(biāo)：期望的目標(biāo) ????約束：參數(shù)需要滿足的條件

??

∈

??解：使目標(biāo)最優(yōu)的參數(shù)配

置 xf(x)=??4?3??3+2??2+??+

1x智能控制42 傳統(tǒng)優(yōu)化算法傳統(tǒng)方法將優(yōu)化問(wèn)題定義為數(shù)學(xué)問(wèn)題，通過(guò)尋找函數(shù)的極值來(lái)求解優(yōu)化問(wèn)題，求解思路一般為尋找函數(shù)梯度等于0的點(diǎn)f(x)=??4?3??3+2??2+??+

1f

′?? =4??3?9??2+4??+

1智能控制52 傳統(tǒng)優(yōu)化算法傳統(tǒng)方法將優(yōu)化問(wèn)題定義為數(shù)學(xué)問(wèn)題，通過(guò)尋找函數(shù)的極值來(lái)求解優(yōu)化問(wèn)題，求解思路一般為尋找函數(shù)梯度等于0的點(diǎn)。常用的傳統(tǒng)優(yōu)化算法有：梯度下降法：牛頓法：拉格朗日乘數(shù)法：KKT條件：??=???α

??′(x)??=??

???′(x)?

′′??

(x)無(wú)約束優(yōu)化智能控制6有約束優(yōu)化L(x,y,λ)=f(x,y)+λg(x,y)??(x,y,??,??)=f(x,y)

+??g(x,y)

+??h(x,

y)沿著梯度反方向走沿著梯度反方向走，并根據(jù)二階導(dǎo)計(jì)算步長(zhǎng)將約束合入目標(biāo)函數(shù)利用優(yōu)化問(wèn)題的對(duì)偶問(wèn)題2傳統(tǒng)優(yōu)化算法傳統(tǒng)優(yōu)化方法存在如下問(wèn)題：要求目標(biāo)函數(shù)連續(xù)可微，使其可應(yīng)用的范圍受限求解原理使其容易陷入局部最優(yōu)陷阱，而無(wú)法獲得全局最優(yōu)解運(yùn)算模式使其難以并行，限制了求解速度f(wàn)(x)=??4?3??3+2??2+??+

1智能控制73 智能優(yōu)化算法智能優(yōu)化算法是一類模仿自然界生物進(jìn)化、群體智能或人類思維過(guò)程并用于求解優(yōu)化問(wèn)題的元啟發(fā)類算法。生物進(jìn)化群體智能自然規(guī)律自然選擇螞蟻覓食冶金退火智能控制83 智能優(yōu)化算法智能優(yōu)化算法是一類模仿自然界生物進(jìn)化、群體智能或人類思維過(guò)程并用于求解優(yōu)化問(wèn)題的元啟發(fā)類算法。自然選擇智能控制9將解空間編碼成種群基因?qū)⒛繕?biāo)函數(shù)表征為環(huán)境適應(yīng)度將求解過(guò)程具象為交叉變異和自然選擇3 智能優(yōu)化算法智能優(yōu)化算法是一類模仿自然界生物進(jìn)化、群體智能或人類思維過(guò)程并用于求解優(yōu)化問(wèn)題的元啟發(fā)類算法。螞蟻覓食智能控制10將組合優(yōu)化問(wèn)題的解空間表征為螞蟻覓食路徑將目標(biāo)函數(shù)映射為路徑的信息素濃度將求解過(guò)程具象為螞蟻覓食行為3 智能優(yōu)化算法智能優(yōu)化算法是一類模仿自然界生物進(jìn)化、群體智能或人類思維過(guò)程并用于求解優(yōu)化問(wèn)題的元啟發(fā)類算法。模擬冶金過(guò)程中的退火過(guò)程，即通過(guò)逐步降低溫度，使物質(zhì)從高能態(tài)逐漸轉(zhuǎn)變?yōu)榈湍軕B(tài)，最終達(dá)到穩(wěn)定的晶體結(jié)構(gòu)通過(guò)隨機(jī)搜索，概率接受和溫度控制來(lái)進(jìn)行最優(yōu)解搜索冶金退火可逐步逼近全局最優(yōu)解智能控制114智能控制12智能優(yōu)化算法與經(jīng)典優(yōu)化算法經(jīng)典要求目標(biāo)函數(shù)連續(xù)可微，使其可應(yīng)用的范圍受限求解原理使其容易陷入局部最優(yōu)陷阱，而無(wú)法獲得全局最優(yōu)解運(yùn)算模式使其難以并行，限制了求解速度智能目標(biāo)表征表征相對(duì)寬松，可以適用于更廣泛的優(yōu)化問(wèn)題啟發(fā)式搜索方式，可以更好的平衡全局，不易陷入局部最優(yōu)可以種群為基礎(chǔ)，具