工程優(yōu)化設(shè)計(jì)復(fù)習(xí)

復(fù)習(xí)共七十九頁機(jī)械(jīxiè)優(yōu)化設(shè)計(jì)的定義

：

機(jī)械優(yōu)化設(shè)計(jì)就是把機(jī)械設(shè)計(jì)與優(yōu)化設(shè)計(jì)理論及方法相結(jié)合，借助電子計(jì)算機(jī)，尋找實(shí)現(xiàn)預(yù)期(yùqī)目標(biāo)的最優(yōu)設(shè)計(jì)方案和最佳設(shè)計(jì)參數(shù)。

第一章機(jī)械優(yōu)化設(shè)計(jì)的基本概念和理論共七十九頁一、設(shè)計(jì)(shèjì)變量第一章機(jī)械優(yōu)化設(shè)計(jì)(shèjì)的基本概念和理論（續(xù)）在優(yōu)化設(shè)計(jì)過程中，要選擇的設(shè)計(jì)參數(shù)。設(shè)計(jì)變量必須是獨(dú)立變量，即：在一個(gè)優(yōu)化設(shè)計(jì)問題中，任意兩個(gè)設(shè)計(jì)變量之間沒有函數(shù)關(guān)系。在一個(gè)優(yōu)化設(shè)計(jì)問題中，所有可能的設(shè)計(jì)方案構(gòu)成了一個(gè)向量集合。這個(gè)向量集合是一個(gè)向量空間，并且是一個(gè)歐氏空間。一個(gè)優(yōu)化設(shè)計(jì)問題中，設(shè)計(jì)變量的個(gè)數(shù)，就是它的設(shè)計(jì)空間的維數(shù)。二、設(shè)計(jì)空間共七十九頁第一章機(jī)械(jīxiè)優(yōu)化設(shè)計(jì)的基本概念和理論（續(xù)）優(yōu)化設(shè)計(jì)中要優(yōu)化的某個(gè)(mǒuɡè)或某幾個(gè)設(shè)計(jì)指標(biāo)，這些指標(biāo)是設(shè)計(jì)變量的函數(shù)，稱為目標(biāo)函數(shù)。三、目標(biāo)函數(shù)優(yōu)化設(shè)計(jì)中設(shè)計(jì)變量必須滿足的條件，這些條件是設(shè)計(jì)變量的函數(shù)。四、設(shè)計(jì)約束共七十九頁性能約束

由結(jié)構(gòu)(jiégòu)的某種性能或設(shè)計(jì)要求，推導(dǎo)出來的約束條件。約束條件的分類(fēnlèi)第一章機(jī)械優(yōu)化設(shè)計(jì)的基本概念和理論（續(xù)）根據(jù)約束的性質(zhì)分邊界約束

直接限定設(shè)計(jì)變量取值范圍的約束條件，即共七十九頁一個(gè)n維的優(yōu)化設(shè)計(jì)問題中，等式約束(yuēshù)的個(gè)數(shù)必須少于n。等式(děngshì)約束

根據(jù)約束條件的形式分不等式約束第一章機(jī)械優(yōu)化設(shè)計(jì)的基本概念和理論（續(xù)）顯式約束隱式約束共七十九頁第一章機(jī)械優(yōu)化設(shè)計(jì)(shèjì)的基本概念和理論（續(xù)）五、可行(kěxíng)域在設(shè)計(jì)空間中，滿足所有的約束條件所構(gòu)成的空間。六、優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型1、優(yōu)化設(shè)計(jì)的數(shù)學(xué)模型共七十九頁的

X*、f(X*)。第一章機(jī)械(jīxiè)優(yōu)化設(shè)計(jì)的基本概念和理論（續(xù)）2、約束(yuēshù)優(yōu)化設(shè)計(jì)的最優(yōu)解約束優(yōu)化設(shè)計(jì)的最優(yōu)解為使：共七十九頁第二章優(yōu)化設(shè)計(jì)(shèjì)的數(shù)學(xué)基礎(chǔ)一、目標(biāo)函數(shù)(hánshù)的基本性質(zhì)1、函數(shù)的等值面（線）具有相同目標(biāo)函數(shù)值的點(diǎn)的集合形成一個(gè)曲面或曲線，稱為目標(biāo)函數(shù)的等值面或等值線。它是用來描述研究函數(shù)的整體性質(zhì)的。共七十九頁用Matlab可畫出該函數(shù)(hánshù)的等直線。

共七十九頁第二章優(yōu)化設(shè)計(jì)(shèjì)的數(shù)學(xué)基礎(chǔ)一、目標(biāo)(mùbiāo)函數(shù)的基本性質(zhì)X1點(diǎn)的最速下降方向?yàn)榫植啃再|(zhì)2、函數(shù)的最速下降方向—梯度方向梯度向量與過點(diǎn)X(0)的等值線的切線方向垂直（正交）共七十九頁第二章優(yōu)化設(shè)計(jì)的數(shù)學(xué)(shùxué)基礎(chǔ)（續(xù)）二、函數(shù)(hánshù)的近似表達(dá)式

H(X(k))

為Hessian

矩陣共七十九頁函數(shù)(hánshù)的凸性表現(xiàn)為單峰性。oxf(x)abx*三、函數(shù)(hánshù)的凸性第二章優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)（續(xù)）凸函數(shù)則f（X）為D上的凸函數(shù)，否則為凹函數(shù)。如果Hessian矩陣正定，為凸函數(shù)；共七十九頁（一）、無約束優(yōu)化問題(wèntí)的極值條件1.F(x)在處取得極值，其必要條件是:

即在極值點(diǎn)處函數(shù)(hánshù)的梯度為n維零向量。四、優(yōu)化問題的極值條件第二章優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)（續(xù)）共七十九頁海森（Hessian）矩陣正定，即各階主子式均大于零，則X*為極小點(diǎn)。海森（Hessian）矩陣負(fù)定，則X*為極大點(diǎn)。2.在X*處取得極值(jízhí)充分條件共七十九頁1、約束優(yōu)化設(shè)計(jì)的最優(yōu)點(diǎn)(yōudiǎn)在可行域D內(nèi)最優(yōu)點(diǎn)是一個(gè)內(nèi)點(diǎn)，其最優(yōu)解條件與無約束優(yōu)化設(shè)計(jì)的最優(yōu)解條件相同；二、約束(yuēshù)優(yōu)化問題的極值條件共七十九頁

目標(biāo)函數(shù)(hánshù)等值線是以點(diǎn)（2，0）為圓心的一組同心圓。如不考慮約束，本例的無約束最優(yōu)解是：，約束方程所圍成的可行(kěxíng)域是D。共七十九頁2、約束優(yōu)化設(shè)計(jì)的最優(yōu)點(diǎn)在可行(kěxíng)域D的邊界上設(shè)X

(k)點(diǎn)有適時(shí)約束*庫恩—塔克條件(tiáojiàn)（K-T條件(tiáojiàn)）：共七十九頁

K-T條件是多元函數(shù)取得約束極值的必要條件,以用來作為約束極值的判斷條件，又可以(kěyǐ)來直接求解較簡單的約束優(yōu)化問題。

對(duì)于目標(biāo)函數(shù)和約束函數(shù)都是凸函數(shù)的情況，符合K-T條件的點(diǎn)一定是全局(quánjú)最優(yōu)點(diǎn)。這種情況K-T條件即為多元函數(shù)取得約束極值的充分必要條件。共七十九頁第三章一維搜索(sōusuǒ)的最優(yōu)化方法一、黃金分割(huángjīnfēngē)法1、在尋找一個(gè)區(qū)間[Xa,Xb]，使函數(shù)f(X)在該區(qū)間的極小點(diǎn)X*∈[Xa,Xb]

2、用黃金分割法在區(qū)間[Xa,Xb]中尋找X*。共七十九頁第三章一維搜索(sōusuǒ)的最優(yōu)化方法（續(xù)）f(X1)>f(X2)，消去[Xa，X1]，保留(bǎoliú)[X1，Xb][Xa，X1，X2，Xb]如何消去子區(qū)間？f(X1)<f(X2)，消去[X2，Xb]，保留[Xa，X2]收斂準(zhǔn)則：時(shí)，終止迭代，于是所求最優(yōu)點(diǎn)共七十九頁確定最優(yōu)解所在(suǒzài)區(qū)間的進(jìn)退法基本思想：按照一定的規(guī)則試算若干個(gè)點(diǎn)，比較(bǐjiào)其函數(shù)值的大小，直至找到函數(shù)值按“高-低-高”變化的單峰區(qū)間。一維搜索的插值類方法（間接法）第三章一維搜索的最優(yōu)化方法（續(xù)）牛頓法拋物線法共七十九頁基本思想:利用目標(biāo)函數(shù)在若干點(diǎn)的信息(xìnxī)，構(gòu)成一個(gè)與目標(biāo)函數(shù)值相近似的低次插值多項(xiàng)式p(x)，然后用多項(xiàng)式p(x)的最優(yōu)解作為函數(shù)的近似最優(yōu)解(即p’(x*p)=0的根)作為目標(biāo)函數(shù)f(x)的近似極值點(diǎn)。牛頓(niúdùn)法拋物線法收斂條件：最優(yōu)解：收斂條件與牛頓法相似共七十九頁迭代過程中，要充分利用函數(shù)(hánshù)的解析式，故稱為解析法（又稱間接法）。包括：梯度法、共軛梯度法、牛頓(niúdùn)法和變尺度法在迭代過程中只需計(jì)算函數(shù)值，故稱直接法。包括：坐標(biāo)輪換法、單純形法和鮑威爾法。第四章無約束最優(yōu)化方法共七十九頁一.梯度(tīdù)法（最速下降法）1.基本(jīběn)思想：2.搜索方向：梯度方向是函數(shù)值變化率最大的方向，沿著梯度方向，函數(shù)值上升最快，負(fù)梯度方向是函數(shù)值下降最快的方向，因此，在求極小值考慮搜索方向時(shí)，用負(fù)梯度方向作為一維搜索的方向，即:第四章無約束最優(yōu)化方法共七十九頁一.梯度(tīdù)法（續(xù)）3.迭代(diédài)公式或：是步長，每次迭代保證最優(yōu)值為：共七十九頁4、梯度(tīdù)法的搜索路線f(X)=

ckf(X)=ck+1ss(k)和s(k+1)正交一、梯度(tīdù)法（續(xù)）共七十九頁一、梯度(tīdù)法（續(xù)）收斂(shōuliǎn)條件：最優(yōu)解：共七十九頁二、共軛梯度(tīdù)法（旋轉(zhuǎn)梯度(tīdù)法）(1).基本(jīběn)思想對(duì)梯度法作一個(gè)修正，將搜索方向由負(fù)梯度方向旋轉(zhuǎn)一個(gè)角度，使相鄰的兩次搜索方向由正交變?yōu)楣曹?，成為二次收斂。?k)S(k)第四章無約束最優(yōu)化方法（續(xù)）共七十九頁(2).共軛系數(shù)(xìshù)二、共軛梯度(tīdù)法（續(xù)）共七十九頁二、共軛梯度(tīdù)法（續(xù)）收斂(shōuliǎn)條件最優(yōu)解：共七十九頁三、牛頓(niúdùn)法（二階梯度法）1.基本(jīběn)思想將f(x)在x(k)點(diǎn)作泰勒展開，取二次函數(shù)式Φ(x)作為近似函數(shù),以Φ(x)的極小值點(diǎn)作為f(x)的近似極小值點(diǎn)。第四章無約束最優(yōu)化方法（續(xù)）共七十九頁三、牛頓(niúdùn)法（續(xù)）2、迭代(diédài)公式收斂條件最優(yōu)解：共七十九頁§4-2牛頓(niúdùn)法牛頓法的迭代公式阻尼牛頓法的迭代公式牛頓方向共七十九頁1、變尺度(chǐdù)的定義每確定一次搜索方向，調(diào)整一次模（尺度）的大小(dàxiǎo)，稱為變尺度。2、基本思想發(fā)揚(yáng)梯度法和牛頓法各自的優(yōu)點(diǎn)，避免兩者各自的缺點(diǎn)，將兩者結(jié)合起來，形成變尺度法。四、變尺度法第四章無約束最優(yōu)化方法（續(xù)）共七十九頁四、變尺度(chǐdù)法(續(xù)）3、迭代(diédài)公式：當(dāng)——梯度法?！枘崤ｎD法4、基本思路：共七十九頁5、構(gòu)造變尺度(chǐdù)矩陣H(k)的遞推公式修正(xiūzhèng)矩陣

四、變尺度法(續(xù)）共七十九頁6、收斂(shōuliǎn)條件7、最優(yōu)解：四、變尺度(chǐdù)法(續(xù)）共七十九頁1、基本(jīběn)思想它是以共軛方向?yàn)榛A(chǔ)的收斂速度較快的直接搜索法。若沿連接相鄰兩輪搜索末端的向量(xiàngliàng)S方向搜索，收斂速度加快。

目的：以共軛方向打破振蕩，加速收斂。二、鮑威爾法（Powell法）第四章無約束優(yōu)化方法——直接法共七十九頁共七十九頁2、迭代(diédài)步驟二、鮑威爾法（續(xù)）共七十九頁構(gòu)建(ɡòujiàn)共軛方向進(jìn)行(jìnxíng)一維搜索二、鮑威爾法（續(xù)）3、迭代公式共七十九頁4、收斂(shōuliǎn)條件5、最優(yōu)解二、鮑威爾法（續(xù)）共七十九頁如由約束條件所限定的可行域是凸集，目標(biāo)函數(shù)是凸函數(shù)，其約束最優(yōu)解就是全域最優(yōu)解。否則，將由于所選擇(xuǎnzé)的初始點(diǎn)的不同，而探索到不同的局部最優(yōu)解上。約束問題(wèntí)目標(biāo)函數(shù)的最小值是滿足約束條件下的最小值，即是由約束條件所限定的可行域內(nèi)的最小值?？尚杏蚓褪羌s束函數(shù)的集合第五章約束優(yōu)化方法基本概念共七十九頁3、約束(yuēshù)問題的數(shù)學(xué)模型為約束條件分為(fēnwéi)兩類：等式約束和不等式約束將約束優(yōu)化問題轉(zhuǎn)換成無約束優(yōu)化問題求解。2、基本思想共七十九頁4、約束優(yōu)化問題(wèntí)分為:直接法、間接法。（1）直接(zhíjiē)法

直接法包括：可行方向法、線性逼近法、復(fù)合形法、隨機(jī)試驗(yàn)法、隨機(jī)方向法、梯度投影法、簡約梯度法和

廣義簡約梯度法。適用范圍：僅含不等式約束條件的優(yōu)化問題。

間接法包括：懲罰函數(shù)法、消元法、拉格朗日乘子法。適用范圍：對(duì)于不等式約束問題和等式約束問題均有效（2）間接法共七十九頁一、復(fù)合(fùhé)形法——直接法復(fù)合形法是單純形法在約束問題(wèntí)中的發(fā)展。在用于求解約束問題的復(fù)合形法中，復(fù)合形各頂點(diǎn)的選擇和替換，不僅要滿足目標(biāo)函數(shù)值的下降，還應(yīng)當(dāng)滿足所有的約束條件。第五章約束優(yōu)化方法共七十九頁1、基本原理一、復(fù)合(fùhé)形法（續(xù)）個(gè)頂點(diǎn)(dǐngdiǎn)所構(gòu)成所謂復(fù)合形是指在n維設(shè)計(jì)空間內(nèi)由的多面體（一般2n個(gè)頂點(diǎn)）。

復(fù)合形法就是在n維設(shè)計(jì)空間的可行域內(nèi)進(jìn)行：比較去掉滿足逐步調(diào)向最優(yōu)點(diǎn)。各頂點(diǎn)的目標(biāo)函數(shù)約束條件最壞點(diǎn)數(shù)學(xué)模型：共七十九頁產(chǎn)生k個(gè)隨機(jī)點(diǎn)，將可行點(diǎn)依次排在前面，如有q個(gè)頂點(diǎn)(dǐngdiǎn)X

(1)、X

(2)…X

(q)是可行點(diǎn)，其它k-q個(gè)為非可行點(diǎn)，則：（2）將第q+1點(diǎn)朝著點(diǎn)X

(s)的方向(fāngxiàng)移動(dòng)，新點(diǎn)X

(q+1)為：

X(q+1)=X(s)+0.5(X(q+1)—X(s))（1）計(jì)算q個(gè)點(diǎn)集的中心X

(s)；一、復(fù)合形法（續(xù)）2、迭代過程共七十九頁共七十九頁

函數(shù)(hánshù)值之差的均方根值小于誤差限：

函數(shù)(hánshù)值之差的平方和小于誤差限：

函數(shù)值差的絕對(duì)值之和小于誤差限：

最后復(fù)合形的好點(diǎn)X(l)及其函數(shù)值f(X(l))為最優(yōu)解。3、判斷終止條件一、復(fù)合形法（續(xù)）共七十九頁可行方向是求解大型不等式約束優(yōu)化問題的主要方法之一。基本思想：這種方法的基本原理是在可行域內(nèi)選擇一個(gè)初始點(diǎn)，當(dāng)確定了一個(gè)可行方向d和適當(dāng)?shù)牟介L后，按式:§7-1可行方向法進(jìn)行迭代計(jì)算,迭代點(diǎn)既不超出可行域,又使目標(biāo)函數(shù)(hánshù)的值有所下降。在不斷調(diào)整可行方向的過程中，使迭代點(diǎn)逐步逼近約束最優(yōu)點(diǎn)。共七十九頁2.產(chǎn)生(chǎnshēng)可行方向的條件可行方向是指沿該方向作微小移動(dòng)(yídòng)后，所得到的新點(diǎn)是可行點(diǎn)，且目標(biāo)函數(shù)值有所下降。

可行方向應(yīng)滿足兩個(gè)條件:(1)可行;(2)下降。1）可行條件

方向的可行條件是指沿該方向作微小移動(dòng)后，所得到的新點(diǎn)為可行點(diǎn)。共七十九頁2）下降(xiàjiàng)條件

方向的下降(xiàjiàng)條件是指沿該方向作微小移動(dòng)后，所得新點(diǎn)的目標(biāo)函數(shù)值是下降(xiàjiàng)的。

共七十九頁最優(yōu)步長最大步長共七十九頁收斂(shōuliǎn)條件2）設(shè)計(jì)點(diǎn)xk滿足(mǎnzú)庫恩-塔克條件1）設(shè)計(jì)點(diǎn)xk及約束允差滿足共七十九頁1、基本思想通過構(gòu)造罰函數(shù)把約束問題轉(zhuǎn)化為一系列無約束最優(yōu)化問題，用無約束最優(yōu)化方法求解(qiújiě)，這類方法稱為序列無約束最小化方法。簡稱為SUMT法。二、懲罰(chéngfá)函數(shù)法SUMT法的目標(biāo)函數(shù)一般可寫成

罰函數(shù)(增廣目標(biāo)函數(shù)）

懲罰項(xiàng)罰因子在迭代過程中使收斂于同一最優(yōu)解。

和第五章約束優(yōu)化方法共七十九頁3、罰函數(shù)(hánshù)的分類罰函數(shù)(hánshù)內(nèi)點(diǎn)罰函數(shù)法（內(nèi)點(diǎn)法）外點(diǎn)罰函數(shù)法（外點(diǎn)法）混合罰函數(shù)法（混合法）第五章約束優(yōu)化方法共七十九頁懲罰函數(shù)(hánshù)構(gòu)造的形式為：或：4、內(nèi)點(diǎn)法罰函數(shù)(hánshù)的構(gòu)造將新目標(biāo)函數(shù)定義于可行域內(nèi)，迭代過程均在可行域內(nèi)進(jìn)行，逐步逼近最優(yōu)點(diǎn)。內(nèi)點(diǎn)法只能用來求解具有不等式約束的優(yōu)化問題。適用條件：當(dāng)?shù)c(diǎn)接近邊界上時(shí)，使迭代過程無法超越邊界，故內(nèi)點(diǎn)法也叫障礙函數(shù)法或稱為圍墻法。共七十九頁當(dāng)懲罰因子r(k)=0時(shí)可得到(dédào)原問題的最優(yōu)解?！獞?yīng)用(yìngyòng)求導(dǎo)數(shù)的解析法——適用于直接法共七十九頁初始點(diǎn)應(yīng)選擇一個(gè)(yīɡè)離約束邊界較遠(yuǎn)的可行點(diǎn)。2）選取適當(dāng)?shù)牧P因子初值r0，降低(jiàngdī)系數(shù)c（0<c<1)，計(jì)算精度。1）在可行域內(nèi)選一個(gè)初始點(diǎn)內(nèi)點(diǎn)X0懲罰函數(shù)法（續(xù)）5、內(nèi)點(diǎn)法的迭代步驟一般經(jīng)常取r(0)=14)收斂條件3)構(gòu)造懲罰函數(shù)，調(diào)用無約束優(yōu)化方法，求minΦ(X,r(k))的極值點(diǎn)。共七十九頁三、外點(diǎn)法外點(diǎn)法是從可行域的外部構(gòu)造一個(gè)點(diǎn)序列去逼近(bījìn)原約束問題的最優(yōu)解。外點(diǎn)法可以用來求解(qiújiě)含不等式和等式約束的優(yōu)化問題。外點(diǎn)法懲罰函數(shù)的構(gòu)造：(1)、共七十九頁即：(2)、對(duì)于(duìyú)

懲罰函數(shù)(hánshù)的形式取為共七十九頁共七十九頁混合罰函數(shù)法可處理等式(děngshì)和不等式(děngshì)約束的優(yōu)化