機(jī)械優(yōu)化設(shè)計(jì)第二章機(jī)械優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)

機(jī)械優(yōu)化設(shè)計(jì)太原科技大學(xué)張學(xué)良整理ppt第二章優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)梯度§2.1

目標(biāo)函數(shù)的近似表達(dá)設(shè)目標(biāo)函數(shù)f(X)是一階連續(xù)可微的，則它在某點(diǎn)X（k）處對(duì)xi(i=1,2,…,n)的一階偏導(dǎo)數(shù)的列向量（列矩陣）稱為f(X)在X（k）點(diǎn)處的梯度，記作梯度的模整理ppt海賽矩陣設(shè)目標(biāo)函數(shù)f(X)在某點(diǎn)X（k）處存在連續(xù)的一階、二階偏導(dǎo)數(shù)：則函數(shù)f(X)在X（k）點(diǎn)的n2個(gè)二階偏導(dǎo)數(shù)所構(gòu)成的n×n階方陣稱為函數(shù)f(X)在X（k）點(diǎn)的海賽矩陣。整理ppt若函數(shù)f(X)的一階偏導(dǎo)數(shù)在定義域內(nèi)處處連續(xù)可微，則海賽矩陣為對(duì)稱方陣。整理ppt目標(biāo)函數(shù)的近似表達(dá)——泰勒展開(kāi)一元函數(shù)f(x)的泰勒展開(kāi)：二元函數(shù)f(x1，x2)的泰勒展開(kāi)：整理pptn元函數(shù)f(X)的泰勒展開(kāi)：整理ppt可計(jì)算函數(shù)與等值面給定一組設(shè)計(jì)變量的值，就對(duì)應(yīng)一個(gè)確定的目標(biāo)函數(shù)值f(X)=C，具有這種性質(zhì)的函數(shù)叫可計(jì)算函數(shù)。反之，給定目標(biāo)函數(shù)f(X)的值C，即f(X)=C，那么將有無(wú)限多個(gè)設(shè)計(jì)點(diǎn)X使該式成立，這些設(shè)計(jì)點(diǎn)在n維設(shè)計(jì)空間中將組成一個(gè)點(diǎn)集，稱之為等值曲面（三維空間）或等值超曲面（n>3），通稱等值面。在二維平面中為等值線。若給定一系列目標(biāo)函數(shù)的值，將在設(shè)計(jì)空間得到一組等值面（線）族。目標(biāo)函數(shù)的等值線（面）整理ppt

f(X)=ax12+2bx1x2+cx22a>0c>0ac-b2>0

整理ppt一、最速下降方向——負(fù)梯度方向§2.2

最速下降方向和共軛方向函數(shù)的方向?qū)?shù)X0X0+X

x1

x2S整理pptn元函數(shù)的方向?qū)?shù):整理ppt整理ppt

與負(fù)梯度方向成銳角的方向?yàn)槟繕?biāo)函數(shù)值的下降方向，成鈍角的方向?yàn)槟繕?biāo)函數(shù)值的增加方向。目標(biāo)函數(shù)的梯度方向是目標(biāo)函數(shù)等值線（面）在同一點(diǎn)的法向矢量方向。

f(X(k))-f(X(k))X(k)t所以，目標(biāo)函數(shù)在某一點(diǎn)的最速下降方向?yàn)樨?fù)梯度方向整理ppt兩個(gè)向量的共軛設(shè)兩個(gè)非零向量S(0)、S(1)及對(duì)稱正定矩陣H，若滿足二、共軛方向則稱S(0)、S(1)關(guān)于H共軛，或稱S(0)與S(1)為共軛方向。若H為單位陣，即H=I，則S(0)與S(1)正交。一組向量的共軛設(shè)有一組非零向量S(0)、S(1)…S(n-1)及對(duì)稱正定矩陣H，若滿足則稱它們關(guān)于H共軛，或稱它們?yōu)橐唤M共軛方向。若H為單位陣，則稱它們相互正交。整理ppt凸集（見(jiàn)圖2M8）

一個(gè)點(diǎn)集（或區(qū)域），如果連接其中任意兩點(diǎn)的線段都全部包含在該點(diǎn)集內(nèi)，則稱該點(diǎn)集為凸集。否則，稱為非凸集。§2.3

凸集、凸函數(shù)與凸規(guī)劃凸函數(shù)（見(jiàn)圖2M10）

設(shè)函數(shù)f(X)定義域?yàn)橥辜疓，X(1)、X(2)為凸集G上的任意兩點(diǎn)，若函數(shù)f(X)在線段X(1)X(2)上的函數(shù)值總小于或等于用f(X(1))及f(X(2))作線性內(nèi)插所得的值，則稱函數(shù)f(X)為凸集G上的凸函數(shù)，即滿足整理ppt

的函數(shù)f(X)為凸函數(shù)。若同時(shí)去掉式中的等號(hào)，則稱函數(shù)f(X)為嚴(yán)格凸函數(shù)。凸規(guī)劃

對(duì)于約束優(yōu)化問(wèn)題

若函數(shù)f(X)、gj(X)均為凸函數(shù)，則稱此約束優(yōu)化問(wèn)題為凸規(guī)劃。整理ppt凸規(guī)劃的性質(zhì)

1）凸規(guī)劃的可行域?yàn)橥辜?）凸規(guī)劃的任何局部最優(yōu)解就是全局最優(yōu)解整理ppt§2.4

優(yōu)化問(wèn)題的幾何解釋X*X*整理pptX*X*整理pptX*X*h1=0h2=0整理ppt§2.5

優(yōu)化方法的簡(jiǎn)單分類按有無(wú)約束分類無(wú)約束優(yōu)化方法、約束優(yōu)化方法按目標(biāo)函數(shù)的維數(shù)分類一維優(yōu)化方法、多維優(yōu)化方法按目標(biāo)函數(shù)的數(shù)目分類

單目標(biāo)優(yōu)化方法、多目標(biāo)優(yōu)化方法按求優(yōu)途徑的不同分類

直接法、解析法（間接法）、實(shí)驗(yàn)法、圖解法整理ppt§2.6

迭代方法及其收斂準(zhǔn)則

無(wú)論是直接法還是解析法，求優(yōu)的過(guò)程都是采用數(shù)值迭代法，且迭代公式的形式一致。迭代方法

X(k+1)=X(k)+

(k)

S(k)

(k=0,1,2,…)兩個(gè)特性

1）下降性:f(X(k+1))<f(X(k))2）收斂性:當(dāng)k

∞時(shí)，X(k)

X*

f(X(0))>f(X(1))>…>f(X(k))>f(X(k+1))>…

f(X*)整理ppt

確定步長(zhǎng)

(k)的方法

1）定步長(zhǎng)法取

(k)=p(p為常數(shù))，檢驗(yàn)下列不等式f(X(k)+

(k)

S(k))<f(X(k))？

若成立，則繼續(xù)下一步迭代計(jì)算；否則，取

(k)=

p（0<

<1），再檢驗(yàn)不等式f(X(k)+

(k)

S(k))<f(X(k))？直至滿足為止。整理ppt

2）最優(yōu)步長(zhǎng)法

用一維尋優(yōu)方法確定

(k)：當(dāng)給定S(k)從X(k)

點(diǎn)出發(fā)搜索X(k+1)點(diǎn)時(shí)，為求得沿搜索方向S(k)上的最優(yōu)步長(zhǎng)

(k)，可以建立如下一維優(yōu)化數(shù)學(xué)模型，即這實(shí)質(zhì)上就是以

(k)為變量的一元函數(shù)求極值的問(wèn)題，稱為一維搜索或一維尋優(yōu)。整理ppt

解析法確定

(k)：整理ppt

搜索方向S(k)的討論

1）三種常用搜索方向負(fù)梯度方向：S(k)=-

f(X(k))

共軛方向：將n維優(yōu)化問(wèn)題轉(zhuǎn)化為每一個(gè)循環(huán)n次一維搜索，依次取n個(gè)相互共軛的方向?yàn)樗阉鞣较颉?/p>

隨機(jī)搜索方向：S(k)隨機(jī)產(chǎn)生，只要求沿S(k)方向所得X(k+1)點(diǎn)處函數(shù)值下降。

整理ppt

2）S(k)與-

f(X(k))和

f(X(k+1))的關(guān)系目標(biāo)函數(shù)下降：

f(X(k)+

(k)

S(k))-f(X(k))<0

f(X(k)+

(k)

S(k))-f(X(k))

(k)

T

f(X(k))S(k)

故

(k)

T

f(X(k))S(k)<0

-

T

f(X(k))S(k)>0整理ppt用一維優(yōu)化方法確定

(k)

時(shí)，必須滿足：

f

'(X(k)+

S(k))=0所以

T

f(X(k)+

S(k))S(k)=0即T

f(X(k+1))S(k)=0第k次迭代的搜索方向S(k)與目標(biāo)函數(shù)在本次迭代所得點(diǎn)X(k+1)處的梯度方向

f(X(k+1))正交。X(k)

X(k+1)

S(k)-f(X(k+1))整理ppt

3）共軛搜索方向的一個(gè)重要性質(zhì)n維正定二次函數(shù)的n次收斂性即對(duì)于n維正定二次函數(shù)，若相繼以一組相互共軛的向量S(0)、S(1)、…、S(n-1)為搜索方向，則不論從任何初始點(diǎn)出發(fā)，經(jīng)過(guò)n次一維搜索，就可以得到該正定二次函數(shù)的極小點(diǎn)。整理ppt

收斂性與收斂準(zhǔn)則

迭代算法應(yīng)具有收斂性，即產(chǎn)生的極小點(diǎn)序列或者其中某一點(diǎn)就是極小點(diǎn)，或者序列有一個(gè)極限，它是目標(biāo)函數(shù)的極小點(diǎn)。點(diǎn)距準(zhǔn)則：