數(shù)學(xué)模型及基本概念.ppt

1、第二章 優(yōu)化設(shè)計的數(shù)學(xué)模型和基本概念,2.1 優(yōu)化設(shè)計的數(shù)學(xué)模型 2.2 優(yōu)化設(shè)計的三大要素 2.3 優(yōu)化設(shè)計的分類 2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ) 2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件 2.6 優(yōu)化設(shè)計問題的數(shù)值迭代法及其收斂條件,2.1 優(yōu)化設(shè)計的數(shù)學(xué)模型,一. 機(jī)械優(yōu)化設(shè)計方法解決實(shí)際問題的步驟 1. 分析實(shí)際問題，建立優(yōu)化設(shè)計的數(shù)學(xué)模型；,分析： 設(shè)計的要求（目標(biāo)、準(zhǔn)則）； 設(shè)計的限制（約束）條件； 設(shè)計的參數(shù)，確定設(shè)計變量。,建立：機(jī)械優(yōu)化設(shè)計方法相應(yīng)的數(shù)學(xué)模型。,2. 分析數(shù)學(xué)模型的類型，選擇合適的求解方法（優(yōu)化算法）。,3. 求數(shù)學(xué)模型的最優(yōu)解，并對計算的結(jié)果進(jìn)行評價分析, 最

2、終確定是否選用此次計算的解。,2.1 優(yōu)化設(shè)計的數(shù)學(xué)模型,舉例1：圓形等截面銷軸的優(yōu)化設(shè)計的數(shù)學(xué)模型 已知：軸的一端作用載荷 P=1000N，扭矩 M=100Nm；軸長不得小于8cm；材料的許用彎曲應(yīng)力 w=120MPa，許用扭剪應(yīng)力 = 80MPa，許用撓度 f = 0.01cm；密度 = 7.8t /m，彈性模量E=2105MPa。,分析：設(shè)計目標(biāo)是軸的質(zhì)量最輕 Q =1 /4 d2 l min. ；,要求：設(shè)計銷軸，在滿足上述條件的同時，軸的質(zhì)量應(yīng)為最輕。,設(shè)計限制條件有5個： 彎曲強(qiáng)度：max w 扭轉(zhuǎn)強(qiáng)度： 剛度： f f 結(jié)構(gòu)尺寸：l 8, d 0,設(shè)計參數(shù)中的未定變量：d、l,2

3、.1 優(yōu)化設(shè)計的數(shù)學(xué)模型,具體化：目標(biāo)函數(shù) Q = 1 /4 d2 l min. 約束函數(shù) max = Pl / ( 0.1d3 )w = M / ( 0.2d3 ) f = Pl3 / ( 3EJ ) f l 8 d 0,代入數(shù)據(jù)整理得數(shù)學(xué)模型： 設(shè)：X =x1,x2 T = d ,l T min. f(x)= x12x2 XR2 s.t. g1(x)= 8.33 x2 - x13 0 g2(x)= 6.25 - x13 0 g3(x)= 0.34 x23 - x14 0 g4(x)= 8 - x2 0 g5(x)= - x1 0,二.舉例1（續(xù)）,2.1 優(yōu)化設(shè)計的數(shù)學(xué)模型,舉例2：包裝箱

4、尺寸參數(shù)設(shè)計 已知：一個體積為5m3的薄板包裝箱，其中一邊長度不小于4m。,分析： 傳統(tǒng)設(shè)計方法：首先固定包裝箱一邊長度 a=4m, 滿足包裝箱體積為5m3的設(shè)計要求，則有很多設(shè)計方案。,要求：使薄板耗材最少，確定包裝箱的尺寸參數(shù)：長a、寬b和高h(yuǎn) 。,優(yōu)化設(shè)計方法：在滿足包裝箱的體積abh=5，長度a4,寬度b0 和高度h0的限制條件下，確定設(shè)計參數(shù)a、b、h的值，使包裝箱的表面積s達(dá)到最小。,選擇合適的優(yōu)化方法對該優(yōu)化設(shè)計 問題進(jìn)行求解，得到的優(yōu)化結(jié)果是：,2.1 優(yōu)化設(shè)計的數(shù)學(xué)模型,機(jī)械優(yōu)化設(shè)計數(shù)學(xué)模型的一般形式： 設(shè) X =x1,x2 ,xnT min. f(x) = f(x1, x2

5、 ,xn ) XRn s.t. gu(x) 0 u = 1,2,m hv(x) = 0 v = 1,2, p n, 設(shè)計變量 目標(biāo)函數(shù) 約束函數(shù),（性能約束）, 約束函數(shù)（性能約束） 約束函數(shù)（性能約束） 約束函數(shù)（幾何約束） 約束函數(shù)（幾何約束）,（不等式約束） （等式約束）,屬于2維歐氏空間,根據(jù)例子中的數(shù)學(xué)模型： 設(shè)： X =x1,x2 T = d ,l T min. f(x)= x12x2 XR2 s.t. g1(x)= 8.33 x2 - x13 0 g2(x)= 6.25 - x13 0 g3(x)= 0.34 x23 - x14 0 g4(x)= 8 - x2 0 g5(x)=

6、- x1 0,三. 優(yōu)化設(shè)計的數(shù)學(xué)模型,2.2 優(yōu)化設(shè)計的三大要素,一.設(shè)計變量：,設(shè)計變量：在優(yōu)化設(shè)計過程中是變化的，需要優(yōu)選確定的量。 設(shè)計參數(shù)：在優(yōu)化設(shè)計過程中保持不變或預(yù)先確定數(shù)值。,可以是幾何參數(shù)：例，尺寸、形狀、位置 運(yùn)動學(xué)參數(shù)：例，位移、速度、加速度 動力學(xué)參數(shù)：例，力、力矩、應(yīng)力 其它物理量：例，質(zhì)量、轉(zhuǎn)動慣量、頻率、撓度 非物理量： 例，效率、壽命、成本,設(shè)計變量：優(yōu)化設(shè)計問題有 n 個設(shè)計變量 x1,x2 ,xn， 用 xi (i = 1,2,n)表示，是設(shè)計向量 X 的 n個分量。 設(shè)計向量：用 X =x1, x2 , ,x nT 表示， 是定義在 n 維歐氏空間中的一個

7、向量。,2.2 優(yōu)化設(shè)計的三大要素,設(shè)計點(diǎn): X(k)（x1(k), x2 (k), ,x n(k)）： 是設(shè)計向量X(k)的端點(diǎn)，代表設(shè)計空間中的一個點(diǎn)，也代表第 k 個設(shè)計方案。可能是可行方案、也可能不是可行方案。,設(shè)計空間 Rn ： 以x1, x2 , ,xn 為坐標(biāo)軸，構(gòu)成 n 維歐氏實(shí)空間Rn。它包含了所有可能的設(shè)計點(diǎn)，即所有設(shè)計方案。,例：右圖三維空間中 第1設(shè)計點(diǎn)：X(1) = x1(1),x2(1),x3(1)T 第2設(shè)計點(diǎn)：X(2) = x1(2),x2(2),x3(2)T 其中：X(2) = X(1) +X(1) 增量：X(1)=x1(1),x2(1),x3(1)T 即 x

8、1(2) = x1(1) + x1(1) x2(2) = x2(1) + x2(1) x3(2) = x3(1) + x3(1),一.設(shè)計變量（續(xù)1）,2.2 優(yōu)化設(shè)計的三大要素,設(shè)計變量的選取原則: 盡量減少設(shè)計變量的個數(shù)，就是說盡可能將那些不很活躍的參數(shù)，根據(jù)過去設(shè)計經(jīng)驗(yàn)或者考慮工藝、結(jié)構(gòu)布置等方面的因素，可以預(yù)先取定，作為設(shè)計參數(shù)來處理。 將設(shè)計指標(biāo)影響較大的設(shè)計參數(shù)作為設(shè)計變量來處理。,一.設(shè)計變量（續(xù)2）,設(shè)計變量的向量形式:,=,=,xi是n維向量X的第i個分量，T是轉(zhuǎn)置符，即表示把列向量轉(zhuǎn)置為行向量。,2.2 優(yōu)化設(shè)計的三大要素,設(shè)計約束：設(shè)計變量值(設(shè)計點(diǎn))的選擇不僅要使目標(biāo)函

9、數(shù)達(dá)到最優(yōu)值， 同時還會受一定的條件限制，這些制約條件稱設(shè)計約束。,約束函數(shù)：設(shè)計約束是設(shè)計變量的函數(shù)，稱為約束函數(shù)。,不等式約束函數(shù)： gu(x) 0 u = 1,2,m 等式約束數(shù)： hv(x) = 0 v = 1,2, pn,問題：是否每個設(shè)計約束中都必須包含 n個設(shè)計變量？m+p個約束呢？ 不等式約束能否表達(dá)成 gu(x) 0 ？ p 為什么必須小于 n ?,例：有三個不等式約束 g1(x) = - x1 0 g2(x) = - x2 0 g3(x) = x12 + x22 - 1 0,再加一個等式約束 h(x) = x1- x2 = 0,D,二.約束函數(shù),2.2 優(yōu)化設(shè)計的三大要素,

10、約束（曲）面： 對于某一個不等式約束 gu(x) 0 中，滿足 gu(x) = 0的 x 點(diǎn)的集合構(gòu)成一個曲面，稱為約束（曲）面。,它將設(shè)計空間分成兩部分：滿足約束條件 gu(x) 0 的部分和不滿足約束條件 gu(x) 0 的部分。,設(shè)計可行域（簡稱為可行域） 對于一個優(yōu)化問題，所有不等式約束的約束面將組成一個復(fù)合的約束曲面，包圍了設(shè)計空間中滿足所有不等式約束的區(qū)域，稱為設(shè)計可行域 。,記作 D =,g u(x) 0 u = 1,2,m h v (x) = 0 v = 1,2, p,問題：等式約束與約束曲面是什么關(guān)系？,D,二. 約束函數(shù) （續(xù)1）,2.2 優(yōu)化設(shè)計的三大要素,可行設(shè)計點(diǎn)（內(nèi)

11、點(diǎn)）： 在可行域內(nèi)任意一點(diǎn)稱為可行設(shè)計點(diǎn)，代表一個可行方案。,極限設(shè)計點(diǎn)（邊界點(diǎn)）： 在約束面上的點(diǎn)稱為極限設(shè)計點(diǎn)。,若討論的設(shè)計點(diǎn) x(k)點(diǎn)使得 gu(x(k) ) = 0，則 gu(x(k)0 稱為 適時約束或起作用約束。,非可行設(shè)計點(diǎn)（外點(diǎn)）： 在可行域外的點(diǎn)稱為非可行設(shè)計點(diǎn)，代表不可采用的設(shè)計方案。,二. 約束函數(shù) （續(xù)2）,問題： 極限設(shè)計點(diǎn)是否代表可行設(shè)計方案？ 什么約束一定是適時約束？ 可行域是否一定封閉？,二維設(shè)計平面可行域中的內(nèi)點(diǎn)、外點(diǎn)和邊界點(diǎn),2.2 優(yōu)化設(shè)計的三大要素,等式約束的特殊性： 等式約束條件是對設(shè)計變量的一種特殊組合，從理論上講，有一個等式約束條件就存在一個從

12、最優(yōu)化設(shè)計中消去某個設(shè)計變量的機(jī)會，即降低最優(yōu)化設(shè)計問題維數(shù)的一次機(jī)會。 等式約束條件數(shù)p必須小于優(yōu)化設(shè)計問題的維數(shù)n，若np，則由n個等式約束函數(shù)方程限制了設(shè)計方案只能有唯一的解，沒有最優(yōu)化的余地。 可行域的邊界一般是等式約束，在二維設(shè)計空間中，等式約束表現(xiàn)為一條曲線，在三維設(shè)計空間中，等式約束一般表現(xiàn)為一張曲面。,二. 約束函數(shù) （續(xù)3）,2.2 優(yōu)化設(shè)計的三大要素,目標(biāo)函數(shù)： 優(yōu)化設(shè)計的過程是從可行設(shè)計解中，找出一組最優(yōu)解的過程。需要一個準(zhǔn)則來評價當(dāng)前設(shè)計點(diǎn)（解）的最優(yōu)性。 這個準(zhǔn)則包含各個設(shè)計變量，作為評價函數(shù)，一般稱為目標(biāo)函數(shù)，也稱為評價函數(shù)、準(zhǔn)則函數(shù)、價值函數(shù)。,多目標(biāo)函數(shù)： 由于

13、評價準(zhǔn)則的非唯一性，目標(biāo)函數(shù)可以是一個單目標(biāo)函數(shù)，也可以是多個稱為多目標(biāo)函數(shù)。,單目標(biāo)函數(shù)的表達(dá)式為：f(x) = f(x1, x2 , ,xn ) 多目標(biāo)函數(shù)的表達(dá)式為：f(x) = 1f1(x)+2f2(x)+qfq(x) =,其中： f1(x)，f2(x)， fq(x)代表 q 個分設(shè)計目標(biāo)； 1，2， ，q 代表 q 個加權(quán)系數(shù)。,三. 目標(biāo)函數(shù),2.2 優(yōu)化設(shè)計的三大要素,說明： f(x)必須是x的函數(shù)，應(yīng)隨設(shè)計點(diǎn)的變化f(x)的值上升、下降； f(x)應(yīng)該是實(shí)函數(shù)，是可計算的。但不一定通過數(shù)學(xué)公式，還可以用其它數(shù)值計算方法計算。 f(x)可以是有物理意義，有單位的，也可以沒有物理意

14、義。 例如，銷軸的質(zhì)量： Q =1/4d2l， 1/4是常數(shù)， 目標(biāo)函數(shù)可簡化為 f(x) = d2 l = x12x2,問題： f(x) 是否一定應(yīng)包含所有的設(shè)計變量 ？ f(x) 若是越大越好，則應(yīng)如何處理？ 分目標(biāo)函數(shù)f1(x)，f2(x)， fq(x)中，有些是越小越好， 有些是越大越好，則又應(yīng)如何處理？,三. 目標(biāo)函數(shù)(續(xù)）,2.2 優(yōu)化設(shè)計的三大要素,通常根據(jù)設(shè)計準(zhǔn)則建立： 在機(jī)構(gòu)優(yōu)化設(shè)計中，這種準(zhǔn)則可以是運(yùn)動學(xué)和動力學(xué)的性質(zhì)，如運(yùn)動誤差，主動力和約束反力的最大值，振動特性等 在零件和部件設(shè)計中，設(shè)計準(zhǔn)則可以用重量、體積、效率、可靠 性、承載能力表示 對于產(chǎn)品設(shè)計，可以將成本、價格

15、、壽命等作為所追求的目標(biāo)。 在一般情況下，這些設(shè)計指標(biāo)與設(shè)計變量之間都有明顯的的函數(shù)關(guān)系。,三. 目標(biāo)函數(shù)(續(xù)2）,2.3 優(yōu)化設(shè)計的分類,一. 按模型性質(zhì)分：,確定型優(yōu)化問題：靜態(tài)優(yōu)化問題（與時間無關(guān)或忽略時間因素） 動態(tài)優(yōu)化問題（隨時間變化，系統(tǒng)響應(yīng)變化） 不確定型優(yōu)化問題（隨機(jī)優(yōu)化問題）,二. 按設(shè)計變量性質(zhì)分,連續(xù)變量、 離散變量、 隨機(jī)變量,三. 按約束情況分,1. 按有無約束分： 無約束優(yōu)化問題 約束優(yōu)化問題,2. 按約束性質(zhì)分： 區(qū)域約束（幾何約束、邊界約束） 性能約束（功能約束、性態(tài)約束）,2.3 優(yōu)化設(shè)計的分類（續(xù)）,四. 按目標(biāo)函數(shù)和約束函數(shù)的特性分：,線性規(guī)劃問題 非線性

16、規(guī)劃問題 幾何規(guī)劃問題 二次規(guī)劃問題,五. 按目標(biāo)函數(shù)的個數(shù)分：,單目標(biāo)優(yōu)化問題 雙目標(biāo)優(yōu)化問題 多目標(biāo)優(yōu)化問題,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),一. 等值（線）面：,對于可計算的函數(shù) f(x)，給定一個設(shè)計點(diǎn) X(k)(x1(k),x2(k), ,xn (k)，f(x)總有一個定值c 與之對應(yīng)；而當(dāng)f(x)取定值 c 時，則有無限多個設(shè)計點(diǎn)X(i)(x1(i), x2(i), ,xn(i) ) （i=1,2, ）與之對應(yīng)，這些點(diǎn)集構(gòu)成一個曲面，稱為等值面。,當(dāng) c 取c1,c2, 等值時，就獲得一族曲面族，稱為等值面族。,當(dāng)f(x)是二維時，獲得一族等值線族； 當(dāng)f(x)是三維時，獲得一族等值面

17、族； 當(dāng)f(x)大于三維時，獲得一族超等值面族。,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),等值線的“心” （以二維為例）,一個“心”：是單峰函數(shù)的極（?。┲迭c(diǎn)，是全局極（?。┲迭c(diǎn)。 沒有“心”：例，線性函數(shù)的等值線是平行的，無“心”，認(rèn)為極值點(diǎn)在無窮遠(yuǎn)處。,多個“心”：不是單峰函數(shù)，每個極（?。┲迭c(diǎn)只是局部極（小）值點(diǎn)，必須通過比較各個極值點(diǎn)和“鞍點(diǎn)”（須正確判別）的值，才能確定極（?。┲迭c(diǎn)。,一. 等值（線）面：,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),無約束最優(yōu)解和約束最優(yōu)解,對于無約束最優(yōu)化問題，最優(yōu)解就是目標(biāo)函數(shù)的極值點(diǎn)，實(shí)際上就是目標(biāo)函數(shù)等值線的中心。 對于約束最優(yōu)化問題，最優(yōu)點(diǎn)往往是目標(biāo)函數(shù)等值超曲面與約

18、束超曲面的一個切點(diǎn)，而且可能在兩個以上約束超曲面的交集上,一. 等值（線）面：,局部最優(yōu)解和全局最優(yōu)解,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),等值線的形狀： 同心圓族、橢圓族，近似橢圓族；,等值線的疏密： 沿等值線密的方向，函數(shù)值變化快； 沿等值線疏的方向，函數(shù)值變化慢。 等值線的疏密定性反應(yīng)函數(shù)值變化率。,嚴(yán)重非線性函數(shù)病態(tài)函數(shù)的等值線族是嚴(yán)重偏心和扭曲、分布疏密嚴(yán)重不一的曲線族。,一. 等值（線）面：,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),等值線的分布規(guī)律與目標(biāo)函數(shù)變化規(guī)律之間的關(guān)系： 對于求目標(biāo)函數(shù)極小化問題來說，愈靠近極值點(diǎn)的等值線（面）所代表的目標(biāo)函數(shù)值愈小。 在極值點(diǎn)附近的等值線呈現(xiàn)橢圓形狀，其中心就

19、是極值點(diǎn)。,等值線舉例（二維優(yōu)化設(shè)計問題）：,一. 等值（線）面：,令目標(biāo)函數(shù)值等于一系列常數(shù)值：,則在設(shè)計平面上得到以點(diǎn)(2，0)為圓心，以 為半徑的一族同心圓,曲線族中某一條曲線上的各點(diǎn)都具有相同的目標(biāo)函數(shù)值。,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),二維優(yōu)化問題的幾何描述： 例：對二維優(yōu)化問題,一. 等值（線）面：,進(jìn)行幾何描述,約束線、可行域、目標(biāo)函數(shù)等值線、約束極值點(diǎn),設(shè) ， 是設(shè)計空間 中的任意兩個向量，則有： (1)xi=yi (i=1,2,n)時，稱x與y相等; (2)x與y的和、差定義： (3)向量與實(shí)數(shù) 的乘積定義為： (4)當(dāng) 時，稱x為零向量。,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),二. 向

20、量與矩陣：,向量：,(1)向量的模： (2)向量x與y之間的距離： (3)向量x與y的內(nèi)積： (4)非零向量x與y的之間的夾角： (5)在實(shí)空間 中，稱 為歐氏空間，記作 。,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),二. 向量與矩陣：,歐式空間：,(1).設(shè) 為 中的m個向量(mn)，若有不全為零 的m個數(shù) ，i=1,2,，m，使 成立，稱向量組 是線性相關(guān)的。 (2).若 中一組向量 線性相關(guān)， 中任一向量x都 可表示為 則稱 為 的一組基。,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),二. 向量與矩陣：,向量的線性相關(guān)與基：,設(shè) ， ，則有：,設(shè) ， ， 為實(shí)數(shù)，則有：,矩陣：,當(dāng)m=n時，A稱為n階方陣，aii ,

21、 i=1n,稱為方陣的主對角元素。 |稱為方陣的行列式，且有：,在n階方陣A中，當(dāng)主對角元素均為，其余各元素都為零，則稱為單位方陣E。,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),二. 向量與矩陣：,方陣：,對于n階方陣A,B，如果AB=E，則稱B為A的逆矩陣，記為 ，而且可推得：,當(dāng)n階方陣各元素aii = aji ，i,j=1n ,稱A為對稱方陣。,二次型：含有n個變量x1,x2,xn的二次齊次函數(shù),上式也可表達(dá)為：,對于任意的非零向量，恒有 ，則稱f (X) 為正二次型，A為正定矩陣。,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),二. 向量與矩陣：,二次型與正定矩陣：,函數(shù)的偏導(dǎo)數(shù)：,偏導(dǎo)數(shù)是指在某坐標(biāo)軸方向函數(shù)值的變

22、化率，連續(xù)可微的n維函數(shù) ，在點(diǎn) 的一階偏導(dǎo)數(shù)表示為： ， ，,方向?qū)?shù)： 二維問題中，f (x1,x2 ) 在 X(0) 點(diǎn)沿方向 s的方向?qū)?shù)為：,其中：,是 X(0)點(diǎn)的梯度。,S 為s方向的單位向量， 。,為 S 的方向角,方向?qū)?shù),為方向余弦。,為梯度,在方向 s 上的投影。,三. 梯度,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),梯度的性質(zhì)：, 梯度是 X(0)點(diǎn)處最大的方向?qū)?shù)； 梯度的方向是過點(diǎn)的等值線的法線方向； 梯度是X(0) 點(diǎn)處的局部性質(zhì)； 梯度指向函數(shù)變化率最大的方向； 正梯度方向是函數(shù)值最速上升的方向， 負(fù)梯度方向是函數(shù)值最速下降的方向。,對于 n 維問

23、題的梯度,三. 梯度,例2-1 求二元函數(shù) 在 處的梯度和梯度的模,解：由梯度的定義可得：,將 代入上式得到：,的模為：,梯度的單位向量為：,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),n 維函數(shù) f(x) 在 x(k) 點(diǎn)的臺勞展開式:,二階近似式：,其中：增量, X (k) =x1 (k) , x2 (k) , xn (k) T,梯度,Hesse 矩陣,四. Hesse 矩陣與正定,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),Hesse 矩陣的特性：是實(shí)對稱矩陣。,矩陣正定的充要條件：,主子式 det(ait)0,當(dāng)主子式 det(ait)0 時，矩陣半正定 det(ait)0時，矩陣負(fù)定 det(ait)0時，矩陣半負(fù)

24、定,Hesse 矩陣的正定性：,H(x*)正定， 是 x* 為全局極小值點(diǎn)的充分條件； H(x*)半正定, 是 x* 為局部極小值點(diǎn)的充分條件； H(x*)負(fù)定， 是 x* 為全局極大值點(diǎn)的充分條件； H(x*)半負(fù)定, 是 x* 為局部極大值點(diǎn)的充分條件。,正定的二次函數(shù)：曲面為橢圓拋物面； 等值線族為橢圓曲線族，橢圓中心為極小值點(diǎn)。,四. Hesse 矩陣與正定,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),凸集： 設(shè) D為歐氏空間Rn 中X的集合，即 DRn, XD，若D域內(nèi)任意兩個點(diǎn)x(1)，x(2)的連線上的各點(diǎn)都屬于 D域，則的集合 D稱為 Rn 內(nèi)的一個凸集。否則，為非凸集。,凸函數(shù)：,f(x)是

25、定義在 n 維歐氏空間中，凸集上的函數(shù)，同時x(1)D，x(2)D，0,1，當(dāng)下式成立時，,則稱f(x)為定義在凸集D上的凸函數(shù)。,f x(1) +(1-)x(2) f(x(1) +(1-) f( x(2) ),當(dāng)上式中的為時，f(x)是嚴(yán)格凸函數(shù)。,五. 函數(shù)的凸性,2.4 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),判別函數(shù)為凸函數(shù)的凸性條件：,按梯度判斷凸性：設(shè)f(x)是定義在凸集 D上具有連續(xù)一階導(dǎo)數(shù)的函數(shù)，則f(x)在D上為凸函數(shù)的充要條件是：對于任意的 x(1),x(2)D 都有 成立。,按二階偏導(dǎo)數(shù)判斷凸性：設(shè)f(x)是定義在凸集D上具有連續(xù)二階導(dǎo)數(shù)的函數(shù)，則f(x)在D上為凸函數(shù)的充要條件是：f(x)

26、的Hesse矩陣處處半正定。若Hesse矩陣處處正定，則f(x)為嚴(yán)格凸函數(shù)。,凸函數(shù)的基本性質(zhì)：,若f(x)是定義在凸集D上的嚴(yán)格凸函數(shù)，則f(x)在D上的一個極小點(diǎn)，也就是全局最小點(diǎn)。 凸函數(shù)的線性組合仍然為凸函數(shù)。 f1 (x) f2 (x) 設(shè)x(1), x(2)為凸函數(shù) f(x)上的兩個最小點(diǎn)，則其連線上的任意點(diǎn)也都是最小點(diǎn)。,五. 函數(shù)的凸性,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,一. 優(yōu)化設(shè)計最優(yōu)解,無約束優(yōu)化設(shè)計問題最優(yōu)解：,約束優(yōu)化設(shè)計問題最優(yōu)解：,不受約束條件限制，使目標(biāo)函數(shù)達(dá)到最小值的一組設(shè)計變量，即最優(yōu)點(diǎn) x*=x1*,x2*,x n* 和最優(yōu)值 f(x*)構(gòu)成無

27、約束問題最優(yōu)解。,滿足約束條件，使目標(biāo)函數(shù)達(dá)到最小值的一組設(shè)計變量， 即最優(yōu)點(diǎn) x*=x1*,x2*,x n* 和最優(yōu)值 f(x*)構(gòu)成約束問題最優(yōu)解。,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,二. 無約束問題的極值條件,必要條件：,充分條件：,在點(diǎn) 的一階偏導(dǎo)數(shù)為零（即梯度向量為零向量）,如果它的二階偏導(dǎo)數(shù)矩陣（即Hesse矩陣）是負(fù)定的，則為極大點(diǎn)；如果它的二階偏導(dǎo)數(shù)矩陣是正定的，則為極小點(diǎn)。,例2-2 求三維函數(shù)的極值點(diǎn),解：根據(jù)三維函數(shù)存在極值的必要條件，令梯度為零,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,二. 無約束問題的極值條件,聯(lián)解得到：,海賽矩陣行列式各階主子式,計算點(diǎn)

28、 處的Hesse矩陣,Hesse矩陣是正定的， 是極小點(diǎn)，對應(yīng)的目標(biāo)函數(shù)值,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,三. 有約束問題最優(yōu)點(diǎn)的幾種情況,2. 有適時約束 目標(biāo)函數(shù)是凸函數(shù),可行域是凸集，則目標(biāo)函數(shù)等值線與適時約束曲面的切點(diǎn)為最優(yōu)點(diǎn)，而且是全局最優(yōu)點(diǎn)。,1. 無適時約束 目標(biāo)函數(shù)是凸函數(shù)，可行域是凸集，則最優(yōu)點(diǎn)是內(nèi)點(diǎn)。相當(dāng)于無約束問題的最優(yōu)點(diǎn)。,x(k)為最優(yōu)點(diǎn)x*的條件： 必要條件： 充分條件： Hesse矩陣 H(x(k) 是正定矩陣,X*,f (x), x*,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,有適時約束 目標(biāo)函數(shù)是非凸函數(shù)（圖 a），或可行域是非凸集（圖 b）：

29、,則目標(biāo)函數(shù)等值線與適時約束曲面可能存在多個切點(diǎn)，是局部極值點(diǎn)，其中只有一個點(diǎn)是全局最優(yōu)點(diǎn)。,三. 有約束問題最優(yōu)點(diǎn)的幾種情況,p,Q,Q,p,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,四. K-T ( Kuhn-Tucker 庫恩-塔克) 條件 有適時約束時獲得最優(yōu)解的條件,1. 有一個適時約束時：,與x(k)點(diǎn)目標(biāo)函數(shù)的負(fù)梯度方向成銳角，即沿 S 方向目標(biāo)函數(shù)值下降； 與x(k)點(diǎn)約束函數(shù)的梯度方向成鈍角，即保證 S方向上各點(diǎn)在可行域內(nèi)。 此時，獲得最優(yōu)解 x(k) 為最優(yōu)點(diǎn) x*， f(x(k)為最優(yōu)值 f(x*)。,從數(shù)學(xué)上定義，當(dāng)從 x(k)點(diǎn)出發(fā)不存在一個 S 方向能同時滿足：

30、;，即 ， 則獲得最優(yōu)解：x(k)為最優(yōu)點(diǎn) x*，f(x(k)為最優(yōu)值 f(x*)。,從幾何上看，當(dāng)從 x (k)點(diǎn)出發(fā)不存在一個 S 方向能同時滿足：,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,相反，當(dāng)從x(k)點(diǎn)出發(fā)，存在一個S方向能同時滿足： 和 時，則x(k)不是最優(yōu)點(diǎn)。,從幾何上看，當(dāng)從x(k)點(diǎn)出發(fā)存在一個 S 方向能同時滿足： 與x(k)點(diǎn)目標(biāo)函數(shù)的負(fù)梯度方向成銳角，即沿 S 方向目標(biāo)函數(shù)值下降； 與x(k)點(diǎn)約束函數(shù)的梯度方向成鈍角，即保證 S方向上各點(diǎn)在可行域內(nèi)。 此時，x(k)不是最優(yōu)點(diǎn) x*。,四. K-T ( Kuhn-Tucker 庫恩-塔克) 條件 有適時約束時獲

31、得最優(yōu)解的條件,1. 有一個適時約束時：,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,2. 有二個適時約束時：,x(k)成為約束最優(yōu)點(diǎn) x* 的必要條件為:,。,幾何上 位于 和 所張的扇形子空間內(nèi)。,即不存在一個 S 方向能同時滿足：,四. K-T ( Kuhn-Tucker 庫恩-塔克) 條件 有適時約束時獲得最優(yōu)解的條件,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,相反，不符合以上條件：,幾何上 不位于 和 所張的扇形子空間內(nèi)。則 x(k) 點(diǎn)不是最優(yōu)點(diǎn)。,不能表達(dá)成 和 的線性組合。,即存在一個 S 方向能同時滿足：,四. K-T ( Kuhn-Tucker 庫恩-塔克) 條件 有適時

32、約束時獲得最優(yōu)解的條件,2. 有二個適時約束時：,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,3. K-T 條件（擴(kuò)展至 m 個適時約束）：,設(shè)某個設(shè)計點(diǎn) x(k)，其適時約束集為 ，,幾何上，x(k)成為約束最優(yōu)點(diǎn)（極小點(diǎn)）x*時，目標(biāo)函數(shù)的負(fù)梯度向量位于 m 適時約束梯度向量所張成的子空間內(nèi)。,且 為線性獨(dú)立，則 x(k)成為約束最優(yōu)點(diǎn)的必要條件是目標(biāo)函數(shù)的負(fù)梯度向量可表示為適時約束梯度向量的線性組合，即 。,其中， 。,四. K-T ( Kuhn-Tucker 庫恩-塔克) 條件 有適時約束時獲得最優(yōu)解的條件,2.5 優(yōu)化設(shè)計的最優(yōu)解及獲得最優(yōu)解的條件,K-T條件的作用： 判別邊界設(shè)計點(diǎn) x(k) 為最優(yōu)點(diǎn)的依據(jù)，見參考書（第三版）52頁例3-6、53頁例3-7（要求會判斷）； 作為約束優(yōu)化的收斂條件。,問題： K-T條件是否為充分必要條件？若是，說明理由；若不是，則說明什么情況下，可成為充要條件？ 有等式約束時，K-T條件是否還能適用？,四. K-T ( Kuhn-Tucker 庫恩-塔克) 條件 有適時約束時獲得最優(yōu)解的條件,2.6 優(yōu)化設(shè)計問題的數(shù)值迭代法及其收斂條件,一. 數(shù)值迭代法：,基本思想： 從設(shè)計點(diǎn) x(k)出發(fā)，根據(jù)函數(shù)在該點(diǎn)的某些（局部）性質(zhì)，確定本次搜索的方向 S(k) 和步長因子(k) ，從而達(dá)到一個新點(diǎn)