《機械優(yōu)化設計》課件2011

1、緒 言優(yōu)化設計是1960年代初發(fā)展起來的一門新學科，它是以電子計算機為工具，使用最優(yōu)化理論尋求最優(yōu)設計方案的一種現(xiàn)代設計方法。最優(yōu)化理論是一個重要的數(shù)學分支，它所研究的問題是討論在眾多的方案中什么樣的方案最優(yōu)以及如何找出最優(yōu)方案。這類問題普遍存在于各個領域中。運籌學（Operations Research）用它研究生產(chǎn)、管理、商業(yè)、軍事、決策等領域中的問題。優(yōu)化設計（Optimal Design）用它處理工程設計領域中的設計問題。在機械設計領域，傳統(tǒng)的設計過程通常按下面步驟進行：1、在調(diào)查分析的基礎上，通過估算、經(jīng)驗類比或者實驗來選擇初始設計參數(shù)。2、對尺寸、強度、剛度、穩(wěn)定性等各項設計要求進

2、行計算和檢查。3、如果設計要求得不到全部滿足，設計人員將調(diào)整修改某些設計參數(shù)，然后轉(zhuǎn)第2步。如此反復，直到所有的設計要求都得到滿足為止。由此可見，傳統(tǒng)的機械設計過程本質(zhì)上是人工反復試湊的過程。用這種方法找到的設計方案，只是眾多可行方案中的一個，一般都有再改進的余地。使用優(yōu)化設計方法進行機械設計，即用電子計算機的優(yōu)化計算取代傳統(tǒng)設計的人工試湊，不僅能夠?qū)崿F(xiàn)設計計算的自動化，把設計人員從反復檢查、反復修改的繁瑣計算中解放出來，而且能夠獲得人工試湊難以得到的、眾多可行方案中最優(yōu)的方案。一個機械優(yōu)化設計問題包括兩方面內(nèi)容：1、把實際的設計問題化為數(shù)學規(guī)劃問題，即建立數(shù)學模型。建立數(shù)學模型時，需要應用專

3、業(yè)知識來確定設計的限制條件和追求的目標，以確立各設計變量之間的相互關系。2、求解這個數(shù)學規(guī)劃問題。根據(jù)數(shù)學模型的特點，應用優(yōu)化設計的理論，選擇適當?shù)膬?yōu)化算法，使用計算機求解。第1章 優(yōu)化設計的數(shù)學模型1.1 一個簡單的優(yōu)化設計問題(d-2t)l phd(a) 外部尺寸(b) 受力圖圖1.1 圓筒形容器示意圖t ld-2tdlt l例1.1 試設計一個用鋼板焊接而成的密封圓筒形容器（圖1.1）。要求其容積為 2 m3，能承受內(nèi)部 p = 3MPa的蒸汽壓力。受安裝空間限制，要求其外部直徑和高度分別為 1 m d 3 m 和 1 m h 3 m。正應力 所產(chǎn)生的內(nèi)力： 2tl (d-2t)l ph

4、d(a) 外部尺寸(b) 受力圖圖1.1 圓筒形容器示意圖t ld-2tdlt l蒸氣壓力 p 所產(chǎn)生的外力： (d-2t)l p 由此可得該容器的強度條件： 如果選用厚度t在 1mm 20mm 之間的 Q235 鋼板，那么其許用應力為 160 MPa，強度條件被整理為 3d - 326t 0 。因此該容器的全部設計要求為： (1.1)先選 t = 8 mm ，然后根據(jù) 3d - 326t 0 ，得 d 837 mm 。與直徑約束 d 1000 mm 相抵觸，于是修改設計。這次選 t = 13 mm ，得 d 1413 mm 。根據(jù)直徑條件選 d = 1100 mm ，并代入容積條件，獲得高度

5、 h = 2233.7 mm 。由于 2233.7 mm 在規(guī)定高度范圍之內(nèi)，所以就得到一個能滿足全部設計要求的方案：t = 13 mm，d = 1100.0 mm，h = 2233.7 mm使用這種方法還可以設計出另外的方案。式(1.1)中只有1個方程卻有3個未知量，因此存在無窮多個解，即存在無窮多個滿足設計要求的方案。如果根據(jù)容器耗費材料的多少來衡量設計方案的優(yōu)劣，那么需要把例1.1的問題表述為： (1.2)“min”是英文“minimize”的縮寫，它后面的函數(shù)稱為目標函數(shù)，意為使目標函數(shù)的值最小化?！皊.t.”是英文“subject to”的縮寫，意為“受約束于”。它后面的等式和不等式

6、是使目標函數(shù)最小化時的約束條件，分別稱為等式約束和不等式約束。1.2 數(shù)學模型的建立優(yōu)化設計的數(shù)學模型由設計目標和設計約束兩部分組成：設計目標：“min”及其后面的目標函數(shù)。設計約束：“s.t.”及其后面的等式和不等式。實際設計問題數(shù)學模型的抽象。確切：模型不能失真。 簡潔：不要太復雜。需要注意：適當確定設計變量，合理構造目標函數(shù)，正確列出約束條件1.2.1 適當確定設計變量機械設計方案參數(shù)：幾何量（結(jié)構尺寸、位置關系等）；物理量（材料的彈性模量、許用應力，零件的工作速度、加速度等）；工程參數(shù)（比如齒輪的模數(shù)和齒數(shù)、軸的撓度和自振頻率等等）。設計變量：其變動會直接或間接地影響目標函數(shù)值大小的那

7、些設計參數(shù)。為了降低問題求解的難度，設計者應盡量減少設計變量的數(shù)目。1、例：圓筒形容器：儲油罐鋼板厚度t可以不作為設計變量出現(xiàn)在數(shù)學模型中（盡管設計說明書需要這個參數(shù)）。這時若用d和h表示容器內(nèi)壁的尺寸，其變化范圍為1 m3 m，則其數(shù)學模型為（求解結(jié)果： d = h = 1365.6mm）。2、如果根據(jù)需要和經(jīng)驗事先選定一種材料。那么與材料相關的彈性模量、許用應力等參數(shù)都可取為常數(shù)，使數(shù)學模型變得簡潔。3、離散變量（齒輪的齒數(shù)、模數(shù)、彈簧鋼絲直徑、板材厚度等）先處理成連續(xù)變量，降低求解難度。求得結(jié)果后，再讓它們?nèi)〗Y(jié)果附近的離散值。在一定程度上損害了數(shù)學模型的確切性，但很多時候可近似使用。例如

8、式(1.2)中的優(yōu)化結(jié)果為： t = 9.2 mm，d =1000.0 mm，h = 2661.3 mm 9.2 mm不屬于國家標準的鋼板厚度系列。t 應當取 9.2 mm 附近的系列值?，F(xiàn)取 t = 10mm，把式(1.2)中關于 t 的不等式約束替換為等式約束，問題成為優(yōu)化結(jié)果： t = 10.0 mm，d = 1086.7 mm，h = 2258.1 mm 。1.2.2 合理構造目標函數(shù)目標函數(shù)：設計者度量設計方案優(yōu)劣程度的量化指標。1、許多機械設計問題，都以質(zhì)量最?。ㄋǔＥc材料體積或表面積最小等價）作為設計目標。減小質(zhì)量 = 節(jié)省材料、節(jié)省加工費、減小慣性力、降低能耗。2、對于應力集

9、中現(xiàn)象嚴重的構件：應力集中系數(shù)最小。 對于精密儀器：測量誤差最小 對于再現(xiàn)運動軌跡的機構：軌跡誤差最小。總之，應當從設計對象的用途出發(fā)，以最重要最具代表性的指標作為目標函數(shù)。例：圓筒形容器：飲料罐（300ml）。設計目標：外觀漂亮。d / h = 0.618時，外觀最勻稱。因此可以用 d / h 與 0.618 之間的正負偏差最小（盡量符合黃金分割率）作為設計目標。其數(shù)學模型為結(jié)果： d = 60.0mm，h = 106.1mm。3、多目標優(yōu)化問題化為單目標優(yōu)化問題。把最重要的某個設計目標作為單目標優(yōu)化問題的設計目標，把其它設計目標處理成約束條件。例：圓筒形容器：油漆桶（20000ml）雙目標

10、：制造油漆桶的材料最少以降低成本，外觀勻稱以吸引顧客。可以把用料最少作為設計目標，把外觀勻稱用d/h與0.618之間的正負偏差不大于某個允許值的約束條件來表示。假設該允許值為0.1，這個雙目標優(yōu)化問題就轉(zhuǎn)化成單目標優(yōu)化問題：結(jié)果：d = 263.4mm，h = 366.9mm。4、設計變量不一定在目標函數(shù)的表達式里出現(xiàn)。例如式(1.2)的問題，材料體積也等于容器所占空間的總體積減去其容積： (1.7)因此式(1.2)中的目標函數(shù)完全可以用式(1.7)來代替。這時的目標函數(shù)中雖然不出現(xiàn)壁厚t，但它仍然是t的函數(shù)，是壁厚t的隱函數(shù)。5、原目標函數(shù)上乘（除）一個常數(shù)或加（減）一個常數(shù)，只會改變目標函

11、數(shù)值的大小，并不影響最優(yōu)方案本身。為了使數(shù)學模型簡潔，可以把原目標函數(shù)中的這些常數(shù)去掉。因此，例1.1的優(yōu)化設計數(shù)學模型也可寫為 結(jié)果仍然是 t = 9.2 mm，d = 1000.0 mm，h = 2661.3 mm 。 1.2.3 正確列出約束條件約束條件是設計方案必須滿足的各種設計限制。約束條件分兩類，一類稱為性能約束，一類稱為邊界約束。性能約束零件設計：強度條件、剛度條件、振動穩(wěn)定性條件、耐熱性條件等。機構設計：裝配條件、鄰接條件、傳動比條件、速度條件、加速度條件等。許多性能約束實際就是設計規(guī)范的計算公式，它們可以根據(jù)力學、機械學、幾何學的知識推導出來。邊界約束：對設計變量取值范圍的限

12、制，它給出設計變量的上邊界和下邊界。邊界約束根據(jù)設計對象的結(jié)構需要或經(jīng)驗給出。注意既不能遺漏必要的邊界約束，也不能無根據(jù)地縮小邊界約束的范圍。1、數(shù)學模型必須列出全部必要的約束條件，不能遺漏。例：在鍋爐設計的式(1.2)中，如果遺漏了最后三個邊界約束，成為 (1.9)那么它的解是 t = 2.4 mm，d = 260.6 mm，h = 38909.2 mm。它高達近40米，與其說是一個鍋爐不如說是一根旗桿。2、注意約束條件不能互相矛盾。例：如果把式(1.2)的鋼板厚度的上邊界減小為8 mm，使它變?yōu)?(1.10)那么該問題無解。之所以發(fā)生這種情況，是因為強度約束和直徑約束隱含地要求 t 9.2

13、，但修改后的厚度約束卻要求 t 8，兩者互相矛盾。所以，不要沒有根據(jù)地隨意縮小設計變量的取值范圍。3、當某個設計變量可以通過某個等式約束表示成其它設計變量的函數(shù)時，目標函數(shù)和約束函數(shù)中的這個設計變量便可以用這個函數(shù)替換。這樣不僅能減少數(shù)學模型的設計變量的個數(shù)，還能減少約束條件的個數(shù)。例如式(1.3)的問題，由于儲油罐的高 h 可以根據(jù)等式約束表示成直徑 d 的函數(shù)：所以式(1.3)可以簡化為 (1.11)4、數(shù)學模型中的有些約束條件可能是多余的。多余的約束條件的存在不影響求解的結(jié)果。把它們從數(shù)學模型中剔除可以簡化數(shù)學模型，加快求解速度。例如式(1.11)中有4個不等式約束，其中最后兩個可改寫為

14、由于所以可以把式(1.11)的數(shù)學模型進一步簡化為 (1.12)當式(1.12)中的約束條件被滿足時，式(1.11)中的另兩個約束條件自然被滿足，它們是多余的約束，所以可以刪去它們。問題(1.12)應用微分學的極值理論就可求解。令式(1.12)中的目標函數(shù)的一階導數(shù)為零，求其可能的極值點： (1.13)因為滿足兩個約束條件，而且這時目標函數(shù)的二階導數(shù) (1.14)所以是目標函數(shù)f(d)的極小點。由此得儲油罐的高 h 和直徑 d 都為mm。一般的優(yōu)化設計問題無論怎樣簡化，也不可能化成式(1.12)那樣簡單的形式，更不是只用微分學的極值理論就可輕易求出它的解析解的。要求解一般的復雜優(yōu)化設計問題，必

15、須借助電子計算機的力量。本課程的主要內(nèi)容就是討論如何編制計算程序來求解優(yōu)化設計的數(shù)學模型。1.3 數(shù)學模型的一般形式1.3.1 數(shù)學模型的一般形式優(yōu)化問題的數(shù)學模型可以歸納整理成下面的一般形式： 式中，x 是 n 維歐氏空間 Rn 中的一個列向量：它稱為設計向量。設計變量 x1、x2、xn 是設計向量 x 的n個分量。 1、目標函數(shù) f(x) 取最大值的方案為最優(yōu)方案時，設計目標用 max f(x) 表示。由于 max f(x) = min (- f(x) ) 所以兩者可以互相轉(zhuǎn)換，式(1.15)不失其一般性。 2、由于不等式的兩端同乘以 “-1” 可以使不等號 “” 和 “” 互相轉(zhuǎn)換，所以

16、優(yōu)化問題的不等式約束可以統(tǒng)一為 gv(x) 0 的形式（也可以統(tǒng)一為 “ 0” 的形式）。 3、 hu (x) 和 gv(x) 稱為約束函數(shù)。 例：油漆桶設計問題，令x = (x1 , x2)T = (d , h)T，則滿足全部約束條件的x稱為優(yōu)化設計問題的可行解。一個可行解就是一個可行的設計方案。全體可行解構成的集合稱為可行域。所謂優(yōu)化設計，就是要尋找使目標函數(shù) f(x) 取最小值的可行解x*，這種可行解稱為最優(yōu)解，即最優(yōu)設計方案。最優(yōu)解x*所對應的目標函數(shù)值 f(x*)稱為最優(yōu)值。式(1.4)的最優(yōu)解 x* = (x1, x2, x3)T = (t, d, h)T = (10, 1086.

17、7, 2258.1)T (mm)，最優(yōu)值 f(x*) = 94954.9 cm3。把可行域記為D： (1.17)數(shù)學模型的更簡潔的形式： (1.18)它表示在n維設計空間的可行域D上，使目標函數(shù) f (x)最小化。1.3.2 優(yōu)化問題的分類當數(shù)學模型中不包含約束條件，即 p = q = 0時，稱為無約束優(yōu)化問題，否則稱為約束優(yōu)化問題。當目標函數(shù)和所有的約束函數(shù)都是設計變量的線性函數(shù)時，稱為線性規(guī)劃問題，否則稱為非線性規(guī)劃問題。生產(chǎn)計劃管理的優(yōu)化問題：線性規(guī)劃。工程設計中的優(yōu)化問題：非線性規(guī)劃。優(yōu)化設計問題的復雜程度：設計變量和約束條件的個數(shù)。小型優(yōu)化問題：設計變量和約束條件的個數(shù)都不超過10。

18、大型優(yōu)化問題：設計變量和約束條件的個數(shù)超過50。中型優(yōu)化問題：介于二者之間。第2章優(yōu)化問題有關的數(shù)學概念2.1 n維歐氏空間1、當n維實向量空間Rn中的任意兩個列向量的內(nèi)積運算被定義為 (2.1)時，這個n維向量空間稱為n維歐氏空間，本書仍然用Rn表示。2、n維歐氏空間中向量的長度（?；蚍稊?shù)）被定義為 (2.2)3、n維歐氏空間中兩個向量, 之間的夾角被定義為 (2.3)因此 (2.4)2.2 正定二次型含有n個變量x1、x2、xn的二次多項式 (2.5)稱為實二次型，簡稱二次型。它可用一個向量和一個實對稱矩陣A表示成矩陣乘積的形式： (2.7)如果對任何實向量x0，都有 P(x) = xTA

19、x 0，則稱二次型 P(x) = xTAx 是正定的。此時矩陣A稱為正定矩陣，或稱矩陣A是正定的。實對稱矩陣A為正定的充分必要條件是A的各階順序主子式都大于零。即 (2.8)如果對任何實向量x0，都有 P(x) = xTAx 0，且有x(0)0，使 x(0)TAx(0) = 0，則稱二次型 P(x) = xTAx是半正定的。此時矩陣A稱為半正定矩陣，或稱矩陣A是半正定的。實對稱矩陣A為半正定的充分必要條件是A的各階主子式都大于或等于零。即 (2.9)如果對任何實向量x0，都有 P(x) = xTAx 0，0 = 0；二階主子式為0，可知在整個平面上是半正定的，因此f1(x)是凸函數(shù)；由的一階順

20、序主子式為2 0，二階順序主子式為110，可知在整個平面上是正定的，因此 f2(x)不僅是凸函數(shù)，而且是嚴格凸函數(shù)。凸函數(shù)具有下面重要的性質(zhì)：1、如果函數(shù) f(x)是定義在凸集D上的凸函數(shù)，實數(shù) a 0，那么函數(shù) a f(x)也是定義在凸集D上的凸函數(shù)。2、如果函數(shù) f1(x)、f2(x) 是定義在凸集D上的凸函數(shù)，那么函數(shù) f1(x) + f2(x) 也是定義在凸集D上的凸函數(shù)。由此推論：，如果函數(shù) f1(x)、f2(x) 、fk(x)是定義在凸集D上的凸函數(shù)，實數(shù)a 1、a 2、a k 0，那么函數(shù)也是定義在凸集D上的凸函數(shù)。例如，因為例2.1中的和都是整個平面上的凸函數(shù)，所以也是整個平面

21、上的凸函數(shù)。關于凸函數(shù)的重要定理：定理2.4 如果函數(shù) g(x) 是定義在凸集S上的凸函數(shù)，那么集合是凸集。證明 在集合D中任取兩點x (1), x (2)，則對任何數(shù)值0, 1，都有g(x (1)0和 (1-)g(x (2)0。由于g(x)為凸函數(shù)，所以即點滿足集合D的條件g(x)0，在集合D之內(nèi)。根據(jù)凸集定義，D是凸集。利用這個定理，可以通過對優(yōu)化問題中約束函數(shù)是否為凸函數(shù)的判別，來判斷其可行域是否為凸集。2.5.3 凸規(guī)劃對于優(yōu)化問題 (2.34)如果D是凸集，f(x)是D上的凸函數(shù)，則稱該問題為凸規(guī)劃。對于優(yōu)化問題 (2.36)當 f(x)和全部gv(x)都是可行域D上的凸函數(shù)，全部h

22、u(x)都是可行域D上的線性函數(shù)時，該問題是凸規(guī)劃。通過對優(yōu)化問題是否為凸規(guī)劃的判別，可以知道f(x)的局部極小點是否是最優(yōu)點。f(x)的局部極小點是這樣來定義的：如果在x*D的充分小的鄰域內(nèi)有 f(x) - f(x*)0，則稱x*為 f(x)的局部極小點。如果該不等式去掉等號，則稱x*為f(x)的嚴格局部極小點。目標函數(shù)f(x)可能有若干個相同或不同的局部極小點，但是只有其中的一個(或一些)取最小值的才是最優(yōu)點。0f (x)x(a)圖2.10 多個最優(yōu)點與唯一最優(yōu)點x(1)x (2)x (3)f (x)(b)0xx*0f (x)xx(3)x(1)x(2)圖2.9 局部極小點與最優(yōu)點凸規(guī)劃問題

23、具有下面兩個定理所示的重要性質(zhì)。定理2.5 如果凸規(guī)劃存在局部極小點，則局部極小點就是最優(yōu)點。證明 用反證法。設x*D是f(x)的局部極小點。如果x*不是f(x)的最優(yōu)點，即存在另外的點x (k) D，使f(x (k) f(x*)，則對任意0, 1，有x = x* + (1-) x (k) D。由于f(x)是凸函數(shù)，所以f(x) = f x*+(1-) x (k) f(x*) +(1-) f(x (k) f(x*) + (1-) f(x*) = f(x*)令 1，則xx*，即在x*的鄰域內(nèi)存在點xD，使 f(x) f(x*)。這與x*是f(x)的局部極小點矛盾。因此x*是 f(x)的最優(yōu)點。定

24、理2.6 如果凸規(guī)劃的目標函數(shù) f(x) 是嚴格凸函數(shù)，又存在局部極小點，那么它的局部極小點是唯一的。證明 用反證法。設存在不同的兩點x (1), x (2)D，它們?nèi)∠嗤臉O小值 f(x (1) = f(x (2) = C，則對任意01，有x = x (1) + (1-) x (2) D。由于f(x)是嚴格凸函數(shù)，所以f(x) = f x (1)+(1-) x (2) f(x (1) +(1-) f(x (2) = C + (1-)C = C這與C是f(x)在D上的極小值矛盾。因此f(x)的局部極小點是唯一的。凸規(guī)劃的局部極小點 = 最優(yōu)點。（目標函數(shù)是嚴格凸函數(shù)時，最優(yōu)點只有一個）優(yōu)化問題

25、的求解就是尋找局部極小點，并且從中找出最優(yōu)點。第3章 優(yōu)化問題的極值條件3.1 無約束優(yōu)化問題的極值條件無約束優(yōu)化問題 (3.1)3.1.1 一階必要條件定理3.1 設函數(shù) f(x) 在x*點處連續(xù)可微，若x*是 f(x)的局部極小點，則必有x*點處的梯度。證明 把f(x)在x*點處作一階泰勒展開，得 (3.2)因為x*是極小點，所以在x*的充分小的鄰域內(nèi)有 f(x) - f(x*)0，因此 (3.3)令 ，于是 (3.4)因為d是一個單位向量，所以當xx*時 (3.5)d為任意方向的單位向量時該不等式都應成立，設0f (x)xx*x (1)x (2)x (3)圖3.1 駐點、鞍點、極小點和最

26、優(yōu)點 (3.6)并把它代入式(3.5)，得 (3.7)所以 。滿足一階必要條件的點稱為 f(x) 的駐點。駐點分為三種類型：局部極小點、局部極大點和鞍點。鞍點是沿某些方向為極小，沿另一些方向為極大的駐點。3.1.2 一階充要條件定理3.2 設 f(x)是定義在Rn上的可微凸函數(shù)，x*Rn，則x*為問題(3.1)的最優(yōu)點的充要條件是。證明 必要性是顯然的。如果x*是最優(yōu)點，自然是局部極小點，由定理3.1知?，F(xiàn)在證明充分性。設，則對任意的xRn，有 (3.8)由于f(x)是可微凸函數(shù)，根據(jù)定理2.2，必有 (3.9)即x*是最優(yōu)點。3.1.3 二階必要條件定理3.3 設函數(shù) f(x)在x*點處二次

27、連續(xù)可微，若x*是 f(x)的局部極小點，則必有，并且海賽矩陣正定或半正定。證明 把 f(x)在x*點處作二階泰勒展開，并考慮到，得 (3.10)因為x*是極小點，所以在x*的充分小的鄰域內(nèi)有 f(x)-f(x*)0，因此 (3.11)令 ，于是 (3.12)d是任意方向的單位向量，當xx*時 (3.13)因此必是正定或半正定的。3.1.4 充分條件定理3.4 設函數(shù) f(x)在x*點處二次連續(xù)可微，若，且海賽矩陣正定，則x*是 f(x)的嚴格局部極小點。有證明 把f(x)在x*點處作二階泰勒展開，并考慮到，得 (3.14)用反證法，假設x*不是嚴格極小點，那么 f(x)f(x*)0，因此 (

28、3.15)令 ，于是 (3.16)d是單位向量，當xx*時 (3.17)這個結(jié)果與是正定矩陣矛盾，因此x*必是嚴格局部極小點。總之，對于駐點x*，如果正定， x*是f(x)的嚴格局部極小點；如果既不是正定的又不是半正定的，x*不是f(x)的局部極小點；如果f(x)在Rn上是凸函數(shù)，x*是最優(yōu)點；如果f(x)在Rn上是嚴格凸函數(shù)，x*是唯一最優(yōu)點。例3.1利用極值條件對問題 求解。解由一階必要條件 解得駐點 由 f(x)的海賽矩陣 得各駐點的海賽矩陣： 由于不定，所以x (1), x (4)不是極小點；負定，所以x (3)不是局部極小點而是局部極大點；正定，所以點x (2)是嚴格局部極小點。因此

29、最優(yōu)點x* = x (2) = (1, 2)T。3.2 等式約束優(yōu)化問題的極值條件對于等式約束優(yōu)化問題 (3.18)為了討論方便，先引入向量約束函數(shù) 把式(3.18)表示成 (3.19)由于存在p個等式約束方程，因此等式約束優(yōu)化問題的n個變量并不是完全獨立的。不失一般性，可以把前p個變量看作非獨立變量，把剩下的(n - p)個變量看作獨立變量。于是設計向量x可分解為兩部分： (3.20)其中xF是非獨立變量組成的向量，xD是獨立變量組成的向量：因為xF可看作是由等式約束方程組所決定的xD的隱函數(shù)，所以目標函數(shù)f(x)可看作是僅以xD為自變量的函數(shù)： (3.21)因此等式約束問題(3.18)與下

30、面無約束優(yōu)化問題是等價的： (3.22)為了研究問題(3.22)的極值條件（也就是問題(3.18)的極值條件），引入向量約束函數(shù)h(x)的一階偏導數(shù)矩陣： (3.23)并把它分解成與xF和xD對應的兩部分： (3.24)其中 (3.25)現(xiàn)在用微分法求F(xD)的梯度。F(xD)的微分為 (3.26)其中 (3.27)為了把式(3.26)中的dxF用dxD來表示，把約束方程的兩端微分：(3.28)并按式(3.24)分解，得 (3.29)設 非奇異，則有 (3.30)把它代入式(3.26)得 (3.31)因此F(xD)的梯度為 (3.32)設x*為無約束優(yōu)化問題(3.22)的極小點，則有，即有

31、(3.33)引入一個p維列向量 ，令 (3.34)式(3.33)成為 (3.35)把式(3.34)兩邊右乘 并整理后，得 (3.36)因為目標函數(shù)f(x)在x*處的梯度也由與xF和xD對應的兩部分所組成： (3.37)所以式(3.35)和式(3.36)可合并為 (3.38)把它的兩端轉(zhuǎn)置后為 (3.39)即 (3.40)這就是x*為等式約束問題的極小點的一階必要條件。由于函數(shù) (3.41)在點（x*, *）處的梯度等于零時，可以寫為 (3.42)正好是式(3.40)和x*所滿足的等式約束條件，所以L(x,)是研究約束優(yōu)化問題的重要函數(shù)，稱為拉格朗日(Lagrange)函數(shù)。= (1,1,p)T

32、稱為拉格朗日乘子向量。3.2.1 一階必要條件定理3.5 設函數(shù) f(x)和 hu(x), (u =1, 2, p)在可行點x*處連續(xù)可微，, (u =1, 2, p)線性無關，若x*是等式約束優(yōu)化問題(3.18)的局部極小點，則必存在一個實向量，使得下式成立： (3.43)定理3.5表明：目標函數(shù)在x*處的梯度必為約束函數(shù)梯度的線性組合。式(3.43)和原約束方程構成含有n+p個未知量及n+p個方程的方程組，求解這個方程組可以獲得滿足一階必要條件的點x*。這就是著名的求解等式約束問題的拉格朗日乘子法。對凸規(guī)劃問題，滿足一階必要條件的點x*就是最優(yōu)點。 h1(x)=0h2(x)=0Dx*圖3.2 等式約束一階必要條件的幾何意義3.2.2 二階必要條件定理3.6 設函數(shù) f(x)和