機(jī)械優(yōu)化設(shè)計(jì)復(fù)習(xí)總結(jié)

1、06.f X f XoTf XoXXTG Xof Xof fX1X2X1X212 X1X22f2fX X22fX1 X2X12fX2海賽矩陣:G Xo2X12X1 X22上（對(duì)稱方陣）X1 X22X21. 優(yōu)化設(shè)計(jì)問題的求解方法：解析解法和數(shù)值近似解法。解析解法是指優(yōu)化對(duì)象用數(shù)學(xué)方程（數(shù)學(xué)模型）描述，用 數(shù)學(xué)解析方法的求解方法。解析法的局限性：數(shù)學(xué)描述復(fù)雜，不便于或不可能用解析方法求解。數(shù)值解法：優(yōu) 化對(duì)象無法用數(shù)學(xué)方程描述，只能通過大量的試驗(yàn)數(shù)據(jù)或擬合方法構(gòu)造近似函數(shù)式，求其優(yōu)化解；以數(shù)學(xué)原理 為指導(dǎo)，通過試驗(yàn)逐步改進(jìn)得到優(yōu)化解。數(shù)值解法可用于復(fù)雜函數(shù)的優(yōu)化解，也可用于沒有數(shù)學(xué)解析表達(dá)式的

2、優(yōu)化問題。但不能把所有設(shè)計(jì)參數(shù)都完全考慮并表達(dá)，只是一個(gè)近似的數(shù)學(xué)描述。數(shù)值解法的基本思路：先確 定極小點(diǎn)所在的搜索區(qū)間，然后根據(jù)區(qū)間消去原理不斷縮小此區(qū)間，從而獲得極小點(diǎn)的數(shù)值近似解。2. 優(yōu)化的數(shù)學(xué)模型包含的三個(gè)基本要素：設(shè)計(jì)變量、約束條件（等式約束和不等式約束）、目標(biāo)函數(shù)（一般使得目標(biāo)函數(shù)達(dá)到極小值）。3. 機(jī)械優(yōu)化設(shè)計(jì)中，兩類設(shè)計(jì)方法：優(yōu)化準(zhǔn)則法和數(shù)學(xué)規(guī)劃法。優(yōu)化準(zhǔn)則法：xk 1 ckxk （為一對(duì)角矩陣）數(shù)學(xué)規(guī)劃法：xk 1 xkkdk（ k dk分別為適當(dāng)步長(zhǎng) 某一搜索方向一一 數(shù)學(xué)規(guī)劃法的核心）4. 機(jī)械優(yōu)化設(shè)計(jì)問題一般是非線性規(guī)劃問題，實(shí)質(zhì)上是多元非線性函數(shù)的極小化問題。重點(diǎn)知

3、識(shí)點(diǎn)：等式約束優(yōu) 化問題的極值問題和不等式約束優(yōu)化問題的極值條件。5. 對(duì)于二元以上的函數(shù)，方向?qū)?shù)為某一方向的偏導(dǎo)數(shù)。f n fT |xo|xo cos id i i xi梯度方向是函數(shù)值變化最快的方函數(shù)沿某一方向的 方向?qū)?shù)等于函數(shù)在該點(diǎn)處的梯度與這一方向單位向量的內(nèi)積。 （最速上升方向），建議用單位向量表示，而梯度的模是函數(shù)變化率的最大值。 多元函數(shù)的泰勒展開。7.極值條件是指目標(biāo)函數(shù)取得極小值時(shí)極值點(diǎn)應(yīng)滿足的條件。某點(diǎn)取得極值，在此點(diǎn)函數(shù)的一階導(dǎo)數(shù)為零，極值點(diǎn)的必要條件：極值點(diǎn)必在駐點(diǎn)處取得。用函數(shù)的二階倒數(shù)來檢驗(yàn)駐點(diǎn)是否為極值點(diǎn)。二階倒數(shù)大于零，取得極小值。二階導(dǎo)數(shù)等于零時(shí)，判斷開始

4、不為零的導(dǎo)數(shù)階數(shù)如果是偶次，則為極值點(diǎn)，奇次則為拐點(diǎn)。二元函數(shù) 在某點(diǎn)取得極值的充分條件是在該點(diǎn)出的海賽矩陣正定。極值點(diǎn)反映函數(shù)在某點(diǎn)附近的局部性質(zhì)。8.凸集、凸函數(shù)、凸規(guī)劃。凸規(guī)劃問題的任何局部最優(yōu)解也就是全局最優(yōu)點(diǎn) 。凸集是指一個(gè)點(diǎn)集或一個(gè)區(qū)域內(nèi)， 連接其中任意兩點(diǎn)的線段上的所有元素都包含在該集合內(nèi)。性質(zhì)：凸集乘上某實(shí)數(shù)、兩凸集相加、兩凸集的交集仍是凸集。凸函數(shù)：連接凸集定義域內(nèi)任意兩點(diǎn)的線段上，函數(shù)值總小于或等于用任意兩點(diǎn)函數(shù)值做線性內(nèi)插所得的值。數(shù)學(xué)表達(dá)：f aX11 a x2f X21,若兩式均去掉等號(hào)，則f X稱作嚴(yán)格凸函數(shù)。凸函數(shù)同樣滿足倍乘，加法和倍乘加仍為凸函數(shù)的三條基本性質(zhì)

5、。凸規(guī)劃針對(duì)目標(biāo)函數(shù)和約 束條件均為凸函數(shù)是的約束優(yōu)化問題。9.等式約束優(yōu)化問題的極值條件。兩種處理方法：消元法和拉格朗日乘子法。也分別稱作降維法和升維法。消元 法:將等式約束條件的一個(gè)變量表示成另一個(gè)變量的函數(shù)。減少了變量的個(gè)數(shù)。拉格朗日乘子法是通過增加變量 將等式約束優(yōu)化問題變成無約束優(yōu)化問題，增加了變量的個(gè)數(shù)。不等式約束優(yōu)化問題的極值條件。不等式約束的多元函數(shù)極值的必要條件為庫恩塔克條件。庫恩塔克條件：mjXij 1Xijgj x*0gj x，幾何意義：在約束極小值處，函數(shù)的負(fù)梯度一定能表示成所有起作用約束在該點(diǎn)梯度的非負(fù)線性組合 。對(duì)于含有等式約束的優(yōu)化問題的拉格朗日乘子，并沒有非負(fù)的

6、要求。11. 一維搜索是指一元函數(shù)的極值問題。搜索區(qū)間的外推法（進(jìn)退法）：假設(shè)函數(shù)在搜索區(qū)間具有單谷性，使函數(shù)在搜索區(qū)間形成“高低高”趨勢(shì)來確定極小點(diǎn)所在的區(qū)間。分另U對(duì)應(yīng)搜索的起點(diǎn)，中間點(diǎn)和終點(diǎn)。再利用區(qū)間消去法原理比較函數(shù)值的大小以確定極小值所在的搜索區(qū)間。12. 一維搜索方法。試探法：常用的一維搜索的方法是黃金分割法（0.618法）。適用于任何單谷函數(shù)求極小值問題。ai bb a黃金分割法要求插入點(diǎn)的位置相對(duì)于區(qū)間的兩端點(diǎn)對(duì)稱。所以插入點(diǎn)的位置為：，區(qū)間縮短a2 ab a率為 ；插值法（函數(shù)逼近法）：利用試驗(yàn)點(diǎn)的函數(shù)值建立函數(shù)近似表達(dá)式來求函數(shù)的極小點(diǎn)。兩種用二次函數(shù)逼近原來函數(shù)的方法：

7、牛頓法（切線法）和拋物線法（二次插值法）。牛頓法迭代公式:k 1k牛頓法的計(jì)算步驟：計(jì)算fkfk ;求 k 1k若'',若kk 1k則求得近似解k1;y2 y1c51二次插值法：c1y3 y1 c2 1q士TZ /古 hrtr 砧方來M古出士izp13，p八j丿應(yīng)1J極1且點(diǎn)，對(duì)應(yīng)1的函數(shù)1且為極31232C3小值。13. 無約束優(yōu)化問題。常用的數(shù)值計(jì)算方法為搜索方法?；舅枷耄簭慕o定的初始點(diǎn)，沿某一搜索方向進(jìn)行搜索， 確定最佳步長(zhǎng)使函數(shù)值沿搜索方向下降最大。各種無約束優(yōu)化方法的區(qū)別在于確定其搜索方向的方法不同，所 以，搜索方向的構(gòu)成問題是無約束優(yōu)化方法的關(guān)鍵。無約束優(yōu)化方法可

8、以分為兩類：一類是利用目標(biāo)函數(shù)的一 階或二階導(dǎo)數(shù)的無約束優(yōu)化方法，如最速下降法，共軛梯度法，牛頓法和變尺度法；另一類只利用目標(biāo)函數(shù)值 的無約束優(yōu)化方法，如坐標(biāo)輪換法，單形替換法，和鮑威爾法。14. 最速下降法（梯度法）。從某點(diǎn)出發(fā)，搜索方向去該點(diǎn)的負(fù)梯度方向。為了使目標(biāo)函數(shù)獲得最大下降值。其步長(zhǎng)因子去一維最佳步長(zhǎng)：f xk 1 f xk k f xkmin f xkk f xk min，在最速下降法中，相鄰兩個(gè)迭代點(diǎn)上的函數(shù)梯度相互垂直。最速下降法迭代行進(jìn)的距離縮短，收斂速度減慢。梯度反映的是 函數(shù)的局部性質(zhì)。最速下降法的收斂速度和變量的尺度關(guān)系很大。最速下降方向的每一次搜索方向與前一次的 搜

9、索方向互相垂直，形成“之”字形的 鋸齒現(xiàn)象。115.牛頓型方法。多元函數(shù)求極值的牛頓法迭代公式：xk 1 xk2f xkf xk 。若某一迭代方法能使二次函數(shù)在有限次迭代內(nèi)達(dá)到極小點(diǎn)，則稱此迭代方法是二次收斂的。牛頓方法時(shí)二次收斂的。牛頓法和阻尼牛 頓法統(tǒng)稱為牛頓型方法。主要缺點(diǎn)是計(jì)算函數(shù)的二階導(dǎo)數(shù)矩陣，并對(duì)該矩陣求逆。16. 共軛方向法。對(duì)于二元函數(shù)，為避免鋸齒現(xiàn)象，在第二次的迭代搜索方向上取到極小點(diǎn)。所必須滿足的條件：dGd1 0,滿足條件的兩個(gè)向量 d0 d1稱之為共軛向量，或稱之為對(duì) G是共軛方向。多維函數(shù)當(dāng)中，共軛向量互相正交且線性無關(guān)；n維空間互相共軛的非零向量的個(gè)數(shù)不超過n ;共

10、軛方向法具有二次收斂性。格拉姆-斯密特向量共軛化方法：選定線性無關(guān)向量組:VoV1Vn （例如他們是n個(gè)坐標(biāo)軸上的單位向量）首先，取d0Vo，令d1Viiod0，根據(jù)共軛條件確定iod0 Gv1d0 TG d0，同樣地，根據(jù)k 1,j.Tdj Gvk 1.Tdj G dj確定dk 1共軛方向的搜索方向可由梯度法和鮑威爾法提供。i Tk17. 共軛梯度法（旋轉(zhuǎn)梯度法）。共軛方向與梯度之間的關(guān)系：d j gk 1 gk0,表明沿方向d搜索，其終點(diǎn)xk 1與始點(diǎn)xk的梯度之差 gk 1 gk與dk的共軛方向dj正交。計(jì)算過程：第一個(gè)搜索方向取 X0的負(fù)梯度 g0，0 0 1 1 則d g0 ；求d的

11、共軛方向d作為下一次的搜索方向d9l0d ，其中0g0共軛方向的遞2推公式：dk1 gk 1-dk，第一個(gè)方向取作負(fù)梯度方向,l|gk|對(duì)負(fù)梯度進(jìn)行修正，共軛方向法是對(duì)最速下降法的一種改進(jìn)。其余各步的搜索方向?qū)⒇?fù)梯度偏轉(zhuǎn)一個(gè)角度,18. 變尺度法：放大或縮小各個(gè)坐標(biāo)，改善函數(shù)的偏心程度。1 1Qx x，2QgQx討Gx，若矩陣G是正定的，那么總存在矩陣是使 qtgq I，將偏心程度變?yōu)榱?。尺度變換后牛頓方向:dk G 1 fxkQQtfxk，牛頓迭代公式：xk 1xkkdkxkkQQTf xk ， HQQT 是在x空間內(nèi)測(cè)量距離大小的度量，稱作尺度矩陣。變尺度法中利用尺度矩陣代替海賽矩陣的逆陣

12、進(jìn)行求解。xk 1 xk kHkgk dkHkgk，擬牛頓條件：Hk1gk1 gk xk 1 xk，變尺度法的一般步驟：選定初始點(diǎn)x0和收斂精度；計(jì)算初始點(diǎn)的梯度 g°，選取初始對(duì)稱正定矩陣 H。（例如H° I ），置k 0 ;計(jì)算搜索方向dkHkgk ;沿 dk方向進(jìn)行k 1kk維搜索 xxkd，計(jì)算g k 1 fk 1x,Skk 1 xkx , ykgk 1 gk，判斷是否滿足迭代終止準(zhǔn)則，*k 1若滿足，則x x ，若迭代n次后仍沒找到極小點(diǎn)，重置k 1Hk為單位矩陣，并以當(dāng)前設(shè)計(jì)點(diǎn)為初始點(diǎn)xx0，返回到計(jì)算g k 1 fk 1x,Skk 1 xkx , ykgk 1

13、 gk進(jìn)行下一輪的迭代或者計(jì)算矩陣Hk1 Hk Ek，置 k 1k返回到計(jì)算dkHkgk19. DFP算法。選取不同的形式的矯正矩陣E k就構(gòu)成不同的變尺度法。DFP算法的Ek形式:EkT kUkUkkUkU：經(jīng)過推到后DFP的校正公式:H HHkyky：HkHk 1 Hk TT.q ykyk h k yk20. 坐標(biāo)輪換法（變量輪換法）：每次搜索只允許一個(gè)變量變化，其余變量保持不變，沿坐標(biāo)方向輪流進(jìn)行搜索的尋 優(yōu)方法。這種方法的收斂效果和目標(biāo)函數(shù)等值線的形狀有很大關(guān)系。21. 鮑威爾方法。直接利用函數(shù)值來構(gòu)造共軛方向的一種共軛方向法。任選一初始點(diǎn)X0，再選兩個(gè)線性無關(guān)的向量，如坐標(biāo)軸單位向量

14、 G 1 0T和20 1 T作為初始搜素方向；從 X0出發(fā)，順次沿0 e2作一維搜索得到點(diǎn)X0 X；，兩點(diǎn)的連線得到一新方向 d1 X0 X0，用d1代替U形成兩個(gè)線性無關(guān)向量 e2 d1，作為下一輪迭代0 1 1的搜索方向。再從 X2出發(fā)，沿d方向作一維搜索得點(diǎn) X作為下一輪迭代的初始點(diǎn)。在進(jìn)行兩輪的迭代后目標(biāo)函數(shù)取得極小值。改進(jìn)的鮑威爾方法中，判斷原向量組的“好壞”來界定原向量組是否需要替換。改進(jìn)鮑威爾法的具體步驟：給定初始點(diǎn)X0，沿n個(gè)線性無關(guān)的向量（n個(gè)坐標(biāo)軸單位向量） k0 ;作一維搜索后沿kkkkkkdn 1 Xn X0移動(dòng)一個(gè)距離得到：Xn 1 2Xn X0 （反射點(diǎn)坐標(biāo)）再求得

15、三點(diǎn)的目標(biāo)函數(shù)值kkkF0fX0F2 =fXnF3fXn 1，根據(jù)判別條件F3F0 和2F02F2F3F0F2m 0.5 m F0F3確定是否要對(duì)原方向進(jìn)行替換。若不滿足判別條件，仍用原方1X0向組，并以X； x;1函數(shù)值中的較小者作為下一輪迭代的始點(diǎn)。若滿足上述判別條件，則將d：1補(bǔ)充到原方向組中，下輪的始點(diǎn)是沿dn 1方向進(jìn)行進(jìn)行一維搜素的極小點(diǎn)22.單形替換法。 擴(kuò)張、收縮、單純性是指在n維空間中有k n 1個(gè)頂點(diǎn)的多面體。區(qū)別于線性規(guī)劃中的單純型法。 通過反射、和縮邊等方式得到新的單純型，其中至少有一個(gè)頂點(diǎn)的函數(shù)值比原單純型要小。計(jì)算步驟：構(gòu)造初始單純型,計(jì)算各頂點(diǎn)的函數(shù)值。 比較頂點(diǎn)

16、函數(shù)值的大小,判斷是否滿足收斂準(zhǔn)則:min fimax fi不滿足收斂準(zhǔn)則，計(jì)算除Xh外其他各點(diǎn)的“重心” Xn 1，XnnXii 0XH，反射點(diǎn) Xn 2，Xn 22Xn 1Xh，f Xn 2；反射：當(dāng)fLfc時(shí)，以Xn 2代替Xh，fn 2代替fH胸成一新單純型。擴(kuò)張（收縮）：當(dāng)fL時(shí)，取擴(kuò)張點(diǎn)Xn3Xn 1Xn 2Xn 1并計(jì)算其函數(shù)值Xn 3，若 fn 3n 2則以Xn 3代替Xh，fn 3代替fH，構(gòu)成一新單純型。否則以Xn 2代替Xh， fn 2代替fH，構(gòu)成一新單純型；縮邊：可將各向量Xi Xl的長(zhǎng)度都縮小一半，即:Xl。單形替代法當(dāng)問題維數(shù) n較高時(shí)，需要經(jīng)過很多次迭代,因此一

17、般用于n 10的情形。23. 目標(biāo)函數(shù)和約束條件都為線性的優(yōu)化問題稱之為線性規(guī)劃問題。線性規(guī)劃標(biāo)準(zhǔn)形式中約束條件包含兩個(gè)部分： 一是等式約束；而是變量的非負(fù)要求。如果約束條件中含有不等式約束，可引入松弛變量將不等式約束轉(zhuǎn)化為 等式約束。如果原來問題中一些變量并不要求是非負(fù)的，那么可以寫成兩個(gè)非負(fù)變量之差。在目標(biāo)函數(shù)中不會(huì) 出現(xiàn)松弛變量，但新的非負(fù)變量需要寫入目標(biāo)函數(shù)當(dāng)中。24. 基本解：當(dāng)變量數(shù)大于方程數(shù)，若使其中（變量數(shù)-方程數(shù)）個(gè)變量取零值，則當(dāng)方程有解時(shí)，其唯一解?；究尚薪猓簼M足非負(fù)要求的基本解，其中取正值的變量稱為 基本變量，取零值的變量稱為非基本變量，基本變量 所對(duì)應(yīng)的系數(shù)列向量稱

18、作 基底向量?？尚薪猓和苟噙呅蝺?nèi)各點(diǎn)滿足全部約束條件的點(diǎn)。目標(biāo)函數(shù)達(dá)到極小值的可行解就是最優(yōu)解，它處在凸多邊形的頂點(diǎn)上，只要在有限個(gè)頂點(diǎn)中尋找（基本可行解）。25. 基本可行解的轉(zhuǎn)換。進(jìn)行轉(zhuǎn)軸運(yùn)算（高斯消元）。選定不同的軸元素，得到不同基本可行解。將非基本變量變成基本變量，實(shí)現(xiàn)一份基本解到另一個(gè)基本解的轉(zhuǎn)換?；究尚薪獾搅硪粋€(gè)基本可行解的轉(zhuǎn)換。若右端bi 都是非負(fù)的，則必須選定為正值的軸元素進(jìn)行轉(zhuǎn)軸運(yùn)算。引入松弛因子將不等式約束轉(zhuǎn)換為等式約束可以發(fā)現(xiàn)，這些 松弛變量就可以作為初始基本可行解中的一部分基本變量。當(dāng)時(shí)，當(dāng)右端bi 為負(fù)值時(shí)，對(duì)應(yīng)的松弛變量就不可以作為基本可行解的基本變量。26. 單

19、純型方法（精讀） 解決從一組基本可行解轉(zhuǎn)換到另一組可行解時(shí)，判斷哪一組可行解時(shí)最優(yōu)解問題。單純型 方法圍繞兩個(gè)規(guī)則進(jìn)行：一是 規(guī)則，二是最速變化規(guī)則（目標(biāo)函數(shù)變化最大規(guī)則） 。27. 約束優(yōu)化方法，根據(jù)求解方式的不同，可分為直接解法和間接解法。直接解法通常使用與僅含不等式約束的問 題?；舅悸罚涸?m 個(gè)不等式約束條件所確定的可行域內(nèi)，選擇一個(gè)初始點(diǎn)x 0 ，然后決定可行搜索方向 d ，以適當(dāng)?shù)牟介L(zhǎng) ，沿 d 方向進(jìn)行搜索，使目標(biāo)函數(shù)值下降的可行的新點(diǎn)x1 完成一次迭代，重復(fù)迭代過程直至滿足收斂條件。間接法的基本思路：將約束優(yōu)化問題中的約束函數(shù)進(jìn)行特殊的加權(quán)處理，和目標(biāo)函數(shù)結(jié)合起來，構(gòu) 成一個(gè)

20、新的目標(biāo)函數(shù)，即將原約束優(yōu)化問題轉(zhuǎn)化為一個(gè)或一系列的無約束優(yōu)化問題，再對(duì)新的目標(biāo)函數(shù)進(jìn)行無 約束優(yōu)化計(jì)算，得到原約束問題的最優(yōu)解。直接解法包括隨機(jī)方向法、復(fù)合型法、可行方向法、廣義節(jié)約梯度 法，屬于間接解法的懲罰函數(shù)法和增廣乘子法。28. 隨機(jī)方向法?；舅悸罚涸诳尚杏騼?nèi)選擇一個(gè)初始點(diǎn)，利用隨機(jī)數(shù)的概率特性，產(chǎn)生若干個(gè)隨機(jī)方向，并從中 選擇一個(gè)能使目標(biāo)函數(shù)值下降最快的隨機(jī)方向作為可行的搜索方向。優(yōu)點(diǎn)：對(duì)目標(biāo)函數(shù)的性態(tài)無特殊要求，程 序設(shè)計(jì)簡(jiǎn)單，使用方便，收斂速度比較快。按照一定的數(shù)學(xué)模型得到的隨機(jī)數(shù)稱為 偽隨機(jī)數(shù) 。初始點(diǎn) x0 必須是 一個(gè)可行點(diǎn)。產(chǎn)生 k 個(gè) n 維隨機(jī)單位向量，找到 k

21、個(gè)隨機(jī)點(diǎn)中使目標(biāo)函數(shù)最小的點(diǎn)xL ，得到可行搜索方向d xL x0 ，進(jìn)行迭代計(jì)算，直到搜索到一個(gè)滿足全部約束條件且目標(biāo)函數(shù)值不再下降的新點(diǎn)x 。29. 復(fù)合型法?；舅悸罚涸诳尚杏騼?nèi)構(gòu)造具有 k（n 1 k 2n ）個(gè)頂點(diǎn)（ k 個(gè)頂點(diǎn)都必須是可行點(diǎn) ）的初始復(fù) 合型。比較各頂點(diǎn)目標(biāo)函數(shù)值，找到目標(biāo)函數(shù)最大值的頂點(diǎn)（最壞點(diǎn)） ，找到一個(gè)使目標(biāo)函數(shù)下降的新點(diǎn)代替最 壞點(diǎn)，構(gòu)成新的復(fù)合型，重復(fù)迭代。根據(jù)不同的方法生成初始復(fù)合型。復(fù)合型的搜索方法：反射計(jì)算復(fù)合型頂點(diǎn)目標(biāo)函數(shù)值，找出最好點(diǎn)Xl、最壞點(diǎn)Xh及次壞點(diǎn)Xg，計(jì)算除最壞點(diǎn)Xh外其他k 1個(gè)頂點(diǎn)的重中心Xc , 最壞點(diǎn)和中心點(diǎn)的連線方向?yàn)槟繕?biāo)

22、函數(shù)下降的方向，得反射點(diǎn)坐標(biāo)：xR xC xC xH ；擴(kuò)張求得反射點(diǎn)為可行點(diǎn)，且目標(biāo)函數(shù)下降較多，沿反射方向繼續(xù)移動(dòng)，找到更好的新點(diǎn)XE ，得擴(kuò)張點(diǎn)坐標(biāo)：Xe XrXr Xc ；收縮中心店Xc以外找不到好的反射點(diǎn)，在 Xc以內(nèi)采用收縮的方法，收縮點(diǎn)坐標(biāo)：Xk XHXC XH ；壓縮采取將復(fù)合型各頂點(diǎn)向最好點(diǎn) XL 靠攏，采用壓縮的方法來改變復(fù)合型的形狀，壓縮頂點(diǎn)坐標(biāo)： Xj XL 0.5 XL Xj 。ok 1 k k30. 可行方向法。基本思路是在可行域內(nèi)選擇一個(gè)初始點(diǎn)x，確定一個(gè)可行方向d和適當(dāng)步長(zhǎng)后，按x x d進(jìn)行迭代計(jì)算。 根據(jù)約束函數(shù)和目標(biāo)函數(shù)的不同形狀， 分為以下三種不同的搜索

23、策略。 一是在約束面的迭代點(diǎn) Xk kk1k1處，產(chǎn)生一個(gè)可行方向 d，沿此方向作一維最優(yōu)化搜索，得到可行域內(nèi)的新點(diǎn)x ，再沿x點(diǎn)的負(fù)梯度方向k1k 1kkdf x 繼續(xù)搜索；二是在約束面的迭代點(diǎn)xk處，產(chǎn)生一個(gè)可行方向 dk，沿此方向作一維最優(yōu)化搜k 1kk 1索，得到可行域 外的新點(diǎn)x ，再設(shè)法將x點(diǎn)移動(dòng)到約束面上，即取 d與約束面的交點(diǎn)作為新的迭代點(diǎn)x ;三是沿約束面搜索，適用于只具有線性約束條件的非線性規(guī)劃問題?？尚蟹较虻膬蓚€(gè)條件： 可行條件一一gj xk T dk 0 ；下降條件一一 f xk Tdk 0。可行反向的產(chǎn)生方法：優(yōu)選方向法和梯度投影法。優(yōu)選方向法為滿足兩個(gè)條件內(nèi)的可行方

24、向的優(yōu)選；梯度投影法為當(dāng)負(fù)梯度方向f xk不滿足可行條件時(shí)，將k到約束邊界的最大步長(zhǎng)。f xk方向投影到約束面上。確定步長(zhǎng)的兩種常用方法：去最優(yōu)步長(zhǎng)或取31.懲罰函數(shù)法。基本思路是將約束優(yōu)化問題中的不等式和等式約束函數(shù)經(jīng)過加權(quán)轉(zhuǎn)化后，和目標(biāo)函數(shù)結(jié)合形成新lH hk x ，加權(quán)項(xiàng)可分為障礙項(xiàng)和懲罰k 1的目標(biāo)函數(shù)一一懲罰函數(shù)x,r1,r2mxr1G gj xj 1項(xiàng)；障礙項(xiàng)的作用是當(dāng)?shù)c(diǎn)在可行域內(nèi)時(shí)，在迭代過程中將阻止迭代點(diǎn)越出可行域，懲罰項(xiàng)的作用是當(dāng)?shù)?點(diǎn)在非可行域內(nèi)或不滿足等式約束條件時(shí)，在迭代過程中將迫使迭代點(diǎn)逼近約束邊界或等式約束曲面。根據(jù)迭 代過程是否在可行域內(nèi)進(jìn)行，懲罰函數(shù)法可分為一下三種：內(nèi)點(diǎn)懲罰函數(shù)法、外點(diǎn)懲罰函數(shù)法和混合懲罰函數(shù) 法。32.內(nèi)點(diǎn)法只能用來求解具有不等式約束的優(yōu)化問題。轉(zhuǎn)化后懲罰函數(shù)的形式為:x,rx r "或j 1 gj xx,r33.力約束邊界較遠(yuǎn)的可行點(diǎn)。懲罰因子縮減系數(shù)。外點(diǎn)法可以用來求解含不等式和等式約束的優(yōu)化問題。外點(diǎn)法懲罰函數(shù)的形式為：2 l 2，r為懲罰因子，它是由小到大，且趨于x,rm2lx r max 0, gj x rj 1k 1的數(shù)列。3