優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ)市公開課金獎(jiǎng)市賽課一等獎(jiǎng)?wù)n件

第二章優(yōu)化設(shè)計(jì)數(shù)學(xué)基礎(chǔ)機(jī)械設(shè)計(jì)問題普通是非線性規(guī)劃問題。實(shí)質(zhì)上是多元非線性函數(shù)極小化問題，因此，機(jī)械優(yōu)化設(shè)計(jì)是建立在多元函數(shù)極值理論基礎(chǔ)上。機(jī)械優(yōu)化設(shè)計(jì)問題分為：無約束優(yōu)化約束優(yōu)化無條件極值問題條件極值問題第1頁第1頁第一節(jié)多元函數(shù)方向?qū)?shù)與梯度一、方向?qū)?shù)從多元函數(shù)微分學(xué)得知，對于一個(gè)連續(xù)可微函數(shù)f(x)在某一點(diǎn)一階偏導(dǎo)數(shù)為：，，，…它表示函數(shù)f(x)值在點(diǎn)沿各坐標(biāo)軸方向改變率。有一個(gè)二維函數(shù)，如圖2-1所表示。第2頁第2頁圖2-1函數(shù)方向?qū)?shù)第3頁第3頁其函數(shù)在點(diǎn)沿d方向方向?qū)?shù)為第4頁第4頁二、二元函數(shù)梯度對于二維函數(shù)在點(diǎn)處梯度設(shè)為d方向單位向量，則有第5頁第5頁即第6頁第6頁三、多元函數(shù)梯度沿d方向方向向量即第7頁第7頁圖2-5梯度方向與等值面關(guān)系第8頁第8頁函數(shù)梯度方向與函數(shù)等值面相垂直，也就是和等值面上過x0一切曲線相垂直。

因?yàn)樘荻饶Ｒ螯c(diǎn)而異，即函數(shù)在不同點(diǎn)處最大改變率是不同。因此，梯度是函數(shù)一個(gè)局部性質(zhì)。梯度模：第9頁第9頁梯度兩個(gè)主要性質(zhì)：性質(zhì)一函數(shù)在某點(diǎn)梯度不為零，則必與過該點(diǎn)等值面垂直；性質(zhì)二梯度方向是函數(shù)含有最大改變率方向。圖2-2梯度方向與等值面關(guān)系第10頁第10頁例題2-1求函數(shù)在點(diǎn)[3,2]T梯度。在點(diǎn)x(1)=[3,2]T處梯度為：解：第11頁第11頁例2-2*：試求目的函數(shù)在點(diǎn)處最速下降方向，并求沿這個(gè)方向移動(dòng)一個(gè)單位長度后新點(diǎn)目的函數(shù)值。則函數(shù)在處最速下降方向是解：由于新點(diǎn)是這個(gè)方向上單位向量是：第12頁第12頁幾種慣用梯度公式：第13頁第13頁若目的函數(shù)f(x)處處存在一階導(dǎo)數(shù)，則極值點(diǎn)必要條件一階偏導(dǎo)數(shù)等于零，即滿足此條件僅表明該點(diǎn)為駐點(diǎn)，不能必定為極值點(diǎn)，即使為極值點(diǎn)，也不能判斷為極大點(diǎn)還是極小點(diǎn)，還得給出極值點(diǎn)充足條件設(shè)目的函數(shù)在點(diǎn)至少有二階連續(xù)偏導(dǎo)數(shù)，則在這一點(diǎn)泰勒二次近似展開式為：第二節(jié)多元函數(shù)泰勒展開第14頁第14頁為N維函數(shù)f(x)在點(diǎn)處Hesse矩陣第15頁第15頁泰勒展開寫成向量矩陣形式∵∵第16頁第16頁（1）▽F(X*)=0；必要條件（2）Hesse矩陣G(X*)為正定。充足條件多元函數(shù)f(x)在處取得極值，則極值條件為為無約束極小點(diǎn)充足條件其Hesse矩陣G(X*)為正定。則極小點(diǎn)必須滿足為無約束優(yōu)化問題極值條件第17頁第17頁同窗考慮二元函數(shù)在處取得極值充足必要條件。各階主子式不小于零例：求函數(shù)極值第18頁第18頁第三節(jié)無約束優(yōu)化問題極值條件無約束優(yōu)化問題是使目的函數(shù)取得極小值，所謂極值條件就是指目的函數(shù)取得極小值時(shí)極值點(diǎn)所應(yīng)滿足條件。第19頁第19頁第20頁第20頁第21頁第21頁第22頁第22頁第四節(jié)凸集、凸函數(shù)與凸規(guī)劃前面我們依據(jù)函數(shù)極值條件擬定了極小點(diǎn)則函數(shù)f(x)在附近一切x均滿足不等式因此函數(shù)f(x)在處取得局部極小值，稱為局部極小點(diǎn)。而優(yōu)化問題普通是要求目的函數(shù)在某一區(qū)域內(nèi)全局極小點(diǎn)。函數(shù)局部極小點(diǎn)是不是一定是全局極小點(diǎn)呢？第23頁第23頁圖2-7下凸一元函數(shù)第24頁第24頁一、凸集線段都所有包括在該集合內(nèi)，就稱該點(diǎn)集為凸集，不然為非凸集。一個(gè)點(diǎn)集（或區(qū)域），假如連接其中任意兩點(diǎn)第25頁第25頁凸集性質(zhì)二、凸函數(shù)函數(shù)f(x）為凸集定義域內(nèi)函數(shù)，若對任何及凸集域內(nèi)任意兩點(diǎn)存在下列不等式：第26頁第26頁稱是定義在凸集上一個(gè)凸函數(shù)。第27頁第27頁三、凸性條件1.依據(jù)一階導(dǎo)數(shù)（函數(shù)梯度）來判斷函數(shù)凸性設(shè)f(x)為定義在凸集R上，且含有連續(xù)一階導(dǎo)數(shù)函數(shù)，則f(x)在R上為凸函數(shù)充要條件是對凸集R內(nèi)任意不同兩點(diǎn)，不等式恒成立。2.依據(jù)二階導(dǎo)數(shù)（

Hesse矩陣)來判斷函數(shù)凸性第28頁第28頁設(shè)f(x)為定義在凸集R上且含有連續(xù)二階導(dǎo)數(shù)函數(shù)，則f(x)在R上為凸函數(shù)充要條件Hesse矩陣在R上處處半正定。四、凸規(guī)劃對于約束優(yōu)化問題若都為凸函數(shù)，則此問題為凸規(guī)劃。第29頁第29頁凸規(guī)劃性質(zhì)：1.若給定一點(diǎn)，則集合為凸集。2.可行域?yàn)橥辜?.凸規(guī)劃任何局部最優(yōu)解就是全局最優(yōu)解第30頁第30頁第五節(jié)等式約束優(yōu)化問題極值條件約束優(yōu)化等式約束不等式約束求解這一問題辦法消元法拉格朗日乘子法第31頁第31頁1.消元法（降維法）第32頁第32頁2、拉格朗日乘子法（升維法）第33頁第33頁2、拉格朗日乘子法（升維法）第34頁第34頁2、拉格朗日乘子法（升維法）對于含有L個(gè)等式約束n維優(yōu)化問題處有將本來目的函數(shù)作下列改造：第35頁第35頁拉格朗日函數(shù)待定系數(shù)新目的函數(shù)極值必要條件例2-4用拉格朗日乘子法計(jì)算在約束條件情況下，目的函數(shù)極值點(diǎn)坐標(biāo)。第36頁第36頁第37頁第37頁第六節(jié)不等式約束優(yōu)化問題極值條件在工程中大多數(shù)優(yōu)化問題，可表示為不等式約束條件優(yōu)化問題。有必要引出非線性優(yōu)化問題主要理論，是不等式約束多元函數(shù)極值必要條件。庫恩-塔克（Kuhn-Tucker）條件一、一元函數(shù)在給定區(qū)間上極值條件一元函數(shù)f(x)在給定區(qū)間[a,b]上極值問題，能夠?qū)懗上铝泻胁坏仁郊s束條件優(yōu)化問題：第38頁第38頁拉格朗日乘子法，除了能夠應(yīng)用于等式極值問題，還可以用于不等式極值問題。需引入松弛變量，將不等式約束變成等式約束。設(shè)a1和b1為兩個(gè)松弛變量，則上述不等式約束可寫為：第39頁第39頁則該問題拉格朗日函數(shù)依據(jù)拉格朗日乘子法，此問題極值條件：第40頁第40頁由（起作用約束）（不起作用約束）同樣，來分析起作用何不起作用約束。因此，一元函數(shù)在給定區(qū)間極值條件，能夠表示為：第41頁第41頁多元庫恩-塔克條件分析極值點(diǎn)在區(qū)間位置，有三種情況第42頁第42頁當(dāng)時(shí)，此時(shí)，則極值條件為第43頁第43頁當(dāng)時(shí)，此時(shí)則極值條件為即第44頁第44頁當(dāng)時(shí)，此時(shí)，則極值條件為即第45頁第45頁從以上分析能夠看出，相應(yīng)于不起作用約束拉格朗日乘子取零值，因此能夠引入起作用約束下標(biāo)集合。一元函數(shù)在給定區(qū)間極值條件，能夠改寫為：極值條件中只考慮起作用約束和相應(yīng)乘子。第46頁第46頁二、庫恩-塔克條件仿照一元函數(shù)給定區(qū)間上極值條件推導(dǎo)過程，能夠得到含有不等式約束多元函數(shù)極值條件：用起作用約束下標(biāo)集合表示第47頁第47頁用梯度形式表示，可得或庫恩-塔克條件幾何意義：在約束極小點(diǎn)處，函數(shù)負(fù)梯度一定能表示成所有起作用約束在該點(diǎn)梯度非負(fù)線性組合。第48頁第48頁下面以二維問題為例，闡明K-T條件幾何意義第49頁第49頁從圖中能夠看出，處于和角錐之內(nèi)，即線性組合系數(shù)為正，是在取得極值必要條件。第50頁第50頁三、庫恩-塔克條件應(yīng)用舉例若給定優(yōu)化問題數(shù)學(xué)模型為K-T條件