無(wú)約束優(yōu)化與

無(wú)約束優(yōu)化與第1頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月實(shí)驗(yàn)?zāi)康膶?shí)驗(yàn)內(nèi)容2、掌握用數(shù)學(xué)軟件包求解無(wú)約束最優(yōu)化問題。1、了解無(wú)約束最優(yōu)化基本算法。1、無(wú)約束優(yōu)化基本思想及基本算法。4、實(shí)驗(yàn)作業(yè)。3、用MATLAB求解無(wú)約束優(yōu)化問題。2、MATLAB優(yōu)化工具箱簡(jiǎn)介第2頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月無(wú)約束最優(yōu)化問題求解無(wú)約束最優(yōu)化問題的的基本思想*無(wú)約束最優(yōu)化問題的基本算法返回第3頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月標(biāo)準(zhǔn)形式：求解無(wú)約束最優(yōu)化問題的基本思想求解的基本思想(以二元函數(shù)為例)531連續(xù)可微第4頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月第5頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月多局部極小唯一極小(全局極小)第6頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月搜索過(guò)程最優(yōu)點(diǎn)(11)初始點(diǎn)(-11)-114.00-0.790.583.39-0.530.232.60-0.180.001.500.09-0.030.980.370.110.470.590.330.200.800.630.050.950.900.0030.990.991E-40.9990.9981E-50.99970.99981E-8返回第7頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月無(wú)約束優(yōu)化問題的基本算法

最速下降法是一種最基本的算法，它在最優(yōu)化方法中占有重要地位.最速下降法的優(yōu)點(diǎn)是工作量小，存儲(chǔ)變量較少,初始點(diǎn)要求不高；缺點(diǎn)是收斂慢，最速下降法適用于尋優(yōu)過(guò)程的前期迭代或作為間插步驟，當(dāng)接近極值點(diǎn)時(shí)，宜選用別種收斂快的算法.

1．最速下降法（共軛梯度法）算法步驟：第8頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月2．牛頓法算法步驟：如果f是對(duì)稱正定矩陣A的二次函數(shù)，則用牛頓法經(jīng)過(guò)一次迭代就可達(dá)到最優(yōu)點(diǎn),如不是二次函數(shù)，則牛頓法不能一步達(dá)到極值點(diǎn)，但由于這種函數(shù)在極值點(diǎn)附近和二次函數(shù)很近似,因此牛頓法的收斂速度還是很快的.牛頓法的收斂速度雖然較快，但要求Hessian矩陣要可逆，要計(jì)算二階導(dǎo)數(shù)和逆矩陣，就加大了計(jì)算機(jī)計(jì)算量和存儲(chǔ)量.第9頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月3．?dāng)M牛頓法第10頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月第11頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月返回第12頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月Matlab優(yōu)化工具箱簡(jiǎn)介1.MATLAB求解優(yōu)化問題的主要函數(shù)第13頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月2.優(yōu)化函數(shù)的輸入變量

使用優(yōu)化函數(shù)或優(yōu)化工具箱中其它優(yōu)化函數(shù)時(shí),輸入變量見下表:第14頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月3.優(yōu)化函數(shù)的輸出變量下表:第15頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月4．控制參數(shù)options的設(shè)置(3)MaxIter:允許進(jìn)行迭代的最大次數(shù),取值為正整數(shù).Options中常用的幾個(gè)參數(shù)的名稱、含義、取值如下:(1) Display:顯示水平.取值為’off’時(shí),不顯示輸出;取值為’iter’時(shí),顯示每次迭代的信息;取值為’final’時(shí),顯示最終結(jié)果.默認(rèn)值為’final’.(2) MaxFunEvals:允許進(jìn)行函數(shù)評(píng)價(jià)的最大次數(shù),取值為正整數(shù).第16頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月例：opts=optimset(‘Display’,’iter’,’TolFun’,1e-8)該語(yǔ)句創(chuàng)建一個(gè)稱為opts的優(yōu)化選項(xiàng)結(jié)構(gòu),其中顯示參數(shù)設(shè)為’iter’,TolFun參數(shù)設(shè)為1e-8.控制參數(shù)options可以通過(guò)函數(shù)optimset創(chuàng)建或修改。命令的格式如下：(1)options=optimset(‘optimfun’)創(chuàng)建一個(gè)含有所有參數(shù)名,并與優(yōu)化函數(shù)optimfun相關(guān)的默認(rèn)值的選項(xiàng)結(jié)構(gòu)options.（2）options=optimset(‘param1’,value1,’param2’,value2,...)創(chuàng)建一個(gè)名稱為options的優(yōu)化選項(xiàng)參數(shù),其中指定的參數(shù)具有指定值,所有未指定的參數(shù)取默認(rèn)值.(3)options=optimset(oldops,‘param1’,value1,’param2’,value2,...)創(chuàng)建名稱為oldops的參數(shù)的拷貝,用指定的參數(shù)值修改oldops中相應(yīng)的參數(shù).返回第17頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月用Matlab解無(wú)約束優(yōu)化問題其中（3）、（4）、（5）的等式右邊可選用（1）或（2）的等式右邊。函數(shù)fminbnd的算法基于黃金分割法和二次插值法，它要求目標(biāo)函數(shù)必須是連續(xù)函數(shù)，并可能只給出局部最優(yōu)解。常用格式如下：（1）x=fminbnd(fun,x1,x2)（2）x=fminbnd(fun,x1,x2，options)（3）[x，fval]=fminbnd（...）（4）[x，fval，exitflag]=fminbnd（...）（5）[x，fval，exitflag，output]=fminbnd（...）第18頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月ToMatlab(wliti1)主程序?yàn)閣liti1.m:f='2*exp(-x).*sin(x)';fplot(f,[0,8]);%作圖語(yǔ)句[xmin,ymin]=fminbnd(f,0,8)f1='-2*exp(-x).*sin(x)';[xmax,ymax]=fminbnd(f1,0,8)第19頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月例2對(duì)邊長(zhǎng)為3米的正方形鐵板，在四個(gè)角剪去相等的正方形以制成方形無(wú)蓋水槽，問如何剪法使水槽的容積最大？解先編寫M文件fun0.m如下:functionf=fun0(x)f=-(3-2*x).^2*x;主程序?yàn)閣liti2.m:[x,fval]=fminbnd('fun0',0,1.5);xmax=xfmax=-fval運(yùn)算結(jié)果為:xmax=0.5000,fmax=2.0000.即剪掉的正方形的邊長(zhǎng)為0.5米時(shí)水槽的容積最大,最大容積為2立方米.ToMatlab(wliti2)第20頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月命令格式為:（1）x=fminunc（fun,X0）；或x=fminsearch（fun,X0）（2）x=fminunc（fun,X0，options）；或x=fminsearch（fun,X0，options）（3）[x，fval]=fminunc（...）；或[x，fval]=fminsearch（...）（4）[x，fval，exitflag]=fminunc（...）；或[x，fval，exitflag]=fminsearch（5）[x，fval，exitflag，output]=fminunc（...）；或[x，fval，exitflag，output]=fminsearch（...）2、多元函數(shù)無(wú)約束優(yōu)化問題標(biāo)準(zhǔn)型為：minF(X)第21頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月[3]fminunc為中型優(yōu)化算法的步長(zhǎng)一維搜索提供了兩種算法，由options中參數(shù)LineSearchType控制：LineSearchType=’quadcubic’(缺省值)，混合的二次和三次多項(xiàng)式插值；LineSearchType=’cubicpoly’，三次多項(xiàng)式插使用fminunc和fminsearch可能會(huì)得到局部最優(yōu)解.說(shuō)明:fminsearch是用單純形法尋優(yōu).fminunc的算法見以下幾點(diǎn)說(shuō)明：[1]fminunc為無(wú)約束優(yōu)化提供了大型優(yōu)化和中型優(yōu)化算法。由options中的參數(shù)LargeScale控制：LargeScale=’on’(默認(rèn)值),使用大型算法LargeScale=’off’(默認(rèn)值),使用中型算法[2]fminunc為中型優(yōu)化算法的搜索方向提供了4種算法，由options中的參數(shù)HessUpdate控制：HessUpdate=’bfgs’（默認(rèn)值），擬牛頓法的BFGS公式；HessUpdate=’dfp’，擬牛頓法的DFP公式；HessUpdate=’steepdesc’，最速下降法第22頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月例3minf(x)=(4x12+2x22+4x1x2+2x2+1)*exp(x1)ToMatlab(wliti3)1、編寫M-文件fun1.m:functionf=fun1(x)f=exp(x(1))*(4*x(1)^2+2*x(2)^2+4*x(1)*x(2)+2*x(2)+1);

2、輸入M文件wliti3.m如下:x0=[-1,1];x=fminunc(‘fun1’,x0);y=fun1(x)

3、運(yùn)行結(jié)果:x=0.5000-1.0000y=1.3029e-10第23頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月ToMatlab(wliti31)ToMatlab(wliti32)第24頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月3.用fminsearch函數(shù)求解ToMatlab(wliti41)輸入命令:f='100*(x(2)-x(1)^2)^2+(1-x(1))^2';[x,fval,exitflag,output]=fminsearch(f,[-1.22])運(yùn)行結(jié)果:x=1.00001.0000fval=1.9151e-010exitflag=1output=iterations:108funcCount:202algorithm:'Nelder-Meadsimplexdirectsearch'第25頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月4.

用fminunc函數(shù)ToMatlab(wliti44)(1)建立M-文件fun2.m

functionf=fun2(x)f=100*(x(2)-x(1)^2)^2+(1-x(1))^2(2)主程序wliti44.m第26頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月Rosenbrock函數(shù)不同算法的計(jì)算結(jié)果可以看出，最速下降法的結(jié)果最差.因?yàn)樽钏傧陆捣ㄌ貏e不適合于從一狹長(zhǎng)通道到達(dá)最優(yōu)解的情況.第27頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月例5

產(chǎn)銷量的最佳安排某廠生產(chǎn)一種產(chǎn)品有甲、乙兩個(gè)牌號(hào)，討論在產(chǎn)銷平衡的情況下如何確定各自的產(chǎn)量，使總利潤(rùn)最大.所謂產(chǎn)銷平衡指工廠的產(chǎn)量等于市場(chǎng)上的銷量.第28頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月基本假設(shè)1．價(jià)格與銷量成線性關(guān)系2．成本與產(chǎn)量成負(fù)指數(shù)關(guān)系第29頁(yè)，課件共36頁(yè)，創(chuàng)作于2023年2月

模型建立

若根據(jù)大量的統(tǒng)計(jì)數(shù)據(jù),求出系數(shù)b1=100,a11=1,a12=0.1,b2=280,a21=0.2,a22=2,r1=30,λ1=0.015,c1=20,r2=100,λ2=0.02,c2=30,則問題轉(zhuǎn)化為無(wú)約束優(yōu)化問題：求甲,乙兩個(gè)牌號(hào)的產(chǎn)量x1，x2，使總利潤(rùn)z最大.為簡(jiǎn)化模型,先忽略成本,并令a12=0,a21=0,問題轉(zhuǎn)化為求:z1=(b1-a11x1)x1+(b2-a22x2)x2

的極值.顯然其解為x1=b1/2a11=50,x2=b2/2a22=70,我們把它作為原問題的初始值.總利潤(rùn)為：z(x1