線性實例.等多個文件-3非線性

1在給定約束條件下求目標函數(shù)最大或存在多項式時間算法（P問題 問題，難解約束條件非線性2 cct

c1,c2,c3nφt之(ti,φi),i=1,2,…,n。試確定參c1,c2,c3，使理論曲線(*)n(tiφi擬合。tt

nn

ec3ti32：設計一個右圖所示的由圓錐和圓柱面圍成的構件，x2a。確定構件尺寸，使其容積最大。hhxa21xa21 2

x

2x 0,x2

4

x(x,...,x)T f(x);g(x),i1,...,p;h(x),j1,...,q:Rn 則如下的數(shù)學模型稱為數(shù)學規(guī)Programming, f

fs.t.g(x)0,i1,...,

g(x) hj(x)0,j1,...,

h(x)數(shù)，稱(MP)為非線性規(guī)劃；無約束非線性規(guī)劃，約束非線性規(guī)劃5定義:對于非線性規(guī)劃(MP)x*∈Xf(x*)f xX則稱 是(MP)的整體最優(yōu)解或整體極小點，稱f(x*)(MP)的整體最優(yōu)值或整體極小值。如果f(x*)f xX,x則稱x*是(MP)的嚴格整體最優(yōu)解或嚴格整體極小點，稱是(MP)的嚴格整體最優(yōu)值或嚴格整體極小值6定義:(MP)x*∈X xx*0,

f(x*)f

xN(x*)是(MP)的局部最優(yōu)值或局部極小點。如果f(x*)f xN(x*)X,xx*(MP的嚴格局部最優(yōu)解或嚴格局部極小點，7minfx1,x2x2

x2 s.t.1-x1-x2 x1-1 x2-1

x2 8無約束：多元函數(shù)極值的充分條件，必要條件函數(shù)需要連續(xù)、可微約束問題，拉格朗日乘數(shù)法要求約束為等式拉格朗日乘數(shù)法 解高維方程組的問題9定義：

f:RnR,xRn,pRn,p

在δ>0，使：f(xtp)f(x), t(0,pf(xx處的下降方向定義：設XRnxX,pRn,p

0

xtppf(xxX的可行方向第二步：構造搜索方向第三步：根pk，確定步第四步：令 =xk+tkpkxk+1已經(jīng)滿足某種終止條件，則停止迭代，輸出近似最優(yōu)解；否則k:=k+1，轉(zhuǎn)向第二步；相鄰兩次迭代點的絕對差小于給定誤差，即：xk1

f(xk) f(xk1)f(xk)定義：設SRn是非空凸集f:SR 的(0,1)：f(x1(1)x2)f(x1)(1)f(x2)，x1,x2則稱f是S上的凸函數(shù)，或f在S上是凸的。如果對于任意的(0,1) f(x1(1)x2)f(x1)(1)f(x2),x1x2fS上的嚴格凸函數(shù)fS若–fS上的（嚴格）f（嚴格）凹函數(shù)fS上是（嚴格）S。(a)凸函 X(MP)叫做非線性凸規(guī)劃，或 f(x) g(x)0,i1,..., (MP) hj(x)0,jXxR

gi(x)0,i1,...,ph(x)0,j1,...,q 定理：對于非線性規(guī)(MP)，若gi(x),i1,...pRn上的凸函數(shù)，hj(x),j1q皆為線性函數(shù)，并fX上的凸函定理：凸規(guī)劃的任一局部最優(yōu)解都是它的整體最優(yōu)解

2f 2f

2f(x) n x x n2f

2f

2f(x)f的Hesse2f(x)

是否半正定.. .. 2f

2f

2f(x)

n n二次規(guī)劃的形式

f(x)1xTQxcT2 AxEx問題就有一個全局最小值x。Q正定時，可用橢圓法可在多項式時間內(nèi)解出(或線性搜索問題)，其數(shù)學模型 (t(0ttmax)

tRNewton法：二次可微+數(shù)值第一步 t1,t2使得[a,t2]和[b,t1]等長度，wt2abt1ta(1w)(ba), aw(bb b 新點1wt2at2t1

taw(ba)w2(bt2 t2

2一維搜索問題min(t，其中(t(t)0Newton法的基本思想是：用(t在探索點tk處的二階泰勒索點tk1.據(jù)此，可得：tk

(tk(tk)tk為(t的最小點的近似。f(xx1xn)TRnfRn定理 設定理 設f:RnR在點xRn處可微。若存在pRn，f(x)Tp 處的下降方向定理4.4.2 設f:RnR在點xRn處可微。x* f(x*)定理 設f:RnR在點xRn 處的Hesse矩陣2f(x*)在。fx*0，并且2fx*)正定則x*是(UMP)的局部最優(yōu)解。定理 設f:RnR，x*Rn，f是Rn上得可微凸函數(shù)。若f(x*)x*是(UMP)的整體最優(yōu)解。設（NMP）問題中的目標函數(shù)fRnR一階連11步選取初始x0，給定終止誤差0k:02步計算fxkfxk)，停止迭代xk。否則進行第33步pkfxk4步進行一維搜索，求t，使fxkkxk1xktkpkk:k1，轉(zhuǎn)2kpk)minf(xktpkt定理定理4.4.5 設A是n階實對稱正定矩陣，piRn(i0,1,...,n1)是非零向量。若p0,p1,...,pn1是一組A共軛方向，則它們一定是線性無關4.4.1An階實對稱，對于非零向量pqRn，若pTAq則稱pq是A共軛的。對于非零向量組piRni0,1,...,n1，若(pi)TApj i,j0,1,...,n ip0p1pnA共軛方向組，也稱它們?yōu)橐唤MA共軛方向f(x)1xTAxbTx2An階實對稱正定矩陣，bRn，c4.4.6對于問題(AP)，若p0,p1pn1為任意A共軛方向，則由任意初始點x0Rn出發(fā)，依p0,p1pn1進行精確一維搜索，則最多經(jīng)n次迭代可達(AP) F-R 123456選取初始點x0，給定終止誤差0計算fx0fx0)，停止迭代，輸出xp0fx0，令k:0；否則，進行第3進行一維搜索求fxktpkminfxktpk)，令xk1xkpktk計算f(xk1)，若f(xk1)，停止迭代，輸出xk ；否則，進行第6步k+1=n，令x0:xn，轉(zhuǎn)3步；否則77F-R公式pk1fxk1kk，其中f(xk1)kf(xk2f(g(x)ih(x)jijxRnf:Rn:RnR,i1,...,:Rn jXXxg(x)0,i1,...,ihj(x)0,jxX*{1,2,...,q}h(x) j*jI(x*){i|gi(x*)0,iIf:RnRg:RnRiIx*x*處可微ig,iI\I(x)在點x處連續(xù)，h: R,jJ在點x處連**n*ij可微，并且各(x),iI(x**hx),jJ線性無*ijx是*的局部最優(yōu)解，則存在兩組實iIxij,jJ使f(x*)g(x) h(x)**** *iI(x*iI(x*4.5.2對于(MP)f,giIih,jJ在點j可行 滿x*K-Tf,giIxh*ij是線性函數(shù)，則x*是(MP)s.tf(s.tf(Axbx0xRnf:RnR，r()m，b

|Axb,x定理定理 對于非線性規(guī)劃問題(4.5.12)，設f是可微函數(shù)，xkXl，并且有分xkxkB 0。若kkpkB NxkB NpkrkrkN: kiiixkirkiIBipk 則（1）pk0pk是f在點xkXl（2）pk0的充要條件是xk是問題(4.5.12)的K-T11選取初始可x0X，給定終止l0第2設Ik是B的m個最大分量的下標集A進行相應分A(Bk,Nk3計算fxk)Bf(xk) f(xkrk(B1N)Tf(xk) (xkN BN記的第ri(iIkB個分irk4按(*)式構造可行下降方pkpk，停止迭代xk否則進行5步minf(xktpk0ttt得到最優(yōu)解，其pktmin1in k，i0pk0或者pkixk1xktkpk，k:=k+12 f(s.t.g(x)0,i1,...,ih(x)0,jjXxg(x)0,i1,...,ihj(x)0,jpp(x)pc[max(g( 2ic2q[h(jijFc(x)f(x)pc( Fc(Fc(x)f(x)pc (kk(x)kip[max(g( kci2 q[h(2j1選取初始點x ，罰參數(shù)列{c}(k1,2,...)k給出檢驗終止條件的誤差02步按(***)構造函pcx)，再按(**)構造k的增廣目標函數(shù)，即k(x)f(x)ck(第3步選用某種無約束最優(yōu)化方法，xk 為初始點求解min(x)，設得到最優(yōu)解 。kkk已滿足某終止條件，停止迭代，輸出xk。否則k:=k+12s.t.g(x)0,i1,...,f(i令g令gx(g1x),...,gpTXX記X{xRn|g(x)優(yōu)點就被“擋”在可行區(qū)域了。xXopBd(x)kk1ig(或 (x)dkln[gi(pdk i其中，dk kFdkFd(x)f(x)(k(k(k第第1步選取初始點x0Xo，罰參數(shù)列 }(k1,2,...)k給出檢驗終止條件