最優(yōu)化復習題

1、用最速下降法求解minx； 2x22設初始點為x( (4,4)T,迭代一次。<2x1、20、解：g(x)=<4x2，G(x)=<04,由最速下降法的迭代公式x(k 1)x(k)Tgk9kT9k9k Gg k可以算出x(1)(8&1 6 161.7 8-0.4 4 丿x(2)".78、3.56、r 0.30 A- 0 . 42=<-0.44 < -1 .780.30 丿8,10 4 丿(1 6F 2 0 卄 86)1111x(3)0.30 '0 .59 、廣0.13A-0.28l 0.30 丿J .19 i 一 0.03請用DFP擬牛頓法解

2、min2 c 2x1 2x2(0)取X1, 2一維搜索的步長:T二 Pk Pk ktPkGPkx(k 1)x(k)TPk PkT PkPkGPk用牛頓法求解2 2 2min x14x29x32x< 18 x3解：取初值x(0)0I I二 00 I，由丿2x1 - 2|I2100I1 1g(x)二 8X2G(x)二 0180I，18 x3180018根據牛頓迭代公式(k 1)(k)xxGk1gk計算得到由于牛頓法對正定二次函數一步到位所以最優(yōu)解*(1)Tx x(- (1,0,1)用DFP法求解0I I0I I01/2i0I01/0- 2丨i i001/18 11ii0II-1min (V

3、X )2 2(x2 - x； )2(0)設初始點為 X(0,°),初始矩陣為單位矩陣，求解：由x，H!,g（x）=14（x,21） 8人（冷-人） x2）34彳所以有4x2-2I I，Po0go（20求迭代點x(1)。令f （x。p。）3。（）二 12884232' " 44壽"14=0=0.25匚x廠X。： oPo-I丫 0、2, gi =c1丿01So 二Xi2X。二 2 , y。= gi g。二 廠1丿 oTy。So = 1于是，由DFP修正公式有T10120.25011 2 1i01510010< 4-( 0.25011 一0.210121丿

4、i00H廠 H° Ho嚴0H。y。H o y°so soTyo so0.450.4ii0.40.8對下列最優(yōu)化問題22minf(x)二x1 4x2s.t.-x2咗 1,xx2-1,x2空1T*41)、試驗證x =廠 為該問題的K-T點，并說明它是此約束優(yōu)化問題 <5 5丿的唯一全局最優(yōu)點.2 2min f (x)二 x1 4x2s.t. -x2 - - 1,x x2 - 1,_ x2 _1lf (x) = 'i' Ci(x)代入i =1jCj (x) = 0, i - 0,i I若 f(x是可微凸函數，則x為最優(yōu) 化問題min f (x), xRn,s

5、.t. x 0.的最優(yōu)解的充分必要條件為' f (x) - 0x 0.' f (x)T x = 0.證明：必要性：令 Lagrange函數為F(x) = f(x)- Tx，則在最優(yōu)點X處滿足KKT條件F(x) = f(x)-= 0T x = 0,0, x 0即有' f (x)T x = 0, f (x) - 0, x 0充分性：取入=7 f(x)則由條件知：F(x) = ' f(x)-= 00,0,x所以x所是最優(yōu)化問題min f (x), xRn,s.t. x 0.的KT點，而此問題為凸規(guī)劃， 為最優(yōu)點。用乘子法:2 2min2 f (x) = x - 3x2

6、 - x2 x R2s.t. x2 = 0.CT 一2M (x/ / ) = x12M2x廠0X!M2 x23X22xf -3 xx1X2+3T取 = - 3，即知 x = (0,0).例：2 2min2 f (x) =+ x2x R2s.t. X x2 - 2 = 0.2 2 GM (x, ,)= X x2 - xx2 - 2 xx2 - 22M2 x1 _k + x1(1)*x2 _ 2 一oM =2x2 -k + x1x2 - 2 二0(2)X27+=Xi=x2 二272九二丸-( x1+X22 12二扎一九+1CT+1*>1=J1, 加快）1*沖2CT=>*/lj/.+CT

7、+11*二 2屮T二 X =11用內點法求解min( xx2)s.t x1x2 ' 2X10.解:B(x,r)x1x21 r(2 -2Xi+2X21)X12rx12 _、22 2(XiX2 - 2)2rx2/ 22小、2(XiX2 - 2)r2Xi二0（已默認x廠0）0(已默認 x；x； - 2 - 0)由后兩個方程可以推出上兩式分別在兩邊乘x2, X1,在x廠0時x1 ) rx 2rx 2x2 - x- 一= 0 二 x1 (x2xi分析之：要目標小，但要求x10,故x20,且應較遠離0。 所以當r 0, x -； 0或x2 - x 0，后者致x2 = Xq =但目標決不在直線x= x1取到最小值.2 1 2 1所以取代入(X；X22rx(由前分析x22)2rx0).,22 2min f (x)二 x14x2s.t.x1 -X2 T,x x21,x2 1B(x,r)2=Xi4x2r In(1xx2ln( x1X21)ln( 1 X2)y廠 xx22X2X!52523B(y,r)=yi+y2yM442r ln( y2+ 1iln(yi -i)ln( 1 - yi/2 -y2/2)B 53r2ryi-y2+0,(i)yi 22yi-i2 -y< y2B35r2ryi+0,(2)討222y2i2 -yr y2柱B53r(1).yiy2S