優(yōu)化理論和最優(yōu)控制

分?jǐn)?shù): 任課教師簽字： 華北電力大學(xué)研究生結(jié)課作業(yè)學(xué)年學(xué)期：2013-2014第二學(xué)期課程名稱：優(yōu)化理論和最優(yōu)控制學(xué)生姓名：學(xué)號(hào)：提交時(shí)間：2014年4月26日優(yōu)化理論和最優(yōu)控制》結(jié)課總結(jié)摘要：最優(yōu)控制理論是現(xiàn)代控制理論的核心，控制理論的發(fā)展來源于控制對(duì)象的要求。盡50年來，科學(xué)技術(shù)的迅速發(fā)展，對(duì)許多被控對(duì)象，如宇宙飛船、導(dǎo)彈、衛(wèi)星、和現(xiàn)代工業(yè)設(shè)備的生產(chǎn)過程等的性能提出了更高的要求，在許多情況下要求系統(tǒng)的某種性能指標(biāo)為最優(yōu)。這就要求人們對(duì)控制問題都必須從最優(yōu)控制的角度去進(jìn)行研究分析和設(shè)計(jì)。最優(yōu)控制理論研究的主要問題是：根據(jù)已建立的被控對(duì)象的時(shí)域數(shù)學(xué)模型或頻域數(shù)學(xué)模型，選擇一個(gè)容許的控制律，使得被控對(duì)象按預(yù)定要求運(yùn)行，并使某一性能指標(biāo)達(dá)到最優(yōu)值[1]。關(guān)鍵字：最優(yōu)控制理論，現(xiàn)代控制理論，時(shí)域數(shù)學(xué)模型，頻域數(shù)學(xué)模型，控制率Abstract：TheOptimalControlTheoryisthecoreoftheModernControlTheory，thedevelopmentofcontroltheorycomesfromtherequiresofthecontrolledobjects.Duringthe50years，therapiddevelopmentofthescientifictechnologyputsmorestricterrequiresforwardtomangcontrolledobjects，suchasthespacecraft，theguidemissile，thesatellite，theproductiveprocessofmodernindustrialfacilities ，andsoon，andrequestssomeperformanceindexesthatwillbebestinmangcases.Tothecontrolproblem，itrequestspeopletoresearch,analyse ，anddevisefromthepointofviewoftheOptimalControlTheory.TherearemangmajorproblemsoftheOptimalControlTheorystudying,suchasthebuildingthetimedomain 'smodelorthefrenquencydomain'smodelaccordingtothecontrolledobjects,controllingacontrollawwithadmitting,makingthecontrolledobjectstoworkaccordingtothescheduledrequires,andmakingtheperformanceindextoreseachtoabestoptimalvalue.Keywords:TheOptimalControlTheroy，TheModernControlTheroy，TheTimeDomaint'sModel,TheFrequencydomain'sModel,TheControlLaw0引言最優(yōu)控制理論的形成和發(fā)展和整個(gè)現(xiàn)代自動(dòng)控制理論的形成和發(fā)展十分不開的。在20世紀(jì)50年代初期，就有人開始發(fā)表從工程觀點(diǎn)研究最短時(shí)間控制問題的文章，盡管其最優(yōu)性的證明多半借助于幾何圖形， 僅帶有啟發(fā)性質(zhì)，但畢竟為發(fā)展現(xiàn)代控制理論提供了第一批實(shí)際模型。 由于最優(yōu)控制問題引人注目的嚴(yán)格表述形式，特別是空間技術(shù)的迫切需求，從而吸引了大批科學(xué)家的密切注意。經(jīng)典變分理論只能解決一類簡(jiǎn)單的最優(yōu)控制問題，因?yàn)樗粚?duì)無約束或開集性約束是有效的。而實(shí)際上碰到的更多的是容許控制屬于閉集的一類最優(yōu)控制問題， 這就要求人們?nèi)ヌ剿?、求解最?yōu)控制問題的新途徑。下面介紹本課程的主要內(nèi)容，線性規(guī)劃：?jiǎn)渭冃畏ê蛯?duì)偶規(guī)劃；非線性規(guī)劃：共軛梯度法、最速下降法和牛頓法，還有最優(yōu)控制問題。1優(yōu)化理論的數(shù)學(xué)模型1.1基本數(shù)學(xué)概述線性規(guī)劃的標(biāo)準(zhǔn)形式：* nmaxf(x“X2,|||,Xn)=遲CjXja11X|+a12X2+|||十a(chǎn)1nXn=b(LP)彳IIIIHIIIIHam1X1am2X2+|IIamnXn-*X1,X2,lll,Xn》0方程解的情況：p■無可行解無最優(yōu)解有可行解＜士曰4的有唯一最優(yōu)解有最優(yōu)解」，、，一…有規(guī)劃數(shù)學(xué)的基本知識(shí)可以知道：二維線性規(guī)劃問題若有最優(yōu)解，貝愎優(yōu)解一定可在可行域的某個(gè)頂點(diǎn)上達(dá)到。1.2一維搜索1.2.1進(jìn)退法進(jìn)退法特點(diǎn)&適用條件：-＞可以用相同的試點(diǎn)數(shù)計(jì)算出最精確的解的估計(jì)區(qū)間-＞所用函數(shù)f(t)為下單峰函數(shù)基本算法：-＞確定試點(diǎn)個(gè)數(shù)n-＞根據(jù)相對(duì)精度:，得出Fibonacci數(shù)Fn-＞使n是滿足丄一的最小數(shù)。-＞對(duì)于初始區(qū)間[ao,bo]ti=b°+字(a。-bo)令 Jti'a。 -^(bo-a。)、、-n計(jì)算函數(shù)值f(ti),f(ti)，比較其大小若f(tj：：：f(ti)，則令 ai = a。，bi =tit- ti，并令12= bi ■n(a^- bi)Fn/否則，令ai=ti，bi=bo，t2=t^，并令t^ai■ (bi-ajFn4如第3步繼續(xù)迭代，通式為

Fn_kbki F-Fn_k1aFn_kbki F-Fn_k1ak二-Fn±Fn_kJ1,k=1,2「，n-2(bkj-akj)tn」=—?_2+bn_2)其中；是充分小的數(shù)令＜ 2其中；是充分小的數(shù)1tn"_L=an^+(：+?(bn/+an/)?2在tn山心兩點(diǎn)中以函數(shù)值較小的為近似極小點(diǎn)，相應(yīng)的函數(shù)值為近似極小值，并得最終區(qū)間［anN，tn』或［tn」,bn‘］1.2.2 黃金分割法黃金分割法實(shí)際上是試探法的一種，它根據(jù)單峰函數(shù)構(gòu)造。設(shè)F(x)是搜索區(qū)間［a，b］上的單峰函數(shù)。為了進(jìn)行一維搜索，求一維目標(biāo)函數(shù)的極小點(diǎn)，我們可以采用試探方法來進(jìn)行。為了逐步縮小單峰區(qū)間.在區(qū)間內(nèi)任取兩點(diǎn)Xl,x2算函數(shù)值為F(Xi)和F(x2))，比較這兩個(gè)函數(shù)值的大小，將出現(xiàn)以下三種情況。當(dāng)F(Xi)<F(X2)時(shí)，由于函數(shù)單峰性.極小點(diǎn)必于區(qū)間［aX2］內(nèi)，這時(shí)可丟掉［X2b］，把搜索區(qū)間縮小為［aX2］0當(dāng)F(Xi)>F(X2)時(shí)，同理?極小點(diǎn)必在區(qū)間［Xlb］內(nèi)?把搜索區(qū)間縮小為［Xib］oF(X)aXi X2 b當(dāng)F(xj=F(X2)時(shí)，這時(shí)極小點(diǎn)應(yīng)在區(qū)間［XiXF(X)aXi X2 b若第一次選取的試點(diǎn)為x「：：X2，則下一步保留區(qū)間為［a,x2］或［Xi,b］,兩者的機(jī)會(huì)是均等的，因此選取試點(diǎn)時(shí)希望X2-a=b-x1，實(shí)際計(jì)算取近似值：X!=a0.382（b_a）,X2二a0.618（b-a）黃金分割法是Fibonacci法的極限形式。每次縮小區(qū)間的比例是一致的，每次將區(qū)間長(zhǎng)度縮小到原來的0.618倍。2線性規(guī)劃2.1單純形法線性規(guī)劃問題的可行域是n維向量空間Rn中的多面凸集，其最優(yōu)值如果存在必在該凸集的某頂點(diǎn)處達(dá)到。頂點(diǎn)所對(duì)應(yīng)的可行解稱為基本可行解。單純形法的基本思想是：先找出一個(gè)基本可行解，對(duì)它進(jìn)行鑒別，看是否是最優(yōu)解；若不是，則按照一定法則轉(zhuǎn)換到另一改進(jìn)的基本可行解，再鑒別；若仍不是，則再轉(zhuǎn)換，按此重復(fù)進(jìn)行。因基本可行解的個(gè)數(shù)有限，故經(jīng)有限次轉(zhuǎn)換必能得出問題的最優(yōu)解。如果問題無最優(yōu)解也可用此法判別。根據(jù)單純形法的原理，在線性規(guī)劃問題中，決策變量（控制變量）x1,x2,…xn的值稱為一個(gè)解,滿足所有的約束條件的解稱為可行解。使目標(biāo)函數(shù)達(dá)到最大值（或最小值）的可行解稱為最優(yōu)解。這樣，一個(gè)或多個(gè)最優(yōu)解能在整個(gè)由約束條件所確定的可行區(qū)域內(nèi)使目標(biāo)函數(shù)達(dá)到最大值（或最小值） 。求解線性規(guī)劃問題的目的就是要找出最優(yōu)解。最優(yōu)解可能出現(xiàn)下列情況之一：①存在著一個(gè)最優(yōu)解；②存在著無窮多個(gè)最優(yōu)解；③不存在最優(yōu)解，這只在三種情況下發(fā)生，即沒有可行解或各項(xiàng)約束條件不阻止目標(biāo)函數(shù)的值無限增大（或向負(fù)的方向無限增大）。單純形法的一般解題步驟可歸納如下：①把線性規(guī)劃問題的約束方程組表達(dá)成典范型方程組，找出基本可行解作為初始基本可行解。②若基本可行解不存在，即約束條件有矛盾，則問題無解。③若基本可行解存在，從初始基本可行解作為起點(diǎn)，根據(jù)最優(yōu)性條件和可行性條件，引入非基變量取代某一基變量，找出目標(biāo)函數(shù)值更優(yōu)的另一基本可行解。④按步驟 3進(jìn)行迭代，直到對(duì)應(yīng)檢驗(yàn)數(shù)滿足最優(yōu)性條件(這時(shí)目標(biāo)函數(shù)值不能再改善)，即得到問題的最優(yōu)解。⑤若迭代過程中發(fā)現(xiàn)問題的目標(biāo)函數(shù)值無界，則終止迭代。用單純形法求解線性規(guī)劃問題所需的迭代次數(shù)主要取決于約束條件的個(gè)數(shù)?，F(xiàn)在一般的線性規(guī)劃問題都是應(yīng)用單純形法標(biāo)準(zhǔn)軟件在計(jì)算機(jī)上求解， 對(duì)于具有10A6個(gè)決策變量和10A4個(gè)約束條件的線性規(guī)劃問題已能在計(jì)算機(jī)上解得。2.2對(duì)偶規(guī)劃原始規(guī)劃與對(duì)偶規(guī)劃是同一組數(shù)據(jù)參數(shù)，只是位置有所不同，所描述的問題實(shí)際上是同一個(gè)問題從另一種角度去描述。推論若xo是原始線性規(guī)劃的可行解，yi是對(duì)偶線性規(guī)劃的可行解，cTx0=bTy0，則X。與yi分別是原始線性規(guī)劃問題與對(duì)偶線性規(guī)劃問題的最優(yōu)解。對(duì)偶的線性規(guī)劃都有最優(yōu)解的充要條件是兩者都有可行解。 若原始線性規(guī)劃問題與對(duì)偶線性規(guī)劃問題之一具有無界的目標(biāo)函數(shù)值， 則另一個(gè)無可行解。若原始線性規(guī)劃問題與對(duì)偶線性規(guī)劃問題之一有最優(yōu)解，則另一個(gè)也有最優(yōu)解，并且它們目標(biāo)函數(shù)的最優(yōu)值相等.3非線性規(guī)劃3.1最速下降法最速下降法又稱為梯度法，是1847年由著名數(shù)學(xué)家Cauchy給出的，它是解析法中最古老的一種，其他解析方法或是它的變形，或是受它的啟發(fā)而得到的，因此它是最優(yōu)化方法的基礎(chǔ)。作為一種基本的算法，他在最優(yōu)化方法中占有重要地位。其優(yōu)點(diǎn)是工作量少，存儲(chǔ)變量較少，初始點(diǎn)要求不高；缺點(diǎn)是收斂慢，效率不高，有時(shí)達(dá)不到最優(yōu)解。最速下降法迭代公式是f(xr:kPk)二minf(XkpQ迭代步驟如下：給定初點(diǎn)x，允許誤差；>0，令k=0。計(jì)算搜索方向gk二g(x<)若||gj|-；，貝Ux~xk，停止；否則令Pk=-9k，由一維搜索步長(zhǎng)\，使得f他?：kPk)二m.iqf(Xk*Pk)令Xk勺二Xk*kPk,k=k+1，轉(zhuǎn)步驟(2)。3.2共軛梯度法共軛梯度法(ConjugateGradien)是介于最速下降法與牛頓法之間的一個(gè)方法，它僅需利用一階導(dǎo)數(shù)信息，但克服了最速下降法收斂慢的缺點(diǎn)，又避免了牛頓法需要存儲(chǔ)和計(jì)算Hesse矩陣并求逆的缺點(diǎn)，共軛梯度法不僅是解決大型線性方程組最有用的方法之一，也是解大型非線性最優(yōu)化最有效的算法之一。 在各種優(yōu)化算法中，共軛梯度法是非常重要的一種。其優(yōu)點(diǎn)是所需存儲(chǔ)量小，具有步收斂性，穩(wěn)定性高，而且不需要任何外來參數(shù)。二次函數(shù)的共軛方向法的迭代步驟：1已知具有正定矩陣G的二次目標(biāo)函數(shù)f(x^-xtGxbTxc和終止限；。2給定初始點(diǎn)X。下降方向Po，置k=0。作精確一維搜索f(人：kPk)二minf(人：pj，求步長(zhǎng):k。令Xki=Xk—Pk。若gja?；，則xKi，停；否則，轉(zhuǎn)步驟(5)。取共軛方向Pk1使得pTGpj=0,i=0，1， ， k令k=k+1,轉(zhuǎn)步驟(2)。3.3牛頓法基本思想：用二次函數(shù)逼近目標(biāo)函數(shù)，用二次函數(shù)的極小值點(diǎn)逼近目標(biāo)函數(shù)的極小值點(diǎn)。計(jì)算方法將f(X)在Xk點(diǎn)展成二階泰勒級(jí)數(shù)，即f(X)p(X)=f(Xk)[If(XkT](X—Xk)￡(X—Xk)TH(Xk)(X—xk)令'、p(X)=0，即lf(Xk)H(Xk)(X—xk)=0若H(Xk)正定，由上式解出X，并把它記作Xk1得Xk1二Xk-[H(Xk)]J\f(Xk)以此作為迭代公式就是牛頓法。廣義牛頓法牛頓法中：pk=~[H(Xk)]叫f(Xk) ，k=1此方法對(duì)二次嚴(yán)格凸函數(shù)是非常有效的，迭代一步即可求出最優(yōu)解。一般不能保證點(diǎn)列{Xk}收斂。廣義牛頓法基本思想：pk=TH(Xk)]Ff(xk)，按最佳步長(zhǎng)確定沙和Xk+1，即minf(Xk，Pk)=f(XkkPk)，一0xk1二xk-k[H(Xk)]七f(xk)3.4單純形法1>n維單純形：不在同一超平面上的n?1個(gè)點(diǎn)生成的凸多面體。1維、2維、3維單純形例子。2>基本思想：比較目標(biāo)函數(shù)在單純形的n，1個(gè)頂點(diǎn)處的函數(shù)值，去掉其中最差點(diǎn)，代之以新點(diǎn)構(gòu)成新的單純形。重復(fù)上述過程，使單純形逐步逼近于極小值點(diǎn)。(1)反射設(shè)Xi(i=0,1…，n)為單純形的n，1個(gè)頂點(diǎn)，記飛=f(X)/^ma^{f^f(Xh)*一fs=max“i10勾玄n,i芒h}=f(Xs)丿廣創(chuàng)“皿1)求Xh反射點(diǎn)Xr，xr=xc（xc-xh）=2Xc-x

其中xc其中xc1\xini-hXc是去掉Xh后所有頂點(diǎn)的形心擴(kuò)張1＞若f^f(Xr)：：：fi,X°=xc：(xc—xh) (: 1)2＞若f(Xe)：：：f(Xr)，以Xe代替Xh構(gòu)成新的單純形；否則，用Xr代替Xh構(gòu)成新的單純形，并返回(1)。3＞若￡乞f(X、：：：fs，則以Xr代替Xh構(gòu)成新的單純形，并返回(1)。收縮1＞如果fs遼f(Xr)：：：fh，令：xh=xr，然后壓縮求點(diǎn)Xp，xp=Xc"Xh-Xc) (0::：■-：：：1)2＞若f(Xr)一仏，將點(diǎn)Xp壓縮在Xc與Xh之間，xp仍上式確定3＞若f(Xp)：：：f(Xh)，則以Xp代替Xh得新的單純形；否則，令xi二(Xixl)/2,i=0,1,,n得新的單純形，返回(1)0如此繼續(xù)計(jì)算，直至滿足某個(gè)收斂指標(biāo)為止。3.5DFPDFP校正是第一個(gè)擬牛頓校正是1959年由Davidon提出的后經(jīng)Fletcher和Powell改進(jìn)故名之為DFP算法它也是求解無約束優(yōu)化問題最有效的算法之一.DFP算法基本原理考慮如下形式的校正公式Hk1=Hk：kUkU： rVkVj (7)

其中Uk,Vk是特定n維向量，九「k是待定常數(shù)?這時(shí)，校正矩陣是Ek「山小現(xiàn)在來確定Ek.根據(jù)擬Newton條件，Ek必須滿足（6），于是有（：kUkU：「MvQyk=Sk-Hkyk或_：：kUkUkyk-kVkVkyk=Sk-Hkyk?滿足這個(gè)方程的待定向量Uk和Vk有無窮多種取法，下面是其中的一種::kUkUkyk=Sk，1MVjyk一仏yk注意到U：yk和VkTyk都是數(shù)量，不妨取Uk=Sk， Vk-Hkyk，同時(shí)定出1TTSk1TTSkyk1y：Hkyk將這兩式代回（5.32）得Hki二HHki二HkSkykHkykyk~HkyMyk(8)這就是DFP校正公式.3.6罰函數(shù)法罰函數(shù)法是利用原問題的目標(biāo)函數(shù)和約束條件構(gòu)造新的目標(biāo)函數(shù)--罰函數(shù)，把約束最優(yōu)化問題轉(zhuǎn)化為相應(yīng)的罰函數(shù)的無約束最優(yōu)化問題來求解。罰函數(shù)分為內(nèi)罰函數(shù)法、外罰函數(shù)法、廣義乘子法法罰函數(shù)根據(jù)約束條件的不同構(gòu)造的輔助函數(shù)也不相同。不等式約束問題的輔助函數(shù)與等式約束的輔助函數(shù)情形不同，但構(gòu)造輔助函數(shù)的基本思想是一致的，這就是：在可行點(diǎn)輔助函數(shù)等于原來的目標(biāo)函數(shù)值，在不可行點(diǎn)，輔助函數(shù)值等于原來的目標(biāo)函數(shù)值加上一個(gè)很大的正數(shù)。無約束優(yōu)化問題的最優(yōu)解趨于一個(gè)極限點(diǎn)，這個(gè)極限點(diǎn)正是原來的約束問題的最優(yōu)解。此外，無約束問題的最優(yōu)解往往不滿足原來問題的約束條件，它是從可行域外部趨向原問題的最優(yōu)點(diǎn)。因此也稱為外罰函數(shù)，相應(yīng)的最優(yōu)化方法稱為外點(diǎn)法或外罰函數(shù)法。內(nèi)點(diǎn)法在迭代總是從內(nèi)點(diǎn)出發(fā)，并保持在可行域內(nèi)部進(jìn)行搜索。因此，這種方法適用于不等式約束的問題。4最優(yōu)控制最優(yōu)控制，就是將通常的最優(yōu)控制問題抽象成一個(gè)數(shù)學(xué)問題，并且用數(shù)學(xué)語言嚴(yán)格的表示出來，最優(yōu)控制可分為靜態(tài)最有和動(dòng)態(tài)最有兩類。靜態(tài)最優(yōu)是指在穩(wěn)定情況下實(shí)現(xiàn)最優(yōu)，它反映系統(tǒng)達(dá)到穩(wěn)態(tài)后的靜態(tài)關(guān)系。系統(tǒng)中的各變量不隨時(shí)間變化，