非線性優(yōu)化問題的過濾線搜索方法

1、非線性優(yōu)化問題的過濾線搜索方法    線搜索方法是保證最優(yōu)化方法總體收斂的基本策略之一,具有簡單、可靠等優(yōu)點。求解搜索方向和步長是線搜索方法的關鍵組成部分,搜索方向的設計影響方法的收斂速度而搜索步長可確保下降方向方法的收斂性。本文主要以Armijo準則為基礎確定搜索步長,關于線搜索方法的擴展都是建立在擴展Armijo準則的基礎上。過濾算法一般用來解約束優(yōu)化問題,其主要思想在于試驗步在減少了目標函數(shù)或約束違反度情況下被接受成為新迭代。過濾技術很好地平衡了目標函數(shù)和約束條件,代替?zhèn)鹘y(tǒng)的罰函數(shù)方法保證了優(yōu)化算法的總體收斂性。過濾方法不僅可以用于信賴域序列二次規(guī)

2、劃(SQP)框架,也可用于線搜索框架。Wa¨chter和Biegler給出了過濾算法基礎上線搜索方法的總體收斂性。本文引入Fletcher和Leyffer提出的過濾技術,結合過濾方法和非單調方法、投影既約Hessian方法、完全投影正割方法、仿射內點方法、內點障礙法等,建立過濾線搜索算法框架,并將其應用于幾類典型的優(yōu)化問題,從理論上研究算法總體收斂性與局部收斂速率,用數(shù)值實驗檢驗算法的效果。過濾方法是典型的解約束優(yōu)化問題的方法,而Gould、Toint和Sainvitu提出了用多維過濾思想結合信賴域方法求解無約束優(yōu)化問題。本文利用無約束優(yōu)化問題的有關特征,將其轉化為有特殊結構的等式約

3、束優(yōu)化問題,結合過濾線搜索方法和牛頓法、非單調方法、MBFGS方法(即修正的BFGS方法),借助Wa¨chter和Biegler解非線性等式約束優(yōu)化問題的方法求解無約束優(yōu)化問題。在一定條件下證明了提供的算法具有總體收斂性和局部收斂速率,數(shù)值實驗結果表明新算法要優(yōu)于經(jīng)典的線搜索方法。Fontecilla提出的正割方法是很成功的解非線性等式約束優(yōu)化問題的方法。通過DFP或BFGS正割校正近似Lagrange函數(shù)的Hessian陣,大大降低了存貯空間和運算量。本文將正割方法與過濾線搜索方法相結合求解非線性等式約束優(yōu)化問題,其特點是修正正割方法產(chǎn)生搜索方向,過濾線搜索程序確定步長,二階校正技

4、術克服Maratos效應。在保持總體收斂性的情況下,算法具有2-步超線性收斂速率,數(shù)值結果表明算法是有效的。既約Hessian二次規(guī)劃算法被證實是求解較大規(guī)模約束優(yōu)化問題的有效方法之一,它只利用了Lagrange函數(shù)Hessian陣的部分信息,每次迭代的計算量小且算法所需內存也小。本文構造了既約Hessian過濾線搜索方法求解非線性等式約束優(yōu)化問題,在合理的假設下,證明了算法具有總體收斂性和超線性收斂速率,數(shù)值實驗結果證明該算法是可行的?；谶^濾線搜索有利于不等式約束的可行性,本文依據(jù)有界約束和線性不等式約束的特定條件結合內點投影和仿射投影技術,研究了過濾線搜索方法分別在有界約束優(yōu)化問題和線性

5、不等式約束優(yōu)化問題中的應用。在合理的假設下,該方法具有總體收斂性和局部超線性收斂速率。數(shù)值結果說明了算法具有一定的實際價值。很多文獻提出了用內點法求解不等式約束優(yōu)化問題,但如何有效地大規(guī)模求解非線性等式和線性不等式混合約束優(yōu)化問題,基于內點法的研究尚少見。本文將牛頓法、正割方法的思想與技術分別用于等式約束,結合過濾線搜索方法、內點投影和仿射投影技術適于不等式的特點綜合地解決這類問題。同時用光滑F(xiàn)letcher罰函數(shù)中關于等式約束的Lagrange函數(shù)和約束違反度作為過濾對的組成部分,避免了遭遇Maratos效應。我們證明了提供的算法具有總體收斂性和快速的局部收斂速率,給出了數(shù)值結果以說明算法的

6、有效可行。最后對本文的研究工作進行總結,提出了今后的研究設想。同主題文章1.    李霞,桂勝華. 改進的不帶線搜索的兩參數(shù)簇共軛梯度方法' J. 上海第二工業(yè)大學學報. 2004.(02)    2.    杜學武,徐成賢. 一族新共軛梯度法的全局收斂性' J. 數(shù)學研究. 1999.(03)    3.    肖明華. WAP營銷新模式' J. 大眾科技. 2004.(

7、08)    4.    王艷,田志遠,陳元媛,鄭希鋒. 一種線搜索下三項共軛梯度法的全局收斂性' J. 青島大學學報(自然科學版). 2006.(02)    5.    顧益明,朱德通. 有界變量約束優(yōu)化的仿射尺度不精確牛頓法(英文)' J. 上海師范大學學報(自然科學版). 2007.(05)    6.    周厚春,席敏. 復合非光

8、滑最優(yōu)化線搜索方法的全局收斂性(英文)' J. 南京師大學報(自然科學版). 2003.(03)    7.    濮定國,田蔚文. 帶調整線搜索方向的變尺度算法' J. 運籌學雜志. 1995.(01)    8.    杜學武,張文艷,原三領. 共軛下降法全局收斂的一個充分必要條件' J. 焦作工學院學報. 1998.(02)    9.    簡金寶,羅雁,徐慶娟. Hooke-Jeeves方法在簡單約束優(yōu)化中的推廣' J. 廣西科學. 2005.(02)    10.    柳娟,謝鐵軍,孫玉華. 一類共軛梯度法的全局收斂性' J. 運籌與管理. 2006.(03)    【關鍵詞相關文檔搜索】： 計算數(shù)學; 優(yōu)化問題; 過