第1章優(yōu)化算法基本理論.ppt

智能優(yōu)化算法,第一章優(yōu)化算法基本理論第二章神經網絡基本理論第三章遺傳算法基本理論第四章蟻群算法基本理論第五章蜂群算法基本理論第六章粒子群算法基本理論第七章魚群算法基本理論第八章其他群智能優(yōu)化算法,課程結構及學時安排,1.1優(yōu)化的概念與方法1.1.1優(yōu)化的概念1.1.2優(yōu)化的一般數學模型1.1.3優(yōu)化的分類1.1.4優(yōu)化問題的求解方法1.1.5常用的無約束優(yōu)化方法1.2智能優(yōu)化的概念及分類1.2.1智能優(yōu)化的概念1.2.2智能優(yōu)化的分類1.3群體智能的概念及分類1.3.1群體智能的概念1.3.2群體智能的分類1.3.3群體智能的特點1.3.2群體智能算法的一般流程,第1章優(yōu)化算法基本理論,1.1優(yōu)化的概念及方法1.1.1優(yōu)化的概念優(yōu)化、最優(yōu)化均是一個術語，是指關于求解一個問題的“最優(yōu)”解的計算科學的一個分支，也就是從各種可能方案中選取一個最好的，以達到最優(yōu)目標。從數學意義上說，最優(yōu)化方法是一種求極值的方法，即在一組約束為等式或不等式的條件下，使系統的目標函數達到極值，即最大值或最小值。從經濟意義上說，是在一定的人力、物力和財力資源條件下，使經濟效果達到最大（如產值、利潤），或者在完成規(guī)定的生產或經濟任務下，使投入的人力、物力和財力等資源為最少。,1.1優(yōu)化的概念及方法,優(yōu)化技術是一種以數學為基礎、用于求解各種工程問題優(yōu)化解的應用技術。,1.2智能優(yōu)化的概念及方法,1.2智能優(yōu)化的概念及方法1.2.1智能優(yōu)化的概念人工智能（ArtificialIntelligent，簡稱AI）是在計算機科學、控制論、信息論、哲學、語言學等多種學科研究基礎上發(fā)展起來的一門綜合性交叉學科。即人工智能就是用人工的方法在機器（計算機）上實現的智能，或者說是人們使機器具有類似于人的智能。智能優(yōu)化算法（intelligentoptimizationalgorithms）是以模擬物質變化過程或模擬生命體而設計的搜索方式為基礎的各類算法的總稱。有時也稱為啟發(fā)式算法（modernheuristicalgorithms）、仿生算法、演化算法或進化算法。,1.2智能優(yōu)化的概念及方法,智能優(yōu)化算法的本質都屬于隨機性算法，最大優(yōu)點是不需要目標函數具有可導性，甚至不需要目標函數有明確的表達形式，只要知道輸入輸出即可。1.2.2智能優(yōu)化的分類兔子理論：為了找出地球上最高的山，一群兔子開始想辦法。兔子朝著比現在高的地方跳去。他們找到了不遠處的最高山峰。但是這座山不一定是珠穆朗瑪峰。這就是局部搜索，它不能保證局部最優(yōu)值就是全局最優(yōu)值。兔子喝醉了。他隨機地跳了很長時間。這期間，它可能走向高處，也可能踏入平地。但是，他漸漸清醒了并朝最高方向跳去。這就是模擬退火。,1.2智能優(yōu)化的概念及方法,兔子們吃了失憶藥片，并被發(fā)射到太空，然后隨機落到了地球上的某些地方。他們不知道自己的使命是什么。但是，如果你過幾年就殺死一部分海拔低的兔子，多產的兔子們自己就會找到珠穆朗瑪峰。這就是遺傳算法。兔子們知道一個兔的力量是渺小的。他們互相轉告著，哪里的山已經找過，并且找過的每一座山他們都留下一只兔子做記號。他們制定了下一步去哪里尋找的策略。這就是禁忌搜索。,1.3群體智能的概念及方法,1.3群體智能的概念及方法1.3.1群體智能的概念群體智能（SI）簡稱群智能，指的是簡單智能的個體通過合作表現出復雜智能行為的特性，也就是無智能的主體通過合作表現出智能行為的特性。其本質上是一種概率搜索，不需要問題的梯度信息。群體智能算法的基本思想是模擬自然界生物的群體行為來構造隨機優(yōu)化算法。將搜索和優(yōu)化過程模擬成個體的進化或覓食過程，用搜索空間中的點模擬自然界中的個體，將求解問題的目標函數度量成個體對環(huán)境的適應能力，將個體的優(yōu)勝劣汰過程或覓食過程類比為搜索和優(yōu)化過程中用好的可行解取代較差可行解的迭代過程。,1.2智能優(yōu)化的概念及方法,因此，形成一種以“生成+檢驗”特征的迭代搜索算法，是一種求解極值問題的自適應人工智能技術。也可以說，群智能是一種自下而上的優(yōu)化方法，即首先設計單個實體的感知、行為機制，然后將一個或一群實體置于環(huán)境中，讓它們在與環(huán)境的交互作用中解決問題。1.3.2群體智能的分類由于群體智能是由社會性動物的自組織行為產生的，因此新算法不斷涌現。根據目前的有關報道，主要有粒子群算法、蟻群算法、魚群算法、蜂群算法、蛙跳算法、布谷鳥算法、螢火蟲算法、蝙蝠算法、磷蝦群算法、細菌覓食算法、煙花算法、頭腦風暴算法、智能水滴算法、磁鐵算法等等。,1.2智能優(yōu)化的概念及方法,1.3.3群體智能的特點靈活性：群體可以適應隨時變化的系統或網絡環(huán)境；分布性：在群體智能中，相互協作的個體是分布式存在的，其初始分布狀態(tài)可以是均勻或非均勻隨機分布，且無中心，個體間完全自組織，體現出群體的智能特征。穩(wěn)健性：不存在中心或統一的控制，即使某個個體失敗，整個群體仍然具有完成任務的能力，不會出現由于某一個或某幾個個體出現故障而影響整個問題的求解。也就是說群體智能的整體智慧是通過個體間以及個體與環(huán)境間的相互作用而綜合體現出來的，因此單個個體對整體的影響較小，不會因其中一個個體的因素影響整體性能?！痉€(wěn)健性】指在不同條件和環(huán)境下算法的適應性和有效性。,1.2智能優(yōu)化的概念及方法,簡單性：群體智能中的個體是低智能和簡單的，每個個體只能感知局部信息，也只能與局部個體進行信息交流，并且群體中每個個體的能力或遵循的行為規(guī)則非常簡單，因而群體智能的實現比較方便。可擴充性：群體智能中的個體不僅可以進行相互之間的直接通信，也可以通過環(huán)境進行非直接通信，即個體之間通過所處的小環(huán)境作為媒介進行交互，具有自組織性。這樣就使得整個系統具備良好的可擴展性。自組織性：個體活動既不受中央控制，也不受局部監(jiān)管，即群體表現出來的復雜行為是通過簡單個體的交互而凸現出來的智能。,1.2智能優(yōu)化的概念及方法,1.3.4群體智能的一般流程Step1：設置參數，初始化種群；Step2