支持向量機課件

支持向量機支持向量機1.引言1.1.支持向量機提出的背景1.2.支持向量機發(fā)展現(xiàn)狀1.3.支持向量機現(xiàn)在存在的問題2.支持向量機基本原理及特點3.支持向量機訓練算法4.新型支持向量機5.展望6.應用舉例

1.引言

1.1.支持向量機提出的背景

上世紀60年代，Rosenblatt（1958）提出了第一個稱作感知器的學習機器模型，標志著人們對學習過程進行數(shù)學研究的真正開始。Rosenblatt的主要貢獻是把感知器模型表現(xiàn)為一個計算機程序，并且通過簡單的試驗，說明了此模型的可推廣性。反向傳播（BP，BackPropagation）技術可以同時尋找多個神經(jīng)元的權值，標志著構造一般性學習機器研究的完成。學習機器的研究歷史進入了一個新階段，即人工神經(jīng)元網(wǎng)絡（ANNArtificialNeuralNetwork）時代。1.1.支持向量機提出的背景在隨后十幾年中，人們在許多領域?qū)ι窠?jīng)網(wǎng)絡進行了深入細致的研究，不但在實際應用中取得了良好效果，而且提出了若干其他神經(jīng)網(wǎng)絡模型，如自組織映射模型、反饋型以及隨機型神經(jīng)網(wǎng)絡等等。盡管神經(jīng)網(wǎng)絡在許多應用領域都取得了重要成果，但其實現(xiàn)過程過多地依賴于人的主觀意識和先驗知識，而不是建立在嚴格的理論基礎之上，因此，難以對神經(jīng)網(wǎng)絡模型的性能及其適用范圍進行理論分析。也正因為如此，人們在十幾年的神經(jīng)計算研究中，并沒有對一般的學習理論帶來更大的貢獻（Vapnik，1998）。1.1.支持向量機提出的背景及意義

傳統(tǒng)統(tǒng)計學研究的內(nèi)容是樣本無窮大時的漸進理論，即當樣本數(shù)據(jù)趨于無窮多時的統(tǒng)計性質(zhì)。而實際問題中樣本數(shù)據(jù)往往是有限的。因此，假設樣本數(shù)據(jù)無窮多，并以此為基礎推導出的各種算法，很難在樣本數(shù)據(jù)有限時取得理想的應用效果。神經(jīng)網(wǎng)絡（ANN）的過學習問題就是一個典型的例子。當樣本數(shù)據(jù)有限時，本來具有良好學習能力的學習機器有可能表現(xiàn)出很差的泛化性能。早在20世紀70年代誕生的統(tǒng)計學習理論（SLT，StatisticalLearningTheory），系統(tǒng)地研究了機器學習問題。它對有限樣本情況下的統(tǒng)計學習問題提供了一個有效的解決途徑，彌補了傳統(tǒng)統(tǒng)計學的不足。1.1.支持向量機提出的背景統(tǒng)計學習理論是一種專門研究小樣本情況下機器學習規(guī)律的基本理論和數(shù)學構架，也是小樣本統(tǒng)計估計和預測學習的最佳理論。Vapnik（1963，1971）等人從六、七十年代開始致力于此方面研究。到上世紀九十年代中期，隨著該理論的不斷發(fā)展和成熟，產(chǎn)生了基于統(tǒng)計學習理論體系的新的通用機器學習方法，即支持向量機（SVMs，SupportVectorMachines）。1.引言1.1.支持向量機提出的背景1.2.支持向量機發(fā)展現(xiàn)狀1.3.支持向量機現(xiàn)在存在的問題2.支持向量機基本原理及特點3.支持向量機訓練算法4.新型支持向量機5.展望6.應用舉例1.2支持向量機發(fā)展現(xiàn)狀

支持向量機算法一經(jīng)提出，就得到國內(nèi)外學者的高度關注。學術界普遍認為它是繼神經(jīng)網(wǎng)絡之后的一個新的研究方向。在短短的幾年里，取得了一系列令人矚目的研究成果。1.2.支持向量機發(fā)展現(xiàn)狀（1）支持向量機的理論研究：雖然支持向量機發(fā)展時間很短，但是由于它的產(chǎn)生是基于統(tǒng)計學習理論的，因此具有堅實的理論基礎。近幾年涌現(xiàn)出的大量理論研究成果，更為其應用研究奠定了堅實基礎。-Anthony.（1999）等人給出了關于硬鄰域支持向量機學習誤差的嚴格理論界限，Shawe-Taylo（r2000）和Cristianin（i2000）也給出了類似的關于軟鄰域支持向量機和回歸情況下的誤差界限；-Westonetal.（1998）和Vapnik（1995，1998）等研究了支持向量機的泛化性能及其在多值分類和回歸問題的擴展問題；-Smola（1998）和Schoelkopf（1999）提出了支持向量機一般意義下的損失函數(shù)數(shù)學描述；-脊回歸是由Tikhonov提出的一種具有特殊形式的正則化網(wǎng)絡，Girosi（1990）、Poggio（1975）等將其應用到正則化網(wǎng)絡的學習中，Smolaetal.（1999）研究了狀態(tài)空間中脊回歸的應用，Giros（i1990）、Smola（1998）、Schoelkopf（1999）等討論了正則化網(wǎng)絡和支持向量機的關系。1.2.支持向量機發(fā)展現(xiàn)狀（2）支持向量機的訓練算法：支持向量機的最終求解問題歸結(jié)為一個有約束的二次型規(guī)劃（QP，QuadraticProgramming）問題?？梢岳脴藴识涡蛢?yōu)化技術來求解這個優(yōu)化問題，如牛頓法、共扼梯度法、內(nèi)點法等。但是，這些方法只適合小樣本情況，當樣本數(shù)目較大時，算法復雜度會急劇增加，而且占用極大的系統(tǒng)內(nèi)存。為降低計算資源、提高算法效率，已經(jīng)提出許多針對大規(guī)模樣本集的訓練算法：1.2.支持向量機發(fā)展現(xiàn)狀

四種訓練算法1)分塊算法（Chunking）（CortesandVapnik，1995）2)子集選擇算法（SubsetSelectionalgorithms）（Osuna，1997；Joachims，1998）3)序列最小優(yōu)化算法（SMO，SequentialMinimalOptimization）（Platt，1998）4）增量式算法（Cauwenberghs，2001）支持向量機1.引言1.1.支持向量機提出的背景1.2.支持向量機發(fā)展現(xiàn)狀

1.3.支持向量機現(xiàn)在存在的問題2.支持向量機基本原理及特點3.支持向量機訓練算法4.新型支持向量機5.展望6.應用舉例1.3.支持向量機現(xiàn)在存在的問題支持向量機自出現(xiàn)以來，理論上的研究飛速發(fā)展，應用領域越來越廣泛。但與理論研究相比較，應用研究相對比較滯后。相比之下，分類問題的研究較為成熟，其他方面如時間序列分析，回歸，聚類等方面的研究，還有待進一步地完善。雖然到目前已經(jīng)提出了多種訓練算法，卻依然存在一些問題亟待解決。1.3.支持向量機現(xiàn)在存在的問題1）支持向量機在理論上，核函數(shù)及參數(shù)的構造和選擇缺乏理論指導；2）作為支持向量機基礎的原始問題解和對偶問題解的關系上，當前研究存在邏輯缺陷；3）在部分情況下，支持向量機無法利用現(xiàn)有的公式計算決策函數(shù)的閾值；1.3.支持向量機現(xiàn)在存在的問題4）支持向量機中一類重要的變形方法，雖然有效，但缺乏相應的統(tǒng)計學習理論基礎；5）LS-SVM將SVM的求解從QP問題向線性方程組的成功轉(zhuǎn)化極大地提高了SVM的求解效率，也降低了SVM的學習難度，極大地促進了SVM的應用。但LS-SVM同時也喪失SVM的稀疏性與魯棒性。支持向量機1.引言1.1.支持向量機提出的背景1.2.支持向量機發(fā)展現(xiàn)狀1.3.支持向量機現(xiàn)在存在的問題2.支持向量機基本原理及特點3.支持向量機訓練算法4.新型支持向量機5.展望6.應用舉例2.支持向量機基本原理基本原理：通過用非線性映射將輸入空間變換到一個高維空間，在這個高維空間中尋找輸入變量和輸出變量之間的一種非線性關系。注意到算法僅使用高維空間中的內(nèi)積，通過引入核函數(shù)，高維空間的內(nèi)積運算就可用原空間中的函數(shù)來實現(xiàn)，甚至沒有必要知道非線性映射的形式。通過采用適當?shù)暮撕瘮?shù)就可實現(xiàn)某一非線性變換后的線性分類，而計算復雜度沒有增加，從而在一定程度上避免了維數(shù)災難問題。2.支持向量機的特點1.非線性映射是SVM方法的理論基礎,SVM利用內(nèi)積核函數(shù)代替向高維空間的非線性映射;2.對特征空間劃分的最優(yōu)超平面是SVM的目標,最大化分類邊際的思想是SVM方法的核心;3.支持向量是SVM的訓練結(jié)果,在SVM分類決策中起決定作用的是支持向量。2.支持向量機的特點SVM是一種有堅實理論基礎的新穎的小樣本學習方法。它基本上不涉及概率測度及大數(shù)定律等,因此不同于現(xiàn)有的統(tǒng)計方法。從本質(zhì)上看,它避開了從歸納到演繹的傳統(tǒng)過程,實現(xiàn)了高效的從訓練樣本到預報樣本的“轉(zhuǎn)導推理”(transductiveinference),大大簡化了通常的分類和回歸等問題。支持向量機1.引言1.1.支持向量機提出的背景1.2.支持向量機發(fā)展現(xiàn)狀1.3.支持向量機現(xiàn)在存在的問題2.支持向量機基本原理3.支持向量機訓練算法4.新型支持向量機5.展望6.應用舉例3.支持向量機訓練算法支持向量機的最終求解問題歸結(jié)為一個有約束的二次型規(guī)劃（QP，QuadraticProgramming）問題?？梢岳脴藴识涡蛢?yōu)化技術來求解這個優(yōu)化問題，如牛頓法、共扼梯度法、內(nèi)點法等。但是，這些方法只適合小樣本情況，當樣本數(shù)目較大時，算法復雜度會急劇增加，而且占用極大的系統(tǒng)內(nèi)存。為降低計算資源、提高算法效率，已經(jīng)提出許多針對大規(guī)模樣本集的訓練算法：3.支持向量機訓練算法分塊算法（Chunking）（CortesandVapnik，1995）

-1995年，Cortes和Vapnik給出了一種求解支持向量機二次規(guī)劃（QP）問題的分塊算法。其依據(jù)是支持向量機的最終求解結(jié)果只與支持向量有關，與非支持向量無關。3.支持向量機訓練算法其實現(xiàn)過程是將初始QP問題分解為一系列小規(guī)模的QP子問題，不斷的求解QP子問題，保留解中的支持向量，并加入到新的QP子問題中。每個QP子問題都采用上次求解的結(jié)果作為初始值。直到所有的QP子問題求解完畢。這種方法可以大大減小算法占用的系統(tǒng)內(nèi)存。然而，當樣本集中的支持向量數(shù)目很大時，其算法復雜度仍然很大。3.支持向量機訓練算法(2)子集選擇算法（Osuna，1997；Joachims，1998）-為加快支持向量機的訓練速度，Osuna（1997）提出了子集選擇算法。該方法首先將數(shù)據(jù)集分塊（chunking），從分塊數(shù)據(jù)中提取支持向量，并加以保留，然后補充新的樣本，反復運算，直至所有的樣本都滿足KKT（Karush-Kuhn-Tucker）（Vapnik，1995）收斂條件。1998年，Joachims指出，采用啟發(fā)式迭代策略會提高算法的收斂速度，并提出一種稱為SVMlight的支持向量機分解學習算法。該算法實際上是子集選擇算法的推廣。3.支持向量機訓練算法(3)序列最小優(yōu)化算法（SMO）（Platt，1998）1998年，Platt提出了更為有效的支持向量機訓練算法，即序列最小優(yōu)化算法。其基本思想是把一個大數(shù)據(jù)量的QP分解為一系列最小的QP子優(yōu)化問題。該算法是分解算法的一個極端特例。其實現(xiàn)過程為，每次針對兩個樣本的二次規(guī)劃問題，直接采用解析方法求其最優(yōu)解，以提高QP問題的求解速度。Platt設計了一個兩層嵌套循環(huán)過程實現(xiàn)其算法。在外環(huán)中采用啟發(fā)式方法尋找違背KKT最優(yōu)條件的樣本，在內(nèi)環(huán)中對該樣本的相應Lagrange乘子進行分析求解，完成一次優(yōu)化。不斷重復此過程,直至所有樣本都滿足KKT條件。3.支持向量機訓練算法序列最小優(yōu)化算法將工作樣本集的規(guī)模減少為兩個，直接導致了迭代次數(shù)的增加。所以序列最小優(yōu)化算法實際上是將求解優(yōu)化問題的耗費轉(zhuǎn)嫁到迭代運算上。Platt指出，通過核優(yōu)化方法可以大幅提高序列最小優(yōu)化算法的性能。該算法在訓練線性支持向量機時，可以獲得非常好的性能，但在訓練非線性支持向量機時，算法速度會大大減慢。針對不同的問題，其計算復雜度差別很大。3.支持向量機訓練算法(4)增量式算法（Cauwenberghs，2001）Cauwenberghs（2001）提出了一種增量減量式學習方法，考慮了增加或減少一個訓練樣本對Lagrange系數(shù)和支持向量機的影響，實驗表明算法是有效的。3.支持向量機訓練算法在減少一個樣本時，給出了模型選擇算法LOO（Leaveoneout）的形象解釋。Ralaivola（2001）提出了另一種增量式學習方法。其思想為基于高斯核的局部特性，只更新對學習機器輸出影響最大的Lagrange系數(shù)，以減少計算復雜度。另外，Suykens（2001）提出了一種周期最小二乘支持向量機用于時間序列的預測。Carozzaetal.（2000）和Xiaoetal.（2000）等人也分別提出了一些增量式學習的支持向量機訓練算法。3.支持向量機訓練算法(5)變形算法：-變形算法主要是通過增加函數(shù)項，變量或系數(shù)等方法使公式變形，產(chǎn)生出各種有某一方面優(yōu)勢或者一定應用范圍的算法。-Suykens等人以雙螺旋分類問題為背景，創(chuàng)造性地把標準SVM的線性不等式約束轉(zhuǎn)化成了等式約束，從而使得SVM的訓練等價于一組線性方程組的求解。該方法被稱為最小二乘支持向量機（LS-SVM）3.支持向量機訓練算法SVM的求解從QP問題向線性方程組的成功轉(zhuǎn)化極大地提高了SVM的求解效率，也降低了SVM的學習難度，極大地促進了SVM的應用。在LS-SVM中，對于回歸問題，未知變量的數(shù)目僅相當于同等規(guī)模分類問題的未知變量數(shù)目，避免了傳統(tǒng)SVM學習方法中回歸問題未知變量數(shù)目的膨脹。3.支持向量機訓練算法(6)幾何方法SVM方法具有明顯的幾何意義，線性可分和不可分問題分別等價于求解特征空間中兩類訓練樣本形成的凸包及縮小的凸包之間的距離。對于線性可分問題，如果在目標函數(shù)中加入0.5b2，則可以轉(zhuǎn)化為凸包到原點的最小距離。它存在簡單有效的算法，如單純形迭代法。對于線性不可分問題，則通過采用松弛變量ξ的l2范數(shù)，將其轉(zhuǎn)化為線性可分問題進行求解。3.支持向量機訓練算法M.H.Yang等利用訓練樣本的結(jié)構信息，提出了訓練SVM的幾何方法以及衛(wèi)向量（Guardvector）的概念。衛(wèi)向量即為通過該向量使輸入空間線性可分的向量。支持向量集為衛(wèi)向量集的一個子集。當訓練集合較大時，可以先找出衛(wèi)向量，再以衛(wèi)向量構成傳統(tǒng)的QP問題求出支持向量。衛(wèi)向量的求解是通過判斷其對偶空間中的線性規(guī)劃問題的可行性而不是求其解，從而使問題大大簡化。3.支持向量機訓練算法試驗表明該算法求得的最優(yōu)分類面和傳統(tǒng)QP問題一樣。由于衛(wèi)向量約為支持向量的20倍左右，所以該方法訓練速度要快30倍，而內(nèi)存要求僅為傳統(tǒng)的1/4。但對支持向量數(shù)和衛(wèi)向量數(shù)之間的關系還沒有做出相應的理論分析。3.支持向量機訓練算法張文生等將SVM原理建立在距離空間上，設計出基于鄰域原理計算支持向量的算法。事實上，鄰域原理求支持向量的過程就是求一組近似支持向量的過程。該過程本質(zhì)上是在簡化SVM理論中二次規(guī)劃目標函數(shù)的Hessian矩陣。該方法不但幾何意義明確，而且計算速度快，每次可以消掉內(nèi)積矩陣的多行多列，使得計算機的內(nèi)存開銷小。3.支持向量機訓練算法汪西莉等提出了一種基于馬氏距離的支持向量快速提取算法。用該方法對訓練數(shù)據(jù)進行預處理后，可以加快支持向量機的訓練速度3.支持向量機訓練算法(7)多類分類算法SVM最初是針對解決兩類分類問題提出的，要將其推廣到多類分類問題，需要構造多類SVM分類器，其構造方法主要有2種：3.支持向量機訓練算法一種是以Weston在1998年提出的多類算法為代表，只需將原始的兩類改為K類，這樣就很自然的將兩類分類SVM轉(zhuǎn)化為K類分類SVM。這種算法選擇的目標函數(shù)十分的復雜，變量數(shù)目過多，計算復雜度也非常的高，實現(xiàn)困難，所以只在小型問題的求解中用到。3.支持向量機訓練算法一種構造方法的基本思想就是通過組合多個兩類分類器，這類方法目前主要有兩種分支算法：1對多算法、1對1算法、決策導向無環(huán)圖。3.支持向量機訓練算法1對多算法是由Vapnik提出的，對于K類問題構造K個兩類分類器，第i個SVM用的i類中訓練樣本作為正的分類樣本，而將其他的樣本作為負的樣本，最后的輸出是兩類分類器輸出的最大的那一類。3.支持向量機訓練算法1對1算法是由Knerr提出的，該算法在K類訓練樣本中構造所可能的兩類分類器，每類僅在K類中的兩類訓練樣本上訓練，結(jié)果共構造k×(k—1)/2個分類器，組合這些兩類分類器并使用投票法，得票最多的類為樣本點所屬的類。3.支持向量機訓練算法針對1對1算法，Platt等提出了一個新的學習架構：決策導向無環(huán)圖（DecisionDirectedAcyclicGraph，DDAG）。對于K類問題，DDAG含k×(k-1)/2個分類器，每個分類器對應兩類。在對多個1對1子分類器組合的過程中，引入了圖論中有向無環(huán)圖的思想。由于DDAG的每個節(jié)點和一個分類器相關，因此根據(jù)DDAG提出的DAGSVM的速度顯然要快。3.支持向量機訓練算法安金龍等提出了基于二叉樹的支持向量機的多類分類方法。它繼承了一對多方法的訓練支持向量數(shù)少及一對一方法的訓練速度快的優(yōu)點。通過在分類階段結(jié)合二叉樹，從而大大提高了支持向量機的分類速度。同時它也克服了一對一、一對多、決策導向無環(huán)圖方法可能出現(xiàn)的無法分類區(qū)域的存在，從而提高了支持向量機多類分類的性能。支持向量機1.引言1.1.支持向量機提出的背景1.2.支持向量機發(fā)展現(xiàn)狀1.3.支持向量機現(xiàn)在存在的問題2.支持向量機基本原理3.支持向量機訓練算法4.支持向量機應用5.展望6.應用舉例4.支持向量機應用目前支持向量機在如下幾個方面獲得較為成功的應用。(1)生物信息學生物信息學是近來特別受人關注的一門新學科,SVM在該領域已經(jīng)獲得重要成果,并有著十分廣闊的應用前景。4.支持向量機應用人類的遺傳功能是由核酸承擔的,核酸分為脫氧核糖核酸(DNA)和核糖核酸(RNA)兩大類,它們由核苷酸、戊糖以及磷酸構成。DNA分子上的4種核苷酸A,G,C,T的排列組合順序蘊含了豐富的遺傳信息,其中每3個相鄰的核苷酸包含一個遺傳密碼?；蚓褪侵溉旧w所運載的DNA雙螺旋鏈上的一段序列,該序列由這4種核苷酸通過不同的排列組合形成。4.支持向量機應用針對傳統(tǒng)SVM方法中存在的不足,提出了基于數(shù)據(jù)優(yōu)化法的SVM,它通過其它統(tǒng)計學模型優(yōu)化訓練數(shù)據(jù)集,進而提高分類器的辨識精度。實驗結(jié)果表明基于數(shù)據(jù)優(yōu)化法的SVM分類器在翻譯起始位點的辨識上可獲得比其他判別方法更好的效果。近年來,生物學的信息數(shù)量已成指數(shù)增長,大量關于DNA和蛋白質(zhì)序列的信息都已公開。這也大大地增強了人們對發(fā)展數(shù)據(jù)分類技術的興趣。用分類技術自動地實現(xiàn)將大量的序列數(shù)據(jù)根據(jù)其結(jié)構或功能分成相應的不同類別。4.支持向量機應用(2)人臉檢測、識別和姿態(tài)判定人臉檢測是模式識別和機器視覺領域的一個重要研究方向,其目的是判斷圖像中是否存在人臉,并確定所有人臉的大小和位置。Osuna等最早用SVM進行人臉檢測,方法是直接取象素點的灰度值作為輸入特征。4.支持向量機應用由于需要大量的存儲空間和較多的支持向量,速度很慢。Lyons使用圖像的彈性圖的某些格點上的2D2Gabor小波變換系數(shù)幅值作為特征,使用LDA進行線性判別種族、表情、性別等二值訓練和分類,這種方法的缺點是2D2Gabor小波變換,很費時,再加上主成分分析計算量也大,使系統(tǒng)的實時性大大降低。4.支持向量機應用(3)文本分類文本分類的任務是根據(jù)文本的內(nèi)容自動地進行歸類,應用很廣泛,比如郵件過濾、網(wǎng)頁搜索、辦公自動化等領域均涉及這一問題。專業(yè)中文網(wǎng)頁分類器,利用SVM對網(wǎng)頁進行兩類分類,找出所需專業(yè)的中文網(wǎng)頁;然后利用向量空間模型,對分類好的專業(yè)網(wǎng)頁進行多類分類。在構造支持向量機的過程中,為了提高分類的召回率,采用了一種偏移因子。該算法只需要計算兩類SVM分類器,實驗表明,它不僅具有較高的訓練效率,同時能得到很高的分類精確率和召回率。支持向量機1.引言1.1.支持向量機提出的背景1.2.支持向量機發(fā)展現(xiàn)狀1.3.支持向量機現(xiàn)在存在的問題2.支持向量機基本原理3.支持向量機訓練算法4.支持向量機應用5.展望6.應用舉例5.展望作為機器學習的一個重要內(nèi)容，支持向量機的研究已受到眾多研究者的關注，但由于出現(xiàn)時間不長，許多問題的研究還處于起步階段，許多理論問題亟待解決，應用領域也需要進一步拓展。目前，下述幾個方面的問題值得進行深入的研究：5.展望1）有限維空間的SVM理論發(fā)展較快，無限維空間的SVM理論還需深入研究和推廣；2）針對SVM理論中優(yōu)化問題的特點，如何建立簡單、有效、實用的算法是迫切需要解決的問題；3）將神經(jīng)網(wǎng)絡與模糊邏輯等領域已有的研究方法與思想與SVM理論相結(jié)合，提出新的方法；4）訓練樣本中數(shù)據(jù)含有不確定性以及噪聲時的SVM理論性能，即SVM理論的魯棒性問題是值得研究的重點課題；5）進一步拓展SVM的應用領域，特別是SVM在控制中的應用需要重點研究。支持向量機1.引言1.1.支持向量機提出的背景1.2.支持向量機發(fā)展現(xiàn)狀1.3.支持向量機現(xiàn)在存在的問題2.支持向量機基本原理3.支持向量機訓練算法4.支持向量機應用5.展望6.應用舉例

6.應用舉例

基于免疫優(yōu)化的支持向量機文本分類算法

6.1免疫算法原理：是一種復雜的分布式信息處理學習系統(tǒng)，免疫算法的思想來源于生物免疫機體的原理，其具有較強的自適應性、多樣性、學習、識別和記憶等特點，其克服遺傳算法易陷入局部最優(yōu)的缺陷，收斂速度大大加快。它模仿生物的免疫過程，具有良好的全局搜索能力和記憶功能?？乖瓕趦?yōu)化問題的目標函數(shù)，抗體對應于優(yōu)化問題的解。通過抗原和抗體的親和力來描述可行解與最優(yōu)解的逼近程度。對外界抗原的侵入，系統(tǒng)自動產(chǎn)生相應的抗體，通過抗