曲線擬合概要

第5章數(shù)值分析法建模5.1曲線擬合的最小二乘法

如果已知函數(shù)f(x)在若干點xi(i=1,2,…,n)處的值yi,便可根據(jù)插值原理來建立插值多項式作為f(x)的近似。但往往會遇到這樣一種情況，即節(jié)點上的函數(shù)值并不是很精確的，這些函數(shù)值是由實驗或觀測得到的數(shù)據(jù)，不可避免地帶有測量誤差，如果要求所得的近似函數(shù)曲線精確無誤地通過所有的點(xi,yi),就會使曲線保留著一切測試誤差。當個別數(shù)據(jù)的誤差較大時,插值效果顯然是不理想的。此外,由實驗或觀測提供的數(shù)據(jù)個數(shù)往往很多,如果用插值法,勢必得到次數(shù)較高的插值多項式，這樣計算起來很煩瑣。為此,我們希望從給定的數(shù)據(jù)(xi,yi)出發(fā),構造一個近似函數(shù),不要求函數(shù)完全通過所有的數(shù)據(jù)點，只要求所得的近似曲線能反映數(shù)據(jù)的基本趨勢，如圖5-7所示。圖5-1曲線擬合示意圖

換句話說:求一條曲線,使數(shù)據(jù)點均在離此曲線的上方或下方不遠處,所求的曲線稱為擬合曲線,它既能反映數(shù)據(jù)的總體分布,又不至于出現(xiàn)局部較大的波動,更能反映被逼近函數(shù)的特性,使求得的逼近函數(shù)與已知函數(shù)從總體上來說其偏差按某種方法度量達到最小,這就是最小二乘法。

與函數(shù)插值問題不同,曲線擬合不要求曲線通過所有已知點,而是要求得到的近似函數(shù)能反映數(shù)據(jù)的基本關系。在某種意義上,曲線擬合更有實用價值。在對給出的實驗(或觀測)數(shù)據(jù)作曲線擬合時,怎樣才算擬合得最好呢？一般希望各實驗(或觀測)數(shù)據(jù)與擬合曲線的偏差的平方和最小,這就是最小二乘原理。

兩種逼近概念:

插值:

在節(jié)點處函數(shù)值相同.

擬合:

在數(shù)據(jù)點處誤差平方和最小

函數(shù)插值是插值函數(shù)P(x)與被插函數(shù)f(x)在節(jié)點處函數(shù)值相同,即而曲線擬合函數(shù)不要求嚴格地通過所有就是說擬合函數(shù)在xi處的偏差(亦稱殘差）

不都嚴格地等于零。但是,為了使近似曲線能盡量反映所給數(shù)據(jù)點的變化趨勢,要求按某種度量標準最小。若記向量,即要求向量的某種范數(shù)最小,如的1-范數(shù)或∞-范數(shù)即或

最小。為了便于計算、分析與應用，通常要求的2-范數(shù)即為最小。這種要求誤差（偏差）平方和最小的擬合稱為曲線擬合的最小二乘法。

（1）直線擬合設已知數(shù)據(jù)點,分布大致為一條直線。作擬合直線,該直線不是通過所有的數(shù)據(jù)點,而是使偏差平方和為最小，其中每組數(shù)據(jù)與擬合曲線的偏差為根據(jù)最小二乘原理，應取和使有極小值，故和應滿足下列條件：即得如下正規(guī)方程組

(5.45)例5.21設有某實驗數(shù)據(jù)如下：

12341.361.371.952.2814.09416.84418.47520.963

用最小二乘法求以上數(shù)據(jù)的擬合函數(shù)解:把表中所給數(shù)據(jù)畫在坐標紙上,將會看到數(shù)據(jù)點的分布可以用一條直線來近似地描述,設所求的

擬合直線為記x1=1.36,x2=1.37,x3=1.95x4=2.28,y1=14.094,y2=16.844,y3=18.475,y4=20.963則正規(guī)方程組為

其中將以上數(shù)據(jù)代入上式正規(guī)方程組,得（2）多項式擬合有時所給數(shù)據(jù)點的分布并不一定近似地呈一條直線,這時仍用直線擬合顯然是不合適的,可用多項式擬合。對于給定的一組數(shù)據(jù)尋求次數(shù)不超過m(m<<N)的多項式來擬合所給定的數(shù)據(jù)，與線性擬合類似，使偏差的平方和為最小由于Q可以看作是關于

(j=0,1,2,…,m)的多元函數(shù),故上述擬合多項式的構造問題可歸結為多元函數(shù)的極值問題。令得

即有

這是關于系數(shù)

的線性方程組，通常稱為正規(guī)方程組。可以證明，正規(guī)方程組有唯一解。

例5.22設某實驗數(shù)據(jù)如下：

123456012345521123用最小二乘法求一個多項式擬合這組數(shù)據(jù)(5.46)解：將已給數(shù)據(jù)點描在坐標系中，可以看出這些點接近一條拋物線，因此設所求的多項式為

由法方程組（5.46）,經(jīng)計算得

N=6,其法方程組為

解之得

所求的多項式為

（3）可化為線性擬合的非線性擬合有些非線性擬合曲線可以通過適當?shù)淖兞刻鎿Q轉化為線性曲線，從而用線性擬合進行處理，對于一個實際的曲線擬合問題，一般先按觀測值在直角坐標平面上描出散點圖，看一看散點的分布同哪類曲線圖形接近，然后選用相接近的曲線擬合方程。再通過適當?shù)淖兞刻鎿Q轉化為線性擬合問題，按線性擬合解出后再還原為原變量所表示的曲線擬合方程。表5-4列舉了幾類經(jīng)適當變換后化為線性擬合求解的曲線擬合方程及變換關系

表5-4

曲線擬合方程變換關系變換后線性擬合方程幾種常見的數(shù)據(jù)擬合情況。圖

(a)表示數(shù)據(jù)接近于直線，故宜采用線性函數(shù)擬合；圖(b)數(shù)據(jù)分布接近于拋物線。可采擬合；二次多項式擬合；(a)(b)圖

(c)的數(shù)據(jù)分布特點是開始曲線上升較快隨后逐漸變慢,宜采用雙曲線型函數(shù)或指數(shù)型函數(shù)圖

(d)的數(shù)據(jù)分布特點是開始曲線下降快,隨后逐漸變慢,宜采用或或等數(shù)據(jù)擬合。(c)(d)例5.13設某實驗數(shù)據(jù)如下:

12345600.511.522.52.01.00.90.60.40.3用最小二乘法求擬合曲線解:將已給數(shù)據(jù)點描在坐標系中下圖所示,可以看出這些點接近指數(shù)曲線,因而可取指數(shù)函數(shù)作為擬合函數(shù).對函數(shù)兩邊取對數(shù)得.令得則就得到線性模型則正規(guī)方程組為

其中

將以上數(shù)據(jù)代入上式正規(guī)方程組，得解得

由得,由得于是得到擬合指數(shù)函數(shù)為

（4）超定方程組的最小二乘解設線性方程組Ax=b中，,b是m維已知向量，x是n維解向量，當m＞n，即方程組中方程的個數(shù)多于未知量的個數(shù)時，稱此方程組為超定方程組。一般來說，超定方程組無解（此時為矛盾方程組),這時需要尋求方程組的一個“最近似”的解.記,稱使,即最小的解為方程組Ax=b的最小二乘解。定理5.6是Ax=b的最小二乘解的充分必要條件為是的解.證明:充分性

若存在n維向量,使任取一n維向量,令,則,且

所以是Ax=b的最小二乘解。

必要性:r的第i個分量為,,記由多元函數(shù)求極值的必要條件，可得即由線性代數(shù)知識知,上式寫成矩陣形式為它是關于的線性方程組,也就是我們所說的正規(guī)方程組或法方程組?？梢宰C明如果A是列滿秩的,則方程組（5.48）存在惟一解（5.48）例5.24求超定方程組

的最小二乘解,并求誤差平方和。解:方程組寫成矩陣形式為正規(guī)方程組為即

解得此時誤差平方和為

我們已經(jīng)討論了最小二乘意義下的曲線擬合問題,由于方程比較簡單,實際中應用廣泛,特別是因為任何連續(xù)函數(shù)至少在一個較小的鄰域內(nèi)可以用多項式任意逼近,因此用多項式作數(shù)據(jù)擬合,有它的特殊重要性。從而在許多實際問題中,不論具體函數(shù)關系如何,都可用多項式作近似擬合,但用多項式擬合時,當n較大時(n≥7),其