插值法與最小二乘法2Zu課件

第三章插值法與最小二乘法數(shù)值計算方法本章主要內(nèi)容

插值法Lagrange插值插值誤差分段插值法

Newton插值多項式三次樣條插值法數(shù)據(jù)擬合最小二乘法§4三次樣條插值/*CubicSplineInterpolation*/

許多實際工程技術中一般對精度要求非常高，

（1）要求近似曲線在節(jié)點連續(xù)；（收斂性）；（2）要求近似曲線在節(jié)點處導數(shù)連續(xù)，即充分光滑。

分段插值不能保證節(jié)點的光滑性，而Hermite插值需要知道節(jié)點處的導數(shù)值，實際中無法確定。

問題背景

在力學上，通常均勻細木條可以看作彈性細梁，壓鐵看作是作用在梁上的集中載荷，“樣條曲線”就模擬為彈性細梁在外加集中載荷作用下的彎曲變形曲線。設細梁剛度系數(shù)為，彎矩為，樣條曲線的曲率為由力學知識：當時（即“小撓度”的情況）上述微分方程簡化為：是線性函數(shù)因此，“樣條曲線”可近似認為是三次多項式.二、三次樣條插值函數(shù)定義及求法

設在區(qū)間上給定一個分割，定義在上的函數(shù)如果滿足下列條件：(1)在每個小區(qū)間內(nèi)是三次多項式,(2)在整個區(qū)間上，為二階連續(xù)可導函數(shù)，即在每個節(jié)點處則稱為三次樣條插值函數(shù).假設現(xiàn)在已知函數(shù)在節(jié)點處的函數(shù)值：如果三次樣條函數(shù)滿足則稱為插值于的三次樣條函數(shù)，簡稱三次樣條插值函數(shù)。如何求的三次樣條插值函數(shù):4n個未知數(shù)3n-1個條件代入插值條件：在整個區(qū)間上，的表達式為：未知數(shù)n+1個的計算方法(利用導數(shù)的連續(xù)性)：由由寫成方程組的形式：上述方程組稱為的M連續(xù)方程.n-1個方程n+1個未知數(shù)三彎矩方程組M連續(xù)方程的求解：需要補充附加條件3、邊界條件/*boundaryconditions*/已知端點的斜率：已知端點的二階導數(shù)：設是以為周期的周期函數(shù)，對附加周期性條件：

即要求三次樣條插值函數(shù)在端點處函數(shù)值、一階導數(shù)值和二階導數(shù)值相同。M連續(xù)方程在各類邊界條件下的求解方法對于第一類邊界條件由得對于第二類邊界條件類似地可以得到方程組（三對角）：上述兩種情況得到的方程組，可以寫成統(tǒng)一形式：其中時為第二類邊界條件時為第一類邊界條件對于第三類邊界條件得到方程其中注：三次樣條與分段Hermite插值的根本區(qū)別在于S(x)自身光滑，不需要知道f的導數(shù)值（除了在2個端點處的函數(shù)值）；而Hermite插值依賴于f在許多插值節(jié)點的導數(shù)值。f(x)H(x)S(x)性質（誤差估計）設函數(shù)，是區(qū)間的一個分割，是關于的帶有Ⅰ型(斜率邊界)或Ⅱ型(二階導數(shù)邊界)邊界條件的插值函數(shù)，則有誤差估計其中

是分割比，并且系數(shù)與是最優(yōu)估計。

性質說明：三次樣條插值函數(shù)本身連同它的一、二、三階導數(shù)分別收斂到及其相應導數(shù)，具有強收斂性。0123

02361

0例1已知函數(shù)在的數(shù)據(jù)表：解：求在區(qū)間上的三次樣條插值函數(shù)。

三次樣條插值函數(shù)實例考察某種纖維的強度與其拉伸倍數(shù)的關系,下表是實際測定的24個纖維樣品的強度與相應的拉伸倍數(shù)的記錄:§5最小二乘法結論:纖維強度隨拉伸倍數(shù)增加而增加,并且24個點大致分布在一條直線附近，因此可以認為強度S與拉伸倍數(shù)t的關系近似滿足線性關系。

根據(jù)上述實例圖中測試點的分布情況,可以畫出很多條靠近這些點的直線,其方程都可表示為：5-1最小二乘法的基本概念(1)(2)其中:a,

b

待定.要從形如(1)式的所有直線中,找出一條用某種度量標準來衡量最靠近所有數(shù)據(jù)點的直線.計算值

S(ti)

與測量數(shù)據(jù)

si之差為:其大小依賴于

a,

b

的選取.問:如何衡量直線與數(shù)據(jù)點偏離程度?(3)注:(1)式是一條直線，但現(xiàn)實生活中的函數(shù)關系并不都是線性關系，因此下面將問題推廣到一般情況.一般使用誤差的加權平方和作為誤差的度量標準。

用ωi

表示測量數(shù)據(jù)

(ti,

si)

的重度,稱為權系數(shù),表示在不同點

(ti,si)

處的數(shù)據(jù)比重不同.作為衡量

S(t)

與數(shù)據(jù)點

(ti,

si)

(i=0,1,…,m)偏離大小的度量標準.使最小的

S(t)

最接近,以此為依據(jù)可確定(1)式中的確定系數(shù)

a,

b.問:如何確定直線方程的系數(shù)

a與

b?(4)(5)(6)

定義1設

為給定一組數(shù)據(jù),為各點的權系數(shù)

,要求在函數(shù)類中,求一函數(shù)使誤差的加權平方和最小,即最小平方誤差其中：為Φ中任意函數(shù)，稱為擬合函數(shù).

稱按條件(6)求函數(shù)

s*(x)的方法為數(shù)據(jù)擬合的最小二乘法,簡稱最小二乘法.數(shù)據(jù)點數(shù)-1基函數(shù)個數(shù)-1最小二乘解擬合條件問：確定擬合函數(shù)

s(x)

后,如何求擬合系數(shù),使得滿足擬合條件？5-2法方程組（正規(guī)方程組）由可知為擬合系數(shù)的函數(shù).因此,可設平方誤差為:求最小二乘解的問題

取極小值的問題由多元函數(shù)取極值的必要條件移項整理得：(7)交換求和號順序得：得：即顯然(7)式是一個關于的n+1階線性方程組.定義向量：定義內(nèi)積：(9)(8)方程組(7)便可化為:(10)這是一個系數(shù)為,常數(shù)項為的線性方程組.將其表示為矩陣形式：(11)稱為函數(shù)系在離散點的法方程組.并且其系數(shù)矩陣為對稱正定矩陣.坡度矩陣,Hilbert矩陣kj由于為函數(shù)類Φ的基,因此它們必然線性無關,所以法方程組的系數(shù)矩陣非奇異,即根據(jù)Cramer法則,法方程組有唯一解：即：的最小值.是可以證明,是所對應的最小二乘解.為均方差.稱為最小二乘解的平方誤差.可以證明:(12)平方誤差的內(nèi)積表示形式:故有

作為一種簡單的情況,常使用多項式Pn(x)作為(xi,yi)(i=0,1,…,m)的擬合函數(shù),這是最常見的最小二乘擬合.此時,擬合函數(shù)S(x)的基函數(shù)為:(13)相應的擬合函數(shù)為:函數(shù)類為多項式類時的法方程組基函數(shù)之間的內(nèi)積為：此時，法方程組為：(14)n較大時,屬于病態(tài)問題問：如何解決上述問題？以正交多項式為基函數(shù),簡化法方程組.例2

測得數(shù)據(jù)如下：試用最小二乘法求最佳數(shù)據(jù)擬合函數(shù).i01234560.00.20.40.60.81.01.20.91.92.83.34.05.76.5解：1)在坐標平面上描點，

從散點圖可以看出函數(shù)關系近似線性關系，所以選擇線性函數(shù)：其基函數(shù)為作為擬合函數(shù),2)根據(jù)散點的分布情況，選擇基函數(shù).（難點）3)建立法方程組根據(jù)內(nèi)積公式:計算下列各值：取得法方程組：4)解法方程組,求擬合函數(shù)系數(shù)因此,為所有的最小二乘解.求得線性函數(shù)兩系數(shù):5)求擬合誤差最小二乘擬合的一般步驟:描點(若給定擬合函數(shù)形式,這一步驟可以省略);根據(jù)數(shù)據(jù)點的分布情況,確定擬合函數(shù),進一步確定擬合函數(shù)的基函數(shù);建立法方程組(涉及到一些內(nèi)積運算);求解法方程組(推薦使用Gauss列主元消去法),得擬合函數(shù)的系數(shù);寫出擬合函數(shù);求擬合誤差:最小平方誤差.非線性最小二乘問題

當用非多項式函數(shù)(例如:指數(shù)函數(shù)類或冪函數(shù)類等)擬合給定的一組數(shù)據(jù)時,擬合函數(shù)是關于待定參數(shù)的非線性函數(shù).若按最小二乘準則:用極值原理建立的法方程組將是關于待定參數(shù)的非線性方程組.稱這類數(shù)據(jù)擬合問題為非線性最小二乘擬合.

簡單的非線性最小二乘擬合問題求解方法:轉化為線性最小二乘問題求解.1786年(9歲),發(fā)現(xiàn)1到100自然數(shù)之和是5050；1795年(18歲),進入哥廷根大學,發(fā)明最小二乘法；1796年,僅用尺規(guī)作出正17邊形；1879年(22歲),證明代數(shù)學基本定理,獲博士學位；1801年(24歲),出版《算術研究》,精確計算谷神星(最大的小行星)的軌跡；1816年左右發(fā)現(xiàn)了歐氏幾何的原理；1828年出版《關于曲面的一般研究》,系統(tǒng)地闡述了空間曲面的微分幾何學；1833年,和韋伯共同發(fā)明了有線電報；…

…最小二乘法發(fā)明者——高斯

高斯在數(shù)學、天文學、力學、測地學、磁學、光學、水工學和電動學等方面均有杰出貢獻.Gauss(1777～1855)

Lagrange插值法

（高次插值多項式數(shù)值不穩(wěn)定，龍格現(xiàn)象；每增加一個插值節(jié)點，插值多項式就得重新構造）

分段低次插值法

（收斂性和精度能得到保證；具有局部性；在節(jié)點處有尖點，不可導）

Newton插值法

（增加插值節(jié)點時，只需增加部分計算工作量，原來的計算結果仍可用。）小結

三次樣條插值法

（能保證在節(jié)點處的連續(xù)性和光滑性，收斂性.）小結

最小二乘法

總體上偏差最小，不要求：

作業(yè)4：

教材P61-62:

3-21,3-23，3-26（1）、（2）.第七周星期三晚上7:30-9:30，

理科樓312（學習委員）。上機實驗題二題目：插值法與最小二乘法

教材P623-27，3-28，3-29；

要求：1.寫出上機報告；2.