線性空間函數(shù)逼近

第三章函數(shù)逼近與計(jì)算

在科學(xué)與工程技術(shù)的很多領(lǐng)域，人們常碰到大量帶有誤差的實(shí)驗(yàn)數(shù)據(jù)，這時(shí)采用高次插值會(huì)出現(xiàn)震蕩，采用分段插值則會(huì)使函數(shù)非常復(fù)雜，無法準(zhǔn)確反映被側(cè)函數(shù)的整體性態(tài)，因此，不適合用插值法。§1引言

如何在給定精度下，求出計(jì)算量最小的近似式，這就是函數(shù)逼近要解決的問題。

一、問題的提出二、函數(shù)逼近問題的一般提法：對(duì)于函數(shù)類

中給定的函數(shù)

，要求在另一類較簡(jiǎn)單的且便于計(jì)算的函數(shù)類

中尋找一個(gè)函數(shù)

，使

與

之差在某種度量意義下最小，近似代替又稱逼近。注：本章中所研究的函數(shù)類

通常為區(qū)間

上的連續(xù)函數(shù)，記做

；而函數(shù)類

通常是代數(shù)多項(xiàng)式或三角多項(xiàng)式。

的函數(shù)逼近稱為最佳一致逼近或均勻逼近。三、常用的度量標(biāo)準(zhǔn)：

(一)最佳一致逼近若以函數(shù)f(x)和P(x)的最大誤差作為度量誤差

f(x)－P(x)

“大小”的標(biāo)準(zhǔn),在這種意義下(二)最佳平方逼近：采用作為度量誤差“大小”標(biāo)準(zhǔn)的函數(shù)逼近稱為最佳平方逼近或均方逼近。§2最佳一致逼近一、最佳一致逼近的概念設(shè)函數(shù)

是區(qū)間

對(duì)于任意，如果存在多項(xiàng)式

，使不等式則稱多項(xiàng)式

在區(qū)間

上一致逼近(或均勻逼近)于函數(shù)

定義上的連續(xù)函數(shù)，給定的成立，。二、最佳一致逼近多項(xiàng)式的存在性定理1（維爾斯特拉斯定理）

若f(x)是區(qū)間[a,b]上的連續(xù)函數(shù)，則對(duì)于任意

>0，總存在多項(xiàng)式

P(x)，使對(duì)一切a≤x≤b

有定理說明任意連續(xù)函數(shù)都可以用多項(xiàng)式來近似而且整體誤差可以要多小就多小，只是多項(xiàng)式的次數(shù)可能高些；這個(gè)定理有許多種證明方法，公認(rèn)最漂亮的是Bernstein給出的構(gòu)造性的方法:如果限定多項(xiàng)式的次數(shù)，比如在次數(shù)不超過n的多項(xiàng)式集合中找一個(gè)多項(xiàng)式近似，那么誤差會(huì)不會(huì)要多小就多??？如果不能,最大的誤差會(huì)是多少？這就是本節(jié)要介紹的最佳一致逼近問題上的最佳一致逼近在能否在所有次數(shù)不超過n的代數(shù)多項(xiàng)式中找到一個(gè)表示由所有次數(shù)不超過n的代數(shù)多項(xiàng)式構(gòu)成的線性空間?？臻g中的最佳一致逼近問題。

意義下:，使得其中，這就是三、1、算例四、上最佳一致逼近多項(xiàng)式的存在性

最佳一致逼近（Chebyshev）

在

中都存在對(duì)

的最佳一致逼近多項(xiàng)式,記為

的n次最佳一致逼近多項(xiàng)式。稱為簡(jiǎn)稱最佳逼近多項(xiàng)式。,使得

成立.對(duì)任意的

五、相關(guān)概念1、偏差定義

上的偏差。則稱為與在注：

，集合，記作

，它有下界0.顯然，若的全體組成一個(gè)2、最小偏差則稱

若記集合的下確界為為

在上的最小偏差。定義

3、偏差點(diǎn)定義

設(shè)

若在

上有

則稱

是

的偏差點(diǎn)。

若

若

則稱

則稱

為“正”偏差點(diǎn)。

為“負(fù)”偏差點(diǎn)。

4、交錯(cuò)點(diǎn)組若函數(shù)

定義

在其定義域的某一區(qū)間

個(gè)點(diǎn)

上存在使得

則稱點(diǎn)集

為函數(shù)

在區(qū)間

上的一個(gè)交錯(cuò)點(diǎn)組，稱為交錯(cuò)點(diǎn)。點(diǎn)六、上的最佳一致逼近的特征引理3.1是區(qū)間

上的連續(xù)函數(shù)，是

的n次最佳一致逼近多項(xiàng)式，存在正負(fù)偏差點(diǎn)。

則設(shè)必同時(shí)定理3

（Chebyshev定理）是區(qū)間

上的連續(xù)函數(shù)，

設(shè)則

是

的n次最佳一致逼近多項(xiàng)式的充要條件是:

在區(qū)間

上存在一個(gè)至少由組。個(gè)點(diǎn)組成的交錯(cuò)點(diǎn)推論1是區(qū)間

上的連續(xù)函數(shù)，是

的n次最佳一致逼近多項(xiàng)式，在

內(nèi)存在且保號(hào)，在區(qū)間

個(gè)點(diǎn)組成的交錯(cuò)點(diǎn)組，端點(diǎn)

都在交錯(cuò)點(diǎn)組中。

上恰好存在一個(gè)由設(shè)若則且兩推論2推論3中,若存在對(duì)函數(shù)

的最佳一致逼近元，則惟一.在是區(qū)間上的連續(xù)函數(shù)，的

次最佳一致逼近多項(xiàng)式是

的某個(gè)

次插值多

項(xiàng)式。設(shè)則七、最佳一次逼近多項(xiàng)式1、推導(dǎo)過程設(shè)

，且

在內(nèi)不變號(hào)，要求在上的一次最佳一致逼近多項(xiàng)式由推論1，在上恰好有3個(gè)點(diǎn)構(gòu)成的交錯(cuò)且區(qū)間端點(diǎn)屬于這個(gè)交錯(cuò)點(diǎn)組，組，設(shè)另一個(gè)交錯(cuò)點(diǎn)為則解得即即2、幾何意義？3、舉例求在上的最佳一次逼近多項(xiàng)式。解：由可算出故解得由得于是得的最佳一次逼近多項(xiàng)式為故誤差限為(*)在（*）式中若令，則可得一個(gè)求根的公式八、Chebyshev多項(xiàng)式及其應(yīng)用(1)定義稱為n次Chebyshev多項(xiàng)式.[注]Itisveryimportant

令則而故為關(guān)于的次代數(shù)多項(xiàng)式。(2)性質(zhì)正交性：由Tn(x)所組成的序列{Tn(x)}是在區(qū)間[-1,1]上帶權(quán)

的正交多項(xiàng)式序列。且

遞推關(guān)系相鄰的三個(gè)切比雪夫多項(xiàng)式具有如下遞推關(guān)系式：

奇偶性：

切比雪夫多項(xiàng)式

，當(dāng)

為奇數(shù)時(shí)為奇函數(shù)；為偶數(shù)時(shí)為偶函數(shù)。

在區(qū)間[-1,1]上有

個(gè)不同的零點(diǎn)

Tn(x)

在[-1,1]上有n+1個(gè)不同的極值點(diǎn)使Tn(x)輪流取得最大值1

和最小值-1。

切比雪夫多項(xiàng)式的極值性質(zhì)Tn(x)

的最高次項(xiàng)系數(shù)為2n-1(n=1,2,…)。

在區(qū)間[-1,1]上，在所有首項(xiàng)系數(shù)為1的n次多項(xiàng)式中,與零的偏差最小，即對(duì)于任何，有該性質(zhì)又被稱為Chebyshev多項(xiàng)式的最小模性質(zhì).注：區(qū)間上的最小零偏差多項(xiàng)式且其偏差為

(3)應(yīng)用多項(xiàng)式的降階（最小零偏差問題）在所有次數(shù)為的多項(xiàng)式中求多項(xiàng)式

,在給定的有界閉區(qū)間上與零的偏差最小。使其最小零偏差多項(xiàng)式問題。這一問題被稱為不失一般性，可設(shè)的首項(xiàng)系數(shù)為1，有界閉區(qū)間為

.所討論的對(duì)一般區(qū)間，可先將換為，考慮在上的逼近，再將換回，得到。最后尋求最小零偏差多項(xiàng)式的問題求的次最佳一致逼近多項(xiàng)式的問題。事實(shí)上等價(jià)于即求使其滿足：~Pn1注：在上首項(xiàng)系數(shù)為1的最小零偏差多項(xiàng)式為。設(shè)為上的次多項(xiàng)式，要求在上的不超過次的最佳一致逼近多項(xiàng)式。？由于首項(xiàng)系數(shù)為1的次Chebyshev多項(xiàng)式無窮范數(shù)最小，故有于是例1設(shè)f(x)=4x4＋2x３－５x２＋8x-5/2，|x|≤1.求f(x)在［-1,1］中的3次最佳一致逼近元p3(x).解由f(x)的表達(dá)式可知b４＝４,注：對(duì)區(qū)間為［a,b］的情形，先作變換

x=(b-a)t/2+(b+a)/2(2)然后對(duì)變量為t的多項(xiàng)式用(1)式求得pn(t)，然后再作(2)式的反變換得到［a,b］上的最佳一致逼近多項(xiàng)式.由(1)式得p3*(x)=f(x)-4T4(x)=2x３－x２＋8x-3.首項(xiàng)系數(shù)為1的4次

Chebyshev多項(xiàng)式為:T4(x)＝x４－x２＋1/8.

近似最佳一致逼近多項(xiàng)式設(shè)且存在階連續(xù)導(dǎo)數(shù)如何在上確定互異的插值節(jié)點(diǎn)使得的次插值多項(xiàng)式的余項(xiàng)最??？由插值余項(xiàng)定理，次插值多項(xiàng)式的余項(xiàng)為其中，其估計(jì)式為：因此，要使余項(xiàng)達(dá)到最小，只需使盡可能小。是一個(gè)首項(xiàng)系數(shù)為1的次多項(xiàng)式，故由Chebyshev多項(xiàng)式的性質(zhì)，只要取~即可。而故只需取為次Chebyshev多項(xiàng)式的零點(diǎn)，即注意到注：以次Chebyshev多項(xiàng)式的零點(diǎn)作為插值節(jié)點(diǎn)的次拉格朗日插值多項(xiàng)式雖不能作為的次最佳一致逼近多項(xiàng)式，但由于誤差分布比較均勻，因此可以作為的次近似最佳一致逼近多項(xiàng)式?！?

最佳平方逼近一、內(nèi)積空間1、定義稱二元函數(shù)為內(nèi)積。設(shè)為(實(shí))線性空間,對(duì)中每一對(duì)元素,在上定義了內(nèi)積是指都有一實(shí)數(shù)，記為與之對(duì)應(yīng)，且這個(gè)對(duì)應(yīng)滿足:（2）（1）（3）（4）則稱為內(nèi)積空間，2、內(nèi)積的性質(zhì)設(shè)是一內(nèi)積空間，則對(duì)任意的，有（1）柯西—許瓦茲不等式：（2）三角不等式：3、兩種重要的內(nèi)積空間n維歐氏空間，內(nèi)積就是兩向量的數(shù)量積，即連續(xù)函數(shù)空間，內(nèi)積可以定義為積分的運(yùn)算或帶權(quán)函數(shù)的積分運(yùn)算，即或4、權(quán)函數(shù)的定義設(shè)

(x)定義在有限或無限區(qū)間[a,b]上，如果具有下列性質(zhì)：(1)對(duì)任意x

[a,b]，

(x)≥0；(2)積分存在，(n=0,1,2,…)；(3)對(duì)非負(fù)的連續(xù)函數(shù)g(x)

若

則在(a,b)上g(x)0。稱滿足上述條件的

(x)為[a,b]上的權(quán)函數(shù)。

5、Euclid范數(shù)及其性質(zhì)定義設(shè)稱為的Euclid范數(shù)。則稱量性質(zhì)對(duì)于任何下列結(jié)論成立：1、2、3、（Cauchy-Schwarz不等式）(三角不等式)(平行四邊形定律)二、相關(guān)概念1、距離

線性賦范空間中兩元素之間的距離為連續(xù)函數(shù)空間中，與的距離即為因此，中兩點(diǎn)與之間的距離即為也稱為2-范數(shù)意義下的距離2、正交若則稱與正交。連續(xù)函數(shù)空間中，設(shè)則稱f(x)與g(x)在[a,b]上帶權(quán)

(x)正交。

進(jìn)一步，設(shè)在[a,b]上給定函數(shù)系，若滿足條件則稱函數(shù)系是[a,b]上帶權(quán)

(x)的正交函數(shù)系。若特別地，當(dāng)Ak1時(shí)，則稱該函數(shù)系為標(biāo)準(zhǔn)正交函數(shù)系。若上述定義中的函數(shù)系為多項(xiàng)式函數(shù)系，則稱之為[a,b]上帶權(quán)

(x)的正交多項(xiàng)式系。并稱是上帶權(quán)(x)的

次正交多項(xiàng)式。3、正交化手續(xù)一般來說，當(dāng)權(quán)函數(shù)及區(qū)間給定以后，可以由冪函數(shù)系利用正交化方法構(gòu)造出正交多項(xiàng)式系。4、正交多項(xiàng)式的性質(zhì)(1)是最高次項(xiàng)系數(shù)為1的次多項(xiàng)式.(2)任一次多項(xiàng)式均可表示為的線性組合.(3)當(dāng)時(shí),且與任一次數(shù)小于的多項(xiàng)式正交.(4)遞推性其中這里且都在區(qū)間內(nèi).(5)設(shè)是在上帶權(quán)項(xiàng)式序列,的正交多則的個(gè)根都是單重實(shí)根,三、常用的正交多項(xiàng)式1、第一類切比雪夫多項(xiàng)式(1)定義(2)性質(zhì)2、Legendre(勒讓德)多項(xiàng)式(1)定義

多項(xiàng)式稱為n次勒讓德多項(xiàng)式。(2)性質(zhì)

正交性勒讓德多項(xiàng)式序列是[-1,1]上帶權(quán)的正交多項(xiàng)式序列。即遞推關(guān)系相鄰的三個(gè)勒讓德多項(xiàng)式具有如下遞推關(guān)系式：

奇偶性：

當(dāng)n為偶數(shù)時(shí)，為偶函數(shù)；當(dāng)n為奇數(shù)時(shí)，

為奇函數(shù)。在區(qū)間[-1,1]內(nèi)部存在n個(gè)互異的實(shí)零點(diǎn)。的最高次項(xiàng)系數(shù)為(5)在所有首項(xiàng)系數(shù)為1的

次多項(xiàng)式中，多項(xiàng)式在上與零的平方誤差最小。勒讓德證明：設(shè)是任意一個(gè)最高項(xiàng)系數(shù)為1的次多項(xiàng)式，它可表示為于是當(dāng)且僅當(dāng)時(shí)等號(hào)才成立，即當(dāng)時(shí)平方誤差最小。3、其他常用的正交多項(xiàng)式(1)第二類Chebyshev(切比雪夫)多項(xiàng)式定義：

稱為第二類切比雪夫多項(xiàng)式。②相鄰的三項(xiàng)具有遞推關(guān)系式：第二類切比雪夫多項(xiàng)式的性質(zhì)：①是區(qū)間[-1,1]上帶權(quán)的正交多項(xiàng)式序列。(2)拉蓋爾(Laguerre)多項(xiàng)式定義：

稱多項(xiàng)式為拉蓋爾多項(xiàng)式。①是在區(qū)間[0,+∞]上帶權(quán)

的正交多項(xiàng)式序列。

②相鄰的三項(xiàng)具有遞推關(guān)系式：

拉蓋爾多項(xiàng)式的性質(zhì)：(3)埃爾米特(Hermite)多項(xiàng)式定義：

稱多項(xiàng)式

為埃爾米特多項(xiàng)式。的正交多項(xiàng)式序列。①是區(qū)間(-,+)上帶權(quán)②相鄰的三項(xiàng)具有遞推關(guān)系式：埃爾米特多項(xiàng)式的性質(zhì)：四、內(nèi)積空間上的最佳平方逼近1．函數(shù)系的線性關(guān)系定義：設(shè)函數(shù)在區(qū)間

上連續(xù)，如果關(guān)系式當(dāng)且僅當(dāng)時(shí)才成立，函數(shù)在上是線性無關(guān)的，否則稱線性相關(guān)。則稱

連續(xù)函數(shù)在上線性無關(guān)的充分必要條件是它們的克萊姆(Gram)行列式定理其中，

是任意實(shí)數(shù)，則并稱是生成集合的一個(gè)基底。的全體是

的一個(gè)子集，記為設(shè)是上線性無關(guān)的連續(xù)函數(shù),對(duì)任意的為的最佳平方逼近元。2、最佳平方逼近元的定義設(shè)為線性內(nèi)積空間，為上個(gè)線性無關(guān)元，記由張成的的子空間為，即定義在的子空間

中，求的在2-范數(shù)意義下的最佳逼近元，即求，使不等式對(duì)任意成立.若滿足上式的存在，稱3.最佳平方逼近元的存在性定理1設(shè)為線性內(nèi)積空間，由線性無關(guān)組張成的線性空間

為的子空間，存在為的最佳平方逼近元.則對(duì)任意的Remark:線性內(nèi)積空間的子空間

的線性無關(guān)組選取不同，在中求得的對(duì)的最佳平方逼近元

也不同，求解的難易程度也不同。4.最佳平方逼近元的充要條件定理2內(nèi)積空間)為的最佳平方逼近元的充要條件是：(線性與一切正交。其中，為

的個(gè)線性無關(guān)元。REMARK：定理2中所說的與一切

正交，與一切

的內(nèi)積等于零，是指即證：必要性.用反證法.設(shè)為的最佳平方逼近元，不與所有的

正交.但即存在使得則令所以必須與一切

正交.且這說明不是對(duì)的最佳平方逼近元，與假設(shè)條件矛盾，充分性.仍記

則對(duì)任意的，有而

對(duì)任意成立,即為的最佳平方逼近元。所以進(jìn)而有5.最佳平方逼近元的惟一性定理3線性內(nèi)積空間的子空間

中若存在對(duì)的最佳平方逼近元，則惟一.6.最佳平方逼近元的求解現(xiàn)假定線性內(nèi)積空間上的內(nèi)積已定義，并且的子空間的一組基底也確定，最佳平方逼近元.那么，對(duì)具體的被逼近元如何求使其為的由最佳平方逼近元的充要條件，若假定則可以得出其中為待定系數(shù)。恒等變形為用矩陣式表示這個(gè)方程組為此方程組稱為法方程組。若所選取的一組基底滿足則稱其為正交基，此時(shí)五、連續(xù)函數(shù)的最佳平方逼近

1.

對(duì)于給定的函數(shù)要求函數(shù)使若這樣的存在，上的最佳平方逼近函數(shù)。則稱為在區(qū)間特別地，若則稱為在上的次最佳平方逼近多項(xiàng)式。求最佳平方逼近函數(shù)的問題可歸結(jié)為求它的系數(shù),使多元函數(shù)取得極小值。由于是關(guān)于的二次函數(shù)，故利用多元函數(shù)取得極值的必要條件，可得

(k=0,1,2,…,n)得方程組如采用函數(shù)內(nèi)積記號(hào)方程組可以簡(jiǎn)寫為寫成矩陣形式為法方程組！

由于0,1,…,n線性無關(guān)，故Gn

0，于是上述方程組存在唯一解。從而肯定了函數(shù)f(x)在中如果存在最佳平方逼近函數(shù)，則必是3.舉例求

在中的最佳平方逼近元。這是上的最佳平方逼近問題.解：取記因?yàn)榍彝瑯涌汕蟮盟裕P(guān)于的法方程組為解得即為中對(duì)的最佳平方逼近元。4.函數(shù)按正交多項(xiàng)式展開設(shè)為其中上帶權(quán)的正交多項(xiàng)式系，給定若為在上的次最佳平方逼近多項(xiàng)式，則由正交多項(xiàng)式的性質(zhì)，即例：求在上的三次最佳平方逼近多項(xiàng)式。解：先計(jì)算即所以得所以有均方誤差為最大誤差為六、曲線擬合的最小二乘法1.問題提出已知測(cè)量數(shù)據(jù)：要求簡(jiǎn)單函數(shù)使得總體上盡可能小。稱為“殘差”這種構(gòu)造近似函數(shù)的方法稱為曲線擬合；合函數(shù)。稱為擬2.曲線擬合的步驟：（3）根據(jù)某一逼近準(zhǔn)則確定擬合函數(shù)的未知參數(shù)；（2）觀察散點(diǎn)分布，選擇適當(dāng)?shù)暮瘮?shù)類來構(gòu)造擬合函數(shù)；（1）根據(jù)已知條件畫出散點(diǎn)圖；這一方法稱為數(shù)據(jù)擬合法，得到的函數(shù)p(x)稱為擬合曲線。注：使盡可能小的度量準(zhǔn)則:常見做法：使最小較復(fù)雜使最小線性擬合問題為了使問題的提法更具一般性，通?？紤]加權(quán)平方和：確定擬合函數(shù)對(duì)于一組數(shù)據(jù)(xi,yi)(i=1,2,…,