計算方法課件5

1、第 5 章 函數(shù)最佳逼近二、最佳平方逼近一、離散最小二乘逼近1掌握最佳平方逼近以及多項式最小二乘擬合的基本方法與思想；2掌握常見非線性擬合的線性化技術(shù)；重點：最佳平方逼近及最小二乘多項式擬合。本章要求例例5.1.1 5.1.1 考察某種纖維的強度與其拉伸倍數(shù)的關(guān)系,下表是實際測定的24個纖維樣品的強度與相應(yīng)的拉伸倍數(shù)的記錄:編 號 拉伸倍數(shù) 強 度編 號 拉伸倍數(shù) 強 度11.91.41355.5221.3145.2532.11.81565.542.52.5166.36.452.72.8176.5662.72.5187.15.373.531986.583.52.72087944218.98.5

2、1043.52298114.54.2239.58.1124.63.524108.1iiyxiiyx科學(xué)試驗、統(tǒng)計分析獲得大量數(shù)據(jù)。試確定因變量 y與自變量 x之間的近似表達式。已知一組數(shù)據(jù) (xi, yi), yi = f (xi)，i = 1,2, m。方法一：插值方法一：插值 方法二：曲線擬合方法二：曲線擬合 或記 Q =(x1) , (x2) ,(xm) ), Y = (y1, y2,ym), 則有 Q = Y.構(gòu)造插值函數(shù)(x) 來逼近 f (x), 則有 (xi) = f (xi) = yi, i = 1,2, m。如果數(shù)據(jù)不能同時滿足某個特定函數(shù)，而要求所求的逼近函數(shù)“最優(yōu)地”靠近

3、數(shù)據(jù)點，即向量Q與Y 的誤差或距離最小。按 Q 與Y 的誤差最小原則作為最優(yōu)標(biāo)準(zhǔn)所構(gòu)造出的函數(shù)，我們稱為擬合函數(shù)。擬合和插值都可構(gòu)造逼近函數(shù) 當(dāng)數(shù)據(jù)量特別大時一般不用插值法。這是因為數(shù)據(jù)量很大時所求插值曲線中的未知參數(shù)就很多，而且數(shù)據(jù)量很大時，多項式插值會出現(xiàn)高次插值（效果不理想）或分段低次插值（精度不高）；另外，測量數(shù)據(jù)本身往往就有誤差，所以，使插值曲線刻意經(jīng)過這些點也沒有必要。 而曲線擬合首先根據(jù)物理規(guī)律或描點畫草圖確定一條用來擬合的函數(shù)曲線形式，也可選擇低次多項式形式（所含參數(shù)比較少），然后按最小二乘法求出該曲線，它未必經(jīng)過所有已知點，但它能反映出數(shù)據(jù)的基本趨勢，且誤差最小，效果比較好。

4、1234567891012345678912345678910123456789纖維強度隨拉伸倍數(shù)增加而增加系要關(guān)系應(yīng)是線性關(guān)的主與拉伸倍數(shù)因此可以認(rèn)為強度xy并且24個點大致分布在一條直線附近01( )F xx為待定參數(shù)其中10,從一組試驗數(shù)據(jù)中尋找自變量 x 與因變量 y之間的函數(shù)關(guān)系 y=F(x). 01( )( ,)( )()( ,)iiiiyF xx yF xxx y我們不要求經(jīng)過所有點， 而只要求與所有的數(shù)據(jù)點 樣本點越接近越好。必須找到一種度量標(biāo)準(zhǔn)來衡量什么曲線最接近所有數(shù)據(jù)點！(),iiiF xy令常見做法有：常見做法有：在回歸分析中稱為殘差1| |() |kkkyF x 1

5、km（ ） 使殘差的最大絕對值 max達到最小；12(,.,) .Tm 記( )(,)iiF xxy通常使用某種范數(shù)作為衡量與數(shù)據(jù)點偏離程度大小的度量標(biāo)準(zhǔn)，即要求向量按某種范數(shù)取最小。1|() |mkkkyF x（2） 使殘差絕對值的平均值達到最小；21()mkkkyF x（3） 使殘差的平方和達到最小。稱為最小二乘逼近太復(fù)雜太復(fù)雜不可導(dǎo)，求解困難不可導(dǎo)，求解困難確定擬合曲線的方法：例例5.1.2 5.1.2 在多個景點之間修一條主干道。 已知景點(xi, yi), i=1,2, m. 設(shè) (x) = a +b x, 求 a，b 使殘差的平方和達到最小。記i = (xi)yi，222111(

6、, )(), , , ( , )mmmiiiiiiiiQ a bxyabxya bQ a b即找使達到最小。（1）選擇曲線類型；（2）若曲線類型難以確定，畫散點圖；（3）用多種曲線類型擬合，選擇最小二乘法意義下誤差最 小的擬合曲線。參數(shù) a 和 b 必須滿足一階必要條件：若取 F(x)=a +b x，此時最小二乘逼近稱為最小二乘擬合直線221( , )() .mkkkSa byabx221( , )()min,mkkkSa byab x一、最小二乘擬合直線一、最小二乘擬合直線記要使22( , )0,( , )0,Sa baSa bb即2121( , )2()0,( , )2()0.mkkkmk

7、kkkSa bab xyaSa bab xyxb化簡得112111,.mmkkkkmmmkkkkkkkmaxbyxaxbx y稱為正規(guī)方程組正規(guī)方程組或法方程組法方程組2121(,)2()0 ,(,)2()0 .mkkkmkkkkSa bab xyaSa bab xyxb112111mmiiiimmmiiiiiiiamxyxxx yb，或解之得2111122111112211,.mmmmkkkkkkkkkmmkkkkmmmkkkkkkkmmkkkkxyxx yamxxmx yxybmxx 11,mkkxxm11,mkkyym記則可得112111mmiiiimmmiiiiiiiamxyxxx y

8、b，121() (),.()mkkkmkkxxyybayb xxx2121212121111956, 344, 18913, 61640.iiiiiiiiixyx yx21956344, 9566164018913ab 例例5.1.3 給出21組數(shù)據(jù)，用線性函數(shù)擬合魚的種類和魚的數(shù)量的關(guān)系，m = 21。解解 設(shè) p(x) = a + b x, 經(jīng)計算：法方程組：8.20840.1795ab( )8.20840.1795 .p xx二、一般最小二乘擬合多項式二、一般最小二乘擬合多項式01( ).nnp xaa xa x20112011min (,.,):( () (.) .mnkkkmnknk

9、kkS a aap xyaa xa xy對于離散數(shù)據(jù): (xk, yk), k=1,2,m, 用 n (nm) 次多項式來擬合曲線。設(shè)多項式的系數(shù)是下述極小值問題的解：01( ).(nnp xaa xa xnp xxy最小二乘擬合多項式最佳平方逼則稱為給定數(shù)據(jù)的 次或，也稱）為變量 和之間的或。給定近的多項式經(jīng)驗數(shù)據(jù)也稱為公式擬數(shù)學(xué)模型合數(shù)據(jù)。一階必要條件：0,0,1,., .jSjna直接計算易得110011()2()2()2(),0,1,., .mkkkkjjmnijikkkkinmmijjkikkikkp xSp xyaaa xyxxay xjn 2011210(,.,):( () ()

10、mnkkkmniikkkiS a aap xya xy 故011()0,0,1,., ,nmmi jjkikkikkxay xjn或1( ()0,0,1,., .mjkkkkp xyxjn稱為正規(guī)方程組。正規(guī)方程組?？杀硎緸?1102111111121111.mmmnkkkkkkmmmmnkkkkkkkkknmmmmnnnnkkkkkkkkkmxxyaxxxay xaxxxy x對這類方程求解意義是: 求x，使 |r|22 = |b-Ax|22 為最小，稱x為Ax=b的最小二乘解。v 線性最小二乘問題 在科學(xué)實驗中，很多情況數(shù)據(jù)間存在線性或可轉(zhuǎn)化為線性的關(guān)系。線性最小二乘是最基本也是最重要的一

11、種。設(shè) Ax=b 其中 AR mn，bR m，x R n當(dāng)mn 時，上述方程組稱為超定方程組超定方程組令 r =b-Ax.一般，超定方程組無通常意義下解，即無x使 r=0。(1)(2)TTTmnAnAA AnnA AxA b若矩陣 的秩（即 列無關(guān)），則是對稱正定矩陣；正規(guī)方程組有定理惟一解。21110121222221.1., , . . .1.nnnnmmmmxxxayayxxxAayayxxx定理定理5.1.1 當(dāng) xk , k =1,2,m 互不相同時，下述最小二乘問題的解存在惟一，且為正規(guī)方程組的解。201011min(,.,)(.) .mnniniiiS aaaaa xa xy 求

12、解上述極小值問題等價于求解矛盾方程組矛盾方程組 Aa = y 的最小二乘解:220121minmin(.) ,mniniiiAayaa xa xy其中因此，求 a0, a1, an, 就是求解正規(guī)方程組： ATAa = ATy例例5.1.4 用二次多項式函數(shù)擬合如下數(shù)據(jù):xi-3-2-10123yi4230-1-2-5解解23420, 28, 0, 196,1,39,7.iiiiiiiiixxxxyx yx y 設(shè) p(x) = a0 + a1x + a2 x2, 形成正規(guī)方程組：m =7. 約定 直接計算有：71,i 方法一2023123422.iiiiiiiiiiiiimxxyaxxxax

13、 yaxxxx y2112T22127222127277111. 170281.0 280;28 0 196.1xxxxA Axxxxxxxx1T127222712711. 11.39 .7.yA yxxxyxxx 01TT127,ayAAaAay方法二設(shè) p(x) = a0 + a1x + a2 x2, 形成正規(guī)方程組：于是得到正規(guī)方程組012702810 2803928 0 1967aaa a0 = 0.66667, a1 = -1.39286, a2 = -0.13095, 所以解得p(x)=0.66667-1.39286 x-0.13095 x2定義定義5.1.1 三、一般最小二乘擬合

14、問題三、一般最小二乘擬合問題0101( ),( ),.,( )X, ,.,nnxxxc cc設(shè)函數(shù)組定義在實數(shù)集 上。如果存在不全為零的實數(shù)，使得001 1( )( )( )0,nncxcxcxxX 0101( ),( ),.,( )X( ),( ),.,( )Xnnxxxxxx成立，則稱函數(shù)組在 上；線性否則，稱函數(shù)組在相關(guān)上線性無關(guān)。例如：例如：1(1)Xna,bnxxX設(shè) 為區(qū)間或者為至少含有個不同實數(shù)的點集，則多項式組1, ,., 在上線性無關(guān)。sin ,sin 2 ,.,sin)(12)kxxnxkxk = 1,.,n-1n正弦函數(shù)組在點集X=,上線性無關(guān)。01.,.,.,nnnna

15、a xa xxxxx由定義可知：多項式可視為由線性無關(guān)的函數(shù)組1,（稱為基函數(shù)）張成的線性空間span1,中的元素。一般地，01( ), ( ),.,( )Xnxxx設(shè)函數(shù)在 上線性無關(guān)， 稱0011( )( )( ).( )nnp xaxaxax為定義在X上的廣義多項式廣義多項式，記為01( )( ),( ),.,( ).np xspanxxx121sinsin2.sin(1)nkaxaxanxx由此可見，k為定義在X= =,k=1,2,.,n-1上的廣義多項式。n222211( () ,mmiiiiip xy定義殘差的平方和：最小二乘問題為：求解極小值問題2221min.miiv 加權(quán)最小

16、二乘擬合問題加權(quán)最小二乘擬合問題( ,)(1,2,.,)iix yim對于一組給定的數(shù)據(jù)點( ,)(1,2,.,)iix yim在擬合的數(shù)據(jù)點中各點的重要性可能是不一樣的的重度表示數(shù)據(jù)點假設(shè)),(iiiyx重度:即權(quán)重或者密度，統(tǒng)稱為權(quán)系數(shù)權(quán)系數(shù)1,2,.,im定義加權(quán)殘差的平方和為2221miii 21( ( )miiiiy xy2211mmiiiii 即，在最小二乘中，用更一般的加權(quán)平均代替。最小二乘問題可推廣如下：(,)1,2,.,kkxyxym設(shè)有關(guān)于變量 和 的一組數(shù)據(jù)，k0112( ),( ),.,( )X= ,.,nmxxxx xx且函數(shù)在上線性無關(guān)，010011,.,( )(

17、)( ).( )nnna aanmp xaxaxax參數(shù)()使得多項式滿足2011(,.,):( ()min,mnkkkkS a aap xy12,.,0m 其中，0011( )( )( ).( )nnp xaxaxax則稱12,.,m 帶權(quán)系數(shù)最小二乘擬合多項式最佳平為給定數(shù)方逼近據(jù)的的或多項式。由多元函數(shù)取極值的必要條件0,0,1,., ,kSkna10( )( )00,1,., .mnijjiikiijaxyxkn，得即101( )( )( )0,1,., .mnmijjikiiikiijiaxxyxkn，011( )( )( ),0,1,., .nmmijikijiikijiixxay

18、xkn 20110(,.,)()mnnijjiiijS aaaaxy10( )( )( )00,1,., .mnijjikiikiijaxxyxkn，00111111( )( )( )( ) .( )( )( )0,1,., .mmmiikiiikininikiiiimiikiiaxxaxxaxxyxkn，即000( )( )( ),0,1,., .nmmijikijiikijiixxayxkn 01,.,1na aan顯然上式是一個關(guān)于的元線性方程組。引入記號12(),(),.,()0,1,., ,rrrrmxxxrn，12(,.,)mfyyy并定義內(nèi)積：1(,)( )( )mkjikiji

19、ixx 1(,)( )mkikiiifx y正規(guī)方程組正規(guī)方程組00111111( )( )( )( ) .( )( )( )0,1,., .mmmiikiiikininikiiiimiikiiaxxaxxaxxyxkn，正規(guī)方程組便可化為：0011(,)(,).(,)(,)0,1,., .kknknkaaafkn ，(,)(,)kjkf這是一個系數(shù)為，常數(shù)項為的線性方程組。將其表示成矩陣形式naaa1001(,)(,)(,)nfff0112( ),( ),.,( ),.,nmxxxx xx稱上式為函數(shù)序列在點上的法方程組。.00010n10111nn0n1nn(,)(,)(,)(,) (,)

20、(,)(,)(,) .(,)01( ),( ),( )nxxxnn顯然，系數(shù)矩陣G 是對稱的。由于是線性無關(guān)的，因而G 也是非奇異的，即baGn簡單記為(1) (1)det()det(,)0nijnnG 根據(jù)Cramer法則，法方程組有唯一解：*,*,*,1100nnaaaaaa*0* ( )( )njjjSxax為最小二乘解。因此( )( )( ,)(1,2,.,)niiS xP xx yim常使用多項式作為的擬合函數(shù)作為一種簡單的情況：( )( )nS xPx擬 合 函 數(shù)的 基 函 數(shù) 為 :0( )1,x1( ),xx.,( ),.,kkxx( )nnxx1(,)()()mkjikij

21、iixx 1mkjiiiix x1mkjiiix1(,)()mkikiiifxy 1mkiiiix y基函數(shù)之間的內(nèi)積為法方程組為：111102111111121111.mmmmniiiiiiiiiiimmmmniiiiiiiiiiiiimmmmnnnniiiiiiiiiiiiixxyaxxxx yaaxxxx y例例5.1.5 回到本節(jié)開始的實例，從散點圖可以看出纖維強度和拉伸倍數(shù)之間近似與線性關(guān)系xaaxy10)(故可選取線性函數(shù)為擬合函數(shù)，其基函數(shù)為0( )1x1( )xx建立法方程組：根據(jù)內(nèi)積公式，可得00(,)24 01(,)127.5 11( ,)829.61 0( , ) 113

22、.1f1( ,)731.6f法方程組為：61.8295 .1275 .1272410aa6 .7311 .1131505. 00a即為所求的最小二乘解xxy8587. 01505. 0)(*8587. 01a解得6615. 5*22殘差的平方和為擬合曲線與散點的關(guān)系如右圖:1234567891012345678912345678910123456789例例5.1.65.1.6 用給定數(shù)據(jù)，求經(jīng)驗公式 f (x) = a + bx3. x = -3 -2 -1 2 4 y = 14.3 8.3 4.7 8.3 22.7解解 約定 直接計算得TT.aA AA yb 31332T3333333363

23、5124343511511111536136 495411iiixxxA Axxxxxxxxxx51,i 36336,4954,58.3,1062.iiiiixxyx y法方程于是法方程組為：TT12345333333512431111158.3 1062iiiA yyyyyyxxxxxyx y53658.310.675 36 495410620.137aabb 所求經(jīng)驗公式為：f (x) =10.675 + 0.137 x3.例例5.1.75.1.7 用給定數(shù)據(jù)求經(jīng)驗公式：y = a ebx。 x 1 2 3 4 5 6 7 8 y 15.3 20.5 27.4 36.6 49.1 65.6

24、 87.8 117.6四、非線性擬合四、非線性擬合在實際問題中，無論是一元函數(shù)或多元函數(shù)，在求最小二乘逼近時，擬合函數(shù)的形式往往是未知的。例如對于一元函數(shù)，擬合曲線究竟取多項式，還是三角函數(shù)，或指數(shù)函數(shù)或其它？解解 線性化。對經(jīng)驗公式取自然對數(shù) ln y = ln a + bx （令u = ln y ，b0 = ln a ，則 u=b0+bx）代入數(shù)據(jù)的矛盾方程組( )yF x有些擬合曲線中的參數(shù)是非線性的，但可以化為線性的。由法方程 ATAB=ATy，B =（lna, b) T, 即111222888lnln1lnln1 .lnln1abxyxabxyxAabxyx 其中2lnln, lni

25、iiiiimxyabxyxx836ln13.0197ln2.4369 , 36 20463.90030.2912 aabb即所以 a = e2.4369 =11.4375. y =11.4375e0.2912x.擬合曲線的殘差平方和為：擬合曲線的圖形為882211( ()0.0262401.iiiiiy xy例例5.1.8在某化學(xué)反應(yīng)里,測得生成物濃度y%與時間t的數(shù)據(jù)如下，試建立y關(guān)于t的經(jīng)驗公式t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00, 10.20,10.3

26、2,10.42,10.50,10.55,10.58,10.60解解的散點圖與濃度畫出時間yt具有圖示的圖形的曲線很多，本題特提供兩種形式：tbaey 指數(shù)函數(shù)形式batty雙曲線形式都是待定系數(shù)其中ba,tbay1lnlntbay1102468101214164567891011tytbaey 指數(shù)函數(shù)形式).1(tbay1lnln兩邊取對數(shù),得aattyyln,1,ln設(shè)t bay得即為擬合函數(shù)基函數(shù)為0( )1,t 1( )tt0567. 1,427. 2ba解法方程組得325.11atey0567. 1325.11最小二乘解為11631. 0*221殘差的平方和為batty雙曲線形式).

27、2(tbay1116272. 0080174. 0ba用最小二乘法得即16272. 0080174. 0tty5621. 1*222無論從圖形還是從殘差平方和考慮在本例中指數(shù)函數(shù)擬合比雙曲線擬合要好02468101214164567891011ty02468101214164567891011ty02468101214164567891011ty02468101214164567891011ty殘差的平方和為( ) , ( ) , f xC a bf xa b本節(jié)研究函數(shù)的最佳平方逼近問題，即求擬合函數(shù)，使之與函數(shù)在上的均方差最小。我們將討論此類逼近問題的解的存在惟一性及其計算問題。定義定義5

28、.2.1YY( , ) 設(shè)是實線性空間，在上定義了一個二元實值函數(shù)，若它滿足( ,)( ,),);1Y(,f gg ff g(,)(,),Y,( );2fgfgfgR(, )(, )( , ),( ),Y;3fg hf hg hf g h( , )Y 則稱為內(nèi)積，相應(yīng)地，稱為內(nèi)積空間。一、一、 內(nèi)積空間內(nèi)積空間(,)0,Y,(,)00),(4ffffff且定義定義5.2.2( , )( )a bx在區(qū)間上的非負函數(shù)滿足條件,|1)( )(bnaxx dx對任何非負整數(shù) n存在；( )( , )xa b則稱是區(qū)間上的一個權(quán)函數(shù)。( )( ) ( )0( , )( )(20.)bag xx g x

29、 dxa bg x對于非負的連續(xù)函數(shù)，如果,則在上，21( )1 , ( )1( 1,1)xa bxx顯然是區(qū)間上最簡單的一種權(quán)函數(shù)，是區(qū)間上的權(quán)函數(shù)。11212( ,),(,.,),(,.,),nnTkkknnnnRx yx yx yxxxxyyyyR如 果 在維 歐 氏 空 間中 定 義其 中則構(gòu) 成 最 簡 單 的 內(nèi) 積 空 間 。222( )( )( )L a,ba,bx fxf xL a,b記是區(qū)間上的可積的函數(shù)的全體構(gòu)成的函數(shù)空間，在中定義2( , )( ) ( ) ( ),baf gx f x g x dxf gL a,b2( )( , )Lxabba,其中是區(qū)間上的一個權(quán)函構(gòu)

30、成內(nèi)數(shù),則積空間。C a,b同樣，在函數(shù)空間中，如果定義( , )( ) ( ) ( ),baf gx f x g x dxf gC a,b,( )()xa bC a,b其中是區(qū)間上的一個權(quán)也 構(gòu)成內(nèi)函數(shù),則積空間。性質(zhì)性質(zhì)5.2.1 （CauchySchwarz不等式）Y設(shè)為內(nèi)積空間，則有|( ,)|( ,)( ,),Y.f gffg gf g(,),Y.ffff引入范：數(shù)定義定義5.2.3Y,Y(,)0.fgfgfgfg設(shè)為內(nèi)積空間。如果對于，成立，則稱與正交（垂直），記為定義定義5.2.401Y( ),( ),.,( ),.nxxx如果內(nèi)積空間中的函數(shù)族滿足關(guān)系0,( ,)0,.ijii

31、jAij ( )Ynx則稱函數(shù)族正交是中的函數(shù)族。Y=C , a b特別地，設(shè)，其內(nèi)積由( , )( ) ( ) ( ),baf gx f x g x dxf gC a,b , ( )( )1( ) , nna bxa bxxx定義，則稱函數(shù)族是。當(dāng)上帶權(quán)正交時，則稱函數(shù)的函數(shù)族上的族是正交函數(shù)族。cos,sin,cos 2 ,sin 2 ,.,xxxx ：三角函數(shù)族1,是在區(qū)間上的正例如交函數(shù)族。不難算出,(sin,sin)(cos,cos),1,2,.,kxkxkxkxk(1,1)=(sin,sin)(cos,cos)0,1,2,.,kxjxkxjxkj k j(sin,cos)0, (1

32、,cos)0, (1 sin)0,1,2,.kxjxjxkxk j，定義定義5.2.501Y( ),( ),.,( ),.( )nnxxxx如 果 內(nèi) 積 空 間中 的 函 數(shù) 族中 的 任 何 有 限 個 函 數(shù) 線 性 無 關(guān) ， 則 稱 函 數(shù) 族是 線 性 無 關(guān) 的 函 數(shù) 族 。性質(zhì)性質(zhì)5.2.2 ( )Y( )nnxx設(shè)函數(shù)族是中的正交函數(shù)族，則是線性無關(guān)的函數(shù)族。性質(zhì)性質(zhì)5.2.3 0101( ),( ),.,( )Y( ),( ),.,( )YCramernnxxxxxx設(shè)為內(nèi)積空間中的函數(shù)，則在中線性無關(guān)的充要條件是它的行列式不為零，即.0.0010n00111n10n1n

33、nn(,) (,)(,)(,) (,)(,)(,)(,) .(,)性質(zhì)性質(zhì)5.2.4 (勾股定理）勾股定理）12YY.,nfff設(shè)為內(nèi)積空間，中的函數(shù), ,兩兩正交，則22221212.nnffffff性質(zhì)性質(zhì)5.2.5 (平行四邊形等式）平行四邊形等式）Y設(shè)為內(nèi)積空間，則22222,Y.fgfgfgf g和一般的線性賦范空間不同，內(nèi)積空間有更好的幾何性質(zhì)：二、二、 函數(shù)的最佳平方逼近函數(shù)的最佳平方逼近0101( ),.,( ),.,nnf xC a,bC a,bp x 已知函數(shù)及中的一個子集span，如果span，使得(,)min,fp fp01(, )( )( ),.,np xf x 其中

34、為內(nèi)積，則稱是在子集span中的最佳平方逼近函數(shù)。2010( ,.,):( )( )( )nbniiaiS a aaxaxf xdx上述問題等價于求多元函數(shù)的最小值。0( )( )niiip xax由多元函數(shù)取極值的必要條件0,0,1,., ,jSjna0( )( )( )( )00,1,., .nbiijaixaxf xx dxjn，得于是有2010(,.,):( )( )( )nbniiaiS a aaxaxf xdx0( ,)( ,)0,1,., .nijijiafjn ，上述方程組稱為正規(guī)方程組正規(guī)方程組。也可以寫為01( ), ( ),.,( )nxxx由于線性無關(guān)，由性質(zhì)5.2.3

35、，該方程組的系數(shù)矩陣非奇異，因而方程組存在惟一解?？梢宰C明，最佳平方問題的解存在惟一且就是正規(guī)方程組的解。( ,)( ,)0,1,., .jjpfjn，例例5.2.15.2.1解解220(sin ).ababxx dx求 和 使達到最小取基函數(shù)為0( )1x1( )xx建立正規(guī)方程組：根據(jù)內(nèi)積公式，可得2000( ,),2dx 正規(guī)方程組為：22100( ,),8xdx 232110( , ),24x dx 200(,sin )sin1,xxdx210(,sin )sin1.xxxdx2231,281.824abab0.1147707,0.6644389.ab所求擬合函數(shù)為：( )0.1147

36、7070.6644389 .p xx例例5.2.25.2.2解解( )sin0,1.f xx求函數(shù)在上的最佳平方逼近二次多項式2012( ),p xaa xa x設(shè)擬合函數(shù)為正規(guī)方程組為：11112012000011112301200001111234201200001sin,sin,sin,adxaxdxax dxxdxaxdxax dxax dxxxdxax dxax dxax dxxxdx01201220123112,231111,2341114.345aaaaaaaaa0120.050465,4.12251,4.12251.aaa所求擬合函數(shù)為：2( )0.0504654.122514

37、.12251.p xxx 本題中，當(dāng)用 n 次多項式擬合時，正規(guī)方程組對應(yīng)的系數(shù)矩陣為 n+1 階的 Hilbert 矩陣。因而當(dāng) n較大時，系數(shù)矩陣是高度病態(tài)的，求方程組的解，舍入誤差很大，這時要用正交多項式做基函數(shù)，才能求得最小平方逼近多項式。三、三、 正交多項式正交多項式01( ),( ),.,( )nxxx在求最佳平方逼近時，如果基函數(shù)兩兩正交，則正規(guī)方程組變?yōu)? ,)( ,)0,1,., .jjjjafjn ，從而，不需解方程組即可得到解(,)0,1,., .(,)jjjjfajn，定義定義5.2.6( )0( )nnngxangx設(shè)是 首 項 系 數(shù) 為的次 多 項 式 ，若 多 項 式 族滿 足0,( )( )( )0,bijaijix gx gx dxAji( ) , ( )( ) , ( )nngxa bxgxa bx則稱多項式族在上帶權(quán)正交，并稱是上帶權(quán)的 n 次正交多項式。( ) , GramSchmidt1, ,.,nxa bxx一般情況下，當(dāng)權(quán)函數(shù)及區(qū)間給定后，人們可通過正交化過程，由構(gòu)造出相應(yīng)的正交多項式。（一）（一） 正交多項式的性質(zhì)正交多項式的性質(zhì)( )( )nngxgx設(shè)是正交多項式族，其中為 n 次正交多項式，則有如下性質(zhì)：性質(zhì)性質(zhì)5.2.6( )ngx是線性無關(guān)的函數(shù)族。0101( ),( ),.,( )P1, ,