《曲線回歸》ppt課件

1、第十一章 曲線回歸第一節(jié) 曲線的類型與特點第二節(jié) 曲線方程的配置第三節(jié) 多項式回歸n曲線回歸(curvilinear regression)或非線性回歸(non-linear regression)：兩個變數(shù)間呈現(xiàn)曲線關(guān)系的回歸。n曲線回歸分析或非線性回歸分析：以最小二乘法分析曲線關(guān)系資料在數(shù)量變化上的特征和規(guī)律的方法。 n曲線回歸分析方法的主要內(nèi)容有：n 確定兩個變數(shù)間數(shù)量變化的某種特定的規(guī)那么或規(guī)律；n 估計表示該種曲線關(guān)系特點的一些重要參數(shù)，如回歸參數(shù)、極大值、極小值和漸近值等；n 為消費預測或?qū)嶒灴刂七M展內(nèi)插，或在論據(jù)充足時作出實際上的外推。第一節(jié) 曲線的類型與特點n一、指數(shù)函數(shù)曲線n

2、二、對數(shù)函數(shù)曲線n三、冪函數(shù)曲線n四、雙曲函數(shù)曲線n五、S型曲線一、指數(shù)函數(shù)曲線n指數(shù)函數(shù)方程有兩種方式：n 圖11.1方程 的圖象bxaey xaby 00，ba00，babxaey yxn二、對數(shù)函數(shù)曲線n對數(shù)函數(shù)方程的普通表達式為：n 圖11.2 方程 =a+blnx 的圖象xbayln0b0byyxn三、冪函數(shù)曲線n冪函數(shù)曲線指y是x某次冪的函數(shù)曲線，其方程為：n 圖11.3 方程 的圖象baxy 10ba100ba0，0babaxy yyxxn四、雙曲函數(shù)曲線n雙曲函數(shù)因其屬于變形雙曲線而得名，其曲線方程普通有以下3種方式：n 圖11.4 方程 的圖象bxaxyxbxaybxay10

3、0，ba0，0 bab1bayybxaxy xxn五、S型曲線nS型曲線主要用于描畫動、植物的自然生長過程，故又稱生長曲線。nLogistic曲線方程為： bxaeky1balnk2kak1yx第二節(jié) 曲線方程的配置n一、曲線回歸分析的普通程序n二、指數(shù)曲線方程 的配置n三、冪函數(shù)曲線方程的配置n四、Logistic曲線方程的配置bxaey 一、曲線回歸分析的普通程序n曲線方程配置(curve fitting)：是指對兩個變數(shù)資料進展曲線回歸分析，獲得一個顯著的曲線方程的過程。n由實驗數(shù)據(jù)配置曲線回歸方程，普通包括以下3個根本步驟： n1根據(jù)變數(shù)X 與Y 之間確實切關(guān)系，選擇適當?shù)那€類型。n

4、2對選定的曲線類型，在線性化后按最小二乘法原理配置直線回歸方程，并作顯著性檢驗。n3將直線回歸方程轉(zhuǎn)換成相應的曲線回歸方程，并對有關(guān)統(tǒng)計參數(shù)作出推斷。 表11.1 常用曲線回歸方程的直線化方法n運用上述程序配置曲線方程時，應留意以下3點： n(1) 假設同一資料有多種不同類型的曲線方程配置，需經(jīng)過判別來選擇。統(tǒng)計規(guī)范是離回歸平方和 最小的中選。n(2) 假設轉(zhuǎn)換無法找出顯著的直線化方程，可采用多項式逼近，n(3) 當一些方程無法進展直線化轉(zhuǎn)換，可采用最小二乘法擬合。2)(yy二、指數(shù)曲線方程 的配置n (111)n兩邊取對數(shù)：n (112)n令 ，可得直線回歸方程：n (113) n假設 與x

5、的線性相關(guān)系數(shù)： n (114) bxaey bxaey bxay lnlnbxaylnyxyxyxySSSSSPryylnn顯著，就可進一步計算回歸統(tǒng)計數(shù)：n (115)n三、冪函數(shù)曲線方程 的配置n (116) axxyeaxbyaSSSPbln ln/baxy baxy n當 y 和 x 都大于0時可線性化為：n (117)n假設令 ， ，即有線性回歸方程：n (118) n 假設線性相關(guān)系數(shù)：n (119)xbaylnlnlnyylnxxlnxbaylnxyxyxySSSSSPrn顯著，回歸統(tǒng)計數(shù)：n (1110) n四、Logistic曲線方程的配置n a、b、k均0 (1111)

6、axxyeaxbyaSSSPbln ln/bxaeky1nK 可由兩種方法估計：n 假設y是累積頻率，那么顯然k=100%；n 假設y是生長量或繁衍量，那么可取3對察看值 x1，y1、x2，y2、和x3，y3，代入(1111) n 得：)()()(321111321bxbxbxaekyaekyaekyn假設令 ，解得：n移項，取自然對數(shù)得： n 2/ )(312xxx31223213122)(yyyyyyyyyk2bxayykln)ln( (1113)(1112)n令 ，可得直線回歸方程：n (1114)n 和 x 的相關(guān)系數(shù)： n (1115) n回歸統(tǒng)計數(shù) a 和 b 由下式估計：)ln(

7、yykybxaylnyxyrxyxySSSSSP axxyeaxbyaSSSPblnln/(1116)第三節(jié) 多項式回歸n 一、多項式回歸方程n 二、多項式回歸的假設檢驗一、多項式回歸方程n(一) 多項式回歸方程式n多項式回歸(polynomial regression)：當兩個變數(shù)間的曲線關(guān)系很難確定時，可以運用多項式去逼近。n二次多項式，其方程為：n (1117) 2212xbxbayn 三次多項式的方程式為： n (1118) 332213xbxbxbayn多項式方程的普通方式為： n (1119) n(二)多項式方程次數(shù)的初步確定n多項式回歸方程取的次數(shù)：散點所表現(xiàn)的曲線趨勢的峰數(shù)谷數(shù)

8、。假設散點動搖較大或峰谷兩側(cè)不對稱，可再高一次。kkkxbxbxbay221n(三)多項式回歸統(tǒng)計數(shù)的計算n可采用類似于多元線性回歸的方法求解多項式回歸的統(tǒng)計數(shù)。n令 ， ， ，(1119)可化為：n (1120) xx 122xx kkxx kkkxbxbxbay2211n可采用矩陣方法求解。即由n和knnnkkknnnkkxxxxxxxxxxxxxxxxxx121112212121121111212221212111111111Xnyyy21Yn求得 、 和( )-1，并由n b=( )-1( )獲得相應的多項式回歸統(tǒng)計數(shù)。n(四) 多項式回歸方程的估計規(guī)范誤n y 的總平方和 SSy 可

9、分解為回歸和離回歸兩部分： n SSy=Uk+QkXX YX XX XX YX (1121) k 次多項式的離回歸規(guī)范誤可定義為： 即是多項式回歸方程的估計規(guī)范誤。 kykkyQSSnUQnSS/)(/)(22Y1YXbYXbYYY1YY1)(，/knQskxxxyk2(1122)(1123) n二、多項式回歸的假設檢驗n多項式回歸的假設檢驗包括三項內(nèi)容：n總的多項式回歸關(guān)系能否成立？n能否以k-1次多項式替代k次多項式，即能否有必要配到k次式？n在一個k次多項式中，X 的一次分量項、二次分量項、k-1次分量項能否被略去(相應的自在度和平方和并入誤差)？ n(一)多項式回歸關(guān)系的假設檢驗n多項

10、式回歸(Uk)由X的各次分量項的不同所引起，具有： 。n離回歸(Qk)：與X 的不同無，具有 。n n可檢驗多項式回歸關(guān)系的真實性。 k)1(kn1)(knQkUFkk/(1124)n相關(guān)指數(shù)： ，k 次多項式的回歸平方 n 和占Y總平方和的比率的平方根值，可用來表示Y與X的多項式的相關(guān)親密程度。n n決議系數(shù)：在Y 的總變異中，可由X 的k 次多項式闡明的部分所占的比率。kxxxyR，2ykxxxySSURk/2，(1125)n(二) k 次多項式必要性的假設檢驗n假設k次多項式的k次項不顯著，可由k-1次方程描畫Y 與X 的曲線關(guān)系。 n有必要檢驗多項式添加一次所用去的1個自在度，對于離回歸平方和的減少(或回歸平方和