曲線(xiàn)回歸-研究生

1、曲曲 線(xiàn)線(xiàn) 回回 歸歸吳庫(kù)生吳庫(kù)生汕頭大學(xué)醫(yī)學(xué)院預(yù)防醫(yī)學(xué)教研室回歸分析的概念n尋求有關(guān)聯(lián)（相關(guān)）的變量之間的關(guān)系n主要內(nèi)容：n從一組樣本數(shù)據(jù)出發(fā)，確定這些變量間的定量關(guān)系式n對(duì)這些關(guān)系式的可信度進(jìn)行各種統(tǒng)計(jì)檢驗(yàn)n從影響某一變量的諸多變量中，判斷哪些變量的影響顯著，哪些不顯著n利用求得的關(guān)系式進(jìn)行預(yù)測(cè)和控制回歸分析的模型n按是否線(xiàn)性分：線(xiàn)性回歸模型和非線(xiàn)性回歸模型n按自變量個(gè)數(shù)分：簡(jiǎn)單的一元回歸，多元回歸常見(jiàn)回歸分析的模型n在回歸種類(lèi)中包括：Liner：線(xiàn)性回歸Curve Estimation：曲線(xiàn)估計(jì)Binary Logistic： 二分變量邏輯回歸Multinomial Logistic：多

2、分變量邏輯回歸Ordinal 序回歸Probit：概率單位回歸Nonlinear：非線(xiàn)性回歸Weight Estimation：加權(quán)估計(jì)2-Stage Least squares：二段最小平方法Optimal Scaling 最優(yōu)編碼回歸一、曲線(xiàn)擬合一、曲線(xiàn)擬合Curve fitting 醫(yī)學(xué)研究中，醫(yī)學(xué)研究中，X X與與Y Y兩變量的數(shù)量關(guān)系并兩變量的數(shù)量關(guān)系并非總是線(xiàn)性的，如非總是線(xiàn)性的，如毒物劑量毒物劑量年齡年齡時(shí)間時(shí)間 可用可用曲線(xiàn)直線(xiàn)化估計(jì)曲線(xiàn)直線(xiàn)化估計(jì)(Curve estimation) (Curve estimation) 或或非線(xiàn)性回歸非線(xiàn)性回歸(Nonlinear regre

3、ssion) (Nonlinear regression) 方法方法進(jìn)行統(tǒng)計(jì)學(xué)分析。進(jìn)行統(tǒng)計(jì)學(xué)分析。曲線(xiàn)估計(jì)(Curve Estimation) 對(duì)于一元回歸，若散點(diǎn)圖的趨勢(shì)不呈線(xiàn)性分布，可以利用曲線(xiàn)估計(jì)方式方便地進(jìn)行各種方程擬合，如：指數(shù)擬合(Exponential)、二次擬合(Quadratic)、三次擬合(Cubic)等。 采用哪種擬合方式更合理主要取決于各種擬合模型對(duì)數(shù)據(jù)的充分描述(看校正Adjusted R2 1) 繪制散點(diǎn)圖，根據(jù)圖形和專(zhuān)業(yè)知識(shí)選取繪制散點(diǎn)圖，根據(jù)圖形和專(zhuān)業(yè)知識(shí)選取曲線(xiàn)類(lèi)曲線(xiàn)類(lèi)型型（可同時(shí)選取幾類(lèi)）（可同時(shí)選取幾類(lèi)）按按曲線(xiàn)類(lèi)型曲線(xiàn)類(lèi)型，作曲線(xiàn)直線(xiàn)化變換，作曲線(xiàn)直線(xiàn)

4、化變換建立變換數(shù)據(jù)間的建立變換數(shù)據(jù)間的 （假設(shè)檢驗(yàn)，計(jì)算決定系數(shù)）比較比較決定系數(shù)決定系數(shù)選取選取“最佳最佳”方程方程寫(xiě)出曲線(xiàn)方程寫(xiě)出曲線(xiàn)方程YX0XlgbaY 二、常見(jiàn)的幾種曲線(xiàn)二、常見(jiàn)的幾種曲線(xiàn)對(duì)數(shù)曲線(xiàn)對(duì)數(shù)曲線(xiàn)b0b0b0及其變換形式Y(jié)X0Y = b0 + b1 X + b2 X2 拋物線(xiàn)拋物線(xiàn)b20YXY = b0 + b1 X + b2 X2 + b3 X3 03次多項(xiàng)式曲線(xiàn)次多項(xiàng)式曲線(xiàn)SPSS中曲線(xiàn)模型中曲線(xiàn)模型33221010 X)b(bX10221010XbXbXbbY Cubic. 6XlnbbY cLogarithmi. 5eY Growth. 4b bY Compound.

5、 3XbXbbY c2.Quadrati XbbY Linear. 110 三次模型三次模型對(duì)數(shù)模型對(duì)數(shù)模型生長(zhǎng)模型生長(zhǎng)模型復(fù)合模型復(fù)合模型二次模型二次模型線(xiàn)性模型線(xiàn)性模型SPSS中曲線(xiàn)模型中曲線(xiàn)模型bXaeLogisticLogisticPowerXbInverselExponentia11Y .11X bY .10/bY . 9e bY . 8eY S . 7 b010X b0X)/ b(b1110模型冪模型逆模型指數(shù)模型型模型 SPSS回歸分析的過(guò)程n基本的步驟：利用SPSS得到模型關(guān)系式，是否是我們所要的，要看回歸方程的顯著性檢驗(yàn)（F 檢驗(yàn)）和回歸系數(shù)b的顯著性檢驗(yàn)(t 檢驗(yàn))，還要看

6、擬合程度R2 (相關(guān)系數(shù)的平方，一元回歸用R Square，多元回歸用Adjusted R Square)對(duì)數(shù)：)ln(XbaY冪函數(shù)：bYaX 或 ln( )lnln( )Ya bX指數(shù)函數(shù)：bXYa eln( )lnYabX多項(xiàng)式：nnXbXbXbaY221 )1/(1bXae 或 logistic：bXa)1/(ln 或 例例 上海醫(yī)科大學(xué)微生物學(xué)教研室以已知濃度上海醫(yī)科大學(xué)微生物學(xué)教研室以已知濃度X的免疫球蛋的免疫球蛋白白A(IgA, g/ml)作火箭電泳作火箭電泳, 測(cè)得火箭高度測(cè)得火箭高度Y(mm)如表如表1所示。試擬合所示。試擬合Y關(guān)于關(guān)于X的非線(xiàn)性回歸方程。的非線(xiàn)性回歸方程。

7、=a+blnX YY(lnX)2 Y2 (lnX)Y 殘差平方殘差平方合計(jì)合計(jì)140.3 -2.27082.5902 57.76 -12.2314 2.5902 57.76 -12.2314 0.8396 151.29 -11.2705 0.8396 151.29 -11.2705 0.2609 246.49 -8.0196 0.2609 246.49 -8.0196 0.0498 331.24 -4.0604 0.0498 331.24 -4.0604 0.0000 349.69 0.0000 0.0000 349.69 0.0000 0.0332 457.96 3.9012 0.0332

8、457.96 3.9012 0.1132 510.76 7.6049 0.1132 510.76 7.6049 0.2209 566.44 11.1860 0.2209 566.44 11.1860 4.10784.1078 2671.632671.63 -12.8898-12.8898 7.23 12.62 15.77 18.01 19.75 21.16 22.36 23.40 0.1380 0.1017 0.0053 0.0361 1.0921 0.0563 0.0566 0.1597 1.64589922. 0);(ln7771. 77451.192RXY y = 19.3248 x0.

9、5367R2 = 0.982305101520253000.511.52y = 8.7302e0.7136xR2 = 0.842505101520253000.511.52y = 10.863x + 7.7607R2 = 0.939105101520253000.511.52y = 7.7771Ln(x) + 19.745R2 = 0.9922051015202500.511.52SPSS實(shí)現(xiàn)過(guò)程M Mo od de el l S Su um mm ma ar ry y a an nd d P Pa ar ra am me et te er r E Es st ti im ma at te e

10、s sDependent Variable: y.992763.49916.00019.7457.777EquationLinearR SquareFdf1df2Sig.Model SummaryConstantb1Parameter EstimatesThe independent variable is lnx.9922. 0);(ln7771. 77451.192RXY15名重傷病人的住院天數(shù)名重傷病人的住院天數(shù)X與預(yù)后指數(shù)與預(yù)后指數(shù)Y0102030405060020406080住院天數(shù)X預(yù)后指數(shù)Y012345020406080住院天數(shù)（天）X預(yù)后指數(shù)的對(duì)數(shù)lnY Yln回歸方程為：回歸

11、方程為： 4.037-0.0384.037-0.038X X方差分析有統(tǒng)計(jì)學(xué)意義，方差分析有統(tǒng)計(jì)學(xué)意義，P P0.00000.0000，F(xiàn) F276.38276.38，表明回歸方程有貢獻(xiàn)。，表明回歸方程有貢獻(xiàn)。確定系數(shù)為確定系數(shù)為0.95510.9551，表明回歸擬合原，表明回歸擬合原資料較好。資料較好。轉(zhuǎn)換為原方程的另一種形式：轉(zhuǎn)換為原方程的另一種形式： XXeeY038. 0)038. 0037. 4(665.56XXeYeY0396. 0038. 06066.58;665.56Model Summary and Parameter EstimatesModel Summary and P

12、arameter EstimatesDependent Variable: lny.955276.379113.0004.037-.038EquationLinearR SquareFdf1df2Sig.Model SummaryConstantb1Parameter EstimatesThe independent variable is x.XXeYeY0396. 0038. 06066.58;665.56比較兩個(gè)回歸方程可見(jiàn)，對(duì)同一份樣本比較兩個(gè)回歸方程可見(jiàn)，對(duì)同一份樣本采用不同估計(jì)方法得到的結(jié)果并不相同。采用不同估計(jì)方法得到的結(jié)果并不相同。主要因?yàn)榍€(xiàn)直線(xiàn)化以后的回歸只對(duì)變主要因?yàn)榍€(xiàn)

13、直線(xiàn)化以后的回歸只對(duì)變換后的換后的Y Y* *( (lnYlnY) )負(fù)責(zé)負(fù)責(zé), , 得到的線(xiàn)性方程可得到的線(xiàn)性方程可使使Y Y* *與其估計(jì)值與其估計(jì)值 之間的殘差平方和最小之間的殘差平方和最小, ,并不保證原變量并不保證原變量Y Y與其估計(jì)值與其估計(jì)值 之間的殘之間的殘差平方和也是最小。差平方和也是最小。YY曲線(xiàn)直線(xiàn)化曲線(xiàn)直線(xiàn)化 非線(xiàn)性最小二乘法非線(xiàn)性最小二乘法Y)ln()ln(XbaY問(wèn)題問(wèn)題：前一個(gè)例子只對(duì)自變量作對(duì)：前一個(gè)例子只對(duì)自變量作對(duì)數(shù)變換的數(shù)變換的，能否保證原，能否保證原變量變量Y Y與其估計(jì)值與其估計(jì)值 之間的殘差平方之間的殘差平方和也是最??？和也是最??？)ln(XbaY問(wèn)

14、題問(wèn)題：如何判斷哪個(gè)曲線(xiàn)擬合方程更佳？：如何判斷哪個(gè)曲線(xiàn)擬合方程更佳？ 對(duì)于前例，幾個(gè)常見(jiàn)曲線(xiàn)擬合得到的決定對(duì)于前例，幾個(gè)常見(jiàn)曲線(xiàn)擬合得到的決定系數(shù)系數(shù)R R2 2如下（如下（曲線(xiàn)直線(xiàn)化曲線(xiàn)直線(xiàn)化）：）：R R2 2R2R R2 2R R2 2 R R2 2問(wèn)題問(wèn)題：如何判斷那個(gè)曲線(xiàn)擬合方程更佳？：如何判斷那個(gè)曲線(xiàn)擬合方程更佳？ 對(duì)于例對(duì)于例2 2，幾個(gè)常見(jiàn)曲線(xiàn)擬合得到的決定系，幾個(gè)常見(jiàn)曲線(xiàn)擬合得到的決定系數(shù)數(shù)R R2 2如下（如下（非線(xiàn)性回歸非線(xiàn)性回歸迭代法迭代法）：）：R R2 2R2R R2 2R R2 2R R2 2散點(diǎn)圖辨析散點(diǎn)圖辨析 010203040506001020304050

15、6070病人住院天數(shù)X預(yù)后指數(shù)Y對(duì)數(shù)曲線(xiàn)指數(shù)曲線(xiàn) 如果條件允許最好采用非線(xiàn)性回如果條件允許最好采用非線(xiàn)性回歸（歸（Nonlinear Regression）擬合冪）擬合冪函數(shù)曲線(xiàn)與指數(shù)函數(shù)曲線(xiàn)函數(shù)曲線(xiàn)與指數(shù)函數(shù)曲線(xiàn) 注意繪制散點(diǎn)圖，并結(jié)合專(zhuān)業(yè)知注意繪制散點(diǎn)圖，并結(jié)合專(zhuān)業(yè)知識(shí)解釋識(shí)解釋 非線(xiàn)性回歸與一般線(xiàn)性回歸的求解方法不同在非線(xiàn)性回歸與一般線(xiàn)性回歸的求解方法不同在于：于：1. 需要給定參數(shù)（需要給定參數(shù)（a、b）的初始值）的初始值2. 采用迭代方法，不斷更新估計(jì)的參數(shù)，直至采用迭代方法，不斷更新估計(jì)的參數(shù)，直至穩(wěn)定在某一值為止。穩(wěn)定在某一值為止。優(yōu)點(diǎn)：優(yōu)點(diǎn)：在需要變換在需要變換Y時(shí)時(shí)，結(jié)果更可

16、靠。，結(jié)果更可靠。缺點(diǎn)：缺點(diǎn)：a.計(jì)算復(fù)雜；計(jì)算復(fù)雜；b.初始值不適當(dāng)時(shí)，估計(jì)不準(zhǔn)確初始值不適當(dāng)時(shí)，估計(jì)不準(zhǔn)確.采用采用SPSSSPSS進(jìn)行曲線(xiàn)擬合進(jìn)行曲線(xiàn)擬合曲線(xiàn)直線(xiàn)化Analyze Regression Curve Estimation 可選Power 、Logarithmic、Exponential、Quadratic、Cubic 等 非線(xiàn)性回歸Analyze Regression Nonlinear 設(shè)置模型： Model Expression 參數(shù)賦初值：Parameters SPSS曲線(xiàn)擬合實(shí)例一只紅鈴蟲(chóng)的產(chǎn)卵數(shù)與溫度有關(guān)，下面是有關(guān)數(shù)據(jù)： 溫 度 21 23 25 27 29 3

17、2 35 產(chǎn)卵數(shù) 7 11 21 24 66 115 325試找出一種較佳的經(jīng)驗(yàn)回歸函數(shù)？全選全選擬合曲線(xiàn)圖擬合曲線(xiàn)圖方差分析表方差分析表ExponentialModel SummaryModel Summary.993.985.982.181RR SquareAdjustedR SquareStd. Error ofthe EstimateThe independent variable is 溫度.ANOVAANOVA10.931110.931333.866.000.1645.03311.0946RegressionResidualTotalSum ofSquaresdfMean Squa

18、reFSig.The independent variable is 溫度.CoefficientsCoefficients.272.015.99318.272.000.021.0092.415.060溫度(Constant)BStd. ErrorUnstandardizedCoefficientsBetaStandardizedCoefficientstSig.The dependent variable is ln(產(chǎn)卵數(shù)).n系統(tǒng)給出了所有模型的最優(yōu)擬合結(jié)果，系統(tǒng)給出了所有模型的最優(yōu)擬合結(jié)果，可以通過(guò)比較相關(guān)系數(shù)的平方值（可以通過(guò)比較相關(guān)系數(shù)的平方值（Rsq）來(lái)比較各模型的優(yōu)劣。來(lái)比較各模型的優(yōu)劣。R2越大，則模型越大，則模型越好。越好。n此例給出的模型中，復(fù)合模型、生長(zhǎng)模此例給出的模型中，復(fù)合模型、生長(zhǎng)模型、指數(shù)模型和邏輯模型對(duì)應(yīng)的最大，型、指數(shù)模型和邏輯模型對(duì)應(yīng)的最大，達(dá)到達(dá)到0.985，因此采用這，因此采用這4種模型進(jìn)行擬合種模型進(jìn)行擬合是最合適的。是最合適的。n注意：擬合結(jié)果要結(jié)合專(zhuān)業(yè)知識(shí)進(jìn)行判注意：擬合結(jié)果要結(jié)合專(zhuān)業(yè)知識(shí)進(jìn)行判