《回歸分析小結(jié)》ppt課件

1、1.1回歸分析的根回歸分析的根本思想及其初步本思想及其初步運(yùn)用運(yùn)用兩個(gè)變量的關(guān)系兩個(gè)變量的關(guān)系不相關(guān)不相關(guān)相關(guān)關(guān)系相關(guān)關(guān)系函數(shù)關(guān)系函數(shù)關(guān)系線性相關(guān)線性相關(guān)非線性相關(guān)非線性相關(guān)函數(shù)關(guān)系中的兩個(gè)變量間是一種確定性關(guān)系。函數(shù)關(guān)系中的兩個(gè)變量間是一種確定性關(guān)系。相關(guān)關(guān)系是一種非確定性關(guān)系。相關(guān)關(guān)系是一種非確定性關(guān)系。 比中“回歸添加的內(nèi)容數(shù)學(xué)數(shù)學(xué)統(tǒng)計(jì)統(tǒng)計(jì)畫散點(diǎn)圖畫散點(diǎn)圖了解最小二乘法的思了解最小二乘法的思想想求回歸直線方程求回歸直線方程y ybxbxa a用回歸直線方程處理用回歸直線方程處理運(yùn)用問題運(yùn)用問題選修1-2統(tǒng)計(jì)案例引入線性回歸模型ybxae了解模型中隨機(jī)誤差項(xiàng)e產(chǎn)生的緣由了解相關(guān)指數(shù) R2

2、和模型擬合的效果之間的關(guān)系了解殘差圖的作用利用線性回歸模型處理一類非線性回歸問題正確了解分析方法與結(jié)果相關(guān)系數(shù)相關(guān)系數(shù)r12211()().()()niiinniiiixxyyxxyy0.751, 1, 0.75, 0 25,0.25,rrr 當(dāng)， 表明兩個(gè)變量正相關(guān)很強(qiáng)；當(dāng)表明兩個(gè)變量負(fù)相關(guān)很強(qiáng)；當(dāng).表明兩個(gè)變量相關(guān)性較弱。1221niiiniix ynxybxnx相關(guān)關(guān)系的測度相關(guān)關(guān)系的測度相關(guān)系數(shù)取值及其意義相關(guān)系數(shù)取值及其意義1、線性回歸模型：、線性回歸模型：y=bx+a+e其中其中a和和b為模型的未知參數(shù)，為模型的未知參數(shù)，e稱為隨機(jī)誤差。稱為隨機(jī)誤差。2、數(shù)據(jù)點(diǎn)和它在回歸直線上相應(yīng)

3、位置的差別、數(shù)據(jù)點(diǎn)和它在回歸直線上相應(yīng)位置的差別 是隨機(jī)誤差的效應(yīng)，稱是隨機(jī)誤差的效應(yīng)，稱 為殘差。為殘差。)iiyy(iiieyy=3、對每名女大學(xué)生計(jì)算這個(gè)差別，然后分別將所得、對每名女大學(xué)生計(jì)算這個(gè)差別，然后分別將所得的值平方后加起來，用數(shù)學(xué)符號(hào)表示為：的值平方后加起來，用數(shù)學(xué)符號(hào)表示為： 稱為殘差平方和，它代表了隨機(jī)誤差的效應(yīng)。稱為殘差平方和，它代表了隨機(jī)誤差的效應(yīng)。21()niiiyy 在研討兩個(gè)變量間的關(guān)系時(shí)，首先要根據(jù)散點(diǎn)圖來粗略判別它們能否線性相在研討兩個(gè)變量間的關(guān)系時(shí)，首先要根據(jù)散點(diǎn)圖來粗略判別它們能否線性相關(guān)，能否可以用回歸模型來擬合數(shù)據(jù)。關(guān)，能否可以用回歸模型來擬合數(shù)據(jù)。

4、4、殘差分析與殘差圖的定義：、殘差分析與殘差圖的定義： 然后，我們可以經(jīng)過殘差然后，我們可以經(jīng)過殘差 來判別模型擬合的效果，判別來判別模型擬合的效果，判別原始數(shù)據(jù)中能否存在可疑數(shù)據(jù)，這方面的分析任務(wù)稱為殘差分析。原始數(shù)據(jù)中能否存在可疑數(shù)據(jù)，這方面的分析任務(wù)稱為殘差分析。12,ne ee 我們可以利用圖形來分析殘差特性，作圖時(shí)縱坐標(biāo)為殘差，橫坐標(biāo)可以選為樣我們可以利用圖形來分析殘差特性，作圖時(shí)縱坐標(biāo)為殘差，橫坐標(biāo)可以選為樣本編號(hào)，或身高數(shù)據(jù)，或體重估計(jì)值等，這樣作出的圖形稱為殘差圖。本編號(hào)，或身高數(shù)據(jù)，或體重估計(jì)值等，這樣作出的圖形稱為殘差圖。 我們可以用相關(guān)指數(shù)我們可以用相關(guān)指數(shù)R2來描寫回歸

5、的效來描寫回歸的效果，其計(jì)算公式是：果，其計(jì)算公式是：222112211()()1()()nniiiiinniiiiyyyyRyyyy1=)()(+)()(1=21=21=21=2niiniiniiniiiyyyyyyyy_-殘差平方和殘差平方和 21()niiiyy總偏向平方和總偏向平方和 1=2)(niiyy_-1=2)(niiyy -回歸平方和回歸平方和 =+解析變量和隨機(jī)誤差的總效應(yīng)總偏向平方和解析變量和隨機(jī)誤差的總效應(yīng)總偏向平方和=解析變量的效應(yīng)回歸平方和解析變量的效應(yīng)回歸平方和+隨機(jī)誤差的效應(yīng)殘差平方和隨機(jī)誤差的效應(yīng)殘差平方和2221121()()()nniiiiiniiyyyyR

6、yy總偏差平方和 殘差平方和回歸平方和總偏差平方和總偏差平方和顯然，顯然，R2的值越大，闡明殘差平方和越小，也就是說模型擬合的值越大，闡明殘差平方和越小，也就是說模型擬合效果越好。效果越好。R2越接近越接近1，表示回歸的效果越好由于，表示回歸的效果越好由于R2越接近越接近1，表示解析，表示解析變量和預(yù)告變量的線性相關(guān)性越強(qiáng)。變量和預(yù)告變量的線性相關(guān)性越強(qiáng)。 假設(shè)某組數(shù)據(jù)能夠采取幾種不同回歸方程進(jìn)展回歸分析，那么可以經(jīng)過比較R2的值來做出選擇，即選取R2較大的模型作為這組數(shù)據(jù)的模型?？偟膩碚f：總的來說：相關(guān)指數(shù)相關(guān)指數(shù)R2是度量模型擬合效果的一種目的。是度量模型擬合效果的一種目的。在線性模型中，

7、它代表自變量描寫預(yù)告變量的才干。在線性模型中，它代表自變量描寫預(yù)告變量的才干。 我們可以用相關(guān)指數(shù)我們可以用相關(guān)指數(shù)R2來描寫回歸的效來描寫回歸的效果，其計(jì)算公式是：果，其計(jì)算公式是：222112211()()1()()nniiiiinniiiiyyyyRyyyy普通地，建立回歸模型的根本步驟為：普通地，建立回歸模型的根本步驟為：1 1確定研討對象，明確哪個(gè)變量是解析變量，哪個(gè)變量確定研討對象，明確哪個(gè)變量是解析變量，哪個(gè)變量是預(yù)告變量。是預(yù)告變量。2 2畫出確定好的解析變量和預(yù)告變量的散點(diǎn)圖，察看它畫出確定好的解析變量和預(yù)告變量的散點(diǎn)圖，察看它們之間的關(guān)系如能否存在線性關(guān)系等。們之間的關(guān)系如

8、能否存在線性關(guān)系等。3 3由閱歷確定回歸方程的類型如我們察看到數(shù)據(jù)呈線由閱歷確定回歸方程的類型如我們察看到數(shù)據(jù)呈線性關(guān)系，那么選用線性回歸方程性關(guān)系，那么選用線性回歸方程y=bx+ay=bx+a. .4 4按一定規(guī)那么估計(jì)回歸方程中的參數(shù)如最小二乘法。按一定規(guī)那么估計(jì)回歸方程中的參數(shù)如最小二乘法。5 5得出結(jié)果后分析殘差圖能否有異常個(gè)別數(shù)據(jù)對應(yīng)殘差得出結(jié)果后分析殘差圖能否有異常個(gè)別數(shù)據(jù)對應(yīng)殘差過大，或殘差呈現(xiàn)不隨機(jī)的規(guī)律性，等等，過存在異常，那過大，或殘差呈現(xiàn)不隨機(jī)的規(guī)律性，等等，過存在異常，那么檢查數(shù)據(jù)能否有誤，或模型能否適宜等。么檢查數(shù)據(jù)能否有誤，或模型能否適宜等。案例案例2 一只紅鈴蟲的

9、產(chǎn)卵數(shù)一只紅鈴蟲的產(chǎn)卵數(shù)y和溫度和溫度x有關(guān)?，F(xiàn)搜集了有關(guān)?，F(xiàn)搜集了7組觀測數(shù)據(jù)列于表中：組觀測數(shù)據(jù)列于表中：1 1試建立產(chǎn)卵數(shù)試建立產(chǎn)卵數(shù)y y與溫度與溫度x x之間的回歸方程；并之間的回歸方程；并預(yù)測溫度為預(yù)測溫度為28oC28oC時(shí)產(chǎn)卵數(shù)目。時(shí)產(chǎn)卵數(shù)目。2 2他所建立的模型中溫度在多大程度上解釋了他所建立的模型中溫度在多大程度上解釋了產(chǎn)卵數(shù)的變化？產(chǎn)卵數(shù)的變化？ 溫度溫度xoC21232527293235產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個(gè)個(gè)711212466115325非線性回歸問題非線性回歸問題 y=bx2+a 變換變換 y=bt+a非線性關(guān)系非線性關(guān)系 線性關(guān)系線性關(guān)系方案2問題問題選用選用y=bx

10、2+a ，還是，還是y=bx2+cx+a ？問題問題3-200-1000100200300400-40-30-20-10010203040 產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫問題問題2如何求如何求a、b ？協(xié)作探求協(xié)作探求 t=x2二次函數(shù)模型二次函數(shù)模型假設(shè)線性回歸方程為假設(shè)線性回歸方程為 ：=bx+a選選 模模 型型由計(jì)算器得：線性回歸方程為由計(jì)算器得：線性回歸方程為y=19.87x-463.73y=19.87x-463.73 相關(guān)指數(shù)相關(guān)指數(shù)R2=r20.8642=0.7464R2=r20.8642=0.7464估計(jì)參數(shù)估計(jì)參數(shù) 解：選取氣溫為解釋變量解：選取氣溫為解釋變量x x，產(chǎn)卵數(shù)，產(chǎn)卵數(shù) 為預(yù)

11、告變量為預(yù)告變量y y。選變量選變量所以，二次函數(shù)模型中溫度解釋了所以，二次函數(shù)模型中溫度解釋了74.64%的產(chǎn)卵數(shù)變化。的產(chǎn)卵數(shù)變化。探求新知探求新知畫散點(diǎn)圖畫散點(diǎn)圖050100150200250300350036912151821242730333639方案1分析和預(yù)測分析和預(yù)測當(dāng)當(dāng)x=28時(shí)，時(shí)，y =19.8728-463.73 93一元線性模型一元線性模型方案2解答平方變換：令平方變換：令t=x2，產(chǎn)卵數(shù)，產(chǎn)卵數(shù)y和溫度和溫度x之間二次函數(shù)模型之間二次函數(shù)模型y=bx2+a就轉(zhuǎn)化為產(chǎn)卵數(shù)就轉(zhuǎn)化為產(chǎn)卵數(shù)y和溫度的平方和溫度的平方t之間線性回歸模型之間線性回歸模型y=bt+a溫度溫度21

12、232527293235溫度的平方溫度的平方t44152962572984110241225產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個(gè)個(gè)711212466115325作散點(diǎn)圖，并由計(jì)算器得：作散點(diǎn)圖，并由計(jì)算器得：y和和t之間的線性回歸方程為之間的線性回歸方程為y=0.367t-202.543，相關(guān)指數(shù)，相關(guān)指數(shù)R2=0.802將將t=x2代入線性回歸方程得：代入線性回歸方程得： y=0.367x2 -202.543當(dāng)當(dāng)x=28時(shí)，時(shí)，y=0.367282-202.5485，且，且R2=0.802，所以，二次函數(shù)模型中溫度解所以，二次函數(shù)模型中溫度解釋了釋了80.2%的產(chǎn)卵數(shù)變化。的產(chǎn)卵數(shù)變化。產(chǎn)卵數(shù)y/個(gè)05010

13、01502002503003500150300450600750900 1050 1200 1350t問題問題 變換變換 y=bx+a非線性關(guān)系非線性關(guān)系 線性關(guān)系線性關(guān)系21c xyce問題問題如何選取指數(shù)函數(shù)的底如何選取指數(shù)函數(shù)的底?-50050100150200250300350400450-10-50510152025303540產(chǎn)卵數(shù)產(chǎn)卵數(shù)氣溫氣溫指數(shù)函數(shù)模型指數(shù)函數(shù)模型方案3協(xié)作探求協(xié)作探求對數(shù)對數(shù)方案3解答溫度溫度xoC21232527293235z=lny1.9462.3983.0453.1784.1904.7455.784產(chǎn)卵數(shù)產(chǎn)卵數(shù)y/個(gè)個(gè)71121246611532500

14、.40.81.21.622.42.8036912 15 18 21 24 27 30 33 36 39xz當(dāng)當(dāng)x=28oC x=28oC 時(shí)，時(shí)，y 44 y 44 ，指數(shù)回歸，指數(shù)回歸模型中溫度解釋了模型中溫度解釋了98.5%98.5%的產(chǎn)卵數(shù)的的產(chǎn)卵數(shù)的變化變化由計(jì)算器得：由計(jì)算器得：z z關(guān)于關(guān)于x x的線性回歸方程的線性回歸方程為為0.272x-3.849 .ye22111221lnln()lnlnlnlnlnc xc xycececc xec xc 對數(shù)變換：在對數(shù)變換：在 中兩邊取常用對數(shù)得中兩邊取常用對數(shù)得21c xyce令令 ，那么，那么 就轉(zhuǎn)換為就轉(zhuǎn)換為z=bx+a.z=bx+a.12ln,ln,zy ac bc21c xyce z=0.272x-3.8