821一元線性回歸模型8-2-2 一元線性回歸模型參數(shù)的最小二乘估計課件

8.2一元線性回歸模型及其應(yīng)用8.2.1一元線性回歸模型8.2.2一元線性回歸模型參數(shù)的最小二乘估計1.結(jié)合具體實例,了解一元線性回歸模型的含義,了解模型參數(shù)的統(tǒng)計意義.2.了解最小二乘法原理,掌握一元線性回歸模型參數(shù)的最小二乘估計方法,會使用

相關(guān)的統(tǒng)計軟件.3.針對實際問題,會用一元線性回歸模型進行預(yù)測.

第八章成對數(shù)據(jù)的統(tǒng)計分析8.2一元線性回歸模型及其應(yīng)用第八章成對數(shù)據(jù)的統(tǒng)計分析1第八章成對數(shù)據(jù)的統(tǒng)計分析1|一元線性回歸模型把式子①

稱為Y關(guān)于x的一元線性回歸模型.其中,Y稱為

因變量或②

響應(yīng)變量

,x稱為自變量或③

解釋變量

;a和b為模型的未知參

數(shù),a稱為截距參數(shù),b稱為④

斜率參數(shù)

;e是Y與bx+a之間的隨機誤差.如果e=0,那

么Y與x之間的關(guān)系就可用一元線性函數(shù)模型來描述.第八章成對數(shù)據(jù)的統(tǒng)計分析1|一元線性回歸模型把式子①22|線性回歸方程與最小二乘法設(shè)滿足一元線性回歸模型的兩個變量的n對樣本數(shù)據(jù)為(x1,y1),(x2,y2),…,(xn,yn),

由yi=bxi+a+ei(i=1,2,…,n),得|yi-(bxi+a)|=|ei|,顯然|ei|越小,表示樣本數(shù)據(jù)點離直線y=bx+

a的豎直距離越小.通常用各散點到直線的豎直距離的平方之和Q=

來刻畫各樣本觀測數(shù)據(jù)與直線y=bx+a的“整體接近程度”.當(dāng)a,b的取值為

時,Q達到最小.將⑦

=

x+

稱為Y關(guān)于x的經(jīng)驗回歸方程,也稱經(jīng)驗回歸函數(shù)或經(jīng)驗回歸公式,其圖形稱為經(jīng)驗回歸直線.這種

求經(jīng)驗回歸方程的方法叫做最小二乘法,求得的

,

叫做b,a的最小二乘估計.經(jīng)驗回歸直線一定過點(

,

).第八章成對數(shù)據(jù)的統(tǒng)計分析2|線性回歸方程與最小二乘法設(shè)滿足一元線性回歸模型的兩33|殘差分析對于響應(yīng)變量Y,通過觀測得到的數(shù)據(jù)稱為觀測值,通過⑧

經(jīng)驗回歸方程

得到的

稱為預(yù)測值,觀測值減去預(yù)測值稱為⑨

殘差

.殘差是隨機誤差的估計結(jié)果,通過對殘差的分析可以判斷模型刻畫數(shù)據(jù)的效果,以及判斷原始數(shù)據(jù)中是否存在可

疑數(shù)據(jù)等,這方面工作稱為殘差分析.第八章成對數(shù)據(jù)的統(tǒng)計分析3|殘差分析對于響應(yīng)變量Y,通過觀測得到的數(shù)據(jù)稱為觀測值,44|刻畫回歸效果的方式1.殘差圖法作圖時縱坐標(biāo)為殘差,橫坐標(biāo)可以選為樣本編號,或身高數(shù)據(jù),或體重估計值等,這樣

作出的圖形稱為殘差圖.在殘差圖中,殘差點比較均勻地落在以橫軸為對稱軸的水

平的帶狀區(qū)域中,說明選用的模型比較合適,這樣的帶狀區(qū)域的寬度越窄,說明模型

擬合精度越高.2.殘差平方和法殘差平方和為

(yi-

)2,殘差平方和⑩

越小

,模型擬合效果越好.3.利用R2刻畫擬合效果R2=1-

.R2越大,模型的擬合效果越

好

,R2越小,模型的擬合效果越

差

.第八章成對數(shù)據(jù)的統(tǒng)計分析4|刻畫回歸效果的方式1.殘差圖法第八章成對數(shù)據(jù)的統(tǒng)計分5

1.求經(jīng)驗回歸方程前可以不進行相關(guān)性檢驗.

(

?)2.在殘差圖中,縱坐標(biāo)為殘差,橫坐標(biāo)可以選為樣本編號.

(√)3.利用經(jīng)驗回歸方程求出的值是準(zhǔn)確值.

(

?)4.對于散點圖中的點沒有均勻分布在某條直線附近或毫無規(guī)則可言的兩個變量,用

最小二乘法求不出對應(yīng)的回歸直線.

(

?)5.y的實際值與估計值之間的誤差記為e,稱之為隨機誤差,它主要是由計算產(chǎn)生的誤

差,沒有其他原因.(

?)6.用R2來刻畫模型的擬合效果時,R2大于1對應(yīng)模型的擬合效果比R2小于1對應(yīng)模型

的擬合效果好.

(

?)判斷正誤，正確的畫“√”，錯誤的畫“?”.第八章成對數(shù)據(jù)的統(tǒng)計分析?判斷正誤，正確的畫“√”，錯誤的畫“?”.第八章61|如何檢驗回歸模型的擬合效果隨著人們物質(zhì)生活水平的提高,旅游漸漸成為人們的一種生活時尚.如圖是2015年

至2019年國內(nèi)游客人數(shù)y(單位:億)的散點圖.

第八章成對數(shù)據(jù)的統(tǒng)計分析1|如何檢驗回歸模型的擬合效果隨著人們物質(zhì)生活水平的提高,71.根據(jù)2015年至2019年的數(shù)據(jù)建立了游客人數(shù)y與時間編號t(2015年至2019年時間

編號t的值依次記為1,2,…,5)的3個回歸模型:①

=36.17e0.1041t;②

=5.14t+34.54;③

=12.412lnt+38.076.你認為用哪個模型能更好地刻畫y與t之間的關(guān)系?提示:觀察散點圖,散點的分布更接近一條直線,故選擇回歸模型②.2.根據(jù)問題1中你選定的經(jīng)驗回歸方程,作出殘差圖,并作出分析.提示:依據(jù)經(jīng)驗回歸方程

=5.14t+34.54,得殘差數(shù)據(jù)如表所示.t12345殘差

0.22-0.420.040.3-0.14第八章成對數(shù)據(jù)的統(tǒng)計分析1.根據(jù)2015年至2019年的數(shù)據(jù)建立了游客人數(shù)y與時間編8以時間編號為橫坐標(biāo),殘差為縱坐標(biāo)作出殘差圖如圖所示.由圖可知,殘差點分布較

均勻,即用上述回歸模型擬合數(shù)據(jù)效果好.

3.根據(jù)問題1中你選定的經(jīng)驗回歸方程,計算R2,并作相關(guān)說明.提示:利用R2的計算公式得R2≈0.9987,因為R2越大,模型的擬合效果越好,所以從R2

分析,該模型擬合數(shù)據(jù)效果好.第八章成對數(shù)據(jù)的統(tǒng)計分析以時間編號為橫坐標(biāo),殘差為縱坐標(biāo)作出殘差圖如圖所示.由圖可知9

檢驗回歸模型的擬合效果一般有兩種方法:1.殘差分析通過殘差分析發(fā)現(xiàn)原始數(shù)據(jù)中的可疑數(shù)據(jù),判斷所建立模型的擬合效果.其步驟是:

計算殘差、畫殘差圖、在殘差圖中分析殘差特性.2.利用R2分析通過公式R2=1-

計算R2,其中

表示殘差平方和.R2越大,殘差平方和越小,模型的擬合效果越好;R2越小,殘差平方和越大,模型的擬合效果越差.第八章成對數(shù)據(jù)的統(tǒng)計分析?第八章成對數(shù)據(jù)的統(tǒng)計分析102|經(jīng)驗回歸方程的求解與應(yīng)用

(1)確定研究對象,明確哪個變量是解釋變量,哪個變量是響應(yīng)變量.(2)畫出解釋變量和響應(yīng)變量的散點圖,觀察它們之間的關(guān)系(如是否存在線性關(guān)系

等).(3)由經(jīng)驗確定回歸方程的類型(如我們觀察到數(shù)據(jù)呈線性關(guān)系,則選用線性經(jīng)驗回

歸方程).(4)按一定規(guī)則(如最小二乘法)估計經(jīng)驗回歸方程中的參數(shù).(5)對變量值的預(yù)測,即解釋變量取某值時,對響應(yīng)變量的值進行預(yù)測.第八章成對數(shù)據(jù)的統(tǒng)計分析2|經(jīng)驗回歸方程的求解與應(yīng)用?第八章成對數(shù)據(jù)的統(tǒng)計分析11

(2020全國百所名校新高考模擬示范卷)從中國教育在線官方公布的考研動機調(diào)查

來看,本科生扎堆考研的原因大概集中在這6個方面:本科就業(yè)壓力大,提升競爭力;通過考研選擇真正感興趣的專業(yè);為了獲得學(xué)歷;繼續(xù)深造;隨大流;有名校情結(jié).如

圖是2015~2019年全國碩士研究生報考人數(shù)的折線圖.第八章成對數(shù)據(jù)的統(tǒng)計分析??通過考研選擇真正感興趣的專業(yè);為了獲得學(xué)歷;繼續(xù)深造;隨12(1)求y關(guān)于t的經(jīng)驗回歸方程;(2)根據(jù)(1)中的經(jīng)驗回歸方程,預(yù)測2021年全國碩士研究生報考人數(shù).參考數(shù)據(jù):

(ti-

)(yi-

)=311.經(jīng)驗回歸方程

=

t+

中,

=

.第八章成對數(shù)據(jù)的統(tǒng)計分析(1)求y關(guān)于t的經(jīng)驗回歸方程;參考數(shù)據(jù):?(ti-?)(y13解析

(1)由題中數(shù)據(jù)得

=

=3,

=

=214.2,

=(-2)2+(-1)2+02+12+22=10,由參考數(shù)據(jù)知,

=311,第八章成對數(shù)據(jù)的統(tǒng)計分析解析

(1)由題中數(shù)據(jù)得第八章成對數(shù)據(jù)的統(tǒng)計分析14所以

=

=

=31.1,

=

-

=214.2-31.1×3=120.9,故所求經(jīng)驗回歸方程為

=31.1t+120.9.(2)將2021年對應(yīng)的t=7代入經(jīng)驗回歸方程,得

=31.1×7+120.9=338.6,所以預(yù)測2021年全國碩士研究生報考人數(shù)為338.6萬.第八章成對數(shù)據(jù)的統(tǒng)計分析所以?=?=?=31.1,第八章成對數(shù)據(jù)的統(tǒng)計分析158.2一元線性回歸模型及其應(yīng)用8.2.1一元線性回歸模型8.2.2一元線性回歸模型參數(shù)的最小二乘估計1.結(jié)合具體實例,了解一元線性回歸模型的含義,了解模型參數(shù)的統(tǒng)計意義.2.了解最小二乘法原理,掌握一元線性回歸模型參數(shù)的最小二乘估計方法,會使用

相關(guān)的統(tǒng)計軟件.3.針對實際問題,會用一元線性回歸模型進行預(yù)測.

第八章成對數(shù)據(jù)的統(tǒng)計分析8.2一元線性回歸模型及其應(yīng)用第八章成對數(shù)據(jù)的統(tǒng)計分析16第八章成對數(shù)據(jù)的統(tǒng)計分析1|一元線性回歸模型把式子①

稱為Y關(guān)于x的一元線性回歸模型.其中,Y稱為

因變量或②

響應(yīng)變量

,x稱為自變量或③

解釋變量

;a和b為模型的未知參

數(shù),a稱為截距參數(shù),b稱為④

斜率參數(shù)

;e是Y與bx+a之間的隨機誤差.如果e=0,那

么Y與x之間的關(guān)系就可用一元線性函數(shù)模型來描述.第八章成對數(shù)據(jù)的統(tǒng)計分析1|一元線性回歸模型把式子①172|線性回歸方程與最小二乘法設(shè)滿足一元線性回歸模型的兩個變量的n對樣本數(shù)據(jù)為(x1,y1),(x2,y2),…,(xn,yn),

由yi=bxi+a+ei(i=1,2,…,n),得|yi-(bxi+a)|=|ei|,顯然|ei|越小,表示樣本數(shù)據(jù)點離直線y=bx+

a的豎直距離越小.通常用各散點到直線的豎直距離的平方之和Q=

來刻畫各樣本觀測數(shù)據(jù)與直線y=bx+a的“整體接近程度”.當(dāng)a,b的取值為

時,Q達到最小.將⑦

=

x+

稱為Y關(guān)于x的經(jīng)驗回歸方程,也稱經(jīng)驗回歸函數(shù)或經(jīng)驗回歸公式,其圖形稱為經(jīng)驗回歸直線.這種

求經(jīng)驗回歸方程的方法叫做最小二乘法,求得的

,

叫做b,a的最小二乘估計.經(jīng)驗回歸直線一定過點(

,

).第八章成對數(shù)據(jù)的統(tǒng)計分析2|線性回歸方程與最小二乘法設(shè)滿足一元線性回歸模型的兩183|殘差分析對于響應(yīng)變量Y,通過觀測得到的數(shù)據(jù)稱為觀測值,通過⑧

經(jīng)驗回歸方程

得到的

稱為預(yù)測值,觀測值減去預(yù)測值稱為⑨

殘差

.殘差是隨機誤差的估計結(jié)果,通過對殘差的分析可以判斷模型刻畫數(shù)據(jù)的效果,以及判斷原始數(shù)據(jù)中是否存在可

疑數(shù)據(jù)等,這方面工作稱為殘差分析.第八章成對數(shù)據(jù)的統(tǒng)計分析3|殘差分析對于響應(yīng)變量Y,通過觀測得到的數(shù)據(jù)稱為觀測值,194|刻畫回歸效果的方式1.殘差圖法作圖時縱坐標(biāo)為殘差,橫坐標(biāo)可以選為樣本編號,或身高數(shù)據(jù),或體重估計值等,這樣

作出的圖形稱為殘差圖.在殘差圖中,殘差點比較均勻地落在以橫軸為對稱軸的水

平的帶狀區(qū)域中,說明選用的模型比較合適,這樣的帶狀區(qū)域的寬度越窄,說明模型

擬合精度越高.2.殘差平方和法殘差平方和為

(yi-

)2,殘差平方和⑩

越小

,模型擬合效果越好.3.利用R2刻畫擬合效果R2=1-

.R2越大,模型的擬合效果越

好

,R2越小,模型的擬合效果越

差

.第八章成對數(shù)據(jù)的統(tǒng)計分析4|刻畫回歸效果的方式1.殘差圖法第八章成對數(shù)據(jù)的統(tǒng)計分20

1.求經(jīng)驗回歸方程前可以不進行相關(guān)性檢驗.

(

?)2.在殘差圖中,縱坐標(biāo)為殘差,橫坐標(biāo)可以選為樣本編號.

(√)3.利用經(jīng)驗回歸方程求出的值是準(zhǔn)確值.

(

?)4.對于散點圖中的點沒有均勻分布在某條直線附近或毫無規(guī)則可言的兩個變量,用

最小二乘法求不出對應(yīng)的回歸直線.

(

?)5.y的實際值與估計值之間的誤差記為e,稱之為隨機誤差,它主要是由計算產(chǎn)生的誤

差,沒有其他原因.(

?)6.用R2來刻畫模型的擬合效果時,R2大于1對應(yīng)模型的擬合效果比R2小于1對應(yīng)模型

的擬合效果好.

(

?)判斷正誤，正確的畫“√”，錯誤的畫“?”.第八章成對數(shù)據(jù)的統(tǒng)計分析?判斷正誤，正確的畫“√”，錯誤的畫“?”.第八章211|如何檢驗回歸模型的擬合效果隨著人們物質(zhì)生活水平的提高,旅游漸漸成為人們的一種生活時尚.如圖是2015年

至2019年國內(nèi)游客人數(shù)y(單位:億)的散點圖.

第八章成對數(shù)據(jù)的統(tǒng)計分析1|如何檢驗回歸模型的擬合效果隨著人們物質(zhì)生活水平的提高,221.根據(jù)2015年至2019年的數(shù)據(jù)建立了游客人數(shù)y與時間編號t(2015年至2019年時間

編號t的值依次記為1,2,…,5)的3個回歸模型:①

=36.17e0.1041t;②

=5.14t+34.54;③

=12.412lnt+38.076.你認為用哪個模型能更好地刻畫y與t之間的關(guān)系?提示:觀察散點圖,散點的分布更接近一條直線,故選擇回歸模型②.2.根據(jù)問題1中你選定的經(jīng)驗回歸方程,作出殘差圖,并作出分析.提示:依據(jù)經(jīng)驗回歸方程

=5.14t+34.54,得殘差數(shù)據(jù)如表所示.t12345殘差

0.22-0.420.040.3-0.14第八章成對數(shù)據(jù)的統(tǒng)計分析1.根據(jù)2015年至2019年的數(shù)據(jù)建立了游客人數(shù)y與時間編23以時間編號為橫坐標(biāo),殘差為縱坐標(biāo)作出殘差圖如圖所示.由圖可知,殘差點分布較

均勻,即用上述回歸模型擬合數(shù)據(jù)效果好.

3.根據(jù)問題1中你選定的經(jīng)驗回歸方程,計算R2,并作相關(guān)說明.提示:利用R2的計算公式得R2≈0.9987,因為R2越大,模型的擬合效果越好,所以從R2

分析,該模型擬合數(shù)據(jù)效果好.第八章成對數(shù)據(jù)的統(tǒng)計分析以時間編號為橫坐標(biāo),殘差為縱坐標(biāo)作出殘差圖如圖所示.由圖可知24

檢驗回歸模型的擬合效果一般有兩種方法:1.殘差分析通過殘差分析發(fā)現(xiàn)原始數(shù)據(jù)中的可疑數(shù)據(jù),判斷所建立模型的擬合效果.其步驟是:

計算殘差、畫殘差圖、在殘差圖中分析殘差特性.2.利用R2分析通過公式R2=1-

計算R2,其中

表示殘差平方和.R2越大,殘差平方和越小,模型的擬合效果越好;R2越小,殘差平方和越大,模型的擬合效果越差.第八章成對數(shù)據(jù)的統(tǒng)計分析?第八章成對數(shù)據(jù)的統(tǒng)計分析252|經(jīng)驗回歸方程的求解與應(yīng)用

(1)確定研究對象,明確哪個變量是解釋變量,哪個變量是響應(yīng)變量.(2)畫出解釋變量和響應(yīng)變量的散點圖,觀察它們之間的關(guān)系(如是否存在線性關(guān)系

等).(3)由經(jīng)驗確定回歸方程的類型(如我們觀察到數(shù)據(jù)呈線性關(guān)系,則選用線性經(jīng)驗回

歸方程).(4)按一定規(guī)則(如最小二乘法)估計經(jīng)驗回歸方程中的參數(shù).(5)對變量值的預(yù)測,即解釋變量取某值時,對響應(yīng)變量的值進行預(yù)測.