第六章-回歸分析課件

第6章回歸分析第6章本章主要闡述回歸分析的基本概念，并重點介紹一元線性回歸和非線性回歸的基本方法，給出回歸方程的方差分析和顯著性檢驗。從而使學(xué)生掌握回歸分析方法的基本原理，學(xué)會從實際測量中尋求兩個變量和多個變量之間的內(nèi)在關(guān)系。教學(xué)目標(biāo)本章主要闡述回歸分析的基本概念，并重點介紹一元線性回回歸分析的基本概念和主要內(nèi)容一元線性回歸方程的求法回歸方程的方差分析和顯著性檢驗一元非線性回歸方法重點與難點回歸分析的基本概念和主要內(nèi)容重點與難點第一節(jié)回歸分析的基本概念一、函數(shù)與相關(guān)函數(shù)關(guān)系：可以用明確的函數(shù)關(guān)系式精確地表示出來相關(guān)關(guān)系：這些變量之間既存在著密切的關(guān)系，又不能由一個（或幾個）自變量的數(shù)值精確地求出另一個因變量的數(shù)值，而是要通過試驗和調(diào)查研究，才能確定它們之間的關(guān)系。第一節(jié)回歸分析的基本概念一、函數(shù)與相關(guān)函數(shù)關(guān)系：可以用明確第一節(jié)回歸分析的基本概念二、回歸分析思路1、由數(shù)據(jù)確定變量之間的數(shù)學(xué)表達(dá)式－回歸方程或經(jīng)驗公式；2、對回歸方程的可信度進(jìn)行統(tǒng)計檢驗；3、因素分析。第一節(jié)回歸分析的基本概念二、回歸分析思路1、由數(shù)據(jù)確定變量第二節(jié)一元線性回歸一元線性回歸：確定兩個變量之間的線性關(guān)系，即直線擬合問題。一、回歸方程的確定例：確定某段導(dǎo)線的電阻與溫度之間的關(guān)系：19.125.030.136.040.046.550.076.3077.8079.7580.8082.3583.9085.10散點圖：202530354045507678828084第二節(jié)一元線性回歸一元線性回歸：確定兩個變量之間的線性關(guān)系第二節(jié)一元線性回歸從散點圖可以看出：電阻與溫度大致成線性關(guān)系。設(shè)測量數(shù)據(jù)有如下結(jié)構(gòu)形式：式中，分別表示其它隨機因素對電阻值影響的總和。思路：要求電阻y與x的關(guān)系，即根據(jù)測量數(shù)據(jù)要求出和的估計值。根據(jù)測量數(shù)據(jù)，可以得到7個測量方程，結(jié)合前面所學(xué)，未知數(shù)有兩個，而方程個數(shù)大于未知數(shù)的個數(shù)，適合于用最小二乘法求解。第二節(jié)一元線性回歸從散點圖可以看出：電阻與溫度大致成線性關(guān)第二節(jié)一元線性回歸設(shè)得到的回歸方程殘差方程為根據(jù)最小二乘原理可求得回歸系數(shù)b0和b。對照第五章最小二乘法的矩陣形式，令第二節(jié)一元線性回歸設(shè)得到的回歸方程殘差方程為根據(jù)最小二乘原第二節(jié)一元線性回歸則誤差方程的矩陣形式為對照，設(shè)測得值的精度相等，則有將測得值分別代入上式，可計算得第二節(jié)一元線性回歸則誤差方程的矩陣形式為對照第二節(jié)一元線性回歸其中第二節(jié)一元線性回歸其中二、回歸方程的方差分析及顯著性檢驗第二節(jié)一元線性回歸問題：這條回歸直線是否符合y與x之間的客觀規(guī)律？回歸直線的預(yù)報精度如何？對N個觀測值與其算術(shù)平均值之差的平方和進(jìn)行分解；從量值上區(qū)別對Ｎ個觀測值的影響因素；用F檢驗法對所求回歸方程進(jìn)行顯著性檢驗。方差分析法二、回歸方程的方差分析及顯著性檢驗第二節(jié)一元線性回歸問題：第二節(jié)一元線性回歸（一）回歸方程的方差分析1、引起變差的原因：A、自變量x取值的不同；B、其它因素（包括試驗誤差）的影響。2、方差分析總的離差平方和（即N個觀測值之間的變差）可以證明：第二節(jié)一元線性回歸（一）回歸方程的方差分析1、引起變差的原第二節(jié)一元線性回歸S=U+Q其中U—回歸平方和，反映總變差中由于x和y的線性關(guān)系而引起y變化的部分。Q—殘余平方和，反映所有觀測點到回歸直線的殘余誤差，即其它因素對y變差的影響。第二節(jié)一元線性回歸S=U+Q其中U—回歸平方和，反映總變差第二節(jié)一元線性回歸（二）回歸方程顯著性檢驗—F檢驗法基本思路：方程是否顯著取決于U和Q的大小，U越大，Q越小，說明y與x的線性關(guān)系愈密切。計算統(tǒng)計量F對一元線性回歸，應(yīng)為查F分布表，根據(jù)給定的顯著性水平和已知的自由度1和N-2進(jìn)行檢驗：第二節(jié)一元線性回歸（二）回歸方程顯著性檢驗—F檢驗法基本若

回歸在0.01的水平上高度顯著。第二節(jié)一元線性回歸回歸在0.05的水平上顯著?；貧w在0.1的水平上顯著。回歸不顯著。若第二節(jié)一元線性回歸回歸在0.05的水平上顯著?；貧w在0（三）殘余方差與殘余標(biāo)準(zhǔn)差第二節(jié)一元線性回歸殘余方差：排除了x對y的線性影響后，衡量y隨機波動的特征量。殘余標(biāo)準(zhǔn)差：含義：越小，回歸直線的精度越高。（三）殘余方差與殘余標(biāo)準(zhǔn)差第二節(jié)一元線性回歸殘余方差：排除第二節(jié)一元線性回歸（四）方差分析表來源平方和自由度方差F顯著性回歸殘余1N-2－總計N-1－－－三、重復(fù)試驗情況1、重復(fù)試驗的意義“回歸方程顯著”：只表明因素x的一次項對y的影響顯著；難以確定影響y的是否還有其它不可忽略的因素？x和y是否線性?不表明該方程擬合得很好。第二節(jié)一元線性回歸（四）方差分析表來源平方和自由度方差為檢驗一個回歸方程擬合的好壞，可通過重復(fù)試驗，獲得誤差平方和和失擬平方和，然后用對進(jìn)行F檢驗。第二節(jié)一元線性回歸2、重復(fù)試驗回歸直線的求法1）設(shè)N個試驗點，每個試驗點重復(fù)m次試驗，則將這m次試驗取平均值，然后再按照前面的方法進(jìn)行擬合，見表6－5和表6－6。2）方差分析為檢驗一個回歸方程擬合的好壞，可通過重復(fù)試驗，獲得誤來源平方和自由度方差F顯著性回歸失擬誤差總計－－－第二節(jié)一元線性回歸3）方差檢驗:判斷一元回歸方程擬合效果:判斷失擬平方和對試驗誤差的影響:綜合判斷一元回歸方程擬合效果來源平方和自由度方差F顯著性回歸總第二節(jié)一元線性回歸1）分組法－平均值法將自變量按由小到大次序排列，分成個數(shù)相等或近于相等的兩個組（分組數(shù)等于未知數(shù)個數(shù)），則可建立相應(yīng)的兩組觀測方程：將兩組觀測方程分別相加，得b和b02）圖解法－緊繩法四、回歸直線的簡便求法第二節(jié)一元線性回歸1）分組法－平均值法將第三節(jié)一元非線性回歸2、求解未知參數(shù)?？苫€回歸為直線回歸，

用最小二乘法求解；可化曲線回歸為多項式

回歸。1、確定函數(shù)類型并檢驗。一、求解思路二、回歸曲線函數(shù)類型的選取和檢驗1、直接判斷法2、作圖觀察法，與典型曲線比較，確定其屬于何

種類型，然后檢驗。第三節(jié)一元非線性回歸2、求解未知參數(shù)。可化曲線回歸為直線回第三節(jié)一元非線性回歸3、直線檢驗法（適用于待求參數(shù)不多的情況）a、預(yù)選回歸曲線b、c、求出幾對與x,y相對應(yīng)的Z1,Z2值d、以Z1,Z2為坐標(biāo)作圖，若為直線，則說明原

選定的曲線類型是合適的，否則重新考慮。第三節(jié)一元非線性回歸3、直線檢驗法（適用于待求參數(shù)不多的情4、表差法（適用于多項式回歸，含有常數(shù)項多于兩

個的情況）第三節(jié)一元非線性回歸a、用試驗數(shù)據(jù)畫圖；b、確定定差，列出xi,yi各對應(yīng)值；c、根據(jù)x,y的讀出值作出差值，看其是否與確定方程式的標(biāo)準(zhǔn)相符，若一致，則說明原選定的曲線類型是合適的。三、化曲線回歸為直線回歸問題用直線檢驗法或表差法檢驗的曲線回歸方程