試驗(yàn)設(shè)計(jì)與數(shù)據(jù)處理教案-李云雁第4章-回歸分析

1、第4章 試驗(yàn)數(shù)據(jù)的回歸分析,4.1 基本概念,（1） 相互關(guān)系 確定性關(guān)系 ： 變量之間存在著嚴(yán)格的函數(shù)關(guān)系 相關(guān)關(guān)系 ： 變量之間近似存在某種函數(shù)關(guān)系 （2） 回歸分析（regression analysis） 處理變量之間相關(guān)關(guān)系的統(tǒng)計(jì)方法 確定回歸方程：變量之間近似的函數(shù)關(guān)系式 檢驗(yàn)回歸方程的顯著性 試驗(yàn)結(jié)果預(yù)測(cè),4.2 一元線(xiàn)性回歸分析,4.2.1 一元線(xiàn)性回歸方程的建立 （1）最小二乘原理 設(shè)有一組試驗(yàn)數(shù)據(jù) （如表），若x，y符合線(xiàn)性關(guān)系,計(jì)算值 與試驗(yàn)值yi不一定相等,與yi之間的偏差稱(chēng)為殘差：,a，b回歸系數(shù)（regressioncoefficient）,回歸值/擬合值，由xi代

2、入回歸方程計(jì)算出的y值。,一元線(xiàn)性回歸方程 ：,殘差平方和 ：,殘差平方和最小時(shí)，回歸方程與試驗(yàn)值的擬合程度最好,求殘差平方和極小值：,正規(guī)方程組（normalequation） ：,解正規(guī)方程組：,簡(jiǎn)算法：,4.2.2 一元線(xiàn)性回歸效果的檢驗(yàn),（1）相關(guān)系數(shù)檢驗(yàn)法 相關(guān)系數(shù)（correlationcoefficient） ： 描述變量x與y的線(xiàn)性相關(guān)程度 定義式：,相關(guān)系數(shù)特點(diǎn)：,1r1 r1：x與y有精確的線(xiàn)性關(guān)系,r0：x與y負(fù)線(xiàn)性相關(guān)（negative linear correlation） r0：x與y正線(xiàn)性相關(guān)（positivelinear correlation）,r0時(shí) ，x與

3、y沒(méi)有線(xiàn)性關(guān)系 ，但可能存在其它類(lèi)型關(guān)系 相關(guān)系數(shù)r越接近1，x與y的線(xiàn)性相關(guān)程度越高 試驗(yàn)次數(shù)越少 ， r越接近1,當(dāng) ，說(shuō)明x與y之間存在顯著的線(xiàn)性關(guān)系,對(duì)于給定的顯著性水平，查相關(guān)系數(shù)臨界值rmin,相關(guān)系數(shù)檢驗(yàn),（2）F檢驗(yàn),離差平方和 總離差平方和：,回歸平方和（regressionsumofsquare） ：,殘差平方和 ：,三者關(guān)系：,自由度,SST的自由度 ：dfTn1 SSR的自由度 ：dfR1 SSe的自由度 ：dfen2 三者關(guān)系： dfT dfR dfe 均方,F檢驗(yàn),F服從自由度為（1，n2）的F分布 給定的顯著性水平下 ，查得臨界值： F（1，n2) 若F F（1，

4、n2) ，則認(rèn)為x與y有明顯的線(xiàn)性關(guān)系，所建立的線(xiàn)形回歸方程有意義,方差分析表,4.3 多元線(xiàn)性回歸分析,（1）多元線(xiàn)性回歸形式 試驗(yàn)指標(biāo)（因變量）y與m個(gè)試驗(yàn)因素（自變量） xj（j=1,2,m） 多元線(xiàn)性回歸方程：,4.3.1 多元線(xiàn)性回歸方程的建立,偏回歸系數(shù)：,（2）回歸系數(shù)的確定,根據(jù)最小二乘法原理 ：求偏差平方和最小時(shí)的回歸系數(shù) 偏差平方和：,根據(jù)：,得到正規(guī)方程組，正規(guī)方程組的解即為回歸系數(shù)。,4.3.2 多元線(xiàn)性回歸方程顯著性檢驗(yàn),（1） F檢驗(yàn)法 總平方和：,回歸平方和：,殘差平方和：,F服從自由度為（m，nm1）的分布 給定的顯著性水平下 ，若FF(m，nm1 )，則y與x

5、1，x2，xm間有顯著的線(xiàn)性關(guān)系,方差分析表：,（2）相關(guān)系數(shù)檢驗(yàn)法,復(fù)相關(guān)系數(shù)（multiple correlation coefficient）R ： 反映了一個(gè)變量y與多個(gè)變量（ x1，x2，xm ）之間線(xiàn)性相關(guān)程度 計(jì)算式 ：,R1時(shí)，y與變量x1，x2，xm之間存在嚴(yán)格的線(xiàn)性關(guān)系 R0時(shí)，y與變量x1，x2，xm之間不存在線(xiàn)性相關(guān)關(guān)系 當(dāng)0R1時(shí)，變量之間存在一定程度的線(xiàn)性相關(guān)關(guān)系 RRmin時(shí) ，y與x1，x2，xm之間存在密切的線(xiàn)性關(guān)系,R一般取正值 ，0R1,4.3.3 因素主次的判斷,（1）偏回歸系數(shù)的標(biāo)準(zhǔn)化 設(shè)偏回歸系數(shù)bj的標(biāo)準(zhǔn)化回歸系數(shù)為Pj：,Pj越大，則對(duì)應(yīng)的因素（

6、xj）越重要,（2） 偏回歸系數(shù)的顯著性檢驗(yàn),計(jì)算每個(gè)偏回歸系數(shù)的偏回歸平方和SSj ： SSjbjLjy SSj的大小表示了因素xj對(duì)試驗(yàn)指標(biāo)y影響程度，對(duì)應(yīng)的自由度dfj1,服從自由度為（1，nm1）的F分布,如果若F F(1，nm1 )， ，則說(shuō)明xj對(duì)y的影響是不顯著的，這時(shí)可將它從回歸方程中去掉，變成（m1）元線(xiàn)性方程,（3）偏回歸系數(shù)的t檢驗(yàn),t值的計(jì)算 ：,單側(cè)t分布表,檢驗(yàn)：,如果,說(shuō)明xj對(duì)y的影響顯著，否則影響不顯著，,4.4.1 一元非線(xiàn)性回歸分析,通過(guò)線(xiàn)性變換，將其轉(zhuǎn)化為一元線(xiàn)性回歸問(wèn)題 ： 直角坐標(biāo)中畫(huà)出散點(diǎn)圖； 推測(cè)y與x之間的函數(shù)關(guān)系； 線(xiàn)性變換； 用線(xiàn)性回歸方法求出線(xiàn)性回歸方程； 返回到原來(lái)的函數(shù)關(guān)系，得到要求的回歸方程,4.4 非線(xiàn)性回歸分析,4.4.2 一元多項(xiàng)式回歸,任何復(fù)雜的一元連續(xù)函數(shù)都可用高階多項(xiàng)式近似表達(dá) ：,可以轉(zhuǎn)化為多元線(xiàn)性方程：,4.4.3 多元非線(xiàn)性回歸,如果試驗(yàn)指標(biāo)y與多個(gè)試驗(yàn)因素xj之間存在非線(xiàn)性關(guān)系，如二次回歸模型 ：,4.5 Excel在回歸分析中