回歸分析的基本思想及其初步應用

回歸分析的基本思想及其初步應用第一頁，共三十七頁，編輯于2023年，星期五

比《數(shù)學3》中“回歸”增加的內(nèi)容數(shù)學３——統(tǒng)計畫散點圖了解最小二乘法的思想求回歸直線方程y＝bx＋a用回歸直線方程解決應用問題選修１-２——統(tǒng)計案例引入線性回歸模型y＝bx＋a＋e了解模型中隨機誤差項e產(chǎn)生的原因了解相關指數(shù)R2

和模型擬合的效果之間的關系了解殘差圖的作用利用線性回歸模型解決一類非線性回歸問題正確理解分析方法與結果第二頁，共三十七頁，編輯于2023年，星期五問題1：正方形的面積y與正方形的邊長x之間的函數(shù)關系是y=x2確定性關系問題2：某水田水稻產(chǎn)量y與施肥量x之間是否-------有一個確定性的關系？例如：在7塊并排、形狀大小相同的試驗田上進行施肥量對水稻產(chǎn)量影響的試驗，得到如下所示的一組數(shù)據(jù)：施化肥量x15202530354045水稻產(chǎn)量y330345365405445450455復習、變量之間的兩種關系第三頁，共三十七頁，編輯于2023年，星期五自變量取值一定時，因變量的取值帶有一定隨機性的兩個變量之間的關系叫做相關關系。1、定義：

1）：相關關系是一種不確定性關系；注對具有相關關系的兩個變量進行統(tǒng)計分析的方法叫回歸分析。2）：第四頁，共三十七頁，編輯于2023年，星期五2、現(xiàn)實生活中存在著大量的相關關系。

如：人的身高與年齡；產(chǎn)品的成本與生產(chǎn)數(shù)量；商品的銷售額與廣告費；家庭的支出與收入。等等第五頁，共三十七頁，編輯于2023年，星期五回歸分析的內(nèi)容與步驟：統(tǒng)計檢驗通過后，最后是利用回歸模型，根據(jù)自變量去估計、預測因變量。

回歸分析通過一個變量或一些變量的變化解釋另一變量的變化。

其主要內(nèi)容和步驟是：首先根據(jù)理論和對問題的分析判斷，將變量分為自變量和因變量；其次，設法找出合適的數(shù)學方程式（即回歸模型）描述變量間的關系；由于涉及到的變量具有不確定性，接著還要對回歸模型進行統(tǒng)計檢驗；第六頁，共三十七頁，編輯于2023年，星期五最小二乘法：稱為樣本點的中心?；貧w直線過樣本點的中心第七頁，共三十七頁，編輯于2023年，星期五3、對兩個變量進行的線性分析叫做線性回歸分析。2、回歸直線方程：2.相應的直線叫做回歸直線。1、所求直線方程叫做回歸直---線方程；其中第八頁，共三十七頁，編輯于2023年，星期五相關系數(shù)

1.計算公式2．相關系數(shù)的性質(zhì)(1)|r|≤1．(2)|r|越接近于1，相關程度越大；|r|越接近于0，相關程度越小．問題：達到怎樣程度，x、y線性相關呢？它們的相關程度怎樣呢？第九頁，共三十七頁，編輯于2023年，星期五負相關正相關第十頁，共三十七頁，編輯于2023年，星期五相關系數(shù)ｒ＞０正相關；ｒ＜０負相關．通常，r∈[-1,-0.75]--負相關很強;

r∈[0.75,1]—正相關很強;

r∈[-0.75,-0.3]--負相關一般;r∈[0.3,0.75]—正相關一般;r∈[-0.25,0.25]--相關性較弱;第十一頁，共三十七頁，編輯于2023年，星期五相關關系的測度

（相關系數(shù)取值及其意義）-1.0+1.00-0.5+0.5完全負相關無線性相關完全正相關負相關程度增加r正相關程度增加第十二頁，共三十七頁，編輯于2023年，星期五例1從某大學中隨機選取8名女大學生，其身高和體重數(shù)據(jù)如表1-1所示。編號12345678身高/cm165165157170175165155170體重/kg4857505464614359求根據(jù)一名女大學生的身高預報她的體重的回歸方程，并預報一名身高為172cm的女大學生的體重。案例1：女大學生的身高與體重解：1、選取身高為自變量x，體重為因變量y，作散點圖：2、由散點圖知道身高和體重有比較好的線性相關關系，因此可以用線性回歸方程刻畫它們之間的關系。第十三頁，共三十七頁，編輯于2023年，星期五分析：由于問題中要求根據(jù)身高預報體重，因此選取身高為自變量，體重為因變量．2.回歸方程：1.散點圖；第十四頁，共三十七頁，編輯于2023年，星期五例1從某大學中隨機選取8名女大學生，其身高和體重數(shù)據(jù)如表1-1所示。編號12345678身高/cm165165157170175165155170體重/kg4857505464614359求根據(jù)一名女大學生的身高預報她的體重的回歸方程，并預報一名身高為172cm的女大學生的體重。案例1：女大學生的身高與體重解：1、選取身高為自變量x，體重為因變量y，作散點圖：2、由散點圖知道身高和體重有比較好的線性相關關系，因此可以用線性回歸方程刻畫它們之間的關系。3、從散點圖還看到，樣本點散布在某一條直線的附近，而不是在一條直線上，所以不能用一次函數(shù)y=bx+a描述它們關系。探究：身高為172cm的女大學生的體重一定是60.316kg嗎？如果不是，你能解析一下原因嗎？第十五頁，共三十七頁，編輯于2023年，星期五我們可以用下面的線性回歸模型來表示：y=bx+a+e，其中a和b為模型的未知參數(shù)，e稱為隨機誤差。第十六頁，共三十七頁，編輯于2023年，星期五思考:產(chǎn)生隨機誤差項e的原因是什么？隨機誤差e的來源(可以推廣到一般）：1、忽略了其它因素的影響：影響身高y的因素不只是體重x，可能還包括遺傳基因、飲食習慣、生長環(huán)境等因素；2、用線性回歸模型近似真實模型所引起的誤差；3、身高y的觀測誤差。

以上三項誤差越小，說明我們的回歸模型的擬合效果越好。第十七頁，共三十七頁，編輯于2023年，星期五函數(shù)模型與回歸模型之間的差別函數(shù)模型：回歸模型：可以提供選擇模型的準則第十八頁，共三十七頁，編輯于2023年，星期五函數(shù)模型與回歸模型之間的差別函數(shù)模型：回歸模型：

線性回歸模型y=bx+a+e增加了隨機誤差項e，因變量y的值由自變量x和隨機誤差項e共同確定，即自變量x只能解釋部分y的變化。

在統(tǒng)計中，我們也把自變量x稱為解釋變量，因變量y稱為預報變量。所以，對于身高為172cm的女大學生，由回歸方程可以預報其體重為

第十九頁，共三十七頁，編輯于2023年，星期五思考：如何刻畫預報變量（體重）的變化？這個變化在多大程度上與解釋變量（身高）有關？在多大程度上與隨機誤差有關？

假設身高和隨機誤差的不同不會對體重產(chǎn)生任何影響，那么所有人的體重將相同。在體重不受任何變量影響的假設下，設8名女大學生的體重都是她們的平均值，即8個人的體重都為54.5kg。54.554.554.554.554.554.554.554.5體重/kg170155165175170157165165身高/cm87654321編號54.5kg在散點圖中，所有的點應該落在同一條水平直線上，但是觀測到的數(shù)據(jù)并非如此。這就意味著預報變量（體重）的值受解釋變量（身高）或隨機誤差的影響。對回歸模型進行統(tǒng)計檢驗第二十頁，共三十七頁，編輯于2023年，星期五5943616454505748體重/kg170155165175170157165165身高/cm87654321編號

例如，編號為6的女大學生的體重并沒有落在水平直線上，她的體重為61kg。解釋變量（身高）和隨機誤差共同把這名學生的體重從54.5kg“推”到了61kg，相差6.5kg，所以6.5kg是解析變量和隨機誤差的組合效應。

編號為3的女大學生的體重并也沒有落在水平直線上，她的體重為50kg。解析變量（身高）和隨機誤差共同把這名學生的體重從50kg“推”到了54.5kg，相差-4.5kg，這時解析變量和隨機誤差的組合效應為-4.5kg。用這種方法可以對所有預報變量計算組合效應。數(shù)學上，把每個效應（觀測值減去總的平均值）的平方加起來，即用表示總的效應，稱為總偏差平方和。在例1中，總偏差平方和為354。第二十一頁，共三十七頁，編輯于2023年，星期五5943616454505748體重/kg170155165175170157165165身高/cm87654321編號

那么，在這個總的效應（總偏差平方和）中，有多少來自于解釋變量（身高）？有多少來自于隨機誤差？

假設隨機誤差對體重沒有影響，也就是說，體重僅受身高的影響，那么散點圖中所有的點將完全落在回歸直線上。但是，在圖中，數(shù)據(jù)點并沒有完全落在回歸直線上。這些點散布在回歸直線附近，所以一定是隨機誤差把這些點從回歸直線上“推”開了。在例1中，殘差平方和約為128.361。

因此，數(shù)據(jù)點和它在回歸直線上相應位置的差異是隨機誤差的效應，稱為殘差。例如，編號為6的女大學生，計算隨機誤差的效應（殘差）為：對每名女大學生計算這個差異，然后分別將所得的值平方后加起來，用數(shù)學符號稱為殘差平方和，它代表了隨機誤差的效應。表示為：即，第二十二頁，共三十七頁，編輯于2023年，星期五

由于解釋變量和隨機誤差的總效應（總偏差平方和）為354，而隨機誤差的效應為128.361，所以解析變量的效應為解析變量和隨機誤差的總效應（總偏差平方和）

=解析變量的效應（回歸平方和）+隨機誤差的效應（殘差平方和）354-128.361=225.639這個值稱為回歸平方和。我們可以用相關指數(shù)R2來刻畫回歸的效果，其計算公式是第二十三頁，共三十七頁，編輯于2023年，星期五樣本決定系數(shù)

（判定系數(shù)R2

）1.回歸平方和占總偏差平方和的比例反映回歸直線的擬合程度取值范圍在[0,1]之間

R21，說明回歸方程擬合的越好；R20，說明回歸方程擬合的越差判定系數(shù)等于相關系數(shù)的平方，即R2＝(r)2第二十四頁，共三十七頁，編輯于2023年，星期五顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果越好。在線性回歸模型中，R2表示解析變量對預報變量變化的貢獻率。

R2越接近1，表示回歸的效果越好（因為R2越接近1，表示解釋變量和預報變量的線性相關性越強）。

如果某組數(shù)據(jù)可能采取幾種不同回歸方程進行回歸分析，則可以通過比較R2的值來做出選擇，即選取R2較大的模型作為這組數(shù)據(jù)的模型?？偟膩碚f：相關指數(shù)R2是度量模型擬合效果的一種指標。在線性模型中，它代表自變量刻畫預報變量的能力。我們可以用相關指數(shù)R2來刻畫回歸的效果，其計算公式是第二十五頁，共三十七頁，編輯于2023年，星期五1354總計0.36128.361殘差變量0.64225.639隨機誤差比例平方和來源表1-3

從表3-1中可以看出，解釋變量對總效應約貢獻了64%，即R20.64，可以敘述為“身高解析了64%的體重變化”，而隨機誤差貢獻了剩余的36%。所以，身高對體重的效應比隨機誤差的效應大得多。我們可以用相關指數(shù)R2來刻畫回歸的效果，其計算公式是第二十六頁，共三十七頁，編輯于2023年，星期五表3-2列出了女大學生身高和體重的原始數(shù)據(jù)以及相應的殘差數(shù)據(jù)。

在研究兩個變量間的關系時，首先要根據(jù)散點圖來粗略判斷它們是否線性相關，是否可以用回歸模型來擬合數(shù)據(jù)。殘差分析與殘差圖的定義：

然后，我們可以通過殘差來判斷模型擬合的效果，判斷原始數(shù)據(jù)中是否存在可疑數(shù)據(jù)，這方面的分析工作稱為殘差分析。編號12345678身高/cm165165157170175165155170體重/kg4857505464614359殘差-6.3732.6272.419-4.6181.1376.627-2.8830.382

我們可以利用圖形來分析殘差特性，作圖時縱坐標為殘差，橫坐標可以選為樣本編號，或身高數(shù)據(jù)，或體重估計值等，這樣作出的圖形稱為殘差圖。第二十七頁，共三十七頁，編輯于2023年，星期五2023/5/26殘差圖的制作及作用。坐標縱軸為殘差變量，橫軸可以有不同的選擇；若模型選擇的正確，殘差圖中的點應該分布在以橫軸為心的帶形區(qū)域；對于遠離橫軸的點，要特別注意。身高與體重殘差圖異常點

錯誤數(shù)據(jù)模型問題

幾點說明：第一個樣本點和第6個樣本點的殘差比較大，需要確認在采集過程中是否有人為的錯誤。如果數(shù)據(jù)采集有錯誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采集沒有錯誤，則需要尋找其他的原因。另外，殘差點比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型計較合適，這樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預報精度越高。第二十八頁，共三十七頁，編輯于2023年，星期五例2、在一段時間內(nèi)，某中商品的價格x元和需求量Y件之間的一組數(shù)據(jù)為：求出Y對的回歸直線方程，并說明擬合效果的好壞。價格x1416182022需求量Y1210753解：第二十九頁，共三十七頁，編輯于2023年，星期五練習、在一段時間內(nèi)，某中商品的價格x元和需求量Y件之間的一組數(shù)據(jù)為：求出Y對的回歸直線方程，并說明擬合效果的好壞。價格x1416182022需求量Y1210753列出殘差表為0.994因而，擬合效果較好。00.3-0.4-0.10.24.62.6-0.4-2.4-4.4第三十頁，共三十七頁，編輯于2023年，星期五例2：一只紅鈴蟲的產(chǎn)卵數(shù)y與溫度x有關,現(xiàn)收集了7組觀測數(shù)據(jù),試建立y與x之間的回歸方程解:1)作散點圖;從散點圖中可以看出產(chǎn)卵數(shù)和溫度之間的關系并不能用線性回歸模型來很好地近似。這些散點更像是集中在一條指數(shù)曲線或二次曲線的附近。第三十一頁，共三十七頁，編輯于2023年，星期五解:令則z=bx+a,(a=lnc1,b=c2),列出變換后數(shù)據(jù)表并畫出x與z的散點圖x和z之間的關系可以用線性回歸模型來擬合x21232527293235z1.9462.3983.0453.1784.194.7455.784第三十二頁，共三十七頁，編輯于2023年，星期五2)用y=c3x2+c4模型,令,則y=c3t+c4,列出變換后數(shù)據(jù)表并畫出t與y的散點圖散點并不集中在一條直線的附近，因此用線性回歸模型擬合他們的效果不是最好的。t44152962572984110241225y711212466115325第三十三頁，共三十七頁，編輯于2023年，星期五殘差表編號1234567x21232527293235y711212466115325e(1)0.52-0.1671.76-9.1498.889-14.15332.928e(2