回歸分析的基本思想及其初步應用（二）課件

2023/7/31鄭平正制作3.1回歸分析的基本思想及其初步應用（二）高二數學選修1-22023/7/31鄭平正制作3.1回歸分析的基本思想及

比《數學3》中“回歸”增加的內容數學３——統(tǒng)計畫散點圖了解最小二乘法的思想求回歸直線方程y＝bx＋a用回歸直線方程解決應用問題選修１-２——統(tǒng)計案例引入線性回歸模型y＝bx＋a＋e了解模型中隨機誤差項e產生的原因了解相關指數R2

和模型擬合的效果之間的關系了解殘差圖的作用利用線性回歸模型解決一類非線性回歸問題正確理解分析方法與結果比《數學3》中“回歸”增加的內容數學３——統(tǒng)計選修１-２—回歸分析的內容與步驟：統(tǒng)計檢驗通過后，最后是利用回歸模型，根據自變量去估計、預測因變量。

回歸分析通過一個變量或一些變量的變化解釋另一變量的變化。

其主要內容和步驟是：首先根據理論和對問題的分析判斷，將變量分為自變量和因變量；其次，設法找出合適的數學方程式（即回歸模型）描述變量間的關系；由于涉及到的變量具有不確定性，接著還要對回歸模型進行統(tǒng)計檢驗；回歸分析的內容與步驟：統(tǒng)計檢驗通過后，最后是利用回歸模型，根例1從某大學中隨機選取8名女大學生，其身高和體重數據如表1-1所示。編號12345678身高/cm165165157170175165155170體重/kg4857505464614359求根據一名女大學生的身高預報她的體重的回歸方程，并預報一名身高為172cm的女大學生的體重。案例1：女大學生的身高與體重解：1、選取身高為自變量x，體重為因變量y，作散點圖：2、由散點圖知道身高和體重有比較好的線性相關關系，因此可以用線性回歸方程刻畫它們之間的關系。例1從某大學中隨機選取8名女大學生，其身高和體重數據如表1分析：由于問題中要求根據身高預報體重，因此選取身高為自變量，體重為因變量．2.回歸方程：1.散點圖；探究：身高為172cm的女大學生的體重一定是60.316kg嗎？如果不是，你能解析一下原因嗎？分析：由于問題中要求根據身高預報體重，因此選取身高為自變量，例1從某大學中隨機選取8名女大學生，其身高和體重數據如表1-1所示。編號12345678身高/cm165165157170175165155170體重/kg4857505464614359求根據一名女大學生的身高預報她的體重的回歸方程，并預報一名身高為172cm的女大學生的體重。案例1：女大學生的身高與體重解：1、選取身高為自變量x，體重為因變量y，作散點圖：2、由散點圖知道身高和體重有比較好的線性相關關系，因此可以用線性回歸方程刻畫它們之間的關系。3、從散點圖還看到，樣本點散布在某一條直線的附近，而不是在一條直線上，所以不能用一次函數y=bx+a描述它們關系。例1從某大學中隨機選取8名女大學生，其身高和體重數據如表1我們可以用下面的線性回歸模型來表示：y=bx+a+e，

(3)其中a和b為模型的未知參數，e稱為隨機誤差。y=bx+a+e，E(e)=0,D(e)=

(4)

在線性回歸模型(4)中，隨機誤差e的方差越小，通過回歸直線(5)預報真實值y的精度越高。隨機誤差是引起預報值與真實值y之間的誤差的原因之一，其大小取決于隨機誤差的方差。另一方面，由于公式(1)和(2)中和為截距和斜率的估計值，它們與真實值a和b之間也存在誤差，這種誤差是引起預報值與真實值y之間誤差的另一個原因。我們可以用下面的線性回歸模型來表示：y=bx+a+e，E(e思考:產生隨機誤差項e的原因是什么？隨機誤差e的來源(可以推廣到一般）：1、忽略了其它因素的影響：影響身高y的因素不只是體重x，可能還包括遺傳基因、飲食習慣、生長環(huán)境等因素；2、用線性回歸模型近似真實模型所引起的誤差；3、身高y的觀測誤差。

以上三項誤差越小，說明我們的回歸模型的擬合效果越好。思考:隨機誤差e的來源(可以推廣到一般）：函數模型與回歸模型之間的差別函數模型：回歸模型：可以提供選擇模型的準則函數模型與回歸模型之間的差別函數模型：回歸模型：可以提供函數模型與回歸模型之間的差別函數模型：回歸模型：

線性回歸模型y=bx+a+e增加了隨機誤差項e，因變量y的值由自變量x和隨機誤差項e共同確定，即自變量x只能解析部分y的變化。

在統(tǒng)計中，我們也把自變量x稱為解析變量，因變量y稱為預報變量。所以，對于身高為172cm的女大學生，由回歸方程可以預報其體重為

函數模型與回歸模型之間的差別函數模型：回歸模型：思考：如何刻畫預報變量（體重）的變化？這個變化在多大程度上與解析變量（身高）有關？在多大程度上與隨機誤差有關？

假設身高和隨機誤差的不同不會對體重產生任何影響，那么所有人的體重將相同。在體重不受任何變量影響的假設下，設8名女大學生的體重都是她們的平均值，即8個人的體重都為54.5kg。54.554.554.554.554.554.554.554.5體重/kg170155165175170157165165身高/cm87654321編號54.5kg在散點圖中，所有的點應該落在同一條水平直線上，但是觀測到的數據并非如此。這就意味著預報變量（體重）的值受解析變量（身高）或隨機誤差的影響。對回歸模型進行統(tǒng)計檢驗思考：假設身高和隨機誤差的不同不會對體重產生任何5943616454505748體重/kg170155165175170157165165身高/cm87654321編號

例如，編號為6的女大學生的體重并沒有落在水平直線上，她的體重為61kg。解析變量（身高）和隨機誤差共同把這名學生的體重從54.5kg“推”到了61kg，相差6.5kg，所以6.5kg是解析變量和隨機誤差的組合效應。

編號為3的女大學生的體重并也沒有落在水平直線上，她的體重為50kg。解析變量（身高）和隨機誤差共同把這名學生的體重從50kg“推”到了54.5kg，相差-4.5kg，這時解析變量和隨機誤差的組合效應為-4.5kg。用這種方法可以對所有預報變量計算組合效應。數學上，把每個效應（觀測值減去總的平均值）的平方加起來，即用表示總的效應，稱為總偏差平方和。在例1中，總偏差平方和為354。5943616454505748體重/kg1701551655943616454505748體重/kg170155165175170157165165身高/cm87654321編號

那么，在這個總的效應（總偏差平方和）中，有多少來自于解析變量（身高）？有多少來自于隨機誤差？

假設隨機誤差對體重沒有影響，也就是說，體重僅受身高的影響，那么散點圖中所有的點將完全落在回歸直線上。但是，在圖中，數據點并沒有完全落在回歸直線上。這些點散布在回歸直線附近，所以一定是隨機誤差把這些點從回歸直線上“推”開了。在例1中，殘差平方和約為128.361。

因此，數據點和它在回歸直線上相應位置的差異是隨機誤差的效應，稱為殘差。例如，編號為6的女大學生，計算隨機誤差的效應（殘差）為：對每名女大學生計算這個差異，然后分別將所得的值平方后加起來，用數學符號稱為殘差平方和，它代表了隨機誤差的效應。表示為：即，類比樣本方差估計總體方差的思想，可以用作為的估計量，越小，預報精度越高。5943616454505748體重/kg170155165

由于解析變量和隨機誤差的總效應（總偏差平方和）為354，而隨機誤差的效應為128.361，所以解析變量的效應為解析變量和隨機誤差的總效應（總偏差平方和）

=解析變量的效應（回歸平方和）+隨機誤差的效應（殘差平方和）354-128.361=225.639這個值稱為回歸平方和。我們可以用相關指數R2來刻畫回歸的效果，其計算公式是由于解析變量和隨機誤差的總效應（總偏差平方和）為3離差平方和的分解

（三個平方和的意義）總偏差平方和(SST)反映因變量的n個觀察值與其均值的總離差回歸平方和(SSR)反映自變量x的變化對因變量y取值變化的影響，或者說，是由于x與y之間的線性關系引起的y的取值變化，也稱為可解釋的平方和殘差平方和(SSE)反映除x以外的其他因素對y取值的影響，也稱為不可解釋的平方和或剩余平方和離差平方和的分解

（三個平方和的意義）總偏差平方和(SST樣本決定系數

（判定系數R2

）1.回歸平方和占總離差平方和的比例反映回歸直線的擬合程度取值范圍在[0,1]之間

R21，說明回歸方程擬合的越好；R20，說明回歸方程擬合的越差判定系數等于相關系數的平方，即R2＝(r)2樣本決定系數

（判定系數R2）1.回歸平方和占總離差平顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果越好。在線性回歸模型中，R2表示解析變量對預報變量變化的貢獻率。

R2越接近1，表示回歸的效果越好（因為R2越接近1，表示解析變量和預報變量的線性相關性越強）。

如果某組數據可能采取幾種不同回歸方程進行回歸分析，則可以通過比較R2的值來做出選擇，即選取R2較大的模型作為這組數據的模型。總的來說：相關指數R2是度量模型擬合效果的一種指標。在線性模型中，它代表自變量刻畫預報變量的能力。我們可以用相關指數R2來刻畫回歸的效果，其計算公式是顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果1354總計0.36128.361殘差變量0.64225.639隨機誤差比例平方和來源表1-3

從表3-1中可以看出，解析變量對總效應約貢獻了64%，即R20.64，可以敘述為“身高解析了64%的體重變化”，而隨機誤差貢獻了剩余的36%。所以，身高對體重的效應比隨機誤差的效應大得多。我們可以用相關指數R2來刻畫回歸的效果，其計算公式是1354總計0.36128.361殘差變量0.64225.6表3-2列出了女大學生身高和體重的原始數據以及相應的殘差數據。

在研究兩個變量間的關系時，首先要根據散點圖來粗略判斷它們是否線性相關，是否可以用回歸模型來擬合數據。殘差分析與殘差圖的定義：

然后，我們可以通過殘差來判斷模型擬合的效果，判斷原始數據中是否存在可疑數據，這方面的分析工作稱為殘差分析。編號12345678身高/cm165165157170175165155170體重/kg4857505464614359殘差-6.3732.6272.419-4.6181.1376.627-2.8830.382

我們可以利用圖形來分析殘差特性，作圖時縱坐標為殘差，橫坐標可以選為樣本編號，或身高數據，或體重估計值等，這樣作出的圖形稱為殘差圖。表3-2列出了女大學生身高和體重的原始數據以及相應的殘差數據2023/7/31鄭平正制作殘差圖的制作及作用。坐標縱軸為殘差變量，橫軸可以有不同的選擇；若模型選擇的正確，殘差圖中的點應該分布在以橫軸為心的帶形區(qū)域；對于遠離橫軸的點，要特別注意。身高與體重殘差圖異常點

錯誤數據模型問題

幾點說明：第一個樣本點和第6個樣本點的殘差比較大，需要確認在采集過程中是否有人為的錯誤。如果數據采集有錯誤，就予以糾正，然后再重新利用線性回歸模型擬合數據；如果數據采集沒有錯誤，則需要尋找其他的原因。另外，殘差點比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型計較合適，這樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預報精度越高。2023/7/31鄭平正制作殘差圖的制作及作用。身高與例2、在一段時間內，某中商品的價格x元和需求量Y件之間的一組數據為：求出Y對的回歸直線方程，并說明擬合效果的好壞。價格x1416182022需求量Y1210753解：例2、在一段時間內，某中商品的價格x元和需求量Y件之間的一組例2、在一段時間內，某中商品的價格x元和需求量Y件之間的一組數據為：求出Y對的回歸直線方程，并說明擬合效果的好壞。價格x1416182022需求量Y1210753列出殘差表為0.994因而，擬合效果較好。00.3-0.4-0.10.24.62.6-0.4-2.4-4.4例2、在一段時間內，某中商品的價格x元和需求量Y件之間的一組用身高預報體重時，需要注意下列問題：1、回歸方程只適用于我們所研究的樣本的總體；2、我們所建立的回歸方程一般都有時間性；3、樣本采集的范圍會影響回歸方程的適用范圍；4、不能期望回歸方程得到的預報值就是預報變量的精確值。事實上，它是預報變量的可能取值的平均值?！@些問題也使用于其他問題。涉及到統(tǒng)計的一些思想：模型適用的總體；模型的時間性；樣本的取值范圍對模型的影響；模型預報結果的正確理解。小結用身高預報體重時，需要注意下列問題：1、回歸方程只適用于我們一般地，建立回歸模型的基本步驟為：（1）確定研究對象，明確哪個變量是解析變量，哪個變量是預報