概率論與數(shù)理統(tǒng)計

概率論與數(shù)理統(tǒng)計第一頁，共三十七頁，2022年，8月28日1“回歸”一詞的歷史淵源“回歸”一詞最早由FrancisGalton引入。十九世紀，英國生物學(xué)家兼統(tǒng)計學(xué)家高爾頓研究發(fā)現(xiàn)：

其中x表示父親身高，

y

表示成年兒子的身高（單位：英寸，1英寸=2.54厘米）。這表明子代的平均高度有向中心回歸的意思，使得一段時間內(nèi)人的身高相對穩(wěn)定。之后回歸分析的思想滲透到了數(shù)理統(tǒng)計的其它分支中。第二頁，共三十七頁，2022年，8月28日2§9.1回歸分析的基本概念變量之間的關(guān)系確定性關(guān)系非確定性關(guān)系(相關(guān)關(guān)系)第三頁，共三十七頁，2022年，8月28日3對變量間統(tǒng)計依賴關(guān)系的考察主要是通過相關(guān)分析(correlationanalysis)或回歸分析(regressionanalysis)來完成的。對于相關(guān)關(guān)系，雖然不能求出變量之間精確的函數(shù)關(guān)系式，但是通過大量的觀測數(shù)據(jù)，可以發(fā)現(xiàn)它們之間存在一定的統(tǒng)計規(guī)律性。第四頁，共三十七頁，2022年，8月28日4回歸分析是研究一個變量關(guān)于另一個（些）變量的具體依賴關(guān)系的計算方法和理論。分為：一元線性回歸、多元線性回歸、可線性化的非線性歸（雙曲線、指數(shù)、對數(shù)、二次、冪函數(shù)等）第五頁，共三十七頁，2022年，8月28日5基本方法考察隨機變量Y與普通變量x之間的相關(guān)關(guān)系.例1.在農(nóng)業(yè)生產(chǎn)中小麥的畝產(chǎn)量Y與所施肥料量x有一定關(guān)系，在一定范圍內(nèi)，若施肥量大，畝產(chǎn)也較高。問題：Y是怎樣依賴施肥料量x的變化的。問題的特征：x是普通變量,Y是隨機變量.處理方法：按數(shù)理統(tǒng)計處理問題的方法。第六頁，共三十七頁，2022年，8月28日6(1)先進行一些試驗，分別取不同的值Y也得到

個相應(yīng)觀察值得到n對數(shù)據(jù)對，稱為樣本數(shù)據(jù)點(2)散點圖

Yxo····················第七頁，共三十七頁，2022年，8月28日7(3)尋找Y與x的數(shù)量關(guān)系：其中一般地，，

第八頁，共三十七頁，2022年，8月28日8

例1

合金的強度y(×107Pa)與合金中碳的含量x(%)有關(guān)。為研究兩個變量間的關(guān)系。首先是收集數(shù)據(jù)，我們把收集到的數(shù)據(jù)記為(xi,yi),i=1,2,,n。本例中，我們收集到12組數(shù)據(jù)，列于表1中進行回歸分析首先是回歸函數(shù)形式的選擇。當只有一個自變量時，通?？刹捎卯嬌Ⅻc圖的方法進行選擇。第九頁，共三十七頁，2022年，8月28日9表1合金鋼強度y與碳含量x的數(shù)據(jù)

序號x(%)y(×107Pa)序號x(%)y(×107Pa)10.1042.070.1649.020.1143.080.1753.030.1245.090.1850.040.1345.0100.2055.050.1445.0110.2155.060.1547.5120.2360.0第十頁，共三十七頁，2022年，8月28日10為找出兩個量間存在的回歸函數(shù)的形式，可以畫一張圖：把每一對數(shù)(xi,yi)看成直角坐標系中的一個點，在圖上畫出n個點，稱這張圖為散點圖，見右圖。第十一頁，共三十七頁，2022年，8月28日11

從散點圖我們發(fā)現(xiàn)12個點基本在一條直線附近，這說明兩個變量之間有一個線性相關(guān)關(guān)系，這個相關(guān)關(guān)系可以表示為

這便是y關(guān)于x的一元線性回歸的數(shù)據(jù)結(jié)構(gòu)式。通常假定

在對未知參數(shù)作區(qū)間估計或假設(shè)檢驗時，還需要假定誤差服從正態(tài)分布，即顯然假定（2）比假定（1）強

第十二頁，共三十七頁，2022年，8月28日12由于0,1均未知，需要我們從收集到的數(shù)據(jù)(xi,yi)，i=1,2,…,n，出發(fā)進行估計。在收集數(shù)據(jù)時，我們一般要求觀察獨立地進行，即假定y1,y2,,yn,相互獨立。綜合上述諸項假定，我們可以給出最簡單、常用的一元線性回歸的數(shù)學(xué)模型：第十三頁，共三十七頁，2022年，8月28日13§9.2一元線性回歸1.本節(jié)考慮的模型是其中都是未知參數(shù),為回歸系數(shù),分別是直線的截距和斜率。稱為Y關(guān)于x的經(jīng)驗回歸函數(shù)

。方程

稱為Y關(guān)于x的經(jīng)驗線性回歸方程，或經(jīng)驗回歸方程，其相應(yīng)的圖形稱為經(jīng)驗回歸直線。

此模型稱為一元線性回歸模型，基于此種模型的統(tǒng)計分析稱為一元線性回歸分析.第十四頁，共三十七頁，2022年，8月28日142.下面用最小二乘法來求對于自變量x和因變量y的n對觀察值的最小二乘估計其中是對觀察時的隨機誤差.

的估計。第十五頁，共三十七頁，2022年，8月28日15使得成立的

和

稱為和的最小二乘估計。

第十六頁，共三十七頁，2022年，8月28日16于是得方程組第十七頁，共三十七頁，2022年，8月28日17解得，

記于是

第十八頁，共三十七頁，2022年，8月28日18設(shè)某化學(xué)過程的得率Y與該過程的溫度x有關(guān).現(xiàn)作了10次測量，其數(shù)據(jù)如下表所示.x/℃38434954606671778288y/%20.420.922.523.024.224.326.226.628.028.9解故于是得線性回歸方程第十九頁，共三十七頁，2022年，8月28日19由此給出回歸方程為:

例2

使用例1種合金鋼強度和碳含量數(shù)據(jù)求回歸方程。解第二十頁，共三十七頁，2022年，8月28日20,.第二十一頁，共三十七頁，2022年，8月28日21殘差顯然殘差的平方和

是

的無偏估計。

第二十二頁，共三十七頁，2022年，8月28日22中誤差方差的無偏估計

解 例9.2.1中已求出

所以第二十三頁，共三十七頁，2022年，8月28日23定理9.2.3 對一元線性回歸模型（9.2.3），若進一步假定隨機誤差，則有(1).(2)RSS與和相互獨立.第二十四頁，共三十七頁，2022年，8月28日244回歸方程的顯著性檢驗

在使用回歸方程作進一步的分析以前，首先應(yīng)對回歸方程是否有意義進行判斷。如果1=0，那么不管x如何變化，E(y)不隨x的變化作線性變化，那么這時求得的一元線性回歸方程就沒有意義，稱回歸方程不顯著。如果10，E(y)隨x的變化作線性變化，稱回歸方程是顯著的。綜上，對回歸方程是否有意義作判斷就是要作如下的顯著性檢驗：H0：1=0vsH1：10

拒絕H0表示回歸方程是顯著的。第二十五頁，共三十七頁，2022年，8月28日25需要檢驗假設(shè)方法：第二十六頁，共三十七頁，2022年，8月28日26t檢驗法第二十七頁，共三十七頁，2022年，8月28日27例9.2.3試說明例9.2.1中的線性回歸效果是否顯著解 要在水平

下檢驗如下假設(shè)故查表知

因為

24.1260>3.3554，

所以拒絕，線性回歸效果是顯著的.第二十八頁，共三十七頁，2022年，8月28日285.回歸系數(shù)的置信區(qū)間的置信水平為

的置信區(qū)間為例9.2.4求例9.2.1中回歸系數(shù)

的置信水平為95%的置信區(qū)間.

解第二十九頁，共三十七頁，2022年，8月28日29如果經(jīng)檢驗，回歸方程的線性回歸效果是顯著的，那么就可以用已經(jīng)獲得的回歸方程

進行預(yù)測.6.預(yù)測所謂預(yù)測（或稱預(yù)報），就是以一定的置信水平預(yù)測與

對應(yīng)的

的取值范圍.

稱為

的置信水平為

的預(yù)測區(qū)間，也稱為置信區(qū)間.第三十頁，共三十七頁，2022年，8月28日30

方法——通過適當?shù)淖兞孔儞Q,化成一元線性回歸問題進行分析處理.兩邊取對數(shù)§9.3、可化為一元線性回歸的問題第三十一頁，共三十七頁，2022年，8月28日31，，，，曲線變換變換后的線性式1雙曲函數(shù)2冪函數(shù)3指數(shù)函數(shù)4對數(shù)函數(shù)5倒指數(shù)函數(shù)6S型曲線第三十二頁，共三十七頁，2022年，8月28日32配曲線的一般方法是：第三十三頁，共三十七頁，2022年，8月28日33 一只紅鈴蟲的產(chǎn)卵數(shù)Y和溫度x有關(guān).經(jīng)觀測獲得一組紅鈴蟲產(chǎn)卵數(shù)與溫度的數(shù)據(jù)如下表所示.試求Y關(guān)于x的回歸方程.編號1234567溫度x/℃21232527293235產(chǎn)卵數(shù)y711212466115325第三十四頁，共三十七頁，2022年，8月28日34解 1.根據(jù)這組數(shù)據(jù)畫出散點圖.2.選擇模型作變換于是得到3.線性化第三十五頁，共三十七頁，2022