第七章直線回歸與相關(guān)分析

第七章

直線回歸與相關(guān)分析回歸和相關(guān)的概念直線回歸分析直線相關(guān)可直線化的線性回歸分析

橄欖球狀的散點(diǎn)圖，中間的點(diǎn)密集，邊沿的點(diǎn)稀少，其主要部分是一個(gè)橢圓。為了研究父親與成年兒子身高之間的關(guān)系，卡爾·皮爾遜測(cè)量了1078對(duì)父子的身高。把1078對(duì)用散點(diǎn)圖進(jìn)行描述。許多現(xiàn)象之間都有相互聯(lián)系，例如：身高與體重、體溫與脈搏、產(chǎn)前檢查與嬰兒體重、乙肝病毒與乙肝等。在這些有關(guān)系的現(xiàn)象中，它們之間聯(lián)系的程度和性質(zhì)也各不相同。這里，體溫和脈搏的關(guān)系就比產(chǎn)前檢查與嬰兒體重之間的關(guān)系密切得多，而體重和身高的關(guān)系則介與二者之間。另外，可以說(shuō)乙肝病毒感染是前因，得了乙肝是后果，乙肝病毒和乙肝之間是因果關(guān)系；但是，有的現(xiàn)象之間因果不清，只是伴隨關(guān)系，例如丈夫的身高和妻子的身高之間，就不能說(shuō)有因果關(guān)系。兩個(gè)變量之間的關(guān)系：（1）依存關(guān)系：因變量(dependentvariable)y隨自變量(independentvariable)

x變化而變化，即因果關(guān)系。

——回歸分析（2）互依關(guān)系：變量y與變量x間是平行關(guān)系。

——

相關(guān)分析回歸與相關(guān)的分類回歸的分類：依據(jù)變量多少：一元回歸和多元回歸依據(jù)線性關(guān)系：線性回歸和非線性回歸相關(guān)的分類：簡(jiǎn)單相關(guān)：僅有兩變量之間的相關(guān)復(fù)相關(guān)：一變量與多變量之間的相關(guān)，偏相關(guān)：其余變量不變的情況下兩變量之間的相關(guān)直線回歸方程的建立直線回歸的數(shù)學(xué)模型和基本假定直線回歸的假設(shè)檢驗(yàn)直線回歸的區(qū)間估計(jì)直線回歸的應(yīng)用及注意問題第一節(jié)

直線回歸直線回歸的任務(wù)就是要找出一個(gè)變量隨另一個(gè)變量變化的直線方程，我們把這個(gè)直線方程叫做直線回歸方程。一、直線回歸方程一般表達(dá)式：a：截距(intercept)，直線與y軸交點(diǎn)的縱坐標(biāo)，回歸截距。b：斜率(slope)，回歸系數(shù)(regressioncoefficient)。意義：x每改變一個(gè)單位，y平均改變b個(gè)單位。

b>0，y隨x的增大而增大（減少而減少）——斜上；

b<0，y隨x的增大而減小（減少而增加）——斜下；

b=0，y與x無(wú)直線關(guān)系——水平。｜b｜越大，表示y隨x變化越快，直線越陡峭。是與x值相對(duì)應(yīng)的依變量0xya>0,b>0a<0,b>0a>0,b<0a=0b=0回歸方程參數(shù)a、b的計(jì)算

最小二乘法原則(leastsquaremethod)：使各散點(diǎn)到直線的縱向距離的平方和（離差平方和）最小。即使最小。直線一定經(jīng)過“均數(shù)”點(diǎn)!!!SSxyx與y的離均差乘積和編號(hào)xy

x2y2

xy11.213.901.464115.21004.719021.304.501.690020.25005.850031.394.201.932117.64005.838041.424.832.016423.32896.858651.474.162.160917.30566.115261.564.932.433624.30497.690871.684.322.822418.66247.257681.724.992.958424.90018.582891.984.703.920422.09009.3060102.105.204.410027.040010.9200合計(jì)15.8345.7325.8083210.731973.1380回歸參數(shù)計(jì)算的實(shí)例

散點(diǎn)圖用x估計(jì)y，存在隨機(jī)誤差，必須根據(jù)回歸的數(shù)學(xué)模型對(duì)隨機(jī)誤差進(jìn)行估計(jì)，并對(duì)回歸方程進(jìn)行檢驗(yàn)。二、直線回歸的數(shù)學(xué)模型和基本假設(shè)x引起y的變異y的隨機(jī)誤差y總體平均數(shù)總體回歸截距，y不依賴x變化的部分總體回歸系數(shù)，y依賴x變化的部分隨機(jī)誤差，是，也稱為回歸估計(jì)誤差、殘差x引起y的變異y的隨機(jī)誤差樣本平均數(shù)樣本回歸截距樣本回歸系數(shù)隨機(jī)誤差直線回歸分析必須符合的假設(shè)：x是沒有誤差的固定變量，y是隨機(jī)變量，其誤差是隨機(jī)誤差x的任一值都對(duì)應(yīng)著一個(gè)y總體，且是正態(tài)分布，其平均數(shù)為：，方差為：。隨機(jī)誤差ε是獨(dú)立的，且是正態(tài)分布。三、直線回歸的假設(shè)檢驗(yàn)由樣本建立的方程是否有意義呢？即用a、b、e對(duì)α、β、ε的估計(jì)是否有意義？涉及兩個(gè)問題的計(jì)算：1.離差平方和2.自由度直線回歸的變異來(lái)源y(x,y)實(shí)際值與估計(jì)值之差，剩余或殘差。估計(jì)值與均值之差。1.離差平方和的分解與計(jì)算：y的離均差，反映了y的總變異程度。y總變異的平方和，記作SSy誤差因素引起的平方和，稱為離回歸平方和,記作Qx引起y的變異平方和，稱為回歸平方和,記作U2.自由度的分解與計(jì)算：3.方差的計(jì)算：U=bSP

=-2.5317×(-139.6937)=353.6628Q=SSy

-U=377.2688-353.6628=23.6060【例7.2】計(jì)算例7.1資料的回歸平方和、離回歸平方和以及回歸估計(jì)標(biāo)準(zhǔn)誤。根據(jù)前面計(jì)算結(jié)果，可得：對(duì)兩個(gè)樣本是否存在線性關(guān)系進(jìn)行F檢驗(yàn)：4.F檢驗(yàn)：H0:黏蟲孵化歷期平均溫度x與歷期天數(shù)y之間不存在線性關(guān)系

HA:兩變量間有線性關(guān)系變異來(lái)源df

SS

s2

F

F0.05

F0.01

回歸1353.6628353.6628

89.89**5.9913.74

離回歸623.60603.9343

總變異7377.2688【例7.3】用F檢驗(yàn)的方法檢驗(yàn)例7.1資料直線回歸關(guān)系的顯著性：t檢驗(yàn)的結(jié)果與F檢驗(yàn)結(jié)果是一樣的：5.t檢驗(yàn)：【例7.4】用t檢驗(yàn)的方法檢驗(yàn)例7.1資料直線回歸關(guān)系的顯著性：否定H0:β=0，接受HA:β≠0，認(rèn)為黏蟲孵化歷期平均溫度與歷期天數(shù)間有真實(shí)直線回歸關(guān)系。同一概率值F（單尾）值（df1=1,df2=n-2）t值（兩尾）（df=n-2）三、直線回歸的區(qū)間估計(jì)1.回歸截距和回歸系數(shù)的置信區(qū)間

【例7.5】計(jì)算例7.1資料回歸截距和回歸系數(shù)的95％置信區(qū)間95%的樣本回歸截距落在該區(qū)間內(nèi)95%的樣本回歸系數(shù)落在該區(qū)間內(nèi)2.

μy/x的置信區(qū)間和單個(gè)y的預(yù)測(cè)區(qū)間不受隨機(jī)誤差的影響【例7.6.1】黏蟲孵化歷期平均溫度為15℃時(shí)，歷期平均天數(shù)為多少天（取95％置信概率）？受隨機(jī)誤差的影響【例7.6.2】某年的歷期平均溫度為15℃時(shí)，該年的歷期天數(shù)為多少天（取95％置信概率）？3.μy/x和單個(gè)y觀測(cè)值置信區(qū)間圖示【例7.7】制作例7.1資料μy/x的95％置信區(qū)間和單個(gè)y的95％預(yù)測(cè)區(qū)間圖。

x=時(shí)，和sy的估計(jì)值取最小值，即μy/x和單個(gè)y的估計(jì)區(qū)間最小。(1)x(2)μy/x的95％置信區(qū)間的計(jì)算y的95％預(yù)測(cè)區(qū)間的計(jì)算(3)(4)(5)[L1，L2](6)sy(7)t0.05sy(8)[L1，L2]1226.71.473.623.130.32.476.020.632.71324.11.243.021.127.22.345.718.429.91421.61.032.519.124.12.245.516.127.11519.10.862.117.021.22.165.313.824.41616.50.741.814.718.32.125.211.421.71714.00.701.712.315.72.105.18.919.21811.50.771.99.613.32.135.26.316.7198.90.912.2