第9章相關(guān)與回歸

1、第第六六章章 相關(guān)與回歸相關(guān)與回歸 n第一節(jié)第一節(jié) 相關(guān)相關(guān)與與回歸分析的基本問(wèn)題回歸分析的基本問(wèn)題n第二節(jié)第二節(jié) 直線相關(guān)與直線相關(guān)與簡(jiǎn)單簡(jiǎn)單直線回歸分析直線回歸分析n第三節(jié)第三節(jié) 曲線相關(guān)與曲線回歸分析曲線相關(guān)與曲線回歸分析n第四節(jié)第四節(jié) 時(shí)間數(shù)列時(shí)間數(shù)列自身自身相關(guān)與相關(guān)與自身自身回歸分析回歸分析n第五節(jié)第五節(jié) 復(fù)相關(guān)與復(fù)回歸分析復(fù)相關(guān)與復(fù)回歸分析n第六節(jié)第六節(jié) 應(yīng)用相關(guān)與回歸分析應(yīng)注意的問(wèn)題應(yīng)用相關(guān)與回歸分析應(yīng)注意的問(wèn)題 第一節(jié)第一節(jié) 相關(guān)相關(guān)與與回歸分析的基本問(wèn)題回歸分析的基本問(wèn)題一、相關(guān)的概念與種類(一) 函數(shù)關(guān)系n反映現(xiàn)象之間存在著嚴(yán)格的依存關(guān)系，也就是說(shuō)兩者之間具有確定性的對(duì)應(yīng)

2、關(guān)系，這種關(guān)系可用一個(gè)數(shù)學(xué)表達(dá)式表示( (二二) ) 相關(guān)關(guān)系相關(guān)關(guān)系n反映現(xiàn)象之間存在著反映現(xiàn)象之間存在著不嚴(yán)格的依存關(guān)系不嚴(yán)格的依存關(guān)系，也就是說(shuō)兩者，也就是說(shuō)兩者之間之間不具有確定性的對(duì)應(yīng)關(guān)系不具有確定性的對(duì)應(yīng)關(guān)系，即無(wú)法用數(shù)學(xué)公式表示，即無(wú)法用數(shù)學(xué)公式表示相關(guān)關(guān)系的種類相關(guān)關(guān)系的種類 n1.1.按相關(guān)關(guān)系涉及的因素多少可分為按相關(guān)關(guān)系涉及的因素多少可分為 單相關(guān)和復(fù)相關(guān)單相關(guān)和復(fù)相關(guān)n2.2.按相關(guān)關(guān)系的形式可分為按相關(guān)關(guān)系的形式可分為 直線相關(guān)和曲線相關(guān)直線相關(guān)和曲線相關(guān)n3.3.按相關(guān)關(guān)系的性質(zhì)可分為按相關(guān)關(guān)系的性質(zhì)可分為 正相關(guān)和負(fù)相關(guān)正相關(guān)和負(fù)相關(guān)n4.4.按相關(guān)程度可分為按相

3、關(guān)程度可分為 完全相關(guān)、不完全相關(guān)和不相關(guān)完全相關(guān)、不完全相關(guān)和不相關(guān)第一節(jié)第一節(jié) 相關(guān)相關(guān)與與回歸分析的基本問(wèn)題回歸分析的基本問(wèn)題二、回歸的概念和種類二、回歸的概念和種類n研究研究一個(gè)隨機(jī)變量一個(gè)隨機(jī)變量Y Y對(duì)對(duì)另一個(gè)變量另一個(gè)變量(X)(X)或或一組變量一組變量(X(X1 1，X X2 2，X Xk k) )的的相依關(guān)系相依關(guān)系的統(tǒng)計(jì)分析方法。又稱的統(tǒng)計(jì)分析方法。又稱一元或者多一元或者多元元回歸分析回歸分析n研究研究一個(gè)或多個(gè)隨機(jī)變量一個(gè)或多個(gè)隨機(jī)變量Y Y1 1 ，Y Y2 2 ，Y Yi i與與另一些變量另一些變量X X1 1、X X2 2，X Xk k之間的之間的關(guān)系關(guān)系的統(tǒng)計(jì)方法

4、。又稱多重回歸分的統(tǒng)計(jì)方法。又稱多重回歸分析。通常稱析。通常稱Y Y1 1，Y Y2 2，Y Yi i為因變量，為因變量，X X1 1、X X2 2，X Xk k為為自變量自變量第一節(jié)第一節(jié) 相關(guān)相關(guān)與與回歸分析的基本問(wèn)題回歸分析的基本問(wèn)題 1.1.按按變量的變量的多少可分為多少可分為 一元回歸和多元回歸一元回歸和多元回歸 2. 2.是否是線性是否是線性可分為可分為 線性回歸和非線性回歸線性回歸和非線性回歸 3. 3.是否有滯后關(guān)系是否有滯后關(guān)系可分為可分為 自身回歸和無(wú)自身回歸自身回歸和無(wú)自身回歸第一節(jié)第一節(jié) 相關(guān)相關(guān)與與回歸分析的基本問(wèn)題回歸分析的基本問(wèn)題n三、三、相關(guān)相關(guān)與與回歸分析回歸

5、分析的區(qū)別與聯(lián)系的區(qū)別與聯(lián)系n四、四、相關(guān)相關(guān)與與回歸分析回歸分析的作用的作用n五、五、相關(guān)相關(guān)與與回歸分析回歸分析的步驟的步驟第二節(jié)第二節(jié) 直線相關(guān)與直線相關(guān)與簡(jiǎn)單簡(jiǎn)單直線回歸分直線回歸分析析一、相關(guān)圖與相關(guān)表二、簡(jiǎn)單直線回歸分析三、直線相關(guān)分析四、估計(jì)標(biāo)準(zhǔn)誤差五、相關(guān)與回歸在計(jì)算上的聯(lián)系相關(guān)圖與相關(guān)表相關(guān)圖，也稱散布圖相關(guān)圖，也稱散布圖( (或散點(diǎn)圖或散點(diǎn)圖) )。P P206206 簡(jiǎn)簡(jiǎn)單單相相關(guān)關(guān)表表 根根據(jù)據(jù)總總體體單單位位的的原原始始資資料料匯匯編編的的相相關(guān)關(guān)表表分分組組相相關(guān)關(guān)表表 將將原原始始資資料料進(jìn)進(jìn)行行分分組組而而編編制制的的相相關(guān)關(guān)表表單單變變量量分分組組表表 按按自

6、自變變量量分分組組 雙雙變變量量分分組組表表 按按自自變變量量和和因因變變量量均均分分組組 例例1：國(guó)內(nèi)旅游人數(shù)與國(guó)內(nèi)旅游收入相關(guān)表國(guó)內(nèi)旅游人數(shù)與國(guó)內(nèi)旅游收入相關(guān)表國(guó)內(nèi)旅游人數(shù)與國(guó)內(nèi)旅游收入相關(guān)國(guó)內(nèi)旅游人數(shù)與國(guó)內(nèi)旅游收入相關(guān)圖圖例2：?jiǎn)巫兞糠纸M相關(guān)表序號(hào)序號(hào)月收入月收入人數(shù)人數(shù)月平均支出月平均支出n1 856 2 799.50 n2 858 2 800.50 n3 862 3 806.00 n4 865 4 812.00 n5 870 2 820.00 n6 880 5 848.80 n7 885 4 854.75 n8 898 7 860.72 n9 902 5 863.40 n10 915

7、 6 868.83 n合計(jì)合計(jì) 40月收入單變量與月支出分組相關(guān)圖例3：雙變量分組相關(guān)表第二節(jié)第二節(jié) 直線相關(guān)與直線相關(guān)與簡(jiǎn)單簡(jiǎn)單直線回歸分直線回歸分析析二二 簡(jiǎn)單直線回歸分析簡(jiǎn)單直線回歸分析1 1、特點(diǎn)、特點(diǎn)P206P2062 2、簡(jiǎn)單直線回歸方程：最小二乘法、簡(jiǎn)單直線回歸方程：最小二乘法一、直線回歸一、直線回歸( (一一) ) 簡(jiǎn)單直線回歸分析簡(jiǎn)單直線回歸分析簡(jiǎn)簡(jiǎn)單直線回歸方程的一般形式為：?jiǎn)沃本€回歸方程的一般形式為： y=a+bxy=a+bx y y 因變量的估計(jì)值；因變量的估計(jì)值； x x 自變量；自變量； a a 回歸直線在回歸直線在y y軸上的截距；軸上的截距； b b 回歸直線的

8、斜率，稱回歸系數(shù)回歸直線的斜率，稱回歸系數(shù), ,表明表明x x每增加每增加 一個(gè)單位，因變量一個(gè)單位，因變量y y的平均變化值的平均變化值 b0b0，x x與與y y為正相關(guān)為正相關(guān) b0b0，x x與與y y為負(fù)相關(guān)為負(fù)相關(guān) a a、b b的確定：的確定：在在簡(jiǎn)單直線回歸方程中，簡(jiǎn)單直線回歸方程中，a a、b b為待定系數(shù)，常用為待定系數(shù)，常用最小平方法來(lái)確定，即最小平方法來(lái)確定，即(y-y(y-yc c) )2= =最小值。最小值。2ynabxxyaxbx 即即22()nxyxybnxxyxabnn 簡(jiǎn)單直線回歸方程建立的步驟為：簡(jiǎn)單直線回歸方程建立的步驟為： 確確定自變量定自變量x x和

9、因變量和因變量y y； 計(jì)計(jì)算算x x2、xyxy、xx、yy、xx2、xyxy； 代代入公式，先求入公式，先求b b，再求，再求a a。從單變量分組表配合回歸直線：從單變量分組表配合回歸直線： 222cyabxyfafbxfxyfaxfbx ffxyfxfyfbfx fxfyfxfaybxbff 方方法法基基本本上上與與上上述述相相同同，只只是是在在計(jì)計(jì)算算過(guò)過(guò)程程中中要要采采用用加加權(quán)權(quán)方方法法：簡(jiǎn)單直線回歸分析的主要特點(diǎn)：簡(jiǎn)單直線回歸分析的主要特點(diǎn)： 1.1.直直線回歸分析時(shí)，要根據(jù)研究目的，在兩線回歸分析時(shí)，要根據(jù)研究目的，在兩個(gè)變量之間確定哪個(gè)是自變量，哪個(gè)是因變量。個(gè)變量之間確定哪

10、個(gè)是自變量，哪個(gè)是因變量。 2.2.在在兩個(gè)現(xiàn)象互為根據(jù)的情況下，可以有兩兩個(gè)現(xiàn)象互為根據(jù)的情況下，可以有兩個(gè)回歸方程：個(gè)回歸方程： y yc c=a+bx =a+bx 稱稱y y倚倚x x回歸直線回歸直線 x xc c=c+dy =c+dy 稱稱x x倚倚y y回歸直線回歸直線例例9-1相關(guān)圖相關(guān)圖相關(guān)系數(shù)相關(guān)系數(shù) 相相關(guān)系數(shù)關(guān)系數(shù)是在直線相關(guān)條件下，表明兩是在直線相關(guān)條件下，表明兩個(gè)現(xiàn)象之間個(gè)現(xiàn)象之間相關(guān)關(guān)系的方向和密切程度相關(guān)關(guān)系的方向和密切程度的綜的綜合性指標(biāo)。一般用符號(hào)合性指標(biāo)。一般用符號(hào)r表示。表示。r r的測(cè)定方法：的測(cè)定方法：2222221 ()()11 () ()()() (

11、)()1.xyxyxyxyrxxyynxxyynnxxyyrxxyy 積積差差法法：r rr rr rr r 0 0. .3 3時(shí)時(shí)，沒(méi)沒(méi)有有關(guān)關(guān)系系；0 0. .3 3 0 0. .5 5時(shí)時(shí)，稱稱低低度度相相關(guān)關(guān)；0 0. .5 5 0 0. .8 8時(shí)時(shí)，稱稱顯顯著著相相關(guān)關(guān)( (或或中中度度相相關(guān)關(guān)) )；0 0. .8 8時(shí)時(shí)，稱稱高高度度相相關(guān)關(guān)；一一般般標(biāo)標(biāo)準(zhǔn)準(zhǔn)如如下下：對(duì)r的解釋如下：(即r的特點(diǎn))(1) (1) r r取正值或負(fù)值決定于分子協(xié)方差；取正值或負(fù)值決定于分子協(xié)方差；(2) (2) r r的絕對(duì)值，在的絕對(duì)值，在0 0與與1 1之間；之間；(3) (3) r r的絕

12、對(duì)值大小，可說(shuō)明現(xiàn)象之間相關(guān)關(guān)系的緊的絕對(duì)值大小，可說(shuō)明現(xiàn)象之間相關(guān)關(guān)系的緊密程度。密程度。2.2.簡(jiǎn)捷法簡(jiǎn)捷法 2222)()()( yynxxnyxxynr3.3.從單變量分組表計(jì)算相關(guān)系數(shù)從單變量分組表計(jì)算相關(guān)系數(shù) 22()()()() , xxyy frxxfyyfxfyfxyff 積積差差法法：其其中中： 2222fxyfxfyfrfx fxffy fyf 簡(jiǎn)簡(jiǎn)捷捷法法：?jiǎn)巫兞糠纸M相關(guān)表4 4. .從從雙雙變量分組表計(jì)算相關(guān)系數(shù)變量分組表計(jì)算相關(guān)系數(shù) 22yyyfxxxfyyxxxyfr第二節(jié)第二節(jié) 直線相關(guān)與直線相關(guān)與簡(jiǎn)單簡(jiǎn)單直線回歸分直線回歸分析析三、直線相關(guān)分析四、估計(jì)標(biāo)準(zhǔn)誤差

13、五、相關(guān)與回歸在計(jì)算上的聯(lián)系估計(jì)標(biāo)準(zhǔn)誤差的概念和作用一、一、 估計(jì)標(biāo)準(zhǔn)誤差估計(jì)標(biāo)準(zhǔn)誤差就是用來(lái)說(shuō)明回歸方程推算結(jié)果的準(zhǔn)確就是用來(lái)說(shuō)明回歸方程推算結(jié)果的準(zhǔn)確程度的統(tǒng)計(jì)分析指標(biāo)。以絕對(duì)值表示，其數(shù)程度的統(tǒng)計(jì)分析指標(biāo)。以絕對(duì)值表示，其數(shù)值越小，說(shuō)明推算結(jié)果的準(zhǔn)確程度越高，回值越小，說(shuō)明推算結(jié)果的準(zhǔn)確程度越高，回歸直線的代表性也越大。歸直線的代表性也越大。用用S Syxyx表示，也可用表示，也可用S Sy y表示。表示。二、估計(jì)標(biāo)準(zhǔn)誤差的計(jì)算方法二、估計(jì)標(biāo)準(zhǔn)誤差的計(jì)算方法 2yS . 22 yaybxyn 捷捷法法公公式式：簡(jiǎn)簡(jiǎn)1. 定定義公式義公式：22 nyyScy)(S Sy y和和r r的異同

14、點(diǎn)：的異同點(diǎn)：相同點(diǎn)相同點(diǎn)：都具有說(shuō)明相關(guān)關(guān)系密切程度的作用；：都具有說(shuō)明相關(guān)關(guān)系密切程度的作用；不同點(diǎn)不同點(diǎn): (1): (1)r r越大越好，而越大越好，而S Sy y越小越好；越小越好； (2)r(2)r用相對(duì)數(shù)表現(xiàn)，密切程度的概念比較明確用相對(duì)數(shù)表現(xiàn)，密切程度的概念比較明確 S Sy y用絕對(duì)數(shù)表現(xiàn)，關(guān)系密切的程度表示得用絕對(duì)數(shù)表現(xiàn)，關(guān)系密切的程度表示得 不那么明顯；不那么明顯； (3)r(3)r能說(shuō)明正、負(fù)相關(guān)，能說(shuō)明正、負(fù)相關(guān)，S Sy y不能說(shuō)明。不能說(shuō)明。第三節(jié)第三節(jié) 曲線相關(guān)與曲線曲線相關(guān)與曲線回歸分析回歸分析 l在回歸分析中，兩個(gè)變量之間的回歸稱為在回歸分析中，兩個(gè)變量之間

15、的回歸稱為簡(jiǎn)單回簡(jiǎn)單回歸歸，兩個(gè)以上變量之間的回歸稱為，兩個(gè)以上變量之間的回歸稱為復(fù)回歸復(fù)回歸l無(wú)論是簡(jiǎn)單回歸還是復(fù)回歸，數(shù)學(xué)模型均有無(wú)論是簡(jiǎn)單回歸還是復(fù)回歸，數(shù)學(xué)模型均有線性線性( (直線直線) )回歸回歸和和非線性非線性( (曲線曲線) )回歸回歸之分。之分。第三節(jié)第三節(jié) 曲線相關(guān)與曲線曲線相關(guān)與曲線回歸分析回歸分析 一一 曲線相關(guān)與曲線回歸的概念與分類曲線相關(guān)與曲線回歸的概念與分類 P P215215l曲線相關(guān)曲線相關(guān)又稱非線性相關(guān)，是指兩列伴隨相變化的又稱非線性相關(guān)，是指兩列伴隨相變化的變量，未能形成直線關(guān)系。變量，未能形成直線關(guān)系。l如果現(xiàn)象相關(guān)點(diǎn)的分布不表現(xiàn)為直線的關(guān)系，而近如果現(xiàn)

16、象相關(guān)點(diǎn)的分布不表現(xiàn)為直線的關(guān)系，而近似于某種曲線方程的關(guān)系似于某種曲線方程的關(guān)系l例如表現(xiàn)為拋物線、雙曲線、指數(shù)曲線等非直線形例如表現(xiàn)為拋物線、雙曲線、指數(shù)曲線等非直線形式，則這種關(guān)系就是非線性相關(guān)。式，則這種關(guān)系就是非線性相關(guān)。第三節(jié)第三節(jié) 曲線相關(guān)與曲線曲線相關(guān)與曲線回歸分析回歸分析 二 可線性化的曲線回歸方程變換 P216l雙曲線回歸方程l對(duì)數(shù)曲線回歸方程l二次曲線回歸方程l指數(shù)曲線回歸方程l冪函數(shù)曲線第第四四節(jié)節(jié) 時(shí)間數(shù)列自身相關(guān)與自身時(shí)間數(shù)列自身相關(guān)與自身回歸分析回歸分析 n時(shí)間數(shù)列自身相關(guān)：是指時(shí)間數(shù)列自身相關(guān)：是指一個(gè)變量自身一個(gè)變量自身隨時(shí)間的不同，其值隨時(shí)間的不同，其值在前

17、后期（前一期或前幾期）之間表現(xiàn)出一定的依存關(guān)系。在前后期（前一期或前幾期）之間表現(xiàn)出一定的依存關(guān)系。n簡(jiǎn)單自身回歸方程簡(jiǎn)單自身回歸方程 212111ttttttyynyyyynb1*ttybya1*ttybay第第五五節(jié)節(jié) 復(fù)相關(guān)與復(fù)復(fù)相關(guān)與復(fù)回歸分析回歸分析P P220220 n復(fù)相關(guān)與復(fù)回歸的概念和種類復(fù)相關(guān)與復(fù)回歸的概念和種類復(fù)相關(guān)：多個(gè)變量之間的依存關(guān)系，多元復(fù)相關(guān)：多個(gè)變量之間的依存關(guān)系，多元相關(guān)相關(guān)復(fù)回歸：一個(gè)因變量與多個(gè)自變量之間的依存關(guān)系，多元回歸復(fù)回歸：一個(gè)因變量與多個(gè)自變量之間的依存關(guān)系，多元回歸n二元線性回歸二元線性回歸n三元線性回歸三元線性回歸n多元線性回歸多元線性回歸22110 xbxbby3322110 xbxbxbbymmxbxbxbxbby.33221102211xbxbayc 為參數(shù)、為因變量估計(jì)值，21bbayc 2211xbxbnay 21221111xxbxbxayx 22221122xbxxbxayx上面的方法推廣到多個(gè)自變量，其回歸方程為：上面的方法推廣到多個(gè)自變量，其回歸方程為：21