多元線性回歸分析正式詳解演示文稿

多元線性回歸分析正式詳解演示文稿當前第1頁\共有57頁\編于星期三\2點優(yōu)選多元線性回歸分析正式當前第2頁\共有57頁\編于星期三\2點3第一節(jié)多元線性回歸一、多元線性回歸模型當前第3頁\共有57頁\編于星期三\2點4當前第4頁\共有57頁\編于星期三\2點5多元回歸：多個Y，多個X多重回歸：一個Y，多個X當前第5頁\共有57頁\編于星期三\2點6

β0

常數(shù)項βj

偏回歸系數(shù)(partialregressioncoefficient)：

在其它自變量保持不變時，Xj增加或減少一個單位時Y的平均變化量。e

去除m個自變量對Y影響后的隨機誤差。當前第6頁\共有57頁\編于星期三\2點7

多元線性回歸模型應(yīng)用條件：1.Y與X1，X2，，Xm之間具有線性關(guān)系；2.各個Yi間相互獨立；3.e服從均數(shù)為0、方差為2的正態(tài)分布。當前第7頁\共有57頁\編于星期三\2點8多元線性回歸分析步驟：1.根據(jù)樣本數(shù)據(jù)求得模型參數(shù)估計值：2.對回歸方程及各Xj作假設(shè)檢驗。當前第8頁\共有57頁\編于星期三\2點9二、多元線性回歸方程的建立當前第9頁\共有57頁\編于星期三\2點10YX當前第10頁\共有57頁\編于星期三\2點11當前第11頁\共有57頁\編于星期三\2點12X1X2Y當前第12頁\共有57頁\編于星期三\2點13用最小二乘法解正規(guī)方程組，使殘差平方和Q最小。當前第13頁\共有57頁\編于星期三\2點14當前第14頁\共有57頁\編于星期三\2點15用最小二乘法解正規(guī)方程組，使殘差平方和Q最小。當前第15頁\共有57頁\編于星期三\2點16

當前第16頁\共有57頁\編于星期三\2點17

當前第17頁\共有57頁\編于星期三\2點18

當前第18頁\共有57頁\編于星期三\2點19

三、多元線性回歸方程的假設(shè)檢驗及評價當前第19頁\共有57頁\編于星期三\2點20

（一）回歸方程的假設(shè)檢驗及評價1.方差分析法不全為0。當前第20頁\共有57頁\編于星期三\2點21

當前第21頁\共有57頁\編于星期三\2點22

當前第22頁\共有57頁\編于星期三\2點23

2.決定系數(shù)R2血糖含量變異的60%可由總膽固醇、甘油三酯、胰島素和糖化血紅蛋白的變異解釋。當前第23頁\共有57頁\編于星期三\2點243.復(fù)相關(guān)系數(shù)RY與多個自變量間的線性相關(guān)程度；Y與估計值間的Pearson相關(guān)系數(shù)r。當前第24頁\共有57頁\編于星期三\2點25

（二）各自變量的假設(shè)檢驗及評價1.偏回歸平方和表示模型中含有其它m-1個自變量的條件下該自變量對Y的回歸貢獻。其值愈大說明相應(yīng)的自變量愈重要。當前第25頁\共有57頁\編于星期三\2點26

當前第26頁\共有57頁\編于星期三\2點27

0.6129+11.9627+20.0635+27.7939≠133.7107當前第27頁\共有57頁\編于星期三\2點28

胰島素(X3)與糖化血紅蛋白(X4)與血糖(Y)有線性回歸關(guān)系。當前第28頁\共有57頁\編于星期三\2點29

2.t檢驗法當前第29頁\共有57頁\編于星期三\2點30

胰島素(X3)與糖化血紅蛋白(X4)與血糖(Y)有線性回歸關(guān)系。當前第30頁\共有57頁\編于星期三\2點31

標準化回歸系數(shù)bj’

的絕對值用來比較各個自變量Xj

對Y的影響程度大??；絕對值越大影響越大。標準化回歸方程的截距為0。3.標準化回歸系數(shù)標準化回歸系數(shù)與一般回歸方程的回歸系數(shù)的關(guān)系：標準化回歸方程

當前第31頁\共有57頁\編于星期三\2點32對血糖影響大小的順序依次為糖化血紅蛋白(X4)、胰島素(X3)、甘油三酯(X2)與總膽固醇(X1)。胰島素為負向影響。當前第32頁\共有57頁\編于星期三\2點33

第二節(jié)自變量選擇方法當前第33頁\共有57頁\編于星期三\2點34

一、全局選擇法對自變量各種不同的組合所建立的回歸方程進行比較，從全部組合中挑出一個“最優(yōu)”的回歸方程。當前第34頁\共有57頁\編于星期三\2點35

R2可用來評價回歸方程優(yōu)劣。隨著自變量增加，R2不斷增大，對兩個不同個數(shù)自變量回歸方程比較，須考慮方程包含自變量個數(shù)影響，應(yīng)對R2進行校正。所謂“最優(yōu)”回歸方程指最大者。1.校正決定系數(shù)選擇法當前第35頁\共有57頁\編于星期三\2點36

P為方程中自變量個數(shù)。最優(yōu)方程的Cp期望值是p+1。應(yīng)選擇Cp最接近P+1的回歸方程為最優(yōu)。2.選擇法當前第36頁\共有57頁\編于星期三\2點37

當前第37頁\共有57頁\編于星期三\2點38

二、逐步選擇法全局選擇計算量很大：

6個變量，計算26-1=63個方程；

10個變量，計算210-1=1023個方程。按選入變量順序不同分前進法、后退法

與逐步回歸法，共同特點是每一步只引入或剔除一個自變量Xj。當前第38頁\共有57頁\編于星期三\2點39對Xj的取舍要進行F檢驗：計算進行到第l步時：p:方程中自變量個數(shù)SS回：Xj的偏回歸平方和SS殘：殘差平方和當前第39頁\共有57頁\編于星期三\2點40

1.前進法（只選不剔）開始方程中無自變量，然后從方程外選取偏回歸平方和最大的自變量作F檢驗以決定是否選入方程，直至無自變量可以引入方程為止。缺點：后續(xù)變量的引入可能使先前引入的變量變的不重要。Xj入選當前第40頁\共有57頁\編于星期三\2點41

2.后退法（只剔不選）開始方程中包含全部自變量，然后從方程中選取偏回歸平方和最小的自變量作F檢驗以決定是否從方程中剔除，直至無自變量可以從方程中剔除為止。缺點：當某些自變量高度相關(guān)時，可能得不出正確結(jié)果。Xj剔除當前第41頁\共有57頁\編于星期三\2點42

3.逐步回歸法（先選后剔，雙向篩選）開始方程中無自變量，從方程外選取偏回歸平方和最大的自變量作F檢驗以決定是否選入方程；每引一個自變量進入方程后，從方程中選取偏回歸平方和最小的自變量作F檢驗以決定是否從方程中剔除；直至方程外無自變量可引入，方程內(nèi)無自變量可剔除為止。當前第42頁\共有57頁\編于星期三\2點43

Xj剔除內(nèi)剔Xj入選外引α入值定的越小選取自變量標準越嚴，被選入方程內(nèi)自變量數(shù)越少。α入值越大則反之。小樣本：α入=0.05，α出=0.10。

大樣本：α入=0.10，α出=0.15。

α入<α出，以免Xj上一步剔除后下一步又被選入當前第43頁\共有57頁\編于星期三\2點44

選X4前先建立4個直線回歸方程；選X1前先建立1個含3個自變量、3個含2個自變量的多元線性回歸方程。當前第44頁\共有57頁\編于星期三\2點45

當前第45頁\共有57頁\編于星期三\2點46

當前第46頁\共有57頁\編于星期三\2點47

當前第47頁\共有57頁\編于星期三\2點48

當前第48頁\共有57頁\編于星期三\2點49

當前第49頁\共有57頁\編于星期三\2點50

第三節(jié)多元線性回歸的應(yīng)用及注意事項當前第50頁\共有57頁\編于星期三\2點51

一、多元線性回歸的應(yīng)用

1.影響因素分析

年齡(X1)飲食習(xí)慣(X2)吸煙狀況(X3)工作緊張度(X4)家族史(X5)

高血壓(Y)bj的意義為在其它自變量保持不變時，Xj增加或減少一個單位時Y的平均變化量。故可排除混雜因素。當前第51頁\共有57頁\編于星期三\2點52

2.估計與預(yù)測心臟表面積(Y)=b0+b1心臟橫徑(X1)+b2心臟縱徑(X2)+b3心臟寬徑(X3)新生兒體重(Y)=b0+b1胎兒孕齡(X1)+b2胎兒頭徑(X2)+b3胎兒胸徑(X3)+b4胎兒腹徑(X4)當前第52頁\共有57頁\編于星期三\2點53

3.統(tǒng)計控制利用回歸方程進行逆估計，確定Y后控制X。采用射頻治療儀治療腦腫瘤：腦皮質(zhì)毀損半徑(Y)=b0+b1射頻溫度(X1)+b2照射時間(X2)當前第53頁\共有57頁\編于星期三\2點54

二、多元線性回歸應(yīng)用的注意事項

1.指標的數(shù)量化

應(yīng)變量Y為連續(xù)變量自變量X可為連續(xù)、有序分類或無序分類變量

(1)連續(xù)變量：X(2)有序分類變量：

1輕

X=2中

3重當前第54頁\共有57頁\編于星期三\2點55

(3)無序分類變量啞變量(dummyvariables)當前第55頁\共有57頁\編于星期三\2點56

2.樣本含量

n至少是X個數(shù)m的5～10倍3.多重共線性

實際應(yīng)用