多重線性回歸相關(guān)

多重線性回歸相關(guān)第1頁，共24頁，2023年，2月20日，星期四多因素分析的優(yōu)點(diǎn)：（1）資料易收集；（2）可同時(shí)研究多個(gè)因素；（3）既可考察各因素的獨(dú)立作用，又可研究因素間的交互作用；第2頁，共24頁，2023年，2月20日，星期四第一節(jié)多重線性回歸的概念

多重線性回歸是研究一個(gè)應(yīng)變量與多個(gè)自變量之間線性依存關(guān)系的統(tǒng)計(jì)方法，是一元直線回歸分析的推廣。式中b0是常數(shù)項(xiàng)，bi（i＝1，2，…，m）稱為偏回歸系數(shù)。第3頁，共24頁，2023年，2月20日，星期四b0是常數(shù)項(xiàng)，是各自變量都等于0時(shí)，應(yīng)變量的估計(jì)值。有時(shí)，人們稱它為本底值。b1，b2，…，bp是偏回歸系數(shù)(pertialregressioncoefficient)，其統(tǒng)計(jì)學(xué)意義是在其它所有自變量不變的情況下，某一自變量每變化一個(gè)單位，應(yīng)變量平均變化的單位數(shù)。第4頁，共24頁，2023年，2月20日，星期四與直線回歸一樣，建立多重回歸方程常用最小二乘法(leastsquaremethod)原理求bi（i＝1，2，…，m），再求b0，即求出使估計(jì)值與觀測(cè)值y之間差異的平方和達(dá)到最小的一組解作為bi的估計(jì)值。第5頁，共24頁，2023年，2月20日，星期四多重線性回歸模型的前提條件1.線性（linear）2.獨(dú)立（independent）3.正態(tài)（normal）4.等方差性（equalvariance）第6頁，共24頁，2023年，2月20日，星期四例1

同樣身高的20名健康男子的收縮壓（kPa）、年齡（歲）和體重之間的多元線性回歸方程。編號(hào)收縮壓年齡體重

yx1x2115.605076.0218.802091.5316.532085.5416.803082.5515.603079.0616.675080.5716.406079.0816.675079.0917.604085.01016.405076.5表120名健康男子的收縮壓、年齡和體重測(cè)定值第7頁，共24頁，2023年，2月20日，星期四n＝20,X1=44.05,X2=82.80,Y=17.82∑Y=356.35,∑X1=881,∑X2=1656.0,

∑X12=41467,∑X22=137953.5,

∑Y2=6408.2049,∑X1Y=15788.50，∑X2Y=29653.27，∑X1X2=72669.5第8頁，共24頁，2023年，2月20日，星期四第9頁，共24頁，2023年，2月20日，星期四第10頁，共24頁，2023年，2月20日，星期四

由樣本計(jì)算得到得偏回歸系數(shù)bi是總體偏回歸系數(shù)βi的估計(jì)值，即使總體偏回歸系數(shù)等于0，但由于抽樣誤差，仍可使樣本偏回歸系數(shù)bi不等于0，因此仍要作假設(shè)檢驗(yàn)，以判斷其是否有統(tǒng)計(jì)學(xué)意義。假設(shè)檢驗(yàn)包括方程的假設(shè)檢驗(yàn)和每個(gè)偏回歸系數(shù)的假設(shè)檢驗(yàn)。（一）多元回歸方程的假設(shè)檢驗(yàn)1.建立假設(shè)和確定檢驗(yàn)水準(zhǔn)：

H0：β1=β2=β3…=βm＝0H1：β1、β2、β3、…、βm不全為0α=0.05假設(shè)檢驗(yàn)

第11頁，共24頁，2023年，2月20日，星期四ν總=n-1ν回歸=mν剩余=n-m-1SS誤差=SS總-SS回歸第12頁，共24頁，2023年，2月20日，星期四ν總=20-1＝19ν回歸=2ν剩余=20-2-1＝17SS誤差=SS總-SS回歸＝25.2829n＝20,X1=44.05,X2=82.80,Y=17.82∑Y=356.35,∑X1=881,∑X2=1656.0,

∑X12=41467,∑X22=137953.5,

∑Y2=6408.2049,∑X1Y=15788.50，∑X2Y=29653.27，∑X1X2=72669.5第13頁，共24頁，2023年，2月20日，星期四查F界值表得：F0.05（2，17）＝3.59，F(xiàn)＞F0.05（2，17），P＜0.05，因此在α=0.05水平上，拒絕H0，可以認(rèn)為收縮壓與年齡和體重之間有回歸關(guān)系，所建立的回歸方程有意義。第14頁，共24頁，2023年，2月20日，星期四（二）回歸系數(shù)的假設(shè)檢驗(yàn)1.建立假設(shè)和確定檢驗(yàn)水準(zhǔn)：

H0：βi=0H1：βi≠0α=0.052.計(jì)算統(tǒng)計(jì)量t第15頁，共24頁，2023年，2月20日，星期四查t界值表得：t0.05（17）＝2.110，t1＞t0.05（17），P＜0.05，因此在α=0.05水平上，拒絕H0，可以認(rèn)為收縮壓與年齡之間有線性回歸關(guān)系。查t界值表得：t0.05（17）＝2.110，t2＞t0.05（17），P＜0.05，因此在α=0.05水平上，拒絕H0，可以認(rèn)為收縮壓與體重之間有線性回歸關(guān)系。第16頁，共24頁，2023年，2月20日，星期四因?yàn)閙個(gè)自變量都具有各自的計(jì)量單位以及不同的變異度，所以不能直接用偏回歸系數(shù)的數(shù)值大小來反映方程中各個(gè)自變量對(duì)應(yīng)變量Y的貢獻(xiàn)大小。為此，可計(jì)算標(biāo)準(zhǔn)化回歸系數(shù)。標(biāo)準(zhǔn)化回歸系數(shù)第17頁，共24頁，2023年，2月20日，星期四第18頁，共24頁，2023年，2月20日，星期四復(fù)相關(guān)系數(shù)R2稱為決定系數(shù)，可定量評(píng)價(jià)y的總變異能被自變量解釋的比重。第19頁，共24頁，2023年，2月20日，星期四偏相關(guān)系數(shù)扣除其他變量的影響后，變量y與x的相關(guān)，稱為y與x的偏相關(guān)系數(shù)。如：r12.3第20頁，共24頁，2023年，2月20日，星期四在一個(gè)有統(tǒng)計(jì)學(xué)意義的方程中，可能某些自變量對(duì)應(yīng)變量影響較大，而另一些影響很弱甚至完全沒有意義。為使回歸方程中僅包含有意義的自變量，有必要對(duì)偏回歸系數(shù)作檢驗(yàn)和進(jìn)行自變量篩選。第21頁，共24頁，2023年，2月20日，星期四自變量篩選的常用方法1.所有可能自變量子集選擇；2.向前選擇法；3.向后剔除法；4.逐步選擇法自變量篩選的原則：殘差均方縮小或調(diào)整決定系數(shù)（Ra2）增大。第22頁，共24頁，2023年，2月20日，星期四多重線性回歸的注意事項(xiàng)：1.自變量必須是相互獨(dú)立的；2.自變量的聯(lián)合作用；3.樣本含量；4.正確看待選入和未選入的自變量。第23頁，共24頁，2023年，2月20日，星期四多重共線性問題及對(duì)策：多重共線性指的