利用MATLAB進(jìn)行多元線性回歸.ppt

1、2.線性回歸,b=regress(y,X) b,bint,r,rint,s=regress(y,X,alpha),輸入: y因變量(列向量), X1與自變量組成的矩陣， Alpha顯著性水平（缺省時(shí)設(shè)定為0.05）,s: 3個(gè)統(tǒng)計(jì)量：決定系數(shù)R2，F(xiàn)值, F(1,n-2)分布大于 F值的概率p，p時(shí)回歸模型有效,rcoplot(r,rint),殘差及其置信區(qū)間作圖,回歸模型,例3: 血壓與年齡、體重指數(shù)、吸煙習(xí)慣,體重指數(shù) = 體重（kg）/身高（m）的平方,吸煙習(xí)慣: 0表示不吸煙，1表示吸煙,建立血壓與年齡、體重指數(shù)、吸煙習(xí)慣之間的回歸模型,模型建立,血壓y，年齡x1，體重指數(shù)x2，吸煙習(xí)

2、慣x3,y與x1的散點(diǎn)圖,y與x2的散點(diǎn)圖,線性回歸模型,回歸系數(shù)0, 1, 2, 3 由數(shù)據(jù)估計(jì), 是隨機(jī)誤差,n=30;m=3; y=144215138145162142170124158154 162150140110128130135114116124 136142120120160158144130125175; x1=39474547654667426756 64565934424845182019 36503921445363292569; x2=24.2 31.1 22.6 24.0 25.9 25.1 29.5 19.7 27.2 19.3 28.0 25.8 27.3 20

3、.1 21.7 22.2 27.4 18.8 22.6 21.5 25.0 26.2 23.5 20.3 27.1 28.6 28.3 22.0 25.3 27.4; x3=0 1 0 1 1 0 1 0 1 0 1 0 0 0 0 1 0 0 0 . 0 0 1 0 0 1 1 0 1 0 1;,X=ones(n,1), x1,x2,x3; b,bint,r,rint,s=regress(y,X); s2=sum(r.2)/(n-m-1); b,bint,s,s2 rcoplot(r,rint),模型求解,剔除異常點(diǎn)(第2點(diǎn)和第10點(diǎn))后,xueya01.m,此時(shí)可見第二與第十二個(gè)點(diǎn)是異常點(diǎn)

4、，于是刪除上述兩點(diǎn)，再次進(jìn)行回歸得到改進(jìn)后的回歸模型的系數(shù)、系數(shù)置信區(qū)間與統(tǒng)計(jì)量,這時(shí)置信區(qū)間不包含零點(diǎn)，F(xiàn)統(tǒng)計(jì)量增大，可決系數(shù)從0.6855增大到0.8462 ，我們得到回歸模型為：,通常，進(jìn)行多元線性回歸的步驟如下： （1）做自變量與因變量的散點(diǎn)圖，根據(jù)散點(diǎn)圖的形狀決定是否可以進(jìn)行線性回歸； （2）輸入自變量與因變量； （3）利用命令： b,bint,r,rint,s=regress(y,X,alpha)，rcoplot(r,rint) 得到回歸模型的系數(shù)以及異常點(diǎn)的情況； （4）對(duì)回歸模型進(jìn)行檢驗(yàn) 首先進(jìn)行殘差的正態(tài)性檢驗(yàn)：jbtest，ttest,其次進(jìn)行殘差的異方差檢驗(yàn): 戈德菲爾德

5、一匡特(GoldfeldQuandt)檢驗(yàn) 戈德菲爾德檢驗(yàn)，簡稱為GQ檢驗(yàn).為了檢驗(yàn)異方差性，將樣本按解釋變量排序后分成兩部分，再利用樣本1和樣本2分別建立回歸模型，并求出各自的殘差平方和RSSl和RSS2。如果誤差項(xiàng)的離散程度相同(即為同方差的)，則RSSl和RSS2的值應(yīng)該大致相同；若兩者之間存在顯著差異，則表明存在異方差. 檢驗(yàn)過程中為了“夸大”殘差的差異性，一般先在樣本中部去掉C個(gè)數(shù)據(jù)(通常取cn4)，再利用F統(tǒng)計(jì)量判斷差異的顯著性：,其中，n為樣本容量，k為自變量個(gè)數(shù). 然后對(duì)殘差進(jìn)行自相關(guān)性的檢驗(yàn)，通常我們利用DW檢驗(yàn)進(jìn)行殘差序列自相關(guān)性的檢驗(yàn)。該檢驗(yàn)的統(tǒng)計(jì)量為：,其中 為殘差序列，對(duì)于計(jì)算出的結(jié)果通過查表決定是否存在自相關(guān)性。,若 du4-dl，則存在一階負(fù)相關(guān)； 若 dlDWdu 或4-duDW4-dl ，則無法判斷,下面我們對(duì)模型進(jìn)行檢驗(yàn)： （1）殘差的正態(tài)檢驗(yàn)： 由jbtest檢驗(yàn)，h=0表明殘差服從正態(tài)分布，進(jìn)而由t檢驗(yàn)可知h=0，p=1，故殘差服從均值為零的正態(tài)分布； （2）殘差的異方差檢驗(yàn)： 我們將28個(gè)數(shù)據(jù)從小到大排列，去掉中間的6個(gè)數(shù)據(jù)，得到F統(tǒng)計(jì)量的觀測值為：f =1.9092,由F(7,7)=3.79，可知：f =1.90923.79，故不存在異方差.,（3）殘