多元統(tǒng)計(jì)分析回歸分析

第二講回歸分析一元線性回歸模型多元線性回歸模型非線性回歸模型多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第1頁!引例：消費(fèi)支出與可支配收入的觀測(cè)值一、一元線性回歸模型多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第2頁!一、一元線性回歸模型

定義：假設(shè)有兩個(gè)變量x和y，x為自變量，y為因變量。則一元線性回歸模型的基本結(jié)構(gòu)形式為式中：a和b為待定參數(shù)；為各組觀測(cè)數(shù)據(jù)的下標(biāo)；為隨機(jī)變量。（2.1）

多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第3頁!

記和分別為參數(shù)a與b的擬合值，則一元線性回歸模型為

（2.2）式代表x與y之間相關(guān)關(guān)系的擬合直線，稱為回歸直線；是y的估計(jì)值，亦稱回歸值。（2.2）

多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第4頁!真實(shí)的總體回歸直線與估計(jì)的樣本回歸直線多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第5頁!觀測(cè)值的散點(diǎn)圖及其擬合直線多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第6頁!（2.5）

③

解上述正規(guī)方程組（2.4）式，得到參數(shù)a與b的擬合值多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第7頁!1擬合優(yōu)度檢驗(yàn)所謂擬合程度，是指樣本觀測(cè)值聚集在樣本回歸直線周圍的緊密程度。判斷回歸模型擬合程度優(yōu)劣最常用的數(shù)量指標(biāo)是判定系數(shù)（CoefficientofDetermination）多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第8頁!Q稱為誤差平方和，或剩余平方和U回歸平方和

顯而易見，各個(gè)樣本觀測(cè)點(diǎn)與樣本回歸直線靠得越緊，U在S中所占的比例就越大。因此，可定義這一比例為判定系數(shù)，即有：多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第9頁!2相關(guān)系數(shù)的顯著性檢驗(yàn)X和Y之間真實(shí)的線性相關(guān)程度用總體相關(guān)系數(shù)ρ來表示由于總體未知，ρ無法計(jì)算，我們利用相本相關(guān)系數(shù)（1）計(jì)算樣本相關(guān)系數(shù)r；（2）根據(jù)給定的顯著性水平α和樣本容量n，查相關(guān)系數(shù)表得到臨界值r。（3）若|r|大于臨界值

，則X與Y有顯著的線性關(guān)系，否則X與Y的線性相關(guān)關(guān)系不顯著。多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第10頁!①方法：F檢驗(yàn)法。②總的離差平方和：在回歸分析中，表示y的n次觀測(cè)值之間的差異，記為

可以證明（2.9）（2.8）4回歸方程的顯著性檢驗(yàn)多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第11頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第12頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第13頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第14頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第15頁!2多元線性回歸模型的基本假定多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第16頁!偏回歸系數(shù)的推導(dǎo)過程:根據(jù)最小二乘法原理，的估計(jì)值應(yīng)該使

由求極值的必要條件得

方程組（3.2.14）式經(jīng)展開整理后得

（.2.13）

（.2.14）

多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第17頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第18頁!

則正規(guī)方程組（2.15）式可以進(jìn)一步寫成矩陣形式多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第19頁!正規(guī)方程組也可以寫成多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第20頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第21頁!R=0.950，說明Y與自變量X1、X2之間的相關(guān)程度為95.0%。樣本判定系數(shù)0.902說明Y的變動(dòng)有90.2%可以由自變量X1和X2解釋。多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第22頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第23頁!對(duì)于雙曲線，令，轉(zhuǎn)化為直線形式：；對(duì)于S型曲線，可轉(zhuǎn)化為直線形式：；對(duì)于冪乘積，只要令，就可以將其轉(zhuǎn)化為線性形式其中，；多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第24頁!

序號(hào)面積A周長(zhǎng)P序號(hào)面積A周長(zhǎng)P110447.370625.39242232844.3004282.043215974.730612.286434054.660289.307330976.770775.7124430833.840895.98049442.902530.202451823.355205.131510858.9201906.1034626270.300968.060621532.9101297.9624713573.9601045.07276891.680417.0584865590.0802250.43583695.195243.90749157270.4002407.54992260.180197.239502086.426266.54110334.33299.729513109.070261.8181111749.080558.921522038.617320.396122372.105199.667533432.137253.335138390.633592.893541600.391230.030146003.719459.467553867.586419.406表3.2.1某地區(qū)各個(gè)林地景觀斑塊面積（m2）與周長(zhǎng)（m）

多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第25頁!303638.766399.725712656.824298.47331585425.10011474.770721846.988179.8663235220.6401877.476731616.684172.8083310067.820497.394741730.563172.1433427422.5701934.5967511303.970881.0423543071.5501171.4137614019.790638.1763657585.9402275.389779277.172862.0883728254.1301322.7957813684.750712.78738497261.0009581.298791949.164228.4033924255.030994.906804846.016324.481401837.699229.40181521457.4007393.938411608.625225.84282564370.80012212.410多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第26頁!127.7715335.296653538.1409385.534711139.0348716.385013547.3780035.438211148.7001346.130066558.2603866.0388391513.176138.786501567.5736265.2915971612.098977.993105574.3477554.041328179.5607486.393579588.9844086.5733341810.034927.005852599.8663996.9188211911.173197.051092609.0196016.523136208.0275565.501457619.5954087.1181092113.059259.015056628.4162385.787871228.6550326.211917639.4847597.067248239.031156.028643648.7974386.413133248.7331136.027773658.3099576.0807442511.012367.345927668.6386716.069247269.5831276.67449678.8527166.222147多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第27頁!

（2）

以x為橫坐標(biāo)、y為縱坐標(biāo)，在平面直角坐標(biāo)系中作出散點(diǎn)圖。很明顯，y與x呈線性關(guān)系。圖3.2.2林地景觀斑塊面積（A）與周長(zhǎng)（P）之間的雙對(duì)數(shù)關(guān)系多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第28頁!一般情況下的總體回歸模型假定條件下的總體回歸模型多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第29頁!樣本回歸直線是對(duì)總體回歸直線的近似反映?；貧w分析的主要任務(wù)就是要采用適當(dāng)?shù)姆椒ǎ浞掷脴颖舅峁┑男畔?，使得樣本回歸函數(shù)盡可能地接近于真實(shí)的總體回歸函數(shù)。所估計(jì)的樣本回歸直線都不可能與真實(shí)的總體回歸直線完全一致。多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第30頁!①

參數(shù)a與b的最小二乘擬合原則要求yi與的誤差ei的平方和達(dá)到最小，即②根據(jù)取極值的必要條件，有

（2.4）

（一）參數(shù)a、b的最小二乘估計(jì)

（2.3）

多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第31頁!一元線性回歸模型檢驗(yàn)的種類（二）一元線性回歸模型的顯著性檢驗(yàn)實(shí)際意義檢驗(yàn)參數(shù)估計(jì)值的符號(hào)和取值范圍消費(fèi)支出與可支配收入：如果估計(jì)出來的b小于0或大于1，收入支出統(tǒng)計(jì)檢驗(yàn)檢驗(yàn)樣本回歸方程的可靠性擬合程度檢驗(yàn)；相關(guān)系數(shù)檢驗(yàn)；參數(shù)顯著性檢驗(yàn)(t檢驗(yàn))；回歸方程顯著性檢驗(yàn)（F檢驗(yàn)）計(jì)量檢驗(yàn)假定條件是否滿足序列相關(guān)檢驗(yàn)異方差性檢驗(yàn)多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第32頁!總的離差平方和：在回歸分析中，表示y的n次觀測(cè)值之間的差異，記為

可以證明（2.9）（2.8）多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第33頁!性質(zhì)：1、具有非負(fù)性，分子分母均是不可能為負(fù)值2、判定系數(shù)的取值范圍為3、判定系數(shù)是樣本觀測(cè)值的函數(shù)，它也是一個(gè)統(tǒng)計(jì)量。多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第34頁!3回歸參數(shù)的顯著性檢驗(yàn)（t檢驗(yàn)）根據(jù)樣本估計(jì)的結(jié)果對(duì)總體回歸參數(shù)的有關(guān)假設(shè)進(jìn)行檢驗(yàn)3、根據(jù)給定的顯著水平α確定臨界值，或者計(jì)算t值所對(duì)應(yīng)的p值。4、做出判斷。多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第35頁!

③

統(tǒng)計(jì)量F

④

F越大，模型的效果越佳。統(tǒng)計(jì)量F～F（1，n-2）。在顯著水平α下，若F>Fα，則認(rèn)為回歸方程效果在此水平下顯著。一般地，當(dāng)F<F0.10(1,n-2)時(shí)，則認(rèn)為方程效果不明顯。（2.10）多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第36頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第37頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第38頁!二、多元線性回歸模型1多元線性回歸模型的結(jié)構(gòu)形式為

（2.11）

式中：為待定參數(shù)；為隨機(jī)變量。多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第39頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第40頁!如果分別為的擬和值，則回歸方程為

b0為常數(shù)，b1,b2,…bk稱為偏回歸系數(shù)。偏回歸系數(shù)的意義是，當(dāng)其他自變量都固定時(shí)，自變量每變化一個(gè)單位而使因變量平均改變的數(shù)值。（2.12）

3回歸方程的估計(jì):多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第41頁!

方程組（2.15）式稱為正規(guī)方程組。

引入矩陣

（.2.15)

多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第42頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第43頁!求解得引入記號(hào)（2.16）

多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第44頁!回歸模型的顯著性檢驗(yàn)

①

回歸平方和U與剩余平方和Q：②回歸平方和③剩余平方和為④

F統(tǒng)計(jì)量為計(jì)算出來F之后，可以查F分布表對(duì)模型進(jìn)行顯著性檢驗(yàn)。多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第45頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第46頁!多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第47頁!三、非線性回歸模型

非線性關(guān)系線性化的幾種情況對(duì)于指數(shù)曲線，令,可以將其轉(zhuǎn)化為直線形式：，其中，；

對(duì)于對(duì)數(shù)曲線，令，，可以將其轉(zhuǎn)化為直線形式：；對(duì)于冪函數(shù)曲線，令，，可以將其轉(zhuǎn)化為直線形式：其中，；多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第48頁!對(duì)于對(duì)數(shù)函數(shù)和只要令，就可以將其化為線性形式

例:表3.2.1給出了某地區(qū)林地景觀斑塊面積（area）與周長(zhǎng)（perimeter）的數(shù)據(jù)。下面我們建立林地景觀斑塊面積A與周長(zhǎng)P之間的非線性回歸模型。多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第49頁!15527620.2006545.291561946.184198.66116179686.2002960.4755777.30556.9021714196.460597.993587977.719715.7521822809.1801103.0705919271.8201011.1271971195.9401154.118608263.480680.710203064.242245.0496114697.1301234.11421469416.7008226.009624519.867326.317225738.953498.6566313157.6601172.916238359.465415.151646617.270609.801246205.016414.790654064.137437.3552560619.0201549.871665645.820432.3552614517.740791.943676993.355503.7842731020.1001700.965684304.281267.9512826447.1601246.977696336.383347.136297985.926918.312702651.414292.235多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第50頁!

解:（1）作變量替換，令：，，將表3.2.1中的原始數(shù)據(jù)進(jìn)行對(duì)數(shù)變換，變換后得到的各新變量對(duì)應(yīng)的觀測(cè)數(shù)據(jù)如表3.2.2所示。

序號(hào)y=lnAx=LnP序號(hào)y=lnAx=LnP19.2541066.4383794212.358138.36218629.6787636.4172438.3076225.667487310.340996.6537824410.336376.79791849.1530196.273258457.5084335.3236559.2927427.5528164610.176196.87529469.9773387.168551479.5159096.95184178.838076.0332264811.091187.71887988.2147895.4967894911.965727.78636497.72325.284414507.6432085.585528105.8121354.602457518.0420795.567651119.371536.326008527.6200275.769558表3.2.2經(jīng)對(duì)數(shù)變換后的數(shù)據(jù)多元統(tǒng)計(jì)分析回歸分析共53頁，您現(xiàn)在瀏覽的是第51頁!2710.342397.438951