計(jì)量經(jīng)濟(jì)學(xué)（第三版）課件：多元線性回歸分析基礎(chǔ)

計(jì)量經(jīng)濟(jì)學(xué)（第三版）多元線性回歸分析計(jì)量經(jīng)濟(jì)學(xué)

多元線性回歸分析12十二月2024重點(diǎn)問題參數(shù)的最小二乘估計(jì)最小二乘估計(jì)量的性質(zhì)參數(shù)估計(jì)式的分布特性與檢驗(yàn)多重共線性多元線性回歸分析12十二月2024主要內(nèi)容第一節(jié)模型的假定

第二節(jié)參數(shù)的最小二乘估計(jì)

第三節(jié)最小二乘估計(jì)量的性質(zhì)第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)第五節(jié)多重共線性第六節(jié)預(yù)測(cè)多元線性回歸分析12十二月2024第一節(jié)模型的假定模型矩陣形式其中多元線性回歸分析12十二月2024第一節(jié)模型的假定In為n階單位陣多元線性回歸分析12十二月2024第二節(jié)參數(shù)的最小二乘估計(jì)殘差向量殘差平方和*式*為正規(guī)方程組，包含k個(gè)方程式多元線性回歸分析12十二月2024第二節(jié)參數(shù)的最小二乘估計(jì)由假設(shè)條件可以證明XTX是正定的，即XTX>0則最小二乘估計(jì)：多元線性回歸分析12十二月2024第三節(jié)最小二乘估計(jì)量的性質(zhì)一、最小二乘估計(jì)的特性1.線性特性2.無偏性多元線性回歸分析12十二月2024第三節(jié)最小二乘估計(jì)量的性質(zhì)3.最優(yōu)性多元線性回歸分析12十二月2024第三節(jié)最小二乘估計(jì)量的性質(zhì)多元線性回歸分析12十二月2024第三節(jié)最小二乘估計(jì)量的性質(zhì)多元線性回歸分析12十二月2024第三節(jié)最小二乘估計(jì)量的性質(zhì)多元線性回歸分析12十二月2024第三節(jié)最小二乘估計(jì)量的性質(zhì)二、誤差項(xiàng)方差估計(jì)

即e是U的線性變換。其中，M稱為最小二乘基本等冪矩陣。

多元線性回歸分析12十二月2024第三節(jié)最小二乘估計(jì)量的性質(zhì)M的性質(zhì)：（1）對(duì)稱性MT=M（2）等冪性

Mn=M（3）M與X互相獨(dú)立MX=0多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)一、參數(shù)估計(jì)式的分布特性

在多元線性回歸分析中，除了要進(jìn)行與一元線性回歸分析中類似的單個(gè)參數(shù)的檢驗(yàn)，還要檢驗(yàn)多個(gè)解釋變量對(duì)被解釋變量Y的共同影響是否顯著。通常構(gòu)造F統(tǒng)計(jì)量進(jìn)行這些檢驗(yàn)。多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)二、參數(shù)β的線性約束檢驗(yàn)與置信區(qū)間多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)1.β的置信區(qū)間當(dāng)R=Ik，可以得到β的置信區(qū)間多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)2.β的檢驗(yàn)（1）參數(shù)的整體檢驗(yàn)問題H0∶β2=β3=…=βk=0

H1∶存在某個(gè)βi≠0,2≤i≤k

多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)（2）單個(gè)參數(shù)的檢驗(yàn)問題

H0∶βi=0H1∶βi≠0

多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)三、相關(guān)分析記為復(fù)相關(guān)系數(shù)或決定系數(shù)相關(guān)系數(shù)也可以表示為相關(guān)系數(shù)R2有一個(gè)顯著特點(diǎn)：如果觀察值Yt不變，決定系數(shù)R2將隨解釋變量的數(shù)目增加而增大。

多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)定義為修正的決定系數(shù)修正的決定系數(shù)比一般決定系數(shù)更準(zhǔn)確地反映了解釋變量對(duì)被解釋變量的影響程度。因此在一般情況下，修正的確定系數(shù)比R2應(yīng)用更廣泛。注：修正的決定系數(shù)可能為負(fù)值多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)四、單因素方差分析1.單因素方差分析的模型其中，μi為第i個(gè)水平下Yij的總體均值。eij為Yij與均值之差。σ2為Yij的方差，方差為常數(shù)。k為因素A的水平數(shù)量。ni為從第i個(gè)水平Ai中抽取的樣本數(shù)量。多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)2.單因素方差分析的檢驗(yàn)H0∶μ1＝μ2＝…＝μk＝μVSH1∶μi不全相等多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)定義統(tǒng)計(jì)量多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)五、方差分析、相關(guān)分析和回歸分析的關(guān)系方差分析方法也可以應(yīng)用在回歸分析中。把由因素A引起的組間離差平方和ASS換成回歸平方和ESS，把由隨機(jī)因素引起的組內(nèi)離差平方和RSS換成殘差平方和RSS。把k由代表水平數(shù)目換成代表參數(shù)數(shù)目。多元線性回歸分析12十二月2024第四節(jié)參數(shù)估計(jì)式的分布特性與檢驗(yàn)六、用逐步引入法選擇解釋變量基本思想：借助回歸分析的方差分析方法，對(duì)總變差中由新增加的解釋變量所帶來的增加的可解釋部分的方差比進(jìn)行F檢驗(yàn)，以決定新引入的解釋變量的取舍。見69頁例2-2多元線性回歸分析12十二月2024第五節(jié)多重共線性多重共線性指解釋變量之間存在比較強(qiáng)的線性相關(guān)關(guān)系。

一、多重共線性造成的影響1.如果解釋變量之間存在完全多重共線性，無法得到參數(shù)估計(jì)式。2.嚴(yán)重多重共線性，即︱X′X︱≈0時(shí)，具有下列影響(1)大大降低預(yù)測(cè)精確度由于|X’X|0，引起(X’X)-1主對(duì)角線元素較大，使參數(shù)估計(jì)值的方差增大，OLS參數(shù)估計(jì)量非有效。多元線性回歸分析12十二月2024第五節(jié)多重共線性(2)發(fā)生棄真錯(cuò)誤由于的方差很大，在進(jìn)行顯著性檢驗(yàn)時(shí)t統(tǒng)計(jì)量明顯偏小，即使決定系數(shù)R2及F統(tǒng)計(jì)量很大，也容易淘汰一些不應(yīng)淘汰的解釋變量。(3)造成錯(cuò)誤的模型關(guān)系

由于嚴(yán)重多重共線性是指解釋變量之間有強(qiáng)線性相關(guān)關(guān)系。因此，不同解釋變量對(duì)被解釋變量的影響會(huì)發(fā)生互相代替的情況。如果采用逐步引入法選擇解釋變量，已經(jīng)引入并且經(jīng)檢驗(yàn)證明顯著的解釋變量的數(shù)值就會(huì)變小，t數(shù)值下降，變?yōu)椴伙@著的，甚至出現(xiàn)參數(shù)符號(hào)改變的情況。原來模型中與被解釋變量正(負(fù))相關(guān)的解釋變量，由于新解釋變量引入，變?yōu)樨?fù)(正)相關(guān)，從而造成錯(cuò)誤的模型關(guān)系。(4)建立的回歸模型的可靠程度降低參數(shù)估計(jì)值及其方差對(duì)樣本很敏感，由于增加或減少一些樣本，參數(shù)估計(jì)值及其方差發(fā)生很大變化，因而建立的回歸模型的可靠程度降低。多元線性回歸分析12十二月2024第五節(jié)多重共線性二、多重共線性的檢驗(yàn)1.相關(guān)系數(shù)檢驗(yàn)法

對(duì)樣本中任何兩個(gè)不同解釋變量求簡(jiǎn)單相關(guān)系數(shù)，如果相關(guān)系數(shù)r的絕對(duì)值比較大，例如|r|＞0.8，或|r|＞0.9，就可以認(rèn)為這兩個(gè)樣本之間高度相關(guān)，因而樣本存在多重共線性。

2.逐步分析檢驗(yàn)法

這種檢驗(yàn)方法首先對(duì)各種可能的多元線性回歸模型分別進(jìn)行參數(shù)估計(jì)和檢驗(yàn)。先引入經(jīng)濟(jì)意義明顯，并且統(tǒng)計(jì)上最顯著的解釋變量，然后逐步引入其他解釋變量。如果新引入解釋變量使原有解釋變量的數(shù)值發(fā)生明顯變化，甚至改變其符號(hào)，或者使原有解釋變量的t統(tǒng)計(jì)量明顯變小，就表示新引入的解釋變量與原有解釋變量之間存在多重共線性。多元線性回歸分析12十二月2024第五節(jié)多重共線性三、處理多重共線性問題的方法1.保留重要解釋變量2.去掉不重要的解釋變量3.一階差分法4.主分量法多元線性回歸分析12十二月2024