多元回歸分析估計

多元回歸分析估計第一頁，共十二頁，2022年，8月28日3.1使用多元回歸的動因3.2普通最小二乘法的操作和解釋3.3

OLS估計量的期望值3.4

OLS估計量的方差3.5

OLS的有效性：高斯-馬爾可夫定理第二頁，共十二頁，2022年，8月28日3.1使用多元回歸的動因

1、可以度量在其他條件不變情況下y相對于某一因素的變化；2、簡單回歸分析中被包括在誤差項中，而x1與可能相關(guān)，從而導(dǎo)致在兩變量模型中對的估計有偏誤。3、多元回歸分析對推廣兩變量之間的函數(shù)關(guān)系有幫助。第三頁，共十二頁，2022年，8月28日3.2普通最小二乘法的操作和解釋如何得到OLS估計值最小化殘差平方和對OLS回歸方程的解釋偏效應(yīng)，其他情況不變對多元回歸“排除其他變量影響”的解釋

是將x1對其他解釋變量回歸得到的殘差第四頁，共十二頁，2022年，8月28日簡單回歸和多元回歸估計值的比較二者在兩種情況下相等：1樣本中x2對y的偏效應(yīng)為零；2樣本中x1與x2不相關(guān)。擬合優(yōu)度第五頁，共十二頁，2022年，8月28日3.3

OLS估計量的期望值假定1：關(guān)于參數(shù)的線性方程假定2：隨機抽樣假定3:不存在完全共線性

在樣本中，沒有一個自變量是常數(shù)，自變量之間也不存在嚴格的線性關(guān)系。假定4：條件均值為零

給定自變量的任何值，誤差u的期望值為零。第六頁，共十二頁，2022年，8月28日1、在模型中包含了無關(guān)變量不影響OLS估計量的無偏性，但是增大了方差。2、遺漏變量第七頁，共十二頁，2022年，8月28日3.4

OLS估計量的方差假定5：同方差性在假定1-5下，以自變量的樣本值為條件，對所有的j=1，…，k，都有OLS方差的成分：多重共線性誤差方差：越大意味著OLS估計量的方差就越大；第八頁，共十二頁，2022年，8月28日Xj的總樣本變異，越小，方差越大，但是其等于0違背假定3；自變量之間的線性關(guān)系，是將Xj對所有其他自變量進行回歸得到的。時方差最小，違背假定3。兩個或多個自變量之間高度相關(guān)（但不完全）相關(guān)，被稱為多重共線性。模型中某些自變量之間高度相關(guān)，對模型中其他參數(shù)的估計效果不重要（從方差公式看）。小樣本容量可能導(dǎo)致很大的抽樣方差。第九頁，共十二頁，2022年，8月28日誤設(shè)模型中的方差真實模型：遺漏了X2：得：

第十頁，共十二頁，2022年，8月28日1、時，是有偏的，無偏，且2、時，二者都無偏，且從第2個結(jié)論看，模型中包括無關(guān)變量的后果是參數(shù)估計量的方差較高。第1種情況下，我們更偏好在模型中包括X2，即更偏好，因為A：在大樣本情況下，偏誤對任何樣本容量都大致相等，隨著n變大，都趨于0；B：模型錯誤的遺漏了X2，誤差方差因為有效地包含了部分X2而提高。第十一頁，共十二頁，2022年，8月28日估計：OLS估計量的標準誤定理3.3：是