第5章多元回歸分析：OLS的漸近性

1、湖大商學院 chenqianli第五章 多元回歸分析：OLS的漸近性前兩章討論的多元回歸模型的OLS估計量的性質(zhì)是有限樣本、小樣本或精確性質(zhì)，即對任何樣本容量均成立的性質(zhì)。在統(tǒng)計推斷時，我們需要假設誤差項服從正態(tài)分布的MLR.6，如果此假設不成立，t統(tǒng)計量和F統(tǒng)計量不再原先的分布，由此有必要了解估計量和檢驗統(tǒng)計量的漸近性質(zhì)或大樣本性質(zhì)。湖大商學院 chenqianli5.1 一致性估計量的無偏性固然重要，但并非總能實現(xiàn)，如回歸中 的估計量 就不是無偏估計量。既然并非所有有用的估計量是無偏的，所以幾乎所有的經(jīng)濟學家都同意，一致性是對一個估計量的最起碼要求。描述一致性有幾種不同方法，直觀的理解為：

2、如果一個估計量是一致的，則隨著樣本容量的增加，該估計的分布會越來越緊密地分布在所估計的真實參數(shù)的周圍，當n趨于無窮時，其分布就緊縮成單一的點，即真實參數(shù)值。一致估計量允許我們通過增加樣本容量的途徑來對未知參數(shù)做出符合任意精度要求的估計。湖大商學院 chenqianliSampling Distributions as n b1n1n2n3n1 n2 n3湖大商學院 chenqianli5.1 一致性定理5.1：OLS的一致性在假定MLR.1-MLR.4下，OLS的估計量是參數(shù) 的一致估計量在簡單回歸模型中可容易推導出：多元回歸的推導涉及到大樣本理論，比較復雜。jbjb(0,1,)jk11lim

3、cov,/varjjpx uxbb湖大商學院 chenqianli5.1 一致性OLS估計量的不一致性：誤差項與任一自變量相關簡單回歸的漸近偏誤：二元回歸模型中遺漏變量的偏誤：11limcov,/ varjjpxuxbb 112 11121lim, cov,/varpx xxbbb 湖大商學院 chenqianli5.2 漸近正態(tài)和大樣本推斷為了對參數(shù)的假設進行檢驗，需要知道OLS估計量的抽樣分布。在經(jīng)典線性模型下，MLR.6是OLS估計量服從正態(tài)分布的關鍵，此假設要求誤差項u服從正態(tài)分布。如果此假設不成立，則常用的t統(tǒng)計量和F統(tǒng)計量不再具有原來的分布。如何檢驗MLR.6是否成立？此假設意味著

4、在自變量給定下y服從正態(tài)分布，這可以通過y的觀察值來檢驗，一些回歸方程中的因變量顯然不服從正態(tài)性，如被拘捕的次數(shù)，養(yǎng)老金的參與率等。在MLR.6不成立情況下，如何進行假設檢驗？這需要求助于大樣本理論的中心極限定理，即討論在樣本容量趨于無窮時，OLS估計量的漸近分布。湖大商學院 chenqianli定理5.2：OLS的漸近正態(tài)性 1 , 0Normal (iii) ofestimator consistent a is (ii)plim where, 0Normal (i)s,assumption Markov-Gauss Under the2221222ajjjijjjajjsernaanbb

5、bbb湖大商學院 chenqianli5.2 漸近正態(tài)和大樣本推斷以上定理的重要之處在于，它去掉正態(tài)性假設MLR.6，只要求誤差項具有有限方差。它指出，只要樣本足夠大，進行參數(shù)檢驗和構(gòu)造置信區(qū)間，都與經(jīng)典線性模型下的做法完全一樣。樣本容量要多大才能符合大樣本的要求？有些學者認為n=30就令人滿意，但這不可能對付u的所有可能的分布，樣本還是盡可能的大，這在社會科學基本能滿足。在大樣本下使用的統(tǒng)計量又稱漸近統(tǒng)計量。湖大商學院 chenqianli5.2 漸近正態(tài)和大樣本推斷大樣本下的其他檢驗：大樣本下對多元排除約束進行檢驗的方法還有：Wald檢驗、似然比檢驗和拉格朗日乘數(shù)檢驗。它們考慮的出發(fā)點不同

6、，但是漸近等價的。拉格朗日乘數(shù)檢驗：考慮多元回歸模型對最后q個變量是否排除的假設為：LM統(tǒng)計量只要求估計約束模型：011kkyxxubbb01:0kqkHbb011kqkqyxxubbb湖大商學院 chenqianli5.2 漸近正態(tài)和大樣本推斷在原假設成立下， 應該與樣本中這些變量都不相關，LM檢驗就是利用約束模型回歸后的殘差來對此進行檢驗，采用的輔助回歸：檢驗統(tǒng)計量：LM=具體步驟見書p177u 011kkuxxv22unRq湖大商學院 chenqianli5.3 OLS的漸近有效性 Asymptotic Efficiency Estimators besides OLS will be consistent However, under the Gauss-Markov assumptions, the OLS estimators will have the smallest asymptotic variances We say that OLS is