一元線性回歸模型的參數(shù)檢驗(yàn)

一元線性回歸模型的參數(shù)檢驗(yàn)第1頁，共17頁，2023年，2月20日，星期日模型性質(zhì)總體回歸模型樣本回歸模型回歸對(duì)象總體回歸函數(shù)回歸對(duì)象是總體數(shù)據(jù)樣本回歸函數(shù)回歸對(duì)象是樣本數(shù)據(jù)參數(shù)估計(jì)的內(nèi)涵總體回歸函數(shù)的內(nèi)涵是總體中解釋與被解釋變量之間的結(jié)構(gòu)關(guān)系樣本回歸函數(shù)的內(nèi)涵是樣本中解釋與被解釋變量之間的結(jié)構(gòu)關(guān)系計(jì)算方法與估計(jì)特點(diǎn)總體回歸模型是用求條件期望E(Y|X)方法求出參數(shù)估計(jì)值，參數(shù)估計(jì)值是不變的。樣本回歸模型是用最小二乘方法求出參數(shù)估計(jì)值，參數(shù)估計(jì)值是隨樣本變化而變化的。兩者之間的內(nèi)在聯(lián)系樣本回歸模型是總體回歸函數(shù)的估計(jì)。有確定形式和隨機(jī)形式?？傮w回歸模型是反映社會(huì)經(jīng)濟(jì)現(xiàn)象的內(nèi)在規(guī)律，通常是未知的，樣本回歸函數(shù)反映的正是總體回歸函數(shù)。有確定形式和隨機(jī)形式兩者形式。第2頁，共17頁，2023年，2月20日，星期日紅線表示總體回歸函數(shù)，黑線表示樣本回歸函數(shù)第3頁，共17頁，2023年，2月20日，星期日一元線性回歸模型的估計(jì)：最小二乘估計(jì)1、最小二乘估計(jì)的思想：樣本回歸線上的點(diǎn)與真實(shí)觀測(cè)值的總體誤差為最小，即樣本點(diǎn)到回歸直線的距離平方和為最小。2、記住正規(guī)方程組

3、一元線性回歸模型最小二乘估計(jì)的性質(zhì)：線性性、無偏性和有效性第4頁，共17頁，2023年，2月20日，星期日一元線性回歸模型的檢驗(yàn)一、假設(shè)檢驗(yàn)的回顧假設(shè)檢驗(yàn)是根據(jù)研究的需要，對(duì)社會(huì)經(jīng)濟(jì)現(xiàn)象提出一個(gè)參數(shù)假設(shè)，然后利用樣本數(shù)據(jù)構(gòu)造統(tǒng)計(jì)量，判斷這個(gè)假設(shè)是否成立的統(tǒng)計(jì)過程。例如：某企業(yè)的人力資源部門估計(jì)該企業(yè)80%的員工是有潛力可挖的，為了檢驗(yàn)這一說法是否可靠，隨機(jī)抽取150名員工，經(jīng)過嚴(yán)格的考評(píng)，結(jié)果顯示70%的員工存在不同程度的潛力，問當(dāng)時(shí)，“80%的員工尚存在潛力”是否成立。

第5頁，共17頁，2023年，2月20日，星期日問題的分析該企業(yè)人力資源部門根據(jù)自身管理的需要提出了一個(gè)假設(shè)“80%的員工存在可挖的潛力”，我們把這個(gè)假設(shè)稱為原假設(shè)，計(jì)為，它的對(duì)立面“沒有80%的員工存在可挖的潛力”稱為原假設(shè)的備擇假設(shè)，計(jì)為，，稱為顯著水平?，F(xiàn)在我們來檢驗(yàn)原假設(shè)對(duì)不對(duì)。解：構(gòu)造并計(jì)算檢驗(yàn)統(tǒng)計(jì)量，得：

第6頁，共17頁，2023年，2月20日，星期日問題分析上式中z是服從標(biāo)準(zhǔn)正態(tài)分布的，其分布密度函數(shù)圖像是第7頁，共17頁，2023年，2月20日，星期日Z=-3.0581,在原假設(shè)成立下，z服從標(biāo)準(zhǔn)正態(tài)分布，或的概率是0.05是小概率事件，根據(jù)小概率事件在一次試驗(yàn)不發(fā)生的原理，事件不應(yīng)該發(fā)生，現(xiàn)在發(fā)生了，故認(rèn)為原假設(shè)不成立，因此我們拒絕原假設(shè)故認(rèn)為“80%的員工尚存在潛力”的說法不成立。在上述檢驗(yàn)中，稱為拒絕域，由于拒絕域在密度函數(shù)的兩側(cè)，故稱上述檢驗(yàn)為雙側(cè)檢驗(yàn)。同樣，若拒絕域在一邊，這樣的檢驗(yàn)稱為單側(cè)檢驗(yàn)。第8頁，共17頁，2023年，2月20日，星期日二、擬合優(yōu)度檢驗(yàn)在上一節(jié)課中，講了例2.1.1，得到樣本回歸函數(shù)是，表示居住這個(gè)社區(qū)的人，收入每增加一元錢，其消費(fèi)將平均增加0.777元。但是現(xiàn)在這個(gè)模型還不能用，需要進(jìn)行檢驗(yàn)。對(duì)回歸模型的檢驗(yàn)主要有兩個(gè)方面的檢驗(yàn)：擬合優(yōu)度檢驗(yàn)和回歸系數(shù)檢驗(yàn)。擬合優(yōu)度檢驗(yàn)是檢驗(yàn)?zāi)Ｐ涂傮w上擬合的好壞。檢驗(yàn)方法：（1）可決系數(shù)法（2）F檢驗(yàn)首先定義總平方和SST

（1）

第9頁，共17頁，2023年，2月20日，星期日總平方和表示樣本數(shù)據(jù)離它的重心的距離平方和，代表著樣本全體信息，（1）表示樣本信息可以分解為兩個(gè)部分：回歸平方和與殘差平方和。稱為殘差平方和，計(jì)作SSE而稱為回歸平方和，計(jì)作SSR?；貧w平方和表示用回歸函數(shù)值代替樣本值后，距離樣本重心的距離平方和，該值愈大表明回歸效果愈好，反之，有相反的結(jié)論。殘差平方和表示回歸值與樣本真實(shí)值之間差的平方和，該值愈小，表明回歸效果愈好，反之，有相反的結(jié)論成立。根據(jù)上述，定義可決系數(shù)如下：

通常大于0且小于1，可決系數(shù)越大，表明回歸方程總體上擬合的越好，反之，有相反的結(jié)論。通常，認(rèn)為模型總體上擬合得較好。第10頁，共17頁，2023年，2月20日，星期日F檢驗(yàn)對(duì)于回歸方程擬合優(yōu)度檢驗(yàn)，除了用判決系數(shù)外，還可以用F檢驗(yàn)方法來檢驗(yàn)?zāi)Ｐ蛿M合得好不好，檢驗(yàn)的方法和步驟是：：Y與X沒有線性關(guān)系Y與X有線性關(guān)系構(gòu)造檢驗(yàn)統(tǒng)計(jì)量第11頁，共17頁，2023年，2月20日，星期日在原假設(shè)成立時(shí)，F(xiàn)統(tǒng)計(jì)量服從第一自由度是1，第二自由度是n-2的F分布，這時(shí)，的概率是（通常是0.05）是小概率事件，根據(jù)假設(shè)檢驗(yàn)原理，應(yīng)該拒絕原假設(shè)，接受備擇假設(shè)，即認(rèn)為Y與X之間存在線性關(guān)系。也就是回歸方程成立。（如圖所示）第12頁，共17頁，2023年，2月20日，星期日例2.1.1講解從例2.1.1知，F(xiàn)=28559.235大于顯著性水平為0.05時(shí)的F統(tǒng)計(jì)量的值3.94。故我們拒絕原假設(shè)，認(rèn)為Y與X之間有線性關(guān)系成立。即回歸方程顯著。第13頁，共17頁，2023年，2月20日，星期日三、變量顯著性檢驗(yàn)在回歸分析中，我們不但要對(duì)模型總體顯著性檢驗(yàn)（擬合優(yōu)度檢驗(yàn)），還要對(duì)模型的回歸系數(shù)進(jìn)行檢驗(yàn)，對(duì)于一元線性回歸分析模型來說，其檢驗(yàn)的原假設(shè)和備擇假設(shè)分別是構(gòu)造的檢驗(yàn)統(tǒng)計(jì)量是

第14頁，共17頁，2023年，2月20日，星期日

在原假設(shè)成立的條件下，t統(tǒng)計(jì)量服從自由度為n-2的t分布，當(dāng)時(shí)，拒絕原假設(shè)，認(rèn)為備擇假設(shè)成立，即檢驗(yàn)情況如下圖所示。第15頁，共17頁，2023年，2月20日，星期日例2.1.1講解在例2.1.1中,的t統(tǒng)計(jì)量值是53.471大于臨界值1.98。故拒絕原假設(shè)，接受備擇假設(shè)，認(rèn)為回歸系數(shù)顯著，即注：在一元線性回歸分析中，回歸系數(shù)檢驗(yàn)與回歸方程檢驗(yàn)是等價(jià)的，即回歸方程顯著，在同一顯著性水平下，回歸系數(shù)也顯著，反之，有相同的結(jié)論成立。第16頁，共17頁，2023年，2月20日，星期日DependentVariable:Y Method:LeastSquares Date:09/28/10Time:11:08 Sample:131 Includedobservations:31 VariableCoefficientStd.Errort-Statistic Prob.C -47.03933 525.7858 -0.089465 0.9293 X 1.347320 0.059841 22.51500 0.0000 R-squared 0.945888Meandependentvar 11363.69AdjustedR-squared0.944022S.D.dependentvar 3294.469 S.E.ofregression 779.4603 Akaikeinfocriterion16.21742