第三章 回歸分析預(yù)測法(經(jīng)濟(jì)預(yù)測與決策-蘭州大學(xué),劉書琪)

經(jīng)濟(jì)預(yù)測

與決策經(jīng)濟(jì)預(yù)測與決策第三章回歸分析預(yù)測法本章學(xué)習(xí)目的與要求

通過本章的學(xué)習(xí)，了解回歸分析預(yù)測法的概念；掌握回歸分析中各系數(shù)的計算方法及回歸預(yù)測方法。本章學(xué)習(xí)重點(diǎn)和難點(diǎn)重點(diǎn)是一元線性回歸預(yù)測法。難點(diǎn)是區(qū)間估計。本章內(nèi)容提示第一節(jié)回歸分析概述一、回歸的定義二、回歸模型的分類第二節(jié)一元線性回歸預(yù)測法一、一元線性回歸模型二、最小二乘估計三、擬合優(yōu)度的度量四、相關(guān)系數(shù)檢驗(yàn)法五、最小二乘估計式的標(biāo)準(zhǔn)誤差六、回歸預(yù)測第三章回歸分析預(yù)測法回歸分析預(yù)測法就是從各種經(jīng)濟(jì)現(xiàn)象之間的相互關(guān)系出發(fā)，通過對與預(yù)測對象有聯(lián)系的現(xiàn)象的變動趨勢的回歸分析，推算出預(yù)測對象未來狀態(tài)數(shù)量表現(xiàn)的一種預(yù)測方法。第一節(jié)回歸分析概述一、回歸的定義二、回歸模型的分類一、回歸的定義回歸是研究自變量與因變量之間的關(guān)系形式的分析方法，其目的在于根據(jù)已知自變量值來估計因變量的總體平均值。在研究某一社會經(jīng)濟(jì)現(xiàn)象的發(fā)展變化規(guī)律時，經(jīng)過分析可以找到影響這一現(xiàn)象變化的原因。在回歸分析中，把某一現(xiàn)象稱為因變量，它是預(yù)測的對象，把引起這一現(xiàn)象變化的因素稱為自變量，它是引起這一現(xiàn)象變化的原因。而因變量則反映了自變量變化的結(jié)果。回歸自變量與因變量之間的因果關(guān)系可以通過函數(shù)形式來表現(xiàn)，用數(shù)學(xué)模型來體現(xiàn)兩者之間的數(shù)量關(guān)系。自變量的值是確定的，而因變量的值是隨機(jī)的?；貧w函數(shù)中，確定的自變量值所對應(yīng)的是隨機(jī)的因變量值的總體平均值。二、回歸模型的分類1.按模型中自變量的多少，分為一元回歸模型和多元回歸模型。一元回歸模型是指只包含一個自變量的回歸模型；多元回歸模型是指包含兩個或兩個以上自變量的回歸模型。1.按模型中自變量的多少分為一元回歸模型和多元回歸模型。一元回歸模型是指只包含一個自變量的回歸模型；多元回歸模型是指包含兩個或兩個以上自變量的回歸模型。2.按模型中自變量與因變量之間是否線性分為線性回歸模型和非線性回歸模型。線性回歸模型是指自變量與因變量之間呈線性關(guān)系；非線性回歸模型是指自變量與因變量之間呈非線性關(guān)系。3.按模型中方程數(shù)目的多少分為單一方程模型和聯(lián)立方程模型。單一方程模型是指只包含一個方程的回歸模型；聯(lián)立方程模型是指包含兩個或兩個以上方程的回歸模型。單一方程的一元線性回歸分析是其它回歸分析的基礎(chǔ)，本章將主要介紹一元線性回歸預(yù)測法。第二節(jié)一元線性回歸預(yù)測法一元線性回歸預(yù)測法是根據(jù)一元線性回歸模型中單一自變量的變動來預(yù)測因變量平均發(fā)展趨勢的方法。一、一元線性回歸模型若用X代表自變量，Y代表因變量。則給定一個自變量的值Xi時，對于一元線性回歸模型就有一個因變量的總體平均值E(Yi)與它對應(yīng)，其函數(shù)關(guān)系可寫成E(Yi)=f(Xi)，它表明Y的總體平均值是隨著X的變化而變化的。該函數(shù)亦稱為總體回歸函數(shù)。一元線性回歸模型的基本形式為：E(Yi)=β0+

1Xi（3-1）

或Yi=E(Yi)+ui=β0+

1Xi+ui（3-2）

其中β0、

1是未知而固定的參數(shù)，稱為回歸系數(shù)，ui稱為隨機(jī)擾動項(xiàng)。在回歸分析中，我們要根據(jù)Y和X的觀測值來估計未知的β0和

1的值，進(jìn)而建立回歸模型?；貧w模型通常我們是通過Y和X的樣本觀測值建立樣本回歸函數(shù)來估計參數(shù)的。一元線性回歸樣本函數(shù)17頁(3-3)回歸模型對于樣本中每一個與Xi相對的觀測值Yi與由樣本回歸函數(shù)得到的估計值有一隨機(jī)偏差，這個偏差稱為樣本剩余，記為ei。

樣本回歸函數(shù)回歸模型回歸分析就是要根據(jù)樣本回歸函數(shù)來估計總體回歸函數(shù)。在這里需要解決的問題主要有兩個：其一是估計參數(shù);其二是“接近”的程度有多大。二、最小二乘估計建立樣本回歸函數(shù)的方法有許多，其中最流行的是最小二乘法（OLS）。1.最小二乘準(zhǔn)則2.最小二乘估計式1.最小二乘準(zhǔn)則．當(dāng)給定樣本X和Y的N對觀測值時，我們希望據(jù)此建立的樣本回歸函數(shù)值應(yīng)盡可能接近觀測值Yi，使其樣本剩余的平方和盡可能地小，即

ei2

min。這一準(zhǔn)則就是最小二乘準(zhǔn)則。圖3-1

Y

Yi.e....

0XiX

2.最小二乘估計式根據(jù)最小二乘準(zhǔn)則建立樣本回歸函數(shù)的過程為最小二乘估計，簡記OLS估計。由此得到的估計值得計算式稱為最小二乘估計式。雙變量線性回歸模型的最小二乘估計雙變量線性回歸模型的最小二乘估計由最小二乘準(zhǔn)則：

ei2

min有：雙變量線性回歸模型的最小二乘估計式雙變量線性回歸模型的最小二乘估計式最小二乘估計式三、擬合優(yōu)度的度量1．?dāng)M合優(yōu)度2．可決系數(shù)1．?dāng)M合優(yōu)度擬合優(yōu)度是指樣本回歸直線對觀測數(shù)據(jù)擬合的優(yōu)劣程度。如果全部觀測值都在回歸直線上，我們就獲得“完全的”擬合，但這是罕見的情況，通常都存在一些正ei或負(fù)ei。我們所希望的就是圍繞回歸直線的剩余盡可能的小。2．可決系數(shù)擬合優(yōu)度通常用可決系數(shù)來度量?？蓻Q系數(shù)是樣本回歸直線對數(shù)據(jù)擬合程度的綜合度量。在雙變量的情況下，通常用r2表示可決系數(shù)?？蓻Q系數(shù)可決系數(shù)的計算步驟如下：17頁r2=（TSS-RSS）/TSS=1-RSS/TSS可決系數(shù)r2稱為（樣本）可決系數(shù)，它是最常用的回歸直線擬合優(yōu)度的度量，表示由回歸模型作出解釋的變差在總變差中所占的比重?？蓻Q系數(shù)因?yàn)門SS=RSS+ESS，所以ESS=TSS-RSS，上式表明，若樣本剩余RSS越小，r2的值就越大，擬和優(yōu)度越好；反之，RSS越大，r2的值就越小，擬和優(yōu)度越差。r2具有以下兩個性質(zhì)：（1）r2是一個非負(fù)數(shù)。（2）r2的取值范圍是：0

r2

1。r2=1意味著完全擬合，r2=0意味著因變量與自變量之間沒有關(guān)系。r2還可以按以下推導(dǎo)出的公式求得：四、相關(guān)系數(shù)檢驗(yàn)法1.相關(guān)系數(shù)2.相關(guān)系數(shù)檢驗(yàn)法1.相關(guān)系數(shù)與可決系數(shù)密切有關(guān)而在概念上又有很大差異的量就是相關(guān)系數(shù)，它是兩個變量之間的相關(guān)程度的度量?？梢愿鶕?jù)下式計算：根據(jù)其定義計算：r具有以下性質(zhì)：（1）它可以是正值也可以是負(fù)值，其符號取決于上式中分子的符號。（2）它的取值范圍在-1和+1之間，即–1

r

+1。（3）它的性質(zhì)是對稱的，X與Y的相關(guān)系數(shù)rxy和Y與X的相關(guān)系數(shù)ryx是相同的，都是r。（4）它只是線性聯(lián)系或線性相關(guān)的度量，用來描述非線性關(guān)系是沒有意義的。2.相關(guān)系數(shù)檢驗(yàn)法建立一元線性回歸模型之后，若要考察兩個變量之間是否具有顯著的線性相關(guān)關(guān)系，就需要對模型進(jìn)行顯著性檢驗(yàn)。一元線性回歸模型常用的線性相關(guān)關(guān)系的顯著性檢驗(yàn)方法是相關(guān)系數(shù)檢驗(yàn)法。相關(guān)系數(shù)檢驗(yàn)法的步驟如下：（1）根據(jù)相關(guān)系數(shù)的計算公式計算相關(guān)系數(shù)r。（2）給定顯著性水平

，根據(jù)

和N-2的值，從相關(guān)系數(shù)臨界值表中查出相關(guān)系數(shù)臨界值r

，N-2。（3）比較與的值，若

r

r

，N-2，表明兩變量之間線性關(guān)系在顯著性水平

時相關(guān)關(guān)系顯著；否則

r

r

，N-2，表明兩變量之間線性關(guān)系在顯著性水