第二章 多元回歸分析.ppt

第三章多元線性回歸 3 1多元線性回歸模型3 2回歸方程的擬合優(yōu)度3 3顯著性檢驗3 4多重共線性3 5利用回歸方程進行估計和預測3 6虛擬自變量的回歸 3 1多元線性回歸模型 一 多元回歸模型與回歸方程二 估計的多元回歸方程三 參數(shù)的最小二乘估計 一 多元回歸模型與回歸方程 1 多元回歸模型 multipleregressionmodel 多元線性回歸模型誤差項 的基本假定 2 多元回歸方程 multipleregressionequation 多元線性回歸方程的直觀解釋 二 估計的多元回歸的方程 三 參數(shù)的最小二乘估計 續(xù) 根據(jù)微積分中求極值的原理 應是下列正規(guī)方程組的解 例3 1 一家大型商業(yè)銀行在多個地區(qū)設有分行 為弄清楚不良貸款形成的原因 抽取了該銀行所屬的25家分行2002年的有關業(yè)務數(shù)據(jù) 表2 1 試建立不良貸款 y 與貸款余額 x1 累計應收貸款 x2 貸款項目個數(shù) x3 和固定資產(chǎn)投資額 x4 的線性回歸方程 并解釋各回歸系數(shù)的含義 解 由Excel給出的多元回歸結(jié)果見表12 2 得不良貸款 y 與貸款余額 x1 累計應收貸款 x2 貸款項目個數(shù) x3 和固定資產(chǎn)投資額 x4 的線性回歸方程如下 表3 1 某商業(yè)銀行2002年的有關業(yè)務數(shù)據(jù) 用Excel進行回歸分析的步驟 表3 2 Excel輸出的回歸分析結(jié)果 3 2回歸方程的擬合優(yōu)度 一 多重判定系數(shù)二 估計標準誤差 一 多重判定系數(shù) multiplecoefficientofdetermination 續(xù) 修正多重判定系數(shù) adjustedmultiplecoefficientofdetermination 例 根據(jù)例12 1的數(shù)據(jù) 計算多重判定系數(shù) 解 根據(jù) 13 7 式 得 而根據(jù) 13 8 式 則 二 估計標準誤差 standarderrorofestimate 3 3顯著性檢驗 一 線性關系檢驗二 回歸系數(shù)檢驗和推斷 一 線性關系檢驗 方差分析表 前面的這些計算結(jié)果可以列成表格的形式 稱為方差分析表 方差分析表 根據(jù)例3 1建立的回歸方程 檢驗線性關系的顯著性 解 提出假設 例3 2 二 回歸系數(shù)檢驗和推斷 1 當回歸方程顯著時 僅表示中至少有一個不為0 即并不表示每一個自變量對因變量的影響一定都是顯著的 2 回歸系數(shù)的顯著性則是對每一個自變量都要檢驗 從而確定每一個自變量對因變量的影響是否顯著 3 采用t檢驗4 對于多元線性回歸 回歸系數(shù)的顯著性檢驗與回歸方程的顯著性檢驗是兩種不同的檢驗方法 回歸系數(shù)的顯著性檢驗步驟 續(xù) 例3 3 根據(jù)例3 1建立的回歸方程 檢驗每一個自變量對因變量的影響是否顯著 解 根據(jù)表3 2 得 回歸系數(shù)的置信區(qū)間 3 4多重共線性 一 多重共線性及其所產(chǎn)生的問題二 多重共線性的判別三 多重共線性問題的處理 一 多重共線性及其所產(chǎn)生的問題 1 當自變量之間線性相關時 稱自變量存在多重共線性 2 自變量存在多重共線性時 使的方差增大 從而使的取值變動大 甚至會出現(xiàn)反常值 1 當自變量之間線性相關時 稱自變量存在多重共線性 2 自變量存在多重共線性時 使的方差增大 從而使的取值變動大 甚至會出現(xiàn)反常值 二 多重共線性的判別 檢測多重共線性的最簡單的一種辦法是計算自變量之間的相關系數(shù)并進行顯著性檢驗 若有一個或多個相關系數(shù)顯著 則表明自變量之間線性相關 即存在著多重共線性 例3 4 根據(jù)例3 1的數(shù)據(jù) 檢驗自變量是否存在多重共線性 表3 3自變量之間的相關矩陣 表3 4 相關系數(shù)的t檢驗統(tǒng)計量 三 多重共線性問題的處理 剔除緊密相關且不重要的自變量 從而盡可能使自變量之間線性無關 例3 5 根據(jù)例3 1的數(shù)據(jù) 對多重共線性進行處理 解 由于最小 首先剔除 建立y與的回歸方程 又由于這時最小 且不顯著 從而再剔除 建立y與的回歸方程 這時 都是顯著 包含x1 x2和x4的回歸方程 表3 5 包含x1和x4的回歸方程 3 5利用回歸方程進行估計和預測 區(qū)間預測 對于自變量的一組取值根據(jù)樣本回歸方程給出或的一個估計區(qū)間 稱為置信區(qū)間 由于置信區(qū)間和預測區(qū)間的計算較復雜 這里我們直接給出結(jié)果 例3 6 根據(jù)例3 1的數(shù)據(jù) 貸款余額x1 100 累計應收貸款x2 10 貸款項目個數(shù)x3 15和固定資產(chǎn)投額x4 60 試給出不良貸款的0 95置信區(qū)間和預測區(qū)間 解 可以計算點估計為2 929 置信區(qū)間 2 04 3 80 置信區(qū)間 0 88 6 72 3 6虛擬自變量的回歸 一 含有一個虛擬自變量的回歸二 用虛擬自變量回歸解決方差分析問題 一 含有一個虛擬自變量的回歸 如果一個定性的自變量只劃分為兩個類別 并分別用0和1表示 這種定性變量稱為虛擬自變量 回歸模型中使用虛擬自變量時 稱為虛擬自變量的回歸 當一個定性的自變量劃分為k 2 個類別時 則可轉(zhuǎn)化為k個虛擬自變量 但只能引進k 1個虛擬自變量 例3 7 為研究考試成績與性別之間的關系 從某大學商學院隨機抽取男女學生各8名 得到他們的市場營銷學課程的考試成績列于表3 8 試建立考試成績與性別的線性回歸方程 解 學生性別是一個定性變量 分別用0和1表示男性和女性 即 由Excel給出的結(jié)果如表2 9所示 男性 女性 表3 8 16名學生的市場營銷學課程考試成績 用Excel進行虛擬自變量的回歸分析的步驟 表3 9 Excel給出的回歸分析結(jié)果 例3 8 為研究工資水平與工作年限和性別之間的關系 在某行業(yè)隨機抽取10名職工 所得數(shù)據(jù)如下 表3 1010名職工的工資水平 工作年限和性別的數(shù)據(jù) 表3 11 月工資收入 y 與工作年限 x1 的回歸結(jié)果 續(xù) 首先 考慮只有數(shù)值型自變量 工作年限 的一元回歸 由Excel給出的回歸結(jié)果如表3 11所示 回歸方程顯著 R2 0 5342 再引進虛擬自變量 性別 即 男性 女性 得包含虛擬自變量的數(shù)據(jù)表3 12如下 表3 12 10名職工的工資水平 工作年限和性別的數(shù)據(jù) 續(xù) 表3 13 月工資收入 y 與工作年限 性別的回歸結(jié)果 作業(yè)與思考 1 對