復回歸分析之假設(shè)課件

1、第14章 迴歸分析與複迴歸分析1.使用迴歸分析的時機2.最小平方法在迴歸分析上的意義3.迴歸分析的假設(shè)4.各種R與偏判定5.報表的分析與管理上的意涵6.逐步迴歸 本章的學習主題 1企業(yè)研究方法 第14 章*一般來說，我們利用迴歸分析是想瞭解：1.能否找出一個線性方程式，用來說明一組預測變數(shù)( Xi )與效標變數(shù)( Y )的關(guān)係。2.瞭解這個方程式的預測能力如何？即其關(guān)係強度有多大。3.整體關(guān)係是否達到顯著水準？4.在解釋效標變數(shù)的變異時，是否只採用某些預測變數(shù)即具有足夠的預測力。14.1 迴歸分析的基本統(tǒng)計概念2企業(yè)研究方法 第14 章*一般而言，迴歸模式的型態(tài)為：Y= + 1X1 + 2X2

2、 + .+ mXm + 其中，與為迴歸母數(shù)(j1, 2, , m)，為誤差項。而在迴歸分析中，如果預測變數(shù)(Xi)只有一個，則稱之為簡單迴歸分析。如果預測變數(shù)有二個以上，則稱為多元迴歸或複迴歸分析。Y = a + b1X1.(簡單迴歸)Y = a + b1X1 +b2X2+bmXm (複迴歸)14.2 簡單迴歸與複迴歸3企業(yè)研究方法 第14 章*14.3 迴歸分析的基本假定1. 常態(tài)性與變異同質(zhì)性(normality and equality of variance)2. 殘差獨立性(independence) 每個殘差彼此之間是統(tǒng)計獨立的，觀察值之間彼此不會互相影響，若違反此假設(shè)，估計量會缺

3、乏效率性。4企業(yè)研究方法 第14 章*14.3 迴歸分析的基本假定3. 直線性(linearity) 即所有抽樣樣本分配的平均數(shù) (Y/X) 均落在母群迴歸線上 4. eiN 0 ,1 誤差其分配服從平均數(shù)為0，變異數(shù)為1的常態(tài)分配，且各誤差項間彼此獨立 5企業(yè)研究方法 第14 章*14.3 迴歸分析的基本假定 迴歸方程式滿足迴歸的基本假設(shè)，則此迴歸方程式具有線性特性，並稱為線性迴歸。 圖 14 - 1 線性迴歸模型6企業(yè)研究方法 第14 章*14.4 最小平方法求取最適合迴歸線的方法即為最小平方法，而最小平方法即是使各點至此線之平行於軸的距離的平方和變?yōu)樽钚〉那蠼夥椒?，即：或7企業(yè)研究方法

4、 第14 章*根據(jù)現(xiàn)有的資料建立一個迴歸模式時，必須檢定此模式與資料的符合程度，稱為適合度 (goodness of fit)。檢定適合度最常用的量數(shù)是 R (R- square)，或稱判定係數(shù) (coefficient of determination)。14. 5 迴歸模式之適合度及判定係數(shù)8企業(yè)研究方法 第14 章*樣本的 R 是估計模式適合度的一個最佳估計值，但卻非母群 R 的不偏估計值。因此要估計母群的R時，須加以調(diào)整。因此應(yīng)改用修正後的 R (Adj-R) 會比較正確。14. 5 迴歸模式之適合度及判定係數(shù)9企業(yè)研究方法 第14 章*14.6 偏判定上式檢定，分子代表模型加入變數(shù)後

5、，解釋能力提高的部份，而分母則代表加入變數(shù)後，仍無法解釋的部份。若值顯著則代表變數(shù)確實有明顯的解釋效果，可加入迴歸模型中。10企業(yè)研究方法 第14 章*14.7 共線性若迴歸式Y(jié)=a+b1X1+b2X2+bmXm，則其共線性是指當某一個自變數(shù)與其他的自變數(shù)之具有高度相關(guān)(例如 X1 與 X2)。共線性分析可讓我們檢查共線性資料是否存在並評估共線性是否影響參數(shù)的建立。11企業(yè)研究方法 第14 章*14.7 共線性共線性的後果：(1) 即使變數(shù)不斷的增加，判定係數(shù)大小還是難以增加。(2) 難以分辨?zhèn)€別解釋變數(shù)的解釋能力。(3) 以最小平方法(OLS)求出的估計量雖仍是最佳線性不 偏估計量(BLUE

6、)，但估計數(shù)的變異變大(VIF增加)， 會使得估計不準。(4) 由於變數(shù)間之相關(guān)性，迴歸係數(shù)符號有時會錯誤。12企業(yè)研究方法 第14 章*14.7 共線性2.共線程度的判斷： (1) 看相關(guān)係數(shù)矩陣，若相關(guān)係數(shù)大於0.9，此兩個變數(shù)便有 共線性的嫌疑。(2) 允差(Tolerance value)：把單一解釋變數(shù)當被解釋變 數(shù)，把其他解釋變數(shù)當做依變數(shù)進行迴歸，允差值越 小，代表越有共線性的可能，一般最低要求為允差必須 大於0.5。 (3) VIF (variance inflation factor)：允差的倒數(shù)，即 VIF=1/允差，因此若VIF大於2代表有共線性的可能，一 般要求VIF要

7、小於2。 13企業(yè)研究方法 第14 章*14.7 共線性3.共線性之解決方法： (1) 刪去有共線性可能的解釋變數(shù)，進行迴歸分析。(2) 就整體模式，將模式直接引用作為預測值計算 之用，而不要去解釋個別變數(shù)之迴歸係數(shù)。(3) 直接探討每個解釋變數(shù)與被解釋變數(shù)之間的相 關(guān)係數(shù)，而不做整體模式之解釋。 14企業(yè)研究方法 第14 章*14.8 迴歸的殘差分析在 Y= + Xi + i 式中，i稱為誤差(殘差)，而誤差項間彼此是否獨立不僅影響了迴歸的基本假設(shè)，也影響了迴歸式的好壞。為了鑑定誤差項是否獨立，可計算杜賓瓦特森統(tǒng)計值(簡稱DW值)，或者觀察誤差值的分佈型態(tài)，或檢查誤差值的正負符號。實務(wù)上，值

8、如果介於1.5到2.5之間，即表示誤差項之間並無自我相關(guān)現(xiàn)象存在。15企業(yè)研究方法 第14 章*與X呈隨機分佈，表示迴歸模式與其基本假設(shè)並無明顯的違背。迴歸方程式非線性，即Y不存在，此時我們可用取、或補救。圖 14-2 迴歸殘差分析14.8 迴歸的殘差分析+0+016企業(yè)研究方法 第14 章*非獨立，與有關(guān)。變異數(shù)非齊一。14.8 迴歸的殘差分析圖 14-2 迴歸殘差分析+0+017企業(yè)研究方法 第14 章* 14.9 迴歸模式的調(diào)整圖中虛線代表一般無偏誤的觀察值，而實線則代表偏誤值。虛線部份代表實際上應(yīng)產(chǎn)生的迴歸線，但因偏誤值的原因，而產(chǎn)生實線部份斜率改變的錯誤結(jié)果。 若偏誤值的數(shù)值太大，更

9、有可能產(chǎn)生如左圖般整條迴歸線完全被扭曲的不良情形。圖12-4 極端偏誤值影響模型之預測xyy圖 14-3 極端偏誤值影響模型之探討18企業(yè)研究方法 第14 章*14.10 複迴歸分析之決定過程 步驟一：複迴歸分析之目的(1)最大化解釋變數(shù)的預測能力。(2)比較兩組以上解釋變數(shù)的預測能力。 步驟二：複迴歸分析之研究設(shè)計(1) 檢定力與樣本大小 (2) 解釋變數(shù)的固定與隨機效果 (3) 創(chuàng)造額外的變數(shù) 19企業(yè)研究方法 第14 章*14.10 複迴歸分析之決定過程 步驟三：複迴歸分析之假設(shè)在進行複迴歸分析時，最基本的假設(shè)包括(1)常態(tài)性與變異同質(zhì)性，(2)殘差獨立性，(3)直線性。步驟四：估計迴歸

10、模式與評量模式適合度在推估迴歸模式時，首先要檢視迴歸變量是否符合迴歸假設(shè) 20企業(yè)研究方法 第14 章*14.10 複迴歸分析之決定過程 步驟五：解釋迴歸變量迴歸變量之解釋通常利用Beta係數(shù)來解釋，一般 是將解釋變數(shù)在估計之前先做標準化的動作，以避 免每個變數(shù)使用不同衡量單位的問題。 步驟六：結(jié)果的確認在利用迴歸模型進行預測時，誤差除了原本樣本的 誤差外，抽樣誤差也可能影響模型之解釋力。 21企業(yè)研究方法 第14 章*14.10 複迴歸分析之決定過程 在多元迴歸中，我們必須決定預測變數(shù)進入迴歸模型之順序，通常有以下幾種方法可供選擇： (1) 強迫進入法(enter) (2) 強迫去除法(re

11、move) (3) 順向選擇法(forward) (4) 反向淘汰法(backward) (5) 逐步選擇法(stepwise)22企業(yè)研究方法 第14 章*14.10 複迴歸分析之決定過程 1.用順向選擇法時，第一個進入迴歸方程式的變數(shù)是與依變數(shù)有最大相關(guān)的變數(shù)，第一個變數(shù)進入模型之後，再以判定係數(shù)值 (F) 檢查第二個變數(shù)該誰進入，依此類推，直到?jīng)]有其他的變數(shù)符合選取的標準為止。2.用反向淘汰法時，先將所有的變數(shù)放入迴歸方程式中，然後根據(jù)淘汰標準一一將不符合標準的變數(shù)加以淘汰。23企業(yè)研究方法 第14 章*14.11 選擇預測變數(shù)的程序3.逐步選擇法是結(jié)合順向選擇法與反向淘汰法二種程序。首

12、先採用順向選擇法，選進與依變數(shù)有最大相關(guān)的變數(shù)，接下來以反向淘汰法檢查此變數(shù)是否須加以排除。為了避免相同的變數(shù)重複地被選進或排除，選進的標準必須小於淘汰的標準，或者我們可以說選進變數(shù)的值大於淘汰變數(shù)的值。24企業(yè)研究方法 第14 章*圖 14 - 4 選擇預測變數(shù)之進入程序X5X3Y在單純使用X3變數(shù)來解釋Y時，因為不能完全解釋，因此我們加入X5變數(shù)來增加模型的解釋效果。但因為X3與X5有重複解釋的部份，因此我們得先確定兩個變數(shù)的效果，來決定由何變數(shù)先進入模型。 25企業(yè)研究方法 第14 章*14.12 迴歸模型範例（簡單迴歸）Y（組織知識管理績效 ）1.481 0.680 顧客資本模式未標準化係數(shù)B 之估計值標準誤標準化係數(shù)Beta 分配t顯著性(常數(shù))1.4810.2635.6270.000顧客資本IC_CF0.6800.0510.64913.4280.000R0.649R20.421Adj- R20.419F180.311D-W2.06326企業(yè)研究方法 第14 章*14.12 迴歸模型範例（複迴歸）Y0.9680.155顧客資本+0.605人力資本0.026結(jié)構(gòu)資本(1) 0.091結(jié)構(gòu)資本(2)依變數(shù)=知識管理績效未標準化係數(shù)之B之估計值標準化係數(shù)之Beta 分配t顯著性(常數(shù))0.9684.522