10多元線性回歸

多元線性回歸的根本思想是什么？多元線性回歸的模型與一元線性回歸有什么異同？與一元線性回歸相比，多元線性回歸的檢驗(yàn)有何特殊之處？多元線性回歸分析：研究因變量〔被解釋變量〕與兩個(gè)或兩個(gè)以上自變量〔解釋變量〕之間的回歸問(wèn)題，稱為多元回歸分析。多元線性回歸分析的定義線性回歸自變量個(gè)數(shù)大于等于2多元線性回歸10.1多元線性回歸模型假設(shè)因變量Ｙ與解釋變量Ｘ１，Ｘ２，ＸＫ……具有線性關(guān)系，它們之間的線性回歸模型可表示為〔其中b0,b1,…,bk為回歸系數(shù)，u為隨機(jī)擾動(dòng)項(xiàng)〕：多元線性回歸的根本理論10.1多元線性回歸模型將n個(gè)觀察數(shù)據(jù)代入上述模型，那么問(wèn)題轉(zhuǎn)化為：多元線性回歸的根本理論(10-1)10.1多元線性回歸模型多元線性回歸的根本理論寫(xiě)為矩陣形式：(10-2)10.1多元線性回歸模型多元線性回歸的根本理論即：(10-3)其中，Y,u是n維向量，b是k維向量，x是n×k矩陣10.1多元線性回歸模型多元線性回歸的根本理論根本假定：①②10.1多元線性回歸模型多元線性回歸的根本理論③④10.2參數(shù)的最小二乘估計(jì)采用最小二乘估計(jì)回歸系數(shù)b令：取最小值10.2參數(shù)的最小二乘估計(jì)Q在最小值處偏導(dǎo)數(shù)為0，得：〔10-4〕采用最小二乘估計(jì)回歸系數(shù)b10.2參數(shù)的最小二乘估計(jì)采用最小二乘估計(jì)回歸系數(shù)b〔10-5〕整理得：求解該聯(lián)立方程組即可得10.3回歸方程的顯著性檢驗(yàn)假設(shè)求得的回歸方程為：10.3.1總離差平方和分解10.3.1總離差平方和分解同一元回歸，可得：并且：〔10-6〕10.3.1總離差平方和分解總離差平方和：即是：回歸平方和：殘差平方和：10.3.2樣本決定系數(shù)對(duì)回歸方程“擬合優(yōu)度〞

的檢驗(yàn)樣本決定系數(shù)Ｒ２，又稱復(fù)決定系數(shù)，或多重決定系數(shù)。定義：樣本決定系數(shù)Ｒ２10.3.2樣本決定系數(shù)對(duì)回歸方程“擬合優(yōu)度〞

的檢驗(yàn)樣本容量增大(n↑)R2也隨之增大(R2↑)R2的大小很難說(shuō)明問(wèn)題Ｒ２存在的問(wèn)題10.3.2樣本決定系數(shù)對(duì)回歸方程“擬合優(yōu)度〞

的檢驗(yàn)R2的改進(jìn)當(dāng)n為小樣本，解釋變量數(shù)很大時(shí)，上式可能為負(fù)數(shù)，這時(shí)取其值為0。R2與均反映在給定樣本下，回歸方程與樣本觀測(cè)值擬合優(yōu)度，但不能據(jù)此進(jìn)行總體模型的推斷。Ｒ２改進(jìn)10.3.3回歸方程的顯著性檢驗(yàn)10.3.3回歸方程的顯著性檢驗(yàn)檢驗(yàn)的目的：檢驗(yàn)Y與解釋變量x1，x2，……xk之間的線性關(guān)系是否顯著。檢驗(yàn)的目的10.3.3回歸方程的顯著性檢驗(yàn)檢驗(yàn)的步驟第一步，提出假設(shè)：原假設(shè)：H0：b1=b2=……bk=0備擇假設(shè)：H1：bi不全為0〔i=1，２，…，k〕10.3.3回歸方程的顯著性檢驗(yàn)檢驗(yàn)的步驟第二步，計(jì)算統(tǒng)計(jì)量：或：〔10-8〕10.3.3回歸方程的顯著性檢驗(yàn)第三步，查表，得：檢驗(yàn)的步驟10.3.3回歸方程的顯著性檢驗(yàn)檢驗(yàn)的步驟第四步，做檢驗(yàn)：拒絕H0，回歸方程顯著接受H0，回歸方程不顯著檢驗(yàn)法那么10.4回歸系數(shù)的顯著性檢驗(yàn)回歸方程顯著，并不意味著每個(gè)解釋變量對(duì)因變量Y的影響都重要,因此需要進(jìn)行檢驗(yàn)：回歸系數(shù)檢驗(yàn)的必要性回歸方程顯著每個(gè)回歸系數(shù)都顯著10.4回歸系數(shù)的顯著性檢驗(yàn)回歸系數(shù)檢驗(yàn)的步驟第一步，提出假設(shè)：原假設(shè)：H0：bi=0(i=1，2，……k)備擇假設(shè)：H1：bi≠0(i=1，2，……k)10.4回歸系數(shù)的顯著性檢驗(yàn)回歸系數(shù)檢驗(yàn)的步驟第二步，構(gòu)造并計(jì)算統(tǒng)計(jì)量：10.4回歸系數(shù)的顯著性檢驗(yàn)回歸系數(shù)檢驗(yàn)的步驟第三步，查表得：10.4回歸系數(shù)的顯著性檢驗(yàn)回歸系數(shù)檢驗(yàn)的步