多元回歸及復(fù)相關(guān)分析

1、第十一章 多元回歸及復(fù)相關(guān)分析（Multiple linear regression and multiple correlation analysis)11.1 多元線性回歸方程（）11.2 復(fù)相關(guān)分析（ multiple correlation analysis）11.3 逐步回歸分析 (stepwise regression analysis)本章主要內(nèi)容11.1 多元線性回歸方程觀測(cè)次數(shù)Y 1 2 p n1.多元線性回歸模型基本形式為：第p個(gè)樣本的觀察值滿足：其中 相互獨(dú)立且服從正態(tài)分布2.基本假設(shè)（1）因變量y是服從正態(tài)分布的連續(xù)型隨機(jī)變量。（2）k個(gè)自變量是固定變量。（3）k個(gè)自變

2、量之間不存在多重共線性。（4）k個(gè)自變量與殘差獨(dú)立。（5）（6）（7）3. 參數(shù)估計(jì) 若已給出樣本觀察值 , i=1,2,.,n.我們希望對(duì)參數(shù) 及2作出估計(jì).根據(jù)微積分的理論知道,這只需求解下列方程組:由方程組中（1）得：將上式代入（2），（3），（p）中，得：在正規(guī)方程中解出 得到多元回歸方程：其中， 為常數(shù)項(xiàng)； 稱為偏回歸系數(shù)。（partial regression coefficient） 所以正規(guī)方程用矩陣形式表示即為:為了求2的估計(jì),先給出幾個(gè)名詞補(bǔ)充：隨機(jī)向量的特征函數(shù)和矩陣的跡的性質(zhì)4. 假設(shè)檢驗(yàn) 對(duì)多元線性回歸模型,除了參數(shù)估計(jì)問(wèn)題外,還有些假設(shè)檢驗(yàn)問(wèn)題: 之間的差異一般由兩

3、個(gè)原因引起: 一是當(dāng)y與 之間確有線性關(guān)系時(shí),由于 取值不同,而引起yi取值的不同; 另一個(gè)是除去y與 之間線性關(guān)系以外的一切因素引起的,包括 對(duì)y的非線性影響及其它一切未加控制的隨機(jī)因素. 通常用總的偏差平方和來(lái)衡量 波動(dòng)的大小: 解:首先進(jìn)行數(shù)據(jù)整理得5.偏回歸系數(shù)的顯著性檢驗(yàn)設(shè)其中（1）t 檢驗(yàn)（2）F 檢驗(yàn)（3）偏回歸平方和若存在不顯著變量，則從方程中剔除變量其中偏回歸平方和檢驗(yàn)偏回歸平方和的顯著性11.2復(fù)相關(guān)分析1.復(fù)相關(guān)系數(shù)2.偏相關(guān)系數(shù)（1）利用矩陣求相關(guān)系數(shù)其中 為相關(guān)系數(shù)矩陣 的逆矩陣 中的元素。（2）利用公式求相關(guān)系數(shù)11.3逐步回歸分析逐步回歸的思想 在所考慮的全部因素中，按對(duì)Y作用的顯著程度，由大到小逐個(gè)引入到回歸方程中。在已引入回歸的變量中，找出偏回歸平方和最小的一個(gè)，在給定F水平下做顯著性檢驗(yàn)，以決定是否從方程中剔除。再剔除了所有不顯著變量之后，從那些不在回歸方程的變量中，選擇再引入回歸方程后，使回歸平方和增加最多的那個(gè)變量，并在給定的F水平下做檢驗(yàn)，若顯著則引入回歸方程中。引入之后，在對(duì)回歸方程做檢驗(yàn)，并剔除方程中不顯著的因素。如此進(jìn)行，直到方程中的全部變量均不能剔除，有沒(méi)有新的變量引入為止。多元線性回歸在醫(yī)學(xué)上的應(yīng)用1.確定多個(gè)指標(biāo)變量與一個(gè)反應(yīng)變量之間的線性關(guān)系。2.篩選疾病的危險(xiǎn)因素和有利于健康的