第15-17章 多因素分析(統(tǒng)計(jì)學(xué))

1、.,1,多因素分析,溫州醫(yī)學(xué)院環(huán)境與公共衛(wèi)生學(xué)院 葉曉蕾,.,2,概念 多因素分析是同時(shí)對(duì)觀(guān)察對(duì)象的兩個(gè)或兩個(gè)以上的變量進(jìn)行分析。 常用的統(tǒng)計(jì)分析方法有： 多元線(xiàn)性回歸、Logistic回歸、COX比例風(fēng)險(xiǎn)回歸模型、因子分析、主成分分析，等。,.,3,多變量資料數(shù)據(jù)格式,Y為定量變量Linear Regression Y為二項(xiàng)分類(lèi)變量Binary Logistic Regression Y為多項(xiàng)分類(lèi)變量Multinomial Logistic Regression Y為有序分類(lèi)變量Ordinal Logistic Regression Y為生存時(shí)間與生存結(jié)局Cox Regression,.,4

2、,Y，X直線(xiàn)回歸 Y，X1，X2，Xm多元回歸（多重回歸）,第十五章 多元線(xiàn)性回歸 (multiple linear regressoin) P.261,例：欲研究血壓受年齡、性別、體重、性格、職業(yè)（體力勞動(dòng)或腦力勞動(dòng)）、飲食、吸煙、血脂水平等因素的影響。,.,5,0為回歸方程的常數(shù)項(xiàng)（constant)，表示各自變量均為0時(shí)y的平均值； m為自變量的個(gè)數(shù)； 1、2、m為偏回歸系數(shù)（Partial regression coefficient） 意義：如1 表示在X2、X3 Xm固定條件下，X1 每增減一個(gè)單位對(duì)Y 的效應(yīng)（Y 增減個(gè)單位）。 e為去除m個(gè)自變量對(duì)Y影響后的隨機(jī)誤差，稱(chēng)殘差（r

3、esidual)。,多元回歸方程的一般形式,一、多元回歸模型,.,6,為y的估計(jì)值或預(yù)測(cè)值（predicted value)； b0為回歸方程的常數(shù)項(xiàng)（constant)，表示各自變量均為0時(shí)y的估計(jì)值；,由樣本估計(jì)而得的多元回歸方程：,b1、b2、bm為偏回歸系數(shù)（Partial regression coefficient） 意義：如 b1 表示在X2、X3 Xm固定條件下，X1 每增減一個(gè)單位對(duì)Y 的效應(yīng)（Y 增減 b 個(gè)單位）。,.,7,適用條件：,線(xiàn)性（linear）、獨(dú)立性（independent）、正態(tài)性（normal）、等方差（equal variance）“LINE”。 線(xiàn)性

4、自變量與應(yīng)變量的關(guān)系是線(xiàn)性的。用散點(diǎn)圖判斷。 獨(dú)立性任意兩個(gè)觀(guān)察值互相獨(dú)立。常利用專(zhuān)業(yè)知識(shí)判斷。 正態(tài)性就自變量的任何一個(gè)線(xiàn)性組合，應(yīng)變量y均服從正態(tài)分布。即要求殘差服從正態(tài)分布。常用殘差圖分析。 等方差就自變量的任何一個(gè)線(xiàn)性組合，應(yīng)變量y的方差均相同。即要求殘差的方差齊性。用散點(diǎn)圖或殘差圖判斷。,.,8,.,9,（1）因素篩選：（因素分析） 例如影響高血壓的諸多因素中： 1）哪些是主要因素？ 2）各因素的作用大??？ （2）提高回歸方程的估計(jì)精度 多元回歸比只有一個(gè)自變量的簡(jiǎn)單直線(xiàn)回歸更能縮小應(yīng)變量Y對(duì)其估計(jì)值的離差，在預(yù)測(cè)和統(tǒng)計(jì)控制方面應(yīng)用的效果更好。 （3）控制混雜因素,多元線(xiàn)性回歸除具有

5、直線(xiàn)回歸的基本性質(zhì)外，還具有以下特點(diǎn)（用途）：,.,10,（1）用各變量的數(shù)據(jù)建立回歸方程 （2）對(duì)總的方程進(jìn)行假設(shè)檢驗(yàn) （3）當(dāng)總的方程有顯著性意義時(shí)，應(yīng)對(duì)每個(gè)自變量的偏回歸系數(shù)再進(jìn)行假設(shè)檢驗(yàn)，若某個(gè)自變量的偏回歸系數(shù)無(wú)顯著性，則應(yīng)把該變量剔除，重新建立不包含該變量的多元回歸方程。,二、多元回歸分析步驟,對(duì)新建立的多元回歸方程及偏回歸系數(shù)按上述程序進(jìn)行檢驗(yàn)，直到余下的偏回歸系數(shù)都具有統(tǒng)計(jì)意義為止。最后得到最優(yōu)方程。,.,11,例15-1（P.262） 27名糖尿病人的血清總膽固醇、甘油三脂、空腹胰島素、糖化血紅蛋白、空腹血糖的測(cè)量值列于表15-2中，試建立血糖與其它幾項(xiàng)指標(biāo)關(guān)系的多元線(xiàn)性回歸

6、方程。,.,12,由上表得到如下多元線(xiàn)性回歸方程：,1、建立回歸方程,.,13,2、回歸方程的假設(shè)檢驗(yàn)F檢驗(yàn),結(jié)果無(wú)顯著性 1）表明所觀(guān)察的自變量與應(yīng)變量不存在線(xiàn)性回歸關(guān)系； 2）也可能由于樣本例數(shù)過(guò)少； 結(jié)果有顯著性 表明至少有一個(gè)自變量與應(yīng)變量之間存在線(xiàn)性回歸關(guān)系。,H0：1=2=m= 0 H1：1、2、m不等于0或不全等于0,.,14,.,15,3、各個(gè)偏回歸系數(shù)的假設(shè)檢驗(yàn)t檢驗(yàn),將總膽固醇(X1) 剔除。 注意：通常每次只剔除關(guān)系最弱的一個(gè)因素。 對(duì)于同一資料，不同自變量的t值可以相互比較，t的絕對(duì)值越大，或P越小，說(shuō)明該自變量對(duì)Y所起的作用越大。,.,16,重新建立不包含提出因素的回

7、歸方程,注意：表中偏回歸系數(shù)已變化。,.,17,對(duì)新建立的回歸方程進(jìn)行檢驗(yàn),檢驗(yàn)結(jié)果有顯著性意義。,.,18,對(duì)新方程的偏回歸系數(shù)進(jìn)行檢驗(yàn),檢驗(yàn)結(jié)果均有意義，因此回歸方程保留甘油三酯(X2)、胰島素(X3)和糖化血紅蛋白(X4)三個(gè)因素。 最后獲得回歸方程為：,.,19,1、確定系數(shù)（R2）：,意義：在y的總變異中，由x變量組建立的線(xiàn)性回歸方程所能解釋的比例。 01，越大越優(yōu)。 特點(diǎn)：R2是隨自變量的增加而增大。 因此，在相近的情況下，以包含的自變量少者為優(yōu)。,三、回歸方程的評(píng)價(jià),、R復(fù)相關(guān)系數(shù)（multiple correlation coefficient） 表示m個(gè)自變量共同對(duì)應(yīng)變量線(xiàn)性

8、相關(guān)的密切程 度。0R1。即Y與 的相關(guān)系數(shù)。,.,20,、校正確定系數(shù)（adjusted R-square，R2a ） 越大越優(yōu)。 R2a不會(huì)隨無(wú)意義的自變量增加而增大。 是衡量方程優(yōu)劣的常用指標(biāo)。 校正確定系數(shù)的計(jì)算：,p 為方程中包含的自變量個(gè)數(shù)，p m。 R2一定時(shí)， p R2 a,P.268,.,21,.,22,四、各自變量的評(píng)價(jià),1、偏回歸平方和 是指將某自變量xj從回歸方程中剔除后所引起的回歸平方和的減少量間接反應(yīng)了自變量xj對(duì)應(yīng)變量的貢獻(xiàn)大小。 各個(gè)自變量的偏回歸平方和可以通過(guò)擬合包含不同自變量的回歸方程計(jì)算得到。,.,23,對(duì)例15-1作回歸分析的部分中間結(jié)果,SS回（X1）

9、=133.711133.098=0.613 SS回（X2）= 133.711 121.748=11.963 SS回（X3）=133.711113.647=20.064 SS回（X4）= 133.711 105.917=27.794,.,24,2、標(biāo)準(zhǔn)化偏回歸系數(shù)（standardized partial regression coefficient） 消除測(cè)量單位影響后的偏回歸系數(shù)標(biāo)準(zhǔn)化偏回歸系數(shù)。 意義：,用以比較各自變量對(duì)應(yīng)變量的影響程度大小 （即相對(duì)貢獻(xiàn)大小）。,.,25,bj X的偏回歸系數(shù) Sj為自變量的標(biāo)準(zhǔn)差 SY 為應(yīng)變量的標(biāo)準(zhǔn)差,若將各變量先經(jīng)標(biāo)準(zhǔn)狀態(tài)化處理后，再進(jìn)行多元回歸，

10、則所得到的偏回歸系數(shù)即為標(biāo)準(zhǔn)偏回歸系數(shù)。,計(jì)算：,.,26,對(duì)血糖影響大小的順序依次為：糖化血紅蛋白(X4)、胰島素(X3) 、甘油三酯(X2)。 比較糖化血紅蛋白和甘油三酯的標(biāo)準(zhǔn)偏回歸系數(shù)： 0.413 / 0.354 =1.17（倍） 糖化血紅蛋白對(duì)血糖的影響強(qiáng)度約為甘油三酯的 1.17倍。,例15-1資料，比較各個(gè)自變量對(duì)血糖的貢獻(xiàn)大小比較。,.,27,五、自變量的篩選 基本思路：盡可能將回歸效果顯著的自變量選入方程中，作用不顯著的自變量排除在外。 （1）全局擇優(yōu)法（all possible subsets selection）： （2）逐步選擇法,.,28,1、全局擇優(yōu)法（最優(yōu)子集回歸

11、） （all possible subsets selection）： 有m個(gè)自變量就有2m-1個(gè)自變量子集。在各子集中選擇最優(yōu)的回歸方程。 僅適用于自變量個(gè)數(shù)不太多的情況。,.,29,2、向前篩選法（Forward selection）： 事先給定一個(gè)入選標(biāo)準(zhǔn)，即（通常 =0.05），然后根據(jù)各因素偏回歸平方和從大到小，依次逐個(gè)引入回歸方程至無(wú)顯著性自變量可以入選為止，因素一旦入選便始終保留在方程中而不被剔除。 局限性：后續(xù)變量的引入可能會(huì)使先進(jìn)入方程的變量變得不重要。,.,30,3、向后剔除法（Backward elimination） 首先建立全部自變量的全回歸方程，給定剔除標(biāo)準(zhǔn)，根據(jù)各

12、因素偏回歸平方和從小到大，依次逐個(gè)將無(wú)顯著性的自變量從回歸方程中剔除。 優(yōu)點(diǎn)：考慮到了自變量的組合作用，選中的自變量數(shù)目一般會(huì)比前進(jìn)法選中的多。 缺點(diǎn)：當(dāng)自變量數(shù)目較多或有某些自變量高度相關(guān)時(shí)，可能得不出正確的結(jié)果。,.,31,4、逐步法（Stepwise）： 給出入選標(biāo)準(zhǔn)（通常 1 =0.05）和剔除標(biāo)準(zhǔn)（ 通常2 =0.10），每次選入一個(gè)在方程外且最具統(tǒng)計(jì)學(xué)意義的自變量后，就對(duì)原在方程中的自變量做剔除檢驗(yàn)，這個(gè)過(guò)程逐步進(jìn)行，直到?jīng)]有有統(tǒng)計(jì)意義的自變量可以入選，也沒(méi)有無(wú)統(tǒng)計(jì)學(xué)意義的自變量保留在方程中為止。 實(shí)際工作中，多采用逐步法。 用上述方法對(duì)上例資料進(jìn)行分析。,.,32,六、應(yīng)用多元線(xiàn)

13、性回歸分析時(shí)需注意的事項(xiàng) （1）樣本量要求：無(wú)精確的計(jì)算公式。據(jù)經(jīng)驗(yàn)，樣本量應(yīng)是自變量數(shù)的510倍以上。(20?) （2）做預(yù)報(bào)時(shí)，只能在自變量X的觀(guān)察值范圍內(nèi)進(jìn)行； （3）在資料要求上，應(yīng)變量Y服從正態(tài)分布； （4）注意資料的特異點(diǎn)（outlier）；,.,33,（5）觀(guān)測(cè)值重新量化問(wèn)題,二項(xiàng)分類(lèi)資料：用X表示分類(lèi)變量，陰性為0，陽(yáng)性為1。 有序多項(xiàng)分類(lèi)資料：用一個(gè)X 作為分類(lèi)變量，以自然數(shù)0，1，2，賦值。如將病情分為輕中重三類(lèi)時(shí)，用X表示病情，賦值方法為：,無(wú)序多項(xiàng)分類(lèi)資料：,或,.,34,上述以職員作為對(duì)比水平(基礎(chǔ)水平)。啞變量X1、 X2、 X3分別代表了工人、農(nóng)民、干部與職員相比

14、的系數(shù)。,啞變量代表的是同一個(gè)變量的不同取值，在分析時(shí)應(yīng)當(dāng)同時(shí)進(jìn)入或移出方程。即使只有部分啞變量有統(tǒng)計(jì)學(xué)意義也是如此。,.,35,（7）自變量的聯(lián)合作用分析 若要考慮X3、X4對(duì)應(yīng)變量 y 的聯(lián)合作用，可設(shè)置一個(gè)新變量X5= X3X4。若b3、b4和b5都有統(tǒng)計(jì)學(xué)意義，則說(shuō)明X3、X4對(duì)應(yīng)變量既有單獨(dú)作用，又有交互作用。,（6）自變量篩選過(guò)程中引入和剔除變量時(shí)檢驗(yàn)水準(zhǔn)的確定 1）引入變量檢驗(yàn)的水準(zhǔn)小于或等于剔除變量時(shí)檢驗(yàn)的水準(zhǔn) 2）通常引入變量檢驗(yàn)的水準(zhǔn)為0.05，剔除變量時(shí)0.10，但不絕對(duì)。,.,36,說(shuō)明X3、X4對(duì)應(yīng)變量既有單獨(dú)作用，又有交互作用。即說(shuō)明糖尿病人體內(nèi)胰島素對(duì)血糖的影響依

15、賴(lài)于糖化血紅蛋白的含量。,.,37,（8）自變量的共線(xiàn)性 當(dāng)自變量之間存在較強(qiáng)的相關(guān)關(guān)系時(shí)，稱(chēng)之為共線(xiàn)性。 后果偏回歸系數(shù)的估計(jì)值容易失真。 當(dāng)多元回歸的分析結(jié)果出現(xiàn)以下情況時(shí)可考慮是否存在自變量共線(xiàn)性： 1）在某個(gè)檢驗(yàn)水準(zhǔn)下，整個(gè)回歸方程有統(tǒng)計(jì)學(xué)意義，但是每個(gè)偏回歸系數(shù)的檢驗(yàn)均無(wú)統(tǒng)計(jì)學(xué)意義。 2）偏回歸系數(shù)的符號(hào)與醫(yī)學(xué)專(zhuān)業(yè)知識(shí)不一致。 3）參數(shù)估計(jì)的標(biāo)準(zhǔn)誤變得很大，使t值變得很小，P值很大。,.,38,判斷方法： 利用自變量間的相關(guān)系數(shù)陣。 （r 0.9，共線(xiàn)性可能性大） 處理方法： 最簡(jiǎn)單、有效的方法是根據(jù)專(zhuān)業(yè)知識(shí)人為去除在專(zhuān)業(yè)上比較次要的、或缺失值較多、測(cè)量誤差較大的共線(xiàn)性因子。,.,3

16、9,（9）殘差分析模型診斷,通常以標(biāo)準(zhǔn)化殘差（standardized residual)為縱坐標(biāo)，以 為橫坐標(biāo)，作殘差圖。,.,40,.,41,第十六章 Logistic 回歸,一、概念 Logistic 回歸是一種適用于應(yīng)變量為分類(lèi)值多因素概率型曲線(xiàn)模型。,Y為二項(xiàng)分類(lèi)：非條件Logistic 回歸成組設(shè)計(jì) 條件Logistic 回歸配對(duì)設(shè)計(jì),Y為多分類(lèi)：多分類(lèi)Logistic 回歸,P.278,.,42,Binary Logistic 適用于應(yīng)變量為二項(xiàng)分類(lèi)的資料。 應(yīng)變量（Y）在一組自變量（X）的作用下所發(fā)生的結(jié)果賦值規(guī)則為：,logistic 回歸模型：,統(tǒng)計(jì)學(xué)中，把ln（P/Q）稱(chēng)

17、為 P的Logit轉(zhuǎn)換或?qū)?shù)轉(zhuǎn)換，即Logit P。由此得到的回歸方程，稱(chēng)為L(zhǎng)ogistic回歸方程。,出現(xiàn)陽(yáng)性的結(jié)果 1 ，其概率用P來(lái)表示； 出現(xiàn)陰性的結(jié)果 0 ，其概率用Q或（1 P）來(lái)表示。,.,43,由上式可得:,由樣本估計(jì)而得的logistic回歸模型：,.,44,將P/Q稱(chēng)為比數(shù)（odds，優(yōu)勢(shì)、比值）；兩個(gè)比數(shù)之比稱(chēng)為比數(shù)比OR（ odds ratio，優(yōu)勢(shì)比、比值比）。 第i個(gè)觀(guān)察對(duì)象的發(fā)病概率比數(shù)（odds)為Pi/Qi，則：,第l個(gè)觀(guān)察對(duì)象的發(fā)病概率比數(shù)為Pl/Ql，則：,.,45,則：,式中： 同一因素xj的不同暴露水平之差。 bj在其它自變量固定不變的情況下，xj的水

18、 平每增加一個(gè)單位時(shí)，ln(OR)的改變量，即所引起的比數(shù)比為增加前的ebj倍,若Xj賦值為：,.,46,bj=0時(shí)， ORj=1，說(shuō)明因素xj對(duì)疾病不起作用； bj0時(shí)，ORj1，說(shuō)明xj是一個(gè)危險(xiǎn)因素； bj0時(shí)，ORj1，說(shuō)明xj是一個(gè)保護(hù)因素。,對(duì)于發(fā)病率很低的慢性?。ㄈ缧哪X血管疾病、惡性腫瘤等），由于P1，OR可作為RR的近似估計(jì)：,所以，logistic回歸常用于流行病學(xué)調(diào)查資料，其優(yōu)點(diǎn)是得到某一因素的回歸系數(shù)估計(jì)值后，就可得到不同水平下相對(duì)危險(xiǎn)度的近似估計(jì)值。,.,47,模型的應(yīng)用 主要有三個(gè)方面： 篩選危險(xiǎn)因素：求出各協(xié)變量對(duì)應(yīng)變量的比數(shù)比（OR）； 校正混雜因素：可以很方便地

19、控制混雜因素，得到校正后比數(shù)比的估計(jì)值和置信區(qū)間； 預(yù)測(cè)與判斷：Logistic回歸模型是概率型模型，在一定條件下能預(yù)測(cè)某事件發(fā)生的概率，或估計(jì)各種自變量組合條件下應(yīng)變量的某一類(lèi)結(jié)果是否發(fā)生。,.,48,二、 Logistic 回歸的參數(shù)估計(jì)及假設(shè)檢驗(yàn),例：在研究醫(yī)院搶救急性心肌梗塞(AMI)患者能否成功的危險(xiǎn)因素調(diào)查中，某醫(yī)院收集了5年中該院所有的AMI患者的搶救病史，共200例。其中P表示搶救是否成功（0表示成功，1表示死亡），X1表示搶救前是否已休克（ 0表示未休克，1表示已休克）， X2表示搶救前是否已心衰（ 0表示未心衰，1表示已心衰），X3表示患者從開(kāi)始有AMI癥狀到搶救時(shí)是否已超

20、過(guò)12小時(shí)（ 0表示未超過(guò)12小時(shí)，1表示已超過(guò)12小時(shí)）。試分析影響搶救成功率的因素。,.,49,AMI患者的搶救危險(xiǎn)因素資料,.,50,（一） Logistic 回歸的參數(shù)估計(jì)及意義,參數(shù)估計(jì)方法：最大似然法（maximum likelihood）。 最大似然法的基本思想： 先建立似然函數(shù)或?qū)?shù)似然函數(shù)，求似然函數(shù)或?qū)?shù)似然函數(shù)達(dá)到極大時(shí)參數(shù)的取值，即稱(chēng)為參數(shù)的最大似然估計(jì)值。,Pi第i例觀(guān)察對(duì)象處于暴露條件下陽(yáng)性結(jié)果發(fā)生的概率。,.,51,（一） Logistic 回歸的參數(shù)估計(jì)及意義,參數(shù)估計(jì)方法：最大似然法（maximum likelihood）,b0=-2.086，表示在其它自變量

21、均為0時(shí)死亡優(yōu)勢(shì)的對(duì)數(shù)值；exp(b0)=0.124是無(wú)休克、無(wú)心衰和搶救及時(shí)組死亡的優(yōu)勢(shì)，當(dāng)死亡概率很低時(shí)，近似等于自然死亡率。,.,52,b1=1.110X1的logistic回歸系數(shù)；exp(1.110)=3.033，表示在其它自變量取值固定時(shí)，休克與沒(méi)有休克相比死亡的優(yōu)勢(shì)比（OR），反映死亡與休克的關(guān)聯(lián)程度。,.,53,（二）假設(shè)檢驗(yàn)及回歸系數(shù)的區(qū)間估計(jì),似然比檢驗(yàn)比較兩個(gè)模型的擬合效果。,模型1含較少自變量，模型2含較多自變量。 H0：模型1與模型2擬合效果無(wú)區(qū)別 H1：模型1與模型2擬合效果不同 檢驗(yàn)統(tǒng)計(jì)量：,2lnL1為模型1的值， 2lnL2為模型2的值。 G反映模型2較模型1

22、擬合優(yōu)度提高的程度。 G服從2(v)分布，v=增加變量的個(gè)數(shù),-2lnL被稱(chēng)為Deviance，記為D。,.,54,2. Wald檢驗(yàn)用于回歸系數(shù)的假設(shè)檢驗(yàn)。,H0：=0 H1：0 檢驗(yàn)統(tǒng)計(jì)量：,.,55,3. 優(yōu)勢(shì)比的估計(jì),.,56,Logistic Regression,顯示的是應(yīng)變量的賦值情況。Binary Logistic過(guò)程默認(rèn)以應(yīng)變量Y=1所對(duì)應(yīng)的概率為P，即以P（Y=1）建立模型。,.,57,Block 0: Beginning Block 是模型中只有常數(shù)項(xiàng)，而不含任何自變量的輸出結(jié)果。,Block 1: Method = Backward Stepwise (Likelihood Ratio) 開(kāi)始輸出將自變量引入模型后的結(jié)果。采用Backward Stepwise（LR）法作自變量篩選。,.,58,對(duì)模型全局檢驗(yàn)的結(jié)果。 Step統(tǒng)計(jì)量是每一步與上一步比較的似然比檢驗(yàn)結(jié)果； Block統(tǒng)計(jì)量是指將Block 1（或Block 2）與Block 0相比的似然比檢驗(yàn)結(jié)果； Model統(tǒng)計(jì)量是指模型的似然比檢驗(yàn)的結(jié)果。,.,59,模型的擬合優(yōu)度情況簡(jiǎn)報(bào),.,60,模型對(duì)應(yīng)變量的分類(lèi)預(yù)測(cè)結(jié)果,模型的預(yù)測(cè)準(zhǔn)確率,.,61,標(biāo)準(zhǔn)化偏回歸系數(shù)：,Sj為變量Xj的標(biāo)準(zhǔn)差。,.,62,是指若將各個(gè)自變量從模型中移除時(shí)模型的改變情況。,.,63,