第十章_logit回歸

1、第十章logitic回歸本章導(dǎo)讀：Logitic回歸模型是離散選擇模型之一，屬于多重變數(shù)分析范疇，是社會(huì)學(xué)、生物統(tǒng)計(jì) 學(xué)、臨床、數(shù)量心理學(xué)、市場營銷、會(huì)計(jì)與財(cái)務(wù)等實(shí)證分析的常用方法。10.1 logit模型和原理Logistic回歸分析是對因變量為定性變量的回歸分析。它是一種非線性模型。其基本特 點(diǎn)是：因變量必須是二分類變量，若令因變量為y,貝U常用y=1表示“yes” y=0表示no”在發(fā)放股利與不發(fā)放股利的研究中，分別表示發(fā)放和不發(fā)放股利的公司。自變量可以為虛擬變量也可以為連續(xù)變量。從模型的角度出發(fā)，不妨把事件發(fā)生的情況定義為y=1，事件未發(fā)生的情況定義為 0,這樣取值為0、1的因變量可以

2、寫作：1事情發(fā)生y o事情未發(fā)生我們可以采用多種方法對取值為 0、1的因變量進(jìn)行分析。通常以 P表示事件發(fā)生的概 率(事件未發(fā)生的概率為 1-P),并把P看作自變量x的線性函數(shù)。由于y是0-1型Bernoulli 分布，因此有如下分布：P=P (y=1|x):自變量為x時(shí)y=1的概率，即發(fā)放現(xiàn)金股利公司的概率1-P=P (y=0|x):自變量為x時(shí)y=0的概率，即不發(fā)放現(xiàn)金股利公司的概率P事件發(fā)生和不發(fā)生的概率比成為發(fā)生比，即相對風(fēng)險(xiǎn)，表現(xiàn)為odds.因?yàn)槭且? PP對數(shù)形式出現(xiàn)的，故該發(fā)生比為對數(shù)發(fā)生比( log odds),表現(xiàn)為odds ln()。對數(shù)發(fā)1 P生比也是事件發(fā)生概率P的一個(gè)

3、特定函數(shù)，通過logistic轉(zhuǎn)換，該函數(shù)可以寫成logistic回歸的logit模型：P logit(P) logeq q)Logit 一方面表達(dá)出它是事件發(fā)生概率P的轉(zhuǎn)換單位；另一方面，它作為回歸的因變量就可以自己與自變量之間的依存關(guān)系保持傳統(tǒng)回歸模式。根據(jù)離散型隨即變量期望值的定義，可得：E(y)=1(P)+0(1-P)=P進(jìn)而得到E(y) P 01x因此，從以上分析可以看出，當(dāng)因變量的取值為 0、1時(shí)，均值E(y) 01x總是代表給定自變量時(shí) y=1的概率。雖然這是從簡單線性回歸分析而得，但也適合復(fù)雜的多元回歸 函數(shù)情況。E(y) log itP 01X12X2kXk他為常數(shù)項(xiàng)，3,免

4、，伙分別為k個(gè)自變量的回歸系數(shù)。因此，logistic模型為：P e f(p) -P1 e01X12x2k XkD01x12x2ekXk10.2模型的stata程序Stata有兩個(gè)命令可進(jìn)行二元logistic回歸分析：logit和logistic。其分析的結(jié)果的實(shí)質(zhì)是一樣的。但輸出的結(jié)果的表現(xiàn)形式有所不同。前者提供參數(shù)估計(jì)，后者提供發(fā)生比。Logit命令：Logit因變量 變量1變量2 變量m/*二元非線性回歸的基本命令，輸出回歸系數(shù)*/Logistic 命令：logistic 因變量 變量1 變量2變量 m/*二元非線性回歸的基本命令，輸出發(fā)生比*/lfit/* lfit是模型適定性診斷命

5、令*/clogit因變量 變量1 變量2變量m, strata（配對編號(hào)變量）or /* clogit是條件logistic回歸命令*/10.3關(guān)于股利政策的logit模型及解釋use E:statalogit.dta/*打開stata數(shù)據(jù)集*/(1) logit 命令.logit cashdum roa td sizelagcashdum growth cg12 firstIteration 0:log likelihood =-753.6759Iterati on 1:log likelihood =-464.64549Iteration 2:log likelihood =-413.47

6、149Iteration 3:log likelihood =-384.32824Iteration 4:log likelihood =-376.73079Iteration 5:log likelihood =-376.20593Iteration 6:log likelihood =-376.20303Logistic regressi onNumber of obsLR chi2(7)Prob chi2Log likelihood=-376.20303Pseudo R21116754.950.00000.5008cashdum | Coef. Std. Err.z P|z|+95% C

7、onf. In tervalroa |36.271633.999394td |-.3322466.4976051size |.1079257.0839493lagcashdum |2.815261.20067559.070.00028.4329644.11029-0.670.504-1.307535.64304141.290.199-.0566119.272463314.030.0002.4219443.208578growth |.4252429.26862941.580.113-.1012611.9517469cg12 |.1585007.04777053.320.001.0648722.

8、2521292first |1.665727.58318522.860.004.52270542.80875cons |-6.4457651.332788-4.840.000-9.057982-3.833548這里，log likelihood即對數(shù)似然值，乘以 2即為-2LL，是模型的估計(jì)方法。在進(jìn)行逐步 回歸時(shí)，通過比較不同模型的-2LL，判斷模型的擬合程度。取值越小，模型的適應(yīng)性越好；取值越大，模型的效果越差。Number of obs是我們所使用的樣本量。LR chi2（7）即為卡方檢驗(yàn)統(tǒng)計(jì)量，也就是回歸模型無效假設(shè)（即所有協(xié)變量的發(fā)生比均為1）所對應(yīng)的似然比檢驗(yàn)量，其中的 （7）為自

9、由度，Prob chi2是模型無效假設(shè)檢驗(yàn)對應(yīng)的 P值。這兩個(gè)指標(biāo)與線性回歸的F統(tǒng)計(jì)量和其P值的功能大體一致。0.0000數(shù)值表明，該模型是顯著的。另一個(gè)統(tǒng)計(jì)量 Pseudo R2是偽決定系數(shù) R2。雖不完全等于 R2,但大致提供模型中自變量 對因變量變異的解釋能力。Coef.是每個(gè)自變量對應(yīng)的系數(shù)估計(jì)。在 logistic回歸分析中，該系數(shù)為對數(shù)； Std.Err即 系數(shù)對應(yīng)的標(biāo)準(zhǔn)誤； OLS通過t檢驗(yàn)來判斷自變量對因變量的影響是否顯著，logistic模型使用z檢驗(yàn)來達(dá)到該目的。因此， z是單個(gè)系數(shù)檢驗(yàn)的統(tǒng)計(jì)量； P|z|是系數(shù)檢驗(yàn)的P值；最 后兩列為系數(shù)95%的置信區(qū)間。二元logit回

10、歸分析中系數(shù)的解釋與多元線性回歸分析中回歸系數(shù)的解釋并無不同，3表示，Xi改變一個(gè)單位時(shí)，logitP的平均變化量。Logit回歸中的常數(shù)項(xiàng)（3）表示，在不接觸任何潛在危險(xiǎn)（或保護(hù)因素）條件下，因變量發(fā)生與不發(fā)生的概率之比的對數(shù)值。Logit回歸中的回歸系數(shù)（3）表示，某一自變量改變一單位時(shí)，因變量發(fā)生與不發(fā)生時(shí)間的概率之比的對數(shù)變化值，即發(fā)生比（Odds Ratio）的對數(shù)值。由于系數(shù)為對數(shù)，故不能像線性回歸那樣將其直接解釋為自變量對因變量的影響程度。只有將其轉(zhuǎn)換為風(fēng)險(xiǎn)比后，系數(shù)才更有明確的意義。比如，分析結(jié)果顯示，size （單位為千元）的回歸系數(shù)為0.11。但我們不能將系數(shù)解釋為size

11、每增加一單位，發(fā)放股利的概率增加11%。事實(shí)上，我們并不知道規(guī)模對股利發(fā)放概率的影響程度，雖然我們知道其影響性質(zhì)和 顯著水平。就變量lagcashdum來說，上期發(fā)放股利的公司的概率高于上期不發(fā)放股利的公 司，但我們并不知道二者之間的差別有多大。當(dāng)自變量為連續(xù)性變量時(shí)（如 size）, e （3 i）表示xi增加一個(gè)計(jì)量單位的對數(shù)比；當(dāng) 自變量為二分類變量時(shí)（如： lagcashdum）,發(fā)生/是=1，不發(fā)生/否 =0,則logistic回歸中的 系數(shù)即為是/否的對數(shù)值。若上面的系數(shù)轉(zhuǎn)化為風(fēng)險(xiǎn)比（Odds Ratio），則可直接比較組間差異以及自變量對因變量的影響程度。轉(zhuǎn)化公式為：ORp1/（

12、1p1）P/（1P0）（2） logistic 命令Stata另外一個(gè)命令可以直接輸出風(fēng)險(xiǎn)比：.logistic cashdum roa td size2 lagcashdum growth cg12 firstLogistic regressionNumber of obs1116LR chi2(7)754.95Prob chi20.0000Log likelihood = -376.20303 Pseudo R2 = 0.5008cashdum | Odds Ratio-1-Std. Err.zP|z|95% Conf. Intervaltd |.7173104.3569373-0.670

13、.504.27048611.902258size2 |1.113965.09351661.290.199.94496081.313195lagcashdum |16.697533.35078614.030.00011.2677424.74386growth |1.529962.41099281.580.113.9036972.590231cg12 |1.171753.05597523.320.0011.0670231.286762first |5.289523.084772.860.0041.68658416.58916roa |5.66e+152.26e+169.070.0002.23e+121.44e+19Odds Ratio為自變量各自對應(yīng)的風(fēng)險(xiǎn)比；Std.Err.即相應(yīng)的風(fēng)險(xiǎn)比的標(biāo)準(zhǔn)差；z是單個(gè)風(fēng)險(xiǎn)比=1檢驗(yàn)的z統(tǒng)計(jì)量；P|z是耽擱