SAS 逐步回歸.ppt

1、1、SAS-逐步回歸、南京市醫(yī)學(xué)院大學(xué)傳染病和衛(wèi)生統(tǒng)計學(xué)科白建齡、2、reg課程、reg課程是僅限回歸分析的SAS課程，提供大多數(shù)常見的線性回歸分析功能。Reg過程只是SAS中回歸的眾多過程之一，適用于一般意義上的回歸分析。Reg過程提供了最多9個茄子模型選擇方法?？梢詫€性假設(shè)和多個假設(shè)進(jìn)行假設(shè)測試?？梢杂嬎銏?zhí)行共線性診斷的功能預(yù)測值、殘差、學(xué)生殘差、可靠區(qū)間、影響度等統(tǒng)計信息。Reg進(jìn)程具有統(tǒng)計繪圖功能。3，reg過程中可以包含的語句，4，proc reg語句，proc reg語句用于調(diào)用reg過程。其中門選項(xiàng)多，功能復(fù)雜。此處的選項(xiàng)適用于同一reg進(jìn)程步驟中的所有model語句。Proc

2、 reg語句的主要選項(xiàng)、功能和用法如下表所示。5，proc reg語句的主要選項(xiàng)，6，model語句，門格式：MODEL dependents=；用于定義要擬合的回歸模型。標(biāo)簽項(xiàng)表示定義的模型的標(biāo)簽，標(biāo)識當(dāng)前l(fā)abel語句定義的模型。等號連接的兩段是定義要擬合的回歸模型的模型表達(dá)式。您可以設(shè)定許多選項(xiàng)。其中很大一部分與proc reg語句的選項(xiàng)相同，功能幾乎相似，但作用范圍不同。7，model語句選項(xiàng)(1)，8，model語句選項(xiàng)(2)，9，plot語句，語句格式：plot；Plot語句用于在指定變量中繪制散點(diǎn)圖?！皔var*xvar”是定義繪制的散點(diǎn)圖的圖形表達(dá)式?？梢栽谕籶lot語句中指

3、定多個圖形表達(dá)式，以便同時繪制多個散點(diǎn)圖。用于繪制散點(diǎn)圖的變量必須是model語句或var語句中使用的變量，可以使用特定統(tǒng)計信息或特定系統(tǒng)變量(尤其是回歸模型)。10，9茄子模型，無(完全回歸模型)。建立包含所有引數(shù)的完全回歸模型，而不篩選回歸變數(shù)。正向(前進(jìn)法)。前進(jìn)方法從模型中沒有變量開始。對于每個參數(shù)，forward計算是反映參數(shù)對模型的貢獻(xiàn)的F統(tǒng)計量。這些f統(tǒng)計信息與model語句中提供的slentry級別的值進(jìn)行比較，如果f統(tǒng)計信息的重要性級別中沒有大于slentry級別的值(默認(rèn)slentry假定為0.50)，forward將掛起。否則，forward會將具有最大F統(tǒng)計信息的變量添

4、加到模型中，然后計算該變量的F統(tǒng)計信息并重復(fù)估計過程，直到其馀變量位于模型外部為止。剩下的變量都一一進(jìn)入模型，直到?jīng)]有一個能產(chǎn)生重要的F統(tǒng)計。一旦變量進(jìn)入模型，它就不再出去了。11，9個模型，“backward(后退)”方法從計算包含所有參數(shù)的模型的統(tǒng)計信息開始。然后從模型中逐個刪除變量，直到模型中所有剩馀變量生成的F統(tǒng)計信息的顯著水平為slstay=水平(如果默認(rèn)slstay=牙齒參數(shù)，則假定重要性級別為0.10)。移除在每個階段對模型貢獻(xiàn)最小的變數(shù)。Stepwise(逐步回歸、向前和向后)逐步方法是選擇向前的修正。對于模型中已存在的變量，不一定在模型中。這與前進(jìn)方法不同。Stepwise根

5、據(jù)前進(jìn)方式選擇變量后，將查看模型中包含的所有變量，并刪除slstay=非水平變量，從而顯著提高F統(tǒng)計信息的水平。其他變量僅在檢查和必要的刪除完成后才能進(jìn)入模型。模型外部的任何變量都不會在slentry=級別上顯著創(chuàng)建F統(tǒng)計信息，如果模型中的每個變量在slstay=級別上明顯出現(xiàn)，或者添加到模型中的變量是剛剛刪除的變量，則逐步處理結(jié)束。12，9茄子型號、maxr(最大R2方法)。最大R2法是優(yōu)勢漸進(jìn)技術(shù)，幾乎與所有可能的回歸一樣好。與上述三種茄子技術(shù)不同，牙齒方法不是落在單個模型上，而是想找到最佳變量模型、最佳雙變量模型等。Maxr方法首先查找生成最大R2值的變量，然后添加添加第二個最大R2值的

6、變量以形成雙變量模型。創(chuàng)建雙變量模型后，將模型中的變量與模型外部的變量進(jìn)行比較，以確定是否刪除一個變量并用生成較大R2值的另一個變量替換它。完成所有比較后，得到最優(yōu)的雙變量模型。向下走，可以得到最佳的三變量模型等。13、9個型號、minr(最小R2增量法)根據(jù)給定樣品的R2大小標(biāo)準(zhǔn)，不能保證最佳收購子集選擇、整體或其他樣品的最佳。用戶可以指定子集中出現(xiàn)的參數(shù)的最大和最小數(shù)量，以及每個選定種子集的數(shù)量。R2選擇法總是可以為考慮的變量中的每個變量數(shù)找到R2最大的模型，但是計算時間很長。Rsquare(R2選擇方法)。最小R2增量方法與maxr非常相似，但選擇標(biāo)準(zhǔn)是生成最小R2增量。通常，maxr和

7、minr為模型中的已知變量數(shù)生成相同的“最佳”模型，但minr在每個階段都會考慮更多模型。14、9種型號、adjrsq (R2選擇方法曹征)牙齒方法與rsquare方法類似，但用于選擇型號的準(zhǔn)則是調(diào)整R2統(tǒng)計信息。Mallows的Cp統(tǒng)計信息Cp統(tǒng)計信息是Mallows作為選擇模型給出的判別式變量。Cp是對誤差平方總和的測量。15、best、Best=值在模型選擇方法為RSQUARE、ADJRSQ或CP時使用。如果模型選擇方法是ADJRSQ或CP，則“牙齒”選項(xiàng)將指定最佳模型數(shù)的最大值。如果模型選擇方法是RSQUARE，則牙齒選項(xiàng)將指定每個大小模型的最佳模型的最大數(shù)量。這些最佳模型將顯示在結(jié)果

8、中，或輸出到使用outest=選項(xiàng)指定的數(shù)據(jù)集。16、slentry和slstay、slentry=值表示在向前和逐步方法中，選擇變量進(jìn)入模型的顯著水平。如果忽略，stepwise進(jìn)程將為前進(jìn)選擇技術(shù)設(shè)置slentry=0.5，逐步設(shè)置slentry0.15。Slstay=值表示反向和漸進(jìn)方法中變量保留在模型中的顯著級別。如果省略，則逐漸使用0.15，向后使用0.10。17、slentry和slstay、18、include start stop、include=n確保模型中始終存在前n個參數(shù)變量。選擇技術(shù)由model語句中的其他變量執(zhí)行。Start=s從包含model語句的前s個參數(shù)的模型開

9、始，執(zhí)行比較、選擇過程。當(dāng)然，估計的模型不包含小于S的變量。這僅適用于maxr或minr模型。找到Stop=s“最佳”s變量模型時，stepwise停止。其中s是停止的值，僅適用于maxr或minr模型。19、test和test語句用于驗(yàn)證模型中的模型參數(shù)假設(shè)，該模型由test語句前面最近的model語句定義。型號y=x1x2x3x4測試x1，x2=x3，變量X1的系數(shù)B1等于0變量X2的系數(shù)和變量X3的系數(shù)，20，restrict，restrict語句用于建立模型參數(shù)估計的資格條件。Restrict intercept=0 X2-X3=0每次添加約束時，模型的自由度都減少一個，約束的自由度顯

10、示為-1。，21，SAS語句，proc reg型號y=x1x2x3x4/可選=r square adj rsq MSE CP AIC執(zhí)行；執(zhí)行。22，SAS結(jié)果，23，SAS語句，proc reg型號y=x1x2x3x4/可選=r square best=6；執(zhí)行；執(zhí)行。Proc reg型號y=x1x2x3x4/可選=r square best=4；執(zhí)行；執(zhí)行。24，SAS語句，Best=6，Best=4，25，SAS語句，proc reg型號y=x1x2x3x4/可選=adj rsq best=6；執(zhí)行；執(zhí)行。Proc reg型號y=x1x2x3x4/可選=adj rsq best=4；執(zhí)行；執(zhí)行。26，SAS結(jié)果，Best=6，Best=4，27，SAS語句，proc regmodel y=x1x2x3x 4/selection=stepwise SLE=0.15 SLS=0.14 details；執(zhí)行；執(zhí)行。28，嶺回歸，29，SAS語句，proc reg data=exp 3 _ 5；型號y=x1x2x3執(zhí)行；執(zhí)行。proc corr data=exp 3 _ 5；Var x1 x2 x3:運(yùn)行；30，SAS語句，proc standard data=exp3 _ 5 mean=0 STD=1 out=temp；Var x1 x2 x