回歸分析中相關(guān)參數(shù)的涵義

回歸分析中F、D.W、t、sig.t的含義1、T檢驗和F檢驗（1）T檢驗和F檢驗的由來一般而言，為了確定從樣本（sample）統(tǒng)計結(jié)果推論至總體時所犯錯的概率，我們會利用統(tǒng)計學家所開發(fā)的一些統(tǒng)計方法，進行統(tǒng)計檢定。通過把所得到的統(tǒng)計檢定值，與統(tǒng)計學家建立了一些隨機變量的概率分布（probabilitydistribution）進行比較，我們可以知道在多少％的機會下會得到目前的結(jié)果。倘若經(jīng)比較后發(fā)現(xiàn)，出現(xiàn)這結(jié)果的機率很少，亦即是說，是在機會很少、很罕有的情況下才出現(xiàn)；那我們便可以有信心的說，這不是巧合，是具有統(tǒng)計學上的意義的（用統(tǒng)計學的話講，就是能夠拒絕虛無假設(shè)nullhypothesis,Ho）。相反，若比較后發(fā)現(xiàn)，出現(xiàn)的機率很高，并不罕見；那我們便不能很有信心的直指這不是巧合，也許是巧合，也許不是，但我們沒能確定。F值和t值就是這些統(tǒng)計檢定值，與它們相對應的概率分布，就是F分布和t分布。統(tǒng)計顯著性（sig）就是出現(xiàn)目前樣本這結(jié)果的機率。（2）統(tǒng)計學意義（P值或sig值）結(jié)果的統(tǒng)計學意義是結(jié)果真實程度（能夠代表總體）的一種估計方法。專業(yè)上，p值為結(jié)果可信程度的一個遞減指標，p值越大，我們越不能認為樣本中變量的關(guān)聯(lián)是總體中各變量關(guān)聯(lián)的可靠指標。p值是將觀察結(jié)果認為有效即具有總體代表性的犯錯概率。如p=0.05提示樣本中變量關(guān)聯(lián)有5%的可能是由于偶然性造成的。即假設(shè)總體中任意變量間均無關(guān)聯(lián)，我們重復類似實驗，會發(fā)現(xiàn)約20個實驗中有一個實驗，我們所研究的變量關(guān)聯(lián)將等于或強于我們的實驗結(jié)果。（這并不是說如果變量間存在關(guān)聯(lián)，我們可得到5%或95%次數(shù)的相同結(jié)果，當總體中的變量存在關(guān)聯(lián)，重復研究和發(fā)現(xiàn)關(guān)聯(lián)的可能性與設(shè)計的統(tǒng)計學效力有關(guān)。）在許多研究領(lǐng)域，0.05的p值通常被認為是可接受錯誤的邊界水平。至于具體要檢定的內(nèi)容，須看你是在做哪一個統(tǒng)計程序。舉一個例子，比如，你要檢驗兩獨立樣本均數(shù)差異是否能推論至總體，而進行的t檢驗。兩樣本（如某班男生和女生）某變量（如身高）的均數(shù)并不相同，但這差別是否能推論至總體，代表總體的情況也是存在著差異呢？會不會總體中男女生根本沒有差別，只不過是你那麼巧抽到速樣本的數(shù)值不同？為此，我們進行t檢定，算出一個t檢定值。與統(tǒng)計學家建立的以「總體中沒差別」作基礎(chǔ)的隨機變量t分布進行比較，看看在多少%的機會（亦即顯著性sig值）下會得到目前的結(jié)果。若顯著性sig值很少，比如＜0.05（少於5%機率），亦即是說，「如果」總體「真的」沒有差別，那麼就只有在機會很少5%）、很罕有的情況下，才會出現(xiàn)目前這樣本的情況。雖然還是有5%機會出錯（1-0.05=5%），但我們還是可以「比較有信心」的說：目前樣本中這情況（男女生出現(xiàn)差異的情況）不是巧合，是具統(tǒng)計學意義的，「總體中男女生不存差異」的虛無假設(shè)應予拒絕，簡言之，總體應該存在著差異。每一種統(tǒng)計方法的檢定的內(nèi)容都不相同，同樣是t-檢定，可能是上述的檢定總體中是否存在差異，也同能是檢定總體中的單一值是否等于0或者等于某一個數(shù)值。至于F-檢定，方差分析（或譯變異數(shù)分析，AnalysisofVariance），它的原理大致也是上面說的，但它是透過檢視變量的方差而進行的。它主要用于：均數(shù)差別的顯著性檢驗、分離各有關(guān)因素并估計其對總變異的作用、分析因素間的交互作用、方差齊性（EqualityofVariances）檢驗等情況。（3）回歸方程的顯著性檢驗（F檢驗）回歸方程的顯著性檢驗，即檢驗整個回歸方程的顯著性，或者說評價所有自變量與因變量的線性關(guān)系是否密切。能常采用F檢驗，F(xiàn)統(tǒng)計量的計算公式為：~E（y-y）2/n-k-i=1根據(jù)給定的顯著水平a,自由度（k,n-k-1）查F分布表，得到相應的臨界值Fa，若F>Fa，則回歸方程具有顯著意義，回歸效果顯著；F<Fa，則回歸方程無顯著意義，回歸效果不顯著。（4）回歸系數(shù)的顯著性檢驗（t檢驗）在一元線性回歸中，回歸系數(shù)顯著性檢驗（t檢驗）與回歸方程的顯著性檢驗（F檢驗）是等價的，但在多元線性回歸中，這個等價不成立。t檢驗是分別檢驗回歸模型中各個回歸系數(shù)是否具有顯著性，以便使模型中只保留那些對因變量有顯著影響的因素。檢驗時先計算統(tǒng)計量隊；然后根據(jù)給定的顯著水平a,自由度n-k-1查t分布表，得臨界值ta或ta/2,t>t-a或ta/2，則回歸系數(shù)bi與0有顯著關(guān)異，反之，則與0無顯著差異。統(tǒng)計量t的計算公式為：其中，Cij是多元線性回歸方程中求解回歸系數(shù)矩陣的逆矩陣（x'x）-1的主對角線上的第j個元素。對二元線性回歸而言，可用下列公式計算：51uqC2^11^22一其中，$11=￡（工1一互）2=始-：（￡工1）2$22=12（12-瓦尸=￡技-：（￡工2）2S&=-質(zhì)）3?-我）=如1迎-對估計標準誤差估計標準誤差，即因變量y的實際值與回歸方程求出的估計值/之間的標準誤差，估計標準誤差越小，回歸方程擬合程度越程。其中，k為多元線性回歸方程中的自變量的個數(shù)。2、D.W檢驗D.W檢驗是一種檢驗誤差序列自相關(guān)關(guān)系的方法。自相關(guān)autocorrelation)，又稱序列相關(guān)(serialcorrelation)是指總體回歸模型的隨機誤差項之間存在相關(guān)關(guān)系。即不同觀測點上的誤差項彼此相關(guān)。當回歸模型是根據(jù)動態(tài)數(shù)據(jù)建立的，則誤差項e也是一個時間序列，若誤差序列諸項之間相互獨立，則誤差序列各項之間沒有相關(guān)關(guān)系，若誤差序列之間存在密切的相關(guān)關(guān)系，則建立的回歸模型就不能表述自變量與因變量之間的真實變動關(guān)系。DW檢驗是J.Durbin（杜賓）和G.S.Watson（沃特森）于1951年提出的一種適用于小樣本的檢驗方法。DW檢驗只能用于檢驗隨機誤差項具有一階自回歸形式的自相關(guān)問題。這種檢驗方法是建立經(jīng)濟計量模型中最常用的方法，一般的計算機軟件都可以計算出。可值。1隨機誤差項的一階自回歸形式為:u=pu+v為了檢驗序列的相關(guān)性，構(gòu)造的原假設(shè)是:H0:p=0為了檢驗上述假設(shè)，構(gòu)^W統(tǒng)計量首先要求出回歸估計式的殘差。定義DW統(tǒng)計量為:乙(e-e)2DW=7=7^—-—V

=乙e2

t

t=1由DWQ2(1-6)pDW-14(?1,0)(2,4)02(0,1)(0,2)10可得DW值與p'的對應關(guān)系如表所示。由上述討論可知?？傻娜≈捣秶鸀椋?WDWW4根據(jù)樣本容量n和解釋變量的數(shù)目k（包括常數(shù)項）查?？煞植急恚门R界值d和常，然后依下列準則考察計算得到的DW<L以決定模型的自相關(guān)狀態(tài)。47二依DW檢驗決0<DW<dL!策規(guī)則誤差項uu,...,〃間存在正相關(guān)d<DW<d不能判定是否有自相關(guān)d<DW<4-d誤差項首務,...,u間4-d<DW<4-d不能判定是否有自相關(guān)4=<DW<4誤差項uu，…,u間存在負相關(guān)n48用坐標圖更直觀表示?？蓹z驗規(guī)則:f(DW)^不f(DW)^不:自：能;相；確|關(guān)；定，ddLU無自相關(guān)2頂自相關(guān)4『不能確定d-4d-4DW49產(chǎn)％DW檢驗的缺點和局限性DW檢驗有兩個不能確定的區(qū)域，一旦。可值落在這兩個區(qū)域，就無法判斷。這時，只有增大樣本容量或選取其他方法DW統(tǒng)計量的上、下界表要求n>15f這是因為樣本如果再小，利用殘差就很難對自相關(guān)的存在性做出比較正確的診斷?DW檢驗不適應隨機誤差項具有高階序列相關(guān)的檢驗?只適用于有常數(shù)項的回歸模型并且解釋變量中不能含滯后的被解釋變量注意:1）從判斷準則看到，存在一個不能