第七章自變量選擇與逐步回歸課件

2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心1第7章自變量選擇與逐步回歸§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響§7.2所有子集回歸§7.3逐步回歸§7.4實(shí)例與評(píng)注

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心1第7章2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心2第7章自變量選擇與逐步回歸在建立一個(gè)實(shí)際問(wèn)題的回歸模型時(shí)，首先碰到的問(wèn)題便是如何確定回歸自變量，一般情況，大都是根據(jù)所研究問(wèn)題的目的，結(jié)合實(shí)際問(wèn)題理論羅列出對(duì)因變量可能有影響的一些因素作為自變量。如果遺漏了某些重要的變量，回歸方程的效果肯定不會(huì)好；如果擔(dān)心遺漏了重要的變量，而考慮過(guò)多的自變量，在這些變量中，某些自變量對(duì)問(wèn)題的研究可能并不重要，有些自變量數(shù)據(jù)的質(zhì)量可能很差，有些變量可能和其他變量有很大程度的重疊。如果回歸模型把這樣一些變量都選進(jìn)來(lái)，不僅計(jì)算量增大好多，而且得到的回歸方程穩(wěn)定性也很差，直接影響到回歸方程的應(yīng)用。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心2第7章2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心3第7章自變量選擇與逐步回歸從20世紀(jì)60年代開(kāi)始，關(guān)于回歸自變量的選擇成為統(tǒng)計(jì)學(xué)中研究的熱點(diǎn)問(wèn)題。統(tǒng)計(jì)學(xué)家們提出了許多回歸選元的準(zhǔn)則，并提出了許多行之有效的選元方法。本章從回歸選元對(duì)回歸參數(shù)估計(jì)和預(yù)測(cè)的影響開(kāi)始，介紹自變量選擇常用的幾個(gè)準(zhǔn)則；扼要介紹所有子集回歸選元的幾個(gè)方法；詳細(xì)討論逐步回歸方法及其應(yīng)用。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心3第7章2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心4§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

一、全模型和選模型

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心4§7.2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心5§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心5§7.2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心6§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

自變量的選擇我們可以看成是對(duì)一個(gè)實(shí)際問(wèn)題是用（7.1）式全模型還是用（7.2）式選模型去描述。如果應(yīng)該用（7.1）式全模型去描述實(shí)際問(wèn)題，而我們誤選了（7.2）式選模型，這就說(shuō)明我們?cè)诮r(shí)丟掉了一些有用的變量；如果應(yīng)該選用（7.2）式選模型，而我們誤選了模型（7.1）式，這就說(shuō)明我們把一些不必要的自變量引進(jìn)了模型。模型選擇不當(dāng)會(huì)給參數(shù)估計(jì)和預(yù)測(cè)帶來(lái)什么影響?下面我們將分別給予討論。

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心6§7.2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心7§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

二、自變量選擇對(duì)預(yù)測(cè)的影響

關(guān)于自變量選擇對(duì)預(yù)測(cè)的影響可以分成兩種情況考慮，第一種情況是全模型（7.1）式正確而誤用了選模型（7.2）式；第二種情況是選模型（7.2）式正確而誤用了全模型（7.1）式。以下分別考慮這兩種情況對(duì)回歸的影響。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心7§7.2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心8§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

（一）全模型正確而誤用選模型的情況

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心8§7.2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心9§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心9§7.2023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心10§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

性質(zhì)1和性質(zhì)2表明，當(dāng)全模型（9.1）式正確時(shí)，而我們舍去了m-p個(gè)自變量，用剩下的p個(gè)自變量去建立選模型（9.2）式，參數(shù)估計(jì)值是全模型相應(yīng)參數(shù)的有偏估計(jì)，用其作預(yù)測(cè)，預(yù)測(cè)值也是有偏的。這是誤用選模型產(chǎn)生的弊端。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心10§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心11§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

性質(zhì)3和性質(zhì)4表明，用選模型去作預(yù)測(cè)，殘差的方差比用全模型去作預(yù)測(cè)的方差小，盡管用選模型所作的預(yù)測(cè)是有偏的，但得到的預(yù)測(cè)偏差的方差下降了。這說(shuō)明盡管全模型正確，誤用選模型是有弊也有利的。性質(zhì)5說(shuō)明即使全模型正確，但如果其中有一些自變量對(duì)因變量影響很小或回歸系數(shù)方差過(guò)大，我們丟掉這些變量之后，用選模型去預(yù)測(cè)，可以提高預(yù)測(cè)的精度。由此可見(jiàn)，如果模型中包含了一些不必要的自變量，模型的預(yù)測(cè)精度就會(huì)下降。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心11§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心12§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

（二）選模型正確而誤用全模型的情況目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心12§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心13§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

一個(gè)好的回歸模型，并不是考慮的自變量越多越好。在建立回歸模型時(shí)，選擇自變量的基本指導(dǎo)思想是“少而精”。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心13§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心14§7.1自變量選擇對(duì)估計(jì)和預(yù)測(cè)的影響

哪怕我們丟掉了一些對(duì)因變量y還有些影響的自變量，由選模型估計(jì)的保留變量的回歸系數(shù)的方差，要比由全模型所估計(jì)的相應(yīng)變量的回歸系數(shù)的方差小。而且，對(duì)于所預(yù)測(cè)的因變量的方差來(lái)說(shuō)也是如此。丟掉了一些對(duì)因變量y有影響的自變量后，所付出的代價(jià)是估計(jì)量產(chǎn)生了有偏性。然而，盡管估計(jì)量是有偏的，但預(yù)測(cè)偏差的方差會(huì)下降。另外，如果保留下來(lái)的自變量有些對(duì)因變量無(wú)關(guān)緊要，那么，方程中包括這些變量會(huì)導(dǎo)致參數(shù)估計(jì)和預(yù)測(cè)的有偏性和精度降低。自變量的選擇有重要的實(shí)際意義。在建立實(shí)際問(wèn)題的回歸模型時(shí)，我們應(yīng)盡可能剔除那些可有可無(wú)的自變量。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心14§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心15§7.2所有子集回歸一、所有子集的數(shù)目目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心15§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心16§7.2所有子集回歸二、關(guān)于自變量選擇的幾個(gè)準(zhǔn)則

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心16§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心17§7.2所有子集回歸在第五章，曾從數(shù)據(jù)與模型擬合優(yōu)劣的直觀考慮出發(fā)，認(rèn)為殘差平方和SSE最小的回歸方程就是最好的。還曾用復(fù)相關(guān)系數(shù)R來(lái)衡量回歸擬合的好壞。但是當(dāng)自變量子集在擴(kuò)大時(shí)，殘差平方和隨之減少，而復(fù)判定系數(shù)隨之增大。如果按殘差平方和越小越好的原則來(lái)選擇自變量子集，或者為提高復(fù)相關(guān)系數(shù)，不論什么變量只要多取就行，則毫無(wú)疑問(wèn)選的變量越多越好。這樣由于變量的多重共線性，給變量的回歸系數(shù)估計(jì)值帶來(lái)不穩(wěn)定性，加上變量的測(cè)量誤差積累，參數(shù)數(shù)目的增加，將使估計(jì)值的誤差增大。如此構(gòu)造的回歸模型穩(wěn)定性差，使得為增大復(fù)相關(guān)系數(shù)R而付出了模型參數(shù)估計(jì)穩(wěn)定性差的代價(jià)。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心17§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心18§7.2所有子集回歸殘差平方和、復(fù)相關(guān)系數(shù)或樣本決定系數(shù)都不能作為選擇變量的準(zhǔn)則。下面從不同的角度給出幾個(gè)常用的準(zhǔn)則。準(zhǔn)則1自由度調(diào)整復(fù)相關(guān)系數(shù)達(dá)到最大。準(zhǔn)則2赤池信息量AIC達(dá)到最小。上面我們從不同角度介紹了三個(gè)準(zhǔn)則，自變量選擇的準(zhǔn)則還有一些，就不一一列舉了。下面用一個(gè)例子，對(duì)所有回歸子集計(jì)算上述3個(gè)準(zhǔn)則，綜合比較一下“最優(yōu)”回歸子集的選擇。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心18§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心19§7.2所有子集回歸目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心19§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心20§7.2所有子集回歸目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心20§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心21§7.2所有子集回歸因?yàn)檫@個(gè)實(shí)際問(wèn)題所涉及的自變量本來(lái)就較少，只有3個(gè)，所以從幾個(gè)準(zhǔn)則看到全模型是“最優(yōu)”的。這種情況在自變量只有少數(shù)幾個(gè)時(shí)是常見(jiàn)的，但當(dāng)涉及的自變量數(shù)目較多時(shí)，很少見(jiàn)到全模型是最優(yōu)的。我們講的最優(yōu)是相對(duì)而言，在實(shí)際問(wèn)題的選模中，應(yīng)綜合考慮，或根據(jù)實(shí)際問(wèn)題的研究目的從不同最優(yōu)角度來(lái)考慮。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心21§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心22§7.2所有子集回歸如有時(shí)希望模型各項(xiàng)衡量準(zhǔn)則較優(yōu)，得到的模型又能給出合理的經(jīng)濟(jì)解釋；有時(shí)只從擬合角度考慮；有時(shí)只從預(yù)測(cè)角度考慮，并不計(jì)較回歸方程能否有個(gè)合理解釋；有時(shí)要求模型的各個(gè)衡量準(zhǔn)則較優(yōu)，而模型最好簡(jiǎn)單些，涉及變量少些；有時(shí)還看回歸模型參數(shù)估計(jì)的標(biāo)準(zhǔn)誤差大小等。因此，上述一些準(zhǔn)則只給了我們選擇模型的一些參考，最終的選擇既應(yīng)依上述幾個(gè)準(zhǔn)則作基本參考根據(jù)，又要考慮實(shí)際問(wèn)題的性質(zhì)和需要。三、用SAS軟件尋找最優(yōu)子集目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心22§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心23§7.2所有子集回歸利用sas軟件得部分結(jié)果

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心23§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心24§7.2所有子集回歸目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心24§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心25§7.2所有子集回歸目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心25§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心26§7.2所有子集回歸目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心26§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心27§7.3逐步回歸

一、問(wèn)題的提出及逐步回歸的思想當(dāng)可供選擇的自變量不太多時(shí)，用前邊j講過(guò)的方法可以求出一切可能的回歸方程，然后用幾個(gè)選元準(zhǔn)則去挑出“最好”的方程，但是當(dāng)自變量的個(gè)數(shù)較多時(shí)，要求出所有可能的回歸方程是非常困難的。為此，人們提出了一些較為簡(jiǎn)便、實(shí)用、快速的選擇“最優(yōu)”方程的方法。1、前進(jìn)法前進(jìn)法的思想是變量由少到多，每次增加一個(gè)，直至沒(méi)有可引入的變量為止。

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心27§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心28§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心28§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心29§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心29§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心30§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心30§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心31§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心31§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心32§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心32§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心33§7.3逐步回歸

2、后退法后退法與前進(jìn)法相反，首先用全部m個(gè)變量建立一個(gè)回歸方程，然后在這m個(gè)變量中選擇一個(gè)最不重要的變量，將它從方程中剔除。在第4章的回歸系數(shù)的顯著性檢驗(yàn)中，用的就是這種思想，把回歸系數(shù)檢驗(yàn)的F值最小者對(duì)應(yīng)的自變量剔除。

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心33§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心34§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心34§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心35§7.3逐步回歸

前進(jìn)法和后退法顯然都有明顯的不足。前進(jìn)法可能存在這樣的問(wèn)題，即不能反映引進(jìn)新的自變量后的變化情況。因?yàn)槟硞€(gè)自變量開(kāi)始可能是顯著的，但當(dāng)引入其他自變量后它變得并不顯著了，但是也沒(méi)有機(jī)會(huì)將其剔除，即一旦引入，就是“終身”的。這種只考慮引入，而沒(méi)有考慮剔除的做法顯然是不全面的。而且，我們?cè)谠S多例子中會(huì)發(fā)現(xiàn)可能最先引入的某個(gè)自變量，當(dāng)其他自變量相繼引入后，它會(huì)變得對(duì)因變量y很不顯著。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心35§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心36§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心36§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心37§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心37§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心38§7.3逐步回歸

后退法的明顯不足是，一開(kāi)始把全部自變量引入回歸方程，這樣計(jì)算量很大。如果有些自變量不太重要，一開(kāi)始就不引入，就可減少一些計(jì)算量。再就是一旦某個(gè)自變量被剔除，“一棍子就把它打死了”，它再也沒(méi)有機(jī)會(huì)重新進(jìn)入回歸方程。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心38§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心39§7.3逐步回歸

然而在實(shí)際中很難碰到自變量間真正無(wú)關(guān)的情況，尤其是經(jīng)濟(jì)問(wèn)題中，所研究的絕大部分問(wèn)題，自變量間都有一定的相關(guān)性。這就會(huì)使得隨著回歸方程中變量的增加和減少，某些自變量對(duì)回歸方程的影響也會(huì)發(fā)生變化。這是因?yàn)樽宰兞块g的不同組合，由于它們相關(guān)的原因，對(duì)因變量y的影響可能大不一樣。如果幾個(gè)自變量的聯(lián)合效應(yīng)對(duì)y有重要作用，但是單個(gè)自變量對(duì)y的作用都不顯著，那么前進(jìn)法就不能引入這幾個(gè)自變量，而后退法卻可以保留這幾個(gè)自變量，這是后退法的一個(gè)優(yōu)點(diǎn)。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心39§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心40§7.3逐步回歸

從前進(jìn)法和后退法的思想及方法，以及我們看到它們的不足，人們比較自然地想構(gòu)造一種方法，吸收前進(jìn)法和后退法的優(yōu)點(diǎn)，克服它們的不足，把兩者結(jié)合起來(lái)，這就有了逐步回歸的思想。二、逐步回歸法逐步回歸的基本思想是“有進(jìn)有出”。具體做法是將變量一個(gè)一個(gè)引入，當(dāng)每引入一個(gè)自變量后，對(duì)已選入的變量要進(jìn)行逐個(gè)檢驗(yàn)，當(dāng)原引入的變量由于后面變量的引入而變得不再顯著時(shí)，要將其剔除。引入一個(gè)變量或從回歸方程中剔除一個(gè)變量，為逐步回歸的一步，每一步都要進(jìn)行F檢驗(yàn)，以確保每次引入新的變量之前回歸方程中只包含顯著的變量。這個(gè)過(guò)程反復(fù)進(jìn)行，直到既無(wú)顯著的自變量選入回歸方程，也無(wú)不顯著自變量從回歸方程中剔除為止。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心40§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心41§7.3逐步回歸

逐步回歸的計(jì)算實(shí)施過(guò)程可以利用SPSS軟件在計(jì)算機(jī)上自動(dòng)完成，我們要求關(guān)心應(yīng)用的讀者一定要通過(guò)前邊的敘述掌握逐步回歸方法的思想，這樣才能用對(duì)用好逐步回歸。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心41§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心42§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心42§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心43§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心43§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心44§7.3逐步回歸

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心44§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心45§7.3逐步回歸

從逐步回歸模型的結(jié)果來(lái)看，x8教育事業(yè)費(fèi)支出對(duì)地區(qū)生產(chǎn)總值的提高有正的促進(jìn)作用，加大教育事業(yè)費(fèi)的支出可以極大的促進(jìn)地區(qū)經(jīng)濟(jì)的發(fā)展；x13城市維護(hù)費(fèi)支出對(duì)地區(qū)生產(chǎn)總值的提高也有正的促進(jìn)作用，提高城市形象和加大基礎(chǔ)設(shè)施建設(shè)才能吸引更多投資，進(jìn)而促進(jìn)地區(qū)經(jīng)濟(jì)的發(fā)展；目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心45§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心46§7.3逐步回歸

x10衛(wèi)生經(jīng)費(fèi)支出對(duì)地區(qū)生產(chǎn)總值的提高起了負(fù)的作用，衛(wèi)生經(jīng)費(fèi)支出的績(jī)效難以衡量，其所提供的商品或勞務(wù)，不可能以任何形式進(jìn)入市場(chǎng)交換，也就不能創(chuàng)造直接的經(jīng)濟(jì)收益，而且衛(wèi)生經(jīng)費(fèi)支出是為國(guó)家創(chuàng)造或改善生產(chǎn)條件、增進(jìn)社會(huì)福利，滿足人民衛(wèi)生需要，更多的是體現(xiàn)了一種社會(huì)公平，最主要的是我國(guó)人均衛(wèi)生經(jīng)費(fèi)遠(yuǎn)遠(yuǎn)低于世界平均水平，在近幾年趕超世界平均水平過(guò)程中出現(xiàn)大量缺口，當(dāng)前形勢(shì)就是衛(wèi)生經(jīng)費(fèi)支出大于衛(wèi)生條件的提高所帶來(lái)的經(jīng)濟(jì)收益；x2企業(yè)挖潛改造資金對(duì)地區(qū)生產(chǎn)總值的提高也起了負(fù)的作用，企業(yè)的改造所帶來(lái)的經(jīng)濟(jì)效益不會(huì)短期內(nèi)有較明顯的效果，具有一定的延遲性，當(dāng)年的表現(xiàn)就是支出大于收入。有時(shí)為了方便回歸方程的實(shí)際解釋可在逐步回歸的幾個(gè)子方程中選擇某個(gè)作為最終方程。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心46§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心47§7.3逐步回歸

逐步回歸的選元過(guò)程是逐步回歸方法的有進(jìn)有出的思想。這種有進(jìn)有出的結(jié)果說(shuō)明自變量之間具有相關(guān)性，如果自變量之間是完全不相關(guān)的，那么引入的自變量就不會(huì)再被剔除，而剔除的自變量也就不會(huì)再被引入，這時(shí)逐步回歸方法與前進(jìn)法的結(jié)果是相同的。

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心47§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心48§7.4實(shí)例與評(píng)注

一、逐步回歸實(shí)例分析例7.5為了研究香港股市的變化規(guī)律，此例以恒生指數(shù)為例，建立回歸方程，分析影響股票價(jià)格趨勢(shì)變動(dòng)的因素。這里研究的股票價(jià)格指數(shù)，并非某一種股票的價(jià)格，它是綜合反映股票市場(chǎng)上所有上市股票價(jià)格整體水平變化的指標(biāo)。

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心48§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心49§7.4實(shí)例與評(píng)注

目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心49§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心50§7.4實(shí)例與評(píng)注目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心50§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心51§7.4實(shí)例與評(píng)注目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心51§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心52§7.4實(shí)例與評(píng)注香港作為國(guó)際金融中心之一，它的證券市場(chǎng)是高度向國(guó)際開(kāi)放的。事實(shí)上，1987年以前，香港證券市場(chǎng)上的股份所有權(quán)有50%以上掌握在外國(guó)經(jīng)營(yíng)機(jī)構(gòu)手中，因此，從理論上講作為反映港幣匯率水平的主要指標(biāo)港匯指數(shù)應(yīng)該與股票價(jià)格有高度相關(guān)，但事實(shí)并非如此。原因何在?目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心52§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心53§7.4實(shí)例與評(píng)注觀察1974—1988年的港匯指數(shù)值，可以看出除1981年、1982年出現(xiàn)大起大落外，港匯指數(shù)的波動(dòng)一直處于比較平穩(wěn)的狀態(tài)，說(shuō)明港幣一直比較堅(jiān)挺。(至于1981年、1982年我們應(yīng)把它視為特殊年份，1981年提出香港回歸問(wèn)題，1982年英首相訪華，正是這一連串的政治事件造成了港幣匯率的大幅變動(dòng)。)由于匯率波動(dòng)不大，自然對(duì)股價(jià)不會(huì)產(chǎn)生很大的影響。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心53§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心54§7.4實(shí)例與評(píng)注目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心54§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心55§7.4實(shí)例與評(píng)注目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心55§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心56§7.4實(shí)例與評(píng)注如果進(jìn)一步作回歸診斷，可以發(fā)現(xiàn)該回歸模型滿足正態(tài)性假設(shè)，無(wú)異方差、無(wú)序列相關(guān)等。因此，運(yùn)用該回歸方程可以對(duì)恒生指數(shù)的變動(dòng)成因作一些分析。影響恒生指數(shù)的主要因素為成交額、人均生產(chǎn)總值和房地產(chǎn)買(mǎi)賣(mài)金額。成交額作為反映市場(chǎng)因素的主要指標(biāo)對(duì)股票價(jià)格有著重要的影響。香港股市上，成交額每增長(zhǎng)100萬(wàn)港元，恒生指數(shù)上漲0.355個(gè)百分點(diǎn)。人均生產(chǎn)總值是反映經(jīng)濟(jì)狀況的主要指標(biāo)，它代表了經(jīng)濟(jì)環(huán)境對(duì)股票價(jià)格的影響，香港人均生產(chǎn)總值每上升100港元，恒生指數(shù)上漲1.286個(gè)百分點(diǎn)。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心56§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心57§7.4實(shí)例與評(píng)注另外，房地產(chǎn)買(mǎi)賣(mài)金額每增加100萬(wàn)港元，恒生指數(shù)上漲0.442個(gè)百分點(diǎn)，這是香港股市區(qū)別于其他股票市場(chǎng)的一大特色。香港的證券市場(chǎng)反映了香港的財(cái)政與貿(mào)易活動(dòng)，但證券市場(chǎng)的大部分資金卻投入了房地產(chǎn)部門(mén)，因?yàn)椴粍?dòng)產(chǎn)是香港投資商致富的主要源泉。因此，房地產(chǎn)事業(yè)相應(yīng)地對(duì)股票市場(chǎng)產(chǎn)生了重大影響，它的影響程度甚至強(qiáng)于其他所有因素。所以說(shuō)，這是香港股市的一大特色。

二、評(píng)注從本章§7.1討論的自變量選擇對(duì)參數(shù)估計(jì)和預(yù)測(cè)的影響來(lái)看，自變量的選擇是回歸分析建模中的一個(gè)非常重要的基本問(wèn)題。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心57§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心58§7.4實(shí)例與評(píng)注在對(duì)一個(gè)實(shí)際經(jīng)濟(jì)問(wèn)題建立回歸模型時(shí)，首先根據(jù)經(jīng)濟(jì)理論和采集樣本數(shù)據(jù)的條件限制，來(lái)定性地確定一些對(duì)所研究經(jīng)濟(jì)現(xiàn)象有重要影響的因素，這些因素就是所謂的自變量。由于我們認(rèn)識(shí)水平的局限，從事物的表面很難分清哪些自變量對(duì)因變量有重要影響，哪些自變量間存在著嚴(yán)重的相關(guān)性。而且通?？赡軙?huì)認(rèn)為研究某個(gè)經(jīng)濟(jì)現(xiàn)象的回歸問(wèn)題，考慮的越細(xì)越周到肯定會(huì)好，這樣自然就會(huì)羅列出很多自變量。通過(guò)自變量選擇對(duì)參數(shù)估計(jì)和預(yù)測(cè)的影響分析，我們得到的重要結(jié)論是，回歸方程并非自變量越多越好，當(dāng)一些對(duì)因變量影響不大的自變量進(jìn)入回歸方程后，反而會(huì)使參數(shù)估計(jì)的穩(wěn)定性變差，預(yù)測(cè)誤差的方差增大。因此，回歸模型中應(yīng)該保留對(duì)因變量影響最顯著的變量，即變量的個(gè)數(shù)和質(zhì)量要求是“少而精”。目錄上頁(yè)下頁(yè)返回結(jié)束2023/8/3中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心58§72023/9/5中國(guó)人民大學(xué)六西格瑪質(zhì)量管理研究中心59§7.4實(shí)例與評(píng)注由于變量之間的相關(guān)性，自變量間不同的組合對(duì)因變量y的影響是不一樣的，那么到底哪些自變量子集對(duì)應(yīng)的回歸方程是“最優(yōu)”的方程，這就要根據(jù)我們介紹的幾個(gè)衡量準(zhǔn)則在所有自變量子集中去挑選。挑選“最優(yōu)”的回歸方程就是選擇“最優(yōu)”自變量子集。這里的最優(yōu)打著引號(hào)實(shí)際上是指一個(gè)相對(duì)好的回歸方程，沒(méi)有絕對(duì)的最優(yōu)。我們所選的最優(yōu)回歸方程也是根據(jù)研究問(wèn)題的性質(zhì)和目的，用不同的準(zhǔn)則來(lái)衡量的結(jié)果。同一個(gè)回歸子集在不同的準(zhǔn)則衡量下結(jié)果可能是不一樣的。選擇哪一個(gè)回歸子集，用哪一個(gè)衡量準(zhǔn)則要根據(jù)我們研究問(wèn)題的目的。回歸模型常用的三個(gè)方面是：結(jié)構(gòu)分析、預(yù)測(cè)、控制。目錄上頁(yè)下頁(yè)返