第九章-統(tǒng)計回歸模型

1、第九章第九章 統(tǒng)計回歸模型統(tǒng)計回歸模型9.1 牙膏的銷售量牙膏的銷售量9.2 軟件開發(fā)人員的薪金軟件開發(fā)人員的薪金9.3 投資額與國民生產(chǎn)總值和物價指數(shù)投資額與國民生產(chǎn)總值和物價指數(shù)回歸模型是用回歸模型是用統(tǒng)計分析方法建立的最常用的一類模型統(tǒng)計分析方法建立的最常用的一類模型 統(tǒng)計回歸建模的基本方法統(tǒng)計回歸建模的基本方法機理分析機理分析測試分析測試分析通過對數(shù)據(jù)的統(tǒng)計分析，找出與數(shù)據(jù)擬合最好的模型通過對數(shù)據(jù)的統(tǒng)計分析，找出與數(shù)據(jù)擬合最好的模型 不涉及回歸分析的數(shù)學(xué)原理和方法不涉及回歸分析的數(shù)學(xué)原理和方法 通過實例討論如何選擇不同類型的模型通過實例討論如何選擇不同類型的模型 對軟件得到的結(jié)果進行分

2、析，對模型進行改進對軟件得到的結(jié)果進行分析，對模型進行改進 由于客觀事物內(nèi)部規(guī)律的復(fù)雜及人們認識程度的限制由于客觀事物內(nèi)部規(guī)律的復(fù)雜及人們認識程度的限制,無法分析實際對象內(nèi)在的因果關(guān)系，建立合乎機理規(guī)無法分析實際對象內(nèi)在的因果關(guān)系，建立合乎機理規(guī)律的數(shù)學(xué)模型。律的數(shù)學(xué)模型。 9.1 牙膏的銷售量牙膏的銷售量 問問題題建立牙膏銷售量與價格、廣告投入之間的模型建立牙膏銷售量與價格、廣告投入之間的模型 預(yù)測在不同價格和廣告費用下的牙膏銷售量預(yù)測在不同價格和廣告費用下的牙膏銷售量 收集了收集了30個銷售周期本公司牙膏銷售量、價格、個銷售周期本公司牙膏銷售量、價格、廣告費用，及同期其它廠家同類牙膏的平均

3、售價廣告費用，及同期其它廠家同類牙膏的平均售價 9.260.556.804.253.70307.930.055.803.853.80298.510.256.754.003.7527.38-0.055.503.803.851銷售量銷售量(百萬支百萬支)價格差價格差（元）（元）廣告費用廣告費用(百萬元百萬元)其它廠家其它廠家價格價格(元元)本公司價本公司價格格(元元)銷售銷售周期周期基本模型基本模型y 公司牙膏銷售量公司牙膏銷售量x1其它廠家與本公司其它廠家與本公司價格差價格差x2公司廣告費用公司廣告費用110 xy222210 xxy55.566.577.577.588.599.510 x2y-

4、0.200.20.40.677.588.599.510 x1y22322110 xxxyx1, x2解釋變量解釋變量(回歸變量回歸變量, 自變量自變量) y被解釋變量（因變量）被解釋變量（因變量） 0, 1 , 2 , 3 回歸系數(shù)回歸系數(shù) 隨機隨機誤差（誤差（均值為零的均值為零的正態(tài)分布隨機變量）正態(tài)分布隨機變量）MATLAB 統(tǒng)計工具箱統(tǒng)計工具箱 模型求解模型求解b,bint,r,rint,stats=regress(y,x,alpha) 輸入輸入 x= n 4數(shù)數(shù)據(jù)矩陣據(jù)矩陣, 第第1列為全列為全1向量向量1 2221xxxalpha(置信置信水平水平,0.05) 22322110 xx

5、xyb 的的估計值估計值 bintb的置信區(qū)間的置信區(qū)間 r 殘差向量殘差向量y-xb rintr的置信區(qū)間的置信區(qū)間 Stats檢驗統(tǒng)計量檢驗統(tǒng)計量 R2,F, p yn維數(shù)據(jù)向量維數(shù)據(jù)向量輸出輸出 由數(shù)據(jù)由數(shù)據(jù) y,x1,x2估計估計 參數(shù)參數(shù)參數(shù)估計值參數(shù)估計值置信區(qū)間置信區(qū)間17.32445.7282 28.92061.30700.6829 1.9311 -3.6956-7.4989 0.1077 0.34860.0379 0.6594 R2=0.9054 F=82.9409 p=0.0000 0 1 2 3結(jié)果分析結(jié)果分析y的的90.54%可由模型確定可由模型確定 參數(shù)參數(shù)參數(shù)估計值

6、參數(shù)估計值置信區(qū)間置信區(qū)間17.32445.7282 28.92061.30700.6829 1.9311 -3.6956-7.4989 0.1077 0.34860.0379 0.6594 R2=0.9054 F=82.9409 p=0.0000 0 1 2 322322110 xxxyF遠超過遠超過F檢驗的臨界值檢驗的臨界值 p遠小于遠小于 =0.05 2的置信區(qū)間包含零點的置信區(qū)間包含零點(右端點距零點很近右端點距零點很近) x2對因變量對因變量y 的的影響不太顯著影響不太顯著x22項顯著項顯著 可將可將x2保留在模型中保留在模型中 模型從整體上看成立模型從整體上看成立22322110

7、xxxy銷售量預(yù)測銷售量預(yù)測 價格差價格差x1=其它廠家其它廠家價格價格x3-本公司本公司價格價格x4估計估計x3調(diào)整調(diào)整x4控制價格差控制價格差x1=0.2元，投入廣告費元，投入廣告費x2=650萬元萬元銷售量預(yù)測區(qū)間為銷售量預(yù)測區(qū)間為 7.8230，8.7636（置信度（置信度95%）上限用作庫存管理的目標值上限用作庫存管理的目標值 下限用來把握公司的現(xiàn)金流下限用來把握公司的現(xiàn)金流 若估計若估計x3=3.9，設(shè)定，設(shè)定x4=3.7，則可以，則可以95%的把握的把握知道銷售額在知道銷售額在 7.8320 3.7 29（百萬元）以上（百萬元）以上控制控制x1通過通過x1, x2預(yù)測預(yù)測y293

8、3.822322110 xxxy(百萬支百萬支)模型改進模型改進x1和和x2對對y的的影響?yīng)毩⒂绊應(yīng)毩?22322110 xxxy21422322110 xxxxxy參數(shù)參數(shù)參數(shù)估計值參數(shù)估計值置信區(qū)間置信區(qū)間17.32445.7282 28.92061.30700.6829 1.9311 -3.6956-7.4989 0.1077 0.34860.0379 0.6594 R2=0.9054 F=82.9409 p=0.0000 0 1 2 3參數(shù)參數(shù)參數(shù)估計值參數(shù)估計值置信區(qū)間置信區(qū)間29.113313.7013 44.525211.13421.9778 20.2906 -7.6080-12

9、.6932 -2.5228 0.67120.2538 1.0887 -1.4777-2.8518 -0.1037 R2=0.9209 F=72.7771 p=0.0000 3 0 1 2 4x1和和x2對對y的影響有的影響有交互作用交互作用兩模型銷售量預(yù)測兩模型銷售量預(yù)測比較比較21422322110 xxxxxy22322110 xxxy2933. 8 y(百萬支百萬支)區(qū)間區(qū)間 7.8230，8.7636區(qū)間區(qū)間 7.8953，8.7592 3272. 8 y(百萬支百萬支)控制價格差控制價格差x1=0.2元，投入廣告費元，投入廣告費x2=6.5百萬元百萬元預(yù)測區(qū)間長度更短預(yù)測區(qū)間長度更短

10、 略有增加略有增加 y x2=6.5x1=0.2 -0.200.20.40.67.588.59x1y -0.200.20.40.67.588.59x1y 56787.588.599.510 x2y 567888.599.51010.5x2y 22322110 xxxy21422322110 xxxxxy兩模型兩模型 與與x1, ,x2關(guān)系的關(guān)系的比較比較y 交互作用影響的討論交互作用影響的討論2221 . 06712. 07558. 72267.301xxyx價格差價格差 x1=0.1 價格差價格差 x1=0.32223 . 06712. 00513. 84535.321xxyx2142232

11、2110 xxxxxy5357. 72x加大廣告投入使銷售量增加加大廣告投入使銷售量增加 （ x2大于大于6百萬元）百萬元）價格差較小時增加價格差較小時增加的速率更大的速率更大 56787.588.599.51010.5x1=0.1x1=0.3x2y 1 . 03 . 011xxyy價格優(yōu)勢會使銷售量增加價格優(yōu)勢會使銷售量增加 價格差較小時更需要靠廣告價格差較小時更需要靠廣告來吸引顧客的眼球來吸引顧客的眼球 完全二次多項式模型完全二次多項式模型 22521421322110 xxxxxxyMATLAB中有命令中有命令rstool直接求解直接求解00.20.47.588.599.5105.566

12、.57x1x2y ),(543210從輸出從輸出 Export 可得可得9.2 軟件開發(fā)人員的薪金軟件開發(fā)人員的薪金資歷資歷 從事專業(yè)工作的年數(shù)；管理從事專業(yè)工作的年數(shù)；管理 1= =管理人員，管理人員，0= =非管理人非管理人員；教育員；教育 1= =中學(xué)，中學(xué)，2= =大學(xué)，大學(xué)，3= =更高程度更高程度建立模型研究薪金與資歷、管理責(zé)任、教育程度的關(guān)系建立模型研究薪金與資歷、管理責(zé)任、教育程度的關(guān)系分析人事策略的合理性，作為新聘用人員薪金的參考分析人事策略的合理性，作為新聘用人員薪金的參考 編編號號薪金薪金資資歷歷管管理理教教育育011387611102116081030318701113

13、0411283102編編號號薪金薪金資資歷歷管管理理教教育育422783716124318838160244174831601451920717024619346200146名軟件開發(fā)人員的檔案資料名軟件開發(fā)人員的檔案資料 分析與假設(shè)分析與假設(shè) y 薪金薪金，x1 資歷（年）資歷（年）x2 = = 1 管理人員，管理人員，x2 = = 0 非管理人員非管理人員1= =中學(xué)中學(xué)2= =大學(xué)大學(xué)3= =更高更高其它中學(xué),x013其它大學(xué),x014資歷每加一年薪金的增長是常數(shù)；資歷每加一年薪金的增長是常數(shù)；管理、教育、資歷之間無交互作用管理、教育、資歷之間無交互作用 教教育育443322110 xa

14、xaxaxaay線性回歸模型線性回歸模型 a0, a1, , a4是待估計的回歸系數(shù)，是待估計的回歸系數(shù)， 是隨機誤差是隨機誤差 中學(xué)：中學(xué)：x3=1, x4=0 ；大大學(xué)：學(xué)：x3=0, x4=1； 更高：更高：x3=0, x4=0 模型求解模型求解443322110 xaxaxaxaay參數(shù)參數(shù)參數(shù)估計值參數(shù)估計值置信區(qū)間置信區(qū)間a011032 10258 11807 a1546 484 608 a26883 6248 7517 a3-2994 -3826 -2162 a4148 -636 931 R2=0.957 F=226 p=0.000R2,F, p 模型整體上可用模型整體上可用資歷

15、增加資歷增加1年薪年薪金增長金增長546 管理人員薪金多管理人員薪金多6883 中學(xué)程度薪金比更中學(xué)程度薪金比更高的少高的少2994 大學(xué)程度薪金比更大學(xué)程度薪金比更高的多高的多148 a4置信區(qū)間包含零點，置信區(qū)間包含零點，解釋不可靠解釋不可靠! !中學(xué)：中學(xué)：x3=1, x4=0;大大學(xué)：學(xué)：x3=0, x4=1; 更高：更高：x3=0, x4=0. x2 = = 1 管理，管理，x2 = = 0 非管理非管理x1資歷資歷( (年年) )殘差分析方法殘差分析方法 結(jié)果分析結(jié)果分析443322110 xaxaxaxaay殘差殘差yyee 與資歷與資歷x1的關(guān)系的關(guān)系 05101520-200

16、0-1000010002000e與管理與管理教育組合的關(guān)系教育組合的關(guān)系 123456-2000-1000010002000殘差全為正，或全為負，管殘差全為正，或全為負，管理理教育組合處理不當教育組合處理不當 殘差大概分成殘差大概分成3個水平，個水平， 6種管理種管理教育組合混在教育組合混在一起，未正確反映一起，未正確反映 。應(yīng)在模型中增加管理應(yīng)在模型中增加管理x2與教育與教育x3, x4的交互項的交互項 組合組合123456管理管理010101教育教育112233管理與教育的組合管理與教育的組合426325443322110 xxaxxaxaxaxaxaay進一步的模型進一步的模型增加管理增

17、加管理x2與教育與教育x3, x4的交互項的交互項參數(shù)參數(shù)參數(shù)估計值參數(shù)估計值置信區(qū)間置信區(qū)間a01120411044 11363a1497486 508a270486841 7255a3-1727-1939 -1514a4-348-545 152a5-3071-3372 -2769a618361571 2101R2=0.999 F=554 p=0.000R2, ,F有改進，所有回歸系數(shù)置信有改進，所有回歸系數(shù)置信區(qū)間都不含零點，模型完全可用區(qū)間都不含零點，模型完全可用 消除了不正常現(xiàn)象消除了不正?，F(xiàn)象 異常數(shù)據(jù)異常數(shù)據(jù)( (33號號) )應(yīng)去掉應(yīng)去掉 05101520-1000-500050

18、0e x1 123456-1000-5000500e 組合組合去掉異常數(shù)據(jù)后去掉異常數(shù)據(jù)后的結(jié)果的結(jié)果參數(shù)參數(shù)參數(shù)估計值參數(shù)估計值置信區(qū)間置信區(qū)間a01120011139 11261a1498494 503a270416962 7120a3-1737-1818 -1656a4-356-431 281a5-3056-3171 2942a619971894 2100R2= 0.9998 F=36701 p=0.000005101520-200-1000100200e x1 123456-200-1000100200e 組合組合R2： 0.957 0.999 0.9998F： 226 554 367

19、01 置信區(qū)間長度更短置信區(qū)間長度更短殘差殘差圖十分正常圖十分正常最終模型的結(jié)果可以應(yīng)最終模型的結(jié)果可以應(yīng)用用模型應(yīng)用模型應(yīng)用 制訂制訂6種管理種管理教育組合人員的教育組合人員的“基礎(chǔ)基礎(chǔ)”薪金薪金( (資歷為資歷為0）組合組合管理管理教育教育系數(shù)系數(shù)“基礎(chǔ)基礎(chǔ)”薪金薪金101a0+a39463211a0+a2+a3+a513448302a0+a410844412a0+a2+a4+a619882503a011200613a0+a218241426325443322110 xxaxxaxaxaxaxaay中學(xué)：中學(xué)：x3=1, x4=0 ；大；大學(xué)：學(xué)：x3=0, x4=1； 更高：更高：x3=

20、0, x4=0 x1= = 0； x2 = = 1 管理，管理，x2 = = 0 非管理非管理大學(xué)程度管理人員比大學(xué)程度管理人員比更高更高程度管理人員的薪金高程度管理人員的薪金高 大學(xué)程度非管理人員比大學(xué)程度非管理人員比更高更高程度非管理人員的薪金略低程度非管理人員的薪金略低 對定性因素對定性因素( (如管理、教育如管理、教育) )，可以，可以引入引入0- -1變量變量處理，處理，0- -1變量的個數(shù)應(yīng)比定性因素的水平少變量的個數(shù)應(yīng)比定性因素的水平少1 軟件開發(fā)人員的薪金軟件開發(fā)人員的薪金殘差分析方法殘差分析方法可以發(fā)現(xiàn)模型的缺陷，可以發(fā)現(xiàn)模型的缺陷，引入交互作用項引入交互作用項常常能夠改善模

21、型常常能夠改善模型 剔除異常數(shù)據(jù)剔除異常數(shù)據(jù)，有助于得到更好的結(jié)果，有助于得到更好的結(jié)果注：可以直接對注：可以直接對6種管理種管理教育組合引入教育組合引入5個個0- -1變量變量 9.3 投資額與國民生產(chǎn)總值和物價指數(shù)投資額與國民生產(chǎn)總值和物價指數(shù) 問問題題建立投資額模型，研究建立投資額模型，研究某地區(qū)某地區(qū)實際投資額與國實際投資額與國民生產(chǎn)總值民生產(chǎn)總值 ( GNP ) 及物價指數(shù)及物價指數(shù) ( PI ) 的關(guān)系的關(guān)系2.06883073.0424.5201.00001185.9195.0101.95142954.7474.9190.96011077.6166.491.78422631.74

22、01.9180.9145 992.7144.281.63422417.8423.0170.8679 944.0149.371.50422163.9386.6160.8254 873.4133.361.40051918.3324.1150.7906 799.0122.851.32341718.0257.9140.7676 756.0125.741.25791549.2206.1130.7436 691.1113.531.15081434.2228.7120.7277 637.797.421.05751326.4 229.8110.7167 596.7 90.91物價物價指數(shù)指數(shù)國民生國民生產(chǎn)總值

23、產(chǎn)總值投資額投資額年份年份序號序號物價物價指數(shù)指數(shù)國民生產(chǎn)國民生產(chǎn)總值總值投資額投資額年份年份序號序號根據(jù)對未來根據(jù)對未來GNP及及PI的估計，預(yù)測未來投資額的估計，預(yù)測未來投資額 該地區(qū)該地區(qū)連續(xù)連續(xù)20年的統(tǒng)計數(shù)據(jù)年的統(tǒng)計數(shù)據(jù) 時間序列中同一變量的順序觀測值之間存在時間序列中同一變量的順序觀測值之間存在自相關(guān)自相關(guān)以時間為序的數(shù)據(jù)，稱為以時間為序的數(shù)據(jù)，稱為時間序列時間序列 分分析析許多經(jīng)濟數(shù)據(jù)在時間上有一定的許多經(jīng)濟數(shù)據(jù)在時間上有一定的滯后滯后性性 需要診斷并消除數(shù)據(jù)的自相關(guān)性，建立新的模型需要診斷并消除數(shù)據(jù)的自相關(guān)性，建立新的模型若采用普通回歸模型直接處理，將會出現(xiàn)不良后果若采用普通回

24、歸模型直接處理，將會出現(xiàn)不良后果 投資額與國民生產(chǎn)總值和物價指數(shù)投資額與國民生產(chǎn)總值和物價指數(shù) 1.32341718.0257.9140.7676 756.0125.741.25791549.2206.1130.7436 691.1113.531.15081434.2228.7120.7277 637.797.421.05751326.4 229.8110.7167 596.7 90.91物價物價指數(shù)指數(shù)國民生國民生產(chǎn)總值產(chǎn)總值投資額投資額年份年份序號序號物價物價指數(shù)指數(shù)國民生產(chǎn)國民生產(chǎn)總值總值投資額投資額年份年份序號序號基本回歸模型基本回歸模型投資額與投資額與 GNP及物價指數(shù)間均有很強的線

25、性關(guān)系及物價指數(shù)間均有很強的線性關(guān)系ttttxxy22110t 年份，年份， yt 投資額，投資額，x1t GNP, x2t 物價指數(shù)物價指數(shù) 0, 1, 2 回歸系數(shù)回歸系數(shù) x1tytx2tyt t 對對t相互相互獨立的零均值正態(tài)隨機變量獨立的零均值正態(tài)隨機變量基本回歸模型的結(jié)果與分析基本回歸模型的結(jié)果與分析 tttxxy21479.8596185. 0725.322MATLAB 統(tǒng)計工具箱統(tǒng)計工具箱 參數(shù)參數(shù)參數(shù)估計值參數(shù)估計值置信區(qū)間置信區(qū)間 0322.7250224.3386 421.1114 10.61850.4773 0.7596 2-859.4790-1121.4757 -59

26、7.4823 R2= 0.9908 F= 919.8529 p=0.0000剩余標準差剩余標準差 s=12.7164 沒有考慮時間序列數(shù)據(jù)的沒有考慮時間序列數(shù)據(jù)的滯后性影響滯后性影響R20.9908，擬合度高，擬合度高模型優(yōu)點模型優(yōu)點模型缺點模型缺點可能忽視了隨機誤差存在可能忽視了隨機誤差存在自相關(guān)自相關(guān)；如果；如果存在自相關(guān)性，用此模型會有不良后果存在自相關(guān)性，用此模型會有不良后果自相關(guān)性的定性診斷自相關(guān)性的定性診斷 殘差診斷法殘差診斷法tttyye模型殘差模型殘差作殘差作殘差 etet-1 散點圖散點圖大部分點落在第大部分點落在第1, 3象限象限 t 存在正的自相關(guān)存在正的自相關(guān) 大部分點

27、落在第大部分點落在第2, 4象限象限 自相關(guān)性直觀判斷自相關(guān)性直觀判斷在在MATLAB工作區(qū)中輸出工作區(qū)中輸出et為隨機誤差為隨機誤差 t 的估計值的估計值 -30-20-1001020-30-20-1001020et-1et t 存在負的自相關(guān)存在負的自相關(guān) 基本回歸基本回歸模型的隨機誤模型的隨機誤差項差項 t 存在正的自相關(guān)存在正的自相關(guān) 自回歸自回歸性性的的定量診斷定量診斷自回歸模型自回歸模型tttttttuxxy122110,自相關(guān)系數(shù)自相關(guān)系數(shù) 1| 0, 1, 2 回歸系數(shù)回歸系數(shù) = 0無無自相關(guān)性自相關(guān)性 0 0如何估計如何估計 如何消除自相關(guān)如何消除自相關(guān)性性D-W統(tǒng)計量統(tǒng)計

28、量D-W檢驗檢驗 ut 對對t相互相互獨立的零均值正態(tài)隨機變量獨立的零均值正態(tài)隨機變量存在負存在負自相關(guān)性自相關(guān)性存在正存在正自相關(guān)性自相關(guān)性廣義差分法廣義差分法 D-W統(tǒng)計量與統(tǒng)計量與D-W檢驗檢驗 nttnttteeeDW22221)(檢驗水平檢驗水平, ,樣本容量，樣本容量，回歸變量數(shù)目回歸變量數(shù)目D-W分布分布表表nttnttteee222112）（12n較大較大nttnttteee2221/4011DWDW4-dU44-dLdUdL20正正自自相相關(guān)關(guān)負負自自相相關(guān)關(guān)不不能能確確定定不不能能確確定定無無自自相相關(guān)關(guān)20DW01DW41DW檢驗檢驗臨界值臨界值dL和和dU由由DW值的大

29、小確定值的大小確定自相關(guān)性自相關(guān)性廣義差分變換廣義差分變換 )1 (0*0以以 *0, 1 , 2 為為回歸系數(shù)的普通回歸模型回歸系數(shù)的普通回歸模型原模型原模型 DW值值 D-W檢驗檢驗無自相關(guān)無自相關(guān) 有自相關(guān)有自相關(guān) 廣義廣義差分差分繼續(xù)此繼續(xù)此過程過程原模型原模型 新模型新模型 新模型新模型 ttttuxxy*22*11*0*步驟步驟 原模型原模型tttttttuxxy122110,1*tttyyy2, 1,1,*ixxxtiitit變換變換）（12DW21DW不能確定不能確定增加數(shù)據(jù)量；增加數(shù)據(jù)量；選用其它方法選用其它方法 投資額新模型的建立投資額新模型的建立 DWold dL 作變換

30、作變換 原模型原模型殘差殘差et樣本容量樣本容量n=20，回歸，回歸變量數(shù)目變量數(shù)目k=3， =0.05 查表查表臨界值臨界值dL=1.10, dU=1.54DWold=0.8754原模型有原模型有正自相關(guān)正自相關(guān)1*5623. 0tttyyy2 , 1,5623. 01,*ixxxtiititnttnttteeeDW22221)(5623. 02/1DWDW4-dU44-dLdUdL20正正自自相相關(guān)關(guān)負負自自相相關(guān)關(guān)不不能能確確定定不不能能確確定定無無自自相相關(guān)關(guān)參數(shù)參數(shù)參數(shù)估計值參數(shù)估計值置信區(qū)間置信區(qū)間 *0163.49051265.4592 2005.2178 10.69900.5751 0.8247 2-1009.0333-1235.9392 -782.1274R2= 0.9772 F=342.8988 p=0.0000ttttuxxy*22*11*0*21*0*2*1*,，估計系數(shù)由數(shù)據(jù)tttxxy總體效果良好總體效果良好 剩余標準差剩余標準差 snew= 9.8277 sold=12.7164投資額新模型的建立投資額新模型的建立 1*5623. 0tttyyy2 , 1,5623. 01,*i