第二篇多元統(tǒng)計分析

第二篇多元統(tǒng)計分析第1頁，課件共34頁，創(chuàng)作于2023年2月第一章回歸分析出發(fā)點：自然界中的事物是有聯(lián)系的。了解其聯(lián)系程度，對于聯(lián)系強的，研究其量的關(guān)系式（函數(shù)）。事物量之間的關(guān)系有兩種：（1）確定的函數(shù)關(guān)系：如Ｉ＝Ｖ／Ｒ（2）無法用數(shù)學(xué)表達式精確表示的相關(guān)關(guān)系，如煤的灰分和比重的關(guān)系。

相關(guān)：當一個隨機變量的值發(fā)生變化時，另一隨機變量的值也發(fā)生相應(yīng)變化，則稱這兩個量之間有相關(guān)關(guān)系。第2頁，課件共34頁，創(chuàng)作于2023年2月相關(guān)分析：主要研究隨機變量間有無相關(guān)關(guān)系及相關(guān)的程度；回歸分析：注重研究兩個隨機變量之間相關(guān)關(guān)系的表達形式；一般不加區(qū)分，統(tǒng)稱為回歸?；貧w分析是數(shù)理統(tǒng)計的一個重要分支，在生產(chǎn)和科研中有廣泛應(yīng)用，如求經(jīng)驗公式、確定最佳生產(chǎn)條件、進行預(yù)測等。第3頁，課件共34頁，創(chuàng)作于2023年2月回歸分析的主要內(nèi)容有以下五點：（1）從一組數(shù)據(jù)出發(fā)，確定變量間的定量關(guān)系式；（2）對定量關(guān)系式的可信程度進行統(tǒng)計檢驗。（3）要從影響某一個量變量中，判斷哪些變量的影響是顯著的，哪些是不顯著的；（4）利用所求得的關(guān)系式進行預(yù)測和控制。（5）近代又出現(xiàn)試驗設(shè)計等內(nèi)容。第4頁，課件共34頁，創(chuàng)作于2023年2月第一節(jié)一元線性回歸一、一元線性回歸的數(shù)學(xué)模型一元線性回歸主要是處理兩個變量；如x,y之間的關(guān)系。兩個量的關(guān)系有線性和非線性兩種，有一些非線性的關(guān)系可以轉(zhuǎn)化為線性的關(guān)系來處理。線性關(guān)系模型：

y=a+bx第5頁，課件共34頁，創(chuàng)作于2023年2月非線性情況有一些可轉(zhuǎn)化為線性：如：①y=axb②y=aebxy=aeb/xy=a+blogx等第6頁，課件共34頁，創(chuàng)作于2023年2月某煤礦１８個煤樣的灰分和容重。樣品號，容重，灰分

1,1.5,252,1.2,43,1.7,304,1.4,205,1.8,366,1.3,77,1.3,58,1.5,249,1.7,3310,1.3,411,1.5,1712,1.5,2413,1.6,2514,1.4,615,1.6,2616,1.5,2417,1.4,2018,1.5,9第7頁，課件共34頁，創(chuàng)作于2023年2月第8頁，課件共34頁，創(chuàng)作于2023年2月設(shè)其線性關(guān)系模型是：

y=a+bx其中y為灰分

x為容重。第9頁，課件共34頁，創(chuàng)作于2023年2月二、參數(shù)a,b的最小二乘法估計直線的形態(tài)處決于兩個參數(shù)a,b要使得直線參最好地擬合這組數(shù)據(jù)，就要求出最佳的a,b值。使用最小二乘法來求取最佳a,b值第10頁，課件共34頁，創(chuàng)作于2023年2月原理

設(shè)線性一元回歸方程為

對于每一個xi,都有二個值與之對應(yīng)，一個是實際觀測值yi,一個是回歸值yi^

這個回歸值yi^與實際預(yù)測值yi之差yi-yi^,刻畫了yi與回歸直線yi^=a+bx的偏離程度。對于所有的xi,若yi與yi^的偏差越小，則認為直線和所有的試驗點擬合得越好。第11頁，課件共34頁，創(chuàng)作于2023年2月刻畫了全部觀測值與回歸直線的偏差程度。最小二乘法，就是使Q(a,b)=min的一種方法。第12頁，課件共34頁，創(chuàng)作于2023年2月由于Q(a,b)o為a,b的二元二次方程，是非負的，所以其最小值總存在，根據(jù)微積分學(xué)中求極值原理，當下列式子成立時，Ｑ得最小值。這是一個關(guān)于a,b的二元一次方程組。解之，得a,b值。第13頁，課件共34頁，創(chuàng)作于2023年2月第14頁，課件共34頁，創(chuàng)作于2023年2月三、回歸方程的具體計算步驟求取lxx,lyy,lxy值，再求得b,a值。得回歸方程y=a+bx第15頁，課件共34頁，創(chuàng)作于2023年2月四、回歸方程的顯著性檢驗一、為何要檢驗：回歸時，假設(shè)了兩個變量x,y之間是線性關(guān)系，從而求出了線相關(guān)關(guān)系式。所以要檢驗其線性關(guān)系是否成立。第16頁，課件共34頁，創(chuàng)作于2023年2月二、如何檢驗1.幾個量：第17頁，課件共34頁，創(chuàng)作于2023年2月F――檢驗由于S總可分解為S回和Ｓ剩，且Ｓ回、Ｓ總、Ｓ剩都是χ２分布，其自由度f總＝n-1f回＝1f剩=n-2假設(shè)H0:b=0統(tǒng)計量

服從自由度為１和n-2的Ｆ分布。第18頁，課件共34頁，創(chuàng)作于2023年2月第19頁，課件共34頁，創(chuàng)作于2023年2月如上例中：S總=lyy=1866.5,S回=1488.288,S剩=378.212,F=1488.288/(378.212/16)=62.961,若取顯著性水平為0.05，查得F0.05(1,16)＝4.49，故在在顯著性水平0.05下，拒絕假設(shè)H0，即認為線性回歸效果是顯著的。或可認為在95％的置信度下，認為線性回歸效果是顯著的。第20頁，課件共34頁，創(chuàng)作于2023年2月對給定的觀察值而言，ST是不變的，SR大則SD??；SD越小，SR/ST越接近1。所以可引入無量綱指標r2=SR/ST來檢驗y與x之間的線性關(guān)系是否密切。稱為y與x的線性相關(guān)系數(shù)，簡稱相關(guān)系數(shù)。第21頁，課件共34頁，創(chuàng)作于2023年2月

r也為一統(tǒng)計量，r檢驗與F檢驗是等價的。事實上，SD=ST(1-r2)SR=STr2

F=(n-2)r2/(1-r2)

F較大等價于|r|較大，r的自由度為n-2。與F檢驗一樣，r也有臨界值r

。知道了r與自由度fr，可查r檢驗表，來檢驗y與x之間是否存在線性相關(guān)關(guān)系。因為r比F更直觀，所以r也是較常用的一種檢驗法。第22頁，課件共34頁，創(chuàng)作于2023年2月上例中，ST=lyy=1866.5,SR=1488.288,SD=378.212,

r2=0.7974第23頁，課件共34頁，創(chuàng)作于2023年2月五、利用回歸方程進行預(yù)測因為yi屬于正態(tài)分布，所以y0,y0^也屬于正態(tài)分布。正態(tài)分布的三σ原則第24頁，課件共34頁，創(chuàng)作于2023年2月第25頁，課件共34頁，創(chuàng)作于2023年2月六、可分為一元線性回歸的非線性情況第26頁，課件共34頁，創(chuàng)作于2023年2月第27頁，課件共34頁，創(chuàng)作于2023年2月第28頁，課件共34頁，創(chuàng)作于2023年2月六、本章小節(jié)一元線性回歸方法數(shù)學(xué)模型：y=a+bx最小二乘法估計a,b值第29頁，課件共34頁，創(chuàng)作于2023年2月

3、回歸方程及觀測直線（95％的置信區(qū)間）第30頁