方差分析、主成分分析、相關(guān)與回歸分析

1、PPT制作：小魚主成分分析主成分分析方差分析方差分析相關(guān)與回歸分析相關(guān)與回歸分析PPT制作：小魚目錄頁方差分析方差分析主成分分析主成分分析相關(guān)與回歸分析相關(guān)與回歸分析方差分析的應(yīng)用條件 （1）獨(dú)立，各組數(shù)據(jù)相互獨(dú)立，互不相關(guān) （2）正態(tài)，即各組數(shù)據(jù)符合正態(tài)分布 （3）方差齊性，即各組方差相等 統(tǒng)計(jì)學(xué)上的因素因素是指研究者所關(guān)心的實(shí)驗(yàn)條件，而水平水平是指因素的具體表現(xiàn)形式。如，溫度（30、60、90）、藥物種類（A、B、C）和產(chǎn)地（山東、安徽、江蘇）。溫度、藥物種溫度、藥物種類和產(chǎn)地就是因素，類和產(chǎn)地就是因素，而每個(gè)因素里具體的不同而每個(gè)因素里具體的不同形式就稱為水平形式就稱為水平單因素方差分析

2、 例:一共有4種不同的飼料喂豬，共有19頭豬分為4組，每組一種飼料，一段時(shí)間后稱重。比較4種飼料對豬的體重影響是否顯著不同。飼料的類型增加的體重 單擊“兩兩比較”主成分分析 是考察多個(gè)變量間相關(guān)性的一種多元統(tǒng)計(jì)方法，其主是考察多個(gè)變量間相關(guān)性的一種多元統(tǒng)計(jì)方法，其主要目的是用較少的變量去解釋原始數(shù)據(jù)中的大部分變異。要目的是用較少的變量去解釋原始數(shù)據(jù)中的大部分變異。它通常用來尋找判斷某種事物或現(xiàn)象的綜合指標(biāo)，并且給它通常用來尋找判斷某種事物或現(xiàn)象的綜合指標(biāo)，并且給綜合指標(biāo)所包含的信息以適當(dāng)?shù)慕忉?，從而更好的揭示事綜合指標(biāo)所包含的信息以適當(dāng)?shù)慕忉?，從而更好的揭示事物?nèi)在的規(guī)律。但在實(shí)際的應(yīng)用當(dāng)中，

3、主成分分析只是一物內(nèi)在的規(guī)律。但在實(shí)際的應(yīng)用當(dāng)中，主成分分析只是一種達(dá)到目的的中間手段，而不是最終目的，而要結(jié)合其他種達(dá)到目的的中間手段，而不是最終目的，而要結(jié)合其他的統(tǒng)計(jì)方法來處理問題。的統(tǒng)計(jì)方法來處理問題。2022-4-2616第二章第二章 主成分分析主成分分析 主成分分析（principal components analysis）。主成分分析是利用降維的思想，在損失很少信息的前提下把多個(gè)指標(biāo)轉(zhuǎn)化為幾個(gè)綜合指標(biāo)的多元統(tǒng)計(jì)方法。通常把轉(zhuǎn)化生成的綜合指標(biāo)稱之為主成分，其中每個(gè)主成分都是原始變量的線性組合，且各個(gè)主成分之間互不相關(guān)，這就使得主成分比原始變量具有某些更優(yōu)越的性能。這樣在研究復(fù)雜問

4、題時(shí)就可以只考慮少數(shù)幾個(gè)主成分而不至于損失太多信息，從而更容易抓住主要矛盾，揭示事物內(nèi)部變量之間的規(guī)律性，同時(shí)使問題得到簡化，提高分析效率。2022-4-2617主成分分析的基本思想主成分分析的基本思想 既然研究某一問題涉及的眾多變量之間有一定的相關(guān)性，就必然存在著起支配作用的共同因素，根據(jù)這一點(diǎn)，通過對原始變量相關(guān)矩陣或協(xié)方差矩陣內(nèi)部結(jié)構(gòu)關(guān)系的研究，利用原始變量的線性組合形成幾個(gè)綜合指標(biāo)（主成分），在保留原始變量主要信息的前提下起到降維與簡化問題的作用，使得在研究復(fù)雜問題時(shí)更容易抓住主要矛盾。一般地說，利用主成分分析得到的主成分與原始變量之間有如下基本關(guān)系：1.每一個(gè)主成分都是各原始變量的線

5、性組合；2.主成分的數(shù)目大大少于原始變量的數(shù)目2022-4-2618 目錄 上頁 下頁 返回 結(jié)束 3.主成分保留了原始變量絕大多數(shù)信息4.各主成分之間互不相關(guān) 通過主成分分析，可以從事物之間錯(cuò)綜復(fù)雜的關(guān)系中找出一些主要成分，從而能有效利用大量統(tǒng)計(jì)數(shù)據(jù)進(jìn)行定量分析，揭示變量之間的內(nèi)在關(guān)系，得到對事物特征及其發(fā)展規(guī)律的一些深層次的啟發(fā)，把研究工作引向深入。主成分分析的任務(wù) 1 計(jì)算主成分 首先將原有的變量標(biāo)準(zhǔn)化，然后計(jì)算各變量之間的相關(guān)矩陣、該矩陣的特征根特征根和特征向量，最后將特征根由大到小排列，分別計(jì)算出對應(yīng)的主成分。 2 確定主成分個(gè)數(shù)（1）累計(jì)貢獻(xiàn)率累計(jì)貢獻(xiàn)率：當(dāng)前k個(gè)主成分的累計(jì)貢獻(xiàn)率

6、達(dá)到某一特定值（一般采用70%以上）時(shí)，則保留前k個(gè)主成分。（2）特征根：一般選取特征根1的主成分。 表示主成分影響力度大小的指標(biāo)，即表示主成分影響力度大小的指標(biāo)，即 引入該主成分后可以解釋平均多少原始變量的引入該主成分后可以解釋平均多少原始變量的 信息，如果特征根小于信息，如果特征根小于1，說明該主成分的解，說明該主成分的解釋程度還不如直接引入一個(gè)原始變量釋程度還不如直接引入一個(gè)原始變量的平均解釋程度大。的平均解釋程度大。 表示前表示前k個(gè)主成分累計(jì)提取了原始變量多少的個(gè)主成分累計(jì)提取了原始變量多少的信息。信息。2022-4-2620注意的問題注意的問題1.首先應(yīng)當(dāng)認(rèn)識到主成分分析方法適用于

7、變量之間存在較強(qiáng)相關(guān)性的數(shù)據(jù)，如果原始數(shù)據(jù)相關(guān)性較弱，運(yùn)用主成分分析后不能起到很好的降維作用，即所得的各個(gè)主成分濃縮原始變量信息的能力差別不大。一般認(rèn)為當(dāng)原始數(shù)據(jù)大部分變量的相關(guān)系數(shù)都小于0.3時(shí)，運(yùn)用主成分分析不會取得很好的效果。2.主成分分析不能有效地剔除重疊信息，但它至少可以發(fā)現(xiàn)原始變量是否存在著重疊信息，這對我們減少分析中的失誤是有幫助的。2022-4-2621主成分分析步驟主成分分析步驟1.根據(jù)研究問題選取初始分析變量；2.根據(jù)初始變量特性判斷由協(xié)方差陣求主成分還是由相關(guān)陣求主成分；3.求協(xié)差陣或相關(guān)陣的特征根與相應(yīng)標(biāo)準(zhǔn)特征向量；4.判斷是否存在明顯的多重共線性，若存在，則回到第一步

8、；5.得到主成分的表達(dá)式并確定主成分個(gè)數(shù)，選取主成分；6.結(jié)合主成分對研究問題進(jìn)行分析并深入研究。 例：1980年某汽車制造商從競爭對手中選擇了17種車型，訪問了25名顧客，要求他們根據(jù)自己的偏好對這17種車型打分，打分范圍0-9.9分。如下表：點(diǎn)擊“繼續(xù)”，回到主頁點(diǎn)擊”確定“ 相關(guān)關(guān)系的常見類型：線性相關(guān)：正線性相關(guān)、負(fù)線性相關(guān)非線性相關(guān) 相關(guān)關(guān)系不象函數(shù)關(guān)系那樣直接,但卻普遍存在,且有強(qiáng)有弱.如何測度?相關(guān)分析和回歸分析的任務(wù)研究對象:相關(guān)關(guān)系 相關(guān)分析旨在測度變量間線性關(guān)系的強(qiáng)弱程度. 回歸分析側(cè)重考察變量之間的數(shù)量變化規(guī)律,并通過一定的數(shù)學(xué)表達(dá)式來描述這種關(guān)系,進(jìn)而確定一個(gè)或幾個(gè)變量

9、的變化對另一個(gè)變量的影響程度.回歸分析基本步驟 (1)確定自變量和因變量 (2)從樣本數(shù)據(jù)出發(fā)確定變量之間的數(shù)學(xué)關(guān)系式,并對回歸方程的各個(gè)參數(shù)進(jìn)行估計(jì). (3)對回歸方程進(jìn)行各種統(tǒng)計(jì)檢驗(yàn). (4)利用回歸方程進(jìn)行預(yù)測.相關(guān)分析(一)目的 通過樣本數(shù)據(jù),研究兩變量間線性相關(guān)程度的強(qiáng)弱.(例如:投資與收入之間的關(guān)系、GDP與通信需求之間的數(shù)量關(guān)系）(二)基本方法 繪制散點(diǎn)圖、計(jì)算相關(guān)系數(shù)繪制散點(diǎn)圖基本操作步驟 (1)菜單選項(xiàng):graphs-scatter (2)選擇散點(diǎn)圖類型: (3)選擇x軸和y軸的變量 (4)選擇分組變量(set markers by):分別以不同顏色點(diǎn)的表示 (5)選擇標(biāo)記變

10、量(label case by): 散點(diǎn)圖上可帶有標(biāo)記變量的值(如:省份名稱)計(jì)算相關(guān)系數(shù) (1)作用:以精確的相關(guān)系數(shù)(r)體現(xiàn)兩個(gè)變量間的線性關(guān)系程度.r:-1,+1; r=1:完全正相關(guān); r=-1:完全負(fù)相關(guān); r=0:無線性相關(guān); |r|0.8:強(qiáng)相關(guān); |r|correlate-bivariate.(2)選擇計(jì)算相關(guān)系數(shù)的變量到variables框.(3)選擇相關(guān)系數(shù)(correlation coefficients).(4)顯著性檢驗(yàn)(test of significance)tow-tailed:輸出雙尾概率P.one-tailed:輸出單尾概率P(一)一元回歸方程: y=0+1x0為常數(shù)項(xiàng)；1為y對x回歸系數(shù)，即:x每變動一個(gè)單位所引起的y的平均變動(二)一元回歸分析的步驟利用樣本數(shù)據(jù)建立回歸方程回歸方程的擬和優(yōu)度檢驗(yàn)回歸方程的顯著性檢驗(yàn)