因子分析數(shù)學(xué)模型.ppt

1、因子分析,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因

2、子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子

3、分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,R型因

4、子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子

5、分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分

6、析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,R型因子分析 Q型因子

7、分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,用矩陣表示,R型因子分析 Q型因子分析 R型因子分析的數(shù)學(xué)模型,簡記為,且滿足,為任一個(gè)m 階的正交陣，上式仍滿足約束條件,因子分析每個(gè)相應(yīng)的系數(shù)不是唯一的，即因子載荷陣不是唯一的。,通過模型 以F 代替X ，由于mp,從而達(dá)到簡化變量維數(shù)目的。,因子分析的目的,正交因子模型中各統(tǒng)計(jì)量的意義,因子載荷的統(tǒng)計(jì)意義 因子載荷aij 的統(tǒng)計(jì)意義是第i 個(gè)變量與第j 個(gè)公共因子的相關(guān)系數(shù)。用統(tǒng)計(jì)學(xué)術(shù)語叫權(quán)重，表示Xi 依賴Fj 的份量（比重）。,因子載荷陣A中第i行元素的平方和，即,稱為變量Xi 的共同度。

8、為了說明它的統(tǒng)計(jì)學(xué)意義，對(duì)Xi的表達(dá)式兩邊求方差，即,公共因子方差,剩余方差,變量共同度的統(tǒng)計(jì)意義,因子載荷陣A中各列元素的平方和記為,表示第j 個(gè)公共因子對(duì)所有分量的總影響，稱為第j 個(gè)公共因子對(duì)X 的貢獻(xiàn)，它是衡量第j 個(gè)因子相對(duì)重要性的指標(biāo),公共因子Fj方差的統(tǒng)計(jì)意義,因子載荷陣的估計(jì)方法,主成分法 主因子法 極大似然法,設(shè)樣本的協(xié)差陣的特征值和對(duì)應(yīng)的標(biāo)準(zhǔn)正交化特征向量分別為：,則協(xié)差陣可分解為,當(dāng)最后p-m個(gè)特征值較小時(shí)，協(xié)差陣可以近似的分解為,A即為因子協(xié)方差陣。 當(dāng)X的協(xié)方差陣未知，可以用樣本協(xié)方差陣S去代替。,因子旋轉(zhuǎn),不管用何種方法確定因子載荷矩陣A，它們都不是唯一的，我們可以

9、由任意一組初始公共因子做線性組合，得到新的一組公共因子，使得新的公共因子彼此之間相互獨(dú)立，同時(shí)也能很好的解釋原始變量之間的相關(guān)關(guān)系。 這樣的線性組合可以找到無數(shù)組，這樣就引出了因子旋轉(zhuǎn)。 因子旋轉(zhuǎn)的目的是為了找到意義更為明確，實(shí)際意義更明顯的公因子。 因子旋轉(zhuǎn)不改變變量共同度，只改變公因子的方差貢獻(xiàn)。,因子旋轉(zhuǎn)分為兩種：正交旋轉(zhuǎn)和斜交旋轉(zhuǎn) 特點(diǎn)： 正交旋轉(zhuǎn)：由因子載荷矩陣A左乘一正交陣而得到，經(jīng)過旋轉(zhuǎn)后的新的公因子仍然保持彼此獨(dú)立的性質(zhì)。正交變化主要包括方差最大旋轉(zhuǎn)法、四次最大正交旋轉(zhuǎn)、平均正交旋轉(zhuǎn)。 斜交旋轉(zhuǎn)：放棄了因子之間彼此獨(dú)立這個(gè)限制，可達(dá)到更簡潔的形式，實(shí)際意義也更容易解釋。 不論是

10、正交旋轉(zhuǎn)還是斜交旋轉(zhuǎn)，都應(yīng)該在因子旋轉(zhuǎn)后，使每個(gè)因子上的載荷盡可能拉開距離，一部分趨近1，一部分趨近0，使各個(gè)因子的實(shí)際意義能更清楚地表現(xiàn)出來。,方差最大化正交旋轉(zhuǎn),假設(shè)前提：公因子的解釋能力能夠以其因子載荷平方的方差來度量 先考慮兩個(gè)因子的平面正交旋轉(zhuǎn)：,對(duì)A按行計(jì)算共同度，考慮到各個(gè)變量的共同度之間的差異所造成的不平衡， 需對(duì)A中的元素進(jìn)行規(guī)格化處理，即每行的元素用每行的共同度除之。規(guī)格 化后的矩陣，為方便仍記為A，施行方差最大正交旋轉(zhuǎn)（C為正交陣）：,假設(shè)前提：公因子的解釋能力能夠以其因子載荷平方的方差來度量 先考慮兩個(gè)因子的平面正交旋轉(zhuǎn)：,對(duì)A按行計(jì)算共同度，考慮到各個(gè)變量的共同度之間

11、的差異所造成的不平衡， 需對(duì)A中的元素進(jìn)行規(guī)格化處理，即每行的元素用每行的共同度除之。規(guī)格 化后的矩陣，為方便仍記為A，施行方差最大正交旋轉(zhuǎn)（C為正交陣）：,假設(shè)前提：公因子的解釋能力能夠以其因子載荷平方的方差來度量 先考慮兩個(gè)因子的平面正交旋轉(zhuǎn)：,對(duì)A按行計(jì)算共同度，考慮到各個(gè)變量的共同度之間的差異所造成的不平衡， 需對(duì)A中的元素進(jìn)行規(guī)格化處理，即每行的元素用每行的共同度除之。規(guī)格 化后的矩陣，為方便仍記為A，施行方差最大正交旋轉(zhuǎn)（C為正交陣）：,假設(shè)前提：公因子的解釋能力能夠以其因子載荷平方的方差來度量 先考慮兩個(gè)因子的平面正交旋轉(zhuǎn)：,對(duì)A按行計(jì)算共同度，考慮到各個(gè)變量的共同度之間的差異所

12、造成的不平衡， 需對(duì)A中的元素進(jìn)行規(guī)格化處理，即每行的元素用每行的共同度除之。規(guī)格 化后的矩陣，為方便仍記為A，施行方差最大正交旋轉(zhuǎn)（C為正交陣）：,假設(shè)前提：公因子的解釋能力能夠以其因子載荷平方的方差來度量 先考慮兩個(gè)因子的平面正交旋轉(zhuǎn)：,對(duì)A按行計(jì)算共同度，考慮到各個(gè)變量的共同度之間的差異所造成的不平衡， 需對(duì)A中的元素進(jìn)行規(guī)格化處理，即每行的元素用每行的共同度除之。規(guī)格 化后的矩陣，為方便仍記為A，施行方差最大正交旋轉(zhuǎn)（C為正交陣）：,目的：希望所得結(jié)果能使載荷矩陣的每一列元素的絕對(duì)值盡可能向1和0兩極分化，即原始變量中一部分主要與第一因子有關(guān)，另一部分主要與第二因子有關(guān)，也就是要求（b

13、112,bp12），（b122,bp22）這兩組的方差盡量大。為此，正交旋轉(zhuǎn)的角度必須滿足使旋轉(zhuǎn)后得到因子載荷陣的總方差V1+V2=G達(dá)到最大。,經(jīng)過計(jì)算，其旋轉(zhuǎn)角度可按下面公式求得：,推廣到多個(gè)公共因子的情況,如果公共因子多于兩個(gè)，我們可以逐次對(duì)每兩個(gè)進(jìn)行上述的旋轉(zhuǎn)，設(shè)公共因子數(shù)m2 1.第一輪旋轉(zhuǎn)，每次取兩個(gè)，全部配對(duì)旋轉(zhuǎn)，變換共需進(jìn)行m(m-1)/2次 2.對(duì)第一輪旋轉(zhuǎn)所得結(jié)果用上述方法繼續(xù)進(jìn)行旋轉(zhuǎn)，得到第二輪旋轉(zhuǎn)結(jié)果。每一次旋轉(zhuǎn)后，矩陣各列平方的相對(duì)方差之和總會(huì)比上一次有所增加。 3.當(dāng)總方差的改變不大時(shí)，就可以停止旋轉(zhuǎn)。,因子得分,因子分析的數(shù)學(xué)模型是將變量表示為公共因子的線性組合。

14、由于公共因子能反映原始變量的相關(guān)關(guān)系，用公共因子代表原始變量時(shí)，有時(shí)更有利于描述研究對(duì)象的特征，因而往往需要反過來將公共因子表示成為變量的線性組合，即,稱上式為因子得分函數(shù)。,估計(jì)因子得分函數(shù)的方法,加權(quán)最小二乘法 回歸法 回歸法是1939年由Thomson提出來的，所以又稱為湯姆森回歸法。,Thomson假設(shè)公共因子可以對(duì)p個(gè)變量做回歸，由于假設(shè)變量及公共因子都已經(jīng)標(biāo)準(zhǔn)化了，所以常數(shù)項(xiàng)為0.即回歸方程為：,則，我們有如下的方程組：,我們現(xiàn)在僅知道由樣本值可得因子載荷陣A,由因子載荷的意義知：,j=1,2,m,于是F=BX,就是估計(jì)因子得分的計(jì)算公式。,記為B.,在估計(jì)出公因子得分后，可以利用

15、因子得分進(jìn)行進(jìn)一步的分析，如樣本點(diǎn)之間的比較分析，對(duì)樣本點(diǎn)的聚類分析等，當(dāng)因子數(shù)m較少時(shí)，還可以方便地把各樣本點(diǎn)在圖上表示出來，直觀地描述樣本的分布情況，從而便于把研究工作引向深入。,因子分析的步驟,計(jì)算所選原始變量的相關(guān)系數(shù)矩陣 相關(guān)系數(shù)矩陣描述了原始變量之間的相關(guān)關(guān)系?？梢詭椭袛嘣甲兞恐g是否存在相關(guān)關(guān)系，這對(duì)因子分析是非常重要的，因?yàn)槿绻x變量之間無關(guān)系，做因子分析是不恰當(dāng)?shù)?。并且相關(guān)系數(shù)矩陣是估計(jì)因子結(jié)構(gòu)的基礎(chǔ)。,選擇分析的變量 用定性分析和定量分析的方法選擇變量，因子分析的前提條件是觀 測(cè)變量間有較強(qiáng)的相關(guān)性，因?yàn)槿绻兞恐g無相關(guān)性或相關(guān)性較 小的話，他們不會(huì)有共享因子,所以

16、原始變量間應(yīng)該有較強(qiáng)的相關(guān)性。,提取公共因子 這一步要確定因子求解的方法和因子的個(gè)數(shù)。需要根據(jù)研究者的設(shè)計(jì)方案或有關(guān)的經(jīng)驗(yàn)或知識(shí)事先確定。因子個(gè)數(shù)的確定可以根據(jù)因子方差的大小。只取方差大于1(或特征值大于1)的那些因子，因?yàn)榉讲钚∮?的因子其貢獻(xiàn)可能很??；按照因子的累計(jì)方差貢獻(xiàn)率來確定，一般認(rèn)為要達(dá)到60才能符合要求。 因子旋轉(zhuǎn) 通過坐標(biāo)變換使每個(gè)原始變量在盡可能少的因子之間有密切的關(guān)系，這樣因子解的實(shí)際意義更容易解釋,并為每個(gè)潛在因子賦予有實(shí)際意義的名字。,計(jì)算因子得分 求出各樣本的因子得分，有了因子得分值，則可以在許多分析中使用這些因子，例如以因子的得分做聚類分析的變量，做回歸分析中的回歸

17、因子。,因子分析計(jì)算步驟與實(shí)例分析,對(duì)我國30個(gè)省市自治區(qū)的農(nóng)業(yè)生產(chǎn)情況作因子分析。從農(nóng)業(yè)生產(chǎn)條件和生產(chǎn)結(jié)果及效益出發(fā)，選取六項(xiàng)指標(biāo)分別為：X1鄉(xiāng)村勞動(dòng)力人口（萬人）、X2人均經(jīng)營耕地面積（畝）、X3戶均生產(chǎn)性固定資產(chǎn)原值（元）、X4家庭基本純收入（元）、X5人均農(nóng)業(yè)總產(chǎn)值（千元/人）、X6增加值占總產(chǎn)值比重（%）原始資料數(shù)據(jù)如下頁表:,第一步 將原始數(shù)據(jù)標(biāo)準(zhǔn)化 第二步 建立指標(biāo)間的相關(guān)系數(shù)陣R：,第三步 求R的特征值和特征向量。,由于前三個(gè)特征值累積貢獻(xiàn)率已達(dá)87.15%，所以取前三個(gè)特征值所對(duì)應(yīng)的特征向量如下：,第四步 列出因子載荷矩陣表。,第五步 對(duì)因子載荷陣實(shí)行方差最大正交旋轉(zhuǎn)，旋轉(zhuǎn)后的矩陣如下： 由上表可見，每個(gè)因子只對(duì)應(yīng)少數(shù)幾個(gè)指標(biāo)的因子載荷較大，因