因素分析方法

關(guān)于因素分析方法因素分析——FactorAnalysis系統(tǒng)分析與決策的四個進程：對系統(tǒng)進行描述性分析解析性分析預測性研究系統(tǒng)決策 因素分析法屬于描述性分析，它能保證在數(shù)據(jù)信息損失最小的前提下，從大規(guī)模的原始數(shù)據(jù)群中，迅速將重要的信息提取出來，將高維的數(shù)據(jù)進行降維處理，迅速的揭示出系統(tǒng)中的因子結(jié)構(gòu)，使人們對系統(tǒng)達到盡可能充分的認識，提高決策者的洞察力和分析效率。又稱作因子分析。第2頁,共20頁，2024年2月25日，星期天因子分析 因子分析是通過變量或樣本的相關(guān)系數(shù)矩陣內(nèi)部結(jié)構(gòu)的研究，找出能控制所有變量的少數(shù)幾個隨機變量去描述多個變量之間的相關(guān)關(guān)系。即將觀察變量分類，將相關(guān)性較高的、聯(lián)系較密切的、包含重復信息較多的變量分在同一類中，使不同類的變量之間的相關(guān)性較低，每類變量代表了一個本質(zhì)因子或基本結(jié)構(gòu)。因子分析就是尋找系統(tǒng)中這種不可觀測的因子或結(jié)構(gòu)的方法。第3頁,共20頁，2024年2月25日，星期天因子分析 在許多實際問題中，涉及的變量眾多，各變量間還存在錯綜復雜的相關(guān)關(guān)系，這時最好能從中提取少數(shù)綜合變量，這些綜合變量彼此不相關(guān)，是不可測的潛在因素，但對觀測變量的變化起支配作用，且包含原變量提供的大部分信息。因子分析就是為解決這一問題提供的統(tǒng)計分析方法。 例如：P159東西部地區(qū)各主成份的提取第4頁,共20頁，2024年2月25日，星期天因子分析的目的和任務目的：

尋求變量的基本結(jié)構(gòu)、簡化觀測系統(tǒng)，即減少變量維數(shù)。用一個變量子集來解釋整個問題。主要目的是研究一種假設(shè)的結(jié)構(gòu)，用m(m<p)個假設(shè)的公共因子來解釋和說明p個變量之間的相互依賴結(jié)構(gòu)及其復雜關(guān)系。任務：

尋找共性因素，且能解釋各主因子的意義第5頁,共20頁，2024年2月25日，星期天主成份分析主成分分析只是一種中間手段，其背景是研究中經(jīng)常會遇到多指標的問題，這些指標間往往存在一定的相關(guān)，直接納入分析不僅復雜，變量間難以取舍，而且可能因多元共線性而無法得出正確結(jié)論。主成分分析的目的就是通過線性變換，將原來的多個指標組合成相互獨立的少數(shù)幾個能充分反映總體信息的指標，便于進一步分析。第6頁,共20頁，2024年2月25日，星期天模型形式1．1公共因子與特殊因子 從總體中提取的綜合變量：F1,F2,…,Fm(m<p)稱為（總體的）公共因子。一般來說，公共因子不可能包含總體的所有信息，每個變量Xi除了可以由公共因子解釋的那部分外，總還有一些公共因子解釋不了的部分，稱這部分為變量Xi的特殊因子，記為：

i。 故因子模型描述為：變量Xi的信息＝公共因子可以表達部分

公共因子不可表達部分 目前，公共因子可以表達的部分由公共因子的線性組合表示。即上面的因子模型可以寫成以下的形式：第7頁,共20頁，2024年2月25日，星期天1．2正交因子模型 其中m<p，F(xiàn)1,F2,…,Fm稱為所有變量的公共因子；

i稱為變量Xi的特殊因子。模型假設(shè)：公共因子是互相不相關(guān)的。特殊因子和公共因子不相關(guān)。

第8頁,共20頁，2024年2月25日，星期天1．3因子載荷矩陣1．矩陣A稱為因子載荷矩陣(componentmatrix)系數(shù)aij稱為變量Xi在因子Fj上的載荷(loading)。即變量Xi在公共因子Fj上的載荷aij就是Xi與Fj的相關(guān)系數(shù)。反映公共因子對觀察變量的影響程度。因子載荷越高，表明該因子包含原有指標的信息量越多。2．載荷矩陣的估計：主成分法。

主成分法是估計載荷矩陣的一種方法，由于其估計結(jié)果和變量的主成分僅相差一個常數(shù)倍，因此就冠以主成分法的名稱。學習的時候，不要和主成分分析混為一談。主成分法是SPSS系統(tǒng)默認的方法，在一般情況下，這是比較好的方法。以數(shù)據(jù)“應征人員”為例，按特征值大于1提取公共因子。在用不同方法獲得因子載荷時，公共因子對總體方差的貢獻率以主成分法為最高：第9頁,共20頁，2024年2月25日，星期天第二節(jié)變量的共同度與因子的方差貢獻率2．1變量的共同度定義載荷矩陣A的第i行元素的平方和：稱為變量Xi的共同度(communality)。共同度表示公共因子在多大的程度上解釋變量Xi。2．2公共因子的方差貢獻率定義載荷矩陣A第j列的平方和：稱為因子Fj對總體的貢獻(initialeigenvalues)。第10頁,共20頁，2024年2月25日，星期天共性方差：

也稱方差貢獻率，是用某個公共因子占總方差的百分比來說明共性因素的對觀測變量總體的作用大小。公共因子個數(shù)的選擇應考慮：因子所能解釋的方差比率或貢獻率；與利用有關(guān)專業(yè)知識所得結(jié)果的合理一致性通過這幾種途徑和手段對研究結(jié)果給予合理解釋的可能性和可靠性。 一般，所選公共因子的個數(shù)應保證使其方差累計貢獻率大于85%，且主成份個數(shù)與變量個數(shù)的比值越小越好。第11頁,共20頁，2024年2月25日，星期天第三節(jié)方差最大正交旋轉(zhuǎn)3．1因子旋轉(zhuǎn)的意義1．正交因子模型只是一個數(shù)學模型，所得的因子在專業(yè)上不一定能反映問題的實質(zhì)，或者說：因子作為一個綜合變量，其專業(yè)意義在許多情況下不容易解釋。因子旋轉(zhuǎn)就是針對這一問題，提出的一種改進的方法。2．因子旋轉(zhuǎn)的依據(jù)：因子模型的不唯一性。

正是由于因子模型的不唯一性，如果模型不適合專業(yè)解釋，那么作一個正交變換T(即因子旋轉(zhuǎn))，在新模型中再去尋找因子的專業(yè)解釋。經(jīng)轉(zhuǎn)換后的公共因子具有最大的載荷離散總平方和D。由此確定的因子載荷矩陣B，對每個公共因子來說，載荷最為分散，因此比較容易對因子的專業(yè)意義作出解釋。第12頁,共20頁，2024年2月25日，星期天第四節(jié)因子得分4．1因子得分函數(shù) 因子模型將總體中的原有變量分解為公共因子與特殊因子的線性組合： 按照這個思路，也可以把每個公共因子表示成原變量的線性組合： 稱這個線性表達式為因子得分函數(shù)。用它可以計算出每個觀察值在各公共因子上的取值，從而在一定程度上解決了公共因子不可觀察的問題。獲得因子得分函數(shù)的關(guān)鍵問題是怎樣估計參數(shù)bj1,bj2,…,bjp。第13頁,共20頁，2024年2月25日，星期天*4．2因子得分的估計(Thompson方法) 根據(jù)回歸分析中最小二乘法，應有： 但是，是不可觀察的。因此上述公式尚不能給出因子得分函數(shù)的系數(shù)估計。在總體變量標準化的條件下，根據(jù)正交因子模型的假設(shè)是總體與因子的樣本相關(guān)系數(shù)，所以可以用因子載荷矩陣A的第j列代替。第14頁,共20頁，2024年2月25日，星期天第五節(jié)KMO檢驗與Bartlett球形檢驗5．1因子分析對樣本的要求 和任何統(tǒng)計分析問題一樣，因子分析也要求樣本具有一定的容量。這從兩個方面來說：從變量個數(shù)p考量，則樣本容量n應有n

5p；即使這樣，樣本容量也不能太少，一般應在100以上。以上要求在實際問題中往往都達不到。這時可以適當放寬要求，結(jié)合檢驗來判斷結(jié)果的可靠性。第15頁,共20頁，2024年2月25日，星期天5．2因子分析可行性與效果檢驗1．Bartlett球形檢驗檢驗各變量是否獨立，通過相關(guān)陣是否單位陣來判斷。只有在原假設(shè)：各變量相互獨立被拒絕，因子分析才能進行。2．KMO檢驗檢查各變量間的偏相關(guān)性，用來判斷因子分析效果：0≤KMO≤1。通常使用的標準是：當KMO

0.7，因子分析效果較好，越大越好 當KMO<0.5，此時不適合用因子分析法。第16頁,共20頁，2024年2月25日，星期天5．3關(guān)于因子的解釋 因子分析得到的公共因子應該可以解釋，即有實際意義。否則，就應該重新設(shè)計原始變量集合。第17頁,共20頁，2024年2月25日，星期天第六節(jié)實例——東西部經(jīng)濟發(fā)展因子分析準備數(shù)據(jù)選擇因素定性分析收集數(shù)據(jù)

工業(yè)農(nóng)業(yè)GDP投資自然資源……定義變量

注意因素不等于變量，變量必為等間隔測度或比率的數(shù)值型，用于計算彼此間的相關(guān)系數(shù)。數(shù)據(jù)要求

注意變量的標準化、歸一化、無量綱化處理，總量與相對量問題等。第18頁,共20頁，2024年2月25