大數(shù)據(jù)分析報(bào)告方法匯總情況

1、數(shù)據(jù)分析方法匯總一、描述統(tǒng)計(jì)描述性統(tǒng)計(jì)是指運(yùn)用制表和分類，圖形以及計(jì)筠概括性數(shù)據(jù)來(lái)描述數(shù)據(jù)的集中趨勢(shì)、離散趨勢(shì)、偏度、峰度。1、缺失值填充：常用方法：剔除法、均值法、最小鄰居法、比率回歸法、決策樹法。2、正態(tài)性檢驗(yàn)：很多統(tǒng)計(jì)方法都要求數(shù)值服從或近似服從正態(tài)分布，所以之前需要進(jìn)行正態(tài)性檢驗(yàn)。常用方法：非參數(shù)檢驗(yàn)的K-景檢驗(yàn)、P-P圖、Q-Q圖、W僉驗(yàn)、動(dòng)差法。二、假設(shè)檢驗(yàn)1、參數(shù)檢驗(yàn)參數(shù)檢驗(yàn)是在已知總體分布的條件下（一股要求總體服從正態(tài)分布）對(duì)一些主要的參數(shù)（如均值、百分?jǐn)?shù)、方差、相關(guān)系數(shù)等）進(jìn)行的檢驗(yàn)。1）U驗(yàn)使用條件：當(dāng)樣本含景n較大時(shí)，樣本值符合正態(tài)分布2）T檢驗(yàn)使用條件：當(dāng)樣本含兄n較小

2、時(shí)，樣本值符合正態(tài)分布A單樣本t檢驗(yàn)：推斷該樣本來(lái)自的總體均數(shù)v與已知的某一總體均數(shù)0（常為理論值或標(biāo)準(zhǔn)值）有無(wú)差別；B配對(duì)樣本t檢驗(yàn)：當(dāng)總體均數(shù)未知時(shí)，且兩個(gè)樣本可以配對(duì)，同對(duì)中的兩者在可能會(huì)影響處理效果的各種條件方面極為相似；C兩獨(dú)立樣本t檢驗(yàn)：無(wú)法找到在各方面極為相似的兩樣本作配對(duì)比較時(shí)使用。2、非參數(shù)檢驗(yàn)非參數(shù)檢驗(yàn)則不考慮總體分布是否已知，常常也不是針對(duì)總體參數(shù)，而是針對(duì)總體的某些一股性假設(shè)（如總體分布的位置是否相同，總體分布是否正態(tài)）進(jìn)行檢驗(yàn)。適用情況：順序類型的數(shù)據(jù)資料，這類數(shù)據(jù)的分布形態(tài)一般是未知的。A雖然是連續(xù)數(shù)據(jù)，但總體分布形態(tài)未知或者非正態(tài)；B體分布雖然正態(tài)，數(shù)據(jù)也是連續(xù)類

3、型，但樣本容景極小，如10以下;主要方法包括：卡方檢驗(yàn)、秩和檢驗(yàn)、二項(xiàng)檢驗(yàn)、游程檢驗(yàn)、K-景檢驗(yàn)等。三、信度分析檢查測(cè)景的可信度，例如調(diào)查問(wèn)卷的真實(shí)性。分類：1、外在信度：不同時(shí)間測(cè)兄時(shí)景表的一致性程度，常用方法重測(cè)信度2、內(nèi)在信度；每個(gè)景表是否測(cè)景到單一的概念，同時(shí)組成兩表的內(nèi)在體項(xiàng)一致性如何，常用方法分半信度。四、列聯(lián)表分析用于分析離散變景或定型變景之間是否存在相關(guān)。對(duì)于二維表，可進(jìn)行卡方檢驗(yàn)，對(duì)于三維表，可作Mentel-Hanszel分層分析。列聯(lián)表分析還包括配對(duì)計(jì)數(shù)資料的卡方檢驗(yàn)、行列均為順序變景的相關(guān)檢驗(yàn)。五、相關(guān)分析研究現(xiàn)象之間是否存在某種依存關(guān)系，對(duì)具體有依存關(guān)系的現(xiàn)象探討相關(guān)

4、方向及相關(guān)程度。1、單相關(guān)：兩個(gè)因素之間的相關(guān)關(guān)系叫單相關(guān)，即研究時(shí)只涉及一個(gè)自變H和一個(gè)因變H;2、復(fù)相關(guān)：三個(gè)或三個(gè)以上因素的相關(guān)關(guān)系叫復(fù)相關(guān)，即研究時(shí)涉及兩個(gè)或兩個(gè)以上的自變景和因變景相關(guān)；3、偏相關(guān)：在某一現(xiàn)象與多種現(xiàn)象相關(guān)的場(chǎng)合，當(dāng)假定其他變景不變時(shí)，其中兩個(gè)變景之間的相關(guān)關(guān)系稱為偏相關(guān)。六、方差分析使用條件：各樣本須是相互獨(dú)立的隨機(jī)樣本；各樣本來(lái)自正態(tài)分布總體；各總體方差相等。分類1、單因素方差分析：一項(xiàng)試驗(yàn)只有一個(gè)影響因素，或者存在多個(gè)影響因素時(shí)，只分析一個(gè)因素與響應(yīng)變景的關(guān)系2、多因素有交互方差分析：一頊實(shí)驗(yàn)有多個(gè)影響因素，分析多個(gè)影響因素與響應(yīng)變景的關(guān)系，同時(shí)考慮多個(gè)影響因素

5、之間的關(guān)系3、多因素?zé)o交互方差分析：分析多個(gè)影響因素與響應(yīng)變景的關(guān)系，但是影響因素之間沒(méi)有影響關(guān)系或忽略影響關(guān)系4、協(xié)方差分祈：傳統(tǒng)的方差分析存在明顯的弊端，無(wú)法控制分析中存在的某些隨機(jī)因素，使之影響了分祈結(jié)果的準(zhǔn)確度。協(xié)方差分析主要是在排除了協(xié)變景的影響后再對(duì)修正后的主效應(yīng)進(jìn)行方差分析，是將線性回歸與方差分析結(jié)合起來(lái)的一種分析方法，七、回歸分析分類：1、一元線性回歸分析：只有一個(gè)自變景X與因變景Y有關(guān)，X與Y都必須是連續(xù)型變景，因變景y或其殘差必須服從正態(tài)分布。2、多元線性回歸分析使用條件：分析多個(gè)自變景與因變景Y的關(guān)系，X與Y都必須是連續(xù)型變景，因變景y或其殘差必須服從正態(tài)分布。1）變呈篩

6、選方式：選擇最優(yōu)回歸方程的變里篩選法包括全橫型法（CP法）、逐步回歸法，向前引入法和向后剔除法2）橫型診斷方法：A殘差檢驗(yàn)：觀測(cè)值與估計(jì)值的差值要艱從正態(tài)分布B強(qiáng)影響點(diǎn)判斷：尋找方式一般分為標(biāo)準(zhǔn)誤差法、Mahalanobis距離法C共線性診斷：診斷方式：容忍度、方差擴(kuò)大因子法（又稱膨脹系數(shù)VIF）、特征根判定法、條件指針CI、方差比例-處理方法：增加樣本容景或選取另外的回歸如主成分回歸、嶺回歸等3、Logistic回歸分析線性回歸模型要求因變景是連續(xù)的正態(tài)分布變里，且自變景和因變景呈線性關(guān)系，而Logistic回歸模型對(duì)因變景的分布沒(méi)有要求，一般用于因變景是離散時(shí)的情況分類：Logistic回

7、歸模型有條件與非條件之分，條件Logistic回歸模型和非條件Logistic回歸模型的區(qū)別在于參數(shù)的估計(jì)是否用到了條件概率。4、其他回歸方法非線性回歸、有序回歸、Probit回歸、加權(quán)回歸等八、聚類分析樣本個(gè)體或指標(biāo)變景按其具有的特性進(jìn)行分類，尋找合理的度景事物相似性的統(tǒng)計(jì)景。1、性質(zhì)分類：Q型聚類分析：對(duì)樣本進(jìn)行分類處理，又稱樣本聚類分祈使用距離系數(shù)作為統(tǒng)計(jì)H衡H相似度，如歐式距離、極端距離、絕對(duì)距離等R型聚類分析：對(duì)指標(biāo)進(jìn)行分類處理，又稱指標(biāo)聚類分析使用相似系數(shù)作為統(tǒng)計(jì)景衡景相似度，相關(guān)系數(shù)、列聯(lián)系數(shù)等2、方法分類：1）系統(tǒng)聚類法：適用于小樣本的樣本聚類或指標(biāo)聚類，一般用系統(tǒng)聚類法來(lái)聚類

8、指標(biāo)，又稱分層聚類2）逐步聚類法：適用于大樣本的樣本聚類3）其他聚類法：兩步聚類、K均值聚類等九、判別分析1、判別分析：根據(jù)已掌握的一批分類明確的樣品建立判別函數(shù)，使產(chǎn)生錯(cuò)判的事例最少，進(jìn)而對(duì)給定的一個(gè)新樣品，判斷它來(lái)自哪個(gè)總體2、與聚類分析區(qū)別1）聚類分析可以對(duì)樣本進(jìn)行分類，也可以對(duì)指標(biāo)進(jìn)行分類；而判別分析只能對(duì)樣本聚類分析事先不知道事物的類別，也不知道分幾類；而判別分析必須事先知道事物的類別，也知道分幾類聚類分析不需要分類的歷史資料，而直接對(duì)樣本進(jìn)行分類；而判別分析需要分類歷史資料去建立判別函數(shù)，然后才能對(duì)樣本進(jìn)行分類3、進(jìn)行分類：1) Fisher判別分析法：以距離為判別準(zhǔn)則來(lái)分類，即樣

9、本與哪個(gè)類的距離最短就分到哪一類，適用于兩類判別；以概率為判別準(zhǔn)則來(lái)分類，即樣本屬于哪一類的概率最大就分到哪一類，適用于適用于多類判別。2) BAYESU別分析法：BAYE剖別分析法比FISHERY別分析法更加完善和先進(jìn)，它不僅能解決多類判別分析，而且分析時(shí)考慮了數(shù)據(jù)的分布狀態(tài)，所以一般較多使用；十、主成分分析將彼此相關(guān)的一組指標(biāo)變適轉(zhuǎn)化為彼此獨(dú)立的一組新的指標(biāo)變景，并用其中較少的幾個(gè)新指標(biāo)變景就能綜合反應(yīng)原多個(gè)指標(biāo)變景中所包含的主要信息。十一、因子分析一種旨在尋找隱藏在多變景數(shù)據(jù)中、無(wú)法直接觀察到卻影響或支配可測(cè)變景的潛在因子、并估計(jì)潛在因子對(duì)可測(cè)變H的影響程度以及潛在因子之間的相關(guān)性的一種

10、多元統(tǒng)計(jì)分析方法與主成分分析比較：相同：都能夠起到濟(jì)理多個(gè)原始變景內(nèi)在結(jié)構(gòu)關(guān)系的作用不同：主成分分析重在綜合原始變適的信息.而因子分析重在解釋原始變景間的關(guān)系，是比主成分分析更深入的一種多元統(tǒng)計(jì)方法用途：1）減少分析變景個(gè)數(shù)2）通過(guò)對(duì)變景間相關(guān)關(guān)系探測(cè)，將原始變景進(jìn)行分類十二、時(shí)間序列分析動(dòng)態(tài)數(shù)據(jù)處理的統(tǒng)計(jì)方法，研究隨機(jī)數(shù)據(jù)序列所遵從的統(tǒng)計(jì)規(guī)律，以用于解決實(shí)際問(wèn)題；時(shí)間序列通常由4種要素組成：趨勢(shì)、季節(jié)變動(dòng)、循環(huán)波動(dòng)和不規(guī)則波動(dòng)。主要方法：移動(dòng)平均濾波與指數(shù)平滑法、ARIMA黃型、景ARIMA黃型、ARIMAX莫型、向呈自回歸橫型、ARCHK模型十三、生存分析用來(lái)研究生存時(shí)間的分布規(guī)律以及生存

11、時(shí)間和相關(guān)因索之間關(guān)系的一種統(tǒng)計(jì)分析方法1、包含內(nèi)容：1）描述生存過(guò)程，即研究生存時(shí)間的分布規(guī)律2）比較生存過(guò)程，即研究?jī)山M或多組生存時(shí)間的分布規(guī)律，并進(jìn)行比較3）分析危險(xiǎn)因素，即研究危險(xiǎn)因素對(duì)生存過(guò)程的影響4）建立數(shù)學(xué)模型，即將生存時(shí)間與相關(guān)危險(xiǎn)因素的依存關(guān)系用一個(gè)數(shù)學(xué)式子表示出來(lái)。2、方法：1）統(tǒng)計(jì)描述：包括求生存時(shí)間的分位數(shù)、中數(shù)生存期、平均數(shù)、生存函數(shù)的估計(jì)、判斷生存時(shí)間的圖示法，不對(duì)所分析的數(shù)據(jù)作出任何統(tǒng)計(jì)推斷結(jié)論2）非參數(shù)檢驗(yàn)：檢驗(yàn)分組變景各水平所對(duì)應(yīng)的生存曲線是否一致，對(duì)生存時(shí)間的分布沒(méi)有要求，并且檢驗(yàn)危險(xiǎn)因素對(duì)生存時(shí)間的影響。A乘積極限法（PL法）B壽命表法（LT法）3）半?yún)?shù)

12、橫型回歸分析：在特定的假設(shè)之下，建立生存時(shí)間隨多個(gè)危險(xiǎn)因素變化的回歸方程，這種方法的代表是Cox比例風(fēng)險(xiǎn)回歸分析法4）參數(shù)模型回歸分析：已知生存時(shí)間服從特定的參數(shù)橫型時(shí)，擬合相應(yīng)的參數(shù)模型，更準(zhǔn)確地分析確定變景之間的變化規(guī)律十四、典型相關(guān)分析相關(guān)分析一般分析兩個(gè)變里之間的關(guān)系，而典型相關(guān)分析是分析兩組變里（如3個(gè)學(xué)術(shù)能力指標(biāo)與5個(gè)在校成績(jī)表現(xiàn)指標(biāo)）之間相關(guān)性的一種統(tǒng)計(jì)分析方法。典型相關(guān)分析的基本思想和主成分分析的基本思想相似，它將一組變景與另一組變景之間單變景的多重線性相關(guān)性研究轉(zhuǎn)化為對(duì)少數(shù)幾對(duì)綜合變景之間的簡(jiǎn)單線性相關(guān)性的研究，并且這少數(shù)幾對(duì)變景所包含的線性相關(guān)性的信息幾乎覆蓋了原變H組所包含的全部相應(yīng)信息。十五、R0C分析R0C曲線是根據(jù)一系列不同的二分類方式（分界值或決定閾）.以真陽(yáng)性率（靈敏度）為縱坐標(biāo)，假陽(yáng)