數(shù)據(jù)分析前的數(shù)據(jù)清理-異常值檢測_第1頁
數(shù)據(jù)分析前的數(shù)據(jù)清理-異常值檢測_第2頁
數(shù)據(jù)分析前的數(shù)據(jù)清理-異常值檢測_第3頁
數(shù)據(jù)分析前的數(shù)據(jù)清理-異常值檢測_第4頁
數(shù)據(jù)分析前的數(shù)據(jù)清理-異常值檢測_第5頁
已閱讀5頁，還剩1頁未讀， 繼續(xù)免費閱讀

下載本文檔

版權說明：本文檔由用戶提供并上傳，收益歸屬內容提供方，若內容存在侵權，請進行舉報或認領

文檔簡介

數(shù)據(jù)分析前的數(shù)據(jù)清理--異常值檢測對數(shù)據(jù)的處理是進行數(shù)據(jù)分析的基礎，為保證分析結果的可靠性和正確性，對數(shù)據(jù)的處理需要考慮三點：首先，數(shù)據(jù)錄入的準確性以及異常值的處理；其次，缺失值的處理；最后，數(shù)據(jù)是否符合所使用的的分析方法的使用條件。一、異常值1.異常值的定義異常值（outlier）有單變量異常值（univariateoutlier）與多變量異常值（multivariateoutlier）兩種。2.異常值的來源（1）過程型錯誤。如錄入、編碼或者缺失值定義錯誤。（2）異常事件。此時視情況與研究目的進行保留或刪除。（3）異常觀測。研究者無法解釋的觀測值。（4）各變量都正常，組合起來很異常，即多變量異常值。此情況視分析方法決定是否保留。3.異常值的檢測A.單變量異常值的檢測（1）標準分檢測異常值樣本量<=80，標準分>=2.5&<=2.5視為異常值；樣本量>80，可提高標準分的臨界值，最高為4。spss操作：分析>描述統(tǒng)計>描述>將標準化值另存為變量（2）盒式圖小于下四分位數(shù)減去1.5倍四分位距（Q1-1.5*IQR）或大于上四分位數(shù)加1.5倍四分位距（Q3+1.5*IQR）的即為異常值。1.5-3倍四分位距之間的異常值為溫和異常值（mildoutliers）；3倍四分位距之外的異常值為極端異常值（extremeoutliers）。在非異常值區(qū)間內，最值處畫橫線，即為箱線圖的觸須。spss操作：圖形>圖標構建器>選擇箱圖>雙擊第一個箱圖>將變量從左側拖動到縱軸B.雙變量異常值的檢測（1）雙變量異常值一般通過散點圖進行檢測。通過散點圖可以初步判斷兩變量之間是否存在相關關系、相關趨勢、是線性相關還是非線性相關以及是否存在異常值。從下圖可初步判斷兩變量存在線性相關，并且存在異常值。要通過置信區(qū)間新型判斷，還需要借助其他軟件，后續(xù)會進行介紹。C.多變量異常值的檢測（1）馬氏距離多變量異常值可通過計算觀測點的馬氏距離（MahalanobisD2）進行檢測。根據(jù)經(jīng)驗，小樣本時把D2/df的臨界值設為2.5，大樣本時設為3或4，超過臨界值的觀測點識別為潛在異常值。spss操作：分析>回歸>線性>放入變量>保存>標準化>馬

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間，僅對用戶上傳內容的表現(xiàn)方式做保護處理，對用戶上傳分享的文檔內容本身不做任何修改或編輯，并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容，請與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論