織云Metis時(shí)間序列異常檢測(cè)全方位解析

織云Metis時(shí)間序列異常檢測(cè)全方位解析第一頁，共32頁。傳統(tǒng)時(shí)序監(jiān)控的問題與新思路檢測(cè)算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運(yùn)維應(yīng)用實(shí)踐）第二頁，共32頁。業(yè)務(wù)規(guī)模輕微的異常就會(huì)影響到大量的外網(wǎng)用戶在線2.8億月活8.05億SNG服務(wù)器20w+社交類指標(biāo)240w+第三頁，共32頁。傳統(tǒng)監(jiān)控與新思路形態(tài)各異準(zhǔn)確率低維護(hù)成本高隨著業(yè)務(wù)發(fā)展，傳統(tǒng)監(jiān)控呈現(xiàn)出的一些問題第四頁，共32頁。傳統(tǒng)監(jiān)控與新思路算法和機(jī)器學(xué)習(xí)的新思路是否可應(yīng)用？第五頁，共32頁。傳統(tǒng)時(shí)序監(jiān)控的問題與新思路檢測(cè)算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運(yùn)維應(yīng)用實(shí)踐）第六頁，共32頁。常見的機(jī)器學(xué)習(xí)算法回歸基于實(shí)例正則化貝葉斯聚類基于核關(guān)聯(lián)規(guī)則決策樹深度學(xué)習(xí)第七頁，共32頁。從大量輸入中總結(jié)出準(zhǔn)確預(yù)測(cè)的規(guī)律（模型）

數(shù)值型預(yù)測(cè)0/1型預(yù)測(cè)概率型預(yù)測(cè)等第八頁，共32頁。技術(shù)路線演進(jìn)第九頁，共32頁。技術(shù)框架離線模塊數(shù)據(jù)存儲(chǔ)統(tǒng)計(jì)算法&無監(jiān)督算法輸出疑似異常樣本庫（人工標(biāo)注）特征工程（離線計(jì)算）有監(jiān)督算法（離線計(jì)算）數(shù)據(jù)提取統(tǒng)計(jì)算法&無監(jiān)督算法輸出疑似異常加載有監(jiān)督模型特征工程（實(shí)時(shí)計(jì)算）有監(jiān)督算法（輸出異常）在線模塊ABTest模塊人工審核Atest（實(shí)驗(yàn)?zāi)Ｐ虯）Btest（實(shí)驗(yàn)?zāi)Ｐ虰）第十頁，共32頁。第一層：統(tǒng)計(jì)判別算法√×3sigma算法與控制圖算法的優(yōu)缺點(diǎn)第十一頁，共32頁。第一層：無監(jiān)督算法√×無監(jiān)督學(xué)習(xí)算法的優(yōu)缺點(diǎn)第十二頁，共32頁。第一層：無監(jiān)督算法第十三頁，共32頁。第一層：無監(jiān)督算法第十四頁，共32頁。第一層：無監(jiān)督算法第十五頁，共32頁。第二層：有監(jiān)督算法√有監(jiān)督算法能解決的問題√第十六頁，共32頁。傳統(tǒng)時(shí)序監(jiān)控的問題與新思路檢測(cè)算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運(yùn)維應(yīng)用實(shí)踐）第十七頁，共32頁。特征工程特征是數(shù)據(jù)中抽取出來的對(duì)結(jié)果預(yù)測(cè)有用的信息。特征工程包含了特征提取、特征構(gòu)建、特征選擇等模塊樣本初始特征分布情況特征監(jiān)控樣本分析全流程特征分析參數(shù)分析誤差分析特征有效性分析離散化離群點(diǎn)分布共線性缺省值去均值歸一化特征有效性分析特征選擇特征組合與轉(zhuǎn)換模型調(diào)優(yōu)更新模型因子化相關(guān)性缺省值因子化連續(xù)特征離散特征標(biāo)準(zhǔn)化第十八頁，共32頁。特征工程第十九頁，共32頁。特征工程統(tǒng)計(jì)特征最大值，最小值，值域最小值位置、最大值位置均值，中位數(shù)平方和，重復(fù)值方差，偏度，峰度同比，環(huán)比，周期性自相關(guān)系數(shù)，變異系數(shù)第二十頁，共32頁。特征工程擬合特征移動(dòng)平均算法帶權(quán)重的移動(dòng)平均算法指數(shù)移動(dòng)平均算法二次指數(shù)移動(dòng)平均算法三次指數(shù)移動(dòng)平均算法奇異值分解算法自回歸算法深度學(xué)習(xí)算法第二十一頁，共32頁。特征工程分類特征熵特征值分布特征小波分析特征聚類Kmeans分類器第二十二頁，共32頁。打標(biāo)工程輸出異常視圖到前端頁面人工確認(rèn)是否真的異常，假異常則校正后臺(tái)根據(jù)人工校正的結(jié)果，存下校正后的所有結(jié)果：正常記為1，異常記為0第二十三頁，共32頁。傳統(tǒng)時(shí)序監(jiān)控的問題與新思路檢測(cè)算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運(yùn)維應(yīng)用實(shí)踐）第二十四頁，共32頁。樣本庫管理與建設(shè)樣本庫管理樣本是核心價(jià)值樣本的豐富程度制約檢測(cè)效果格式、長度、標(biāo)簽（分類、正負(fù)）、時(shí)間戳、標(biāo)志、來源樣本查看：權(quán)限、類別、業(yè)務(wù)維度等樣本查找：字段檢索、相似度檢索、時(shí)間片檢索樣本分類：標(biāo)記、算法分類等訓(xùn)練、提取、偽裝、構(gòu)造、分類、樣本的積累貫穿機(jī)器學(xué)習(xí)的始終功能集合北向串聯(lián)通用規(guī)范價(jià)值積累第二十五頁，共32頁。樣本庫管理與建設(shè)功能應(yīng)用樣本庫存儲(chǔ)正負(fù)來源窗口類別A類別B類別CCRUD提取分類查找添加偽裝構(gòu)造訓(xùn)練模型離線打標(biāo)特征分析算法調(diào)參樣本庫管理Action層：觸發(fā)功能與樣本數(shù)據(jù)的交互DAO層：封裝與數(shù)據(jù)進(jìn)行聯(lián)絡(luò)的任務(wù)，無業(yè)務(wù)邏輯顯著提升應(yīng)用效率和數(shù)據(jù)規(guī)范Service層：功能模塊的邏輯應(yīng)用實(shí)現(xiàn)數(shù)據(jù)層：根據(jù)樣本量選擇存儲(chǔ)；三級(jí)分類第二十六頁，共32頁。Metis時(shí)間序列異常檢測(cè)業(yè)務(wù)效果目前效果90%+80%+用少量模型覆蓋所有曲線，統(tǒng)計(jì)判別+無監(jiān)督+有監(jiān)督準(zhǔn)確率計(jì)算方法：人工抽查，查看告警出來的時(shí)間序列和時(shí)間點(diǎn)是否準(zhǔn)確輔助工具：打標(biāo)工程召回率計(jì)算方法：人工從業(yè)務(wù)中選擇一批異常的時(shí)間序列和相應(yīng)的時(shí)間點(diǎn)，然后讓這批序列通過現(xiàn)有模型，看看是否被召回輔助工具：樣本庫管理第二十七頁，共32頁。傳統(tǒng)時(shí)序監(jiān)控的問題與新思路檢測(cè)算法原理與應(yīng)用特征工程與打標(biāo)工程樣本庫建設(shè)與管理Metis概述（智能運(yùn)維應(yīng)用實(shí)踐）第二十八頁，共32頁。漸進(jìn)式的AIOps能力算法學(xué)件場(chǎng)景數(shù)據(jù)決策第二十九頁，共32頁?？椩芃etis騰訊織云AIOps應(yīng)用實(shí)踐時(shí)間序列異常檢測(cè)集群智能負(fù)載均衡容量分析與預(yù)測(cè)多維根因分析生死指標(biāo)監(jiān)控……學(xué)件N學(xué)件學(xué)件學(xué)件學(xué)件學(xué)件組合學(xué)件學(xué)件學(xué)件學(xué)件學(xué)件組合學(xué)件學(xué)件學(xué)件學(xué)件學(xué)件組合自動(dòng)擴(kuò)縮容決策直播多維根因分析更多運(yùn)維場(chǎng)景學(xué)件庫第三十頁，共32頁。串聯(lián)應(yīng)用案例容量分析與預(yù)測(cè)平衡木灰度上線變