coss r4培訓(xùn)數(shù)據(jù)倉庫apm產(chǎn)品介紹

1、 產(chǎn)品質(zhì)量部/楊琦/2016.1Broadview APMAPM定義及背景目錄01系統(tǒng)解決方案03系統(tǒng)指標(biāo)詳解 04系統(tǒng)后端解讀0205主要優(yōu)勢與價值A(chǔ)PM的定義APM = Application Performance Management，即應(yīng)用性能管理，對企業(yè)系統(tǒng)即時監(jiān)控以實(shí)現(xiàn)對應(yīng)用程序性能管理和故障管理的系統(tǒng)化的解決方案。應(yīng)用性能管理是一個比較新的網(wǎng)絡(luò)管理方向，主要指對企業(yè)的關(guān)鍵業(yè)務(wù)應(yīng)用進(jìn)行監(jiān)測、優(yōu)化，提高企業(yè)應(yīng)用的可靠性和質(zhì)量，保證用戶得到良好的服務(wù)，降低IT總擁有成本(TCO)。一個企業(yè)的關(guān)鍵業(yè)務(wù)應(yīng)用的性能強(qiáng)大，可以提高競爭力，并取得商業(yè)成功。國內(nèi)外的 APM 有 Compuwar

2、e 、 iMaster 、聽云、New Relic、OneAPM 、AppDynamics 等主要挑戰(zhàn)對IT的挑戰(zhàn)對業(yè)務(wù)的影響多數(shù)IT問題仍然是由最終用戶的抱怨發(fā)現(xiàn)的問題未被發(fā)現(xiàn)時業(yè)務(wù)中斷，用戶長時間等待，影響客戶滿意度一旦出現(xiàn)問題需要很多時間來定位預(yù)算花費(fèi)在了定位問題上而不是解決問題大多數(shù)應(yīng)用問題到了開發(fā)團(tuán)隊(duì)并不能重現(xiàn)解決問題的開發(fā)和技術(shù)支持周期很長性能問題沒有什么技術(shù)手段進(jìn)行分析對比沒有優(yōu)化方向，性能問題經(jīng)常不了了之傳統(tǒng)的解決方案NCCBCC負(fù)載均衡防火墻CPU、內(nèi)存、磁盤IO、數(shù)據(jù)庫表空間端口上下線、速率WEBWEBWS PortalProcess ServerMQWASDB2CICS傳

3、統(tǒng)的解決方案是不夠的IT資源DB2WS PortalProcess ServerWEB負(fù)載均衡關(guān)注在基礎(chǔ)架構(gòu), 而非業(yè)務(wù)缺乏完整的業(yè)務(wù)交易鏈視圖缺乏對用戶體驗(yàn)以及業(yè)務(wù)影響的可視性WEBWASCICSMQ防火墻APM定義及背景目錄01系統(tǒng)解決方案03系統(tǒng)指標(biāo)詳解 04系統(tǒng)后端解讀0205主要優(yōu)勢與價值A(chǔ)PM方案準(zhǔn)確定位分析性能瓶頸 主動式應(yīng)用性能管理方案實(shí)時跟蹤關(guān)鍵業(yè)務(wù)交易 全面透視業(yè)務(wù)應(yīng)用架構(gòu) 主動感知真實(shí)用戶體驗(yàn) 真實(shí)的用戶感受100%的業(yè)務(wù)系統(tǒng)和交易性能可視化系統(tǒng)架構(gòu)業(yè)務(wù)交易視圖業(yè)務(wù)運(yùn)行視圖性能/可用性管理統(tǒng)計(jì)報(bào)表最終用戶體驗(yàn)故障告警與定位運(yùn)維系統(tǒng)集成SNMPTrap指標(biāo)運(yùn)算引擎 配置庫

4、指標(biāo)庫協(xié)議分析引擎指標(biāo)運(yùn)算引擎閾值處理引擎數(shù)據(jù)存儲層交換機(jī)鏡像/TAP分流Broadview APM系統(tǒng)部署數(shù)據(jù)庫服務(wù)器應(yīng)用服務(wù)器WEB服務(wù)器企業(yè)信息總線防火墻交換機(jī)端口鏡像CISCO端口鏡像配置 SPAN配置 Specifying VLANs to Filter華為端口鏡像配置 配置觀察端口 配置鏡像端口H3C端口鏡像配置 創(chuàng)建本地鏡像組 配置其源端口、目的端口 VMWare端口鏡像標(biāo)準(zhǔn)或分布式交換機(jī)配置創(chuàng)建虛擬機(jī)服務(wù)器，在該 服務(wù)器上安裝APM程序協(xié)議分析器獲取到的數(shù)據(jù) 轉(zhuǎn)發(fā)到APM服務(wù)器server 端Server端進(jìn)行計(jì)算展現(xiàn) 應(yīng)用拓?fù)鋱D關(guān)鍵交易狀態(tài)監(jiān)控和對業(yè)務(wù)的影響用戶在哪里？按地理

5、位置查看獨(dú)立訪客數(shù)、平均響應(yīng)時間、吞吐量、流量等主要指標(biāo) 用戶是誰？從瀏覽器種類、設(shè)備類型、操作系統(tǒng)三個角度，按天監(jiān)測其Apdex指數(shù)、獨(dú)立訪客、吞吐量、平均響應(yīng)時間、流量等主要指標(biāo) 用戶體驗(yàn)趨勢分析定位問題組件告警主機(jī)平均響應(yīng)時間連續(xù)超過閾值數(shù)據(jù)庫服務(wù)器成功率很低自動記錄應(yīng)用層錯誤詳細(xì)的應(yīng)用錯誤信息和請求參數(shù)查看最慢URL或SQLAPM定義及背景目錄01系統(tǒng)解決方案03系統(tǒng)指標(biāo)詳解 04系統(tǒng)后端解讀0205主要優(yōu)勢與價值方案優(yōu)勢部署模式旁路設(shè)計(jì)生產(chǎn)系統(tǒng)零影響支持虛擬主機(jī)軟硬一體化零部署實(shí)施生產(chǎn)系統(tǒng)零影響解碼能力WEB服務(wù)器應(yīng)用服務(wù)器消息中間件企業(yè)總線ESB數(shù)據(jù)庫服務(wù)器支持B/S、C/S架構(gòu)基

6、于流和會話技術(shù)，全狀態(tài)、全協(xié)議解碼JDBC、MQ等長連接解碼全息解碼，感知完整交易鏈回放能力追蹤每個用戶的訪問詳情、每筆交易全面還原故障現(xiàn)場：包括吞吐量、響應(yīng)時間和錯誤數(shù)外，流量、并發(fā)用戶數(shù)、總連接數(shù)、并發(fā)連接數(shù)和錯誤詳情詳細(xì)記錄每個錯誤：包括返回碼、SQL語句、綁定參數(shù)或變量追蹤每筆交易，重現(xiàn)每個故障方案價值業(yè)務(wù)管理人員全盤把握實(shí)時業(yè)務(wù)性能，了解業(yè)務(wù)用戶體驗(yàn)進(jìn)行主動性能管理，并持續(xù)提升用戶體驗(yàn)IT 運(yùn)維人員發(fā)現(xiàn)主機(jī)監(jiān)控、日志分析等常規(guī)手段檢測不到的潛在問題快速故障隔離的手段，查找故障根源的方法主動管理動態(tài)趨勢和容量分析，實(shí)現(xiàn)性能和利用率的最大化IT 開發(fā)人員查看最慢的頁面，最慢的SQL查看錯

7、誤頁面的傳入?yún)?shù)和返回碼持續(xù)性能提升和系統(tǒng)優(yōu)化的數(shù)據(jù)支持DEV典型應(yīng)用場景01.監(jiān)測網(wǎng)站用戶體驗(yàn)02. 監(jiān)測核心業(yè)務(wù)系統(tǒng)03.監(jiān)測關(guān)鍵業(yè)務(wù)交易部署前： CNZZ網(wǎng)站分析工具：側(cè)重UV、PV部署后：實(shí)時監(jiān)測應(yīng)用系統(tǒng)、關(guān)鍵交易的用戶滿意度監(jiān)測不滿意用戶數(shù)的來源、地理位置，確定業(yè)務(wù)影響范圍部署前： 主機(jī)連通性、CPU、內(nèi)存、日志部署后：呈現(xiàn)業(yè)務(wù)系統(tǒng)應(yīng)用拓?fù)浣Y(jié)構(gòu)，展現(xiàn)各組件間調(diào)用關(guān)系實(shí)時監(jiān)視各環(huán)節(jié)交易量、平均響應(yīng)時間，提前告警部署前： 查看日志、開會討論部署后：實(shí)時監(jiān)測關(guān)鍵交易的訪問人數(shù)、訪問次數(shù)、用戶體驗(yàn)、不滿意用戶數(shù)、訪問時間端到端的交易跟蹤能力部署前： 等待業(yè)務(wù)部門反饋哪個頁面慢部署后：通過時間

8、軸查看壓力傳導(dǎo)圖，確定瓶頸點(diǎn)查看前端最慢頁面，直至最后臺最慢SQL04.定位性能瓶頸APM定義及背景目錄01系統(tǒng)解決方案03系統(tǒng)指標(biāo)詳解 04系統(tǒng)后端解讀0205主要優(yōu)勢與價值通用指標(biāo)吞吐量：單位時間內(nèi)的請求數(shù)量 響應(yīng)時間：發(fā)送請求開始，到收到所有響應(yīng)內(nèi)容的時間獨(dú)立訪客： 1.默認(rèn)情況下，同獨(dú)立IP數(shù) 2.當(dāng)特定協(xié)議有session時（例如DB），以用戶登錄名+client分組統(tǒng)計(jì) 3.HTTP按瀏覽器類型（UA）區(qū)別session會話數(shù)：是指這一分鐘內(nèi)有數(shù)據(jù)交互的連接總數(shù)。包括新建連接、已建連接，以及這一分鐘內(nèi)拆除的連接成功率：成功率=100%-錯誤數(shù)/請求數(shù)錯誤數(shù)：應(yīng)用層報(bào)告的錯誤，例如H

9、TTP 404通用指標(biāo)ApdexApplication Performance Index，即應(yīng)用性能指數(shù)，是用戶對應(yīng)用性能滿意度的量化值。它提供了一個統(tǒng)一的測量和報(bào)告用戶體驗(yàn)的方法。計(jì)算公式為：Apdex=（1 滿意樣本 0.5 x 容忍樣本） 樣本總數(shù) Apdex T代表用戶對應(yīng)用性能滿意的響應(yīng)時間界限，如系統(tǒng)默認(rèn)0.5秒，滿意區(qū)間就是 00.5 秒；下一個區(qū)間“容忍”的界限值則是 T 和 4T，即 0.52 秒之間為容忍區(qū)間；最后一個區(qū)間“不滿意”的響應(yīng)時間則大于 4T，即多于 2 秒HTTP協(xié)議的指標(biāo)PV即Page View, 頁面瀏覽量或點(diǎn)擊量，在一定統(tǒng)計(jì)周期內(nèi)用戶每次刷新網(wǎng)頁一次即

10、被計(jì)算一次。我們系統(tǒng)計(jì)算靜態(tài)頁面的數(shù)量UV即Unique Visitor,訪問您網(wǎng)站的一臺電腦客戶端為一個訪客。00:00-24:00內(nèi)相同的客戶端只被計(jì)算一次。我們系統(tǒng)計(jì)算的是獨(dú)立IP數(shù)。APM定義及背景目錄01系統(tǒng)解決方案03系統(tǒng)指標(biāo)詳解 04系統(tǒng)后端解讀0205主要優(yōu)勢與價值系統(tǒng)環(huán)境系統(tǒng)環(huán)境分為C和java兩部分，即/opt/apm目錄下的analyze和server。數(shù)據(jù)庫（目前只支持內(nèi)置）： Mysql保存系統(tǒng)配置數(shù)據(jù) ES保存性能指標(biāo)數(shù)據(jù)產(chǎn)品部署目錄： 默認(rèn)安裝路徑： /opt/apm/analyze/dist /opt/apm/server系統(tǒng)啟動自動啟動 系統(tǒng)每隔5分鐘，會檢查

11、下進(jìn)程是否存在，不存在即自動啟動。手動啟動系統(tǒng)方法 1、協(xié)議分析器：nohup sh /opt/apm/analyze/dist/script/run_apm.sh /dev/null & 成功啟動后，可見以下進(jìn)程： 2、java端：nohup sh /opt/apm/server/bin/apm.sh /dev/null & 成功啟動后，可見以下進(jìn)程： 如需查看詳情進(jìn)程，執(zhí)行ps -ef |grep apm即可。系統(tǒng)原理數(shù)據(jù)鏡像1、首先需要對被管應(yīng)用系統(tǒng)進(jìn)行梳理，確定應(yīng)用系統(tǒng)管理的物理主機(jī)、虛擬主機(jī)、交換機(jī)端口，完成 交換機(jī)、VMWare的端口鏡像。2、 檢查數(shù)據(jù)鏡像是否成功：apm所有服務(wù)器通過tcpdump抓取數(shù)據(jù)包。協(xié)議分析器采集，通過協(xié)議解析上報(bào)Java端接收數(shù)據(jù)，通過指標(biāo)運(yùn)算器計(jì)算后入庫Web前端展現(xiàn) 后端數(shù)據(jù)驗(yàn)證導(dǎo)入L7協(xié)議解碼模塊1、直接