OceanBase云數(shù)據(jù)庫在金融核心系統(tǒng)架構實踐

1、云數(shù)據(jù)庫OceanBase架構演進及在金融核心系統(tǒng)中的實踐緣起數(shù)據(jù)庫在可靠與可擴展路上的不斷追尋歷程與架構演進漫漫工程路上的荊棘、權衡與不妥協(xié)云數(shù)據(jù)庫OceanBase公有云上的金融級數(shù)據(jù)庫服務未來發(fā)展不忘初心，矢志前行1234AgendaOceanBase的定義不是NoSQL分布式關系型數(shù)據(jù)庫支持完整的ACID可擴展、高可用兼容MySQL協(xié)議CassandraOceanBase的發(fā)展歷程V0.1 開發(fā)版本V0.3 OLAP嘗試V0.4 啟動V0.5 多機房同步， 開始在螞蟻核心 系統(tǒng)使用V1.0 覆蓋螞蟻核心系統(tǒng)， 公有云上線V0.2 收藏夾V0.4 支持SQLV0.5 啟動V1.0 多點寫

2、入2010201220142016201120132015互聯(lián)網(wǎng)對傳統(tǒng)關系型數(shù)據(jù)庫的挑戰(zhàn)可擴展性傳統(tǒng)關系數(shù)據(jù)庫本質上是單機數(shù)據(jù)庫向上擴展互聯(lián)網(wǎng)對傳統(tǒng)關系型數(shù)據(jù)庫的挑戰(zhàn)可擴展性通過讀寫分離 & 分庫分表來解決極大的增加了應用層的復雜度1000等降價家居100010006.30前零食200010003000收藏信息收藏的商品的信息UID備注標簽寶貝ID110001200013000寶貝ID價格描述.1000992000199互聯(lián)網(wǎng)對傳統(tǒng)關系型數(shù)據(jù)庫的挑戰(zhàn)可靠性數(shù)據(jù)一致性主備切換問題OceanBase的目標限制使用普通PC服務器，不使用共享存儲、小型機等昂貴硬件服務器、磁盤、網(wǎng)絡、機房(IDC)等并

3、非持續(xù)可用目標關系型數(shù)據(jù)庫、支持跨表跨行事務分布式、可擴展，對應用透明高可靠、數(shù)據(jù)強一致，可抵御單機、機架、機房(IDC)故障高性能OceanBase主要面臨的問題數(shù)據(jù)庫的功能傳統(tǒng)關系型 數(shù)據(jù)庫發(fā)展 時間較長， 功能豐富分布式一致性分布式系統(tǒng) 的多副本如 何保持一致 性最終一致性、 弱一致性不 符合用戶需 求分布式事務理論成熟工程與性能 上的優(yōu)化交易庫：每筆交易一條/幾條記錄，增刪改：創(chuàng)建、買家已付款、 賣家已發(fā)貨、退貨退款賬務庫：每人一條/幾條記錄，增刪改：付款、收款、變更數(shù)據(jù)庫：數(shù)據(jù)總量大，增刪改量少10億次寫，100B/寫100GB只讀數(shù)據(jù) 修改數(shù)據(jù)數(shù)據(jù)庫：隱蔽的事實數(shù)據(jù)存儲：多機磁盤修

4、改增量：單機內存Data基線數(shù)據(jù)(磁盤)修改增量(內存)Query數(shù)據(jù)增刪改每日合并：修改增量多數(shù)數(shù)據(jù)庫每天有明顯 的訪問低谷 (e.g.,2:00am-5:00am)Data基線數(shù)據(jù)修改增量新的修 改增量讀寫事務 照常進行最初版本v0.2存在兩個單點，通過HA(http:/)來實現(xiàn)高可用基線數(shù)據(jù)節(jié)點可任意擴展寫節(jié)點半同步，不能區(qū)分insert / updateV0.2與收藏夾業(yè)務同學代寫的Java胖客戶端解決了收藏夾的一個業(yè)務痛點通過數(shù)據(jù)冗余+Join更新信息消滅隨機讀/寫策略和業(yè)務一起解決業(yè)務痛點綁定客戶UID備注標簽寶貝ID價格描述1000等降價家居100098詳情10006.30前零食

5、200010003000寶貝ID價格描述.100099V0.3 多IDC & OLAP去除UpdateServer的HA，改由RootServer來決定誰是Master支持多IDC部署、但IDC切換需要人工介入在查詢層面對并發(fā)作了優(yōu)化，可滿足輕量級的OLAPV0.3與廣告報表報表業(yè)務數(shù)據(jù)分塊、并發(fā)查詢數(shù)據(jù)導入單點瓶頸旁路影響千億條記錄百T規(guī)模數(shù)據(jù)客戶端的表現(xiàn)力差V0.4 支持SQLUpdate ServerMergeServer ChunkServerMergeServer ChunkServerMergeServer ChunkServerMergeServer ChunkServerMer

6、geServer ChunkServerMergeServer ChunkServer修改增量應用接口基線數(shù)據(jù)SQLSQLSQLSQLSQLSQLSQLSQLRoot Server配置管理兼容MySQL協(xié)議區(qū)分update/insert支持并發(fā)更新V0.4小結去除自定義協(xié)議的客戶端不少業(yè)務慕名而來并對外開源( 非核心業(yè)務核心業(yè)務開始嘗試數(shù)據(jù)庫功能缺失同步機制0.5 多機房同步RootServer分布式選主，不再依賴HA多機房部署，少數(shù)派機房故障自動容災，數(shù)據(jù)不丟失覆蓋螞蟻多個核心系統(tǒng)V0.5與螞蟻核心系統(tǒng)OracleOB交易APPORM中間層實時數(shù)據(jù)對比雙寫驗證灰度引流、隨時回滾V0.5與螞蟻

7、核心系統(tǒng)2014年初交易核心開始遷移當年雙11承擔20%的流量2015完成支付在內的多個核心 系統(tǒng)遷移第一個支撐的銀行的非商業(yè)數(shù) 據(jù)庫網(wǎng)商銀行交易支付卡券當面 付賬務單UpdateServer的意義與限制極大簡化實現(xiàn)避免分布式事務較簡單的數(shù)據(jù)模型限制集群規(guī)模數(shù)據(jù)導入0.5以前1.0引入分區(qū)表1.0 多點寫入主庫執(zhí)行寫事務并同步到備庫，超過半數(shù) 成功則事務成功2/22/3, 3/33/4，4/43/5, 4/5，5/5主庫IDC-1備庫IDC-3備庫IDC-27897879同步機制錯峰合并P1P2P3P4P5P6P7P8IDC1P1P2P3P4P5P6P7P8IDC2P1P2P3P4P5P6P7

8、P8IDC3逐IDC合并，灰度引流，緩存預熱同樣的用在升級流程上一條記錄修改，整個數(shù)據(jù)重寫50MB/s寫入4TB盤，需4TB/50MB=80,000s新數(shù)據(jù)修改的數(shù)據(jù)舊數(shù)據(jù)每日合并每日合并耗時數(shù)據(jù)分塊(例如2MB)舊數(shù)據(jù)新數(shù)據(jù)降低每日合并耗時公有云上的金融級數(shù)據(jù)庫服務云數(shù)據(jù)庫OceanBase云數(shù)據(jù)庫OceanBase基于OceanBase的DBaaS提供自助化服務，一鍵即可 擁有OceanBase實例免管理提供使用建議在螞蟻和集團長期使用，原 生態(tài)輸出具備輸出到專有云的能力網(wǎng)商銀行云數(shù)據(jù)庫OceanBase多可用區(qū)部署杭州三IDC部署，每個IDC之間延遲小于1ms與內部最新版本保持同步生態(tài)支持DTS 數(shù)據(jù)遷移DMS數(shù)據(jù)管理集群共享模式，無縫動態(tài)伸縮，即時生效未來發(fā)展OceanBase目前仍然在快速 迭代灰度升級對應用透明讓數(shù)據(jù)庫的歸數(shù)據(jù)庫，一切 以簡化用戶使用為目標完善功能歷史庫OLTP & OLAP混合負載成本業(yè)務快速需求迭代正式灰度上線升級未來發(fā)展完善功能以業(yè)務需求驅動滿足內部業(yè)務的平滑遷移數(shù)據(jù)庫兼容性測試平臺站在巨人的肩膀上數(shù)據(jù)類型存儲過程、FlashBack未來發(fā)展歷史庫OLTP系統(tǒng)有典型的冷熱數(shù)據(jù)冷數(shù)據(jù)需要遷移OceanBase冷熱數(shù)據(jù)自動識別異構機型SSDSATAP1P2P3P4P5P6P7P8IDC1未來發(fā)展OLTP & OLAP混合負載離線分析OLAP對