TiDB數(shù)據(jù)庫的HTAP架構(gòu)內(nèi)核介紹

1、技術(shù)創(chuàng)新，變革未來TiDB數(shù)據(jù)庫的HTAP架構(gòu)內(nèi)核介紹What is TiDB?分布式關(guān)系型數(shù)據(jù)庫，全面兼容MySQL 協(xié)議HTAP (Hybrid Transactional/Analytical Processing)在本地和云上都有強(qiáng)大的Scale 能力是數(shù)據(jù)庫領(lǐng)域世界范圍內(nèi)的頂級(jí)開源項(xiàng)目被超過 1500 家知名企業(yè)所使用目錄TiDB 的HTAP 架構(gòu)一些比較關(guān)鍵的設(shè)計(jì)點(diǎn)使用Raft 協(xié)議復(fù)制數(shù)據(jù)可更新的列存引擎結(jié)合行存和列存的優(yōu)勢(shì)用戶的使用方式性能測(cè)試TiDB HTAP 架構(gòu)的上層視角TiDB Upper ViewTiDB 的HTAP 架構(gòu)Raft Groupidnameage0962

2、Jane307658John453589Jim205523Susan52Row Storeid0962765835895523nameJaneJohnJimSusanage30452052Column StoreSELECT avg(age) from tmp;行存 VS 列存使用 Raft 協(xié)議復(fù)制數(shù)據(jù)使用 Raft 協(xié)議在 TiKV 節(jié)點(diǎn)之間，以及 TiKV 和 TiFlash 之間復(fù)雜數(shù)據(jù)更容易擴(kuò)展更低延遲架構(gòu)上的簡潔更容易支持事務(wù)的 ACID 特性使用 Raft 協(xié)議復(fù)制數(shù)據(jù)使用 Raft 協(xié)議復(fù)制數(shù)據(jù)Leader or Follower replicas (Synchronous)L

3、earner replica (Asynchronous)Raft LeaderRaft Learner4Together with MVCC, provides strongly consistent readTiDBT0 WriteT2 Ensure Latest Data3T1 ReadRaft Learner - ReadDeltaTree: 一個(gè)可更新的列存引擎寫批量寫& 高頻寫Fast讀為 Scan 而優(yōu)化FastDeltaTree Storage EngineWrit eReadDeltaTree 的設(shè)計(jì)目標(biāo)數(shù)據(jù)以主鍵范圍分區(qū)成SegmentSegment 的內(nèi)部結(jié)構(gòu)類似于LSM

4、-TreeCompact不同的Layer 使用不同的存儲(chǔ)結(jié)構(gòu)Delta Layer:More frequent write (1000 IOPS)Random readSmall volume (5%)Stable Layer:Less write (95%)DeltaStableDeltaStablePageStorageDTFiles不同的Layer 使用不同的存儲(chǔ)結(jié)構(gòu)DeltaIndex (A Memory B+Tree)Ins or DelDIDSIDDelta LayerStable LayerInternal NodeLeaf NodePlacedDeltaRowsDeltaInd

5、ex：優(yōu)化讀性能Optimize sort merge:PK compareData copy, one by one.Level 0Level 1Level nStableDeltaStableDeltaStableDeltaLSM-Tree.Sement 0-inf, 100)Sement 1100, 200)Sement n 200, +infDelta Treeselect . where x between (150, 160)VS范圍Scan 與LSM Tree 的區(qū)別數(shù)據(jù)以 Range 分區(qū)類似LSM-Tree，但只有兩層寫優(yōu)化: 使用DeltaCache 緩沖讀優(yōu)化：更少的層數(shù)

6、，且使用DeltaIndex 優(yōu)化 mergeDeltaTree 總結(jié)同時(shí)擁有行存和列存的獨(dú)特優(yōu)勢(shì)回顧TiDB 的HTAP 架構(gòu)Raft GroupTiKV Node 1Store 1Region 1Region 2Region 3Region 4TiKV Node 3Store 3Region 2Region 3Region 4Region 1TiKV Node 2Store 2Region 4Region 3Region 2Region 1TiFlash Node 1TiKV ClusterTiDB/ TiSparkSELECT AVG(s.price) FROM prod p, sale

7、s s WHERE p.pid = s.pidAND p.batch_id = B1328;Index Scan(batch_id = B1328)TableScan(price,pid)在一個(gè)查詢內(nèi)部，同時(shí)利用行存和列存的優(yōu)勢(shì)TiFlash ClusterTiFlash Node 2TiFlash Node 1MPP WorkerOptimizerTiFlash Node 2TiFlash Node 3TiDB-ServerMPP WorkerMPP WorkerPlan SegmentParserUser QueryTiKV Node 1TP Query read KV directlyT

8、iFlash is computing / storage combined for now.It forms MPP cluster in AP workload.AP query might read KV if neededIn MPP mode, TiDB- Server becomes the coordinator.MPP 引擎，v5.0 新特性我們的用戶是如何利用TiDB 的HTAP 能力的？MySQLAPP ServerAnalytical DatabaseBI ServiceTiDBAPP ServerBI ServerTiDB TP + AP In One CaseETLTiDB + Flink性能測(cè)試TiFlash MPP vs Spark（v5.0）TiDB vs Others右表是一個(gè)航空公司實(shí)時(shí)航 班起降的分析場景測(cè)試約 1.8億條記錄https:/ Lab/ontime-airline- performanceTiDB + TiFlash 的測(cè)試結(jié)果/p/106688537TiDBSingleStoreTiDB VS SingleStore , CH-benCHmark，隔離性對(duì)比A real-world case總結(jié)TiDB 通過使用異構(gòu)存儲(chǔ)，獲得真正的