吳斌偉 - 構(gòu)建高可用可伸縮KV系統(tǒng).ppt

吳斌煒ucloud,構(gòu)建高可用和彈性伸縮的kv系統(tǒng),agenda,常見kv存儲系統(tǒng) 如何構(gòu)建高可用可伸縮kv存儲系統(tǒng),演講流程,演講大綱,nosql（not only sql）,3,易擴(kuò)展,高性能,數(shù)據(jù)結(jié)構(gòu)靈活,sql類db如何提升性能,3,db1 & db2,主,從,寫,讀,sql類db如何提升性能,3,db1,主,從,寫,讀,db2,從,寫,讀,主,kv存儲系統(tǒng)使用場景 緩存,3,mysql,用作緩存只能提升讀性能，不能提升寫性能,kv存儲系統(tǒng)常用場景 持久化db,3,用作持久庫可以同時提升讀寫性能,memcache,3,動態(tài)網(wǎng)頁中間結(jié)果,更新較少的熱點(diǎn)數(shù)據(jù),session等臨時數(shù)據(jù),不足,使用場景,適用場景較,機(jī)器重啟后熱點(diǎn)數(shù)據(jù)丟失,redis,取最新n個數(shù)據(jù)的操作,排行榜應(yīng)用，取top n操作,需要精準(zhǔn)設(shè)定過期時間的應(yīng)用,計數(shù)器應(yīng)用,消息隊列,緩存,使用場景,不足,單進(jìn)程,容量受單機(jī)限制,傳統(tǒng)解決redis問題的方案,sharding,讀寫分離,單機(jī)redis,性能,主從如何復(fù)制？,自動容錯？,在線擴(kuò)容？,高可用可伸縮kv存儲系統(tǒng),3,兼容memcache/redis協(xié)議,路由節(jié)點(diǎn),存儲節(jié)點(diǎn)2,存儲節(jié)點(diǎn)1,高可用可伸縮kv存儲系統(tǒng),3,兼容memcache/redis協(xié)議,路由節(jié)點(diǎn)1,存儲節(jié)點(diǎn)1(主),存儲節(jié)點(diǎn)1(備),存儲節(jié)點(diǎn)2(主),存儲節(jié)點(diǎn)2(備),高可用可伸縮kv存儲系統(tǒng),3,兼容memcache/redis協(xié)議,管理節(jié)點(diǎn),路由節(jié)點(diǎn)1,路由表,存儲節(jié)點(diǎn)1(主),存儲節(jié)點(diǎn)1(備),存儲節(jié)點(diǎn)2(主),存儲節(jié)點(diǎn)2(備),高可用可伸縮kv存儲系統(tǒng),3,兼容memcache/redis協(xié)議,管理節(jié)點(diǎn),路由節(jié)點(diǎn)1,路由表,存儲節(jié)點(diǎn)1(主),存儲節(jié)點(diǎn)1(備),存儲節(jié)點(diǎn)2(主),存儲節(jié)點(diǎn)2(備),搬遷節(jié)點(diǎn),存儲節(jié)點(diǎn)3,高可用可伸縮kv存儲系統(tǒng),3,兼容memcache/redis協(xié)議,管理節(jié)點(diǎn),路由節(jié)點(diǎn)1,路由表,存儲節(jié)點(diǎn)1(主),存儲節(jié)點(diǎn)1(備),存儲節(jié)點(diǎn)2(主),存儲節(jié)點(diǎn)2(備),搬遷節(jié)點(diǎn),存儲節(jié)點(diǎn)3,請求,獲取路由,心跳,遷移,復(fù)制,如何構(gòu)建高可用可伸縮kv存儲系統(tǒng),3,數(shù)據(jù)分布,復(fù)制和讀寫,自動容錯,在線擴(kuò)縮容和負(fù)載均衡,一致性hash算法,ketama算法,將每個節(jié)點(diǎn)分為若干個虛節(jié)點(diǎn)（100-200）,使用md5做為hash函數(shù),每4個虛擬節(jié)點(diǎn)為一組,每個虛擬節(jié)點(diǎn)對應(yīng)16字節(jié)的md5值中的4個字節(jié),數(shù)據(jù)分布 同構(gòu)系統(tǒng),a b c,a b c,d e f,d e f,數(shù)據(jù)分布 異構(gòu)系統(tǒng),a e f,d b c,e a b,c e f,異構(gòu)系統(tǒng)在一臺機(jī)器故障后多臺機(jī)器能夠同時恢復(fù)，不過架構(gòu)較為復(fù)雜,復(fù)制和讀寫流程,w1,w1,w4,異步復(fù)制 保證可用性犧牲一致性,同步復(fù)制 保證一致性犧牲可用性,w2,w3,w4,w3,w2,主,從,主,從,路由節(jié)點(diǎn),路由節(jié)點(diǎn),自動容錯,3,管理節(jié)點(diǎn),路由節(jié)點(diǎn)1,路由表,存儲節(jié)點(diǎn)1(主),存儲節(jié)點(diǎn)1(備),存儲節(jié)點(diǎn)2(主),存儲節(jié)點(diǎn)2(備),hash(key),路由節(jié)點(diǎn)2,請求,獲取路由,心跳,遷移,復(fù)制,lvs,請求,db,磁盤,彈性伸縮和負(fù)載均衡,0,n,新增node3,需要遷移的key,node1 virtual node,node2 virtual node,node3 virtual node,key,目的節(jié)點(diǎn),源節(jié)點(diǎn),在線遷移數(shù)據(jù),3,遷移完成的數(shù)據(jù)轉(zhuǎn)發(fā)給目的端,遷移中的數(shù)據(jù)鎖定寫，遷移完成