Sina微博構(gòu)架師-楊衛(wèi)華：構(gòu)建可擴(kuò)展的微博系統(tǒng)

構(gòu)建可擴(kuò)展微博架構(gòu)TimYang新浪微博技術(shù)架構(gòu)師從博客到微博博客功能發(fā)表瀏覽留言ContentManagerSystem博客技術(shù),LAMPMySQLmaster/slaveMemcachedPHPCDN微博微博，產(chǎn)品Real-time關(guān)注關(guān)系信息聚合信息聚合信息聚合微博兩種信息聚合設(shè)計(jì)模式Push(推)Pull(拉)Push把微博看做郵件Inbox:收到的微博Outbox:已發(fā)表微博發(fā)表：存到所有粉絲inbox(重)查看：直接訪問Inbox(輕)Push(Figure)UserAUpdateActionInbox(Appendto1’shometimeline)Inbox(Appendto2’shometimeline)Inbox(Appendto3’shometimeline)FollowersofUserA=1,2,3Push優(yōu)點(diǎn)：實(shí)現(xiàn)簡(jiǎn)單，首選缺點(diǎn)：分發(fā)量Pull發(fā)表：存到自己outbox(輕)查看：所有關(guān)注對(duì)象Inbox(重)PullUserIGethome_timelineOutbox(statusessentbyA)Outbox(StatusessentbyB)Outbox(StatusessentbyC)UserI’sFollowingList=A,B,CPull優(yōu)點(diǎn)：節(jié)約存儲(chǔ)缺點(diǎn)：計(jì)算量大微博是一個(gè)消息分發(fā)系統(tǒng)可采取推或拉的方式實(shí)現(xiàn)架構(gòu)挑戰(zhàn)：峰值-如除夕、春節(jié)請(qǐng)求量如果發(fā)表量5,000萬/天平均：578條/秒設(shè)計(jì)系統(tǒng)容量：2,000?IO瓶頸峰值：5,000–10,000?100,000?后果LatencyDBreadtimeout前端timeout(503error)解決方案？異步設(shè)計(jì)不同步等待將消息存入消息隊(duì)列(MessageQueue)輕量級(jí)的發(fā)表MQproductsKestrelbytwitterRabbitMQ,anErlangQueueServerMemcacheq在新浪微博工程大規(guī)模使用Memcacheq基于Berkeleydb,穩(wěn)定可靠Memcachedprotocol,豐富的clientlibrary容易監(jiān)控(statsqueue)只有2個(gè)命令：get/set防止單點(diǎn)故障核心效勞，需防止單獨(dú)故障方法使用多個(gè)Memcacheq池Get操作:輪詢所有效勞器Set操作:隨機(jī)選擇一個(gè)無需其他復(fù)雜“架構(gòu)”設(shè)計(jì)MQ方式通用的優(yōu)點(diǎn)Offlinework應(yīng)用請(qǐng)求量不均衡解耦異步通訊原那么使用MQ原那么計(jì)算開銷大于消息分發(fā)開銷架構(gòu)挑戰(zhàn)：實(shí)時(shí)性越重要的事件，越希望實(shí)時(shí)性Thevalueofthetweetdecreasesexponentiallywithtime

JohnKalucki,Twitter://t.sina/pub/star#a_ty解決思路Cache中心化RamisthenewthediskLocalCacheMemcachedDatabasebuffer/cacheLAMP中，cache=可選層Cache中心化后新的問題容量問題TB級(jí)思路：壓縮QuickLZLZO不用gzip單點(diǎn)問題單點(diǎn)故障,SIGSEGV如何應(yīng)對(duì)1.Consistenthash2.Read-throughcacheConsistenthash原理優(yōu)點(diǎn)震蕩最小Read-throughcacheRead-throughandWrite-throughProductsorprojectsMySQLmemcachedUDFCachemoneyforRubyonRailsOrwrapaproxyforthedbdriver,inanylanguageEvictions問題Evections:cache數(shù)據(jù)被踢性能的噩夢(mèng)Latency產(chǎn)生的源頭之一如何防止evictions規(guī)劃cache容量將永久數(shù)據(jù)與臨時(shí)數(shù)據(jù)分開不使用隨機(jī)字符作為keyMultiget問題WhenmemcachedserversareCPUbound,addingmorememcachedserversdoesn'thelpservemorerequests.-JeffRothschild,VicePresidentofTechnologyatFacebookCache挑戰(zhàn)：multigethole解決方法Memcachedreplication架構(gòu)挑戰(zhàn)：海量存儲(chǔ)架構(gòu)挑戰(zhàn)：國(guó)內(nèi)網(wǎng)絡(luò)帶寬問題地理分布考慮到以下原因，需要分布式部署訪問速度IDC不可用故障分布的核心是數(shù)據(jù)分布數(shù)據(jù)地理分布原理Master-slaveMaster-master2PC/3PCPaxos:///data/multi-idc-design//地理分布的方案MySQLmaster/slaveDynamo/CassandraPNUTS架構(gòu)挑戰(zhàn)：API訪問量以新浪微博開放平臺(tái)為例RESTAPI編程簡(jiǎn)單，library豐富可用curl,javascript實(shí)現(xiàn)一個(gè)client缺點(diǎn)單向詢問方式如何解決輪詢壓力解決方案：SinaAppEngineSinaAppEngine應(yīng)用云平臺(tái)提供微博A