AI時代的Power服務(wù)器架構(gòu)

AI時代的Power服務(wù)器架構(gòu)AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第1頁。POWER9

：AI時代全球性能最強(qiáng)大的通用處理器17層金屬層>15英里芯片內(nèi)金屬線80億晶體管4GHz最高主頻>24B過孔7TB/s片內(nèi)帶寬~1TB/s片外帶寬1st原生支持PCIe4.09.5x4線程數(shù)量CPU-GPU加速帶寬2x2.6x

更大內(nèi)存存儲容量1.8x單處理器帶寬POWER9vsx86Xeon

SPPOWER9withNVLinkvsx86

XeonAI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第2頁。增強(qiáng)的架構(gòu)體系云和虛擬化創(chuàng)新工作頻率視負(fù)載量而變最新的

I/O

子系統(tǒng)PCIe

Gen4SMT8

并發(fā)多線程120MB

片上L3

緩存獨(dú)特的高帶寬設(shè)計片內(nèi)帶寬:

7TB/s高速外聯(lián)：25

GB/s性能提升40%與POWER8相比14納米工藝17層布線80億晶體管為海量并行計算和異構(gòu)數(shù)據(jù)交互設(shè)計120MB

共享三級緩存SMT8

多線程并發(fā)為高負(fù)載和加速型應(yīng)用而設(shè)計片上數(shù)據(jù)交換帶寬：

7

TB/s每核數(shù)據(jù)吞吐能力：

256

GB/s17

層布線eDRAM節(jié)省2/3空間,

4/5功耗內(nèi)存帶寬高達(dá)230GB/sPCI總線帶寬高達(dá)192GB/s對稱數(shù)據(jù)處理引擎設(shè)計更高效的指令流水線更高的單線程性能領(lǐng)先的硬件加速平臺NVLink

2.0CAPI

2.0New

CAPI全新的微架構(gòu)全新POWER9處理器架構(gòu)AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第3頁。POWER9架構(gòu)六大性能優(yōu)勢7X處理器互連帶寬150GB/sx6:41.6GB/sx

32XIO總線帶寬192GB/s:

96GB/s4X單核線程數(shù)8:

22.7X單處理器內(nèi)存容量4TB:1.5TB3.3XL3高速緩存120MB:

38.5MB2X內(nèi)存帶寬230GB/s:

120GB/sAI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第4頁。極致性能搭載全新OpenPOWER9處理器支持2666MHZ內(nèi)存靈活擴(kuò)展靈活的存儲及I/O擴(kuò)展最大支持28×2.5”磁盤及8×PCIe4.0插槽加速AI最大支持4×GPU支撐各類AI應(yīng)用FP5280G2數(shù)據(jù)中心的全功能型平臺智能管理融合多維管理平臺，支持多種管理方式支持IPMI

2.0與RedfishOpenPOWER明星產(chǎn)品：FP5280G2AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第5頁。InspurPower

SystemsFP5295G2面向企業(yè)

AI

與HPC應(yīng)用的全球最高性能計算平臺節(jié)點(diǎn)FP5295提供最佳支持HPC和人工智能

(AI)的平臺。企業(yè)可充滿信心地部署深度學(xué)習(xí)框架和加速數(shù)據(jù)庫等數(shù)據(jù)密集型工作負(fù)載。專為企業(yè)

AI而重新設(shè)計

IT基礎(chǔ)架構(gòu)。3.8倍提升深度學(xué)習(xí)框架AI模型訓(xùn)練效率1.8倍更好的加速數(shù)據(jù)庫性能AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第6頁。更高性能處理器更快

更大內(nèi)存系統(tǒng)用于加速器的更快速PowerAccel互連NVLink

1.05xvs.

x86CAPINVLinkPCIe

Gen3P86.4-9.5Xvs.

x86OpenCAPING

NVLinkPCIe

Gen4P9P8>2X

vs.x861.8X

Bandwidth2.6XCapacityvs.

x86強(qiáng)大的高性能核心，帶寬，加速器差異化深度學(xué)習(xí)框架和加速數(shù)據(jù)庫等數(shù)據(jù)密集型工作負(fù)載平臺用于加速器的快速PowerAccel互連面向AI智慧計算/HPC

計算專門持續(xù)優(yōu)化設(shè)計AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第7頁。OpenPOWER明星產(chǎn)品：FP5466G2I/O擴(kuò)展支持8個最新標(biāo)準(zhǔn)PCIe

4.0插槽，是x86平臺2倍速率支持OCP網(wǎng)卡25G/40G高速網(wǎng)絡(luò)強(qiáng)勁性能支持2顆POWER處理器，最高支持22核CPU。支持8塊PCIe

4.0

標(biāo)準(zhǔn)IO設(shè)備，是x86平臺2倍速率海量存儲最大支持40塊3.5寸硬盤，單機(jī)容量480T或36塊3.5寸盤+4塊2.5寸硬盤高效節(jié)能支持單盤上下電，保證高效節(jié)能。為不同配置匹配對應(yīng)優(yōu)化散熱策略。FP5466G面向溫冷存儲的存儲優(yōu)化型服務(wù)器前視圖Option1Option2AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第8頁。多實(shí)例數(shù)據(jù)庫性能優(yōu)勢更大最大化NX

GZIP

處理能力加速數(shù)據(jù)庫查詢020000400004KData.…128K512K1M2M4M8M16M64M128M256M512M1024M2048MMulti-threadNX-GZIP

ThroughputThread1Thread8Thread2Thread16Thread4Thread32DFS

在高速磁盤獲得更大性能優(yōu)勢MariaDB+TokuDBWriteperSecHigheris

betterSW

ZLIB

Write NXGZIP

Write600004000020000014816201481620148162014

816201

Instance 4

Instance 8

Instance 16

Instance800000006000000040000000200000000Xeon

6130POWER9

SforzaSingle

InstantRedis-benchmarkKA=1,

PL=100QPS1.3XMulti-insmongoDB

YCSB-workloadQPS2000001500001000005000002.2XXeon6130 POWER9

Sforza0500010000512Kseqreadand

write(2*SSD+10HDD)Xeon6130 POWER9

Sforza1.1X01000020000512K

seqwrite512K

seqread512K

seqwrite 512K

seqread512Kseq

read

andwrite 2.0X(12*SSD)Xeon6130 POWER9

SforzaOpenPOWER服務(wù)器卓越性能AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第9頁。8006004002000Xeon6130

PCIEGen3Time

usIB_WRITE_LAT8M

Bytes69520797115272500020000150001000050000Sforza

PCIEGen4 Xeon6130

PCIEGen3Bandwidth

MB/sInfiniBand

傳輸顯著受益于

PCIe

4.02042400020000Xeon2640v4+4xPower9Monza4xTesla

V100 Tesla

V100Imagesper

second701.53806040200Tensorflow

(Google SnapML

(IBMCloud） Power)Runtime

minutesNVLink

的優(yōu)勢在大尺寸數(shù)據(jù)集上更為顯著TensorFlow

+

2.3XResNet50+

Imagenet20126000 4763Criteo

Terabyte

ClickLogs

46XBenchmarkPCIe

4.0

VS

NVLink

2.0

的

GPUDB性能1.8X387SforzaPCIE

Gen4IB_WRITE

BW

8M

Bytes

1.8X3000020000100000Query1 Query2 Query3 Query

4Query

TimeNVLink2.0 PCIe

4.0GB/sData

loading

Time 2.9X4029302010100NVLink2.0 PCIe

4.010X+OpenPOWER服務(wù)器卓越性能AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第10頁。BOSS存庫賬單庫 通知平臺分揀某大型互聯(lián)網(wǎng) 支撐系統(tǒng)某大型運(yùn)營商 計費(fèi)平臺分布式內(nèi)加速互聯(lián)網(wǎng)大數(shù)據(jù)應(yīng)用第三方支付廣告推薦數(shù)據(jù)挖掘數(shù)據(jù)分析統(tǒng)一計費(fèi)平臺全面優(yōu)化大數(shù)據(jù)應(yīng)用???性能：提升28%功耗：優(yōu)化5%，節(jié)電30萬元TCO：優(yōu)化20%每小時完成13萬任務(wù)量現(xiàn)網(wǎng)Hadoop平臺全面混合部署20%LOWER

TCO28%Performance???性能：線程量2倍提升，分揀、排重、批價密集型負(fù)載內(nèi)存：單機(jī)1~2T內(nèi)存穩(wěn)定：全年長期80%以上負(fù)載壓力，零壓力Power-Linux預(yù)處理分揀排重批價短信提醒信控賬管后臺Oracle:用戶資料系統(tǒng)參數(shù)Power-Linux Power-Linux分布式內(nèi)存 分布式文件系 內(nèi)存庫：實(shí) Redis+Hbas庫iDMDB:用 統(tǒng)SDFS 時賬單 e：排重歷史戶資料緩存 緩存Linux集群-分業(yè)務(wù)Power小機(jī)AI時代的Power服務(wù)器架構(gòu)全文共13頁，當(dāng)前為第11頁?；ヂ?lián)網(wǎng)數(shù)據(jù)分析方案綜合運(yùn)營數(shù)據(jù)分析FP5280G2：Sforza22core*2

256GTCO降低20%煙草營銷分析方案用戶畫像分析FP5280G2：Sforza22core*2

256G時間開銷縮減21%衛(wèi)星數(shù)據(jù)分析方案衛(wèi)星遙感數(shù)據(jù)存儲及分析FP5280G2：Sforza22core*2

256G數(shù)據(jù)吞吐量提升23%高速計費(fèi)服務(wù)方案費(fèi)率計算及數(shù)據(jù)存儲FP5280G2：Sforza22core*2512G通行效率提升32%通訊計費(fèi)服務(wù)方案運(yùn)營商統(tǒng)一計費(fèi)業(yè)務(wù)FP5290G2：Lagrange22core*2

1T性能等同X86

4路服務(wù)器地理信息分析方案省級地理信息共享及分析FP5280G2：S