智算產(chǎn)業(yè)發(fā)展白皮書

智算產(chǎn)業(yè)發(fā)展白皮書（2023年）PAGEPAGE3目錄引言 5一、智算發(fā)展迎來新機遇 71、AI大模型驅(qū)動的智算時代正加速到來 72、智能算力成為數(shù)字經(jīng)濟發(fā)展的新引擎 83、國家和地方密集出臺政策支持智算布局 9二、智算產(chǎn)業(yè)全景及新進展 121、智算產(chǎn)業(yè)鏈初步形成，生態(tài)集聚效應(yīng)不斷增強 122、國產(chǎn)自研AI芯片加速入場，短期高效供給仍受限 153、智算中心建設(shè)版圖持續(xù)擴張，智算服務(wù)靈活多樣 164、大模型呈蓬勃發(fā)展態(tài)勢，助力產(chǎn)數(shù)業(yè)務(wù)發(fā)展 19三、智算發(fā)展五大新趨勢 21趨勢1：國產(chǎn)多元異構(gòu)算力融合推動智算長效發(fā)展 21趨勢2：智算從單節(jié)點向區(qū)域化協(xié)同、邊端部署演變 21趨勢3：普惠泛在的智算服務(wù)生態(tài)正逐步構(gòu)建 23趨勢4：確定性、高性能網(wǎng)絡(luò)助推大規(guī)模智算集群構(gòu)建 24趨勢5：低碳化發(fā)展格局需創(chuàng)新智算-電網(wǎng)協(xié)同模式 25四、智算技術(shù)發(fā)展的七大關(guān)鍵詞 27關(guān)鍵詞1：存算一體 27關(guān)鍵詞2：一云多芯 27關(guān)鍵詞3：CPO 28關(guān)鍵詞4：RDMA 29關(guān)鍵詞5：DDC 30關(guān)鍵詞6：并行計算 32關(guān)鍵詞7：液冷 32五、智算發(fā)展?jié)摿υu估 341、評估方法 342、評估結(jié)果 36六、典型案例 411、中國電信安徽智算中心 412、中國電信（國家）數(shù)字青海綠色大數(shù)據(jù)中心 423、海蘭信海底數(shù)據(jù)中心 43七、總結(jié)與展望 47八、附錄-智算評估實施方案 481、評估指標(biāo)模型構(gòu)建 482、評估指標(biāo)賦值 493、評估指標(biāo)權(quán)重設(shè)計 494、各省評估得分 51九、參考文獻 52PAGEPAGE35一、智算發(fā)展迎來新機遇1、AI大模型驅(qū)動的智算時代正加速到來圖1人工智能產(chǎn)業(yè)發(fā)展歷程人工智能自1956年誕生以來，歷經(jīng)三次發(fā)展浪潮。第一次浪潮（1956-1970s），神經(jīng)網(wǎng)絡(luò)相關(guān)基礎(chǔ)理論被提出，搜AIAIIBMAIAI9018[3]AI2016研發(fā)的AlphaGoAIAI202211MAIAIAI2、智能算力成為數(shù)字經(jīng)濟發(fā)展的新引擎人工智能產(chǎn)業(yè)市場前景廣闊，成為推動全球經(jīng)濟發(fā)展的新動力。IDCAI154020263000億美元，預(yù)計2022202627%[4]2021Al53.92025103.4億美元，20212025CAGR17.7%[5]。展的新動力。2035202620%[6]1.8508018%[7]；2022年我國新增算力基礎(chǔ)設(shè)施中智能算力占比過半，智算成為算力增202540005110[8]。3、國家和地方密集出臺政策支持智算布局表1.我國部委智算中心建設(shè)相關(guān)政策數(shù)據(jù)來源：各部委官方文件2035工信部、國家發(fā)改委等先后出臺《新型數(shù)據(jù)中心發(fā)展三年行動計劃（2021-2023年2023425。表2.我國各省市智算中心建設(shè)相關(guān)政策數(shù)據(jù)來源：各省市官方政策文件AI201000用于支持算力中介服務(wù)機構(gòu)、科技型中小微企業(yè)和創(chuàng)客、科研機構(gòu)、高校等使用國家超算成都中心、成都智算中心算力資源。二、智算產(chǎn)業(yè)全景及新進展1、智算產(chǎn)業(yè)鏈初步形成，生態(tài)集聚效應(yīng)不斷增強圖2智算產(chǎn)業(yè)鏈圖譜（一）上游：AI芯片領(lǐng)域形成多方競爭格局GPU、FPGA技術(shù)壁壘高，迅速形成寡頭格局。英偉達（NVIDIA）憑借NVLinkNVSwitchCUDAGPUA100GPU90%以IDC2025GPUAI8FPGA90%[9]。TPUNPUTPUNPUASICTPU等公司也都推出了深度神經(jīng)網(wǎng)絡(luò)加速的ASICNPU、阿里平頭哥NPUOmdia32Arista18%。TOP3MetaInfiniand和RoE智算網(wǎng)絡(luò)的低時延、大帶寬、穩(wěn)定運行、大規(guī)模以及可運維的需求。InfiniBandRoCERoCENVIDIAConnectX（二IDC決方案Meta11人工智能數(shù)據(jù)中心的建設(shè)。另一方面加速布局AI大模型，如谷歌域建設(shè)超算中心Dojo，擁有超過100萬個訓(xùn)練節(jié)點，算力達到1.1EFLOPS[10]AIAI“AppleGPT”。IDC服務(wù)商依托云/網(wǎng)資源優(yōu)勢，積極參與智算建設(shè)。國內(nèi)運營1.6Tb[11]IDC2023NTT585902023IT（三）下游：車企領(lǐng)銜行業(yè)大模型落地應(yīng)用MetaAISandbox為廣告生成不同的文字、Apple推出生成式人工智能元宇宙產(chǎn)品VisinProsiriGPTGPTAI 圖3國內(nèi)外大模型行業(yè)分布[13]車企布局智算中心用于自動駕駛大模型訓(xùn)練。特斯拉基于BEV2024100EFLOPSAI湖州20251.2EFLOPS[14]。170[15]基于6POS倍[16]。2、國產(chǎn)自研AI芯片加速入場，短期高效供給仍受限國產(chǎn)硬件廠商持續(xù)突破AI芯片性能，提升市場競爭力。AIMindSporeAIAI大型云商自研AI芯片，以擺脫對國外技術(shù)依賴。阿里面向自身AIRISC-V800TFlopsAIAIAI47（FP64）生態(tài)方面，CUDA用OpenCL3、智算中心建設(shè)版圖持續(xù)擴張，智算服務(wù)靈活多樣智算中心聚焦東部城市，以政府主導(dǎo)國產(chǎn)化為主。202353544（1529）AI9（%9東部多為政府主導(dǎo)建設(shè)，且國產(chǎn)化占比高（54%），西部以云商自建為主。34AI（成熟等因素影響，智算規(guī)模普遍偏小。智算中心規(guī)模在100-300PFLOPS701EFLOPS（圖4我國智算中心及大模型分布務(wù)以及各種組合模式。（一（主要面向云商、AI公司、大型央企等客戶。（二IT（10BGPU（三IaaS到SaaSGPUIaaSMaaS大模型和MaaSSaaS圖5智算服務(wù)體系A(chǔ)IAI4、大模型呈蓬勃發(fā)展態(tài)勢，助力產(chǎn)數(shù)業(yè)務(wù)發(fā)展從8020201079/地區(qū)（38、（20（5（5）[18]/科研機構(gòu)是開源主力。清華大學(xué)的ChatGLM-6B大學(xué)的MOSS通用大模型不僅需要海量數(shù)據(jù)與雄厚算力支撐，對資金實力、人ChatGPT87未來將呈現(xiàn)少勢。AI能為這些行100030002023872（14（14（8（8圖6大模型潛在影響矩陣[19]三、智算發(fā)展五大新趨勢趨勢1：國產(chǎn)多元異構(gòu)算力融合推動智算長效發(fā)展大模型發(fā)展推動、GPU、DPU等“XPU”異構(gòu)算力融合。[20]GPUDPUDPU實現(xiàn)PPS高端AI芯片國產(chǎn)化能力是我國智算產(chǎn)業(yè)長效發(fā)展的關(guān)鍵。一方AIIDC18GPU、ASIC和FPGAAI芯片性能與國際領(lǐng)先水平仍有差距，對美國依賴較大。隨著美國AI含香港GPU趨勢2：智算從單節(jié)點向區(qū)域化協(xié)同、邊端部署演變大模型驅(qū)動的智算成為東數(shù)西算的最佳實踐。由于異構(gòu)算力封裝、超大帶寬和超低延遲傳輸網(wǎng)絡(luò)技術(shù)仍未解決，以當(dāng)前模型訓(xùn)練參數(shù)量（）AI（5億以上usT訓(xùn)練-推理的集中-邊緣/終端兩級化布局逐步形成。ChatGPT12.8GPT4的Bing用戶訪問規(guī)模已超ChatGPT2B2C2023212H100[21]圖7智算中心業(yè)務(wù)訪問模式趨勢3：普惠泛在的智算服務(wù)生態(tài)正逐步構(gòu)建智能算力使用具有周期性，復(fù)用難。AI大模型以“大規(guī)模預(yù)訓(xùn)練﹢AIAI復(fù)用。據(jù)IDC802-3地方政府主導(dǎo)建設(shè)公共算力服務(wù)平臺，提供普惠算力。算力服務(wù)趨勢4：確定性、高性能網(wǎng)絡(luò)助推大規(guī)模智算集群構(gòu)建0.1（）1.6104GB400Gbit/s44Tbit/s1050km400G[22]10TB趨勢5：低碳化發(fā)展格局需創(chuàng)新智算-電網(wǎng)協(xié)同模式203050005OpenAIGPT-3128712011000010402030四、智算技術(shù)發(fā)展的七大關(guān)鍵詞關(guān)鍵詞1：存算一體AI數(shù)據(jù)速度之間嚴(yán)重失衡的問題，嚴(yán)重影響目標(biāo)應(yīng)用程序的功率和性能），10力能耗，在VR/AR的實現(xiàn)方案包括：一是利用先進封裝技術(shù)把計算邏輯芯片和存儲器（如封裝到一起；二是在傳統(tǒng)DRAMSRAMNORFlashNANDFlash關(guān)鍵詞2：一云多芯一云多芯是指用一套云操作系統(tǒng)來管理不同架構(gòu)的硬件服務(wù)器IT5GGPUX86ARM、RISC-V關(guān)鍵詞3：CPOAICPO800G100AIGC800G/1.6T20256051.2T800GCPO64800G3.2AIGCGPU25%，TCO30[23]。圖8以太網(wǎng)轉(zhuǎn)發(fā)芯片演進關(guān)鍵詞4：RDMARDMA(RemoteDirectMemoryAccess)RDMA技術(shù)主要采用的方案為InfiniBand和RoCEv2InfiniBand200Gbps、400GbpsInfiniBandGPUInfiniBandRoCEv2InfiniBand圖9InfiniBand和RoCEv2的技術(shù)對比關(guān)鍵詞5：DDC傳統(tǒng)CLOS網(wǎng)絡(luò)架構(gòu)面臨多級轉(zhuǎn)發(fā)導(dǎo)致時延高、設(shè)備低緩存、易丟包等挑戰(zhàn)，目前業(yè)界主要圍繞優(yōu)化CLOS架構(gòu)、DDC等開展研究。（一云商普遍采用多軌道流量聚合優(yōu)化面向大模型訓(xùn)練的三層CLOS架構(gòu)，確保在大規(guī)模訓(xùn)練時集群的性能和加速比。在多軌道網(wǎng)（Rsth（圖10多軌道流量聚合（二AT&TDD（DisaggrgtedDisribuedhassis）架構(gòu)，支持I超大規(guī)模集群彈性部署。DDC群通過集中式或者分布式的DDCAIVOQ+CellECMPDDCDDC圖11DDC架構(gòu)[24]關(guān)鍵詞6：并行計算40模的GPUGPU一系列優(yōu)化算法和技術(shù)有效提升了算法的運行效率和并發(fā)性能以及關(guān)鍵詞7：液冷AI6-82800WAI41800WAI25kw25-30kw[25]PUE15kW/柜以100%液體冷卻，具有更優(yōu)的節(jié)能效果，PUE1.21.1；浸PUE202540%[26]。五、智算發(fā)展?jié)摿υu估AI1、評估方法基于全及各算業(yè)務(wù)關(guān)政策智算發(fā)特點業(yè)專家意見并結(jié)國內(nèi)研機構(gòu)智能的評估標(biāo)研究助統(tǒng)計學(xué)指標(biāo)篩方法等建智算展?jié)撛u估指標(biāo)我將算發(fā)展力評估簡稱為 ICDP-EM（Intelligentcomputingdevelopmentpotentialevaluationmodel）。ICDP-EM如圖1所，括外部環(huán)境、基設(shè)施務(wù)應(yīng)用3一級標(biāo)，以相應(yīng)個二級標(biāo)圖12中國智算產(chǎn)發(fā)展?jié)摿υu估模型(ICDP-EM)（一）模型分析1）外部環(huán)境AIGDP基礎(chǔ)設(shè)施5GIPV6AIIDC服務(wù)應(yīng)用AIAIAI（二）評估方案1依據(jù)ICDP-EM模型分析，設(shè)計評估體系的評估方案，流程如下：1詳細的評估流程，見附錄指標(biāo)構(gòu)建：ICDP-EM3。指標(biāo)賦值計三級指標(biāo)對應(yīng)的最新數(shù)據(jù)，為三級指標(biāo)賦值提供權(quán)威、客權(quán)重確定：AHPAHP評估指數(shù)結(jié)果評估結(jié)果，包括綜合評估指數(shù)、外部環(huán)境評估指數(shù)、基礎(chǔ)設(shè)施評估指數(shù)、服務(wù)應(yīng)用評估指數(shù)。2、評估結(jié)果圖13 2023國31算發(fā)綜評指數(shù)312（一）智算發(fā)展?jié)摿C合評估指數(shù)有較高智算發(fā)展?jié)摿Φ某鞘小?3、14502514長三角地區(qū)人均GDP展建設(shè)上有更大的優(yōu)勢，助力大模型等AI業(yè)務(wù)快速發(fā)展。圖14人均GDP與綜合指數(shù)的象限圖（二）外部環(huán)境評估指數(shù)2因數(shù)據(jù)獲取難度等限制，本報告只統(tǒng)計中國31省數(shù)據(jù)，不包括中國香港、中國臺灣和中國澳門中西部地區(qū)因綠電、建設(shè)成本低等特點，在智算發(fā)展的外部環(huán)境方面優(yōu)勢凸顯。15GDP圖152023中國31省智算發(fā)展外部環(huán)境評估指數(shù)（三）基礎(chǔ)設(shè)施評估指數(shù)區(qū)圖162023中國31省智算發(fā)展基礎(chǔ)設(shè)施評估指數(shù)16梯隊，京津冀基礎(chǔ)設(shè)施能力處于中上游水平,山東躋身第一梯隊。西部地區(qū)在基礎(chǔ)設(shè)施建設(shè)上還有很大發(fā)展空間，尤其寧夏、甘肅作為八大樞紐節(jié)之二，在光纖、5G基站、IDC機架建設(shè)等方面可重點發(fā)力。（四）服務(wù)應(yīng)用評估指數(shù)圖172023中國31省智算發(fā)展服務(wù)應(yīng)用評估指數(shù)智算服務(wù)應(yīng)用能力主要聚集在經(jīng)濟較發(fā)達的一、二線城市17用方面遠高于其他省份。服務(wù)應(yīng)用能力受基礎(chǔ)設(shè)施能力的影響較大，服務(wù)應(yīng)用評估指數(shù)的第一梯隊（北京、廣東）和第二梯隊（上海、江蘇、浙江、山東），其均處于基礎(chǔ)設(shè)施評估指數(shù)的第一梯隊。圖18綜合評估指數(shù)Top10省份細分評估指數(shù)對比基于以上評估指數(shù)排序，對綜合評估指數(shù)top10的城市進行外部18（六、典型案例1、中國電信安徽智算中心150100202112月投產(chǎn)2024A6棟2121600030持算力規(guī)模可達到2.2EFLOPS，使安徽省的整體算力規(guī)模翻番[27]。2090%。224920+448910100P智3000PAIPUE1.2520222、中國電信（國家）數(shù)字青海綠色大數(shù)據(jù)中心（100%清潔2023430節(jié)能技術(shù)方面，利用青海的自然條件優(yōu)勢，采用冷凍水+間接蒸314PUE1.260[28]入駐。3、海蘭信海底數(shù)據(jù)中心GPTAIAI圖19海底數(shù)據(jù)中心概念圖23141001157.871能20221225PUE300圖20全球首例商用海底數(shù)據(jù)中心入海瞬間IT中國電信海南分公司在海底數(shù)據(jù)中心部署的業(yè)務(wù)包括媒體存儲CDN4m打造海上新能源與數(shù)字經(jīng)濟融合發(fā)展新賽道。圖21海底數(shù)據(jù)中心與海上風(fēng)電融合方案七、總結(jié)與展望AIGCAIAI八、附錄-智算評估實施方案本白皮書對中國智算產(chǎn)業(yè)潛力發(fā)展評估的具體實施方案如下。1、評估指標(biāo)模型構(gòu)建附表1.中國智算發(fā)展?jié)摿υu估指標(biāo)體系2、評估指標(biāo)賦值313124????′。3、評估指標(biāo)權(quán)重設(shè)計AHP（一）一、二級指標(biāo)權(quán)重確定基于AHP附表2.智算發(fā)展?jié)摿υu估指標(biāo)評判矩陣模板指標(biāo)1指標(biāo)2…指標(biāo)n指標(biāo)1????????????…??????指標(biāo)2????????????…??????……………指標(biāo)n????????????…??????備注：??是一或二級指標(biāo)的個數(shù)。矩陣中的值為對應(yīng)縱向指標(biāo)比橫向指標(biāo)重

=????

是第i個指標(biāo)與第j個指標(biāo)比較對智算發(fā)展重要程????∈(0,9)09。1n分別給出相應(yīng)的n×n階評判矩陣，我們將這些評判矩陣記為A1,A2,A3,…,A??。通過公式CR= ?????(???1)?????

，對評判矩陣進行一致性驗證。??（二）三級指標(biāo)權(quán)重確定基于三級指標(biāo)對應(yīng)的31省數(shù)據(jù)，采用熵權(quán)法確定三級指標(biāo)的權(quán)重,主要思路是根據(jù)指標(biāo)變異性的大小來確定客觀權(quán)重。流程如下：31??指標(biāo)1指標(biāo)2…指標(biāo)24省份1????????????…????,????省份2????????????…????,????……………省份31??????,????????,??…??????,????對矩陣??′????

???????min(??????)??=1,2…,24max(??????)??=1,2…,24?min(??????)??=1,2…,24????

max max ??=1,2…,24

?????????????′=

????

)??=1,2…,24

?

????

)??=1,2…,24算每個指標(biāo)j根據(jù)矩陣??標(biāo)準(zhǔn)化后的數(shù)值計算信息熵：311

31??????=?ln31∑∑31??

.ln∑∑31????=1

??=1

??=1

??=1

????備注：信息熵是對一個信源所含信息的度量，即信息量的期望。計算指標(biāo)j1?24?∑= 24?∑??=1

4、各省評估得分3124個指標(biāo)分。九、參考文獻[1]中國信通院.中國算力白皮書（2022年）[R].2022[2]國家信息中心信息化和產(chǎn)業(yè)發(fā)展部，浪潮.智能計算中心規(guī)劃建設(shè)指南[R].2020[3]畢馬威,聯(lián)想集團.“普慧”算力開啟新計算時代[R].2023.[4]/s?id=1759777944172036313&wfr=spider&for=pc[5]/s?id=1772916034401019850&wfr=spider&for=pc[6]/s?id=1762579606694238632&wfr=spider&for=pc[7]/s?id=1771713668789917788&wfr=spider&for=pc[8]/a/683393111_121124373[9]/s?id=1766948778589069131&wfr=spider&for=pc[10]/s?id=1769579795147577688&wfr=spider&for=pc[11]/s?id=1765501244888740606&wfr=spider&for=pchht:/aiaaobiu.co/?id75509077&frsder&o[12]/s?id=1765851289022520868&wfr=spider&for=pc[13]彭卉，申紅梅.全球主流行業(yè)大模型發(fā)展跟蹤[EB/OL].天翼智庫，2023年7月.（/s/Re6X0L_ugn9fGOkoLd2YZQ）[14]/s?id=1759036970210481596&wfr=spider&for=pc[15]/s?id=1740115