智能計算中心創(chuàng)新發(fā)展指南-2023.10

智能計算中心創(chuàng)新發(fā)展指南國家信息中心2023年1月智能計算中心創(chuàng)新發(fā)展指南版權(quán)聲明本報告中所涉及的圖片、表格及文字內(nèi)容的版權(quán)歸國家信息中心和浪潮信息共同所有。其中部分?jǐn)?shù)據(jù)在標(biāo)注有來源的情況下，版權(quán)歸屬原數(shù)據(jù)公司所有。本報告取得的數(shù)據(jù)來源于公開資料，如有涉及版權(quán)糾紛問題，請及時聯(lián)絡(luò)我們。任何機構(gòu)、個人在引用本報告數(shù)據(jù)或轉(zhuǎn)載有關(guān)報告內(nèi)容時，需標(biāo)注來源。違反上述聲明者，將追究其相關(guān)法律責(zé)任。版本號：2023.1目錄前言0102基礎(chǔ)篇一、智算中心概述030303030304040406060607070909091010101011（一）定義（二）主要作用1.

推進AI產(chǎn)業(yè)化2.賦能產(chǎn)業(yè)AI化3.助力治理智能化4.促進產(chǎn)業(yè)集群化（三）效益分析二、智算中心發(fā)展新趨勢（一）智能算力的發(fā)展需求快速擴大（二）通用智能的算法模型快速演進（三）普適普惠的服務(wù)生態(tài)逐步構(gòu)建（四）綠色低碳的發(fā)展格局加速形成三、建設(shè)智算中心的必要性分析（一）我國智算中心政策形勢1.

人工智能發(fā)展環(huán)境良好，算力發(fā)展基礎(chǔ)逐漸夯實2

“.

東數(shù)西算”工程全面實施，智算中心建設(shè)提速（二）建設(shè)智算中心的現(xiàn)實意義1.

智算中心已成為提升國際競爭力的關(guān)鍵基礎(chǔ)設(shè)施2.智算中心建設(shè)已成為數(shù)字經(jīng)濟高質(zhì)量發(fā)展的重要支撐3.智算中心已成為構(gòu)建智慧城市的必然選擇技術(shù)篇13一、體系架構(gòu)141414151515151616171818181818（一）總體架構(gòu)（二）技術(shù)演進1.

AI芯片2.AI服務(wù)器3.AI集群4.AI大模型5.智算OS6.軟件生態(tài)（三）建設(shè)架構(gòu)二、技術(shù)路線（一）以算力基建化為主體1.

面向潛在算力需求，適度超前規(guī)?；渴鹚懔Y源2.聚焦異構(gòu)加速技術(shù)，提升高性能人工智能計算能力3.兼顧軟硬一體協(xié)同，構(gòu)建智算中心多元融合型架構(gòu)（二）以算法基建化為引領(lǐng)1.

面向千行百業(yè)發(fā)展需求，提供多類型預(yù)置行業(yè)算法1818191919191920202020202.面向模型即服務(wù)應(yīng)用需求，構(gòu)建大規(guī)模預(yù)訓(xùn)練AI模型3.面向可持續(xù)化發(fā)展需求，推進AI模型不斷演進升級4.面向算法高效調(diào)用需求，提供專業(yè)化開發(fā)部署支撐（三）以服務(wù)智件化為依托1.

提供多元算力調(diào)度服務(wù)，實現(xiàn)算力調(diào)度“智件化”2.提供簡便算法模型服務(wù)，實現(xiàn)算法供給“智件化”3.提供開放生態(tài)環(huán)境服務(wù)，實現(xiàn)供需對接“智件化”（四）以設(shè)施綠色化為支撐1.

采用先進節(jié)能技術(shù)，全面降低智算中心能耗2.采用綠色清潔能源，從源頭上實現(xiàn)綠色低碳應(yīng)用篇21一、智算中心激發(fā)AI產(chǎn)業(yè)化創(chuàng)新活力（一）自動駕駛22222223232324242425252525（二）機器人（三）元宇宙1.

虛擬數(shù)字人2.數(shù)字孿生二、智算中心助力產(chǎn)業(yè)AI化走深向?qū)崳ㄒ唬┲腔坩t(yī)療（二）文娛創(chuàng)作（三）智慧科研1.

生命科學(xué)2.大規(guī)模分子模擬3.數(shù)值計算建設(shè)篇26一、建設(shè)類型與策略（一）建設(shè)原則2727272727282828292929292929293030（二）依據(jù)建設(shè)方式分類建設(shè)1.

新建智算中心2.已建數(shù)據(jù)中心升級（三）依據(jù)功能定位分類建設(shè)1.

產(chǎn)業(yè)合作平臺2.產(chǎn)業(yè)園區(qū)二、建設(shè)運營模式（一）主流建設(shè)模式1.

獨立投資建設(shè)模式2.由第三方出資的建設(shè)模式3.基于特殊項目公司的建設(shè)運營（SPV）模式（二）主流運營服務(wù)模式1.

運營方選擇2.運營服務(wù)類型3.運營服務(wù)內(nèi)容智能計算中心創(chuàng)新發(fā)展指南前言黨的二十大報告強調(diào)，推動戰(zhàn)略性新興產(chǎn)業(yè)融合集群發(fā)展，構(gòu)建新一代信息技術(shù)、人工智能、生物技術(shù)、新能源、新材料、高端裝備、綠色環(huán)保等一批新的增長引擎。人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。當(dāng)前，我國人工智能技術(shù)快速發(fā)展，數(shù)據(jù)和算力資源日益豐富，應(yīng)用場景不斷拓展，配套政策持續(xù)完善。自2017年《新一代人工智能發(fā)展規(guī)劃》發(fā)布以來，我國圍繞人工智能產(chǎn)業(yè)發(fā)展、人工智能技術(shù)標(biāo)準(zhǔn)體系建設(shè)等方面先后出臺一系列政策和指導(dǎo)意見。2021年，“人工智能”在《中華人民共和國國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》中被多次提及，文件對“十四五”時期及未來十?dāng)?shù)年我國人工智能的發(fā)展目標(biāo)、核心技術(shù)突破、智能化轉(zhuǎn)型與應(yīng)用等多個方面都作出了相關(guān)部署。2022年7-8月，科技部等部門先后印發(fā)《關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進經(jīng)濟高質(zhì)量發(fā)展的指導(dǎo)意見》和《關(guān)于支持建設(shè)新一代人工智能示范應(yīng)用場景》，提出支持一批基礎(chǔ)較好的人工智能應(yīng)用場景，構(gòu)建人工智能行業(yè)應(yīng)用生態(tài)。計算力是數(shù)字經(jīng)濟的核心生產(chǎn)力。當(dāng)前，超算和云計算已較成熟，正在多個應(yīng)用賽道上全面發(fā)力，但以通用處理器架構(gòu)為核心的基礎(chǔ)算力很難滿足人工智能的發(fā)展需求。隨著數(shù)據(jù)總量的增長和智能化社會構(gòu)建需求的擴大，各行業(yè)各領(lǐng)域?qū)χ悄芩懔Φ男枨笕遮厪娏?，全國范圍?nèi)掀起了智能計算中心（以下簡稱“智算中心”）的建設(shè)浪潮，智能算力規(guī)模迅速擴大，這為人工智能及其相關(guān)產(chǎn)業(yè)的發(fā)展提供了良好的基礎(chǔ)。同時，智算中心作為算力基礎(chǔ)設(shè)施的重要組成部分，是全國一體化大數(shù)據(jù)中心建設(shè)和“東數(shù)西算”工程的核心關(guān)鍵。新時期背景下，人工智能技術(shù)的發(fā)展及應(yīng)用場景的豐富對智算中心的規(guī)劃建設(shè)提出了新的要求。為此，國家信息中心和浪潮信息開展聯(lián)合研究，與時俱進，聚焦科技革命、產(chǎn)業(yè)變革、技術(shù)服務(wù)需求等對智算中心規(guī)劃、建設(shè)、運營模式的影響，在2020年發(fā)布的《智能計算中心規(guī)劃建設(shè)指南》基礎(chǔ)上，編制了《智能計算中心創(chuàng)新發(fā)展指南》，更新優(yōu)化智算中心的基礎(chǔ)、技術(shù)、應(yīng)用、建設(shè)等內(nèi)容，提出不同類型智算中心的發(fā)展策略，為各地智算中心的創(chuàng)新發(fā)展提供借鑒和參考，使其朝著開放、融合、普惠、綠色方向發(fā)展，成為支撐數(shù)字經(jīng)濟、數(shù)字社會和數(shù)字政府發(fā)展的技術(shù)底座，賦能千行百業(yè)，助力經(jīng)濟社會全面數(shù)字化轉(zhuǎn)型。01基礎(chǔ)篇作為新型基礎(chǔ)設(shè)施和新的能力支撐，智算中心在數(shù)字時代承擔(dān)著重要使命?；A(chǔ)篇從智算中心定義、主要作用、發(fā)展趨勢等方面，著重闡述了數(shù)字經(jīng)濟時代建設(shè)智算中心的必要性和重要意義。智能計算中心創(chuàng)新發(fā)展指南一、智算中心概述（一）定義2.賦能產(chǎn)業(yè)AI化智算中心是基于最新人工智能理論，采用領(lǐng)先的人工智能計算架構(gòu)，提供人工智能應(yīng)用所需算力服務(wù)、數(shù)據(jù)服務(wù)和算法服務(wù)的公共算力新型基礎(chǔ)設(shè)施，通過算力的生產(chǎn)、聚合、調(diào)度和釋放，高效支撐數(shù)據(jù)開放共享、智能生態(tài)建設(shè)、產(chǎn)業(yè)創(chuàng)新聚集，有力促進AI產(chǎn)業(yè)化、產(chǎn)業(yè)AI化及政府治理智能化。智算中心以多種異構(gòu)方式共同發(fā)展的AI服務(wù)器算力機組為算力底座，不斷提升智能計算能力和速度，滿足人工智能應(yīng)用場景下大規(guī)模、多線并行的計算需求。智算中心圍繞“算力生產(chǎn)、算力聚合、算力調(diào)度、算力釋放”四個核心業(yè)務(wù)功能，為各行業(yè)各領(lǐng)域人工智能應(yīng)用提供穩(wěn)定的技術(shù)支撐，打造可持續(xù)發(fā)展的算力生態(tài)。智算中心作為信息基礎(chǔ)設(shè)施，為促進人工智能技術(shù)在各行業(yè)領(lǐng)域落地應(yīng)用創(chuàng)造基礎(chǔ)條件，賦能產(chǎn)業(yè)數(shù)字化、智能化發(fā)展，催生新業(yè)態(tài)新模式，對帶動一二三產(chǎn)業(yè)提質(zhì)增效都有顯著作用。智算中心能夠以強大的硬件支撐和軟件服務(wù)促進農(nóng)業(yè)生產(chǎn)效率提升，是推動我國農(nóng)業(yè)高質(zhì)量發(fā)展的重要力量。農(nóng)業(yè)農(nóng)村部印發(fā)的《“十四五”全國農(nóng)業(yè)農(nóng)村信息化發(fā)展規(guī)劃》提出，到2025年，農(nóng)業(yè)生產(chǎn)信息化率達(dá)到27%。針對農(nóng)業(yè)生產(chǎn)過程中的土壤條件、氣象、降水、農(nóng)作物生長等信息采集與處理需求，智算中心可以提供數(shù)字農(nóng)業(yè)專有算法，分析各類傳感器、氣象衛(wèi)星、結(jié)構(gòu)化視頻監(jiān)控等數(shù)據(jù)，為農(nóng)業(yè)生產(chǎn)提供強力輔助。（二）主要作用智算中心的算力支撐和算法服務(wù)可以賦能工業(yè)轉(zhuǎn)型發(fā)展。近年來，工業(yè)對人工智能的需求持續(xù)增加，通過將人工智能技術(shù)融入工業(yè)生產(chǎn)，改造工業(yè)的生產(chǎn)方式和決策模式，降低工業(yè)生產(chǎn)成本，實現(xiàn)提質(zhì)增效。智算中心可以為智能制造、傳感與檢測、設(shè)備維護預(yù)測、工業(yè)機器人、智能化生產(chǎn)等多個應(yīng)用場景提供算力和算法服務(wù)，并促進人工智能企業(yè)與傳統(tǒng)工業(yè)企業(yè)的深度對接合作。智算中心作為信息基礎(chǔ)設(shè)施的重要組成部分，為快速增長的人工智能算力需求提供必不可少的基礎(chǔ)支撐，在推進AI產(chǎn)業(yè)化、賦能產(chǎn)業(yè)AI化、助力治理智能化、促進產(chǎn)業(yè)集群化等方面發(fā)揮了顯著作用，是數(shù)字經(jīng)濟時代促進產(chǎn)業(yè)轉(zhuǎn)型升級、優(yōu)化產(chǎn)業(yè)結(jié)構(gòu)、提升城市競爭力的關(guān)鍵。1.

推進AI產(chǎn)業(yè)化智算中心可以推動生活服務(wù)業(yè)向質(zhì)優(yōu)面廣發(fā)展。國務(wù)院印發(fā)的《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》提出，到2025年，生活性服務(wù)業(yè)多元化拓展顯著加快，電子商務(wù)交易規(guī)模要達(dá)到46萬億元。在消費互聯(lián)網(wǎng)快速發(fā)展的趨勢下，智算中心能夠為新零售、電子商務(wù)、智能家居、智能駕駛等應(yīng)用場景提供技術(shù)支撐，帶動生活性服務(wù)業(yè)的智慧化升級。人工智能產(chǎn)業(yè)在算力支撐下快速發(fā)展。國際數(shù)據(jù)公司（IDC）的數(shù)據(jù)顯示，到2026年，中國人工智能加速服務(wù)器市場規(guī)模將達(dá)到123.4億美元。智算中心的人工智能加速計算能力能夠有效支持AI訓(xùn)練、AI推理、數(shù)據(jù)壓縮、圖像編碼、視頻編碼，為人工智能大模型開發(fā)、訓(xùn)練等提供密集型、大規(guī)模計算服務(wù)，較云計算中心、超算中心更能滿足日益豐富的人工智能算力需求。智算中心的人工智能專用算力服務(wù)、數(shù)據(jù)服務(wù)和算法服務(wù)為開展人工智能理論創(chuàng)新與關(guān)鍵共性技術(shù)研發(fā)提供支撐，為企業(yè)、高校等各類研發(fā)機構(gòu)創(chuàng)造了低成本、高可靠、便捷簡易的人工智能應(yīng)用開發(fā)與場景試驗條件，最終促進人工智能技術(shù)的成果轉(zhuǎn)化，已成為推進AI產(chǎn)業(yè)化的重要引擎。智算中心的研發(fā)與孵化功能可以為新業(yè)態(tài)提供土壤。智算中心廣泛賦能科學(xué)研究、產(chǎn)業(yè)發(fā)展、城市運行等多元場景，可以為日益豐富、個性化的數(shù)字產(chǎn)品或服務(wù)的研發(fā)提供必要的基礎(chǔ)設(shè)施支撐，帶動智能網(wǎng)聯(lián)汽車、數(shù)字交易、元宇宙等新業(yè)態(tài)的蓬勃發(fā)展。同時，智算中心以其模塊化的軟件服務(wù)與優(yōu)質(zhì)的孵化功能，為微創(chuàng)新、微應(yīng)用、微產(chǎn)品、微文創(chuàng)等微經(jīng)濟活動創(chuàng)造了環(huán)境，將極大地促進跨界融合的業(yè)態(tài)創(chuàng)新。03智能計算中心創(chuàng)新發(fā)展指南3.助力治理智能化供創(chuàng)新孵化服務(wù)、技術(shù)轉(zhuǎn)移服務(wù)、人員培訓(xùn)服務(wù)，培育數(shù)據(jù)處理、數(shù)據(jù)分析、運營服務(wù)等領(lǐng)域的人才與企業(yè)，能夠進一步聚合當(dāng)?shù)厝斯ぶ悄艿难邪l(fā)優(yōu)勢、人才優(yōu)勢、產(chǎn)品優(yōu)勢與產(chǎn)業(yè)投資，撬動人工智能產(chǎn)業(yè)發(fā)展，形成人工智能產(chǎn)業(yè)技術(shù)研發(fā)與商業(yè)應(yīng)用雙閉環(huán)，從而推動地區(qū)人工智能產(chǎn)業(yè)的集聚發(fā)展。智算中心能夠為日益豐富的城市公共服務(wù)和城市治理智慧化應(yīng)用提供智算能力支撐。通過應(yīng)用智算中心的計算平臺、框架和底層算法，在政務(wù)服務(wù)、健康醫(yī)療、教育科研等公共服務(wù)領(lǐng)域和交通治理、災(zāi)害預(yù)警、生態(tài)環(huán)境監(jiān)測、應(yīng)急處置等城市治理領(lǐng)域推進業(yè)務(wù)與計算機視覺、自然語言處理、機器學(xué)習(xí)等人工智能技術(shù)的融合，實現(xiàn)公共服務(wù)便捷化、城市治理精準(zhǔn)化，提升公眾的獲得感和幸福感。基于智算中心的專業(yè)人才資源、創(chuàng)新資源，以建設(shè)配套產(chǎn)業(yè)園區(qū)等形式為產(chǎn)業(yè)鏈上下游參與方協(xié)同合作提供優(yōu)質(zhì)環(huán)境，可有效加強與IT和土建基礎(chǔ)設(shè)施供應(yīng)商等上游參與者，以及智算服務(wù)供應(yīng)商、云服務(wù)供應(yīng)商、互聯(lián)網(wǎng)數(shù)據(jù)中心（Inter-net

Data

Center，簡稱IDC）服務(wù)商等中游相關(guān)產(chǎn)業(yè)的協(xié)同，并服務(wù)于互聯(lián)網(wǎng)、金融、電信、交通等行業(yè)用戶的人工智能應(yīng)用需求，實現(xiàn)對自動駕駛、機器人、元宇宙、智慧醫(yī)療、文娛創(chuàng)作、智慧科研等下游相關(guān)產(chǎn)業(yè)的帶動。4.促進產(chǎn)業(yè)集群化智算中心除提供人工智能專用算力服務(wù)外，還聚合了人工智能技術(shù)研發(fā)、應(yīng)用轉(zhuǎn)化、人才培養(yǎng)、企業(yè)孵化等功能。通過加強與高校、科研院所、各行業(yè)各領(lǐng)域優(yōu)勢企業(yè)協(xié)作，提產(chǎn)業(yè)鏈上游土建基礎(chǔ)設(shè)施產(chǎn)業(yè)鏈中游產(chǎn)業(yè)鏈下游行業(yè)產(chǎn)業(yè)土建及施工承包商供配電系統(tǒng)供應(yīng)商制冷系統(tǒng)供應(yīng)商電信運營商自動駕駛機器人互聯(lián)網(wǎng)金融智算服務(wù)供應(yīng)商IDC服務(wù)商......元宇宙IT基礎(chǔ)架構(gòu)電信智慧醫(yī)療文娛創(chuàng)作云服務(wù)供應(yīng)商......AI服務(wù)器供應(yīng)商存儲設(shè)備供應(yīng)商網(wǎng)絡(luò)設(shè)備供應(yīng)商交通......數(shù)據(jù)中心管理系統(tǒng)供應(yīng)商智慧科研............圖1智算中心產(chǎn)業(yè)鏈萬億元（三）效益分析1098人工智能作為數(shù)字經(jīng)濟時代的核心生產(chǎn)力，在各地積極布局?jǐn)?shù)字經(jīng)濟的趨勢下迎來了飛速發(fā)展?！秶鴦?wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》（國發(fā)〔2017〕35號）提出要“推進人工智能理論、技術(shù)與應(yīng)用；到2025年，人工智能核心產(chǎn)業(yè)規(guī)模超過4，000億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模超過5萬億元；到2030年，人工智能核心產(chǎn)業(yè)規(guī)模超過1萬億元，帶動相關(guān)產(chǎn)業(yè)規(guī)模超過10萬億元”。預(yù)計2020年至2030年我國人工智能核心產(chǎn)業(yè)規(guī)模的年均復(fù)合增長率達(dá)20.9%、帶動相關(guān)產(chǎn)業(yè)規(guī)模的年均復(fù)合增長率達(dá)25.9%。7654321020202025E2030E■人工智能核心產(chǎn)業(yè)規(guī)模

■帶動相關(guān)產(chǎn)業(yè)規(guī)模圖2人工智能核心產(chǎn)業(yè)規(guī)模與帶動相關(guān)產(chǎn)業(yè)規(guī)模04智能計算中心創(chuàng)新發(fā)展指南人工智能是創(chuàng)新的加速器，承載人工智能計算的智算中心可以為各類技術(shù)創(chuàng)新提供支撐。一方面，智算中心可以為構(gòu)建安全可信、可復(fù)用的技術(shù)研發(fā)環(huán)境提供算力設(shè)施支撐，為各領(lǐng)域科技研發(fā)提供智能計算服務(wù)，加速科技研發(fā)的進程。另一方面，智算中心是新一代信息技術(shù)的集成應(yīng)用載體，智算中心的快速建設(shè)推廣與規(guī)?；瘧?yīng)用將推動通信服務(wù)網(wǎng)絡(luò)、大數(shù)據(jù)、人工智能等技術(shù)的快速迭代，從而促進技術(shù)創(chuàng)新。經(jīng)研究測算，保守估計，“十四五”期間，在智算中心實現(xiàn)

80%

應(yīng)用水平的情況下，城市/地區(qū)對智算中心的投資可帶動人工智能核心產(chǎn)業(yè)增長約

2.9-3.4

倍、帶動相關(guān)產(chǎn)業(yè)增長約36-42倍

。1人工智能計算中心項目經(jīng)濟效益...孵化企業(yè)經(jīng)研究測算，保守估計，“十四五”期間，在智算中心實現(xiàn)80%應(yīng)用水平的情況下，城市/地區(qū)在智算中心建產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型AI相關(guān)產(chǎn)業(yè)增長36-42倍設(shè)投入的增長量對創(chuàng)新產(chǎn)出的貢獻(xiàn)率約為14%-17%

。2降低創(chuàng)新成本AI核心產(chǎn)業(yè)增長2.9-3.4倍智算中心可以為優(yōu)化數(shù)字經(jīng)濟發(fā)展生態(tài)提供支撐。智算中心在提供公共算力基礎(chǔ)設(shè)施支撐的同時，兼具產(chǎn)業(yè)“聚合器”和“孵化器”作用，能夠有效促進人才、資金、技術(shù)、數(shù)據(jù)等要素的聯(lián)動，搭建跨行業(yè)領(lǐng)域的溝通平臺，集成政府、企業(yè)、研究院所等多主體的優(yōu)勢促進更多AI應(yīng)用場景落地，有效規(guī)避了各建設(shè)方自成體系推進、產(chǎn)業(yè)鏈上下游割裂等問題，為招引數(shù)字企業(yè)、培育市場主體、助推數(shù)字經(jīng)濟規(guī)?；l(fā)展發(fā)揮出了重要作用。居民增收加強AI產(chǎn)業(yè)協(xié)同人工智能計算中心項目社會效益助力城市智慧治理城市公共算力新型基礎(chǔ)設(shè)施吸引專業(yè)人才新增就業(yè)人口打造區(qū)域示范樣板優(yōu)化城市數(shù)字服務(wù)圖3智算中心項目經(jīng)濟社會效益1人工智能服務(wù)器是智算中心建設(shè)中投入比重最大、最為關(guān)鍵的設(shè)備，以人工智能服務(wù)器市場規(guī)模為基礎(chǔ)，估算智算中心的潛在投資規(guī)模，結(jié)合2025年我國人工智能服務(wù)器市場規(guī)模、人工智能核心產(chǎn)業(yè)及相關(guān)產(chǎn)業(yè)規(guī)模等預(yù)測數(shù)據(jù)，在智算中心實現(xiàn)80%應(yīng)用水平的條件下，綜合測算得出智算中心投資對產(chǎn)業(yè)的帶動水平。2以近年我國人工智能服務(wù)器市場規(guī)模數(shù)據(jù)為基礎(chǔ)，估算智算中心建設(shè)投入增長量；依據(jù)我國創(chuàng)新發(fā)展指數(shù)基準(zhǔn)數(shù)值，結(jié)合近年我國人工智能投入規(guī)模數(shù)據(jù)，估算創(chuàng)新產(chǎn)出區(qū)間值；以此為基礎(chǔ)，在智算中心實現(xiàn)80%應(yīng)用水平的條件下，估算智算中心建設(shè)投入的增長量對創(chuàng)新產(chǎn)出的貢獻(xiàn)率。05智能計算中心創(chuàng)新發(fā)展指南二、智算中心發(fā)展新趨勢（一）智能算力的發(fā)展需求快速擴大的產(chǎn)業(yè)、服務(wù)和治理。智算中心是具有強公共屬性的開放服務(wù)平臺，能夠?qū)崿F(xiàn)對大區(qū)域的數(shù)字化輻射帶動，成為經(jīng)濟發(fā)展的新動力引擎。隨著“東數(shù)西算”工程、新型基礎(chǔ)設(shè)施等國家政策規(guī)劃出臺，我國智算中心掀起落地?zé)岢?。?dāng)前我國超過30個城市正在建設(shè)或提出建設(shè)智算中心，整體布局以東部地區(qū)為主，并逐漸向中西部地區(qū)拓展。未來，隨著我國智算中心布局的持續(xù)優(yōu)化與完善，以及人工智能應(yīng)用場景的不斷創(chuàng)新和解鎖，智能算力需求將得到更大釋放，智算中心的賦能作用將被進一步激發(fā)。算力資源是數(shù)字經(jīng)濟發(fā)展的重要底座。隨著數(shù)字經(jīng)濟蓬勃發(fā)展，數(shù)字化新事物、新業(yè)態(tài)、新模式推動應(yīng)用場景趨向多元化發(fā)展，算力規(guī)模不斷擴大，算力需求持續(xù)攀升。智能算力需求規(guī)模快速增長。5G、工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、人工智能等信息技術(shù)加速發(fā)展帶動數(shù)據(jù)量爆炸式增長。隨著人工智能技術(shù)的高速發(fā)展，智能化正以前所未有的速度重塑各行各業(yè)，我國算力結(jié)構(gòu)也隨之不斷演化，對智能算力的需求與日俱增?！?022-2023中國人工智能計算力發(fā)展評估報告》數(shù)據(jù)顯示，2021年中國智能算力規(guī)模達(dá)155.2

EFLOPS（FP16）,預(yù)計到2026年中國智能算力規(guī)模將達(dá)到1,271.4

EFLOPS。2021-2

0

2

6

年

期

間

，

預(yù)

計

中

國

智

能

算

力

規(guī)

模

年

復(fù)

合

增

長

率

達(dá)52.3%，同期通用算力規(guī)模年復(fù)合增長率為18.5%。復(fù)雜場景計算需要多元算力的開發(fā)生態(tài)體系。智算中心的芯片、服務(wù)器、固件、操作系統(tǒng)等可能由多方提供，易存在多型號硬件無法兼容、軟件投入和應(yīng)用難以支撐上層業(yè)務(wù)發(fā)展等問題，嚴(yán)重制約了智算中心的應(yīng)用。因此，智算中心應(yīng)該兼容適配更多技術(shù)體系，通過開源、開放的方式建立可兼容底層硬件差異的異構(gòu)開發(fā)平臺，突破異構(gòu)算力適配、異構(gòu)算力調(diào)度等關(guān)鍵技術(shù)，加速基礎(chǔ)軟件、商用軟件和開源軟件的生態(tài)構(gòu)建，與各領(lǐng)域的知識模型、機理模型、物理模型相疊加，做到從硬件到軟件、從芯片到架構(gòu)、從建設(shè)模式到應(yīng)用服務(wù)開放化、標(biāo)準(zhǔn)化，打通人工智能軟硬件產(chǎn)業(yè)鏈，從而加速人工智能算力技術(shù)和產(chǎn)業(yè)生態(tài)形成。未來80%的場景都將基于人工智能，所占據(jù)的算力資源將主要由智算中心承載。百億億次浮點運算/秒（EFLOPS）1,4001,271.4（二）通用智能的算法模型快速演進1,2001,0008006004002000922.8人工智能算法結(jié)構(gòu)日益復(fù)雜、參數(shù)和樣本規(guī)模持續(xù)擴大，算法的快速演進正改變傳統(tǒng)計算范式。640.7427.0268.0大模型加速人工智能在千行百業(yè)中應(yīng)用。大規(guī)模、大參數(shù)量預(yù)訓(xùn)練模型的出現(xiàn)不斷提升人工智能模型的認(rèn)知能力。“預(yù)訓(xùn)練大模型+下游任務(wù)微調(diào)”的新范式已成為解決人工智能技術(shù)落地難問題的突破口，加速推進人工智能實用化、通用化和普惠化發(fā)展進程。自2011年以來，全球人工智能領(lǐng)軍企業(yè)和研究機構(gòu)紛紛加入人工智能大模型研究，人工智能模型參數(shù)急劇增長。在短短三四年時間內(nèi)，參數(shù)規(guī)?？焖購膬|級突破至萬億級。代表性大模型如谷歌發(fā)布的BERT，OpenAI發(fā)布的GPT-3、ChatGPT等。通過構(gòu)建大模型提升人工智能處155.2202175.031.72019202020222023202420252026圖4我國智能算力發(fā)展情況3智算中心建設(shè)布局浪潮快速掀起。智算中心能夠提供大規(guī)模數(shù)據(jù)處理和高性能智能計算支撐，將經(jīng)濟、社會、產(chǎn)業(yè)中各種模型、經(jīng)驗固化下來，形成新的生產(chǎn)力，并支撐智能化3IDC、浪潮信息，《2022-2023中國人工智能計算力發(fā)展評估報告》，2022年06智能計算中心創(chuàng)新發(fā)展指南理性能、增強人工智能通用性、加速人工智能廣泛應(yīng)用已成為各界共識，未來大模型將覆蓋更多生產(chǎn)生活領(lǐng)域，賦能千行百業(yè)的智能化升級。智能模型可以實現(xiàn)在眾多場景通用、泛化和規(guī)?；瘡?fù)制，只需結(jié)合領(lǐng)域數(shù)據(jù)進行調(diào)整和增量學(xué)習(xí)，即可形成具有良好精度和性能的下游應(yīng)用，助力各行業(yè)智能化升級，實現(xiàn)智能算法應(yīng)用的普適化。多模態(tài)智能計算成為實現(xiàn)通用人工智能的關(guān)鍵。每一種信息的來源或者形式，都可以稱為一種模態(tài)。例如，人有觸覺、聽覺、視覺、嗅覺，信息的媒介有語音、視頻、文字等。多模態(tài)學(xué)習(xí)更貼近人類對多感知模態(tài)的認(rèn)知過程，通過學(xué)習(xí)多種模態(tài)的數(shù)據(jù)，可以突破自然語言處理和計算機視覺的界限，在圖文生成、看圖問答等視覺語言任務(wù)上具有更強的表現(xiàn)。當(dāng)前，多模態(tài)大模型引發(fā)了業(yè)界廣泛的關(guān)注，并在以文生圖等領(lǐng)域取得了巨大進步，代表性模型有OpenAI發(fā)布的DALLE-2等。（四）綠色低碳的發(fā)展格局加速形成在“碳中和、碳達(dá)峰”目標(biāo)背景下，建設(shè)技術(shù)先進、綠色低碳的智算中心成為踐行綠色發(fā)展理念的大勢所趨。算力基礎(chǔ)設(shè)施的能效指標(biāo)更加嚴(yán)格具體。我國數(shù)據(jù)中心總體上還處于小而散的粗放建設(shè)階段，大型、超大型數(shù)據(jù)中心占比不高。據(jù)統(tǒng)計，2021年度全國數(shù)據(jù)中心平均PUE為1.49，有相當(dāng)數(shù)量的數(shù)據(jù)中心PUE超過1.8甚至2.0。為約束大型算力基礎(chǔ)設(shè)施的能效，國家發(fā)改委、科技部、工信部、國家能源局等多部門陸續(xù)出臺文件，對新建大型、超大型數(shù)據(jù)中心的PUE要求已從2017年的1.5降至2021年的1.3以下，國家樞紐節(jié)點平均PUE更是要求進一步降到1.25以下?！皷|數(shù)西算”工程要求東部地區(qū)PUE目標(biāo)不超過1.25，西部地區(qū)不超過1.2，能效指標(biāo)更加嚴(yán)格。人工智能正在從語音、文字、視覺等單模態(tài)智能，向著多種模態(tài)融合發(fā)展。構(gòu)建以多模態(tài)融合技術(shù)為核心的感知、控制、交互能力，是實現(xiàn)通用人工智能的重要探索方向。（三）普適普惠的服務(wù)生態(tài)逐步構(gòu)建PUE值要求2017年，國務(wù)院印發(fā)《“十三五”節(jié)能減排綜合工作方案》，要求“新建大型云計算數(shù)據(jù)中心能源利用效率(PUE)值優(yōu)于1.5”智算中心作為經(jīng)濟社會重要的算力載體,正向標(biāo)準(zhǔn)化、低成本、低門檻方向發(fā)展，形成集算力、算法、數(shù)據(jù)、運營于一體的服務(wù)生態(tài)，使智能計算可以像水電一樣,成為社會基本公共服務(wù),造福社會大眾，讓千行百業(yè)共享智算中心建設(shè)成果。1.5

2019年,工信部等《關(guān)于加強綠色數(shù)據(jù)中心建設(shè)的指導(dǎo)意見》，提出“新建大型、超大型數(shù)據(jù)中心1.41.31.21.11的電能使用效率值達(dá)到1.4以下”2021年，工信部《新型數(shù)據(jù)中心發(fā)展三年行動計劃(2021-2023年)》，提出“新建大型及以上數(shù)據(jù)中心PUE降低到1.3以下算力服務(wù)普惠化。“東數(shù)西算”工程的實施，帶動數(shù)據(jù)、算力跨域流動，實現(xiàn)產(chǎn)業(yè)躍升和區(qū)域平衡發(fā)展。算力服務(wù)作為算力輸出的關(guān)鍵，以多種場景化云服務(wù)為代表，成為全新的交付形式。算力的分布決定了企業(yè)能否獲得最高性價比的算力，基于分布式云技術(shù)，近源交付云資源，在一定程度上降低算力成本的同時，將算力輸出進工廠、社區(qū)和鄉(xiāng)村，以算力服務(wù)的方式布局到用戶身邊，用戶按業(yè)務(wù)需求采購算力、存儲、帶寬等專業(yè)服務(wù)，實現(xiàn)無處不在的計算。2022年，上海市《關(guān)于推進本市數(shù)據(jù)中心健康有序發(fā)展的實施意見》，要求“集聚區(qū)新建大型數(shù)據(jù)中心綜合PUE降至1.25

左右”年份201720182019202020212022圖5國家和地方政策對大型算力基礎(chǔ)設(shè)施PUE值要求演變4節(jié)能降耗的先進技術(shù)成為發(fā)展重點。智算中心具有高功率算法應(yīng)用普適化。在經(jīng)濟活動各環(huán)節(jié)的智能化升級中，人工智能需要與各行業(yè)的業(yè)務(wù)流程、信息系統(tǒng)、生產(chǎn)系統(tǒng)等深度結(jié)合才能產(chǎn)生價值，存在一定應(yīng)用門檻，在一定程度上阻礙了各行業(yè)的智能化轉(zhuǎn)型升級。依托智算中心的超大規(guī)模預(yù)訓(xùn)練能力，各行業(yè)人工智能應(yīng)用將不必從零開始開發(fā)。人工密度屬性，隨著服務(wù)器主流芯片的功耗不斷增長，用于AI訓(xùn)練的機器單機柜功率密度將大幅增加，傳統(tǒng)的風(fēng)冷模式已無法滿足智算中心的制冷散熱需求，液冷技術(shù)的應(yīng)用為智算中心綠色化運轉(zhuǎn)提供了解決思路。液冷是指借助高比熱容的液體4單志廣、何寶宏、張云泉，《國家“東數(shù)西算”工程背景下新型算力基礎(chǔ)設(shè)施發(fā)展研究報告》，2022年07智能計算中心創(chuàng)新發(fā)展指南作為熱量傳輸介質(zhì)滿足服務(wù)器等IT設(shè)備散熱需求的一種冷卻方式，比傳統(tǒng)風(fēng)冷具備更強的冷卻能力，其冷卻力是空氣的1,000-3,000倍，熱傳導(dǎo)能力是空氣的25倍。同等散熱水平時，液冷系統(tǒng)相比傳統(tǒng)風(fēng)冷系統(tǒng)約節(jié)電30%-50%，數(shù)據(jù)中心PUE值可降至1.2以下，甚至接近于1。液冷技術(shù)對于密度高、規(guī)模大、散熱需求高的智算中心優(yōu)勢明顯，隨著

AI

服務(wù)器功率密度的提升和智算中心應(yīng)用場景的不斷拓展，液冷技術(shù)將得到進一步推廣應(yīng)用。08智能計算中心創(chuàng)新發(fā)展指南三、建設(shè)智算中心的必要性分析（一）我國智算中心政策形勢其同經(jīng)濟社會發(fā)展深度融合，推動我國新一代人工智能健康發(fā)展。2017年以來，從中央到國家部委，密集出臺了一系列人工智能發(fā)展政策，內(nèi)容涉及人工智能基礎(chǔ)設(shè)施、標(biāo)準(zhǔn)體系、應(yīng)用場景、人才培育等人工智能發(fā)展的多個方面，初步形成較為完整的政策體系，為加快推動人工智能應(yīng)用，助力穩(wěn)經(jīng)濟，培育新的經(jīng)濟增長點指明方向。1．人工智能發(fā)展環(huán)境良好，算力發(fā)展基礎(chǔ)逐漸夯實從發(fā)展政策層面看，我國高度重視人工智能產(chǎn)業(yè)發(fā)展，習(xí)近平總書記在中共中央政治局第九次集體學(xué)習(xí)時強調(diào)，人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，要促進表12017-2022年我國人工智能產(chǎn)業(yè)相關(guān)政策發(fā)布時間政策名稱發(fā)布單位主要內(nèi)容2022年8月《關(guān)于支持建設(shè)新一代人工智能示范應(yīng)用場景的通知》科技部等六部門支持建設(shè)智慧農(nóng)場、智能港口、智能礦山、智能工廠、智慧家居、智能教育、自動駕駛、智能診療、智慧法院、智能供應(yīng)鏈等10個示范應(yīng)用場景。2022年7月《關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進經(jīng)濟高質(zhì)量發(fā)展的指導(dǎo)意見》科技部等六部門圍繞高端高效智能經(jīng)濟、安全便捷智能社會建設(shè)、高水平科研活動、國家重大活動和重大工程，著力打造人工智能重大場景。2021年12月《“十四五”國家信息化規(guī)劃》中央網(wǎng)絡(luò)安全和信息化委員會探索建立人工智能的治理原則和標(biāo)準(zhǔn)，統(tǒng)籌建設(shè)面向人工智能等的算力和算法中心。加強人工智能關(guān)鍵前沿領(lǐng)域的戰(zhàn)略研究布局和技術(shù)融通創(chuàng)新。加大對人工智能的立法研究。培育壯大人工智能新興數(shù)字產(chǎn)業(yè)，推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等同各產(chǎn)業(yè)深度融合。2021年7月2021年5月《新型數(shù)據(jù)中心發(fā)展三年行動計劃（2021-2023）》工信部用3年時間，基本形成布局合理、技術(shù)先進、綠色低碳、算力規(guī)模與數(shù)字經(jīng)濟增長相適應(yīng)的新型數(shù)據(jù)中心發(fā)展格局?！度珖惑w化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐實施方案》發(fā)改委等四部門統(tǒng)籌圍繞國家重大區(qū)域發(fā)展戰(zhàn)略，根據(jù)能源結(jié)構(gòu)、產(chǎn)業(yè)布局、市場發(fā)展、氣候環(huán)境等，在京津冀、長三角、粵港澳大灣區(qū)、成渝，以及貴州、內(nèi)蒙古、甘肅、寧夏等地布局建設(shè)全國一體化算力網(wǎng)絡(luò)國家樞紐節(jié)點（簡稱“國家樞紐節(jié)點”），發(fā)展數(shù)據(jù)中心集群，引導(dǎo)數(shù)據(jù)中心集約化、規(guī)?；⒕G色化發(fā)展。國家樞紐節(jié)點之間進一步打通網(wǎng)絡(luò)傳輸通道，加快實施“東數(shù)西算”工程，提升跨區(qū)域算力調(diào)度水平。2021年3月2020年9月《中華人民共和國國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》全國人大科技部加強新一代人工智能科技攻關(guān)，加強關(guān)鍵數(shù)字技術(shù)創(chuàng)新應(yīng)用，聚焦人工智能關(guān)鍵算法研發(fā)，培育壯大人工智能產(chǎn)業(yè)?！秶倚乱淮斯ぶ悄軇?chuàng)新發(fā)展試驗區(qū)建設(shè)工作指引（修訂版）》開展人工智能技術(shù)應(yīng)用示范，人工智能政策實驗、人工智能社會實驗，積極推進人工智能基礎(chǔ)設(shè)施建設(shè)。到2023年，布局建設(shè)20個左右試驗區(qū)，打造一批具有重大引領(lǐng)帶動作用的人工智能創(chuàng)新高地。2020年7月2019年3月《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》發(fā)改委等五部門中央深改委到2023年，初步建立人工智能標(biāo)準(zhǔn)體系，重點研制數(shù)據(jù)、算法、系統(tǒng)、服務(wù)等重點急需標(biāo)準(zhǔn)，并率先在制造、交通、金融、教育、醫(yī)療健康、司法等重點行業(yè)和領(lǐng)域進行推進。建設(shè)人工智能標(biāo)準(zhǔn)試驗驗證平臺，提供公共服務(wù)能力?！蛾P(guān)于促進人工智能和實體經(jīng)濟深度融合的指導(dǎo)意見》促進人工智能和實體經(jīng)濟深度融合，結(jié)合不同行業(yè)、不同區(qū)域特點，探索創(chuàng)新成果應(yīng)用轉(zhuǎn)化的路徑和方法，構(gòu)建數(shù)據(jù)驅(qū)動、人機協(xié)同、跨界融合、共創(chuàng)分享的智能經(jīng)濟形態(tài)。2017年12月2017年7月《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018-2020年）》工信部國務(wù)院力爭到2020年，實現(xiàn)人工智能重點產(chǎn)品規(guī)?；l(fā)展、人工智能整體核心基礎(chǔ)能力顯著增強、智能制造深化發(fā)展、人工智能產(chǎn)業(yè)支撐體系基本建立?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》構(gòu)建泛在安全高效的智能化基礎(chǔ)設(shè)施體系。09智能計算中心創(chuàng)新發(fā)展指南景，通常這些場景對實時性有一定要求，不適合完全將本地數(shù)據(jù)搬到異地計算。超級計算主要用于科學(xué)計算與工程計算等領(lǐng)域，且不同超級計算機的處理器、加速卡、框架等各不相同，商業(yè)化服務(wù)門檻高。因此，更適合“東數(shù)西算”工程的是智能計算中面向承載后臺加工、離線分析、存儲備份等大量非實時算力需求業(yè)務(wù)，而智算中心可以根據(jù)不同細(xì)分領(lǐng)域業(yè)務(wù)的算力需求匹配相應(yīng)的計算能力。在“東數(shù)西算”工程下，智算中心可實現(xiàn)算力統(tǒng)籌和智能調(diào)度，能夠在全國范圍內(nèi)，根據(jù)動態(tài)業(yè)務(wù)需求，在云、網(wǎng)、邊之間實現(xiàn)按需分配和靈活調(diào)度計算、存儲、網(wǎng)絡(luò)等資源。先進城市率先出臺智算中心相關(guān)政策北京、上海、廣州等城市也紛紛出臺政策推進智算中心建設(shè)。例如，北京市提出：“新建一批計算型數(shù)據(jù)中心和人工智能算力中心，到2023年，培育成為人工智能算力樞紐”；上海市提出：“布局建設(shè)一批具有高性能、高吞吐的人工智能算力中心，推動公共算力服務(wù)平臺建設(shè)，推動構(gòu)建跨域、跨運營主體的算力資源池，構(gòu)建智能計算生態(tài)”。（二）建設(shè)智算中心的現(xiàn)實意義從發(fā)展基礎(chǔ)層面來看，我國已建成了一系列新一代人工智能開放創(chuàng)新平臺，涉及基礎(chǔ)計算架構(gòu)、智能醫(yī)療、智能供應(yīng)鏈和智能城市治理等多個領(lǐng)域；在北京、上海等地建設(shè)了多個新一代人工智能創(chuàng)新發(fā)展的試驗區(qū)，通過試驗區(qū)建設(shè)推動人工智能技術(shù)應(yīng)用的發(fā)展，促進人工智能創(chuàng)新創(chuàng)業(yè)，促進傳統(tǒng)產(chǎn)業(yè)智能化升級。圍繞AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化的發(fā)展思路，人工智能產(chǎn)業(yè)已初步形成以異構(gòu)芯片、算力設(shè)施、算法模型、產(chǎn)業(yè)應(yīng)用為核心的結(jié)構(gòu)體系。1．智算中心已成為提升國際競爭力的關(guān)鍵基礎(chǔ)設(shè)施算力對各國在新科技革命和產(chǎn)業(yè)變革下提升國際競爭力起著基礎(chǔ)支撐作用，也是衡量綜合國力的一個重要指標(biāo)。世界各國高度重視人工智能算力基礎(chǔ)設(shè)施的規(guī)劃布局，并積極引導(dǎo)算力設(shè)施建設(shè)和算力應(yīng)用開發(fā)，推進算力產(chǎn)業(yè)本土化進程。正如人均GDP指標(biāo)可以衡量一個國家經(jīng)濟發(fā)展的程度一樣，人均算力水平的高低也可以衡量其智能化水平。據(jù)統(tǒng)計，當(dāng)前美國、英國、德國等國家人均算力普遍高于1,000GFLOPS/人，處于較高水平；日本、西班牙、智利、意大利、中國等國家人均算力在

460-1,000

GFLOPS/人，屬于中等算力國家。結(jié)合IMD對于世界各國智能化水平的評估結(jié)果，發(fā)現(xiàn)人均算力水平與國家智能化水平呈現(xiàn)高度正向相關(guān)。2．“東數(shù)西算”工程全面實施，智算中心建設(shè)提速“東數(shù)西算”工程對我國的長遠(yuǎn)發(fā)展有重要的戰(zhàn)略意義，將助力我國全面推進算力基礎(chǔ)設(shè)施化。針對當(dāng)前我國算力資源分布不均衡局面，2021年國家發(fā)改委等四部委聯(lián)合發(fā)布了《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐實施方案》，明確提出在京津冀、長三角、粵港澳大灣區(qū)、成渝、內(nèi)蒙古、貴州、甘肅、寧夏等8個地啟動建設(shè)國家算力樞紐節(jié)點，實施“東數(shù)西算”工程，構(gòu)建全國一體化大數(shù)據(jù)中心體系。區(qū)別于傳統(tǒng)意義上的數(shù)據(jù)中心，一體化大數(shù)據(jù)中心體系統(tǒng)籌推進東西算力資源的協(xié)調(diào)調(diào)度，一方面能夠驅(qū)動數(shù)據(jù)中心集約化、綠色化、均衡化發(fā)展，另一方面構(gòu)建了含數(shù)據(jù)中心、網(wǎng)絡(luò)、云、人工智能、安全等多個要素的基礎(chǔ)設(shè)施體系，是傳統(tǒng)數(shù)據(jù)中心的升級版，是新基建的發(fā)展典范。智能算力水平是國家智能化、數(shù)字化發(fā)展水平的集中體現(xiàn)，是數(shù)字化應(yīng)用建設(shè)及發(fā)展的底層基礎(chǔ)?！?021-2022全球計算力指數(shù)評估報告》數(shù)據(jù)顯示，美國、日本、德國、英國等15個國家在AI算力上的支出占總算力支出比重從2016年的9%增加到了12%，預(yù)計到2025年AI算力占比將達(dá)到25%。按照當(dāng)前發(fā)展趨勢，在人均算力中智能算力所占的比重將會逐年增長，人均智能算力水平的高低與國家經(jīng)濟社會發(fā)展將會是緊耦合的綁定關(guān)系，成為綜合國力發(fā)展的重要表現(xiàn)。智算中心業(yè)務(wù)是全國一體化大數(shù)據(jù)中心建設(shè)和“東數(shù)西算”工程的核心關(guān)鍵。無論是全國一體化大數(shù)據(jù)中心布局還是“東數(shù)西算”工程建設(shè)，其背后都是以實現(xiàn)集群間高效算力調(diào)度為目標(biāo)的復(fù)雜巨系統(tǒng)優(yōu)化調(diào)度問題。當(dāng)前，算力可分為通用算力、智能算力和超算算力三種類型，與此相對應(yīng)的是基礎(chǔ)計算、智能計算和超級計算（HPC）三種計算模式。通用算力主要用于計算復(fù)雜度適中的云計算、邊緣計算類場2．智算中心建設(shè)已成為數(shù)字經(jīng)濟高質(zhì)量發(fā)展的重要支撐當(dāng)前，我國數(shù)字經(jīng)濟蓬勃發(fā)展，算力作為一種關(guān)鍵技術(shù)進步力量，將帶來巨大的技術(shù)變革與賦能效應(yīng)。各行業(yè)數(shù)字化轉(zhuǎn)型升級進度逐步加快，全社會數(shù)據(jù)總量爆發(fā)式增長，進而激發(fā)超大規(guī)模數(shù)據(jù)資源計算、存儲和應(yīng)用需求的大幅提升。因此，算力已成為挖掘數(shù)據(jù)要素價值，推動數(shù)字經(jīng)濟發(fā)展的10智能計算中心創(chuàng)新發(fā)展指南重要驅(qū)動力，智算中心的戰(zhàn)略性地位愈發(fā)凸顯。長

，

智

能

算

力

將

成

為

影

響

計

算

力

指

數(shù)

的

決

定

性

因

素

?！?022-2023中國人工智能計算力發(fā)展評估報告》數(shù)據(jù)顯示，2022年，中國人工智能在互聯(lián)網(wǎng)、金融、政府、電信和制造等各個行業(yè)應(yīng)用滲透度較2021年明顯提升，其中電信行業(yè)的人工智能滲透度從2021年的45增長到51，制造行業(yè)的人工智能滲透度從40增長到45。在未來，人工智能技術(shù)將更加深入地應(yīng)用到行業(yè)場景中，智能算力將進一步帶動產(chǎn)業(yè)發(fā)展，成為拉動GDP增長的關(guān)鍵力量。《2021-2022全球計算力指數(shù)評估報告》對多個重點國家的評估結(jié)果顯示，國家計算力指數(shù)與GDP的走勢呈現(xiàn)出了顯著的正相關(guān)，計算力指數(shù)平均每提高1點，數(shù)字經(jīng)濟和GDP將分別增長3.5‰和1.8‰，且預(yù)計該趨勢在2021-2025年間將繼續(xù)保持。其中，當(dāng)一個國家的計算力指數(shù)達(dá)到40分以上時，指數(shù)每提升1點，對于GDP增長的拉動將提高到1.5倍；當(dāng)計算力指數(shù)達(dá)到60分以上時，指數(shù)每提升1點，其對GDP的拉動將進一步提升至3.0倍。隨著各國智能算力規(guī)模的高速增GDP（US$

B）25,00020,000美國15,000中國10,000日本德國英國意大利法國5,000韓國馬來西亞加拿大南非印度巴西澳大利亞計算力指數(shù)002030405060708090領(lǐng)跑者國家追趕者國家起步者國家圖6計算力指數(shù)與GDP回歸分析趨勢5隨著新一代信息技術(shù)的高速發(fā)展，智算中心已成為體系化和復(fù)雜性程度極高的聚集地，具有典型的技術(shù)密集型特征。尤其是高新技術(shù)的研發(fā)過程中，高度復(fù)雜的計算場景需要更多高性能算力支撐。在“東數(shù)西算”工程全面啟動的背景下，協(xié)同推進智算中心建設(shè)，加快東西算力資源的協(xié)調(diào)調(diào)度，通過智算中心提供普惠算力，將有利于聚合人工智能產(chǎn)業(yè)鏈的要素資源和創(chuàng)新人才，推動AI產(chǎn)業(yè)化，打造科技創(chuàng)新的區(qū)域增長極和周邊輻射帶。通過智算中心的系統(tǒng)優(yōu)化布局，實現(xiàn)全國算力、網(wǎng)絡(luò)、數(shù)據(jù)、能源等協(xié)同聯(lián)動，推動產(chǎn)業(yè)AI化，促進信息、裝備、能源等行業(yè)突破核心關(guān)鍵技術(shù)瓶頸，搶占技術(shù)創(chuàng)新制高點，實現(xiàn)產(chǎn)品快速迭代和規(guī)?；瘧?yīng)用，提升科技創(chuàng)新領(lǐng)域的影響力與競爭力。3．智算中心已成為構(gòu)建智慧城市的必然選擇泛在的算力是承載智慧城市建設(shè)的基石。智算中心作為公共算力基礎(chǔ)設(shè)施，面向政府、行業(yè)、企業(yè)、公眾等多用戶群體，提供人工智能應(yīng)用所需的算力服務(wù)、數(shù)據(jù)服務(wù)和算法服務(wù)。在算力、數(shù)據(jù)和算法服務(wù)的共性支撐下，政府部門有效提升數(shù)據(jù)匯聚共享和開放應(yīng)用能力，與各類社會主體深度分析挖掘城市治理、政務(wù)服務(wù)、民生事業(yè)等領(lǐng)域應(yīng)用需求，打造各種人工智能應(yīng)用場景，廣泛服務(wù)于城市數(shù)字化轉(zhuǎn)型的方方面面，如社會治理、智慧安防、智能出行、移動支付、智慧工廠、智慧農(nóng)業(yè)等，充分支撐政府治理體系和治理能力現(xiàn)代化建設(shè)，發(fā)揮新型基礎(chǔ)設(shè)施的社會價值。5IDC、浪潮信息、清華全球產(chǎn)業(yè)院，《2021-2022全球計算力指數(shù)評估報告》，2022年11智能計算中心創(chuàng)新發(fā)展指南城市大腦社會治理智慧能源環(huán)境監(jiān)測移動支付智慧醫(yī)療智慧教育智能出行智能工廠圖7智算中心服務(wù)的智慧城市應(yīng)用領(lǐng)域12技術(shù)篇智算中心建設(shè)通過領(lǐng)先的體系架構(gòu)設(shè)計，以算力基建化為主體、以算法基建化為引領(lǐng)、以服務(wù)智件化為依托，以設(shè)施綠色化為支撐，從基建、硬件、軟件、算法、服務(wù)等全環(huán)節(jié)開展關(guān)鍵技術(shù)落地與應(yīng)用。智能計算中心創(chuàng)新發(fā)展指南一、體系架構(gòu)（一）總體架構(gòu)服務(wù)平臺AI產(chǎn)業(yè)化數(shù)據(jù)服務(wù)算力服務(wù)算法服務(wù)最新人工智能理論識別檢測語音交互AI芯片自動駕駛機器人…算力生產(chǎn)供應(yīng)平臺數(shù)據(jù)開放共享平臺智能生態(tài)建設(shè)平臺產(chǎn)業(yè)創(chuàng)新聚集平臺高效

高效模型

模型模型文件CNNRNNGNNGAN高吞吐推理引擎數(shù)據(jù)圖像視頻深度學(xué)習(xí)自監(jiān)督學(xué)習(xí)強化學(xué)習(xí)處理庫

訓(xùn)練

優(yōu)化框架

方法釋放算力開發(fā)接口在線服務(wù)機器學(xué)習(xí)深度學(xué)習(xí)強化學(xué)習(xí)自監(jiān)督學(xué)習(xí)語音

自然語言處理自動機器學(xué)習(xí)平臺AI工具自動機器學(xué)習(xí)跨媒體多模態(tài)…AI場景AI算法AI服務(wù)產(chǎn)業(yè)AI化智能制造醫(yī)療影像無人商店智能客服智慧物流智慧農(nóng)林…細(xì)粒度切分算力標(biāo)準(zhǔn)化調(diào)度策略配額策略算力服務(wù)管理數(shù)據(jù)處理服務(wù)計算內(nèi)存智CPUGPU調(diào)度算力算中心作業(yè)環(huán)節(jié)共享超分負(fù)載均衡開發(fā)訓(xùn)練服務(wù)模型推理服務(wù)虛擬化容器化FPGA

ASIC算力資源領(lǐng)先算力池化算力調(diào)度算力服務(wù)人工智能計算架構(gòu)網(wǎng)絡(luò)虛擬化網(wǎng)絡(luò)卸載隨需擴展高IOPSAI計算集群彈性

可伸縮擴展高帶寬

低延遲算力聚合聚合算力政府治理智能化RDMA智能管理AI芯片AI服務(wù)器高速互聯(lián)深度學(xué)習(xí)框架資源調(diào)度…軟件定義網(wǎng)絡(luò)軟件定義存儲算力集群智能網(wǎng)絡(luò)智能存儲智慧交通應(yīng)急管理防洪減災(zāi)環(huán)境保護地理測繪…生產(chǎn)算力CPUGPUFPGAASIC軟件生態(tài)

BenchmarkAI訓(xùn)練算力

AI推理算力強大高效易用AI訓(xùn)練服務(wù)器AI推理服務(wù)器先進多樣成熟豐富算力機組算力芯片算力生態(tài)算力輸出圖8智算中心總體架構(gòu)62020年12月，由國家信息中心和浪潮信息聯(lián)合發(fā)布的《智能計算中心規(guī)劃建設(shè)指南》，重點圍繞基礎(chǔ)、支撐、功能和目標(biāo)四大部分，創(chuàng)新性地提出了智算中心總體架構(gòu)。其中，基礎(chǔ)部分是支撐智算中心建設(shè)與應(yīng)用的先進人工智能理論和計算架構(gòu)；支撐部分圍繞智算中心算力生產(chǎn)、聚合、調(diào)度、釋放的作業(yè)邏輯展開；功能部分提供算力生產(chǎn)供應(yīng)、數(shù)據(jù)開放共享、智能生態(tài)建設(shè)和產(chǎn)業(yè)創(chuàng)新聚集四大平臺，以及數(shù)據(jù)、算力和算法三大服務(wù)；整體目標(biāo)是促進AI產(chǎn)業(yè)化、產(chǎn)業(yè)AI化及政府治理智能化。（二）技術(shù)演進智算中心的發(fā)展基于最新人工智能理論和領(lǐng)先的人工智能計算架構(gòu)，算力技術(shù)與算法模型是其中的關(guān)鍵核心技術(shù)，算力技術(shù)以AI芯片、AI服務(wù)器、AI集群為載體，而當(dāng)前的算法模型發(fā)展趨勢以AI大模型為代表。在此基礎(chǔ)上，通過智算中心操作系統(tǒng)作為智算中心的“神經(jīng)中樞”對算力資源池進行高效管理和智能調(diào)度，使智算中心更好地對外提供算力、數(shù)據(jù)和6國家信息中心、浪潮信息，《智能計算中心規(guī)劃建設(shè)指南》，2020年14智能計算中心創(chuàng)新發(fā)展指南算法等服務(wù)，支撐各類智慧應(yīng)用場景落地。而軟件生態(tài)則是智算中心“好用、用好”的關(guān)鍵支撐。3．AI集群大模型參數(shù)量和訓(xùn)練數(shù)據(jù)復(fù)雜性快速增長，對智算系統(tǒng)提出大規(guī)模算力擴展需求。通過充分考慮大模型分布式訓(xùn)練對于計算、網(wǎng)絡(luò)和存儲的需求特點，可以設(shè)計構(gòu)建高性能可擴展、高速互聯(lián)、存算平衡的AI集群來滿足尖端的AI計算需求。1．AI芯片基于AI芯片的加速計算是當(dāng)前AI計算的主流模式。AI芯片通過和AI算法的協(xié)同設(shè)計來滿足AI計算對算力的超高需求。當(dāng)前主流的AI加速計算主要是采用CPU系統(tǒng)搭載GPU、FPGA、ASIC等異構(gòu)加速芯片。AI集群采用模塊化方法構(gòu)建，可以實現(xiàn)大規(guī)模的算力擴展。AI集群的基本算力單元是AI服務(wù)器。數(shù)十臺AI服務(wù)器可以組成單個POD計算模組，POD內(nèi)部通過多塊支持RDMA技術(shù)的高速網(wǎng)卡連接。在此基礎(chǔ)上以POD計算模組為單位實現(xiàn)橫向擴展，規(guī)?？啥噙_(dá)數(shù)千節(jié)點以上，從而實現(xiàn)更高性能的AI集群。AI計算加速芯片發(fā)端于GPU芯片，GPU芯片中原本為圖形計算設(shè)計的大量算術(shù)邏輯單元（ALU）可對以張量計算為主的深度學(xué)習(xí)計算提供很好的加速效果。隨著GPU芯片在AI計算加速中的應(yīng)用逐步深入，GPU芯片本身也根據(jù)AI的計算特點，進行了針對性的創(chuàng)新設(shè)計，如張量計算單元、TF32/BF16數(shù)值精度、Transformer引擎（TransformerEngine）等。AI集群的構(gòu)建主要采用低延遲、高帶寬的網(wǎng)絡(luò)互連。為了滿足大模型訓(xùn)練常用的數(shù)據(jù)并行、模型并行、流水線并行等混合并行策略的通信需求，需要為芯片間和節(jié)點間提供低延遲、高帶寬的互聯(lián)。另外，還要針對大模型的并行訓(xùn)練算法通信模式做出相應(yīng)的組網(wǎng)拓?fù)渖系膬?yōu)化，比如對于深度學(xué)習(xí)常用的全局梯度歸約通信操作，可以使用全局環(huán)狀網(wǎng)絡(luò)設(shè)計，配置多塊高速網(wǎng)卡，實現(xiàn)跨AI服務(wù)器節(jié)點的AI芯片間RDMA互聯(lián)，消除混合并行算法的計算瓶頸。近年來，國產(chǎn)AI加速芯片廠商持續(xù)發(fā)力，在該領(lǐng)域取得了快速進展，相關(guān)產(chǎn)品陸續(xù)發(fā)布，覆蓋了AI推理和AI訓(xùn)練需求，其中既有基于通用GPU架構(gòu)的芯片，也有基于ASIC架構(gòu)的芯片，另外也出現(xiàn)了類腦架構(gòu)芯片，總體上呈現(xiàn)出多元化的發(fā)展趨勢。但是，當(dāng)前國產(chǎn)AI芯片在產(chǎn)品性能和軟件生態(tài)等方面與國際領(lǐng)先水平還存在差距，亟待進一步完善加強?？傮w而言，國產(chǎn)AI芯片正在努力從“可用”走向“好用”。AI集群的構(gòu)建需要配置面向AI優(yōu)化的高速存儲。通過配置高性能、高擴展、多層級的智能存儲，為各種數(shù)據(jù)訪問需求提供優(yōu)化性能。智能存儲具備隨需擴展功能，實現(xiàn)高IOPS處理能力，支持RDMA技術(shù)，同時實現(xiàn)高聚合帶寬。2．AI服務(wù)器AI服務(wù)器是智算中心的算力機組。當(dāng)前AI服務(wù)器主要采用CPU+AI加速芯片的異構(gòu)架構(gòu)，通過集成多顆AI加速芯片實現(xiàn)超高計算性能。4．AI大模型超大規(guī)模智能模型，簡稱大模型，是近年興起的一種新的人工智能計算范式。和傳統(tǒng)AI模型相比，大模型的訓(xùn)練使用了更多的數(shù)據(jù)，具有更好的泛化性，可以應(yīng)用到更廣泛的下游任務(wù)中。按照應(yīng)用場景劃分，AI大模型主要包括語言大模型、視覺大模型和多模態(tài)大模型等。為滿足各領(lǐng)域場景和復(fù)雜的AI模型的計算需求，AI服務(wù)器對計算芯片間互聯(lián)、擴展性有極高要求。AI服務(wù)器內(nèi)基于特定協(xié)議進行多加速器間高速互聯(lián)通信已成為高端AI訓(xùn)練服務(wù)器的標(biāo)準(zhǔn)架構(gòu)。目前業(yè)界以NVLink和OAM兩種高速互聯(lián)架構(gòu)為主，其中NVLink是NVIDIA開發(fā)并推出的一種私有通信協(xié)議，其采用點對點結(jié)構(gòu)、串列傳輸，可以達(dá)到數(shù)百GB/s的P2P互聯(lián)帶寬，極大地提升了模型并行訓(xùn)練的效率和性能。OAM是國際開放計算組織OCP定義的一種開放的、用于跨AI加速器間的高速通信互聯(lián)協(xié)議，卡間互聯(lián)聚合帶寬可高達(dá)896GB/s。浪潮信息基于開放OAM架構(gòu)研發(fā)的AI服務(wù)器NF5498，率先完成與國際和國內(nèi)多家AI芯片產(chǎn)品的開發(fā)適配，并已在多個智算中心實現(xiàn)大規(guī)模落地部署。自然語言處理是首個應(yīng)用大模型的領(lǐng)域，BERT是大模型的早期代表。隨著大模型在自然語言的理解和生成領(lǐng)域成功應(yīng)用，推動了語言大模型向更大的模型參數(shù)規(guī)模和更大訓(xùn)練數(shù)據(jù)規(guī)模的方向發(fā)展。當(dāng)前，語言大模型的單體模型參數(shù)已經(jīng)達(dá)到千億級別，訓(xùn)練數(shù)據(jù)集規(guī)模也達(dá)到了TB級別，訓(xùn)練所需計算資源超過1000PetaFlop/s-day（PD）。業(yè)界典型的自然語言大模型有GPT-3、源、悟道和文心等。自然語言大模型已經(jīng)廣泛應(yīng)用于個人知識管理、輿情檢測、商業(yè)報告生成、金融反欺詐、智能客服、虛擬數(shù)字人等場景，同時也出現(xiàn)了一系15智能計算中心創(chuàng)新發(fā)展指南列的創(chuàng)新應(yīng)用場景，如劇本殺、反網(wǎng)絡(luò)詐騙、公文寫作等。化的模型、中間件及應(yīng)用軟件，以開放接口、模型庫、算法包等方式向用戶提供如行業(yè)大模型、自動駕駛、元宇宙、智慧科研等人工智能服務(wù)，促進人工智能技術(shù)成果的開放與共享，構(gòu)建開放的智算生態(tài)。在語言大模型大獲成功之后，相關(guān)技術(shù)和方法也被引入計算機視覺領(lǐng)域，通過構(gòu)建更大的預(yù)訓(xùn)練模型，使其可以適用于目標(biāo)檢測、語義分割、異常檢測等廣泛的視覺任務(wù)。在算法架構(gòu)上，視覺大模型采用以Transformer架構(gòu)為主體的神經(jīng)網(wǎng)絡(luò)架構(gòu)和自監(jiān)督的訓(xùn)練方法以及十億級的無標(biāo)注圖片數(shù)據(jù)進行訓(xùn)練。當(dāng)前業(yè)界已經(jīng)出現(xiàn)了越來越多的通用視覺大模型和面向特定領(lǐng)域的視覺大模型。視覺大模型也已廣泛應(yīng)用于自動駕駛、智能安防、醫(yī)學(xué)影像等領(lǐng)域。6．軟件生態(tài)基于業(yè)界主流、開源、開放的軟件生態(tài)建設(shè)智算中心，是智算中心能夠滿足前沿AI計算需求、提升AI創(chuàng)新和生產(chǎn)效率、豐富行業(yè)AI應(yīng)用、促進AI產(chǎn)業(yè)快速發(fā)展的主要前提。隨著大模型技術(shù)在語言、視覺等多個領(lǐng)域的應(yīng)用，融合多個模態(tài)的多模態(tài)大模型也逐漸成為了業(yè)界關(guān)注的重點。基于多模態(tài)大模型的以文生圖技術(shù)也迅速發(fā)展，代表性模型有DALLE-2和Stable

Di?usion等。由于多模態(tài)大模型的快速發(fā)展，AI內(nèi)容生成（AI

Generated

Content，AIGC）已成為下一個AI發(fā)展的重點領(lǐng)域。深度學(xué)習(xí)的加速計算始于GPU，構(gòu)建于GPU之上的CUDA軟件棧為深度學(xué)習(xí)的算法開發(fā)提供了極大的便利。CUDA軟件棧為深度學(xué)習(xí)的應(yīng)用開發(fā)和計算加速提供了豐富的底層支撐，如張量和卷積計算加速、芯片互聯(lián)通信加速、數(shù)據(jù)預(yù)處理加速、模型低精度推理加速等。在此基礎(chǔ)上，學(xué)術(shù)界和工業(yè)界已經(jīng)構(gòu)建龐大的開源、開放、共享的AI軟件生態(tài)，有力促進和加速全球AI技術(shù)與應(yīng)用的蓬勃發(fā)展。5．智算OS深度學(xué)習(xí)框架是當(dāng)前主要的人工智能算法開發(fā)工具。其中TensorFlow和PyTorch的使用較為廣泛。TensorFlow因其豐富的模型開發(fā)和應(yīng)用部署組件而在工業(yè)界廣泛應(yīng)用，PyTorch則由于其易用性和靈活性在前沿算法開發(fā)和學(xué)術(shù)創(chuàng)新研究領(lǐng)域取得了領(lǐng)先地位。國內(nèi)的AI科技公司也在開發(fā)和推廣深度學(xué)習(xí)框架。其中百度開發(fā)的飛槳提供了兼具靈活和效率的開發(fā)機制，并聯(lián)合開源社區(qū)打造了一系列覆蓋主流產(chǎn)業(yè)應(yīng)用需求的工業(yè)級模型，目前在國內(nèi)已得到較多的采用。智算OS，即智算中心操作系統(tǒng)，是以智算服務(wù)為對象，對智算中心基礎(chǔ)設(shè)施資源池進行高效管理和智能調(diào)度的產(chǎn)品方案，可以使智算中心更好地對外提供算力、數(shù)據(jù)、算法、智件等服務(wù)，有效降低算力使用門檻，提升資源調(diào)度效率，支撐各類智慧應(yīng)用場景落地，是智算中心的“中樞神經(jīng)”。智算OS主要由三層架構(gòu)構(gòu)成，分別為基礎(chǔ)設(shè)施層、平臺服務(wù)層、業(yè)務(wù)系統(tǒng)層?；A(chǔ)設(shè)施層主要實現(xiàn)將異構(gòu)算力、數(shù)據(jù)存儲、框架模型等轉(zhuǎn)化為有效的算力與服務(wù)資源，算力資源池能夠聚合并進行標(biāo)準(zhǔn)化和細(xì)粒度切分，以滿足上層不同類型智能應(yīng)用對算力的多元化需求，并通過異構(gòu)資源管理和調(diào)度技術(shù)，提升可同時支撐的智算業(yè)務(wù)規(guī)模。平臺服務(wù)層主要提供AI訓(xùn)練與推理服務(wù)、數(shù)據(jù)治理服務(wù)、運營運維服務(wù)等，并通過智算OS實現(xiàn)自動化、智能化，有效擺脫人力束縛，促進算力高效釋放并轉(zhuǎn)化為生產(chǎn)力。業(yè)務(wù)系統(tǒng)層是面向用戶端的統(tǒng)一服務(wù)入口，向下整合各層級核心功能，為用戶提供多元化、高質(zhì)量的智算服務(wù)，滿足生產(chǎn)中不同階段、不同場景的智算需求。在深度學(xué)習(xí)框架之上，為了適應(yīng)計算機視覺任務(wù)、自然語言大模型等特定場景的應(yīng)用開發(fā)需求，業(yè)界構(gòu)建了一系列的開源開發(fā)庫，比如面向目標(biāo)檢測任務(wù)的mmdetection、面向大模型訓(xùn)練任務(wù)的Megatron-LM、DeepSpeed，以及面向自監(jiān)督學(xué)習(xí)的VISSL等。這些軟件庫進一步簡化了模型訓(xùn)練和應(yīng)用開發(fā)的難度，已成為當(dāng)前人工智能計算的重要軟件底座。業(yè)界前沿的知名AI算法，如ChatGPT、DALLE-2、StableDi?usion等都是在這樣的架構(gòu)下實現(xiàn)的。隨著國產(chǎn)AI計算產(chǎn)業(yè)的快速發(fā)展，各廠商也高度重視并投入軟件生態(tài)建設(shè)，力求實現(xiàn)好用、易用的軟件開發(fā)和應(yīng)用生態(tài)。但總的來說，當(dāng)前國產(chǎn)AI計算軟件生態(tài)起步較晚、基礎(chǔ)薄弱，還要持續(xù)不斷加大投入，在各個層面加強建設(shè)完善。智算OS以智算中心為載體，通過建設(shè)多元、開放的智算平臺，融合國際、國內(nèi)先進人工智能技術(shù)，形成標(biāo)準(zhǔn)化、模塊16智能計算中心創(chuàng)新發(fā)展指南（三）建設(shè)架構(gòu)AI賦能AI產(chǎn)業(yè)化產(chǎn)業(yè)AI化治理智能化產(chǎn)業(yè)集群化服務(wù)智件化數(shù)據(jù)服務(wù)算力服務(wù)智件算力服務(wù)算法服務(wù)智件算法服務(wù)生態(tài)服務(wù)……供需對接智件支撐調(diào)用支撐調(diào)用支撐調(diào)用開發(fā)部署算法模型數(shù)據(jù)管理模型開發(fā)模型訓(xùn)練模型管理模型服務(wù)開發(fā)者社區(qū)實例分割目標(biāo)語音識別單模態(tài)、多模態(tài)、超模態(tài)檢測算釋法放基算建力化有監(jiān)督學(xué)習(xí)無監(jiān)督學(xué)習(xí)半監(jiān)督學(xué)習(xí)強化學(xué)習(xí)自監(jiān)督學(xué)習(xí)交互式主動學(xué)習(xí)語言大模型視覺大模型圖像分類人臉識別視頻感知機器翻譯情感分析……多模態(tài)大模型其他大模型預(yù)置行業(yè)算法預(yù)訓(xùn)練大模型AI算法更新迭代基礎(chǔ)支撐海量數(shù)據(jù)清洗系統(tǒng)釋放算力分布式訓(xùn)練框架釋放算力高性能推理框架釋放算力調(diào)度算力算力調(diào)度與管理……算力管理按需定義算力監(jiān)控算力調(diào)度算力運營智算中心操作系統(tǒng)智能調(diào)度按需定義智能調(diào)度按需定義智能調(diào)度軟件定義軟件定義計算軟件定義存儲軟件定義網(wǎng)絡(luò)算聚力標(biāo)準(zhǔn)化接入標(biāo)準(zhǔn)化接入標(biāo)準(zhǔn)化接入合基算建計算資源池化異構(gòu)內(nèi)存分級池化存儲池化網(wǎng)絡(luò)連接力化CPU

GPUFPGA

ASICAI

推理DRAMHBMPMemAEPSSD核心交換機接入交換機服務(wù)器硬件重構(gòu)AI

訓(xùn)練服務(wù)器生產(chǎn)算力HDD智能網(wǎng)卡………………算力芯片算力機組智能存儲集中管理智能網(wǎng)絡(luò)集中散熱集中供電綠設(shè)色施化……液冷系統(tǒng)集成冷站模塊化機房預(yù)置化數(shù)據(jù)中心綠色供電設(shè)施圖9智算中心建設(shè)架構(gòu)本指南在智算中心總體架構(gòu)的基礎(chǔ)上，聚焦智算中心建設(shè)與應(yīng)用中涉及的關(guān)鍵技術(shù)，進一步提出智算中心建設(shè)架構(gòu)。智算中心建設(shè)架構(gòu)由四大關(guān)鍵環(huán)節(jié)組成，分別是算力基建化、算

法

基

建

化

、服

務(wù)

智

件

化

、設(shè)

施

綠

色

化

，“四化”相互支撐、相互協(xié)調(diào)，共同構(gòu)建起智算中心高效運行體系。同時，在總體架構(gòu)三項服務(wù)、三項目標(biāo)的基礎(chǔ)上，進一步拓展豐富智算中心的功能和目標(biāo)，實現(xiàn)對外提供數(shù)據(jù)服務(wù)、算力服務(wù)、算法服務(wù)、生態(tài)服務(wù)四大服務(wù)，支撐達(dá)成AI產(chǎn)業(yè)化、產(chǎn)業(yè)AI化、治理智能化、產(chǎn)業(yè)集群化四大目標(biāo)。17智能計算中心創(chuàng)新發(fā)展指南二、技術(shù)路線智算中心建設(shè)的關(guān)鍵技術(shù)涉及與其建設(shè)和應(yīng)用相關(guān)的各類基建、硬件、軟件，體現(xiàn)在智算中心算力基建化、算法基建化、服務(wù)智件化、設(shè)施綠色化過程中。過將CPU與多種計算單元（如GPU、FPGA、ASIC等）集成，充分融合了CPU等傳統(tǒng)的通用計算單元和高性能專用計算單元的優(yōu)點，可以同時兼顧AI模型的高效訓(xùn)練和精準(zhǔn)推理能力。異構(gòu)架構(gòu)具有高性能、高效率、低功耗等顯著優(yōu)點，使AI芯片在未來人工智能算法不斷迭代更新的情況下，依舊能保持較好的兼容性和可擴展性，在一定程度上延長了AI芯片的生命周期。（一）以算力基建化為主體以智算中心為代表的算力基礎(chǔ)設(shè)施能夠有效促進AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化，是支撐數(shù)字經(jīng)濟發(fā)展的重要基礎(chǔ)底座。為了讓AI真正地賦能到千行百業(yè)，并推動產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型發(fā)展，智算中心要具備對外提供高性價比、普惠、安全算力資源的能力，使AI算力像水、電一樣成為城市的公共基礎(chǔ)資源，供政府、企業(yè)、公眾自主取用。算力基建化供給成為支撐產(chǎn)業(yè)轉(zhuǎn)型升級以及創(chuàng)新發(fā)展的剛性需求和必然選擇。3．兼顧軟硬一體協(xié)同，構(gòu)建智算中心多元融合型架構(gòu)人工智能計算場景和計算架構(gòu)的多元化要求智算中心從硬件、軟件、軟硬協(xié)同等層面開展優(yōu)化，提供彈性、可伸縮擴展的算力聚合能力，依據(jù)不同類型智能應(yīng)用對算力的不同需求，提供更高效、更便捷的算力調(diào)度能力。采用融合架構(gòu)進行整體設(shè)計是智算中心的發(fā)展方向。具體而言，在硬件層面，通過硬件重構(gòu)實現(xiàn)資源池化，結(jié)合新型超高速內(nèi)外部互連技術(shù)、池化融合、異構(gòu)存儲介質(zhì)等，推動多元異構(gòu)智能算力設(shè)施的高速互聯(lián)，形成高效池化的智算中心，實現(xiàn)多元計算資源高效協(xié)同；在軟件層面，通過軟件定義，將不同的資源池組成專業(yè)的服務(wù)器、存儲、網(wǎng)絡(luò)系統(tǒng)，實現(xiàn)重構(gòu)硬件資源池的高效化、智能化管理，使智算中心的業(yè)務(wù)資源調(diào)度更為靈活、運維管理能力更強。在安全方面，智算中心可以依托隱私安全計算等技術(shù)，提供完善的隱私和數(shù)據(jù)保護解決方案，實現(xiàn)計算、存儲、網(wǎng)絡(luò)等多層級、全方位的資源隔離與安全防護。1．面向潛在算力需求，適度超前規(guī)?；渴鹚懔Y源數(shù)據(jù)量的爆炸式增長以及萬億參數(shù)大模型的出現(xiàn)，使智能算力需求呈現(xiàn)高速增長態(tài)勢，并為算力基礎(chǔ)設(shè)施帶來巨大挑戰(zhàn)。在數(shù)據(jù)量方面，IDC發(fā)布的《數(shù)據(jù)時代2025》預(yù)測，到2025年，全球數(shù)據(jù)量將達(dá)到175

ZB，而中國數(shù)據(jù)量的平均增速快于全球3%，預(yù)計到2025年將增至48.6

ZB，占全球數(shù)據(jù)圈的27.8%。在模型方面，當(dāng)前1萬億參數(shù)的單體模型需要1EFLOPS級算力（FP16）計算約50天，10萬億參數(shù)的單體模型需要10

EFLOPS級算力（FP16）計算約50天。因此在智算中心的規(guī)劃建設(shè)中，需要聚焦當(dāng)前算力應(yīng)用需求，同時面向未來數(shù)據(jù)量和大模型大參數(shù)量增長空間，適度超前，部署滿足AI訓(xùn)練、AI推理等大規(guī)模計算需求的強大AI算力機組，構(gòu)建算力集群，提供大規(guī)模彈性算力。（二）以算法基建化為引領(lǐng)建設(shè)適度超前的算力基礎(chǔ)設(shè)施，不僅體現(xiàn)在算力層面，也體現(xiàn)在算法層面，這是釋放算力環(huán)節(jié)的關(guān)鍵。人工智能算法正面臨著豐富化、專業(yè)化和巨量化的挑戰(zhàn)，智算中心通過提供預(yù)置行業(yè)算法、構(gòu)建預(yù)訓(xùn)練大模型、推進算法模型持續(xù)升級、提供專業(yè)化數(shù)據(jù)和算法服務(wù)，讓更多的用戶享受普適普惠的智能計算服務(wù)。2．聚焦異構(gòu)加速技術(shù)，提升高性能人工智能計算能力自2012年以來，人工智能訓(xùn)練任務(wù)所需求的算力每3.43個月就會翻倍，大大突破了傳統(tǒng)以每18個月為周期實現(xiàn)芯片性能翻番的摩爾定律，這對人工智能計算架構(gòu)的性能提出了更高的要求。AI芯片是生產(chǎn)算力環(huán)節(jié)的關(guān)鍵組件，為AI訓(xùn)練和AI推理輸出強大、高效、易用的計算力。目前，AI芯片主要包括GPU、FPGA、ASIC、類腦芯片四大類，其中類腦芯片仍在探索階段，因此多元異構(gòu)芯片成為提升算力的關(guān)鍵手段。主流的人工智能計算架構(gòu)是以CPU+AI芯片為主體的異構(gòu)架構(gòu)，通1．面向千行百業(yè)發(fā)展需求，提供多類型預(yù)置行業(yè)算法AI落地面臨開發(fā)成本、技術(shù)門檻高的難題，算法模型平均構(gòu)建時間為3個月，同時算法還需要快速的迭代，再加上AI新18智能計算中心創(chuàng)新發(fā)展指南算法、新理論層出不窮，行業(yè)用戶的智慧轉(zhuǎn)型存在著巨大的技術(shù)壁壘。智算中心應(yīng)圍繞政務(wù)服務(wù)、智慧城市、智能制造、自動駕駛、語言智能等重點領(lǐng)域，在AI平臺內(nèi)預(yù)置實例分割、目標(biāo)檢測、邊緣檢測、圖像分類、人臉識別、視頻感知、自動問答、機器翻譯、輿情分析、情感分析、語音識別、協(xié)同過濾、交通路線規(guī)劃等常用行業(yè)算法模型，并從硬、軟件對行業(yè)算法做性能優(yōu)化，從而幫助各行各業(yè)智慧應(yīng)用加速落地，推動行業(yè)智能化轉(zhuǎn)型加速。外，還應(yīng)提供專業(yè)化基礎(chǔ)支撐和開發(fā)部署服務(wù)能力，以支撐AI算法模型的便捷調(diào)用和部署。為了滿足算法模型對大規(guī)模高質(zhì)量海量數(shù)據(jù)集的需求，智算中心應(yīng)搭載海量數(shù)據(jù)清洗系統(tǒng)，提供全流程自動化數(shù)據(jù)處理系統(tǒng)，實現(xiàn)智能高效的數(shù)據(jù)處理和過濾。為了滿足AI算法模型高效訓(xùn)練和使用的需求，智算中心在基礎(chǔ)支撐層面應(yīng)部署分布式訓(xùn)練框架、高性能推理框架，在開發(fā)部署層面應(yīng)提供數(shù)據(jù)管理、模型開發(fā)、模型訓(xùn)練、模型管理等關(guān)鍵模塊，以模型API服務(wù)、領(lǐng)域模型、工具包、會話式開放框架、開發(fā)者社區(qū)等形式，形成強大的AI算法服務(wù)支撐能力。2．面向模型即服務(wù)應(yīng)用需求，構(gòu)建大規(guī)模預(yù)訓(xùn)練AI模型在產(chǎn)業(yè)AI化和數(shù)實融合的背景下，當(dāng)前的行業(yè)做法是針對每一個場景都做一個模型，即“有1萬個場景就有1萬個模型”。然而隨著以BERT、GPT-3、DALL·E、源1.0等為代表的高泛化能力和高通用性的大模型的出現(xiàn)，一個模型可以覆蓋眾多場景?！邦A(yù)訓(xùn)練大模型+下游任務(wù)微調(diào)”的AI工程化模式已成為業(yè)內(nèi)共識，層數(shù)、隱向量長度、前饋網(wǎng)絡(luò)尺寸持續(xù)增長，參數(shù)規(guī)模迅速從億級增長到百萬億級。在充足數(shù)據(jù)和算力的支持下，大模型可以充分學(xué)習(xí)文本、圖像等數(shù)據(jù)中的特征。智算中心應(yīng)通過部署大模型所需要的訓(xùn)練、推理和數(shù)據(jù)處理系統(tǒng)，構(gòu)建出不同功能、不同模態(tài)的大模型（如自然語言處理大模型、視覺大模型、多模態(tài)大模型等），從而更加快速地生產(chǎn)出專業(yè)的技能模型，并在更多專業(yè)場景中實現(xiàn)小型化、輕量化的落地運作。（三）以服務(wù)智件化為依托隨著人工智能應(yīng)用場景持續(xù)拓展和開發(fā)用戶不斷普及，對智能計算需求大幅提升、算法模型功能不斷強化的同時，人工智能算法開發(fā)和模型訓(xùn)練正在從專業(yè)化、高門檻向泛在化、易用型轉(zhuǎn)變，智算中心的發(fā)展將由傳統(tǒng)的硬件、軟件向“智件”升級拓展?！爸羌笔侵钢撬阒行奶峁┤斯ぶ悄芡茝V應(yīng)用的中間件產(chǎn)品和服務(wù)。傳統(tǒng)用戶進行人工智能應(yīng)用時，除了需要提供業(yè)務(wù)數(shù)據(jù)，還需提供算法模型并進行代碼開發(fā)，“智件”的構(gòu)建可以改變這種服務(wù)模式，通過可視化操作界面，以及低代碼開發(fā)甚至無代碼開發(fā)的模式，為用戶提供功能豐富、使用便捷的人工智能算力調(diào)度、算法供給和個性化開發(fā)服務(wù)，實現(xiàn)“帶著數(shù)據(jù)來、拿著成果走”的效果。3．面向可持續(xù)化發(fā)展需求，推進AI模型不斷演進升級從感知機到深度神經(jīng)網(wǎng)絡(luò)，從全連接網(wǎng)絡(luò)到模型剪枝、知識蒸餾、注意力機制，從有監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)到強化學(xué)習(xí)、自監(jiān)督學(xué)習(xí)，人工智能理論算法模型在持續(xù)深化發(fā)展中。當(dāng)前，人工智能算法正從單模態(tài)、有監(jiān)督學(xué)習(xí)向多模態(tài)、自監(jiān)督學(xué)習(xí)演進。自監(jiān)督學(xué)習(xí)無需標(biāo)注數(shù)據(jù)，可以直接從無標(biāo)簽數(shù)據(jù)中自行學(xué)習(xí)，極大降低了人工標(biāo)注成本。多模態(tài)學(xué)習(xí)更貼近人類對多感知模態(tài)的認(rèn)知過程，通過學(xué)習(xí)多種模態(tài)的數(shù)據(jù)，可以突破自然語言處理和計算機視覺的界限，在圖文生成、看圖問答等視覺語言任務(wù)上具有更強表現(xiàn)。隨著人工智能相關(guān)技術(shù)和應(yīng)用需求的不斷升級，智算中心所提供的算法模型也應(yīng)持續(xù)迭代升級，與時俱進，保持算法模型的先進性。未來，人工智能算法將朝著多模態(tài)、交互式主動學(xué)習(xí)、規(guī)劃、實踐的方向發(fā)展，以期實現(xiàn)真正的認(rèn)知智能。1．提供多元算力調(diào)度服務(wù)，實現(xiàn)算力調(diào)度“智件化”算力是智算中心提供的核心產(chǎn)品和服務(wù)。面向不同用戶的不同算力需求，智算中心應(yīng)提供“智件化”算力服務(wù)，讓用戶無需關(guān)注底層算力芯片和技術(shù)細(xì)節(jié)，通過用戶交互界面，選擇業(yè)務(wù)場景類別、算法模型大小等參數(shù)，獲得不同算力需求下的計算時間預(yù)估、服務(wù)費用測算等針對性算力服務(wù)方案。一方面，算力服務(wù)虛擬化，弱化底層算力芯片供給的技術(shù)差異性，為用戶提供標(biāo)準(zhǔn)化的算力供給服務(wù)。通過抽象芯片架構(gòu)并融合算力特性將提供底層計算能力的GPU、FPGA、ASIC等AI芯片進行統(tǒng)一管理和調(diào)度，以PFLOPS、EFLOPS作為計算能力單位向用戶提供算力服務(wù)，讓用戶可以更便捷地調(diào)度算力，進行AI應(yīng)用部署。另一方面，算力服務(wù)協(xié)同調(diào)度，要強化對外的算力調(diào)度與服務(wù)能力。在構(gòu)建全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系和“東數(shù)西算”工程的背景和要求下，智算中心可以作為算力基礎(chǔ)單元，通過云服務(wù)方式融入全國算力調(diào)度體系中，滿足更大范圍、更強算力調(diào)度需求。4．面向算法高效調(diào)用需求，提供專業(yè)化開發(fā)部署支撐智算中心除了提供深度學(xué)習(xí)、強化學(xué)習(xí)等常見

A

I算法模型19智能計算中心創(chuàng)新發(fā)展指南步規(guī)范數(shù)據(jù)中心的能耗水平和平均電能利用效率（PUE）。為了進一步降低智算中心能耗，設(shè)施綠色化是智算中心建設(shè)的必然選擇。設(shè)施綠色化主要包括設(shè)備節(jié)能化、能源供給綠色化等方面。2．提供簡便算法模型服務(wù)，實現(xiàn)算法供給“智件化”人工智能是一門極其復(fù)雜的學(xué)科，要求應(yīng)用開發(fā)者不僅要有扎實的理論功底，還要有高超的編程技術(shù)，門檻極高。算法模型是人工智能應(yīng)用的靈魂，也是智算中心提供服務(wù)的主要輸出物。從計算智能到感知智能，再到認(rèn)知智能，人工智能的應(yīng)用模型越來越復(fù)雜，從公共服務(wù)到社會治理再到產(chǎn)業(yè)發(fā)展，人工智能的應(yīng)用需求越來越廣泛，對人工智能模型和算法的要求也越來越高。為了緩解人工智能模型訓(xùn)練成本高、技術(shù)門檻高的問題，智算中心應(yīng)加強算法供給服務(wù)模式的創(chuàng)新，開發(fā)可視化操作界面，用戶通過API、模塊化代碼即可獲得所需的人工智能應(yīng)用效果，減輕代碼開發(fā)壓力，使用戶無需關(guān)注算法和模型本身的復(fù)雜技術(shù)細(xì)節(jié)，只需聚焦相應(yīng)業(yè)務(wù)領(lǐng)域的業(yè)務(wù)邏輯和數(shù)據(jù)就能實現(xiàn)人工智能應(yīng)用。用戶可以基于“智件化”的算法模型進行探索和創(chuàng)新，開發(fā)出適用于各種場景的新型智能應(yīng)用。1．采用先進節(jié)能技術(shù)，全面降低智算中心能耗制冷設(shè)備和IT設(shè)備是智算中心主要的能耗來源。液冷技術(shù)采用冷卻液和工作流體對發(fā)熱設(shè)備進行冷卻，利用高比熱容的液體代替空氣，提升了制冷效率，降低制冷能耗。液冷技術(shù)是智算中心制冷的主要發(fā)展趨勢。數(shù)據(jù)中心采用全棧布局液冷，冷板式液冷、熱管式液冷、浸沒式液冷等先進液冷技術(shù)，構(gòu)建包含一次側(cè)二次側(cè)液冷循環(huán)、CDU等的智算中心液冷整體解決方案，可以進一步降低能耗、降低PUE，實現(xiàn)綠色化。液冷智算中心采用余熱回收技術(shù)，可以為智算中心自身以及鄰近區(qū)域供暖，進一步提升能源利用效率。此外，智算中心采用高壓直流、集中供電等高效供配電系統(tǒng)、能效環(huán)境集成檢測等高效輔助系統(tǒng)、智能監(jiān)控運維系統(tǒng)等綠色管理系統(tǒng)可以進一步降低能耗。3．提供開放生態(tài)環(huán)境服務(wù)，實現(xiàn)供需對接“智件化”人工智能場景日趨豐富，應(yīng)用需求和技術(shù)供給個性化特征明顯，為滿足部分用戶和場景對于人工智能算法優(yōu)化、系統(tǒng)優(yōu)化服務(wù)的個性化需求，智算中心應(yīng)構(gòu)建開放合作生態(tài)，加大數(shù)據(jù)資源供給，聚焦先進的技術(shù)并適配典型場景應(yīng)用。一方面，加大數(shù)據(jù)供給，數(shù)據(jù)是人工智能應(yīng)用的基礎(chǔ)，智算中心應(yīng)打造數(shù)據(jù)共享平臺，推動計算機視覺、自然語言處理、重點行業(yè)領(lǐng)域等高質(zhì)量公開數(shù)據(jù)集的匯聚，為用戶人工智能應(yīng)用提供增值性數(shù)據(jù)服務(wù)。另一方面，開放發(fā)展生態(tài)，圍繞滿足不同用戶個性化人工智能應(yīng)用需求，智算中心應(yīng)將其計算平臺、資源平臺和算法平臺對外開放，聚集行業(yè)內(nèi)領(lǐng)先企業(yè)的力量，及時響應(yīng)用戶個性化需求，提升智算中心技術(shù)能力的同時形成新的產(chǎn)業(yè)和生產(chǎn)力。2．采用綠色清潔能源，從源頭上實現(xiàn)綠色低碳一方面，智算中心的大部分業(yè)務(wù)負(fù)載，特別是企業(yè)負(fù)載，在時間上主要集中于白天工作時段，與光伏、風(fēng)電的主要發(fā)電時段匹配性較高，無需過多儲能與調(diào)峰，使得智算中心在運用光伏、風(fēng)電等綠色電力方面具有天然優(yōu)勢。采用綠色電力供給的智算中心綜合運用線性規(guī)劃、混合整數(shù)規(guī)劃、啟發(fā)式算法等多種能耗管理方法，可以在降低碳排放的同時也節(jié)約電價成本。智算中心采用優(yōu)化調(diào)度與需求響應(yīng)控制策略，還可作為需求側(cè)可調(diào)載荷參與電力需求側(cè)響應(yīng)，不僅提升智算中心自身能源利用效率，而且提升新型電力系統(tǒng)需求側(cè)資源優(yōu)化配置效率。另一方面，智算中心所在的建筑物、園區(qū)空間大，可以充分利用，發(fā)展屋頂光伏、園區(qū)風(fēng)電等可再生能源發(fā)電設(shè)施，優(yōu)化能源綠色供給格局。應(yīng)用分布式光伏發(fā)電、分布式燃?xì)夤┠艿燃夹g(shù)可以提升智算中心園區(qū)綠色化水平。小型智算中心