2024智能算力產(chǎn)業(yè)發(fā)展白皮書

2024年7月智能算力產(chǎn)業(yè)發(fā)展白皮書專家指導(dǎo)組成員于施洋國家信息中心大數(shù)據(jù)發(fā)展部主任宋海濤上海人工智能研究院院長陳剛東方證券首席研究總監(jiān)編制組成員國家信息中心大數(shù)據(jù)發(fā)展部郭明軍規(guī)劃與應(yīng)用處處長童楠楠規(guī)劃與應(yīng)用處副處長陳東規(guī)劃與應(yīng)用處高級工程師竇悅規(guī)劃與應(yīng)用處副研究員郭巧敏規(guī)劃與應(yīng)用處助理研究員趙正規(guī)劃與應(yīng)用處助理研究員馬文博規(guī)劃與應(yīng)用處助理研究員馬驍規(guī)劃與應(yīng)用處實(shí)習(xí)研究員張琳穎規(guī)劃與應(yīng)用處實(shí)習(xí)研究員上海人工智能研究院楊浩副院長孫麗數(shù)字經(jīng)濟(jì)研究中心主任蘇合檢算力算網(wǎng)中心副主任唐晟凌數(shù)字經(jīng)濟(jì)研究中心資深咨詢師康起明數(shù)字經(jīng)濟(jì)研究中心資深咨詢師徐藝數(shù)字經(jīng)濟(jì)研究中心資深咨詢師仲惠穎數(shù)字經(jīng)濟(jì)研究中心資深咨詢師東方證券-上海人工智能研究院聯(lián)合實(shí)驗(yàn)室浦俊懿計(jì)算機(jī)行業(yè)首席分析師，東方證券-上海人工智能研究院聯(lián)合實(shí)驗(yàn)室主任宋鑫宇計(jì)算機(jī)行業(yè)分析師陳超計(jì)算機(jī)行業(yè)前瞻科技首席分析師杜云飛計(jì)算機(jī)行業(yè)高級分析師覃俊寧計(jì)算機(jī)行業(yè)分析師粵港澳大灣區(qū)大數(shù)據(jù)研究院李琳常務(wù)副院長王天瑞工程咨詢中心高級咨詢師欒雪洋工程咨詢中心高級咨詢師目錄一、AI大模型時代到來，智能計(jì)算成為關(guān)鍵引擎- 04 1.2智能算力需求將呈現(xiàn)指數(shù)級增長 08 12 二、智算產(chǎn)業(yè)蓬勃發(fā)展，產(chǎn)業(yè)生態(tài)逐步形成 232.2智算產(chǎn)業(yè)鏈正在形成 25 27 3.1.2智算芯片成為中美科技博弈的焦 28 33 33 353.2.4特斯拉推出FSD芯片以最大化其自動駕駛技術(shù)潛力 36 38 3.3.2海光DCU依托開放生態(tài)加速推廣 443.3.5瀚博半導(dǎo)體芯片產(chǎn)品聚焦AI加速和視頻 483.4.1國產(chǎn)智算芯片在性能方面與英偉達(dá)的通用GPU的差距正在縮小 48 504.1多元異構(gòu)算力融合與國產(chǎn)化是方向與趨勢 50 53 4.4智算中心低碳化發(fā)展需要算力-電力協(xié)同 —03—。 5.1中科曙光 635.2廣州數(shù)字科技集團(tuán) 66 6.1加強(qiáng)智算資源整合與布局優(yōu)化 696.2加快培育國產(chǎn)軟硬件生態(tài) 696.3促進(jìn)產(chǎn)業(yè)鏈協(xié)同與創(chuàng)新升級 等圖1算力種類→圖→圖2AI計(jì)算場景愈加豐富，對智能算力的需求增加●更準(zhǔn)確地模擬現(xiàn)實(shí)更準(zhǔn)確地模擬現(xiàn)實(shí)更精確地探索未知永無止境的探索致超越現(xiàn)實(shí)的體驗(yàn)據(jù)驅(qū)動的業(yè)務(wù)創(chuàng)新源源不斷的創(chuàng)新更高的運(yùn)營效率醫(yī)o驅(qū)動力1:通用大模型。機(jī)器學(xué)習(xí)進(jìn)入大模型時代，ChatGPT等通用大模型的訓(xùn)練迭代極大拉動對智能算力的需求，模型成功部署后的推理階段也將需要大量智能算力做支撐。從模型訓(xùn)練角度來說，據(jù)J.Sevilla等發(fā)布的文章《ComputeTrendsAcrossThreeErasofMachineLearning,"2022InternationalJointConferenceonNeuralNetworks(IJCNN)》,機(jī)器學(xué)習(xí)的訓(xùn)練計(jì)算大概可以分為三個時期：1)第一個時期為2012年之前，訓(xùn)練算力大致遵循摩爾定律，約每20個月翻一番；2)進(jìn)入深度學(xué)習(xí)時代，算力翻倍的速度加速至5-6個月；3)2015-2016年左右開啟了大模型時代，在這個時期，計(jì)算量增長變慢，翻倍時間約為10個月，但整體的訓(xùn)練計(jì)算量比深度學(xué)習(xí)時代的系統(tǒng)大2到3個數(shù)量級(OOM)。從2022年底，隨著ChatGPT言等國內(nèi)外通用大模型相繼發(fā)布。這些大模型的訓(xùn)練需要千億、甚至萬億級參數(shù)，以及上千GB的高質(zhì)量數(shù)據(jù)，大模型的訓(xùn)練迭代極大地拉動了智能算力的需求。另外，隨著模型的成熟落地和推廣，模型推理所需的智能算力也將逐漸增加，占比不斷提高。厘C4(800G,2019),厘OpenWebText(38G,2023),OthePile-StackExchangBookCorpus(5G,2015,EGutenberg(,2021),ECC-Stories-R(31G,2019),四CC-NE孟thePile-ArXiv(72G,2020),益thePile-PubMedAbstracts(25G=BigQuery(.2023),thePile-GitHub(61G, 圖3大模型參數(shù)量及其訓(xùn)練所需高質(zhì)量數(shù)據(jù)源構(gòu)成—智能算力產(chǎn)業(yè)發(fā)展白皮書albeitwithsomeuncertainty.EstiDatasource:Epoch(2023)andstandardsfortheresponsibledevelopmentanduseofartifcialintellmultiplication,ordivisionoftwodecimal→圖4用于訓(xùn)練人工智能系統(tǒng)的算力需求驅(qū)動力2:垂直行業(yè)大模型。垂直行業(yè)大模型的訓(xùn)練和基于通用大模型微調(diào)的行業(yè)應(yīng)用都需要大量的智能算力做支撐。垂直行業(yè)的大模型訓(xùn)練需要大量的智能算力，另外，基于大模型的多場景應(yīng)用也不斷拓展。AI滲透千行百業(yè)，拉動智能算力規(guī)模高速增長。2022年，各行各業(yè)的AI應(yīng)用滲透度都呈不斷加深的態(tài)勢，尤其是在金融、電信、制造以及醫(yī)療領(lǐng)域，為實(shí)現(xiàn)業(yè)務(wù)增長、保持強(qiáng)大競爭力、從而占據(jù)更大的市場份額，企業(yè)紛紛入局AI領(lǐng)域，通過新技術(shù)提升傳統(tǒng)業(yè)務(wù)用戶體驗(yàn)，人工智能應(yīng)用增長迅速。據(jù)IDC和浪潮信息聯(lián)合發(fā)布的《2022-2023中國人工智能計(jì)算力發(fā)展評估報告》,預(yù)計(jì)到2023年年底，中國將有50%的制造業(yè)供應(yīng)鏈環(huán)節(jié)采用人工智能技術(shù)實(shí)現(xiàn)業(yè)務(wù)體驗(yàn)提升。在未來，隨著AI技術(shù)對傳統(tǒng)行業(yè)賦能作用日益凸顯，更大規(guī)模的智算需求出現(xiàn)成為必然。40互聯(lián)網(wǎng)金融政府電信制造服務(wù)交通醫(yī)療能源教育 ●圖5中國人工智能行業(yè)應(yīng)用滲透度(%)及同比增長智能算力產(chǎn)業(yè)發(fā)展白皮書需求也隨之快速增長。據(jù)IDC最新發(fā)布GlobalDataSphere2023數(shù)據(jù)，2023年我國數(shù)據(jù)量規(guī)模預(yù)計(jì)為30.0ZB,到2027年數(shù)據(jù)量規(guī)模則將達(dá)到76.6ZB,2023-2027年CAGR達(dá)到26.4%。英特爾的研究也表明，AI模型的計(jì)算量每年將會增長10倍，這一趨勢隨著未來人工智能與傳統(tǒng)產(chǎn)業(yè)的深度融合會進(jìn)一步加快。自2012年開始，驅(qū)動AI的底層機(jī)器學(xué)習(xí)技術(shù)計(jì)算量呈指數(shù)級增長，遠(yuǎn)超摩爾定律帶來的算力提升速度，對以CPU為主的通用算力提出嚴(yán)峻考驗(yàn)。目前CPU的物理工藝、核心數(shù)已接近極限，但數(shù)據(jù)量的增長卻不會停止。面對激增的數(shù)據(jù)量，算力不足的問題日益突出。因此，在AI時代下，僅由CPU作為算力的提供者已經(jīng)不能滿足需求，向包括GPU、FPGA、ASIC等加速芯片異構(gòu)而成的智能算力演化成為趨勢，并最終將會成為數(shù)字經(jīng)濟(jì)時代下算力的主角。020252026 圖6中國數(shù)據(jù)量規(guī)模預(yù)測(2022-2027年)當(dāng)前，我國智能算力占比已經(jīng)超過通用算力，成為整體算力增長的主要驅(qū)動力。我國智能算力占總體算力的比重增長迅速，據(jù)中國信通院《中國算力發(fā)展指數(shù)白皮書(2023)》數(shù)據(jù)，2017-2022年我國算力內(nèi)部結(jié)構(gòu)中智能算力占比持續(xù)增加，2022年我國算力結(jié)構(gòu)為通用算力：智能算力：超級算力=40%:59%:1%,智能算力占比已較大幅度超過通用算力占比，逐步成為總體算力增長的主要驅(qū)動力。據(jù)中國信通院預(yù)計(jì)，未來五年，全球算力規(guī)模增速超過50%。 ·圖72022年我國算力結(jié)構(gòu)智能算力產(chǎn)業(yè)發(fā)展白皮書1.2智能算力需求將呈現(xiàn)指數(shù)級增長 2020年中國智能算力規(guī)模為75.0EFLOPS,之后則保持快速增長態(tài)勢，預(yù)計(jì)2023年智能算力規(guī)模將為智能算力產(chǎn)業(yè)發(fā)展白皮書■2020-2027年中國智能算力規(guī)模及預(yù)測■2020-2027年中國智能算力規(guī)模及預(yù)測(EFLOPS,基于FP16計(jì)算)——g%40020020202021202220232024 ■■2020-2027年中國通用算力規(guī)模及預(yù)測(EFLOPS,0202020212022→圖102020-2027年中國通用算力規(guī)模及預(yù)測(EFLOPS,基于FP16計(jì)算)202520目標(biāo)規(guī)劃到2025年，算力規(guī)模超過300EFLOPS,智能算力占比達(dá)到35%,達(dá)到105EFLOPS?！鑫覈懔χ行囊?guī)劃總算力規(guī)模(EFLOPS)■我國算力中心規(guī)劃智能算力規(guī)模(EFLOPS)02023E2024E數(shù)據(jù)來源：國務(wù)院官網(wǎng)智能算力產(chǎn)業(yè)發(fā)展白皮書人均算力處于中等水平。據(jù)IMD研究發(fā)現(xiàn)，人均算力的水平與一國的智能化水平高度相關(guān)，我國積極發(fā)展智02020202120222023圖102020-2027年中國通用算力規(guī)模及預(yù)測(EFLOPS,基于FP16計(jì)算)基于FP64計(jì)算)—202520 圖11我國規(guī)劃智算中心算力需求規(guī)模人均算力處于中等水平。據(jù)IMD研究發(fā)現(xiàn)，人均算力的水平與一國的智能化水平高度相關(guān)，我國積極發(fā)展智能算力、打造智算中心是打造國際競爭力、發(fā)展綜合國力的關(guān)鍵。智能算力產(chǎn)業(yè)發(fā)展白皮書 → →圖12世界主要國家人均算力水平高算力國家中算力國家低算力國家2.522人均1;000人均460衝印度印度尼西亞壹南非岳俄羅斯哥倫比亞泰國墨西哥波蘭沙特阿拉伯捷克西班牙意大利氣呆韓國加拿大法國阿聯(lián)酋新加坡美國智算中心是“東數(shù)西算”的關(guān)鍵，在未來將會為社會提供主要智算資源。據(jù)國家信息中心，未來80%的場景都將基于人工智能，所占據(jù)的算力資源將主要由智算中心提供。AI大模型已經(jīng)成為國家、企業(yè)和科研院所積極發(fā)展、重點(diǎn)投入的大方向，而普惠大眾的智能算力就是AI發(fā)展的基礎(chǔ)資源，將要像水、電一樣驅(qū)動科技發(fā)展、社會進(jìn)步，智算中心則是實(shí)現(xiàn)這些科技創(chuàng)新的源泉。人工智能一直是中美兩國科技競爭的重要領(lǐng)域，而中美在AI的三大技術(shù)數(shù)據(jù)、算法、算力中各有優(yōu)勢。中國的數(shù)據(jù)優(yōu)勢較為明顯，但是算法和智能算力卻明顯落后于美國。發(fā)展智能算力對我國發(fā)展AI與數(shù)據(jù)要素，推動社會全方位發(fā)展有重大戰(zhàn)略意義。 ①2020年4月20日，國家發(fā)展改革委首次明確新型基礎(chǔ)設(shè)施范圍，將智能計(jì)算中心作為算力基礎(chǔ)設(shè)施的重要代表納入信息基礎(chǔ)設(shè)施范疇。2021年5月，國家發(fā)改委等四部門聯(lián)合發(fā)布了《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐實(shí)施方案》,提出布局全國算力網(wǎng)絡(luò)樞紐節(jié)點(diǎn)。②2022年2月17日，國家發(fā)改委、中央網(wǎng)信辦、工業(yè)和信息化部、國家能源局聯(lián)合規(guī)劃了10個國家數(shù)據(jù)中心集群?！皷|數(shù)西算”工程正式全面啟動。而智算中心承載的以模型訓(xùn)練為代表③科技部出臺政策推動公共算力平臺建設(shè)。依照《新一代人工智能發(fā)展規(guī)劃》能驅(qū)動的科學(xué)研究”(AIforScience)專項(xiàng)部署工作，同時發(fā)布《科技部辦公廳關(guān)于開展國家新一代人工智能公共算力開放創(chuàng)新平臺申報工作的通知》,提出要推進(jìn)Al領(lǐng)域的模型與算法創(chuàng)新工作，加快推動國家新一代人工智能公共算力開放創(chuàng)新平臺建設(shè)，支持高性能計(jì)算中心與智算中心異構(gòu)融合發(fā)展。布局圖和林格爾內(nèi)蒙古長三角長韶關(guān)集樣蕪制焦群資料來源：國際科技創(chuàng)新中心智能算力產(chǎn)業(yè)發(fā)展白皮書發(fā)布時間頒布部門政策主要內(nèi)容2023年12月國家發(fā)改委等五部門《深入實(shí)施“東數(shù)西算”統(tǒng)籌通用算力、智能算力、超級算力協(xié)同計(jì)算。到2025年底，綜合算力基礎(chǔ)區(qū)各類新增算力占全國新增算力的延城市算力網(wǎng)、5ms時延區(qū)域算力網(wǎng)、20ms時延跨國家樞紐節(jié)點(diǎn)算力網(wǎng)在2023年10月工信部等六部門到2025年，計(jì)算力方面，算力規(guī)模超過300EFLOPS,智能算力占比達(dá)到2023年2月國務(wù)院動，引導(dǎo)通用數(shù)據(jù)中心、超算中心、智能計(jì)算中心、邊緣數(shù)據(jù)中心等合2022年2月國家發(fā)改委等部門啟動建設(shè)全國一體化算力網(wǎng)絡(luò)國家樞紐節(jié)點(diǎn)的同意在京津冀地區(qū)啟動建設(shè)全國一密度、高能效、低碳數(shù)據(jù)中心集群。積極承接北京等地實(shí)時性算力需求，引導(dǎo)溫冷業(yè)務(wù)向西部遷移。2022年1月國務(wù)院《“十四五”數(shù)字經(jīng)濟(jì)發(fā)2021年12月中央網(wǎng)絡(luò)安全和《“十四五”國家信息化港澳大灣區(qū)、成渝等全國一體化算力網(wǎng)絡(luò)國家樞紐節(jié)點(diǎn)。統(tǒng)籌建設(shè)面向區(qū)塊鏈和人工智能等的算力和算法中心，構(gòu)建具備周邊環(huán)境感應(yīng)能力和反饋回應(yīng)能力的邊緣計(jì)算節(jié)點(diǎn)，提供低時延、高可靠、強(qiáng)安全邊緣計(jì)算服務(wù)。2021年11月工信部系，推進(jìn)國家工業(yè)互聯(lián)網(wǎng)大數(shù)據(jù)中心智能算力產(chǎn)業(yè)發(fā)展白皮書表1智能算力相關(guān)國家/地方政策2021年7月國家發(fā)改委等五部門用3年時間，基本形成布局合理、技術(shù)先進(jìn)、綠色低碳、算力規(guī)模與數(shù)字經(jīng)濟(jì)增長相適應(yīng)的新型數(shù)據(jù)中心發(fā)展格局。技術(shù)能力明顯提升，產(chǎn)業(yè)鏈不斷完善，國際競爭力穩(wěn)步增強(qiáng)。2021年5月國家發(fā)改委等四部門《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞2021年3月《中華人民共和國國民經(jīng)濟(jì)和社會發(fā)展第十四系，強(qiáng)化算力統(tǒng)籌智能調(diào)度，建設(shè)若干國家樞紐節(jié)點(diǎn)和大數(shù)據(jù)中心集群，2021年1月工信部聯(lián)網(wǎng)大數(shù)據(jù)中心體系，建設(shè)20個區(qū)域2023年7月《河南省重大新型基礎(chǔ)設(shè)施建設(shè)提速行動方案(2023—2025年)》加快建設(shè)鄭州、洛陽等全棧國產(chǎn)化智能計(jì)算中心，構(gòu)建中原智能算力網(wǎng)。力，建設(shè)智算中心和鄭州城市算力網(wǎng)2023年6月力產(chǎn)業(yè)生態(tài)行動方案》目標(biāo)到2025年，臨港新片區(qū)將形成以智算算力為主、基礎(chǔ)算力和超算算力協(xié)同的多元算力供給體系，總算力超過5EFLOPS(FP32),Al算力占比達(dá)到80%,算力產(chǎn)業(yè)總體規(guī)模突破100億元。2023年5月深圳能高質(zhì)量發(fā)展高水平應(yīng)堅(jiān)持供給智能算力一大要素，強(qiáng)化智能算力集群供給，打造多層次智能算智能算力產(chǎn)業(yè)發(fā)展白皮書發(fā)布時間頒布部門政策主要內(nèi)容2023年5月北京與頭部公有云廠商等市場主體合作，實(shí)施“算力伙伴計(jì)劃”,并加快推動北京人工智能公共算力平臺、北京數(shù)字運(yùn)行各類人工智能計(jì)算任務(wù)。2023年5月北京創(chuàng)新策源地實(shí)施方案(片等基本實(shí)現(xiàn)自主可控。國產(chǎn)硬件比例顯著提高，全面兼容國產(chǎn)深度學(xué)習(xí)動基礎(chǔ)軟硬件實(shí)現(xiàn)高質(zhì)量自主可控。2023年1月四川成都市圍繞超算智算加措施建立以“算力券”為核心的算力中心智算中心算力資源。已建成的、在建中的和規(guī)劃的中心數(shù)量已逾40家。一般智算中心的的起步算力目標(biāo)是100P,整體布智能算力產(chǎn)業(yè)發(fā)展白皮書萬達(dá)開先進(jìn)計(jì)算中心(曙光站)長沙人工智能創(chuàng)新中心硅立方 →圖15多地積極推動智算中心建設(shè)②根據(jù)ICPA智算聯(lián)盟統(tǒng)計(jì)，截至2023年3月，全國已投運(yùn)的人工智能計(jì)算中心有近20個，在建設(shè)的人工智能計(jì)算中心超20個。2023至2024年，北京、哈爾濱、成都、廣州、杭州、長春等多地持續(xù)發(fā)布智算中心相關(guān)招標(biāo)公告。金額大多在億元以上，招標(biāo)單位具有國資背景。全國各地智算中心建設(shè)熱度持續(xù)。各地方也結(jié)合本地產(chǎn)業(yè)特色，加快人工智能應(yīng)用創(chuàng)新，聚合人工智能產(chǎn)業(yè)生態(tài)，例如武漢人工智能計(jì)算中心陸續(xù)孵化出紫東.太初、武漢.LuoJia等大模型，加速推動Al在多模態(tài)交互、遙感等領(lǐng)域的落地應(yīng)用。智能算力產(chǎn)業(yè)發(fā)展白皮書中科曙光山東省青島市嶗山區(qū)混合精度建設(shè)中混合精度已建成萬達(dá)開先進(jìn)計(jì)算中心四川省達(dá)州市混合精度已建成宜昌先進(jìn)計(jì)算中心一期混合精度已建成蕪湖一體化智算中心安徽省蕪湖市混合精度建設(shè)中合肥先進(jìn)計(jì)算中心“巢湖明月”安徽省合肥市混合精度已建成北京昇騰人工智能計(jì)算中心北京市門頭溝區(qū)(短期500P,遠(yuǎn)期1000P)已建成中原人工智能計(jì)算中心已建成未來人工智能計(jì)算中心陜西省西安市雁塔區(qū)已建成成都人工智能計(jì)算中心四川省成都市(最終1000P)已建成武漢人工智能計(jì)算中心湖北省武漢市東湖區(qū)已建成重慶人工智能計(jì)算中心已建成長沙人工智能計(jì)算中心湖南省長沙市高新區(qū)(25年達(dá)1000P)已建成廣州省珠海市橫琴區(qū)1.14Eops(完全建成4Eops)已建成(后期100P)已建成已建成濟(jì)南人工智能計(jì)算中心山東省濟(jì)南市/已建成山東省青島市已建成天津人工智能計(jì)算中心天津市河北區(qū)已建成河南省廊坊經(jīng)濟(jì)開發(fā)區(qū)已建成大連人工智能計(jì)算中心遼寧省大連市建設(shè)中沈陽人工智能計(jì)算中心遼寧省沈陽市(后期300P)已建成中國-東盟人工智能計(jì)算中心訓(xùn)練系統(tǒng)和1.4P推理系統(tǒng)已建成廣東省深圳市龍崗區(qū)已建成智能算力產(chǎn)業(yè)發(fā)展白皮書已建成百度陽泉智算中心陜西省陽泉市已建成鹽城智算中心鹽城市鹽南高新區(qū)已建成百度沈陽元宇宙智算中心沈陽市皇姑區(qū)總體500P建設(shè)中(華為控股子公司)合肥人工智能計(jì)算中心已建成商湯人工智能計(jì)算中心上海自貿(mào)區(qū)臨港新片區(qū)同時接入已建成上海市松江區(qū)智慧產(chǎn)業(yè)長三角(合肥)智算中心合肥高新區(qū)/已建成/已建成浪潮、寒武紀(jì)南京智能計(jì)算中心已建成浪潮信息安徽省宿州市建設(shè)中建設(shè)中克拉瑪依智算中心1萬個已建成昆山智算中心智能算力不低于500POPS建設(shè)中阿里云阿里云張北超級智算中心已建成阿里云華東智算中心上海市金山區(qū)建設(shè)中阿里云烏蘭察布超級智算中心內(nèi)蒙古烏蘭察布市中科曙光、長沙5A級智算中心已建成寧數(shù)科創(chuàng)寧波人工智能超算中心寧波市高新區(qū)信息集團(tuán)福建省福州新區(qū)—期105P,總體400P已建成浪潮云、中國電信武漢分公司武昌智算中心武漢市武昌區(qū)建設(shè)中智能算力產(chǎn)業(yè)發(fā)展白皮書/哈爾濱人工智能先進(jìn)計(jì)算中心哈爾濱已建成/北京數(shù)字經(jīng)濟(jì)算力中心北京建成后1000P以上建設(shè)中/鄭州人工智能計(jì)算中心二期10000P,建設(shè)中/石景山智算中心北京北重科技文化產(chǎn)業(yè)園建設(shè)中/北京七星園數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)智算中心北京市豐臺區(qū)建成后2300P建設(shè)中/華南數(shù)谷智算中心韶關(guān)市武江區(qū)建設(shè)中/博大數(shù)據(jù)深圳前海智算中心深圳已建成/中國移動智算中心(青島)青島Flops,參數(shù)網(wǎng)建設(shè)中③寒武紀(jì)不斷深入?yún)⑴c智算中心建設(shè)，接連中標(biāo)南京智能計(jì)算中心一期與二期項(xiàng)目，總預(yù)算金額超智能算力產(chǎn)業(yè)發(fā)展白皮書綠色

適用廣泛靈活A(yù)客戶選揮多樣其產(chǎn)業(yè)生態(tài)繁榮普惠A唯理回冷板浸沒完整技術(shù)方案少能耗降任最高達(dá)30%開放智能算力產(chǎn)業(yè)發(fā)展白皮書智能算力產(chǎn)業(yè)發(fā)展白皮書 智能算力產(chǎn)業(yè)發(fā)展白皮書2.1智算中心建設(shè)迅速落地，多方主體積極參與建設(shè)主體(主導(dǎo)建設(shè)的一方)建設(shè)目標(biāo)代表案例萬達(dá)開先進(jìn)計(jì)算中心合肥先進(jìn)計(jì)算中心天津市人工智能計(jì)算中心北京人工智能公共算力平臺服務(wù)科研項(xiàng)目云服務(wù)商提供數(shù)據(jù)存儲、通用阿里云烏蘭察布智算中心的商用服務(wù)，部分智算中心中國電信京津冀大數(shù)據(jù)智能算力中心吉利星睿智算中心 智能算力產(chǎn)業(yè)發(fā)展白皮書重點(diǎn)提到了智能制造和數(shù)字化工廠升級，這也使得作為支撐智能制造的核心技術(shù)的智能算力受到廣泛關(guān)當(dāng)前我國注重構(gòu)建人工智能公共算力開放創(chuàng)新平臺，為科技創(chuàng)新和產(chǎn)業(yè)智能化轉(zhuǎn)型提供人工智能普智能算力產(chǎn)業(yè)發(fā)展白皮書2.2智算產(chǎn)業(yè)鏈正在形成 智能算力產(chǎn)業(yè)發(fā)展白皮書智能算力產(chǎn)業(yè)鏈的下游環(huán)節(jié)主要涉及智能算力的應(yīng)用，這是將上游的硬件能力和中游的服務(wù)轉(zhuǎn)化為中游：智算服務(wù)云計(jì)算中游：智算服務(wù)云計(jì)算 智能算力產(chǎn)業(yè)發(fā)展白皮書絡(luò)訓(xùn)練和推理成為可能。智算芯片通過優(yōu)化硬件設(shè)計(jì)和架構(gòu)，可以大大提高Al算法的運(yùn)行速度和處理能■CPU、GPU成本■內(nèi)存、存儲器成本■其他 圖21服務(wù)器主要成本構(gòu)成創(chuàng)新提供了強(qiáng)大的驅(qū)動力。在不斷挑戰(zhàn)計(jì)算能力極限的同時，智算芯片也催生了新的應(yīng)用場景和商業(yè)模202220232024202520262027202820292030203智算芯片成為大國科技博弈的焦點(diǎn)之一。智算芯片作為很多關(guān)鍵基礎(chǔ)設(shè)施行業(yè)領(lǐng)域中的核心硬件組智算芯片的發(fā)展也關(guān)系到國際科技規(guī)則的制定和話語權(quán)的爭奪。在這一領(lǐng)域的領(lǐng)先地位意味著能夠主導(dǎo)美國陸續(xù)推出限制性政策限制中國智算芯片的發(fā)展。智算芯片的經(jīng)濟(jì)和戰(zhàn)略價值使其已經(jīng)成為了中智能算力產(chǎn)業(yè)發(fā)展白皮書時間管制主要內(nèi)容2018年4月美國商務(wù)部發(fā)布公告，在未來7年內(nèi)禁止中興通訊向美國企業(yè)購買敏感產(chǎn)品。2019年5月，華為及68家附屬關(guān)聯(lián)公司被美國列入“實(shí)體名單”;2020年5月，BIS限制華為購買使用美導(dǎo)體；2020年8月，BIS在實(shí)體清單中新增38家華為附屬公司，并修術(shù)生產(chǎn)的半導(dǎo)體。2020年12月中芯國際被納入實(shí)體名單，對用于≤10nm技術(shù)節(jié)點(diǎn)的產(chǎn)品或技術(shù)，美國商務(wù)部采取“推定拒絕”的審批政策進(jìn)行審核。2022年7月供527億美元用于半導(dǎo)體制造激勵計(jì)劃、研發(fā)投資、稅收抵免，其中美國芯片基金共500億美元，390億美元用于鼓勵半導(dǎo)體制造企業(yè)，110億美元補(bǔ)貼芯片研發(fā)；(2)法案授權(quán)在未來十年撥款2000億美元增加關(guān)鍵領(lǐng)域科技研發(fā)的投資；(3)法案要求獲得補(bǔ)貼的半導(dǎo)體企業(yè)未來10年內(nèi)不得在中國大陸新建或擴(kuò)建先進(jìn)制程導(dǎo)體工廠。2022年7月美國半導(dǎo)體廠商收到美國商務(wù)部規(guī)定，要求不得向中國供應(yīng)用于制造≤14nm芯片的設(shè)備。2022年8月BIS公告美國準(zhǔn)備對EDA等四項(xiàng)技術(shù)實(shí)行出口管2022年8月美國通知英偉達(dá)向中國和俄羅斯出口A1002022年10月BIS對中國實(shí)施超級計(jì)算機(jī)計(jì)算芯片和包含此類芯片品的禁令；對受到許可證要求限制的外國生產(chǎn)項(xiàng)目的范圍擴(kuò)大到實(shí)體名單上中國境內(nèi)的28家現(xiàn)有實(shí)體；針對≤18nm的DRAM、≥128層的NAND存儲芯片增加了新的許可證要求；限制美國人員在沒有許可證的情況下支持中國某些半導(dǎo)體制造設(shè)施的研發(fā)和集成31家實(shí)體列入未經(jīng)核實(shí)名單(UVL)。2023年3月美國商務(wù)部將浪潮集團(tuán)、龍芯中科等公司列入實(shí)體名單。2023年10月美國商務(wù)部將壁仞科技、摩爾線程等公司列入實(shí)體名單。智能算力產(chǎn)業(yè)發(fā)展白皮書英文名稱BeijingBirenTechnologyDevelopmentCo.北京壁仞科技開發(fā)有限公司GuangzhouBirenInte廣州壁仞集成電路有限公司HangzhouBirenTechnologyDevelopmentCo.,杭州壁仞科技開發(fā)有限公司LightCloud(Hangzhou光線云(杭州)科技有限公司摩爾線程智能科技(北京)有限責(zé)任公司摩爾線程智能科技(成都)有限責(zé)任公司摩爾線程智能科技(上海)有限責(zé)任公司ShanghaiBirenInformat上海壁仞信息科技有限公司上海壁仞集成電路有限公司上海壁仞科技股份有限公司超燃半導(dǎo)體(南京)有限公司蘇州新巖控股有限公司(現(xiàn)為上海新之礫企業(yè)發(fā)展有限公司)珠海壁仞集成電路有限公司智能算力產(chǎn)業(yè)發(fā)展白皮書■智能算力(基于■智能算力(基于FP16計(jì)算)智能算力產(chǎn)業(yè)發(fā)展白皮書0—→圖24中國加速計(jì)算服務(wù)器市場預(yù)測，2023-2027·— →圖25中國人工智能芯片市場份額，2023H1——寒武紀(jì)，1%_燧原科技，1%寒武紀(jì)，1%_燧原科技，1%其他，1%■英偉達(dá)■華為■百度昆侖■寒武紀(jì)·燧原科技■其他 圖262022年中國AI加速卡出貨量占比·—英偉達(dá)在教育和研究支持方面，英偉達(dá)通過提供教育資源、培訓(xùn)課程和研究資助來支持學(xué)術(shù)界和研究社區(qū)。例如，posing.simulating.andcollabo 智能算力產(chǎn)業(yè)發(fā)展白皮書特斯拉自2019年4月發(fā)布的Hardware3.0開始采用其自研芯片F(xiàn)SD,該芯片采用三星的14納米工智能算力產(chǎn)業(yè)發(fā)展白皮書3.2.5谷歌TPU持續(xù)迭代性能升級谷歌在AI領(lǐng)域的布局主要體現(xiàn)在其TensorFlow框架和TPU(張量處理單元)上。TPU是谷歌定制開發(fā)的應(yīng)用專用集成電路(ASIC),用于加速機(jī)器學(xué)習(xí)工作負(fù)載，已經(jīng)在多個谷歌的產(chǎn)品和服務(wù)中得到應(yīng)用，如搜索引擎、語音識別和圖像識別等。谷歌TPU已經(jīng)過數(shù)次迭代，2023年8月發(fā)布了第五代TPUv5e,專為提升大中型模型的訓(xùn)練、推理性能以及成本效益所設(shè)計(jì)，與TPUv4相比大型語言模型提供的訓(xùn)練性能提高了2倍、推理性能提高了2.5倍?！鷪D33TPUv5e相對TPUv4的訓(xùn)練性能提升—谷歌通過其云平臺GoogleCloud提供TPU加速的機(jī)器學(xué)習(xí)服務(wù)。客戶可以利用TPUs的強(qiáng)大計(jì)算能力，將其作為GoogleCloud上的可伸縮計(jì)算資源使用，而無需直接投資于硬件。CloudTPU能夠針對各PyTorch、JAX和TensorFlow)上的工作負(fù)載?？蛻暨€可以在全代管式AI平臺VertexAI中利用CloudTPU。谷歌不僅在硬件上實(shí)現(xiàn)了創(chuàng)新，還構(gòu)建了一個圍繞TPUs的綜合性AI生態(tài)系統(tǒng)，包括云服務(wù)、軟件工具和廣泛的應(yīng)用領(lǐng)域。智能算力產(chǎn)業(yè)發(fā)展白皮書3.3國內(nèi)：華為、海光信息等科技大廠積極布局，寒武紀(jì)、天數(shù)智芯等創(chuàng)業(yè)型企業(yè)紛紛興起Spore以及一系列應(yīng)用使能工具，包括行業(yè)SDK和應(yīng)MindXDL異構(gòu)計(jì)算架構(gòu)計(jì)算資源計(jì)算資源昇騰AI處理器昇騰AI應(yīng)用深度學(xué)習(xí)框架昇騰計(jì)算語言第三方庫昇騰計(jì)算服務(wù)層昇騰算子庫昇騰調(diào)優(yōu)AdaptorAI異構(gòu)計(jì)算架構(gòu)昇騰張量編譯器昇騰計(jì)算編譯層昇騰計(jì)算執(zhí)行器昇騰計(jì)算執(zhí)行層昇騰計(jì)算基礎(chǔ)層昇騰基礎(chǔ)層華為自主構(gòu)建的全場景深度學(xué)習(xí)框架Mindspore,旨在實(shí)現(xiàn)易開發(fā)、高效執(zhí)行、全場景覆蓋三大目電磁仿真/分子模擬/量子計(jì)算IR中間表達(dá)層端-邊-云全場景運(yùn)行時系統(tǒng)CANN(NPU)CUDA(GPU)Eigen(CPU)類型推導(dǎo)自動微分自動并行二階優(yōu)化內(nèi)存優(yōu)化圖算融合流水線執(zhí)行強(qiáng)化學(xué)習(xí)/GNN/深度概率編程…數(shù)據(jù)加載數(shù)據(jù)格式異構(gòu)加速數(shù)據(jù)增強(qiáng)Al+數(shù)值計(jì)算表達(dá)硬件相關(guān)優(yōu)化算子自動生成單機(jī)分布式表達(dá)動靜表達(dá)統(tǒng)一函數(shù)/0OP編程范式融合量化/剪枝/蒸餾可信AI圖36昇思MindSpore整體架構(gòu)AI開發(fā)平臺ModelArts通過端到端模型生產(chǎn)線，為開發(fā)者提供高效開發(fā)、調(diào)試和調(diào)優(yōu)大模型應(yīng)用和推理加速，支持分布式高效訓(xùn)練和推理，支持大規(guī)模異構(gòu)集群及調(diào)度管理，并提供全流程云化昇騰遷移大模型開發(fā)工具鏈大模型開發(fā)工具鏈智能運(yùn)營運(yùn)維場景化開發(fā)工具鏈資源管理框架異構(gòu)算力開發(fā)工具鏈開發(fā)環(huán)境平臺在產(chǎn)業(yè)生態(tài)方面，昇騰計(jì)算圍繞昇騰計(jì)算軟硬件體系，匯聚了包括原始設(shè)備制造商OEM、原始設(shè)計(jì)制造商ODM、獨(dú)立硬件開發(fā)商IHV、咨詢與解決方案集成商C&SI、獨(dú)立軟件開發(fā)商ISV、云服務(wù)提供商XaaS在內(nèi)的產(chǎn)業(yè)合作伙伴，以及圍繞昇騰相關(guān)產(chǎn)品對外提供服務(wù)交付的服務(wù)類伙伴、提供培訓(xùn)服務(wù)的人才聯(lián)盟伙伴、提供投融資和運(yùn)營服務(wù)的投融資運(yùn)營伙伴，以及立足人才根本的高校和開發(fā)者，共同推動AI在各行各業(yè)的發(fā)展和繁榮。行業(yè)應(yīng)用行業(yè)應(yīng)用合作伙伴昇騰計(jì)算軟硬件體系MndSporeTensorFowPyTorchl…制造→圖38昇騰計(jì)算產(chǎn)業(yè)生態(tài)·—異騰計(jì)算產(chǎn)業(yè)生態(tài)智能算力產(chǎn)業(yè)發(fā)展白皮書3.3.2海光DCU依托開放生態(tài)加速推廣海光信息成立于2014年，主要從事高端處理器、加速器等計(jì)算芯片產(chǎn)品和系統(tǒng)的研發(fā)，是我國先進(jìn)二號兩代產(chǎn)品已實(shí)現(xiàn)了在人工智能、大數(shù)據(jù)處理、商業(yè)計(jì)算等領(lǐng)域的規(guī)?；瘧?yīng)用，可以用于大模型的訓(xùn)主流應(yīng)用軟件。依托開放式生態(tài)，海光信息構(gòu)建了擁有完善的層次化軟件棧的統(tǒng)一底層硬件驅(qū)動平臺，數(shù)學(xué)庫智能算力產(chǎn)業(yè)發(fā)展白皮書開發(fā)效率和部署速度。CambriconNeuware支持各主流人工智能編程框架，包括TensorFlow、產(chǎn)品線產(chǎn)品類型寒武紀(jì)主要產(chǎn)品推出時間云端產(chǎn)品線云端智能芯片及加速卡思元100(MLU100)芯片及云端智能加速卡2018年思元270(MLU270)芯片及云端智能加速卡2019年思元290(MLU290)芯片及云端智能加速卡2020年思元370(MLU370)芯片及云端智能加速卡2021年、2022年訓(xùn)練整機(jī)玄思1000智能加速器2020年玄思1001智能加速器2022年邊緣產(chǎn)品線思元220(MLU220)芯片及邊緣智能加速卡2019年IP授權(quán)及軟件終端智能處理器IP寒武紀(jì)1A處理器2016年寒武紀(jì)1H處理器2017年寒武紀(jì)1M處理器2018年基礎(chǔ)系統(tǒng)軟件平臺公司所有芯片與處理器產(chǎn)品)持續(xù)研發(fā)和配新的芯片智能算力產(chǎn)業(yè)發(fā)展白皮書2021年3月發(fā)布首款通用GPU產(chǎn)品天垓100,實(shí)現(xiàn)了國內(nèi)通用GPU從0到1的突破，2022年12月發(fā)布達(dá)到國際主流產(chǎn)品水平且穩(wěn)定性更高，成為率先支持大模智能算力產(chǎn)業(yè)發(fā)展白皮書0視頻處理自然語言處理數(shù)字人DemoApp.Vastpipe云游戲云桌面AICoreProgramableVRuntimeAIAccelerationCompller/RuntimeDirectx,OpenGL/ES、OpenCL,VulkanLinuxAndroidWindowsVirtual計(jì)算機(jī)視覺智能算力產(chǎn)業(yè)發(fā)展白皮書智能視頻分析、云轉(zhuǎn)碼驅(qū)硬驅(qū)硬動件實(shí)現(xiàn)更流暢、高質(zhì)量的直播體驗(yàn)；針對視頻會議場景方面，通過優(yōu)越的芯片性能構(gòu)建一套基于SV100芯片的需求；此外，在車路協(xié)同系統(tǒng)領(lǐng)域，基于瀚博SV100芯片搭建的2D視頻分析pipeline和3D點(diǎn)云分析pipeline,可靠的支持。智能算力產(chǎn)業(yè)發(fā)展白皮書車路協(xié)同云平臺車路協(xié)同云平臺邊緣低速自動駕駛車輛智能算力產(chǎn)業(yè)發(fā)展白皮書智算芯片的不斷發(fā)展，未來國產(chǎn)智算芯片有望在更多領(lǐng)域和場景公司型號時間一號昇騰寒武紀(jì)壁立仞架構(gòu)壁立仞架構(gòu)預(yù)計(jì)2023天數(shù)智芯智能算力產(chǎn)業(yè)發(fā)展白皮書智能算力產(chǎn)業(yè)發(fā)展白皮書4.1多元異構(gòu)算力融合與國產(chǎn)化是方向與趨勢智能算力產(chǎn)業(yè)發(fā)展白皮書開放共享開放共享監(jiān)控告警智能運(yùn)營全棧訓(xùn)練調(diào)度平臺驅(qū)動資源管理NPU擴(kuò)展組件層開發(fā)工具棧Pylordy/TF/Ja/Paddle/itor/Onef鏡像倉庫A編2022年，美國商務(wù)部宣布實(shí)施AI芯片出口管制，英偉達(dá)推出閹割版芯片H800與A800.2022年10月，數(shù)字處理單元原始計(jì)算單元”每次操作的比特長度乘以TOPS計(jì)算出的的算力之和大于或等于智能算力產(chǎn)業(yè)發(fā)展白皮書 智能算力產(chǎn)業(yè)發(fā)展白皮書·基于主流通用并行計(jì)算架構(gòu)，可搭配海光 2022年2月，作為算網(wǎng)建設(shè)開始的“東數(shù)西算”正式啟動。2022年2月17日，國家發(fā)改委、中央網(wǎng)信和林格爾集群和林格爾集群中衛(wèi)集群蕪湖集群長三角生態(tài)綠色一體化發(fā)展示范區(qū)集群貴安集群京津冀張家口集群韶關(guān)集群 圖472022年2月，東數(shù)西算正式啟動，8地建設(shè)國家算力樞紐節(jié)點(diǎn)，規(guī)劃10個國家數(shù)據(jù)中心集群資料來源：華為智能算力產(chǎn)業(yè)發(fā)展白皮書此次發(fā)布的《實(shí)施意見》強(qiáng)調(diào)了國家樞紐節(jié)點(diǎn)外原則上不得新建各類大型或超大型數(shù)據(jù)中心，進(jìn)一提出了到2025年底，國家樞紐節(jié)點(diǎn)地區(qū)各類新增算力占全國新增算力的60%以上，國家樞紐節(jié)點(diǎn)算力資源使用率顯著超過全國平均水平的建設(shè)目標(biāo)。同時，國家持續(xù)推動統(tǒng)籌東中西部算力的一體化協(xié)同，提升國家算力網(wǎng)絡(luò)的傳輸效能，著眼于推進(jìn)樞紐節(jié)點(diǎn)內(nèi)、節(jié)點(diǎn)間以及樞紐節(jié)點(diǎn)與非樞紐節(jié)點(diǎn)之間高度確定性與高通量網(wǎng)絡(luò)的構(gòu)建?！秾?shí)施意見》中確20ms時延跨國家樞紐節(jié)點(diǎn)算力網(wǎng)在示范區(qū)域內(nèi)初步實(shí)現(xiàn)等目標(biāo)。確定性網(wǎng)絡(luò)在多地多領(lǐng)域展開實(shí)踐性探索，各地正針對全新的網(wǎng)絡(luò)架構(gòu)對未來網(wǎng)絡(luò)實(shí)驗(yàn)設(shè)施(CENI)進(jìn)行成果驗(yàn)證。如山東已建成并運(yùn)行覆蓋16個地市、5600公里的全球首張確定性網(wǎng)絡(luò)，其核心節(jié)點(diǎn)時延抖動控制在20微秒以內(nèi)，主要性能指標(biāo)達(dá)智能算力產(chǎn)業(yè)發(fā)展白皮書4.3通過算力調(diào)度，智算由單個節(jié)點(diǎn)向多點(diǎn)融合與協(xié)同演變智能算力產(chǎn)業(yè)發(fā)展白皮書 嚮嚮東數(shù)西算一體化算力服務(wù)平臺 智能算力產(chǎn)業(yè)發(fā)展白皮書華東三區(qū)【烏鎮(zhèn)】西北一區(qū)【西安】內(nèi)存東北一區(qū)【哈爾演】理華東-區(qū)【昆山】存華北一區(qū)【雄衡】內(nèi)存智能算力產(chǎn)業(yè)發(fā)展白皮書鏈路利用率30%鏈路利用率30%云池利用率35%鏈路利用率30%云池利用率35%鏈路利用率30% 圖53廣域網(wǎng)絡(luò)的云網(wǎng)一體化調(diào)度云池利用率30%此外，中國信通院聯(lián)合中國電信共同發(fā)布了首個實(shí)現(xiàn)多元異構(gòu)算力調(diào)度全國性平臺“全國