計算機行業(yè)深度報告:國產(chǎn)AI算力行業(yè)報告浪潮洶涌勢不可擋_第1頁
計算機行業(yè)深度報告:國產(chǎn)AI算力行業(yè)報告浪潮洶涌勢不可擋_第2頁
計算機行業(yè)深度報告:國產(chǎn)AI算力行業(yè)報告浪潮洶涌勢不可擋_第3頁
計算機行業(yè)深度報告:國產(chǎn)AI算力行業(yè)報告浪潮洶涌勢不可擋_第4頁
計算機行業(yè)深度報告:國產(chǎn)AI算力行業(yè)報告浪潮洶涌勢不可擋_第5頁
已閱讀5頁,還剩15頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

東吳證券研究所東吳證券研究所內(nèi)容目錄海外:模型、應(yīng)用和算力相互推進 4國內(nèi)模型逐步追趕,提升算力需求 5國內(nèi)算力產(chǎn)業(yè)現(xiàn)狀盤點 6算力有哪些核心指標? 6國產(chǎn)算力和海外的差距 7國產(chǎn)化和生態(tài)抉擇 8國內(nèi)算力廠商競爭要素 9國內(nèi)AI算力市場空間 9國內(nèi)供給端:騰一馬當先,各家競相發(fā)展 10昇騰計算產(chǎn)業(yè)鏈 10昇騰服務(wù)器 12昇騰一體機 13海光信息 14寒武紀 15景嘉微 15算力租賃 15算力液冷 16全國一體化算力網(wǎng) 17央企AI 20投資建議 21風(fēng)險提示 212/22東吳證券研究所東吳證券研究所圖表目錄圖1:Claude3benchmarks 4圖2:GB200超級芯片 5圖3:GPU算力浮點數(shù)圖示 6圖4:關(guān)鍵參數(shù)關(guān)系示意圖 7圖5:主流國內(nèi)外AI芯片性能對比 7圖6:中國AI服務(wù)器市場規(guī)模 9圖7:華為昇騰人工智能生態(tài) 圖8:華為大模型生態(tài)合作伙伴 12圖9:華為昇騰整機合作伙伴主業(yè)情況(截至2024年3月24日) 12圖10:已發(fā)布訓(xùn)推一體機主要產(chǎn)品 13圖海光DCU深算一號和英偉達A100性能對比 14圖12:寒武紀主要產(chǎn)品矩陣 15圖13:算力調(diào)度涉及的關(guān)鍵環(huán)節(jié) 18圖14:2019-2022年中國IaaS市場規(guī)模(公有云) 19圖15:2022年中國公有云IaaS市場格局 19圖16:中國算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展指標 20表1:冷板和浸沒式液冷存量改造市場空間測算 17表2:冷板和浸沒式液冷AI服務(wù)器增量改造市場空間測算 17表3:2025年中國算力調(diào)度潛在市場規(guī)模測算 203/22東吳證券研究所海外:模型、應(yīng)用和算力相互推進東吳證券研究所月16發(fā)布了首個文生視頻模型SoraSora60秒月4日,Anthropic發(fā)布了新一代AI大模型系列——Claude3。Claude3HaikuClaude3Sonnet和Claude3Opus。Opus和Gemini1.0Ultra,Claude(OpusMMMUGemini1.0Ultra持平。圖1:Claude3benchmarks數(shù)據(jù)來源:Anthropic,3月18AIxAIGrok-1xAIGrok-1xAI202310JAXRust3140OpenAI的GPT模型。在CEO奧爾特曼的帶領(lǐng)下,OpenAI或許有望在今年夏季推出GPT-5。3月23日,OpenAIOpenAIOpenAIAISora應(yīng)用到電影制作中,從而拓展OpenAI4/22東吳證券研究所3月19日,英偉達GTC大會上,英偉達發(fā)布新的B200GPU,以及將兩個B200東吳證券研究所與單個GraceCPU相結(jié)合的GB200。全新B200GPU擁有2080億個晶體管,采用臺積電4NP工藝節(jié)點,提供高達20petaflopsFP4的算力。與H100相比,B200的晶體管數(shù)量是其(800億)2倍多。而單個H100最多提供4petaflops算力,直接實現(xiàn)了5倍性能提升。而GB200是將2個BlackwellGPU和1個GraceCPU結(jié)合在一起,能夠為LLM推理工作負載提供30倍性能,同時還可以大大提高效率。圖2:GB200超級芯片數(shù)據(jù)來源:英偉達,計算能力不斷提升。過去,訓(xùn)練一個1.8萬億參數(shù)的模型,需要8000個HopperGPU15MW個BlackwellGPU4MW。的性能是H1007H1004倍。國內(nèi)模型逐步追趕,提升算力需求Kimi逐漸走紅。月之暗面Kimi智能助手2023年10月初次亮相時,憑借約20萬漢字的無損上下文能力,幫助用戶解鎖了專業(yè)學(xué)術(shù)論文的翻譯和理解、輔助分析法律問題、一次性幾十張發(fā)票、快速理解API開發(fā)文檔等,獲得了良好的用戶口碑和用戶量的快速增長。2024年3月18日,Kimi智能助手在長上下文窗口技術(shù)上再次取得突破,無損上200過去要1000010就能接近任KimiKimi幫助2005/22東吳證券研究所訪問量提升,kimi算力告急。321KimiAPP3209東吳證券研究所30Kimi2010SaaS429:engineisoverloaded2024年3月23日,階躍星辰發(fā)布StepStep-1千億參Step-1VStep-2MoEAPI相比于GPT-3.5是一個千億參數(shù)模型,GPT-4是擁有萬億規(guī)模參數(shù),國內(nèi)大模型廠商如果想追趕,需要各個維度要求都上一個臺階。階躍星辰發(fā)布了萬億參數(shù)大模型預(yù)覽版,標志著國產(chǎn)AI大模型取得了巨大進步。國產(chǎn)AI大模型正在不斷迭代,對算力需求會不斷提升。國內(nèi)算力產(chǎn)業(yè)現(xiàn)狀盤點算力有哪些核心指標?算力芯片的主要參數(shù)指標為算力浮點數(shù),顯存,顯存帶寬,功耗和互連技術(shù)等。,英文Floating-pointOperationsPerINT8FP64仿真等;FP32計算多用于大模型訓(xùn)練等場景;FP16和INT8多用于模型推理等對精度要求較低的場景。圖3:GPU算力浮點數(shù)圖示數(shù)據(jù)來源:CSDN,GPU顯存:顯存用于存放模型,數(shù)據(jù)顯存越大,所能運行的網(wǎng)絡(luò)也就越大。6/22東吳證券研究所在預(yù)訓(xùn)練階段,大模型通常選擇較大規(guī)模的數(shù)據(jù)集獲取泛化能力,因此需要較大的東吳證券研究所32進行訓(xùn)練。需要消耗大量的GPU16在推理階段,通常只是將一個輸入數(shù)據(jù)經(jīng)過模型的前向計算得到結(jié)果即可,因此需要最少的顯存即可運行。顯存帶寬:是運算單元和顯存之間的通信速率,越大越好?;ミB技術(shù):一般用于顯存之間的通信,分布式訓(xùn)練,無論是模型并行還是數(shù)據(jù)并行,GPU之間都需要快速通信,不然就是性能的瓶頸。圖4:關(guān)鍵參數(shù)關(guān)系示意圖數(shù)據(jù)來源:繪制國產(chǎn)算力和海外的差距從單芯片能力看,訓(xùn)練產(chǎn)品與英偉達仍有1-2代硬件差距。根據(jù)科大訊飛,華為昇騰910B能力已經(jīng)基本做到可對標英偉達A100。推理產(chǎn)品距離海外差距相對較小。圖5:主流國內(nèi)外AI芯片性能對比7/22東吳證券研究所東吳證券研究所數(shù)據(jù)來源:公司官網(wǎng),從片間互聯(lián)看,片間和系統(tǒng)間互聯(lián)能力較弱。國產(chǎn)AI芯片以免費CCIX為主,生AI從研發(fā)能力看,(PHB)國產(chǎn)化和生態(tài)抉擇海外制裁后,AI芯片國產(chǎn)化訴求加大。主要系供應(yīng)鏈安全和政策強制要求。2024322(2024-2025年到2025年,上海50%,50%10家。但國產(chǎn)AI8/22東吳證券研究所于訓(xùn)練。如用于訓(xùn)練,則需花費較多人員進行技術(shù)服務(wù),額外投入資源較大。東吳證券研究所華為與訊飛構(gòu)建騰萬卡集群。2023年10月24日,科大訊飛攜手華為,宣布130日,騰AIROCE間的全閃和混閃并行文件系統(tǒng),可支撐萬億參數(shù)大模型高速訓(xùn)練。國內(nèi)算力廠商競爭要素供應(yīng)鏈安全。受美國制裁影響,眾多算力芯片廠商芯片供應(yīng)鏈出現(xiàn)問題。如果能夠解決供應(yīng)鏈問題,持續(xù)為客戶供應(yīng)芯片,將是一大核心競爭力。AI政府關(guān)系。AIAI國內(nèi)AI算力市場空間IDC報告預(yù)計,2023年中國人工智能服務(wù)器市場規(guī)模將達91億美元,同比增長82.5%,2027年將達到134億美元,2022-2027年年復(fù)合增長率達21.8%。圖6:中國AI服務(wù)器市場規(guī)模9/22東吳證券研究所東吳證券研究所中國人工智能服務(wù)器市場規(guī)模(億美元)13491134911401201008060402002023 2027數(shù)據(jù)來源:IDC,算力需求市場空間巨大。在英偉達GTC大會上,黃仁勛講到,如果要訓(xùn)練一個1.8萬億參數(shù)量的GPT8000張Hopper15908H100GPUH100隨著國產(chǎn)化率逐步提升,我們預(yù)計AI芯片逐步成為國內(nèi)芯片的主要組成。國內(nèi)供給端:昇騰一馬當先,各家競相發(fā)展北京商報對華為公司董事長梁華的主題演講的分享中提到,昇騰已經(jīng)在華為云和28個城市的智能算力中心大規(guī)模部署,根據(jù)財聯(lián)社報道,2022年昇騰占據(jù)國內(nèi)智算中心約79%的市場份額。昇騰計算產(chǎn)業(yè)鏈華為主打AI芯片產(chǎn)品有310和910B。310偏推理,當前主打產(chǎn)品為910B,擁有FP32和FP16兩種精度算力,可以滿足大模型訓(xùn)練需求。910B單卡和單臺服務(wù)器性能對標A800/A100。騰計算產(chǎn)業(yè)是基于騰AI芯片和基礎(chǔ)軟件構(gòu)建的全棧AIAIAICANN、AIAI;基于騰AI軟件系統(tǒng):10/22東吳證券研究所異構(gòu)計算架構(gòu)CANN以及對應(yīng)的調(diào)試調(diào)優(yōu)工具、開發(fā)工具鏈MindStudio和各種運維管理工具等。東吳證券研究所Al計算框架包括開源的MindSpore,以及各種業(yè)界流行的框架。昇思MindSporeAI計算架構(gòu)位居AI框架第一梯隊。下游應(yīng)用:昇騰應(yīng)用使能MindX,可以支持上層的ModelArts和HiAl等應(yīng)用使能服務(wù)。行業(yè)應(yīng)用是面向千行百業(yè)的場景應(yīng)用軟件和服務(wù),如互聯(lián)網(wǎng)推薦、自然語言處理、語音識別、機器人等各種場景。圖7:華為昇騰人工智能生態(tài)數(shù)據(jù)來源:華為昇騰計算產(chǎn)業(yè)白皮書,3.0AICANNAI昇MindSpore,AIModelArts3807101000know-how11/22東吳證券研究所華為與行業(yè)伙伴一起推動華為大模型行業(yè)化。東吳證券研究所圖8:華為大模型生態(tài)合作伙伴數(shù)據(jù)來源:華為官方公眾號,騰服務(wù)器華為昇騰整機合作伙伴與鯤鵬整機合作伙伴幾乎一致,產(chǎn)線共用,從華為直接獲取AI服務(wù)器或者芯片板卡制造成服務(wù)器。圖9:華為昇騰整機合作伙伴主業(yè)情況(截至2024年3月24日)12/22東吳證券研究所東吳證券研究所數(shù)據(jù)來源:公司年報,騰一體機AI訓(xùn)推一體機是指將大模型等軟件和普通AI服務(wù)器整合在一起對外銷售的整機。用戶畫像:主要為AI能力自建能力較弱,想要借助AI軟硬件一體化解決方案構(gòu)建AI能力的客戶。銷售方:主要為ISV,從華為整機廠拿到昇騰整機,然后裝上AI模型和相關(guān)軟件直接銷售給終端使用客戶。AIAI服務(wù)圖10:已發(fā)布訓(xùn)推一體機主要產(chǎn)品數(shù)據(jù)來源:各公司公眾號,官網(wǎng),13/22東吳證券研究所海光信息東吳證券研究所DCUDCUGPGPU兼容通用的“類Q3100%。海光DCU7nmFinFETGPUNVIDIA公司GPUA100)AMDGPUMI100)進行對平。圖11:海光DCU深算一號和英偉達A100性能對比數(shù)據(jù)來源:招股說明書,英偉達官網(wǎng),生態(tài)兼容性好。DCUAMDROCmGPU于ROCm和CUDA較低代價快速遷移至Om平臺,因此OCm也被稱為“類CA海光DCUAI在商業(yè)應(yīng)用方面公司的并推出14/22東吳證券研究所聯(lián)合方案,打造全國產(chǎn)軟硬件一體全棧AI基礎(chǔ)設(shè)施。東吳證券研究所寒武紀寒武紀成立于2016IP圖12:寒武紀主要產(chǎn)品矩陣數(shù)據(jù)來源:公司官網(wǎng),Baichuan2-53B、Baichuan2-13BBaichuan2-7B達到國際主流產(chǎn)品的水平。2024年1月22(HiDream.ai)景嘉微2024年3月12日,公司面向AI訓(xùn)練、AI推理、科學(xué)計算等應(yīng)用領(lǐng)域的景宏系列高性能智算模塊及整機產(chǎn)品“景宏系列”研發(fā)成功,并將盡快面向市場推廣。AIAIINT8FP16FP32FP64CPU流的計算生態(tài)、深度學(xué)習(xí)框架和算法模型庫,大幅縮短用戶適配驗證周期。算力租賃算力租賃就是對算力資源進行出租。使用者可以按需調(diào)用算力資源而無需自建算力基礎(chǔ)設(shè)施。15/22東吳證券研究所算力租賃是數(shù)字經(jīng)濟時代的新興產(chǎn)物。算力使用者無需投入大量資金購買計算設(shè)備,東吳證券研究所AI當前布局AIIDC4)AI算力租賃目前的核心競爭力是誰能拿到滿足客戶需求的AI算力卡。+算力液冷上半90%。1)AIGPUGPUCPU319日,GTCGB200GB200NVL7236個CPU和72個BlackwellMGX252)PUE測算:液冷服務(wù)器市場空間主要來自于兩方面,一方面是存量服務(wù)器改造,另一方面是新增服務(wù)器建設(shè)。存量改造:元4000元/kwAI4萬元。2022年5201900假設(shè)2025年滲透率提升,單價和服務(wù)器機架數(shù)維持不變。16/22東吳證券研究所表1:冷板和浸沒式液冷存量改造市場空間測算東吳證券研究所2024E2025及以后滲透率10%50%存量服務(wù)器機架(萬架)520冷板單價(元)40000浸沒單價(元)110000冷板市場空間(億元)832浸沒市場空間(億元)2288數(shù)據(jù)來源:《基于價值工程的數(shù)據(jù)中心液冷與風(fēng)冷比較分析》,CEC,電信運營商液冷技術(shù)白皮書,新增數(shù)量:2027年,中國AI652022-2027(CAGR)2027表2:冷板和浸沒式液冷AI服務(wù)器增量改造市場空間測算2027E中國AI服務(wù)器出貨量(萬臺)65冷板單價(元)40000浸沒單價(元)110000冷板市場空間(億元)260浸沒市場空間(億元)715數(shù)據(jù)來源:前瞻研究院,《基于價值工程的數(shù)據(jù)中心液冷與風(fēng)冷比較分析》,全國一體化算力網(wǎng)20231229202560%資源使用率顯著超過全國平均水平。1ms5ms17/22東吳證券研究所培育算網(wǎng)服務(wù)商:支持培育專業(yè)化算網(wǎng)運營商,加強算力與網(wǎng)絡(luò)在運行、管理及維東吳證券研究所為數(shù)據(jù)要素市場建設(shè)打基礎(chǔ):1)據(jù)流動可以依托國家算力樞紐。圖13:算力調(diào)度涉及的關(guān)鍵環(huán)節(jié)發(fā)電廠 算力中心發(fā)電廠算力中心變壓等措施算力虛擬化、封裝等供電網(wǎng)絡(luò)算力互聯(lián)網(wǎng)絡(luò)用電用戶變壓等措施算力虛擬化、封裝等供電網(wǎng)絡(luò)算力互聯(lián)網(wǎng)絡(luò)用電用戶算力用戶數(shù)據(jù)來源:中國信通院,18/22調(diào)度。央國企有望在算力調(diào)度中大有作為。算力網(wǎng)絡(luò)運營和調(diào)度猶如運營國家電網(wǎng)和石油運輸網(wǎng)絡(luò),央國企有望承擔(dān)起算力網(wǎng)絡(luò)運營和調(diào)度的重任。行業(yè)機構(gòu)主導(dǎo)。1AppStore”2022年中國IaaS市場規(guī)模為3413億元。IaaSAIIaaS24422022IaaS9712022IaaS圖14:2019-2022年中國IaaS市場規(guī)模(公有云) 圖15:2022年中國公有云IaaS市場格局0

453

98%895

161

80%

阿里22%25%%10%244222%25%%10%7東吳證券研究所東吳證券研究所數(shù)據(jù)來源:中國信通院, 數(shù)據(jù)來源:中國信通院,2025300EFLOPS,20231.4IaaS202320222025年中IaaS4778202230%。我們按2025年35%利用率計算,2025年僅需要盤活的IaaS市場空間就有8873億元。19/22東吳證券研究所圖16:中國算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展指標東吳證券研究所數(shù)據(jù)

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論