電子行業(yè)深度報(bào)告：AI新范式云廠商引領(lǐng)與內(nèi)需為王

目錄ScalingLaw2.0，CSP的私域數(shù)據(jù)成為關(guān)鍵 3關(guān)于ScalingLaw的爭(zhēng)議，從數(shù)據(jù)規(guī)模到數(shù)據(jù)精度 3CSP的三大利器：私域數(shù)據(jù)、推理需求、從云到端 5CSP異軍突起，百舸爭(zhēng)流的算力競(jìng)爭(zhēng)時(shí)代開(kāi)啟 9從外采到自研，CSP的算力升級(jí)之路 9CSP算力供應(yīng)鏈新變革 16端側(cè)：豆包出圈，互聯(lián)網(wǎng)巨頭入局AI終端 28字節(jié)豆包先行，加速端側(cè)落地 28AI終端空間廣闊，SoC是影響體驗(yàn)的核心硬件 32投資建議 36行業(yè)投資建議 36相關(guān)公司梳理 36風(fēng)險(xiǎn)提示 40插圖目錄 41表格目錄 41ScalingLaw2.0，CSP的私域數(shù)據(jù)成為關(guān)鍵ScalingLaw大模型的摩爾定律，算力需求指數(shù)級(jí)增長(zhǎng)ScalingLawAIScalingLaw下，大模型對(duì)算10AI275010OpenAIGPTGPT120181OpenAIGPT510圖1：AI大模型對(duì)算力的需求超過(guò)摩爾定律 資料來(lái)源：CSDN，數(shù)據(jù)成為瓶頸，ScalingLaw放緩ScalingLaw表明，計(jì)算量、數(shù)據(jù)量、參數(shù)規(guī)模三個(gè)因素的增長(zhǎng)能Law圖2：ScalingLaw的三要素：算力、數(shù)據(jù)量、參數(shù)規(guī)模 資料來(lái)源：EliasZ.Wang《ScalingLawsforNeuralLanguageModels》，然而公開(kāi)數(shù)據(jù)量的有限性制約了ScalingLaw進(jìn)一步發(fā)揮作用。據(jù)IDC，2018年全球數(shù)據(jù)總量為39.9ZB2028393.8ZB，CAGR25.7ScalingLaw10PabloVillalobos2028Law20222028ScalingLaw放緩 圖3：2018-2028年全球數(shù)據(jù)量 圖4：大模型ScalingLaw將在2028放緩 資料來(lái)源：IDC， 資料來(lái)源：《Willwerunoutofdata?LimitsofLLMscalingbasedonhuman-generateddata》PabloVillalobos等，ScalingLaw2.0當(dāng)下傳統(tǒng)的ScalingLaw受限于數(shù)據(jù)量，私域高精度數(shù)據(jù)或成為ScalingLaw2.01215NeurIPSOpenAIAIIlyaScalingLawScaling工標(biāo)注的數(shù)據(jù)可能成為下一階段大模型發(fā)展過(guò)程中的核心競(jìng)爭(zhēng)力。圖5：低精度的訓(xùn)練數(shù)據(jù)增多可能反而對(duì)模型性能造成損害

圖6：使用更高精度的數(shù)據(jù)將減小因數(shù)據(jù)質(zhì)量不佳而對(duì)模型性能造成的損害 資料來(lái)源：《ScalingLawsforPrecision》， 資料來(lái)源：《ScalingLawsforPrecision》，CSPCSPScalingLawScalingLaw的關(guān)鍵。隨著大模型規(guī)模及訓(xùn)練集的擴(kuò)大，ScalingLawMeta掌握了用戶在使用過(guò)程中產(chǎn)生的大量私頻數(shù)據(jù)，可以為模型的訓(xùn)練提供優(yōu)質(zhì)的語(yǔ)料，有力解決高質(zhì)量數(shù)據(jù)匱乏導(dǎo)致的“ScalingLaw圖7：豆包大模型使用量快速增長(zhǎng)資料來(lái)源：字節(jié)跳動(dòng)發(fā)布會(huì)，CSP：優(yōu)質(zhì)流量接口賦能推理側(cè)，具備推理成本優(yōu)勢(shì)可以依托CSP優(yōu)質(zhì)的流量接口可賦能推理側(cè)，實(shí)現(xiàn)從訓(xùn)練模型到用戶使用大模型進(jìn)行推理的正向循環(huán)，加速模型商業(yè)化落地。AIAIChatGPTAIAI70%以上，推理計(jì)算的需求甚至可以超過(guò)訓(xùn)練計(jì)算需求，達(dá)到后4.5倍。OpenAIo1模型也更加側(cè)重于推理測(cè)能力。o1Jimo1Scalinglawo1token/GPT-4o3/4復(fù)雜推理明顯拉動(dòng)推理側(cè)算力需求。圖8：推理對(duì)模型重要性提升資料來(lái)源：OpenAI，CSPASIC身優(yōu)勢(shì)。AIAI150-200GPU80%，但隨著大型科技公司定制化ASIC芯片不斷涌現(xiàn)，這一比例有202850%左右。圖9：谷歌TPU資料來(lái)源：谷歌，集微網(wǎng)，CSP：大模型賦能終端的重要參與者硬件為大模型落地最重要的載體，從云到端為大模型落地的必經(jīng)之路。復(fù)盤(pán)AIAIPCAI+MRAIAIAI終端的定價(jià)=硬件成本+AI體驗(yàn)，因此我們認(rèn)為互聯(lián)網(wǎng)巨頭有望AI終端產(chǎn)業(yè)鏈中發(fā)揮更重要的作用。圖10：AI發(fā)展歷程復(fù)盤(pán)資料來(lái)源：聯(lián)想、蘋(píng)果、OpenAI官網(wǎng)等，結(jié)論：AICSP我們認(rèn)為，隨著公開(kāi)數(shù)據(jù)ScalingLaw的逐步終結(jié)，掌握私域數(shù)據(jù)的云廠商ScalingLawAIAIASICGPUCSPAIPCAIAICSP+電子品牌（蘋(píng)果、華為、聯(lián)想等）的商業(yè)模式將更為清晰。CSP手中，形成訓(xùn)練-推理-商業(yè)化落地的完美閉環(huán)，我們認(rèn)為未來(lái)CSPOpenAICSPCSP異軍突起，百舸爭(zhēng)流的算力競(jìng)爭(zhēng)時(shí)代開(kāi)啟CSP資本開(kāi)支和云收入，相輔相成云商算力需求仍維持高增，持續(xù)增長(zhǎng)的資本開(kāi)支成為北美云商算力的主要支撐。CY3Q24北美四大云商CY3Q24合計(jì)資本開(kāi)支為598.14CY2024222651.0%。其中：微軟：CY3Q24149.23qoq+7.6%，yoy+50.5Q3本開(kāi)支環(huán)比增長(zhǎng)，但伴隨需求增長(zhǎng)，資本開(kāi)支增速將放緩；2）Meta：CY3Q2492.10qoq+12.7%，yoy+40.8%，公司將全年資本開(kāi)支預(yù)期范圍從上一季度的370-400億美元上修至380-400億391Bloomberg20252025年資本支出將繼續(xù)大幅增長(zhǎng)；3）谷歌：CY3Q24資本開(kāi)支130.61億美元，qoq-0.9%，yoy+62.10%，此前公司指引Q3資本開(kāi)支保持或高于120億美元，實(shí)際數(shù)據(jù)略超預(yù)期，據(jù)公司指引我們測(cè)算公司2024年資本開(kāi)支預(yù)計(jì)500億美元以上，2025年保持適度增長(zhǎng)，與此前指引一致；226.20Bloomberg2024750我們認(rèn)為，當(dāng)前海外算力產(chǎn)業(yè)鏈的核心矛盾為云商資本開(kāi)支和算力需求的增Opex延長(zhǎng)云基礎(chǔ)設(shè)施的折舊年限等方式提升資本開(kāi)支潛在空間，算力需求有望持續(xù)高增。圖11：1Q20-4Q24北美云商資本開(kāi)支（億美元） 圖12：2021-2024E北美云商資本開(kāi)支（億美元） 8006004002000

微軟 Meta 谷歌

Amazon合計(jì)YoYAmazon合計(jì)YoY60%40%20%0%-20%

0

微軟 Meta 谷歌Amazon合計(jì)YoY2021 2022 2023 2024EAmazon合計(jì)YoY

60%40%20%0%-20%資料來(lái)源：Bloomberg，注：4Q24數(shù)據(jù)為Bloomberg一致預(yù)期

資料來(lái)源：Bloomberg，CY1Q23-CY3Q24亞馬遜、微軟和谷歌三大云商合計(jì)云業(yè)務(wù)收入分別為508.89/541.64/514.83/592.76/613.19/651.43/628.97億美元，同比增長(zhǎng)17.5%/15.4%/7.9%/18.1%/20.5%/20.3%/22.2%，生成式AI的發(fā)展使得用戶對(duì)云的需求持續(xù)高漲；國(guó)內(nèi)云商方面，CY1Q23-CY3Q24阿里和百度兩大云商合計(jì)云業(yè)務(wù)收入分別為289.42/296.23/319.48/337.66/302.95/316.49/345.10億元，同比增長(zhǎng)19.4%/4.6%/1.6%/3.7%/4.7%/6.8%/8.0%，增速有所放緩，但國(guó)內(nèi)云行業(yè)正向AI計(jì)算加速轉(zhuǎn)變，未來(lái)上升趨勢(shì)依然可觀。圖13：北美云商云業(yè)務(wù)收入（億美元）及同比增速 圖14：國(guó)內(nèi)云商云業(yè)務(wù)收入（億美元）及同比增速 8006004002000

Amazon 微軟 谷歌 合計(jì)YoY40%30%20%10%0%

4003002001000

阿里云 百度云 合計(jì)

60%40%20%0% 資料來(lái)源：Bloomberg， 資料來(lái)源：Bloomberg，CSP加速入局，挑戰(zhàn)英偉達(dá)壟斷AIAIAIAMDIntelAI達(dá)獨(dú)占67.6%，預(yù)計(jì)到2024年英偉達(dá)市占率將下降到63.6%，而AMD以及其他云商自研加速卡比例有望提升。AI率已達(dá)到74.4%，采用自研加速卡的方式，將幫助云商在有限的資本開(kāi)支下獲得AIASIC更加靈活，云廠商可以根據(jù)自身的模AIASIC產(chǎn)品的逐步成熟，未來(lái)云商在AI自研的比例有望逐步提升。圖15：2022-2024年全球AI芯片競(jìng)爭(zhēng)格局 NVDIA AMD Intel Others23.6%3.1%23.6%3.1%5.7%24.1%3.0%7.3%25.3%2.9%8.1%67.6%65.5%63.6%80.0%60.0%40.0%20.0%0.0%2022 2023 2024F資料來(lái)源：Trendforce，TPU201310202412AITPUv5p，相TPUv5pv5ppod由8960顆芯片組成，使用最高帶寬的芯片間連接（每芯片4,800Gbps）進(jìn)行互連；從訓(xùn)練效果來(lái)看，相較于上一代產(chǎn)品，TPUv5pLLM2.8Meta2021AI了公司名稱。2023MetaMTIAv120244MetaMTIAv2MTIA5mIt8稀疏算力可以達(dá)到708OPS，HBM內(nèi)存容量達(dá)到128GB。目前Meta仍主要采購(gòu)英偉達(dá)等廠商的加速卡用于LlamaMeta微軟Azure的企業(yè)數(shù)量已經(jīng)達(dá)到25萬(wàn)家，是目前采購(gòu)英偉達(dá)加速卡最為激Maia1002023AzureMaia100用臺(tái)積電5nm工藝，單芯片擁有1050億個(gè)晶體管，F(xiàn)P8算力可以達(dá)到1600TFLOPS，同時(shí)支持FP43200TFLOPS，是目前廠商自研加卡，強(qiáng)大的下游客戶支持有望為微軟自研加速卡的進(jìn)步帶來(lái)重要?jiǎng)恿?。亞馬遜同樣在自研加速卡方面加大投入，并且已經(jīng)完善了訓(xùn)練和推理的兩方2023Trainium2加速卡，補(bǔ)全了亞馬遜在訓(xùn)練和推理領(lǐng)域加速卡的布局。亞馬遜的Int8861TOPS4EC2UltraClusters10Trainium2AmazonPB65EFlops廠商 大類(lèi)型號(hào)發(fā)布 制程峰值算力TOPS/TFLOPSINT8/FP8 BF16/FP16 內(nèi)存信息廠商 大類(lèi)型號(hào)發(fā)布 制程峰值算力TOPS/TFLOPSINT8/FP8 BF16/FP16 內(nèi)存信息容量 互聯(lián)帶寬TPUv5E時(shí)間2023nm-Dense/Sparse394Dense/Sparse197Dense/Sparse-類(lèi)型HBM2GB16GB/s400谷歌訓(xùn)練TPUv5P2023-918459-HBM295800Meta推理MTIAv220245354/708177/3542.76-128-微軟訓(xùn)練Maia100202351600800-HBM3641200訓(xùn)練Trainium220234861431215-96-亞馬遜推理Graviton42023----GDDR5--TESLA訓(xùn)練D12021736236222.6-32-資料來(lái)源：各公司官網(wǎng)，Semianalysis等，注：未標(biāo)注的數(shù)據(jù)為沒(méi)有在公開(kāi)渠道披露的信息芯片由少量大型NeuronCore組成，與GPU大量小張量核心不同，該設(shè)計(jì)更適合生成式AI任務(wù)。以NeuronCore為基礎(chǔ)計(jì)算單元，在每個(gè)NeuronCoreGPSIMD圖16：Trainium2芯片 圖17：Trainium2內(nèi)部組件 資料來(lái)源：AWS， 資料來(lái)源：SemiAnalysis，Trainum2參數(shù)由兩個(gè)計(jì)算芯片組和四個(gè)HBM3e內(nèi)存堆棧封裝而成，每個(gè)計(jì)算CoWoS-S/R封裝與其兩個(gè)相鄰的HBM3eBF650TOP/s的密集61300TOPS/sFP896GByteHBM3e500W。表2：Trainum2Trainum2參數(shù)TheoreticalBF16TheoreticalBF16Dense650TheoreticalFP8Dense1300ArithmeticIntensity(BF16FLOPperByte) 203.125ArithmeticIntensity(BF16FLOPperByte) 203.125HBMCapacity(GByte/chip) 96StructuredSparsitySupport 2:4,4:8,4:16FLOPperHBMCapacity(BF16FLOPStructuredSparsitySupport 2:4,4:8,4:16CoolingTechnology AirCooledCoolingTechnology AirCooled資料來(lái)源：SemiAnalysis，Trainum325年底問(wèn)世。123re:Invent20242025AWSAIAI3nm計(jì)算集群節(jié)能增效。芯片能效有望提高40%、性能有望翻倍提升。更高能效比讓單位芯片領(lǐng)域競(jìng)爭(zhēng)力。Trainium3UltraServerUltraServer4AIDesignServiceCSP最重要的合作伙伴相比英偉達(dá)的GPGPU，ASIC在特定任務(wù)場(chǎng)景下，具有高性能、低功耗、成CSPAI博通、Marvell、AIchipAI芯片定制化設(shè)計(jì)服務(wù),CSP最重要的合作伙伴。MarvellASICAIASIC2028ASIC429CAGR45.455%以上的市場(chǎng)份額，Marvell15%，成為兩個(gè)最重要的“玩家“。AITPUTPU10TPU（Trillium）26/27AITPU2070除MetaAIMTIA等巨頭合作開(kāi)發(fā)芯片。CEOHock2027AI100AI圖18：博通兩大核心客戶AI芯片戰(zhàn)略規(guī)劃資料來(lái)源：IT之家，Marvell：亞馬遜自研AI芯片Trainium的主要供應(yīng)商，公司與AWS簽訂5年合作協(xié)議，幫助亞馬遜設(shè)計(jì)AI芯片；2025年第三財(cái)季Marvell面向數(shù)據(jù)中心的銷(xiāo)售額同比增長(zhǎng)了近一倍，達(dá)到11億美元，公司預(yù)計(jì)本財(cái)年數(shù)據(jù)中心部門(mén)將占總收入的72%，同比增長(zhǎng)32pts。除AWS外，Marvell亦為微軟提供定制的AI芯設(shè)計(jì)服務(wù)。Marvell估計(jì)至28年，其計(jì)算、高速網(wǎng)絡(luò)、以太網(wǎng)和存儲(chǔ)產(chǎn)品組合將帶來(lái)750億美元的市場(chǎng)機(jī)會(huì)，核心增長(zhǎng)動(dòng)力來(lái)自定制計(jì)算（45%年復(fù)合增長(zhǎng)率）和高速數(shù)據(jù)中心互連（27%年復(fù)合增長(zhǎng)率）。圖19：博通兩大核心客戶AI芯片戰(zhàn)略規(guī)劃資料來(lái)源：650Group，MarvellInvesterAIDay，CSP擁抱巨頭，PCB供應(yīng)商深度受益Circuit承擔(dān)了各電子元器件之間信號(hào)互AI輸有著更高的要求，PCB明顯提升。AI8卡機(jī)的形式為主，DGXH100CPU+GPU主要新增兩種類(lèi)型的高價(jià)質(zhì)量PCB承載GPU的OAM（OCPAcceleratorModule，加速卡模組）及實(shí)現(xiàn)GPU多卡互聯(lián)的UBB（UniversalBaseboard，通用基板H1008OAM1UBB8資本支出 YoY120 100 80 60 40 50%20 0%0 -50%12341234123412341QQQQQQQQQQQQQQQQQ8888999900002222211111111222222222圖20：傳統(tǒng)服務(wù)器PCB應(yīng)用 圖21：資本支出 YoY120 100 80 60 40 50%20 0%0 -50%12341234123412341QQQQQQQQQQQQQQQQQ8888999900002222211111111222222222資料來(lái)源：廣合科技招股說(shuō)明書(shū)， 資料來(lái)源：英偉達(dá)，GB200DGXH100DGXH100顆GPU芯片需要承載至一張OAMCPUGB2001GraceCPU2BlackwellGPU1Superchip個(gè)ComputetraySuperchip4顆GPU2顆CPUSuperchip板實(shí)現(xiàn)了CPU與GPUDGXH100OAM+CPUH100相比，GB200SuperchipGPUOAM。與DGXH100相比，GB200由于取消了單臺(tái)服務(wù)器內(nèi)8顆GPU互聯(lián)的設(shè)計(jì)，UBBNVL36/72機(jī)柜中，36/72顆芯片的互聯(lián)通過(guò)Switchtray+銅纜實(shí)現(xiàn)，SwitchtrayUBB承擔(dān)了部分互聯(lián)的功能。圖22：GB200服務(wù)器PCB方案發(fā)生變化 資料來(lái)源：英偉達(dá)，太平洋科技，當(dāng)前谷歌、微軟、亞馬遜、Meta四大海外云廠商中，谷歌TPU及亞馬遜AIH100GB200CPUGPUPCB（第六代TPUTPUPCBCompute中，放置于另一個(gè)。載有CPU及TPU的PCB分別放置在不同的TPUv6PodTPUv65121.5ExaFlops83%。圖23：搭載有谷歌第六代TPU芯片Trillium的PCB 資料來(lái)源：Google，半導(dǎo)體行業(yè)觀察，亞馬遜同樣采取了將CPU及GPU分離的設(shè)計(jì)方案，兩顆Trainium2芯片搭載至一張PCBCompuerayCPU單獨(dú)搭載至另一張PCB上，HeadPCB圖24：亞馬遜Trainium2Compute資料來(lái)源：Semianalysis，銅纜配套，機(jī)柜式服務(wù)器成為主流路徑AITPU服務(wù)器會(huì)采用四卡架構(gòu)，GPU數(shù)量不會(huì)太多。DGXH100GPU、MotherboardGPUGPUUBBNVSwitchSwitchMotherboardCPUMotherboardGPUGPUGPUNVLink通信，服務(wù)器和服務(wù)器之間通過(guò)光模塊進(jìn)行通信。圖25：英偉達(dá)DGXH100服務(wù)器架構(gòu) 圖26：英偉達(dá)DGXH100GPU資料來(lái)源：HPCSystems，英偉達(dá)， 資料來(lái)源：HPCSystems，英偉達(dá)，GB200NVL72AI服務(wù)器形態(tài)。NVL72Rack3（6）33KWPowerShelf，用于交流電到直流電的18Compute9Switch分別用戶安放GB200NVSwitchNVL36Compute9圖27：英偉達(dá)GB200NVL72機(jī)柜架構(gòu) 資料來(lái)源：華碩官網(wǎng)，GB2003672卡之間通信的主要手段。在G200NL72的RackGPUray到wchray的互聯(lián)采用高速銅纜，采用銅互聯(lián)方案可以節(jié)省光電轉(zhuǎn)換產(chǎn)生的能量損耗，單只1.6T光模塊的功耗在20W題；2）故障率低2%-5%的損壞率，而銅連接更加穩(wěn)定。圖28：GB200NVL72架構(gòu)的通信解決方案 資料來(lái)源：Semianalysis，GB200RackRack之間兩個(gè)部分。Rack36或72張加速卡之間的通信，最長(zhǎng)的信號(hào)傳輸距離一般在1米以內(nèi)。在8案：1）1.8TB/sNVLink1/4.5；2）1.8TB/s576AIAIAI服務(wù)器內(nèi)的滲透率有望逐步提升。圖29：Rack內(nèi)部銅互聯(lián)解決方案 圖30：Rack之間的銅互聯(lián)解決方案 資料來(lái)源：英偉達(dá)官網(wǎng)， 資料來(lái)源：英偉達(dá)官網(wǎng)，AECAI互聯(lián)瓶頸高速銅纜方案主要包括DAC（無(wú)源銅纜）、ACC（有緣銅纜）、AEC（有源電纜AIAI（本身的升級(jí)無(wú)法滿足AI芯片快速提升的互AECLightcounting，20232028AEC的市CAGR25%45%，AEC的市場(chǎng)空間增速顯著更高。RedriverCTLERxretimer7圖31：全球、AEC、AOC市場(chǎng)規(guī)模（十億美元） 資料來(lái)源：Lightcounting，redriverretimer芯片，成本優(yōu)勢(shì)明顯。AEC在性能上的優(yōu)勢(shì)逐漸顯現(xiàn)出來(lái)。在從400G到800G的過(guò)渡過(guò)程中，銅纜的損耗增大且互連長(zhǎng)度無(wú)法滿足需求，DAC傳輸距離從3米縮短到2米。而AEC持低功耗和可負(fù)擔(dān)性的同時(shí)得以滿足中短距離傳輸需求，為短鏈路提供了一種經(jīng)濟(jì)高效的方式。表3：DAC、AEC、AOC性能對(duì)比DACAECAOC400G傳輸距離＜3m＜7m＜300m800G傳輸距離＜2m＜2.5m＜300m功耗低低高費(fèi)用低中等高傳輸速度快快慢資料來(lái)源：Asterfuison，民生證券研究院、、AECAOCAIAEC有望伴隨云廠商自研AI芯片的市占率提升加速滲透。目前市場(chǎng)主流的機(jī)柜式AI服務(wù)器中，英偉達(dá)的GB200根據(jù)不同的距離和帶寬需求，在機(jī)柜內(nèi)部和機(jī)柜間采用和AOCIEC則替代了CI芯片的主要產(chǎn)品。不同廠商采用不同解決方案的主要衡量因素是性能、成本、互聯(lián)帶寬等。圖32：DAC、AEC、AOC功耗對(duì)比 圖33：DAC、AEC、AOC成本對(duì)比 資料來(lái)源：PrecisionOT， 資料來(lái)源：PrecisionOT，AEC服務(wù)器為例類(lèi)似英偉達(dá)使用NVLink擴(kuò)展網(wǎng)絡(luò)實(shí)現(xiàn)芯片互聯(lián)，采用NeuronLink2D3D16（4×4）64（4×4×4）Trainium2在兩種服務(wù)器架構(gòu)中，PCBCompute2AEC。1）16卡服務(wù)器：AWSAITrainium218（18U），12U的CPUHead8相連的2UCompute組成。每個(gè)Compute搭載兩個(gè)GB200Compute中未搭載CPU，HeadCPUHead5.0x16無(wú)源銅纜與8ComputeTrainium21620.8PFLOPSTrainium2Ultra6441EC2AI510FP883.2PFLOPSAI圖34：Trainium2Rack 圖35：Trainium2-UltraRack 資料來(lái)源：SemiAnalysis， 資料來(lái)源：SemiAnalysis，散熱：芯片功率提高，液冷時(shí)代已至傳統(tǒng)風(fēng)冷是以空氣為熱量傳輸媒介，液冷技術(shù)是將高比熱容的液體作為熱量AICPUAIGB200NVL72TPU等需要采取散熱效果更好的液冷輔助散熱，數(shù)據(jù)中心液冷時(shí)代已至。IDC202498.3%，市12.681.8%，2023-202847.6%，2028102圖36：風(fēng)冷及液冷對(duì)比 資料來(lái)源：賽迪顧問(wèn)《中國(guó)液冷數(shù)據(jù)中心發(fā)展白皮書(shū)》，液冷技術(shù)主要可分為非接觸式液冷及接觸式液冷兩類(lèi)。其中非接觸式液冷主要指冷板式液冷，將服務(wù)器發(fā)熱元件（CPU/GPU/DIMM等）貼近冷板，通過(guò)液冷板將發(fā)熱器件的熱量傳遞給封閉在循環(huán)管路中的冷卻液體，以帶走熱量。CDU供液、Manifold95%以上份額。（室外（室內(nèi)一次側(cè)的熱量轉(zhuǎn)移主要是通過(guò)水溫的升降實(shí)現(xiàn)，二次側(cè)循環(huán)主要通過(guò)冷卻液溫度的升降實(shí)現(xiàn)熱量轉(zhuǎn)移。CDU常作為電子設(shè)備的冷量分配單元(CoolantDistributionUnit，CDU)可以看作室內(nèi)機(jī)與室圖37：冷板式液冷系統(tǒng)示意圖 資料來(lái)源：中國(guó)信通院，沒(méi)式液冷是將服務(wù)器浸沒(méi)在冷卻液中，通過(guò)液體溫升或相變帶走服務(wù)器中所有發(fā)熱元件的熱量。噴淋式液冷的冷卻液從服務(wù)器機(jī)箱頂部的噴淋模塊滴下來(lái)，通過(guò)PUE1.1液冷技術(shù)標(biāo)準(zhǔn)化推進(jìn)、應(yīng)用部署成本降低，有望加速大規(guī)模商用進(jìn)展。圖38：浸沒(méi)式液冷原理示意圖 資料來(lái)源：賽迪顧問(wèn)《中國(guó)液冷數(shù)據(jù)中心發(fā)展白皮書(shū)》，電源：功率密度不斷提升，電源要求持續(xù)升級(jí)CSP服務(wù)器功率密度AI更高算力的加速卡需要更2020年推出的100加速卡單卡功耗為300，2024GB200機(jī)柜內(nèi)集成的加速卡數(shù)量不斷提升：AI82024出了機(jī)柜架構(gòu)的AI其他廠商也紛紛開(kāi)始擁抱機(jī)柜式AI服務(wù)器的浪潮，目前主流CSP廠商均已推出AIAI圖39：AI帶動(dòng)服務(wù)器機(jī)柜功率及功率密度持續(xù)提升 資料來(lái)源：ElectronicDesign，AIAIN+1N+NGPU和CPUAI圖40：機(jī)架式服務(wù)器系統(tǒng)及電源框圖 資料來(lái)源：德州儀器（TI），AI服務(wù)器的升級(jí)對(duì)電源供電要求提出了更多挑戰(zhàn)，目前機(jī)柜式服務(wù)器主流采用三級(jí)電源供電。GB200機(jī)柜式AIAC-DC（交流轉(zhuǎn)直流），powershelf的直流電；二級(jí)電源為DC-DC（高壓直流轉(zhuǎn)低壓直流），以PDB（PowerDistributioncompute48V12VC-（將低壓直流進(jìn)一步降壓Schip（芯片周?chē)?2V0.8VGPUCPU圖41：AI服務(wù)器采用三級(jí)電源解決方案 資料來(lái)源：臺(tái)達(dá)，雅虎，AI終端云廠商合作伙伴+25當(dāng)前大模型廠商主要分為互聯(lián)網(wǎng)巨頭和第三方科技公司兩大陣營(yíng)：累了大量可用于模型訓(xùn)練的私域數(shù)據(jù)。KimiKimi200我們認(rèn)為25年有望迎來(lái)云端和終端的共振，而二者的交集正是字節(jié)產(chǎn)業(yè)鏈，建議關(guān)注字節(jié)火山引擎合作伙伴以及AI終端落地節(jié)奏及有望受益于此的供應(yīng)鏈合作伙伴。大模型千帆競(jìng)渡，字節(jié)豆包為何脫穎而出AI3AI應(yīng)用，而字節(jié)的豆包則是在同年85-7App20909AI11豆包2024年的累計(jì)用戶規(guī)模已超過(guò)1.6億；11月平均每天有80萬(wàn)新用戶下載900AI我們認(rèn)為算力資源充足和愿意大力投入是字節(jié)豆包迅速起量的主要原因。算MoE大模型；提供超高性能網(wǎng)絡(luò)，支持3.2TbpsRDMAPOPAI1115625154（而背靠字節(jié)的豆包，更是將流量池的優(yōu)勢(shì)發(fā)揮到了極致。圖42：國(guó)內(nèi)各大模型2024年（截至11月15日）廣告投放投入投放金額（萬(wàn)元）60,000投放金額（萬(wàn)元）50,00040,00030,00020,00010,0000Kimi豆包星野元寶躍問(wèn)清言星火秘塔通義文小言資料來(lái)源：AppGrowing，AIC20249OWSOladanceAI服務(wù)生態(tài)。10月，其收購(gòu)后的首款產(chǎn)品OlaFriend智能體耳機(jī)正式發(fā)布，該產(chǎn)品功能上主要特征是接入了豆包AI大模vivoMagicBookAI圖43：字節(jié)跳動(dòng)2024年硬件布局 資料來(lái)源：Tech星球公眾號(hào)，騰訊新聞等，字節(jié)豆包算力需求測(cè)算AIOpenAIChatGPT外月活數(shù)量最A(yù)I大模型。2024MAU5998MAU分別達(dá)到1億、1.5億、2億人次，云雀大模型參數(shù)量仍為1300億，則豆包大模型等效H20算力需求將分別達(dá)到72、108、181萬(wàn)張，對(duì)應(yīng)AI服務(wù)器需求分別達(dá)到759、1139、1898億元。豆包大模型推理算力需求測(cè)算2024年末2025-2026E表豆包大模型推理算力需求測(cè)算2024年末2025-2026E保守中性樂(lè)觀MAU（萬(wàn)人）6000100001500020000DAU（萬(wàn)人）900150022503000豆包（云雀）大模型參數(shù)量1300130013001300日均token調(diào)用量（億）4000066667100000133333推理計(jì)算時(shí)間（s）2222日均每秒token計(jì)算數(shù)量（億）0.310.510.771.03峰值倍數(shù)4445算力需公式 云端AI推理力需≈2×參數(shù)量×據(jù)規(guī)模×值倍數(shù)算力需求結(jié)果（FLOPS）3.20988E+195.34979E+198.02469E+191.33745E+20H20單卡算力（TFLOPS）148148148148MFU50%50%50%50%需要H20卡數(shù)量（萬(wàn)張）4372108181H20單價(jià)（萬(wàn)元）8.48.48.48.4H20服務(wù)器均價(jià)（萬(wàn)元）84848484豆包大模型創(chuàng)造AI服務(wù)器需求（億元）455.46759.091138.641897.73資料來(lái)源：豆包官網(wǎng)，OpenAI官網(wǎng)，英偉達(dá)官網(wǎng)，36氪，火山引擎大會(huì)來(lái)襲，有望成為字節(jié)硬件布局宣傳窗口AI大會(huì)有望成為硬件布局的宣傳窗口。此前，在53AI1218-19FORCEAI2000AIAI?12月18日，字節(jié)跳動(dòng)正式發(fā)布了豆包視覺(jué)理解模型，該模型具備更強(qiáng)元/tokens85%，視覺(jué)理解模型進(jìn)入“厘時(shí)代”。此AIAIpro處理能力較5月提升32%139%，58%，43%等。圖44：豆包通用模型pro能力全面提升 圖45：Trainium2-UltraRack 資料來(lái)源：火山引擎公眾號(hào)， 資料來(lái)源：火山引擎公眾號(hào)，?12月19日，大會(huì)的開(kāi)發(fā)者論壇亮相了火山方舟、扣子、豆MarsCodeAPI接口，助力開(kāi)發(fā)者高效調(diào)用大模型；扣子發(fā)布1.5版本，提供了全新的應(yīng)用開(kāi)發(fā)環(huán)境，全面升級(jí)多模態(tài)能力，為開(kāi)發(fā)者提供專業(yè)模板，目前已擁有超100圖46：火山引擎時(shí)間安排表 資料來(lái)源：火山引擎，領(lǐng)域公司業(yè)務(wù)AI算力潤(rùn)澤科技字節(jié)數(shù)據(jù)中心供應(yīng)商。AI端側(cè)領(lǐng)域公司業(yè)務(wù)AI算力潤(rùn)澤科技字節(jié)數(shù)據(jù)中心供應(yīng)商。AI端側(cè)炬芯科技提供SoC芯片，BES2700芯片芯片進(jìn)入字節(jié)ola耳機(jī)。提供SoC芯片，esp32芯片被用于AI玩具“顯眼包”。提供SoC芯片，公司BT895x芯片目前已經(jīng)和火山方舟MaaS平臺(tái)對(duì)接。提供代工服務(wù)，字節(jié)跳動(dòng)子公司PICO與歌爾股份簽署長(zhǎng)期合作協(xié)議。提供SoC芯片，ATS3085L芯片已用于榮耀手環(huán)9。全志科技提供SoC芯片，MR527芯片用于石頭V20掃地機(jī)器人。星宸科技提供SoC芯片，計(jì)劃2025年推出AI眼鏡芯片。瑞芯微提供SoC芯片，公司邊緣AI芯片廣泛應(yīng)用于智能手機(jī)、智能家居、汽車(chē)智能座艙等多個(gè)領(lǐng)域。國(guó)光電器提供一站式電聲解決方案，將VR/AR作為業(yè)務(wù)發(fā)展重點(diǎn)，已布局AR眼鏡等領(lǐng)域。中科創(chuàng)達(dá)智能操作系統(tǒng)及端側(cè)智能技術(shù)和產(chǎn)品提供商，與火山引擎共建人工智能大模型聯(lián)合實(shí)驗(yàn)室。云天勵(lì)飛具備端到端整體解決方案的AI公司，自研了DeepEdge系列邊緣人工智能芯片滿足部署的需求。資料來(lái)源：樂(lè)鑫董辦公眾號(hào)，每日經(jīng)濟(jì)新聞等，AIAI實(shí)現(xiàn)變革與進(jìn)步的強(qiáng)大引擎。AISoCAI終端不斷擴(kuò)容，市場(chǎng)空間廣闊AI賦能有望改變電子產(chǎn)業(yè)的增長(zhǎng)曲線，未來(lái)廣闊的終端硬件都有重估潛力。221.2；23TWS3億對(duì)；2023年手表/手環(huán)年銷(xiāo)量預(yù)計(jì)達(dá)1.61億只；23年中國(guó)戴眼鏡人群接近7AIContriveDatumInsights，2030AI351.1圖47：AI終端廣闊空間 資料來(lái)源：Canalys，IDC，AVCRevo，CounterpointResearch等，我們看好AI+智能終端的趨勢(shì)，AI將重構(gòu)電子產(chǎn)業(yè)的成長(zhǎng)，為智能硬件注入全新的活力，帶來(lái)產(chǎn)品邏輯的深度變革，加速硬件的智能化、伴侶化趨勢(shì)。無(wú)論是手機(jī)、PC、AIOT、可穿戴設(shè)備、汽車(chē)電子，都有重估的潛力。當(dāng)下，各大廠商紛紛布局，應(yīng)用端革新漸漸開(kāi)：AIAppAI1029iOS18.1AppleIntelligence1025AIAutoGLMPC端：AIPC碁、華碩、DellAIPC提升智能交互體驗(yàn)；AI玩具方面，字節(jié)基于大模型開(kāi)發(fā)情感陪伴玩偶“顯眼包可穿戴設(shè)備：AIMetaRay-BanLlama模型，實(shí)現(xiàn)拍攝、識(shí)別及翻譯外部物體、并可與用戶進(jìn)行語(yǔ)音交互；AIOlaFriendAI2412月底正式發(fā)布；特斯拉的FSD計(jì)劃25年Q1在中國(guó)和歐洲推出。圖48：AI+硬件持續(xù)落地資料來(lái)源：科創(chuàng)板日?qǐng)?bào)，京報(bào)網(wǎng)等，在廣闊的潛在市場(chǎng)需求下，我們看好字節(jié)等頭部大模型公司與各領(lǐng)域硬件廠即將迎來(lái)規(guī)模落地。AI終端浪潮核心云/AI產(chǎn)業(yè)的話語(yǔ)權(quán)或?qū)⑾蛟茝S商/電子品牌商傾斜，但不論話語(yǔ)權(quán)如何交棒，AI“合作伙伴”至關(guān)重要，重要云廠商（谷歌、微軟、Meta、字節(jié)、百度）+電子公司 下游核客戶品牌廠商（蘋(píng)果、華為、小米、特斯拉等）合作伙伴值得關(guān)注。表公司 下游核客戶瑞芯微

天貓精靈、小米、小度等品牌智能音箱；石頭、云鯨、小米、追覓等品牌掃地機(jī)；吉利、紅旗、五菱等汽車(chē)品牌小米、阿里巴巴、Google、Amazon、創(chuàng)維、中興通訊等；SONOS、三星、JBL；寶馬、林肯、Jeep、沃爾沃、極氪等阿里、小米、百度、安克創(chuàng)新、騰訊、網(wǎng)易、科沃斯等；比亞迪、廣汽、匯川等中科藍(lán)訊 米realme、度、魔、、Anker、步者傳音、boAtNoise科大飛、TCL等三星OPPO、米、耀、、vivo等；恒玄科技

哈曼、安克創(chuàng)新、漫步者、韶音等；阿里、百度、字節(jié)跳動(dòng)、谷歌等炬芯科技 哈曼炬芯科技 哈曼SONY、克創(chuàng)、榮、小米、技、Razer、步者等樂(lè)鑫科技 小米、歌、節(jié)跳動(dòng)等專業(yè)安防客戶：?？?、大華等；富瀚微

AIoT市場(chǎng)；移動(dòng)等三大運(yùn)營(yíng)商、螢石等泰凌微 谷歌、馬遜小米羅技聯(lián)、JBL索尼等資料來(lái)源：各公司公告，AIAI部分，重要性也愈加凸顯。AIAIPCMRAIPhoneAIAIAISOC的能力要求仍主要圍繞連接+處理兩個(gè)方向進(jìn)化，SOC依據(jù)各個(gè)賽道硬件的特點(diǎn)，SoC1）ISP場(chǎng)：穩(wěn)定連接+高性價(jià)比是核心需求；3）端側(cè)模型部署：多核異構(gòu)（CPU+GPU+NPU）或ASIC芯片是主流方案。以AI3AAI當(dāng)下，SoC行業(yè)走出底部+下游AI智能硬件需求提升，諸多廠商有望在AI浪潮下走出新的成長(zhǎng)曲線：恒玄科技：2024H1公司新一代智能可穿戴芯片BES2800實(shí)現(xiàn)量產(chǎn)出6nmFinFETWi-Fi6，可實(shí)現(xiàn)超低功耗無(wú)線連接；樂(lè)鑫科技：ESP32-S3已可對(duì)接OpenAI的ChatGPT或百度“文心一AIESP32-P4AI公司訊龍三代BT896X添添AIAI晶晨股份：2024H1公司基于新一代ARMV9架構(gòu)和自主研發(fā)邊緣AI能力的6nm商用芯片流片成功，并已獲得首批商用訂單；瑞芯微：公司RK3588、RK3576采用高性能CPU和GPU內(nèi)核并帶有6TNPU2B10token制程算力主頻制程算力主頻內(nèi)核產(chǎn)品型號(hào)公司恒玄科技 BES2800晶晨股份 A311D瑞芯微 RK3588

雙核ARMCortex-M554*Cortex-A73+2*Cortex-A534*Cortex-A76+4*Cortex-A55

300MHz - 6nm12nm(6nm最高2.2GHz 5TOPS功）最高2.4GHz 6TOPS 8nm北京君正 T41 雙核XBurst2 1.2~1.4GHz 1.2TOPS 12nm全志科技V853雙核Cortex-A7+RISC-VE9071GHz+600MHz1~2TOPS22nm富瀚微FH88984核RISC處理器-2TOPS22nm中科藍(lán)訊BT8952FRISC-V+DSP擴(kuò)展125MHz+270MHz-22nm32bitsRISC+DSP擴(kuò)炬芯科技ATS283XP展264MHz-40nm樂(lè)鑫科技 ESP32-S3資料來(lái)源：各公司官網(wǎng)等，

Xtensa32位LX7雙核處理器

240MHz - 40nm投資建議我們認(rèn)為，伴隨著公開(kāi)數(shù)據(jù)預(yù)訓(xùn)練scalinglaw的結(jié)束，AI產(chǎn)業(yè)敘事開(kāi)始向云廠商合作伙伴轉(zhuǎn)移。從數(shù)據(jù)到模型，從訓(xùn)練到推理，從云到端，CSP廠商全面布局，形成了完美的商業(yè)閉環(huán)。當(dāng)下，無(wú)論是海外的谷歌、亞馬遜，還是國(guó)內(nèi)的字節(jié)、騰訊，云廠商巨頭們開(kāi)始接力，引領(lǐng)AI產(chǎn)業(yè)的下一棒。具體到投資方向，PCB、銅纜、溫控、電源等產(chǎn)業(yè)鏈，是國(guó)內(nèi)企業(yè)深耕多年，具備優(yōu)勢(shì)的環(huán)節(jié)。伴隨著本土云廠商的大力擴(kuò)產(chǎn)，內(nèi)需為王的時(shí)代也將來(lái)臨。相比過(guò)去，25年的AI產(chǎn)業(yè)投資將更重視合作建立、訂單落地以及業(yè)績(jī)兌現(xiàn)，投資回報(bào)也會(huì)更為穩(wěn)健。建議關(guān)注：1、云端算力：1）ASIC：寒武紀(jì)、海光信息、中興通訊；2）服務(wù)器：浪潮信息、工業(yè)富聯(lián)、華勤技術(shù)、聯(lián)想集團(tuán)；3）AEC：新易盛、博創(chuàng)科技、瑞可達(dá)、兆龍互聯(lián)、立訊精密；4）銅連接：沃爾核材、精達(dá)股份；5）PCB：生益電子、廣合科技、深南電路、威爾高；6）散熱：申菱環(huán)境、英維克、高瀾股份；7）電源：麥格米特、歐陸通、泰嘉股份。2、端側(cè)硬件：1）品牌：小米集團(tuán)、漫步者、億道信息等；2）代工：國(guó)光電器、歌爾股份、天鍵股份、佳禾智能等；3）數(shù)字芯片：樂(lè)鑫科技、恒玄科技、星宸科技、富瀚微、中科藍(lán)訊、炬芯科技、全志科技等；4）存儲(chǔ)芯片：兆易創(chuàng)新、普冉股份；5）配鏡：博士眼鏡、明月鏡片等。ASIC中興通訊：公司在芯片研發(fā)領(lǐng)域深耕近30年，不斷加強(qiáng)在先進(jìn)工藝設(shè)計(jì)、架構(gòu)創(chuàng)新、封裝技術(shù)以及核心知識(shí)產(chǎn)權(quán)等方面的投入，建立了數(shù)字化高效開(kāi)發(fā)平臺(tái)，形成了行業(yè)領(lǐng)先的全流程芯片設(shè)計(jì)能力，專注于ASIC并緊跟算網(wǎng)一體化的趨勢(shì)，圍繞“數(shù)據(jù)、算力、網(wǎng)絡(luò)”打造高效、環(huán)保、智能的全棧算網(wǎng)基礎(chǔ)。AECAIAECPCBA計(jì)和模具設(shè)計(jì)等領(lǐng)域擁有較深的技術(shù)積累。家國(guó)內(nèi)外互聯(lián)網(wǎng)客戶批量供貨高速銅纜，旗下高性能800GAEC系列產(chǎn)品支持400G/800GOSFP/QSFP-DD/QSFP1127米，較傳統(tǒng)DAC極大豐富了應(yīng)用場(chǎng)景。800G、1.6T等下一代高速連接標(biāo)準(zhǔn)。銅連接400G/800GSFPQSFPQSFP-DDSASMini-SASPCB生益電子：公司成功開(kāi)發(fā)包括亞馬遜在內(nèi)的多家服務(wù)器客戶，AI配套的主板PCBPCBAI2024年前三季度，廣合科技深耕于高速PCB其中服務(wù)器用PCBAI貨占比已超過(guò)UBBI/OBlackwellGB200CPU深南電路：深南電路深耕PCB行業(yè)40年，已成為全球領(lǐng)先的無(wú)線基站射頻功放PCBAIEagleStream求提升，400GAIMiniLEDAIAIDC-DCPCBPCB30層。散熱申菱環(huán)境：公司數(shù)據(jù)中心液冷產(chǎn)品眾多，包括有端到端的全鏈條解決，核CDU，manifold英維克：英維克是業(yè)內(nèi)領(lǐng)先的精密溫控節(jié)能解決方案和產(chǎn)品提供商，憑借自身掌握的關(guān)鍵自主技術(shù)，液冷散熱技術(shù)已有端到端全鏈條布局，針對(duì)算力設(shè)備和數(shù)據(jù)中心推出的Coolinside液冷機(jī)柜及全鏈條液冷解決方案。作為數(shù)據(jù)中心液冷項(xiàng)目的領(lǐng)軍企業(yè)，截至今年4月，已累計(jì)交付900MW液冷項(xiàng)目，技術(shù)實(shí)力與市場(chǎng)地位穩(wěn)固，項(xiàng)目執(zhí)行經(jīng)驗(yàn)豐富。高瀾股份：公司作為國(guó)內(nèi)最早聚焦電力電子熱管理技術(shù)創(chuàng)新和產(chǎn)業(yè)化應(yīng)用的企業(yè)之一，擁有行業(yè)領(lǐng)先的技術(shù)，熱管理業(yè)務(wù)主要產(chǎn)品達(dá)到國(guó)內(nèi)領(lǐng)先或國(guó)際先進(jìn)水平，部分產(chǎn)品達(dá)到國(guó)際領(lǐng)先水平。公司的液冷解決方案以冷板式為主，液冷產(chǎn)品的相關(guān)客戶包含字節(jié)跳動(dòng)、阿里巴巴、騰訊、萬(wàn)國(guó)數(shù)據(jù)、浪潮等企業(yè)，公司積極布局海外市場(chǎng)，熱管理產(chǎn)品已在全球多個(gè)國(guó)家和地區(qū)投入使用，CE、ETLASMEU、ROHS電源麥格米特：公司是行業(yè)領(lǐng)先的電源解決方案提供商，具備業(yè)界領(lǐng)先的高功率高效率網(wǎng)絡(luò)電源的技術(shù)水平及產(chǎn)品研發(fā)與供應(yīng)能力。2024年10月17日，公司宣布與英偉達(dá)展開(kāi)合作，將為NVIDIAMGX?平臺(tái)和GB200系統(tǒng)提供先進(jìn)的電源解決方案。歐陸通：公司深耕電源領(lǐng)域多年，配置有全功能、全方位的研發(fā)與產(chǎn)品綜合性實(shí)驗(yàn)室，產(chǎn)品技術(shù)參數(shù)均可實(shí)現(xiàn)自主設(shè)計(jì)、檢測(cè)、實(shí)驗(yàn)，保證了