2024年AI行業(yè)專題報告：銅互聯(lián)-數(shù)據(jù)中心通信網(wǎng)絡(luò)重要解決方案

2024年AI行業(yè)專題報告：銅互聯(lián)_數(shù)據(jù)中心通信網(wǎng)絡(luò)重要解決方案1數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)加速向高速率帶寬迭代大模型及應(yīng)用對算力基礎(chǔ)設(shè)施要求較高，需要穩(wěn)定、高效、安全的數(shù)字基礎(chǔ)設(shè)施來支持其完成生成、存儲、傳輸?shù)恼麄€交互過程，隨之帶來了對計算能力前所未有的需求。根據(jù)中國智能算力產(chǎn)業(yè)聯(lián)盟數(shù)據(jù)，在AIGC的驅(qū)動下，對AI算力的需求呈指數(shù)級增長，大約每1-2個月翻一番。數(shù)據(jù)中心設(shè)備間互聯(lián)成為制約數(shù)據(jù)中心整體系統(tǒng)算力提升的瓶頸，通信網(wǎng)絡(luò)帶寬速率提升勢在必行。以歷代PCIe協(xié)議為例，2003年P(guān)CIe1.0發(fā)布，單通道傳雙向帶寬為500MB/s，傳輸速率為2.5GT/s；目前最新的PCIe6.0規(guī)范于2021年發(fā)布，傳輸速率提高至64GT/s，根據(jù)PCI-SIG發(fā)布的技術(shù)路線圖，2025年預(yù)期將發(fā)布的PCIe7.0，最大數(shù)據(jù)速率將達到128.0GT/s，通過16通道提供高達512GB/s的雙向傳輸帶寬。以InfiniBand為例，自2002年起，SDR正式發(fā)布，可支持的每通道傳輸速率僅為2.5Gb/s，此后協(xié)議持續(xù)升級，2023年XDR發(fā)布，每通道傳輸速率為200Gb/s,將在2025年發(fā)布的GDR每通道傳輸速率提升至400Gb/s，4通道速率將達到1.6Tb/s水平。2短距通信場景銅互聯(lián)相對優(yōu)勢明確銅連接產(chǎn)品在數(shù)據(jù)中心高速互聯(lián)中一直扮演著重要角色，特別是在服務(wù)器內(nèi)部和Server-TopofRack的短距離傳輸場景下，銅連接對于散熱效率和信號傳輸以及成本方面有著顯著的優(yōu)勢。因此銅互連仍是當(dāng)下以及未來許多應(yīng)用中最具成本效益的解決方案。根據(jù)LightCounting，全球無源直連電纜DAC和有源電纜AEC的市場規(guī)模將分別以25%和45%的年復(fù)合增長率增長，在全球范圍內(nèi)，大型人工智能集群以及長距離的型號傳輸主要依賴光通信，而較小的數(shù)據(jù)中心系統(tǒng)仍將主要使用電纜。2.1數(shù)據(jù)中心能耗攀升，銅互聯(lián)擁有低功耗優(yōu)勢數(shù)據(jù)中心總耗電量持續(xù)高速增長，在全球范圍內(nèi)，根據(jù)國際能源署(IEA)的數(shù)據(jù)可知，2022年全球數(shù)據(jù)中心的耗電量為460TWh（相當(dāng)于全球總用電量的2%），2026年可能會升至1,000TWh以上。根據(jù)工信部數(shù)據(jù)，截至2022年底，我國在用數(shù)據(jù)中心機架規(guī)模達到650萬標(biāo)準(zhǔn)機架，2022年，我國數(shù)據(jù)中心總耗電量達到766億kWh，占全社會耗(86372億kWh)的0.9%。數(shù)據(jù)中心功率密度和端口功率快速提升。根據(jù)華為數(shù)據(jù)，隨著算力和帶寬的快速升級，數(shù)據(jù)中心單機柜的功率密度每五年翻一番，單端口功率隨速率代際翻一番，數(shù)據(jù)中心的能耗呈現(xiàn)指數(shù)型增長，降低單位算力能耗趨勢明確。2010年至2022年間，交換機芯片帶寬容量從640Gbps增長到了51.2Tbps，80倍的帶寬增長帶來了22倍的系統(tǒng)總功耗提升，其中光學(xué)元件功率（26倍）的功耗提升尤為明顯。銅纜互聯(lián)由于不涉及光電轉(zhuǎn)化，因此具有低功耗特點，相比于有源光纜（AOC），目前的銅直接連接電纜（DAC）的功耗小于0.1W，可以忽略不計，有源電纜（AEC）亦可將功耗控制在5w以內(nèi)，可在一定程度上降低算力集群整體功耗。2.2數(shù)據(jù)中心建設(shè)成本高企，銅互聯(lián)擁有降本優(yōu)勢全球云廠商龍頭資本開支保持高增速，今年Q1以來部分云廠商持續(xù)上調(diào)全年Capex支出預(yù)期，同時各大廠商均表示2024年Capex的主要投入將用于AI業(yè)務(wù)相關(guān)建設(shè)。AI數(shù)據(jù)中心建設(shè)成本大幅提高，根據(jù)Dell’Oro，一臺AI加速服務(wù)器相較于傳統(tǒng)服務(wù)器物料成本大幅增長，除了新增的GPU以外，其他通信、存儲、電源、組裝相關(guān)成本均大幅提升。成本考量下銅互聯(lián)性價比突出。在銅纜可觸達的高速信號傳輸距離內(nèi)，相比光纖連接，銅連接方案的成本較低，此外，銅纜模組在短距離內(nèi)可以提供極低延遲的電信號傳輸并具有高可靠性，不會出現(xiàn)光纖在某些環(huán)境下可能出現(xiàn)的信號丟失或干擾風(fēng)險。同時，銅纜的物理特性使得它更易于處理和維護，并且其具有高兼容度并不需要額外的轉(zhuǎn)換設(shè)備。2.3行業(yè)龍頭先行，大量采用銅互聯(lián)英偉達于2024年3月發(fā)布最新一代Blackwell架構(gòu)GPU，在專為AI和高性能計算任務(wù)設(shè)計的數(shù)據(jù)中心服務(wù)器架NVIDIAGB200NVL72大機柜中采用了大量的銅連接方案，主要用于連接機柜內(nèi)的GPU和Switch，確保數(shù)據(jù)在不同處理單元間的迅速和準(zhǔn)確傳輸。GB200NVL72采用機架級設(shè)計，可連接36個GraceCPU和72個BlackwellGPU，與上一代H100相比GPU快6倍，為1.8T參數(shù)GPT-MoE等資源密集型應(yīng)用提供了30倍的加速，在相同功耗下提供25倍的性能。性能提升、成本降低的關(guān)鍵是銅纜的運用，機器背面共有約5000根NVLink電纜，總長度達2英里。如果使用光傳輸，就必須使用光模塊和retimer，這兩個器件僅僅驅(qū)動NVLink主干就耗電20kw，而銅纜連接方案整個機架耗電120kw，20kw的差異使得整個方案得以優(yōu)化。預(yù)計采用Blackwell平臺產(chǎn)品的廠商眾多，包括AWS，Google，Meta，Microsoft，OpenAI，Oracle，Tesla等。2024年3月18日Microsoft宣布將NVIDIAGB200引入MicrosoftAzure；Google宣布采用新的NVIDIAGraceBlackwellAI計算平臺以及GoogleCloud上的NVIDIADGXCloud服務(wù)。Oracle宣布在OCI超級集群、OCI計算和NVIDIADGXCloudonOCI中采用NVIDIAGraceBlackwell以建立數(shù)字主權(quán)并管理專有的國家和個人數(shù)據(jù)。3順應(yīng)趨勢，高速銅纜持續(xù)升級目前銅纜模組主要分為DAC，AEC，ACC三種。其中DAC（DirectAttachCable）無源直連銅纜兩端是簡單的電纜連接器，成本較低；AEC（ActiveElectricalCable）和ACC（ActiveCopperCable）均為有源電纜，相比無源DAC傳輸距離更長。3.1高速率向224Gbps迭代隨著數(shù)據(jù)中心400G和800G速率網(wǎng)絡(luò)成為主流，1.6T升級趨勢明確，目前主流用于通信領(lǐng)域的Serdes速率在56G和112G，在即將到來的224G時代，數(shù)據(jù)中心通信單端口速率將基于4通道達到800G，8通道達到1.6T，成本有望大幅下降。與之對應(yīng)的銅連接單通道速率也向著更高的112Gbps和224Gbps演進。英偉達伴隨Blackwell架構(gòu)發(fā)布的最新一代NVLinkSwitch芯片，支持72個端口，每個端口規(guī)格為2通道，單通道200Gbps，單顆Switch芯片最大支持7.2TB/s的雙向帶寬，并直接驅(qū)動銅纜模組實現(xiàn)高速互聯(lián)。3.2芯片+芯線工藝降低傳輸損耗電連接在向更高傳輸速率演進的過程中，信號的多電平脈沖幅度調(diào)制是相對明確的趨勢，以目前高速信號主流采用PAM4（4-LevelPulseAmplitudeModulation）信號技術(shù)為例，比傳統(tǒng)NRZ（Non-Return-to-Zero）信號多了兩個電平，在相同符號周期內(nèi)，PAM4信號的比特速率是NRZ信號的兩倍。而PAM4信號電壓電平之間的間隔較小因此更容易受到外界環(huán)境（尤其是噪聲）的干擾，因此在傳輸距離和散熱方面存在挑戰(zhàn)，以DAC為例，在400G速率下使用距離通常小于3米。ACC和AEC通過內(nèi)置信號增強芯片確保更長距離的高速傳輸。其中ACC一般通過Redriver芯片在Rx端通過CTLE均衡調(diào)整增益實現(xiàn)放大信號；而AEC通常使用Retimer芯片在放大和均衡Tx和Rx端信號同時還會在Rx端重新做信號整形。相較于DAC，ACC和AEC由于內(nèi)置信號增強芯片，因此在銅纜的選擇上可以采用較為輕薄、線徑較小的芯線，一般可以采用32AWG以下的銅纜。ACC有源線纜一般需要在接收端內(nèi)置均衡器，均衡器產(chǎn)生與信道特性相反的特性，用來減小或消除由于碼間干擾引起的信號失真，以達到更長距離的有效信號傳輸。伴隨銅纜模組產(chǎn)品升級，高速線纜工藝要求進一步提升。高速線纜生產(chǎn)一般包括絕緣芯線押出、平行對繞包、平行對成纜、線材編制、線材外被押出以及成品測試6大工序。線纜向高速率升級過程中，對于線纜各項工藝也提出更高要求，比如更少的芯線表面損傷，單線纜包含更多的平行對以及更好的對于信號串?dāng)_屏蔽等。4重點公司分析順應(yīng)數(shù)據(jù)中心通信網(wǎng)絡(luò)架構(gòu)升級，銅連接模組向著更高帶寬速率演進的同時，在短距通信場景下的低功耗，低成本等方面有著出色表現(xiàn)。同時伴隨行業(yè)龍頭英偉達新一代Blackwell架構(gòu)芯片產(chǎn)品以及NVL36/72解決方案逐步上量，其GPU之間以及柜內(nèi)連接采用的高速銅纜連接方案有望成為數(shù)據(jù)中心硬件通信的核心解決方案之一，相關(guān)供應(yīng)鏈有望隨之迎來增長機遇。安費諾（Amphenol）作為英偉達重要供應(yīng)商，是全球領(lǐng)先的高速互連解決方案廠商，安費諾擁有多個基于單通道224G速率解決方案，包括Paladin，OverPass，UltraPass，ExtremePort，UltraPort等線端、板端連接器以及配套線纜平臺，可支持?jǐn)?shù)據(jù)中心系統(tǒng)內(nèi)多個芯片及設(shè)備間的224G高速直接互聯(lián)。泰科（TEConnectivity）提供全球領(lǐng)先AI和數(shù)據(jù)中心的224G解決方案。TE224G產(chǎn)品組合通過設(shè)計準(zhǔn)芯片級和封裝電纜解決方案，提高了覆蓋范圍，降低了插入損耗，通過優(yōu)化阻抗，TE224G改善了回波損耗并減少了串?dāng)_，從而提高了帶寬性能，支持QSFP、QSFP、SFP、SFP-DD、OSFP-XD、QSFP-DD、CDFP等一系列連接器、殼體和電纜組件等產(chǎn)品。莫仕（Molex）提供支持?jǐn)?shù)據(jù)中心縱向、橫向擴展架構(gòu)的全面產(chǎn)品系列，公司224G產(chǎn)品和解決方案組合涵蓋板對板、背板、線端連接器，以及OSFP1600、QSFP800、QSFP-DD1600等線纜模組產(chǎn)品。Credo在SerDes架構(gòu)、AEC有源電纜、線卡PHY、DSP等領(lǐng)域擁有全球領(lǐng)先的技術(shù)實力，公司HiWire有源電纜(AEC)現(xiàn)有產(chǎn)品通過內(nèi)置retimer，gearbox,PCS,以及FECterminations可支持100G到1.6T速率傳輸，距離涵蓋從0.5米至7米的短距和中距信號傳輸。AsteraLabs專注于數(shù)據(jù)中心連接解決方案，公司借助自身PCIeRetimer產(chǎn)品的深厚技術(shù)積累，在有源電纜AEC領(lǐng)域推出Taurus系列電纜模塊，可實現(xiàn)使用線徑更小的銅纜芯線在長達7米的范圍內(nèi)完成有效傳輸，目前產(chǎn)品涵蓋200G至800G速率。Macom提供高性能LinearEqualizer用于以太網(wǎng)、InfiniBand的高速銅連接，支持50G至1.6T銅纜組件，可支持每通道高達112Gbps的數(shù)據(jù)速率。公司最新的MAEQ-40904四通道113.5GBaud(227Gbps)PAM4線性均衡器，通過單通道信號增強高達16dB來擴展ACC傳輸距離。先科電子（Semtech）最新發(fā)布的CopperEdgeGN8112四通道112GbpsPAM4線性均衡器，用于使用銅纜和背板互連的下一代400G(4x100G)和800G(8x100G)數(shù)據(jù)中心互連，GN8112可以將銅纜在112GbpsPAM4數(shù)據(jù)速率下的ACC傳輸距離延長至5米。立訊精密在數(shù)據(jù)中心高速互聯(lián)領(lǐng)域，協(xié)同頭部廠商共同制定800G、1.6T等下一代高速連接標(biāo)準(zhǔn)。公司在銅連接方面已基于自主研發(fā)的Optamax散裝電纜技術(shù)，開發(fā)了112GPAM4DAC、112GPAM4（ACC），另外公司基于OSFP224G連接器樣品初步SI測試數(shù)據(jù)已完成，同時研發(fā)224G互聯(lián)解決方案。英偉達GB200NVL72單柜整套可以提供約209萬元的解決方案，包含電連接、光連接、電源管理、散熱等產(chǎn)品，預(yù)計大機柜產(chǎn)品可觸達總市場規(guī)模將達到千億元。鴻騰精密（FIT）專注于電子及光電連接器、天線、電聲器件等領(lǐng)域，F(xiàn)IT在2024DesignCon發(fā)布其224G高速I/O產(chǎn)品，采用Synopsys224GPHYIP。另外高速率傳輸領(lǐng)域公司持續(xù)投入研發(fā)，曾開創(chuàng)性的推出直連芯片接觸點和跳線的高速連接器，有效消除信號損失，縮短芯片和連接器之間的路徑，最大化傳輸效率。兆龍互連的高速DAC、ACC產(chǎn)品涵蓋從10G到800G速率，包括SFP56/SFP112/QSFP56/QSFP112/QSFP-DD400/QSFP-DD800以及OSFP800(DAC)等多種封裝，廣泛應(yīng)用于存儲區(qū)域網(wǎng)絡(luò)、數(shù)據(jù)中心和高性能計算機連接，可大幅降低數(shù)據(jù)中心建設(shè)運維成本及制冷能耗。金信諾在高速裸線方面公司積累了獨特的信號穩(wěn)相、ePTFE絕緣、單通道雙屏蔽等核心技術(shù)；高速組件及連接器方面公司產(chǎn)品應(yīng)用于BirchSteam平臺(pcie5.0)已實現(xiàn)大批量穩(wěn)定交付國內(nèi)外一流客戶，同時公司已基本開發(fā)完成匹配英特爾下一代平臺OakStream（pcie6.0）的相關(guān)產(chǎn)品。在交換機側(cè)，公司已完成800Gbps（QSFP-DD＆OSFP）相關(guān)產(chǎn)品的開發(fā)，目前正在研發(fā)下一代1.6T224Gb/s相關(guān)產(chǎn)品。神宇股份高速數(shù)據(jù)線傳輸線產(chǎn)品主要包括USB4.0、Thunderbolt4、光電復(fù)合線、DAC高速數(shù)據(jù)線等。公司在高頻率數(shù)字信號傳輸極細同軸電纜、平行高速傳輸線纜等一系列技術(shù)持續(xù)投入研發(fā)。中航光電連接器產(chǎn)品目前已形成了不同節(jié)點排列、不同傳輸速率的產(chǎn)品譜系，高速線纜模組領(lǐng)域，公司具備內(nèi)部標(biāo)準(zhǔn)I/O、外部標(biāo)準(zhǔn)I/O、近封裝NCP模組、高速背板模組等多種接口類型，最高傳輸速率達到112Gbps，可支持800GAI數(shù)據(jù)中心互連系統(tǒng)的傳輸需求，同時公司積極布局新一代高速應(yīng)用場景，謀劃開展新產(chǎn)品的開發(fā)和研制。鼎通科技在高速通訊連接器及組件領(lǐng)域主要布局包括：高速背板連接器組件和I/O連接器組件，按工藝可分為精密結(jié)構(gòu)件和殼體（CAGE）。公司持續(xù)與直接客戶（如莫仕、安費諾、泰科電子等）拓展產(chǎn)品品類，著力開發(fā)QSFP112G和QSFP-DD等系列產(chǎn)品并對散熱器部件不斷進行優(yōu)化，目前公司產(chǎn)品單通道速度的需求現(xiàn)已達到112G。華豐科技在通訊類產(chǎn)品聚焦背板連接器、電源連接器、射頻連接器、線纜組件等產(chǎn)品技術(shù)，