DPU它到底有啥用

到底什么是DPU？DPU的英文全稱叫做DataProcessingUnit，與CPU只有一字之差，它們有何區(qū)別呢？對于CPU我們都了解，它為數(shù)據(jù)中心提供源源不斷的算力。但是隨著數(shù)據(jù)中心的發(fā)展，CPU不僅需要提供強大計算能力，還要提供數(shù)據(jù)中心的虛擬化、網(wǎng)絡、存儲以及安全等方面的管理，這就讓數(shù)據(jù)中心的CPU不能物盡其用。例如，你買了100核的CPU，只能用90個核，其他10個核去哪里了？跑了一堆數(shù)據(jù)中心的軟件，安全，存儲，管理等等。那么這些額外10個核的開銷部分就造成了一些浪費。相當于花了100塊錢，只有90塊錢被用在了計算上。為了提供數(shù)據(jù)中心的TCO（總擁有成本），那么就需要一個專門干臟活累活的角色。這個時候DPU就出現(xiàn)了。DPU就是來分擔CPU在數(shù)據(jù)中心中除了計算方面其它工作的。如果你還不理解DPU的作用，那我舉個例子來說明一下。就像做快餐一樣，以前需求比較少，廚師在店里將主食，菜，配料等都搭配好了，炒好了，才會給到送餐人員的去送到客戶手里。但是隨著客戶的需求越來越多，都由廚師在店里制作完成就會浪費很多時間，這個時候呢，廚師只負責制作將快餐的材料準備好了就行。由送餐人員在送餐的過程中把菜加熱好，然后送到客戶手中，就會節(jié)省廚師的很多時間。送餐人員承擔了更多的處理工作，就相當于DPU的作用。DPU是對CPU工作的一個補充，從而讓數(shù)據(jù)中心的工作更細分，效率更高。聊聊DPU的發(fā)展史？DPU這個概念是在2020年出現(xiàn)的，那一年，NVIDIA正式推出了兩款DPU產(chǎn)品：BlueField-2DPU和BlueField-2XDPU。其實在推出這兩款產(chǎn)品之前，與DPU類似的功能產(chǎn)品就已經(jīng)在數(shù)據(jù)中心中開始逐漸被使用。我們從智能網(wǎng)卡說起。當時，為了降低CPU在數(shù)據(jù)中心的額外消耗，來自以色列的Mellanox公司提出了SmartNIC（智能網(wǎng)卡）的概念。這個智能網(wǎng)卡除了能完成標準網(wǎng)卡所具有的網(wǎng)絡傳輸功能之外，還提供內(nèi)置的可編程、可配置的硬件加速引擎，在提升應用的性能和大幅降低CPU在通信中的消耗。例如，在虛擬化的環(huán)境中，CPU需要運行OVS（OpenVirtualSwitch）相關任務，同時還要處理存儲、數(shù)據(jù)包的在線加解密或離線加解密、數(shù)據(jù)包深度檢查、防火墻、復雜路由等操作，這些操作導致CPU性能不能發(fā)揮到最佳。智能網(wǎng)卡的出現(xiàn)，為解決額外消耗問題提供了新的思路。我們可以通過智能網(wǎng)卡來將OVS操作從CPU卸載下來，并完成存儲加速、數(shù)據(jù)加密、深度包檢測和復雜路由等各種功能，將花費在處理這些工作負載上的大量的CPU周期返回給主機CPU，同時解決了不同業(yè)務之間的沖突問題，大幅提升了各項業(yè)務的性能，也確保了服務器CPU能為應用提供最大的處理能力或者提供更多的虛擬機（VM）服務，創(chuàng)造更大的價值。正是看到了智能網(wǎng)卡的巨大商業(yè)價值，2019年3月，英偉達花費69億美元收購了以色列芯片公司Mellanox。并在2020年推出了DPU產(chǎn)品，從此，DPU這個概念正式進入了公眾視野。▉

DPU還有哪些應用？從上文中虛擬化中的應用我們可以看到，DPU將基礎設施任務從CPU轉(zhuǎn)移至DPU，釋放CPU的資源，使更多的服務器CPU核可用于運行應用程序，完成業(yè)務計算，從而提高服務器和數(shù)據(jù)中心的效率。那么還有哪些地方可以用到DPU呢？1.將服務從主機卸載到DPU目前，DPU還可以針對云原生環(huán)境進行優(yōu)化，加速的網(wǎng)絡、存儲、安全和管理等服務。如下圖所示，紅帽RedHat的容器化云平臺即服務（PaaS）OpenShift上，借助DPU優(yōu)化數(shù)據(jù)中心資源利用率，將網(wǎng)絡相關的數(shù)據(jù)處理（如VxLan和IPSec等）卸載到DPU加速執(zhí)行，在25Gb/s網(wǎng)絡條件下，OpenShift部署DPU用來加速，可以只用1/3的CPU占用了來達到25Gb/s性能，而在100Gb/s網(wǎng)絡條件下，未部署DPU的場景將達不到100Gb/s網(wǎng)絡線速，DPU可以帶來10倍的性能優(yōu)勢。2.提供零信任安全保護零信任（ZeroTrust）是一種以安全性為中心的模型，其基于以下思想：企業(yè)不應對其內(nèi)外的任何事物授予默認信任選項。零信任可以減少數(shù)據(jù)泄露、拒絕未授權的訪問，因此在數(shù)據(jù)安全方面價值巨大。DPU可以為企業(yè)提供零信任保護，通過將控制平面由主機下放到了DPU，實現(xiàn)主機業(yè)務和控制平面的完全隔離，數(shù)據(jù)將無法進行穿透，保證安全性。DPU的出現(xiàn)相當于為每個服務器配備了一臺"計算機前的計算機"以提供獨立、安全的基礎設施服務，并與服務器應用域安全隔離。如果主機遭受入侵，安全控制代理與被入侵主機之間的DPU隔離層可防止攻擊擴散至整個數(shù)據(jù)中心。這樣DPU就解決了企業(yè)不愿直接在計算平臺上部署安全代理的情況。通過在完全隔離于應用程序域的DPU上部署安全代理，企業(yè)不僅能獲得對應用程序工作負載的可見性，還能在其基礎設施中執(zhí)行一致的安全策略。3.助力實現(xiàn)"算存分離"通過在服務器系統(tǒng)的數(shù)據(jù)入口處引入計算資源，在DPU上獨立實現(xiàn)面對應用需求的存儲方案，幫助存儲廠商在數(shù)據(jù)中心中低成本地靈活部署、升級高級存儲協(xié)議，而完全不需要對現(xiàn)有軟件棧進行任何更改。存儲廠商可以把自家團隊為各行業(yè)應用開發(fā)的開放系統(tǒng)的直連式存儲(DAS)、縱向擴展（Scale-UP）、橫向擴展（Scale-OUT）、超融合架構(gòu)（Hyperconverged）等存儲解決方案，零開銷地推廣到各個應用領域的現(xiàn)有業(yè)務處理平臺和數(shù)據(jù)中心基礎架構(gòu)中，而所有的安全加密、數(shù)據(jù)壓縮、負載均衡等復雜又必須的功能則完全由DPU透明地卸載。存儲行業(yè)的革新算法和實現(xiàn)，可以在DPU架構(gòu)中，獨立于服務器操作系統(tǒng)進行部署。DPU技術幫助存儲廠商實現(xiàn)真正的"算存分離"，完全發(fā)揮自家產(chǎn)品的技術優(yōu)勢，打通最高效服務應用需求的通路。如今數(shù)據(jù)中心中的各項操作主要都在CPU上完成，包括計算任務和各項基礎設施任務等，而面對數(shù)據(jù)處理需求的增長，CPU的算力已經(jīng)達到瓶頸，摩爾定律逐漸失效，GPU的出現(xiàn)解決了CPU的算力問題，數(shù)據(jù)中心的瓶頸轉(zhuǎn)向基礎設施任務，如數(shù)據(jù)存儲、數(shù)據(jù)驗證、網(wǎng)絡安全等。DPU的出現(xiàn)滿足了這樣的通用的基礎設施任務加速的需求。由DPU構(gòu)建強大的基礎設施層，上層的CPU和GPU來完成計算任務。DPU具有的特性為：1）行業(yè)標準、高性能、軟件可編程的多核CPU，通?；趶V泛使用的ARM架構(gòu)，與其它SoC組件緊密耦合。2）高性能網(wǎng)絡接口，能夠以線速或網(wǎng)絡其余部分的速度解析、處理和有效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。3）豐富的靈活可編程加速引擎，可為AI和機器學習、安全、電信、存儲和虛擬化等執(zhí)行卸載并提高應用程序性能。談談DPU的未來趨勢？目前DPU以數(shù)據(jù)為中心作為計算架構(gòu)，能針對數(shù)據(jù)中心的安全、網(wǎng)絡、存儲、AI、HPC等業(yè)務進行加速。從DPU概念的提出者NVIDIA的現(xiàn)有技術發(fā)展趨勢來看，未來的技術發(fā)展趨勢將會是高度集成化的片上數(shù)據(jù)中心的模式（DataCenterInfrastructureonachip），即一個GPU、CPU、DPU共存的時代。NVIDIA布局的數(shù)據(jù)中心從核心到邊緣（Edge）都采用了統(tǒng)一的一個計算架構(gòu)--CPU、GPU、DPU，如圖所示，形成了"3U"一體架構(gòu)。3U一體的統(tǒng)一計算單元架構(gòu)將會讓管理程序、調(diào)度程序都會變得非常容易。通過CPU、GPU、DPU之間的協(xié)調(diào)計算，可以在數(shù)據(jù)中心和邊緣端都可以達到高性能與高安全性?？梢哉f，NVIDIA非常看好DPU的發(fā)展，將DPU跟CPU和GPU放在一個地位來看待。NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示："現(xiàn)代超大規(guī)模云正在推動數(shù)據(jù)中心的新架構(gòu)。需要一種旨在處理數(shù)據(jù)中心基礎設施軟件的新型處理器來卸載和加速虛擬化、網(wǎng)絡、存儲、安全和其它云原生AI服務的巨大計算負載。DPU的時代已經(jīng)到來。"除了NVIDIA，目前Intel、Marvell、NVIDIA成為最有潛力的產(chǎn)業(yè)先驅(qū)。大多數(shù)DPU方案是從基本的網(wǎng)絡控制器開始擴展至SoC。就Intel而言，其產(chǎn)品采取處理器配合FPGA，外加加速引擎的方式；Marvell則采取使用最新處26理器內(nèi)核配合加速引擎的方式；NVIDIA則采用了處理器配合ASIC，外加加速引擎的方式。這三種方式代表著DPU產(chǎn)業(yè)的未來主流的發(fā)展方向。目前，中國DPU產(chǎn)業(yè)處于起步階段，從中國國內(nèi)市場需求側(cè)來看，中國擁有世界最強的互聯(lián)網(wǎng)產(chǎn)業(yè)、規(guī)模最大的網(wǎng)民和線上生態(tài)，正是因為數(shù)據(jù)的大爆發(fā)，推動了對算力的需求，同時，中國愈加重視網(wǎng)