2024邊緣算力藍(lán)皮書

1 1 2 4 42邊緣算力概念及關(guān)鍵特征 5 5 6 7 8 11 15 224邊緣算力典型應(yīng)用場景 24 24 26 28 31 33 36 39 40 42透，成為傳統(tǒng)產(chǎn)業(yè)智能化改造和數(shù)字化轉(zhuǎn)型的重要支點(diǎn)。另一方面，以AIGC（ArtificialIntelligenceGeneratedContent）為代表的人工智能應(yīng)用、大模型訓(xùn)練根據(jù)MachinaResearch研究報(bào)告顯示，20270億個(gè)，聯(lián)網(wǎng)設(shè)備的指數(shù)式增長造成網(wǎng)絡(luò)傳輸能力及中心云處理能力捉襟見肘。據(jù)傳輸風(fēng)險(xiǎn)，提高安全性。分，以實(shí)現(xiàn)網(wǎng)絡(luò)智能化演進(jìn)。檢測和實(shí)時(shí)反饋控制，大幅提升產(chǎn)品良率，降低人工質(zhì)檢成本。持邊緣算力在工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)等垂直領(lǐng)域的應(yīng)用試點(diǎn)。部門/省1《新型數(shù)據(jù)中心發(fā)展三年行動計(jì)劃積極構(gòu)建城市內(nèi)的邊緣算力供給體系，支撐邊緣數(shù)據(jù)的計(jì)延的新型業(yè)務(wù)應(yīng)用需求2《“十四五”信息通信行業(yè)發(fā)展規(guī)劃》到2025年實(shí)現(xiàn)數(shù)據(jù)與算力設(shè)施服務(wù)能力顯著增強(qiáng)的目標(biāo)。力設(shè)施體系。3《關(guān)于印發(fā)“十四五”數(shù)字經(jīng)濟(jì)發(fā)展加快實(shí)施“東數(shù)西算”工程，4《數(shù)字中國建設(shè)整體布局規(guī)劃》推進(jìn)數(shù)字技術(shù)與經(jīng)濟(jì)、政治、部算力高效互補(bǔ)和協(xié)同聯(lián)動，引導(dǎo)通用數(shù)據(jù)中心、超算5工信部、網(wǎng)信辦、教育部、衛(wèi)健委、《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計(jì)結(jié)合算力基礎(chǔ)設(shè)施產(chǎn)業(yè)現(xiàn)狀和發(fā)展趨勢，明確提出促進(jìn)邊緣算力協(xié)同部署，加快邊緣算力建設(shè)，支撐工業(yè)制造、金融交6網(wǎng)信辦、信部行動計(jì)劃異構(gòu)算力中心的共性標(biāo)準(zhǔn)研通。7《2023年北京數(shù)的邊緣計(jì)算能力，促進(jìn)數(shù)據(jù)、8《江西省未來產(chǎn)業(yè)發(fā)展中長期規(guī)一批算力中心、邊緣計(jì)算節(jié)9大數(shù)據(jù)產(chǎn)業(yè)發(fā)展工打造一批新型數(shù)據(jù)中心和邊緣數(shù)據(jù)中心，探索形成一批邊關(guān)于印發(fā)《上海市進(jìn)一步推進(jìn)新型加快建成支撐人工智能大模型和區(qū)塊鏈創(chuàng)新應(yīng)用的高性能算力和高質(zhì)量數(shù)據(jù)基礎(chǔ)設(shè)性能算力網(wǎng)絡(luò)體系。等相關(guān)標(biāo)準(zhǔn)；四是邊緣算力應(yīng)用標(biāo)準(zhǔn)。件標(biāo)準(zhǔn)體系，有效推動了邊緣算力底層基礎(chǔ)設(shè)施的標(biāo)準(zhǔn)化進(jìn)程。提供技術(shù)指導(dǎo)。安全、可信、高效的邊緣算力網(wǎng)絡(luò)和分布式云生態(tài)體系奠定基礎(chǔ)。能力要求提供重要參考。能、物聯(lián)網(wǎng)平臺、數(shù)據(jù)平臺等多項(xiàng)能力;中興、華為積極探索邊緣算力技術(shù)創(chuàng)新，備預(yù)測性維護(hù)模型，實(shí)現(xiàn)工業(yè)生產(chǎn)高效運(yùn)維管理。源和用戶的地方，以減少數(shù)據(jù)傳輸延遲和提高響應(yīng)速度。處理效率，提升用戶體驗(yàn)。移動互聯(lián)網(wǎng)生態(tài)的新模式和新應(yīng)用。絡(luò)與計(jì)算深度融合。網(wǎng)）或接入層（例如FTTH）等。相比傳統(tǒng)集中式算力部署，邊緣算力具有如下特征：數(shù)據(jù)格式與內(nèi)容適配。不在的網(wǎng)絡(luò)接入無處不在的算力。泛在分布：邊緣算力的顯著特征在于用戶和計(jì)算節(jié)點(diǎn)在地理上的泛在分布，由此產(chǎn)生的用戶數(shù)據(jù)也呈現(xiàn)出地理上的分散性。算力管控調(diào)度等技術(shù)算力節(jié)點(diǎn)協(xié)同聯(lián)動提供統(tǒng)一的分析處理能力。駕駛、實(shí)時(shí)游戲等。運(yùn)營成本。從而增強(qiáng)數(shù)據(jù)的隱私保護(hù)。服務(wù)安全調(diào)度安全網(wǎng)絡(luò)安全數(shù)據(jù)安全基礎(chǔ)設(shè)施安全邊緣算力安全服務(wù)安全調(diào)度安全網(wǎng)絡(luò)安全數(shù)據(jù)安全基礎(chǔ)設(shè)施安全邊緣算力安全邊緣算力邊緣算力基礎(chǔ)聯(lián)邦學(xué)習(xí) 持續(xù)學(xué)習(xí)聯(lián)邦學(xué)習(xí) 持續(xù)學(xué)習(xí)遷移學(xué)習(xí)條件計(jì)算計(jì)算卸載邊緣推理?xiàng)l件計(jì)算計(jì)算卸載 知識蒸餾裸機(jī)容器系統(tǒng)部署裸機(jī)容器智能應(yīng)用軟件框架無服務(wù)計(jì)算數(shù)據(jù)處理模型優(yōu)化 數(shù)據(jù)清洗 數(shù)據(jù)清洗 數(shù)采協(xié)議 特征工程 數(shù)據(jù)脫敏輕量化設(shè)計(jì)輕量化設(shè)計(jì)模型壓縮邊緣算力感知邊緣算力度量邊緣算力管控邊緣算力感知邊緣算力度量邊緣算力管控資源虛擬化計(jì)算資源虛擬化存儲資源虛擬化網(wǎng)絡(luò)資源虛擬化硬件資源計(jì)算資源存儲資源網(wǎng)絡(luò)資源邊緣算力基礎(chǔ)設(shè)施由硬件資源和資源虛擬化組成，前者提供邊緣算力所需的計(jì)算、存儲、網(wǎng)絡(luò)等基礎(chǔ)硬件資源，后者則通過虛擬化技術(shù)將各類異構(gòu)礎(chǔ)硬件資源抽象為邏輯資源，便于統(tǒng)一管理、調(diào)度和使用。能力。夠高效處理包括人工智能推理、圖像處理、信號處理等在內(nèi)的復(fù)雜任務(wù)。存儲資源主要負(fù)責(zé)在邊緣節(jié)點(diǎn)附近保存并緩存數(shù)據(jù)，主要包括邊纖、無線等多種設(shè)備，共同構(gòu)建可靠邊緣網(wǎng)絡(luò)基礎(chǔ)設(shè)施。邊緣算力的計(jì)算資源虛擬化是指通過虛擬化技術(shù)將邊緣設(shè)備上的物理計(jì)算用。負(fù)載和復(fù)雜應(yīng)用場景，進(jìn)一步提升了邊緣算力平臺的服務(wù)能力和響應(yīng)速度。邊緣算力的存儲虛擬化是將邊緣設(shè)備上物理存儲資源抽象為虛擬存儲資源發(fā)生故障，數(shù)據(jù)依然可以從其他節(jié)點(diǎn)快速恢復(fù)，從而減少數(shù)據(jù)丟失的風(fēng)險(xiǎn)。據(jù)訪問的效率。制，確保數(shù)據(jù)在邊緣設(shè)備之間傳輸和存儲過程中的安全性。的網(wǎng)絡(luò)架構(gòu)難以滿足邊緣算力環(huán)境下網(wǎng)絡(luò)拓?fù)浜土飨卤３指咝阅苓\(yùn)行。調(diào)整網(wǎng)絡(luò)帶寬、延遲和可靠性等參數(shù)。在邊緣算力的網(wǎng)絡(luò)虛擬化中，NFV技術(shù)的應(yīng)用也十分關(guān)鍵。傳統(tǒng)的網(wǎng)絡(luò)署和更新網(wǎng)絡(luò)功能，支持復(fù)雜的網(wǎng)絡(luò)環(huán)境和多樣化的應(yīng)用需求。邊緣算力感知是針對具體場景下的邊緣算力需求的感知和邊緣算力資源的知技術(shù)可以動態(tài)調(diào)整資源分配策略，確保計(jì)算任務(wù)的高效執(zhí)行和資源的合理利用。管理不僅實(shí)現(xiàn)了算力資源的可視化，還為資源的感得資源的可視化更加直觀，有助于對資源狀雜和多樣化的計(jì)算需求。力資源的需求。邊緣算力的計(jì)算能力度量通常采用運(yùn)算能力作為關(guān)鍵指標(biāo)，常用單位包括需要考慮內(nèi)存帶寬、功耗、延遲等因素。存儲（如HDD、SSD）和臨時(shí)存儲（如RAM）的容量和讀寫速度。對于數(shù)據(jù)密運(yùn)行的基礎(chǔ)。存儲資源可從磁盤/內(nèi)存存儲容量、IO讀寫效能、吞吐率等維度進(jìn)行度量。從而實(shí)現(xiàn)形成標(biāo)準(zhǔn)化歸一化的度量體系。節(jié)點(diǎn)，以優(yōu)化性能、減少延遲和提升資源利用效率。邊緣算力調(diào)度技術(shù)主要包括以下方面1）動態(tài)資源分配，能夠?qū)崟r(shí)監(jiān)測從而提升系統(tǒng)整體性能。（3）延遲優(yōu)化，根據(jù)用戶位置和網(wǎng)絡(luò)條件，智能選擇最合適的邊緣節(jié)點(diǎn)來執(zhí)行請求，減少數(shù)據(jù)傳輸?shù)难舆t。（4）智能分析與預(yù)測，源準(zhǔn)備。（5）故障恢復(fù)與容錯(cuò)，在邊緣節(jié)點(diǎn)發(fā)生故障時(shí)，系統(tǒng)能夠迅速將任務(wù)絡(luò)等資源的協(xié)同與優(yōu)化，以滿足多種應(yīng)用場景的需求。緣緩存的內(nèi)容和位置，以提高數(shù)據(jù)訪問速度和用戶體驗(yàn)。用的靈活部署。化調(diào)度，構(gòu)建動態(tài)共享的新型基礎(chǔ)設(shè)施合作模式。靠的算力服務(wù)。邊緣智能是邊緣算力的重要使能技術(shù)，涉及到系統(tǒng)部署、數(shù)據(jù)優(yōu)化、邊緣訓(xùn)練、邊緣推理等關(guān)鍵問題。直接影響。究。在邊緣智能場景中，隨著網(wǎng)絡(luò)自動化、通感和網(wǎng)絡(luò)分析等5G效的匯集所有數(shù)據(jù)。例如，采用UDP協(xié)議替代HTTP+TCP協(xié)議，可降低數(shù)倍能數(shù)采協(xié)議的相關(guān)研究。機(jī)器學(xué)習(xí)、關(guān)聯(lián)分析等應(yīng)用場景的使用需求。資源和能耗。模型輕量化設(shè)計(jì)是指通過一系列技術(shù)和方法，對原始的大型AI模型進(jìn)行優(yōu)減少計(jì)算量和參數(shù)數(shù)量。在此基礎(chǔ)上衍生出了神經(jīng)架構(gòu)搜索（NAS）等自動模剪枝（非結(jié)構(gòu)化剪枝/稀疏）、參數(shù)量化以及二值網(wǎng)絡(luò)等，目標(biāo)在于盡可能減少模型大小，會對原始網(wǎng)絡(luò)結(jié)構(gòu)造成極大程度的改造。技巧（如3D混合并行訓(xùn)練、激活重計(jì)算等）和自動并行工具（如數(shù)據(jù)并行、張三類技術(shù)分支進(jìn)行解決。個(gè)性化和自適應(yīng)的訓(xùn)練。遷移學(xué)習(xí)（TransferLearning）是將從一個(gè)任務(wù)（稱為源任務(wù)或源域）學(xué)到的知識應(yīng)用到另一個(gè)不同但相關(guān)的任務(wù)（稱為目標(biāo)任務(wù)或目標(biāo)域）上的機(jī)器學(xué)習(xí)法。（4）對抗知識遷移，將復(fù)雜模型中的知識遷移到簡化模型的技術(shù)，以提高后者的魯棒性，通常涉及從復(fù)雜模型到簡化模型的知識蒸餾過程。（5）計(jì)算遷將簡單或不那么密集的任務(wù)保留在邊緣設(shè)備上執(zhí)行。持續(xù)學(xué)習(xí)（ContinuousLearning）是一種允許機(jī)器學(xué)習(xí)模型在持續(xù)接收新數(shù)過擬合，模型可能會對新數(shù)據(jù)過度適應(yīng)，導(dǎo)致性能下降。（2）資源限制，某些可能需要模型進(jìn)行重大調(diào)整。速度，同時(shí)也增強(qiáng)模型靈活性，使模型能夠更好地適應(yīng)多樣化的輸入數(shù)據(jù)。條像中的特定區(qū)域，而不是整個(gè)圖像。知識蒸餾通過訓(xùn)練模仿較大模型的輸出，將知識從一個(gè)大型訓(xùn)練型集合）轉(zhuǎn)移到一個(gè)較小的模型中進(jìn)行部署。知識蒸餾的核心思想是通過引導(dǎo)輕計(jì)算卸載是指資源受限的設(shè)備將資源密集型的計(jì)算任務(wù)部分或全部遷移到隨著業(yè)務(wù)應(yīng)用的推廣,邊緣算力面臨邊緣節(jié)點(diǎn)被攻擊、邊緣節(jié)點(diǎn)作為跳板向安全防護(hù)。在網(wǎng)絡(luò)服務(wù)安全方面,需實(shí)現(xiàn)網(wǎng)安全和用戶面網(wǎng)絡(luò)功能緣算力平臺安全方面,重點(diǎn)考慮系統(tǒng)安全、邊緣服務(wù)授權(quán)、應(yīng)用切換過程中的服處理和敏感數(shù)據(jù)監(jiān)測等關(guān)鍵技術(shù)能力，保障數(shù)據(jù)全生命周期安全,保障邊緣算力所處理數(shù)據(jù)的完整性、保密性和可用性。邊緣算力中數(shù)據(jù)分散到多方算力節(jié)點(diǎn)進(jìn)行計(jì)算,使數(shù)據(jù)面臨隱私泄露和結(jié)果統(tǒng)的統(tǒng)一的數(shù)據(jù)流轉(zhuǎn)標(biāo)識和預(yù)授權(quán)能力,實(shí)現(xiàn)數(shù)據(jù)出網(wǎng)可管控、數(shù)據(jù)流轉(zhuǎn)可感知,在算力網(wǎng)絡(luò)中引入數(shù)據(jù)標(biāo)識和流轉(zhuǎn)監(jiān)測技術(shù)，及時(shí)發(fā)現(xiàn)數(shù)據(jù)流轉(zhuǎn)安全威脅,做到邊緣算力設(shè)備通過交換機(jī)路由器等聯(lián)網(wǎng)，構(gòu)建成了云邊端的服務(wù)完成。業(yè)態(tài)發(fā)展提供了強(qiáng)大動力。邊緣算力的出現(xiàn)為解決上述問題提供了新的思路，通過將計(jì)算資擴(kuò)展，滿足個(gè)性化需求，加速功能部署和系統(tǒng)升級，提高生產(chǎn)效率?？傮w而言，工業(yè)互聯(lián)網(wǎng)對邊緣算力的要求可以體現(xiàn)為：通信訪問；工業(yè)互聯(lián)網(wǎng)應(yīng)用的有效運(yùn)用；4）邊緣算力提供服務(wù)的框架，能便捷的提供典型工業(yè)互聯(lián)網(wǎng)應(yīng)用的服務(wù)。一線實(shí)現(xiàn)快速部署，具備即插即用的便捷性。中編排不同腳本進(jìn)程即可完成業(yè)務(wù)行為。5G與云邊協(xié)同框架的結(jié)合，能夠有效提升工業(yè)場景下的效率和靈活性。通產(chǎn)流程，并滿足不斷變化的生產(chǎn)需求。力。數(shù)據(jù)能力上對邊緣算力需求凸顯：向數(shù)據(jù)源，減少數(shù)據(jù)傳輸延遲，保證實(shí)時(shí)性和有效性。護(hù)居民隱私和數(shù)據(jù)安全。降低網(wǎng)絡(luò)傳輸壓力，節(jié)省帶寬資源和運(yùn)營成本。障關(guān)鍵功能不受影響，提升系統(tǒng)可靠性和穩(wěn)定性。理效率低，增加居民安全風(fēng)險(xiǎn)，降低社區(qū)整體防范效能。入侵、火災(zāi)等），及時(shí)發(fā)出告警通知，確保安全隱患得到有效處置。治理，數(shù)據(jù)資源開放共享，滿足社區(qū)智慧化應(yīng)用。邊緣終端邊緣終端停車場閘機(jī)4/5G邊緣網(wǎng)關(guān)以太網(wǎng)ModbusWiFiRs4854/5G邊緣網(wǎng)關(guān)以太網(wǎng)ModbusWiFiRs485數(shù)據(jù)清洗數(shù)據(jù)壓縮數(shù)據(jù)存儲管理平臺管理平臺邊緣算力邊緣智慧應(yīng)用數(shù)據(jù)采集數(shù)據(jù)采集數(shù)據(jù)處理數(shù)據(jù)處理智能決策數(shù)據(jù)信息數(shù)據(jù)信息全防控能力及快速響應(yīng)能力。1）本地化智能分析：利用邊緣算力平臺對智能攝像頭、門能耗監(jiān)測等設(shè)備采集的數(shù)據(jù)進(jìn)行實(shí)時(shí)處理，實(shí)現(xiàn)人/車/物識別、異常行為重大安防/消防事故監(jiān)測。模塊化邊緣設(shè)備部署：采用標(biāo)準(zhǔn)化接口與協(xié)議，實(shí)現(xiàn)設(shè)備的統(tǒng)一管理、維護(hù)、擴(kuò)容與升級，并優(yōu)化機(jī)房空間利用。4）數(shù)據(jù)安全與備份：邊緣算力將關(guān)鍵數(shù)據(jù)本縫對接，保障數(shù)據(jù)安全、可訪問性及遠(yuǎn)程備份與共享。全性，并增強(qiáng)了應(yīng)急響應(yīng)能力。具體表現(xiàn)為：減少無效數(shù)據(jù)傳輸，減輕云端壓力。能分析模型識別異常事件，提高處理效率并增強(qiáng)數(shù)據(jù)隱私安全。進(jìn)行常態(tài)化監(jiān)測，實(shí)現(xiàn)遠(yuǎn)程集中監(jiān)控和應(yīng)急響應(yīng)。于智慧城市、園區(qū)，新能源汽車等新型用能模式通過綜合能源服務(wù)、需求側(cè)響應(yīng)和能效檢測等手段,實(shí)現(xiàn)能源、信息和流動。要邊緣側(cè)具備毫秒級甚至微秒級的響應(yīng)速度。預(yù)設(shè)策略進(jìn)行自動控制，例如微電網(wǎng)的自主運(yùn)行等。用戶用能數(shù)據(jù)等，需要邊緣側(cè)具備大容量、高可靠的數(shù)據(jù)存儲能力。信技術(shù)將數(shù)據(jù)上傳至云端或控制中心。智能決策提供支持。略，如負(fù)荷調(diào)整、故障隔離、設(shè)備維護(hù)預(yù)警等，實(shí)現(xiàn)智能化的電網(wǎng)運(yùn)行管理。與執(zhí)行器實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)采集和控制。云平臺負(fù)責(zé)數(shù)據(jù)存儲、分析和遠(yuǎn)急響應(yīng)系統(tǒng)和數(shù)據(jù)湖，分別用于遠(yuǎn)程操控、安全保障和數(shù)據(jù)分析。支撐。提供了強(qiáng)大的驅(qū)動力，推動了整個(gè)生態(tài)系統(tǒng)的快速演進(jìn)。交互響應(yīng)。驗(yàn)。和游戲場景的變化，毫秒級別地完成算力資源分配，確保流暢的游戲運(yùn)行。心的延遲。壓力，這些問題都亟待有效的解決方案來推動云游戲產(chǎn)業(yè)的快速發(fā)展。算力節(jié)點(diǎn)等幾部分組成：云游戲客戶端：云游戲客戶端作為用戶與云游戲平臺交互的入口，集成解碼、體驗(yàn)。源池中為用戶動態(tài)分配最優(yōu)邊緣算力節(jié)點(diǎn)，確保用并將計(jì)算結(jié)果返回給渲染服務(wù)器，最終呈現(xiàn)給玩家。端，保障流暢的游戲體驗(yàn)。處理能力，滿足更多玩家同時(shí)在線需求，推動云游戲產(chǎn)業(yè)的快速發(fā)展。通運(yùn)營效率和服務(wù)質(zhì)量，為乘客提供更加便捷、舒適的出行體驗(yàn)?？啃?，簡化平臺層映射和同步，為智慧軌道交通提供以下關(guān)鍵能力：人員、指揮中心的聯(lián)動快速處置安全隱患，保障軌道交通運(yùn)營安全。決策依據(jù)。架構(gòu)支撐等需求，推動系統(tǒng)向更可靠、智能方向發(fā)展。行業(yè)數(shù)字化發(fā)展提供新動能。數(shù)據(jù)源售檢票數(shù)據(jù)<ModbusOPCMQTT工業(yè)以太網(wǎng)工業(yè)以太網(wǎng)視頻流接口Modbus數(shù)據(jù)源售檢票數(shù)據(jù)<ModbusOPCMQTT工業(yè)以太網(wǎng)工業(yè)以太網(wǎng)視頻流接口Modbus數(shù)據(jù)采集數(shù)據(jù)處理與數(shù)據(jù)采集數(shù)據(jù)處理與分析智能決策智能決策下發(fā)控制指令控制執(zhí)行控制執(zhí)行通信管理通信管理<數(shù)據(jù)/指令交互反饋/請求<車安全運(yùn)行。警、線路地質(zhì)災(zāi)害預(yù)警、違規(guī)堆放物的識別，保障軌道交通的安全運(yùn)營。別等功能，提高站場智能化水平。本地計(jì)算和通信能力，保障應(yīng)急處置決策的時(shí)效性?；谶吘壦懔Φ能壍澜煌ㄖ悄苓\(yùn)維系統(tǒng)將主要實(shí)現(xiàn)以下核心功能：