智能控制導(dǎo)論 第4版 課件 第11章 智能控制的算力及架構(gòu)

智能控制導(dǎo)論IntroductiontoIntelligentControl智能控制導(dǎo)論第4版蔡自興編著

國家精品課程配套教材中國水利水電出版社2024

Textbooks

教材第11章智能控制的算力及架構(gòu)Ch.11ComputingPowerandArchitecture

ofIntelligentControl

11.1智能算力的定義與分類11.2智能芯片的發(fā)展11.3智能控制的算力網(wǎng)絡(luò)11.4智能控制算力的研究與應(yīng)用概況11.5小結(jié)

算力即計(jì)算能力（computingpower），是智能控制的核心要素之一和實(shí)現(xiàn)人工智能的重要保障，是繼人力、畜力、水力、熱力、電力之后的一種新的先進(jìn)生產(chǎn)力。

隨著人工智能和智能控制科技的發(fā)展，智能控制算力是硬件和軟件高度融合的智能融合架構(gòu)，對智能控制的發(fā)展及其產(chǎn)業(yè)化起到舉足輕重的作用，已成為智能控制新的重要研究領(lǐng)域。第11章智能控制的算力及架構(gòu)11.1智能算力的定義與分類11.1.1智能算力的定義定義11.1：2018年諾貝爾獎(jiǎng)獲得者威廉·諾德豪斯（WilliamD.Nordhaus）將算力定義為設(shè)備根據(jù)內(nèi)部狀態(tài)的改變每秒能夠處理的信息數(shù)據(jù)量。定義11.2：算力是機(jī)器在數(shù)學(xué)上的歸納和轉(zhuǎn)化能力，把抽象復(fù)雜的數(shù)學(xué)表達(dá)式或數(shù)字通過數(shù)學(xué)方法轉(zhuǎn)換為可以理解的數(shù)學(xué)式子的能力。定義11.3：算力是機(jī)器通過對信息數(shù)據(jù)進(jìn)行處理實(shí)現(xiàn)目標(biāo)結(jié)果輸出的計(jì)算能力。定義11.4：算力（也稱哈希率）是比特幣網(wǎng)絡(luò)處理能力的度量單位，即計(jì)算機(jī)計(jì)算哈希函數(shù)輸出的速度（每秒運(yùn)算次數(shù)）。11.1.1智能算力的定義（續(xù)）算力的衡量單位

如同水力、熱力、電力等各有衡量指標(biāo)和計(jì)量單位一樣，算力也有衡量指標(biāo)和基準(zhǔn)單位。常用的算力衡量單位是FLOPS（每秒浮點(diǎn)運(yùn)算次數(shù)）、TFLOPS（每秒一萬億指令數(shù)）等。還有MIPS（每秒百萬指令數(shù)）、DMIPS（整數(shù)運(yùn)算每秒百萬指令數(shù)）、OPS（每秒運(yùn)算次數(shù)）等。1.按技術(shù)架構(gòu)分類

一般將算力分為兩大類，即通用算力和專用算力。承擔(dān)輸出算力任務(wù)的芯片，也相應(yīng)地分為通用芯片和專用芯片。CPU（CentralProcessingUnit，中央處理器）芯片專用芯片主要包括FPGA（FieldProgrammableGateArray，現(xiàn)場可編程門陣列）和ASIC（ApplicationSpecificIntegratedCircuit，專用集成電路）。神經(jīng)擬態(tài)芯片（NeuromimeticChip，NMC），即類腦芯片11.1.2智能算力和芯片的分類2.按芯片位置分類（1）云端人工智能芯片

運(yùn)算能力強(qiáng)大，功耗較高，一般部署在公有云、私有云、混合云或數(shù)據(jù)中心、超算中心等領(lǐng)域，主要用于深度神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練和推理，處理語音、視頻、圖像等海量數(shù)據(jù)，支持大規(guī)模并行計(jì)算，通常以加速卡的形式集成多個(gè)芯片模塊，并行完成相關(guān)計(jì)算任務(wù)。

在數(shù)據(jù)中心，又將算力的計(jì)算任務(wù)分為基礎(chǔ)通用計(jì)算和HPC高性能計(jì)算（High-performancecomputing）。11.1.2智能算力和芯片的分類（續(xù)）2.按芯片位置分類（續(xù)）（2）邊緣端人工智能芯片

這類芯片一般功耗低、體積小、性能要求不高、成本也較低，相比于云端芯片來說，不需要運(yùn)行特別復(fù)雜的算法，只需具備少量的人工智能計(jì)算能力，一般部署在智能手機(jī)、無人機(jī)、攝像頭、邊緣計(jì)算設(shè)備、工控設(shè)備等移動(dòng)設(shè)備或嵌入式設(shè)備上。11.1.2智能算力和芯片的分類（續(xù)）3.按算力任務(wù)分類（1）人工智能訓(xùn)練芯片

指專門對人工智能訓(xùn)練算法進(jìn)行優(yōu)化加速的芯片，由于訓(xùn)練所需的數(shù)據(jù)量巨大，算法復(fù)雜度高，因此，訓(xùn)練芯片對算力、能效、精度等要求非常高，還要具備較高的通用性。（2）人工智能推理芯片

指專門對人工智能推理算法進(jìn)行優(yōu)化加速的芯片，更加關(guān)注能耗、算力、時(shí)延、成本等綜合因素。11.1.2人工智能算力和芯片的分類（續(xù)）1.CPU階段（2006年以前）

人工智能算法尚未出現(xiàn)突破，能夠獲取的數(shù)據(jù)也較為有限，傳統(tǒng)通用CPU已能完全滿足計(jì)算需要，學(xué)術(shù)界和產(chǎn)業(yè)界對人工智能芯片均未提出特殊要求。因此，這個(gè)階段人工智能芯片產(chǎn)業(yè)的發(fā)展較為緩慢。2.GPU階段（2006-2010年）

智能游戲和高清視頻等行業(yè)快速發(fā)展，助推了GPU產(chǎn)品的迭代升級(jí)。GPU在人工智能領(lǐng)域的研究和應(yīng)用中開始獲得大規(guī)模使用。11.2.1智能芯片的發(fā)展簡史11.2智能芯片的發(fā)展3.CPU+GPU階段（2010—2015年）

以云計(jì)算和大數(shù)據(jù)為代表的新一代信息技術(shù)高速發(fā)展，云端采用“CPU+GPU”混合計(jì)算模式，推動(dòng)人工智能算法的演進(jìn)和人工智能芯片的廣泛使用，促進(jìn)各類人工智能芯片的研究與開發(fā)。4.專用AI芯片階段（2016年至今）

采用TPU(TensorProcessingUnit，張量處理單元），專為機(jī)器學(xué)習(xí)而定制的芯片，經(jīng)過專門深度機(jī)器學(xué)習(xí)訓(xùn)練，使系統(tǒng)具有更高的計(jì)算能力。研發(fā)專門針對人工智能算法進(jìn)行優(yōu)化的各種定制化芯片，使人工智能算力在應(yīng)用領(lǐng)域、計(jì)算能力、能耗比等方面都有了極大的提升。11.2.1人工智能芯片的發(fā)展簡史（續(xù)）

目前智能芯片出現(xiàn)如下發(fā)展態(tài)勢：物聯(lián)網(wǎng)等人工智能應(yīng)用領(lǐng)域快速發(fā)展催生超低功耗人工智能芯片、開源芯片有望成為人工智能芯片的發(fā)展新秀、人工智能芯片將從確定算法和場景的加速芯片向通用智能芯片發(fā)展、類腦芯片領(lǐng)域呈現(xiàn)異軍突起之勢。

1.開發(fā)超低功耗芯片

2.開源芯片成為新秀

3.發(fā)展通用智能芯片

4.類腦芯片異軍突起11.2.2

智能芯片的發(fā)展態(tài)勢11.3.1智能算力網(wǎng)絡(luò)的定義和特征

1.智能算力網(wǎng)絡(luò)的定義

算力網(wǎng)絡(luò)（ComputingForceNewwork或ComputingFirstNewwork,CFN）定義11.5：算力網(wǎng)絡(luò)是以算為中心、網(wǎng)為根基，與云計(jì)算、人工智能、邊緣計(jì)算、區(qū)塊鏈、智能終端、網(wǎng)絡(luò)安全等技術(shù)深度融合，提供一體化服務(wù)的新型基礎(chǔ)設(shè)施。定義11.6：算力網(wǎng)絡(luò)是一種根據(jù)業(yè)務(wù)需求，在云、網(wǎng)、邊之間按需分配和靈活調(diào)度計(jì)算資源、存儲(chǔ)資源以及網(wǎng)絡(luò)資源的新型信息基礎(chǔ)設(shè)施。

11.3智能控制算力網(wǎng)絡(luò)1.智能算力網(wǎng)絡(luò)的定義（續(xù)）

從宏觀上看，算力網(wǎng)絡(luò)是一種思路，一種概念。從微觀上看，算力網(wǎng)絡(luò)是一種架構(gòu)和性質(zhì)與傳統(tǒng)網(wǎng)絡(luò)完全不同的網(wǎng)絡(luò)。

算力網(wǎng)絡(luò)的作用是為用戶提供算力資源服務(wù)，但其實(shí)現(xiàn)方式與“云計(jì)算+通信網(wǎng)絡(luò)”的傳統(tǒng)方式不同，是將算力資源徹底“融入”通信網(wǎng)絡(luò)，以整體形式提供符合用戶需求的算力資源服務(wù)。構(gòu)建了一張"算網(wǎng)"，有了算力就能夠通過“超算”實(shí)現(xiàn)人臉識(shí)別、同聲翻譯、智能游戲、腦機(jī)對接等智能行為。11.3.1智能算力網(wǎng)絡(luò)的定義和特征（續(xù)）2.智能算力網(wǎng)絡(luò)的特征

智能算力網(wǎng)絡(luò)具有以下4個(gè)特征：

（1）資源抽象

需要將各種資源等都抽象出來，作為產(chǎn)品的組成部分提供給客戶。（2）業(yè)務(wù)承諾

以業(yè)務(wù)需求劃分服務(wù)等級(jí)，而不是簡單地以地域劃分，向客戶承諾各種業(yè)務(wù)。（3）統(tǒng)一管控

統(tǒng)一管控云計(jì)算節(jié)點(diǎn)、邊緣計(jì)算節(jié)點(diǎn)、網(wǎng)絡(luò)資源等，根據(jù)業(yè)務(wù)需求對算力資源以及相應(yīng)的網(wǎng)絡(luò)資源、存儲(chǔ)資源等進(jìn)行統(tǒng)一調(diào)度。（4）彈性調(diào)度

實(shí)時(shí)監(jiān)測業(yè)務(wù)流量，動(dòng)態(tài)調(diào)整算力資源，完成各類任務(wù)的高效處理和整合輸出，并實(shí)現(xiàn)資源的彈性伸縮，優(yōu)化算力分配。11.3.1智能算力網(wǎng)絡(luò)的定義和特征（續(xù)）1.算力網(wǎng)絡(luò)的主要任務(wù)（1）邊緣計(jì)算節(jié)點(diǎn)狀態(tài)的實(shí)時(shí)感知

實(shí)時(shí)感知邊緣計(jì)算節(jié)點(diǎn)的負(fù)載狀況對于合理分配計(jì)算任務(wù)，高效利用邊緣計(jì)算資源具有重要意義。邊緣計(jì)算節(jié)點(diǎn)狀態(tài)的實(shí)時(shí)感知是均衡地使用計(jì)算和網(wǎng)絡(luò)資源、動(dòng)態(tài)高效地處理調(diào)度計(jì)算任務(wù)的基礎(chǔ)。（2）邊緣計(jì)算資源的分布式協(xié)同處理及調(diào)度

算力網(wǎng)絡(luò)支持大規(guī)模邊緣計(jì)算節(jié)點(diǎn)互聯(lián)和協(xié)作，提供優(yōu)化的服務(wù)訪問和負(fù)載均衡機(jī)制。算力網(wǎng)絡(luò)可根據(jù)計(jì)算任務(wù)的要求，結(jié)合實(shí)時(shí)計(jì)算負(fù)載和網(wǎng)絡(luò)狀態(tài)條件，將計(jì)算任務(wù)動(dòng)態(tài)調(diào)度到最匹配的邊緣計(jì)算節(jié)點(diǎn)，從而提高計(jì)算資源利用率和用戶體驗(yàn)。11.3.2智能算力網(wǎng)絡(luò)的基本架構(gòu)和工作機(jī)制2.算力網(wǎng)絡(luò)的基本架構(gòu)算力網(wǎng)絡(luò)（CFN）的原理架構(gòu)包括CFN節(jié)點(diǎn)、CFN服務(wù)、CFN適配器等3個(gè)部分，如圖10.1所示。（1）CFN節(jié)點(diǎn)CFN節(jié)點(diǎn)是CFN網(wǎng)絡(luò)的基本功能實(shí)體，一般集成在邊緣計(jì)算節(jié)點(diǎn)中，可實(shí)時(shí)提供節(jié)點(diǎn)的計(jì)算資源負(fù)載情況以及向用戶終端提供CFN服務(wù)訪問的能力。CFN節(jié)點(diǎn)主要包括CFN入口和CFN出口。（2）CFN服務(wù)CFN服務(wù)是CFN節(jié)點(diǎn)服務(wù)注冊表中的一個(gè)單位，代表一個(gè)應(yīng)用服務(wù)，具有唯一服務(wù)ID（SID）。11.3.2智能算力網(wǎng)絡(luò)的基本架構(gòu)和工作機(jī)制（續(xù)）圖11.1CFN的原理架構(gòu)11.3.2智能算力網(wǎng)絡(luò)的基本架構(gòu)和工作機(jī)制（續(xù)）11.3.2智能算力網(wǎng)絡(luò)的基本架構(gòu)和工作機(jī)制（續(xù)）圖15.2CFN體系架構(gòu)的控制平面和數(shù)據(jù)平面

控制平面：服務(wù)狀態(tài)信息通告和分發(fā)

數(shù)據(jù)平面：計(jì)算任務(wù)分發(fā)和調(diào)度

接口：各設(shè)備、網(wǎng)元功能間的通信接口11.3.2智能算力網(wǎng)絡(luò)的基本架構(gòu)和工作機(jī)制（續(xù)）2.算力網(wǎng)絡(luò)的基本架構(gòu)（續(xù)）（3）CFN適配器CFN適配器是一個(gè)重要的功能實(shí)體，并通過保持BIP信息、識(shí)別初始請求包等方式幫助終端設(shè)備接入CFN。它可以作為CFN節(jié)點(diǎn)（內(nèi)部模式）的一部分實(shí)現(xiàn)，也可以在單獨(dú)的設(shè)備（外部模式）上實(shí)現(xiàn)。

算力網(wǎng)絡(luò)的體系架構(gòu)可以分為控制平面和數(shù)據(jù)平面。控制平面是在CFN間通告擴(kuò)散服務(wù)狀態(tài)信息，包括計(jì)算服務(wù)狀態(tài)信息和網(wǎng)絡(luò)服務(wù)狀態(tài)信息。數(shù)據(jù)平面是基于SID從CFN人口經(jīng)過IP底層、CFN出口和應(yīng)用編程接口API至服務(wù)端，進(jìn)行尋址和路由轉(zhuǎn)發(fā)，進(jìn)而實(shí)現(xiàn)計(jì)算任務(wù)的分發(fā)調(diào)度。11.3.2智能算力網(wǎng)絡(luò)的基本架構(gòu)和工作機(jī)制（續(xù)）3.人工智能算力網(wǎng)絡(luò)的工作機(jī)制（流程）（1）CFN適配器識(shí)別來自終端設(shè)備的新服務(wù)請求，可通過特定的SID傳播地址范圍來識(shí)別。（2）CFN適配器將請求轉(zhuǎn)發(fā)到其關(guān)聯(lián)的CFN入口。（3）CFN入口確定最合適的CFN出口，然后將請求轉(zhuǎn)發(fā)到選定的CFN出口。（4）CFN出口接收來自CFN入口的請求，并使用BIP作為目的地址，接入所需的服務(wù)。（5）CFN適配器保持關(guān)于流的綁定信息。（6）CFN入口將來自相同流中相同服務(wù)的后續(xù)數(shù)據(jù)包發(fā)送到綁定的CFN出口，以保持其業(yè)務(wù)流粘性。（7）CFN各節(jié)點(diǎn)將服務(wù)節(jié)點(diǎn)的狀態(tài)定期彼此分發(fā)。1.計(jì)算與網(wǎng)絡(luò)資源狀態(tài)感知機(jī)制

實(shí)時(shí)動(dòng)態(tài)地感知邊緣網(wǎng)絡(luò)的狀態(tài)，如傳輸時(shí)延、抖動(dòng)、帶寬資源利用率等網(wǎng)絡(luò)信息，進(jìn)而選擇一條最優(yōu)的傳輸路徑分發(fā)計(jì)算任務(wù)對提升算力網(wǎng)絡(luò)系統(tǒng)性能具有重要意義。為了保證計(jì)算與網(wǎng)絡(luò)資源實(shí)時(shí)感知，CFN節(jié)點(diǎn)之間需要相互通告相關(guān)的狀態(tài)信息，包括關(guān)聯(lián)的SID信息以及SID對應(yīng)的計(jì)算負(fù)載信息。2.計(jì)算任務(wù)調(diào)度機(jī)制

包括計(jì)算節(jié)點(diǎn)選擇、網(wǎng)絡(luò)鏈路選擇、計(jì)算任務(wù)分派和動(dòng)態(tài)任播等問題。利用云網(wǎng)融合技術(shù)以及SDN／NFV等新型網(wǎng)絡(luò)技術(shù)，將邊緣計(jì)算節(jié)點(diǎn)、云計(jì)算節(jié)點(diǎn)以及含廣域網(wǎng)在內(nèi)的各類網(wǎng)絡(luò)資源深度融合在一起，為客戶提供包含計(jì)算、存儲(chǔ)和連接的整體算力服務(wù)。11.3.3人工智能算力網(wǎng)絡(luò)的關(guān)鍵技術(shù)

介紹一種融合邊緣計(jì)算的新型科研云服務(wù)架構(gòu)，闡述該架構(gòu)的基本功能，給出相關(guān)典型應(yīng)用場景與服務(wù)能力。該架構(gòu)能夠滿足科學(xué)計(jì)算在數(shù)據(jù)傳輸優(yōu)化、虛擬組網(wǎng)、5G融合接入、邊云協(xié)同算力網(wǎng)絡(luò)和邊緣云科研應(yīng)用服務(wù)等多場景需求。1.系統(tǒng)架構(gòu)

本系統(tǒng)以計(jì)算存儲(chǔ)網(wǎng)絡(luò)融合路線為基礎(chǔ)，整合5G、邊緣計(jì)算、人工智能、網(wǎng)絡(luò)虛擬化等技術(shù)，形成異構(gòu)融合、云邊協(xié)同人工智能算力網(wǎng)絡(luò)架構(gòu)，如圖11.3所示。

11.3.4智能算力網(wǎng)絡(luò)的應(yīng)用示例云中國科技云SD-WAN邊緣云n邊緣云1邊緣云i邊緣云2網(wǎng)邊

圖11.3云網(wǎng)邊協(xié)同的科技云系統(tǒng)架構(gòu)11.3.4智能算力網(wǎng)絡(luò)應(yīng)用示例（續(xù)）11.3.4智能算力網(wǎng)絡(luò)應(yīng)用示例（續(xù)）2.功能架構(gòu)

在云網(wǎng)邊協(xié)同的科技云功能架構(gòu)中，基于“智能接入與邊緣計(jì)算”與“SDN高速網(wǎng)絡(luò)”，實(shí)現(xiàn)多樣化接入資源與高速廣域傳輸資源的一體化管理，為用戶提供端到端的柔性網(wǎng)絡(luò)服務(wù)?；诔诤嫌?jì)算及大數(shù)據(jù)存儲(chǔ)管理技術(shù)，有效整合邊緣計(jì)算、云計(jì)算、超級(jí)計(jì)算、智能計(jì)算、分布式存儲(chǔ)等全局計(jì)算與存儲(chǔ)資源，提供高通量計(jì)算、可靠存儲(chǔ)與可視化交互服務(wù)?；凇爸悄芄芸嘏c運(yùn)行服務(wù)”，實(shí)現(xiàn)全局計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)資源的智能調(diào)度管理，打通科學(xué)數(shù)據(jù)“采集、匯聚、傳輸、處理、交互”全流程，為重大科技創(chuàng)新活動(dòng)提供新型“云網(wǎng)一體”智能服務(wù)。11.3.4智能算力網(wǎng)絡(luò)應(yīng)用示例（續(xù)）3.典型應(yīng)用場景與服務(wù)能力

（1）傳輸優(yōu)化

（2）虛擬組網(wǎng)

（3）5G融合接入

（4）邊云協(xié)同算力網(wǎng)絡(luò)

（5）邊緣云科研應(yīng)用服務(wù)11.4智能控制算力的研究與應(yīng)用概況

近年來，國內(nèi)外對智能控制算力開展了深入研究，獲得十分廣泛應(yīng)用。本節(jié)介紹其中部分成果，顯示出智能控制算力的魅力。

智能控制及其智能算法將在各個(gè)領(lǐng)域中得到廣泛的應(yīng)用，并帶來更多機(jī)遇：

（1）智能化升級(jí)：隨著對智能化需求的增加，智能控制將廣泛應(yīng)用智能家電、電動(dòng)工具、園林工具和新能源汽車等領(lǐng)域，智能控制器是實(shí)現(xiàn)智能化升級(jí)的關(guān)鍵。

（2）數(shù)據(jù)收集與分析：智能控制通過傳感器等設(shè)備收集大量數(shù)據(jù)，并利用智能算法進(jìn)行分析和處理，用于產(chǎn)品的優(yōu)化和改進(jìn)，并為企業(yè)提供更準(zhǔn)確的決策支持。智能控制還在物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)中承擔(dān)著重要功能。11.4智能控制算力的研究與應(yīng)用概況（續(xù)）

（3）人機(jī)交互：隨著人工智能技術(shù)的不斷進(jìn)步，智能控制能夠更好地與人進(jìn)行交互。智能制造、智慧交通、智能音箱、智能家居等產(chǎn)品需要智能控制器的支持，以實(shí)現(xiàn)更為自然、智能、人性化的交互方式。例如，智能控制在生產(chǎn)線上可以控制機(jī)器人、AGV等設(shè)備，實(shí)現(xiàn)自動(dòng)化和智能化生產(chǎn)。