智簡(jiǎn)通信系統(tǒng)及關(guān)鍵技術(shù)白皮書

智簡(jiǎn)通信系統(tǒng)及關(guān)鍵技術(shù)白皮書中關(guān)村泛聯(lián)移動(dòng)通信技術(shù)創(chuàng)新應(yīng)用研究院、北京郵電大學(xué)全球B5G/6G創(chuàng)新論壇中關(guān)村論壇2023年5月30日 本白皮書是中關(guān)村泛聯(lián)移動(dòng)通信技術(shù)創(chuàng)新應(yīng)用研究院與北京郵電大學(xué)聯(lián)合本白皮書版權(quán)屬于中關(guān)村泛聯(lián)移動(dòng)通信技術(shù)創(chuàng)新應(yīng)用研究院與北京郵電大或者觀點(diǎn)時(shí)，應(yīng)注明來源。第二章：智簡(jiǎn)通信愿景和驅(qū)動(dòng)力信息通信技術(shù)和人工智能技術(shù)(AI)的發(fā)展與融合推動(dòng)著人類社會(huì)向數(shù)字智能新階段演進(jìn)。第五代(thefifthgenerationmobilecommunicationsystem,5G)移動(dòng)通信網(wǎng)絡(luò)通過有機(jī)地融合泛在通信、計(jì)算與控制(ubiquitouscommunicationmobilecommunicationsystem,computing,andcontrol,UC3)能力，開啟了人機(jī)物互聯(lián)的新范式[1]。而第六代(thesixthgeneration,6G)移動(dòng)通信網(wǎng)絡(luò)則將通過對(duì)通信新征程[2]。3]。移動(dòng)通信新技術(shù)的發(fā)展和6G新的智簡(jiǎn)通信系統(tǒng)用層次]。效傳輸，語圖1：信息的三個(gè)層次：語法、語義、語用；對(duì)應(yīng)數(shù)據(jù)、模型和智慧的傳遞、跨人機(jī)涉及的不兼容和難互通等問題。2.智簡(jiǎn)通信系統(tǒng)架構(gòu)2.1智簡(jiǎn)通信系統(tǒng)鏈路結(jié)構(gòu)圖2：智簡(jiǎn)通信系統(tǒng)鏈路結(jié)構(gòu)(1)智簡(jiǎn)發(fā)射機(jī)設(shè)計(jì)頻譜環(huán)境、電磁環(huán)境等都因素，對(duì)信源、，行時(shí)序以及文本信源可以采用循環(huán)神經(jīng)網(wǎng)絡(luò)(RecurrentNeuralNetwork，RNN)模圖數(shù)據(jù)源采用圖卷積網(wǎng)絡(luò)(GraphConvolutionalNeuralNetwork，GCN)模型。圖3：智簡(jiǎn)通信發(fā)射端信息處理復(fù)。(2)智簡(jiǎn)接收機(jī)設(shè)計(jì)處的模型將被送入語義解碼和恢復(fù)模塊，以實(shí)現(xiàn)對(duì)接收的智簡(jiǎn)語義信息的重建2.2智簡(jiǎn)通信網(wǎng)絡(luò)架構(gòu)G1)大型服務(wù)器：位于第一層的大型服務(wù)器可以部署在核心網(wǎng)、骨干網(wǎng)或者2)普通節(jié)點(diǎn)：位于第二層的普通節(jié)點(diǎn)包括部署在接入網(wǎng)的具備計(jì)算能力的。3)部署節(jié)點(diǎn)：位于第三層的部署節(jié)點(diǎn)指網(wǎng)絡(luò)中計(jì)算資源、能量、存儲(chǔ)資源合本地存儲(chǔ)的數(shù)據(jù)，訓(xùn)練生成新的模型。1)由模型需求者發(fā)起的模型傳播：智簡(jiǎn)節(jié)點(diǎn)可以周期性地(如為實(shí)現(xiàn)自身2)由模型生成者發(fā)起的模型傳播:當(dāng)大型服務(wù)器或普通結(jié)點(diǎn)生成新的模型圖4：智簡(jiǎn)通信系統(tǒng)協(xié)議架構(gòu)切分技術(shù)將智簡(jiǎn)模型分為N個(gè)切片在多路進(jìn)行傳輸，并于信宿端重新組建。其3.智簡(jiǎn)通信系統(tǒng)協(xié)議3.1智簡(jiǎn)通信系統(tǒng)協(xié)議架構(gòu)更3.2智簡(jiǎn)模型切分傳輸技術(shù)圖5模型切分傳輸示意圖3.3智簡(jiǎn)通信路由技術(shù)基于模型切分傳輸理念，智簡(jiǎn)通信將進(jìn)一步開展智簡(jiǎn)通信路由技術(shù)的研究，圖6模型殘差傳播算法框圖B時(shí)，并非直接向擁有全部模4.智簡(jiǎn)通信系統(tǒng)指標(biāo)體系特誤碼率(BER)或符號(hào)誤碼率(SER)作為其主要性能指標(biāo)。而智簡(jiǎn)通信系統(tǒng)4.1文本對(duì)象UBLEU=BP*exppnpnxixkminhkcimaxjmhksijxixkmin(hk(ci))其中ci表示產(chǎn)生的每個(gè)句子，sij表示對(duì)于句子ci的第j個(gè)參考句子。hk(ci)和和ls分別表示產(chǎn)生的文本中和傳輸文本中的單詞的統(tǒng)計(jì)量。4.2圖像和視頻對(duì)象PSNR)。對(duì)于給定所提出系統(tǒng)中的傳輸圖像f和恢復(fù)圖像g，尺寸為M根N的灰度圖像的PSNR定義為MSE(.)表示均方誤差值，具體計(jì)算為PSNR的值越小，表示傳輸中造成較高的語義錯(cuò)誤。除了像素級(jí)的相似度測(cè)量之外，通過使用感知距離來測(cè)量兩幅圖像的相似程度，與人類判斷相一致的度量可以用于評(píng)估恢復(fù)的圖像和視頻的質(zhì)量，例如結(jié)構(gòu)相似度指數(shù)測(cè)量(structuralsimilarityindexmeasure,SSIM)、學(xué)習(xí)感知相似度(learnedperceptualsimilarity,LPIPS)度量和Fréchet視頻距離(FréchetVideoDistance,FVD)。以SSIM度量為例，SSIM度量通過引入人類視覺系統(tǒng)(HumanVisualSystem，HVS)的質(zhì)量感知概念來評(píng)估兩幅圖像之間的相似度。SSIM將間的結(jié)構(gòu)比較，ofg。C1、C2和C3表示用于避免零分母的正的常數(shù)。.3語音對(duì)象對(duì)于語音多媒體信息，其性能可以通過語音質(zhì)量以及生成信號(hào)與原始信號(hào)之間相似性的指標(biāo)來評(píng)估，例如信號(hào)失真比(signal-to-distortionratio,SDR)、語音失真的感知評(píng)估(perceptualevaluationofspeechdistortion，PESQ)。在這些指(2)PESQ=4.5-0.1dSYM-0.0309dASYM其中，dSYM和dASYM分別表示對(duì)稱和非對(duì)稱擾動(dòng)。4.4其他指標(biāo)一步考慮智簡(jiǎn)模型與用戶需求的關(guān)系，進(jìn)一步討占存儲(chǔ)資源與運(yùn)行模型所消耗的計(jì)算資源相關(guān)的智簡(jiǎn)通面，語義恢復(fù)的信息是否能夠滿足預(yù)期。語義服務(wù)質(zhì)量指標(biāo)ST(S)信息，ST(.)表示信息在執(zhí)行后續(xù)任務(wù)中的性能。使用Sigmoid等函數(shù)將ST(.)的信息完全恢復(fù)。如果SS等于0，則表示語義信息無法恢復(fù)。DTime~O(xM?K?Cl-1?Cl)l=1l。DDSpace~O(xK?Cl-1?Cl+xM2?Cl)l=1l=1章：智簡(jiǎn)通信關(guān)鍵技術(shù)信源信道聯(lián)合編解碼技術(shù)具體地，信源語義編碼傳輸與接收復(fù)原流程如圖7所示。在發(fā)送端，將信源2.模型切分技術(shù)為了滿足6G全新的應(yīng)用場(chǎng)景和個(gè)性化的極致性能需求，智簡(jiǎn)通信系統(tǒng)需要點(diǎn)的首層，供前一個(gè)結(jié)點(diǎn)索要誤差值。給其他神經(jīng)元(訓(xùn)練時(shí))，則需要向其他節(jié)點(diǎn)發(fā)出寫入誤差的申請(qǐng)。在基于分割網(wǎng)絡(luò)勢(shì)[9]。能和版本編號(hào)以及用戶對(duì)新模型功能、性能和版本(可以用于區(qū)分模型體積等)OpenImage進(jìn)行圖像智簡(jiǎn)通信系統(tǒng)具備的中央模型管理器記錄有網(wǎng)絡(luò)中每個(gè)模型的功能、性能、3.模型組建與更新機(jī)制來的諸多問題和滿足用戶極致個(gè)性化的應(yīng)用求和網(wǎng)絡(luò)資源限制的模型是智簡(jiǎn)通信需要解決的關(guān)鍵問圖10智簡(jiǎn)模型組建與更新機(jī)制的智簡(jiǎn)通信網(wǎng)絡(luò)架構(gòu)，即部署節(jié)點(diǎn)層/用戶設(shè)型服務(wù)器/核心節(jié)點(diǎn)層，根據(jù)用戶目標(biāo)性能需求和資源限自身模型積累、呼叫周邊節(jié)點(diǎn)模型、呼叫遠(yuǎn)距離大模型1)不同的智簡(jiǎn)用戶設(shè)備/部署節(jié)點(diǎn)具有不同的目標(biāo)性能，并且可以通過評(píng)價(jià)指標(biāo)識(shí)別自身積累的已有模型和目標(biāo)性能的差距，通過和周邊節(jié)點(diǎn)(包括普通節(jié)點(diǎn)和核心節(jié)點(diǎn))的交互，將本地模型和少量數(shù)據(jù)傳輸至周邊普通節(jié)點(diǎn)或核2)普通節(jié)點(diǎn)存儲(chǔ)有大量數(shù)據(jù)和通用模型，且具備訓(xùn)練中小模型的能力，知識(shí)蒸餾來完成模型的更新，或作為客戶端參與核心節(jié)點(diǎn)通節(jié)點(diǎn)可以和用戶設(shè)備及核心節(jié)點(diǎn)進(jìn)行交互，當(dāng)用戶在普習(xí)后尚未滿足目標(biāo)性能，可以呼叫遠(yuǎn)距離核心節(jié)點(diǎn)發(fā)送大將大模型的能力遷移到中小模型上，從而達(dá)到用戶的目標(biāo)3)核心節(jié)點(diǎn)存儲(chǔ)有海量數(shù)據(jù)和參數(shù)量繁多的大模型，可以進(jìn)行遷移學(xué)習(xí)或模型的進(jìn)化，或作為服務(wù)端進(jìn)行聯(lián)邦學(xué)習(xí)，完成對(duì)本地大的更新。核心節(jié)點(diǎn)可與普通節(jié)點(diǎn)及周邊用戶設(shè)備進(jìn)行交輸至周邊節(jié)點(diǎn)，或接收目標(biāo)性能要求較高的周邊用戶的數(shù)遷移學(xué)習(xí)或知識(shí)蒸餾，進(jìn)而大幅提升周邊用戶的模型性型與目標(biāo)性能的差距以及傳輸距離選定與之進(jìn)行交互的有效節(jié)點(diǎn)，當(dāng)用戶i周邊i向其發(fā)送任務(wù)i的目標(biāo)性能、原始模型和少量數(shù)據(jù)，節(jié)點(diǎn)可對(duì)原始模型進(jìn)行遷移2)普通節(jié)點(diǎn)存儲(chǔ)有大量數(shù)據(jù)，可用于訓(xùn)練得到中小規(guī)模的通用模型。普通來的少量數(shù)據(jù)對(duì)任務(wù)i的原始模型進(jìn)行遷移學(xué)習(xí)。此時(shí)若滿足用戶i的目標(biāo)性能要求，則將遷移學(xué)習(xí)得到的模型傳輸給用戶i；若尚未滿足目標(biāo)性能要求，普通節(jié)點(diǎn)則呼叫核心節(jié)點(diǎn)傳輸大模型，進(jìn)行知識(shí)蒸餾，再將得到的模型傳輸給用戶i。3)核心節(jié)點(diǎn)存儲(chǔ)有海量數(shù)據(jù)，可用于訓(xùn)練得到大規(guī)模、高性能的模型。核少量數(shù)據(jù)對(duì)任務(wù)i的原始模型進(jìn)行知識(shí)蒸餾。這是因?yàn)楹诵墓?jié)點(diǎn)處模型規(guī)模和原模型上。達(dá)到任務(wù)i的目標(biāo)性能后，核心節(jié)點(diǎn)將知識(shí)蒸餾得到的模型傳輸給用戶i。4.智簡(jiǎn)內(nèi)生安全技術(shù)不在的通信的同時(shí),多種類型的設(shè)備與多種形態(tài)的網(wǎng)絡(luò)相互連接,任何節(jié)點(diǎn)和網(wǎng)絡(luò)都有可能成為攻擊的突破口對(duì)6G網(wǎng)絡(luò)進(jìn)行滲透,安全的短板效應(yīng)更加突出，移動(dòng)通信系統(tǒng)在設(shè)計(jì)之初把安全作為一種獨(dú)立的技術(shù)，依靠“補(bǔ)丁式”“外掛式”，需要從無線網(wǎng)絡(luò)的共性和語義通信本質(zhì)出發(fā),從通信架構(gòu)設(shè)計(jì)之初就考慮語義)模型聯(lián)合訓(xùn)練階段的隱私泄露風(fēng)險(xiǎn)：盡管智簡(jiǎn)通信系統(tǒng)可以通過結(jié)合聯(lián)2)模型聯(lián)合訓(xùn)練階段的安全風(fēng)險(xiǎn)：攻擊者可以通過參與模型聯(lián)合訓(xùn)練過程升攻圖11：基于不同層提取出的語義信息重構(gòu)出的原始信息3)語義信息傳輸階段的隱私泄露風(fēng)險(xiǎn)：如圖11所示，在智簡(jiǎn)通信系統(tǒng)中，絡(luò)。圖12在無線信道中對(duì)語義信息添加“惡意語義噪聲”4)語義信息傳輸階段的安全風(fēng)險(xiǎn)：如圖12所示，在智簡(jiǎn)通信系統(tǒng)中，攻擊擊統(tǒng)進(jìn)一步，為厘清我國移動(dòng)通信發(fā)展堵點(diǎn)，形成新形勢(shì)下移動(dòng)通信“雙循環(huán)”[1]ZhangP,ZhangJ,QiQ,HuZ,NieG,NiuK,etal.Ubiquitous-X:constructingthefuture6Gnetworks[J].SciSinInform2020;50(6):913-30.HaitaoZhao,JiboWei,FangweiZhang.TowardWisdom-EvolutionaryandPrimitive-Concise6G:ANewParadigmofSemanticCommunicationNetworksJEngineering022,8(1):60-73.iuSAdvancedhybridinformationprocessingMSpringerInternationalPublishing[5]張平,許曉東,韓書君,等.智簡(jiǎn)無線網(wǎng)絡(luò)賦能行業(yè)應(yīng)用[J].北京郵電大學(xué)學(xué)報(bào),2020(6):9.[6]PingZ,XiaodongX,ChenD,etal.Intellicisecommunicationsystem:model-drivensemanticcommunications[J].TheJournalofChinaUniversitiesofPostsandTelecommunications,2022,(1):2.[8]XuXiaodong,XiongHuachao,WangYining,HanShujun,WangBizhu,ZhangPing.Knowledge-EnhancedSemanticCommunicationSystemwithOFDMTransmissions[J].SciChinaSciNov[9]ChenDong,HaotaiLiang,XiaodongXu,