工業(yè)大模型技術(shù)應用與發(fā)展報告1.0-工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟中國信通院-2023.12-25正式版

工業(yè)大模型技術(shù)應用與發(fā)展報告1.02023.12行業(yè)報告資源群免責申明：本內(nèi)容非原報告內(nèi)容;1.

進群福利：進群即領(lǐng)萬份行業(yè)研究、管理方案及其他學習資源，直接打包下載報告來源互聯(lián)網(wǎng)公開數(shù)據(jù)；如侵權(quán)請聯(lián)系客服微信，第一時間清理；2.

每日分享：6+份行研精選、3個行業(yè)主題3.

報告查找：群里直接咨詢，免費協(xié)助查找4.

嚴禁廣告：僅限行業(yè)報告交流，禁止一切無關(guān)信息報告僅限社群個人學習，如需它用請聯(lián)系版權(quán)方；如有其他疑問請聯(lián)系微信。微信掃碼長期有效知識星球行業(yè)與管理資源專業(yè)知識社群：每月分享8000+份行業(yè)研究報告、商業(yè)計劃、市場研究、企業(yè)運營及咨詢管理方案等，涵蓋科技、金融、教育、互聯(lián)網(wǎng)、房地產(chǎn)、生物制藥、醫(yī)療健康等；已成為投資、產(chǎn)業(yè)研究、企業(yè)運營、價值傳播等工作助手。微信掃碼行研無憂編寫單位（排名不分先后）牽頭編寫單位：中國信息通信研究院參與編寫單位：百度在線網(wǎng)絡(luò)技術(shù)（北京）有限公司羚羊工業(yè)互聯(lián)網(wǎng)股份有限公司創(chuàng)新奇智科技集團股份有限公司智昌科技集團股份有限公司中國科學院自動化研究所中科云谷科技有限公司浪潮集團有限公司中科視語科技有限公司蘇州海賽人工智能有限公司北京通用AI研究院中工互聯(lián)北京科技集團有限公司西門子股份公司樹根互聯(lián)股份有限公司華為技術(shù)有限公司航天云網(wǎng)科技發(fā)展有限責任公司威派格智慧水務(wù)股份有限公司卡奧斯COSMOPlatIBM（國際商業(yè)機器（中國）有限公司）美云智數(shù)科技有限公司中科斯歐(合肥)科技股份有限公司阿里云計算有限公司騰訊計算機系統(tǒng)有限公司人工智能的幾個相關(guān)概念型，在海量數(shù)據(jù)和計算資源的基礎(chǔ)上通過具有大參數(shù)規(guī)模的深度學習模型型，廣義還包括CV、多模態(tài)等各種模型類型練模型，大模型的一種類型，可生成內(nèi)容一個典型產(chǎn)品大規(guī)模預訓練模型生成式AI：能夠生成文本、圖片、視頻等內(nèi)容的智能技術(shù)，人工智能

機器學習深度學習GPT生成式AI（AIGC）成理、知能力通用人工智能（AGI）1.1大模型成為通用AI新范式，引發(fā)工業(yè)應用變革討論大模型+大數(shù)據(jù)發(fā)展主旋律

(引發(fā)產(chǎn)業(yè)領(lǐng)域應用的熱烈討論與憧憬干億參數(shù)產(chǎn)業(yè)應用場景成為大模型最佳“練兵場”——科技日報GPT-1:1.1GPT-2:15億GPT-3:1750GPT=4：1.4AI大模型落地背后，正帶來一場智能制造的系統(tǒng)重構(gòu)——百度應用程序商店TB級數(shù)據(jù)1.2年工域超3000億單詞830GB代碼數(shù)據(jù)1000個外包團隊標注即時通訊E級智能超算總算力，未AppStore微信超195PFlops我國最快超算“神威·太湖之光”1.7倍…1.2工業(yè)大模型與專用小模型成為工業(yè)AI發(fā)展的兩條協(xié)同路徑工業(yè)工業(yè)專用小模型傳統(tǒng)模型結(jié)構(gòu)1滿足大成、用…

特定任務(wù)：點狀場景應用效果更好

Tran

在大層面練，以實現(xiàn)良好的通用性

模型參數(shù)一般達十億以上（最大

泛化性強：單模型應對多任務(wù)，更適合長尾落地模型參數(shù)已達萬億級）2具備在工業(yè)各環(huán)節(jié)進行應用的能力，或與工業(yè)裝備軟件等融合賦能工程層面

模型更新快：參數(shù)量少，可進行快速迭代

輕量化部署：所需存儲空間和算力更小

低成本運維：低成本開發(fā)+維護1.3大模型初步形成賦能工業(yè)的核心方式與產(chǎn)品形態(tài)3類主要4類模型產(chǎn)品形態(tài)大模型API調(diào)用或軟件方案基于ChatGPT直接開展智能客服等應用基于通用能行業(yè)成熟工業(yè)產(chǎn)品疊加基礎(chǔ)模型能力倍福將大模型融入

TwinCAT

XAE客戶端，實現(xiàn)基于對話輔助編程制造、礦山等行業(yè)大模型?基于通用底座進行場景化適配調(diào)優(yōu)或形成外掛插件工具航Ei3，用AlE面向工業(yè)或具體任務(wù)針對性開發(fā)Uni-Mol?

科大訊飛推出星火一體機…科學大模型2.1大模型賦能工業(yè)領(lǐng)域的適用邊界與核心能力適用問題：大工業(yè)領(lǐng)域應用變革

大場景

工業(yè)場景具備與設(shè)備/工業(yè)系統(tǒng)的自然交互與推理

涉及關(guān)聯(lián)復雜

數(shù)據(jù)邊界對決策效果有直接影響

生成創(chuàng)作規(guī)則式生成→工業(yè)代碼/圖文內(nèi)容的”涌現(xiàn)式”生成

大語料

工業(yè)場景的基礎(chǔ)數(shù)據(jù)/語料/規(guī)則

識優(yōu)化分析約束充足預

問題邊界清晰

結(jié)果存在于封閉信息環(huán)境，不

多依賴語料外的信息2.2應用總體視圖：4類核心模型、15+應用場景，目前處于初步探索階段應用模式75%*信通院統(tǒng)計的全球79個大模型工業(yè)應用案例四類大：75%、，問答率先切入最具變革潛力交互為主要應用模式2.2（1）大語言模型：主要應用于工業(yè)問答交互、內(nèi)容生成，以提升任務(wù)處理效率為主，暫未觸及工業(yè)核心環(huán)節(jié)有望形成具有認知、自動化執(zhí)行及結(jié)果交付的全鏈條能力工業(yè)相關(guān)性3%%74%68%高2%21%問答交互:應用相對廣泛，行業(yè)與設(shè)備的(半)開放數(shù)據(jù)是主要語料工業(yè)管理助手：實現(xiàn)BI設(shè)備控制與維保助手：從基于對話實現(xiàn)設(shè)備指令識別與維保知識獲取羅克韋爾：將數(shù)字孿生與AIGC相結(jié)合，數(shù)據(jù)查詢與圖表詢工業(yè)文檔外掛與快索：實現(xiàn)設(shè)備診斷識查詢、員工培訓計合規(guī)檢查統(tǒng)計行業(yè)、通用文檔生成：基輸入文本實現(xiàn)設(shè)計案、報告與郵件編低發(fā)代碼生成工具，可通過NLP輸入生成PLC代碼生產(chǎn)設(shè)備管理研發(fā)BACANCY：基于RPA+GPT實現(xiàn)自動郵通用內(nèi)容內(nèi)容生成問答交互件回復等功能2.2（2）專業(yè)任務(wù)大模型：

圍繞研發(fā)形成輔助設(shè)計、藥物研發(fā)兩個重點方向，進一步增強研發(fā)模式的創(chuàng)新能力面向工界、降低創(chuàng)新成本與時間工業(yè)相關(guān)性需求導向77%%高13%智能生成設(shè)計71%10%藥物/材料研發(fā)智能輔助設(shè)計:基于圖像或文本進行2D-CAD草圖構(gòu)建件及加工能力結(jié)合優(yōu)突破化高效研發(fā)：整合基因庫受樣/結(jié)構(gòu)庫，加速材料發(fā)現(xiàn)、藥物分子結(jié)構(gòu)發(fā)現(xiàn)、性能預測效率測優(yōu)化結(jié)構(gòu)和見物質(zhì)低華為：盤古藥物分子大模型，能夠基于圖結(jié)構(gòu)藥物分子輸入，實現(xiàn)高效的藥物分子生成和藥物分子定向優(yōu)化，生成1億藥物分子，新穎性達99.68%研發(fā)設(shè)備、生產(chǎn)、管理格式轉(zhuǎn)換知識發(fā)現(xiàn)2.2（3）多模態(tài)大模型與視覺大模型：在裝備智能化和視覺識別領(lǐng)域應用獲得初步嘗試結(jié)合視頻、語義、執(zhí)行等多類型數(shù)據(jù)綜合分析，有望構(gòu)建認知能力的裝備、系統(tǒng)方案及智能工廠工業(yè)相關(guān)性多模態(tài)大模型10%14%38%41%設(shè)備診斷：多模態(tài)大模型73%+外掛知識庫，對異常圖像、故障機理等進行融合分析，提升復雜異常識別精度高7%多模態(tài)大模型17%視覺大模型視覺大模型：在有限數(shù)據(jù)前提下增強單個AI質(zhì)檢/巡檢模型的能力，降低開發(fā)門檻與成本具身智能復雜環(huán)境虛擬訓練與交互：基于視覺-語言-動作大模型識別當前環(huán)境自動生成控制指令，增強機器人復雜任務(wù)執(zhí)行能力國家電網(wǎng)

：電力大模型每分鐘處理100張異常圖像、同時，通缺陷檢測/設(shè)備巡檢：基于視覺大模型替代原有小模型，實現(xiàn)單模型多視覺任務(wù)多場景賦能信息+虛作規(guī)劃低視覺大模型，驅(qū)動機器人在虛擬空間生成規(guī)劃路線大模型根據(jù)圖像進行工業(yè)異常檢測，并輸出高質(zhì)量特征描述研發(fā)設(shè)備生產(chǎn)管理谷歌：RT-2基于視覺-動作-語言大模型，利用網(wǎng)絡(luò)圖片文字數(shù)據(jù)訓練，在陌生情景執(zhí)行率達到

62%通用識別問答交互綜合應用3技術(shù)體系：大模型是工業(yè)AI深度學習路徑的深化與拓展工業(yè)適配過場景適配和多種形式部署調(diào)用，實工業(yè)大模型落地賦能數(shù)應用技術(shù)4基礎(chǔ)模核心理論用大模型有望成為賦能行業(yè)主力軍大模型與知識工程等固有技術(shù)融合成為工業(yè)應用探索方向Transformer…算法技術(shù)5數(shù)據(jù)科學機器學習

深度網(wǎng)絡(luò)知識工程專家系統(tǒng)

知識圖譜3其他學習方式高質(zhì)用的框架平臺基礎(chǔ)

2工業(yè)數(shù)據(jù)/語料支撐算力1通用AI(工業(yè))大模型3.1算力：端/邊緣側(cè)推理的大模型專用計算有望成為未來趨勢1大模型訓練側(cè)推理需滿足工業(yè)應用及峰值QPS大模型每10億模型，使用1張英偉達A100GPU進行生成的token數(shù)大約為60一體機及端側(cè)優(yōu)化芯片，實現(xiàn)推理加速模型精度float32(全)FP16int83.5G1.8G1.2G0.6G1G聯(lián)合華為發(fā)布愛

芯

元

智

-片，PSint4

西工大：基于大模型的多設(shè)備協(xié)同，采用云端統(tǒng)一控制，需求為單卡40903工業(yè)算力智能分

云端大算力和終端小算力的平衡使算力分配和性能達到最優(yōu)3.2數(shù)據(jù)：海量高質(zhì)工業(yè)數(shù)據(jù)/語料庫將成為落地部署的關(guān)鍵要素應用Prompt語料幾類核心提示語料庫視覺大模型語言大模型景數(shù)百張

工業(yè)問答檢索提示詞數(shù)據(jù)的占比約10-15%問答場景：X查詢內(nèi)容-X回——某模型A：40TB中文文本X模型效果與數(shù)據(jù)量強相關(guān)，通專業(yè)任務(wù)/多?

RT-2：13個機器人在辦公室等環(huán)?

盤古科學計算大模型：17億個化合物分子的類藥化學空間?

Meta-ESMFold：1.25億蛋白質(zhì)分子結(jié)構(gòu)數(shù)據(jù)模態(tài)function+prompt將語言指令和action映射3.3工具鏈+模型：低門檻開發(fā)和輕量化部署成為工業(yè)大模型探索重點各主體圍繞大模型開發(fā)到部署全流程工具鏈，多推理后端兼容、半自動微調(diào)成為重點知識蒸餾成為模型層面降低工業(yè)部署應用成本的探索途徑

與多推理后端兼容，實現(xiàn)工業(yè)低成本遷移需兼顧減輕模型體量、維持性能衰減，較具數(shù)學挑戰(zhàn)性小模型-1小模型-2知識傳遞大模型?

飛槳通過標準化部署接口，實現(xiàn)不同推理后端的零成本遷移2個主流路徑，工業(yè)領(lǐng)域以跟隨應用為主?

兼容20余家芯片廠商硬件設(shè)備，實現(xiàn)云邊端全場景協(xié)同模型壓縮模型增強

模型微調(diào)由手動向半自動化演進在相同的帶標簽數(shù)據(jù)集上指導子模型訓練，形成高效小規(guī)模網(wǎng)絡(luò)利用其它數(shù)據(jù)資源或優(yōu)化策略(相互學習等)提高子模型性能手動調(diào)參半自動化調(diào)參企業(yè)調(diào)參方式可視化界面參數(shù)設(shè)置模型性能觀測MakerSuite工具迭代prompt數(shù)據(jù)、算法要求較高，尚無工業(yè)實例對開源大模型進行蒸餾+預訓練+指令微調(diào)，形成工業(yè)大模型AInno-15B（150億參數(shù)）自動合成數(shù)據(jù)擴充數(shù)據(jù)集基于信息抽取能力，簡化訓練數(shù)據(jù)獲取無默認參數(shù)人工調(diào)參集成AIGC能力，基于自然語言模型性能觀測實現(xiàn)調(diào)參3.4基礎(chǔ)模型：通用大模型的快速演進和專用大模型的能力升級面向更多樣數(shù)迭代創(chuàng)新的數(shù)字支撐能力提升是主要方向，發(fā)現(xiàn)與產(chǎn)品設(shè)計形成初步成果1、時序數(shù)據(jù)大過程數(shù)據(jù)，賦能TimeGPT結(jié)構(gòu)化專業(yè)數(shù)據(jù)嵌入表示能力，訓練性是提升模型性能核心、二維拓撲圖轉(zhuǎn)向三維表征的先進表征技術(shù)是探索方向據(jù)點測試：超30萬個時序數(shù)據(jù)集，開展時、日、周、月的預測評估機構(gòu)細分方向大模型數(shù)據(jù)集大小2、多模態(tài)能力持續(xù)創(chuàng)新，加速實現(xiàn)工業(yè)圖像幾何、機理、文檔等各類數(shù)據(jù)模型的綜合感知和認知推理蛋白質(zhì)結(jié)構(gòu)預測等UR50/D1.25億（1維）MetaESMFold基于序列數(shù)據(jù)開展優(yōu)化，為現(xiàn)階段主流藥物分子生成優(yōu)化藥物分子17億（2維）華為Pangu基于分子特性開展探索，在領(lǐng)域93%數(shù)據(jù)集中表現(xiàn)最優(yōu)分子性質(zhì)預測等多數(shù)據(jù)集混合GPT-4.5融合了處理3D模型和視頻的能力深勢科技Uni-Mol2.09億（3維）

深勢科技發(fā)布Uni-Mol，直接將分子三維結(jié)構(gòu)坐標信息作為模型輸入輸出3.5大模型+工業(yè)知識圖譜：大模型可能對通用知識圖譜產(chǎn)生一定沖擊，融合共生是發(fā)展趨勢賦能圖譜加速圖譜構(gòu)建到應用過程

本體構(gòu)建大模型

使用大模型Prompt生成事件的本體

數(shù)據(jù)增強

知識圖譜直接文本化，訓練前

利用GPT生成標注數(shù)據(jù)/數(shù)據(jù)清作為預訓練語料洗，降低知識圖譜標注端成本

將知識圖譜隱式地加入到模型訓練，即譜中的結(jié)構(gòu)化信息(三元組)融入預訓練

將知識圖譜作為大模型訓練評估訓練中訓練后全

知識圖譜注入prompt/知識庫外掛，增

對大模型生成結(jié)果進行知識校驗，增強圖譜增強大模型事實驗證能力，擴展專業(yè)知識范疇，提升可解釋性賦能大模型3.6應用部署：三類核心部署方式，當前以通用模型場景化應用為主通用模型應用（公）通用模型場景化應用特定領(lǐng)域?qū)Ｓ媚Ｐ停ㄋ剑o參數(shù)更新-Prompt設(shè)計外掛知識庫（公/私）參數(shù)更新微調(diào)（公/私）工業(yè)應用上下文學習/知識梳理Prompt設(shè)計工業(yè)大模型微調(diào)/量化/蒸餾/增強...私有數(shù)據(jù)庫領(lǐng)域大模型工業(yè)應用Prompt設(shè)計訓練部署原理API接口/插件匹配/檢索領(lǐng)域數(shù)據(jù)庫通用大模型通用大模型外掛知識庫通用大模型模型結(jié)構(gòu)設(shè)計隱私性語料1.通用場景2.場景公開語料充足基于模式通用工業(yè)領(lǐng)域知識適用領(lǐng)域材料代碼生成、故取分析、企業(yè)設(shè)備控制、文檔處理、郵件回復…典型場景應用案例蛋白質(zhì)結(jié)構(gòu)預測，150億參數(shù)

谷歌-PALM-E：基于機器人17個月數(shù)據(jù)的VLA模型

ChatGPT：可直接生

百度-文心：GPT：基于ChatGPT與自有數(shù)據(jù)，提高效率

華為-盤古行業(yè)大模型文檔，分析故障原因

SymphonyAI：外掛工業(yè)成簡單功能的西門子PLC程序數(shù)據(jù)集，實現(xiàn)機器診斷4產(chǎn)業(yè)體系：不同主體布局以及技術(shù)產(chǎn)品升級業(yè)科研機構(gòu)/科技巨頭主體體系審查、設(shè)控、操作答工具工業(yè)大模型產(chǎn)品方案大模型代碼生

大模型異構(gòu)智成+檢查代碼

能機器人協(xié)同工業(yè)產(chǎn)品融合供行業(yè)/領(lǐng)域大模等場景大模型+藥物分型大模型子、礦山等行業(yè)大模型基礎(chǔ)大模型語言、CV等基礎(chǔ)大模型框架平臺計算設(shè)施大模型全鏈路工具鏈與AI昇騰支撐能力推廣打通“通用底座+一站式開發(fā)+行業(yè)賦能”全鏈條將大模型融入已有工業(yè)技術(shù)產(chǎn)品模型技術(shù)和產(chǎn)品等前沿方向創(chuàng)新的引領(lǐng)者面向特定任務(wù)/領(lǐng)域的模型與輕量化工具4.1大模型+裝備：增強具身智能水平，有望提升工業(yè)設(shè)備靈活性和協(xié)同性制指令執(zhí)行控制指令??任務(wù)從原理?與環(huán)境交互反饋，完成任務(wù)環(huán)境人控制指令1.綜合分析能力

綜合視覺、語言、空間、理解、決策能力，從被動感知向主動認知跨越2.任務(wù)執(zhí)行能力

無需控制代碼預設(shè)，實現(xiàn)模型對機器人直接控制3.強泛化能力

對于陌生場景，無需針對能力務(wù)2022.122023.32023.7柔性協(xié)的工業(yè)潛力RT-1PALM-ERT-2視覺-語言-動作模型VLA實例首個Transformer

大語言模型+機器人視覺模型流運輸將復雜指令任務(wù)分解后調(diào)用

RT-1執(zhí)行動作基于輸入圖像和簡單文本指令執(zhí)行動作實現(xiàn)大模型對機器人直接控制特定任務(wù)效率提?

多機器人協(xié)同?柔性生產(chǎn)…升3倍4.2大模型+自動化：探索極為初步，距離實際應用還相對遙遠需求基于成準確度仍有待提升分析與系統(tǒng)設(shè)計子：將大模型融入客戶端，實現(xiàn)輔助編程：將大模型融入

TwinCAT

XAE客戶端，基于對話輔助編程能力現(xiàn)狀程序開發(fā)?包含控制邏輯、接口需求的復雜Pro面臨

?

標準化的工業(yè)控制函數(shù)庫構(gòu)建具并將實現(xiàn)自挑戰(zhàn)??大模型接收文檔長度與模態(tài)限制生成代碼工業(yè)場景測試與應用參數(shù)調(diào)整基于大模型的控制參數(shù)整定已有

西門子：利用GPT-4開展非線性多因素PID控制算法整定，并完成某行業(yè)具體工況下的模擬驗證調(diào)試與集成4.3大模型+工業(yè)軟件：從效率精度提升到應用開發(fā)模式重構(gòu)開發(fā)應用模式變革

零代碼開發(fā)工業(yè)軟件需求到應用零代碼化，開發(fā)周期由年月提升至天級經(jīng)營管理軟件?

數(shù)據(jù)積累

?

規(guī)則行為端到端執(zhí)行復雜任務(wù)大模型融合程度翻模精度模型查找、設(shè)計與仿真計算效率自動生成中間步驟，替用戶拆研發(fā)設(shè)計軟件?代碼/圖形化界面對話式交互界面?識資引擎人機交互效率生產(chǎn)管控軟件??基于語言的自動排產(chǎn)自動監(jiān)控與統(tǒng)計…5當前挑戰(zhàn)場景選擇難低時效性低可信度大模型如何應用于生產(chǎn)或開展模式創(chuàng)新還不清晰，且無法直接判斷ROI大模型的認知決策取決于歷史訓練數(shù)據(jù)，在解決動態(tài)工業(yè)問題的應用效果較差具備廣博知識，但信息精確度低，制約工業(yè)核心環(huán)節(jié)/直接決策場景應用應用局限性機器視覺

VS大模型模型幻覺VS工業(yè)場景容錯率機器換人，可解問題及ROI十分清晰效率提升收益較難量化計算ChatGPT訓練數(shù)據(jù)集截止到2021年9月，無法回答訓練數(shù)據(jù)以外的問題大模型準確工業(yè)場景準確率需率80%求99%+

100%甚至工業(yè)語料匱乏工程化局限性工業(yè)場景復雜，導致高質(zhì)量工業(yè)語料難以收集，制約大模型性能100張

VS10000張+針對具體場景，小模型僅需百張圖像即可完成訓練，大模型微調(diào)可能需萬張…展望：AI與大模型加速賦能新型工業(yè)化AI與工業(yè)融合展現(xiàn)強勁產(chǎn)業(yè)增長勢頭工業(yè)人工智能探索日益活