AI框架發(fā)展白皮書(shū)

AI框架發(fā)展白皮書(shū)（2022年）前 言AI助力當(dāng)前經(jīng)濟(jì)社會(huì)步入智能經(jīng)濟(jì)時(shí)代。世界正在進(jìn)入以新一代Intelligence）作為其中重要的使能技術(shù)，對(duì)激活實(shí)體經(jīng)濟(jì)具有溢出帶動(dòng)性很強(qiáng)的“AI框架是智能經(jīng)濟(jì)時(shí)代的操作系統(tǒng)。作為人工智能開(kāi)發(fā)環(huán)節(jié)中AIAIAI框架已經(jīng)成為了人工智能產(chǎn)業(yè)創(chuàng)新AIAIAIAIAIAI目 錄一、AI框架技術(shù)持續(xù)演進(jìn)，已形成較為完整的體系 1(一)AI框架演進(jìn)步入深化階段 1(二)AI框架技術(shù)演化出三個(gè)層次 5(三)AI框架重要性愈加突顯 13二、全球AI框架繁榮發(fā)展，多元化競(jìng)合態(tài)勢(shì)漸顯 14(一)供給主體方面，企校貢獻(xiàn)最活躍 14(二)開(kāi)源生態(tài)方面，全球進(jìn)入活躍期 16(三)市場(chǎng)格局方面，雙寡頭持續(xù)引領(lǐng) 18(四)支撐應(yīng)用方面，科研與產(chǎn)業(yè)齊驅(qū) 20(五)推廣途徑方面，三條路齊發(fā)并進(jìn) 25三、應(yīng)對(duì)未來(lái)多樣化挑戰(zhàn)，AI框架有六大技術(shù)趨勢(shì) 27(一)泛開(kāi)發(fā)：AI框架將注重前端便捷性與后端高效性的統(tǒng)一 27(二)全場(chǎng)景：AI框架將支持端邊云全場(chǎng)景跨平臺(tái)設(shè)備部署 28(三)超大規(guī)模：AI框架將著力強(qiáng)化對(duì)超大規(guī)模AI的支持 29(四)科學(xué)計(jì)算：AI框架將進(jìn)一步與科學(xué)計(jì)算深度融合交叉 31(五)安全可信：AI框架將助力提升AI模型可解釋性與魯棒性 32(六)工程化：AI框架將加速AI應(yīng)用產(chǎn)業(yè)規(guī)模級(jí)工程化落地 34四、AI框架生態(tài)遠(yuǎn)未成熟，未來(lái)發(fā)展空間可觀 36(一)從硬件適配向算子接口標(biāo)準(zhǔn)化演進(jìn) 36(二)強(qiáng)化開(kāi)源社區(qū)打造與開(kāi)源氛圍營(yíng)造 36(三)重視與高校科研院所廣泛開(kāi)放合作 37(四)推進(jìn)融入AI基礎(chǔ)設(shè)施布局落地 37(五)支持深度賦能大模型及科學(xué)計(jì)算 38圖目錄圖1AI框架技術(shù)演進(jìn) 2圖2AI框架核心技術(shù)體系 5表目錄表1Github社區(qū)中主流AI框架情況（2022.1） 16表2Gitee社區(qū)中主流AI框架情況（2022.1） 18一、AI框架技術(shù)持續(xù)演進(jìn)，已形成較為完整的體系A(chǔ)IAIAIAI（業(yè)界也稱AI開(kāi)發(fā)框AI場(chǎng)景。(一)AI框架演進(jìn)步入深化階段結(jié)合人工智能的發(fā)展歷程和AI框架的技術(shù)特性來(lái)看，AI框架的發(fā)展大致可以分為四個(gè)階段，分別為萌芽階段（2000年初期）、成長(zhǎng)階段（2012~2014年）、穩(wěn)定階段（2015年~2019年）、深化階段（2020年以后）。其發(fā)展脈絡(luò)與人工智能，特別是神經(jīng)網(wǎng)絡(luò)技術(shù)的異峰突起有非常緊密的聯(lián)系。1AI

來(lái)源：中國(guó)信息通信研究院萌芽階段：受限于計(jì)算能力不足，這一階段的神經(jīng)網(wǎng)絡(luò)技術(shù)影響力相對(duì)有限，因而出現(xiàn)了一些傳統(tǒng)的機(jī)器學(xué)習(xí)工具來(lái)提供基本支持，也就是AI框架的雛形，但這些工具或者不是專門(mén)為神經(jīng)網(wǎng)絡(luò)模型開(kāi)發(fā)定制的，或者API極其復(fù)雜對(duì)開(kāi)發(fā)者并不友好，且這些工具并沒(méi)有對(duì)GPU算力進(jìn)行支持。這一階段的AI框架并不完善，開(kāi)發(fā)者不得不進(jìn)行大量基礎(chǔ)的工作，例如手寫(xiě)反向傳播、搭建網(wǎng)絡(luò)結(jié)構(gòu)、自行設(shè)計(jì)優(yōu)化器等。Krizhevsky網(wǎng)絡(luò)架構(gòu)，即著名的ImageNetAICaffe、ChainerTheano的早期AICNN、RNNLSTMGPU訓(xùn)AIImageNetGoogleTensorFlow它至今仍是機(jī)器學(xué)習(xí)領(lǐng)域最流行的AICaffeMeta）并發(fā)布了Caffe2FacebookAI研究團(tuán)隊(duì)也發(fā)布了另一個(gè)流行的框架PyTorch，該框架拓展自Torch框架，但使用了更流行的PythonAPI。微軟研究院開(kāi)發(fā)了CNTKAmazon采用了CMU和其PaddlePaddle飛2016TensorFlowCNTKTheanoTorchCholletKerasAIAI框架都支持的自動(dòng)微分能力，TensorFlow提供了分布式版本的AI框架和支持iOSPython的基APIAI經(jīng)過(guò)激烈的競(jìng)爭(zhēng)后，最終形成了兩大陣營(yíng)，TensorFlow和PyTorch2019CNTKPyTorch；KerasTensorFlowTensorFlow2.0版本中成為其高級(jí)API（GPT-3），AIAIAI2020昇思MegEngine面深度布局。在這一階段，AI框架正向著全場(chǎng)景支持、超大規(guī)模AI(二)AI框架技術(shù)演化出三個(gè)層次根據(jù)技術(shù)所處環(huán)節(jié)及定位，當(dāng)前主流AI框架的核心技術(shù)可分為基礎(chǔ)層、組件層和生態(tài)層。圖2AI

來(lái)源：中國(guó)信息通信研究院基礎(chǔ)層基礎(chǔ)層實(shí)現(xiàn)AIAIAIAPI是AIAI源完成計(jì)算。硬件使能層是AI框架與AI編程開(kāi)發(fā)-編程接口API：開(kāi)發(fā)者通過(guò)調(diào)用編程接口來(lái)描述算法的計(jì)算過(guò)程。對(duì)于開(kāi)發(fā)者來(lái)說(shuō)，編程接口的易用性以及接口的表達(dá)3圖的機(jī)器學(xué)習(xí)編程框架包括TensorFlowMXNetTheanoTorch7Scikit-Learn。編程開(kāi)發(fā)AIPython//Julia支持。編譯優(yōu)化Pipeline并Pipeline存在較大的挑戰(zhàn)，需要AI編譯優(yōu)化(forwardmode)mode)編譯優(yōu)化TensorFlow2.0、MindSpore編譯優(yōu)化AI（）NEON編譯優(yōu)化Polyhedral編譯優(yōu)化-內(nèi)存優(yōu)化：由于硬件系統(tǒng)的內(nèi)存資源有限，特別是AIAI網(wǎng)絡(luò)編譯優(yōu)化-算子生成：AI些算子往往不能滿足開(kāi)發(fā)者算法不斷演進(jìn)的需求。因此，需要AI（DSL）AIAI框編譯優(yōu)化-中間表示：中間表示（IntermediateRepresentation，簡(jiǎn)稱IR）是對(duì)計(jì)算圖和算子格式的定義。完備的中間表示需要支持不同硬件設(shè)備算子定義和計(jì)算圖的性能優(yōu)化，支持不同類型的AI模型網(wǎng)絡(luò)結(jié)構(gòu)的靈活表達(dá)，支持不同設(shè)備間的模型中轉(zhuǎn)和遷移。硬件接入硬件接入-通信算子：用于分布式節(jié)點(diǎn)通信的函數(shù)節(jié)點(diǎn)。組件層組件層主要提供AI模型生命周期的可配置高階功能組件，實(shí)現(xiàn)細(xì)分領(lǐng)域性能的優(yōu)化提升，包括編譯優(yōu)化組件、科學(xué)計(jì)算組件、安全可信組件、工具組件等，對(duì)人工智能模型開(kāi)發(fā)人員可見(jiàn)。AI混合并行策略，例如數(shù)據(jù)流并行和模型并行的組合、數(shù)據(jù)流和Pipeline并行及優(yōu)化組件-高階優(yōu)化器：AI框架支持多種不同的一階/二階優(yōu)化器，能為開(kāi)發(fā)者提供靈活方便的接口，例如SGD優(yōu)化器、SGDM優(yōu)化器、NAG優(yōu)化器、AdaGrad優(yōu)化器、AdaDelta優(yōu)化器、Adam優(yōu)化器、Nadam優(yōu)化器等。-（AIAI+前AI（-（AI針對(duì)AIAI“AI+”（AI（。針對(duì)AI方AIAI“AI+”-AIAI“的可解釋性。對(duì)已構(gòu)筑模型進(jìn)行“解釋性分析”（TB-Net的方式-AI-AI工具組件工具組件/對(duì)應(yīng)的Python生態(tài)層生態(tài)層主要面向應(yīng)用服務(wù)，用以支持基于AI框架開(kāi)發(fā)的各種人工智能模型的應(yīng)用、維護(hù)和改進(jìn)，對(duì)于開(kāi)發(fā)人員和應(yīng)用人員均可見(jiàn)。套件/模型庫(kù)：AI框架應(yīng)對(duì)領(lǐng)域通用任務(wù)提供預(yù)訓(xùn)練模型或者定義好的模型結(jié)構(gòu)，方便開(kāi)發(fā)者獲取和開(kāi)展人工智能模型訓(xùn)練和推理，如CV、NLP等。AIAIGNNAI+CVNLPAI+如電磁仿計(jì)算套件，這些套件包含高質(zhì)量的領(lǐng)域數(shù)據(jù)集、高精度的基礎(chǔ)AIAPIAI同時(shí)AI(三)AI框架重要性愈加突顯AIAIAIAIAI率、強(qiáng)化AI算法模型能力，如基于TensorFlow的AlphaGo在極短AlphaGoAICPU為代GPUAI規(guī)模并行計(jì)算的關(guān)鍵調(diào)度者。此外，人工智能模型將主導(dǎo)智能經(jīng)濟(jì)時(shí)代各行各業(yè)細(xì)分場(chǎng)景，智能應(yīng)用將呈現(xiàn)規(guī)?；?、深度化等特點(diǎn)，而AI框架就是智能應(yīng)用快速落地的關(guān)鍵支撐者。AI作系統(tǒng)是ITAndroid/iOS+ARMAIAIAI“AI框架+”框架二、全球AI框架繁榮發(fā)展，多元化競(jìng)合態(tài)勢(shì)漸顯(一)供給主體方面，企校貢獻(xiàn)最活躍科技企業(yè)與頂尖高校對(duì)AI框架的發(fā)展成熟貢獻(xiàn)最為活躍。數(shù)字科技企業(yè)巨頭與頂尖高校是AI框架發(fā)展壯大的主體維護(hù)力量，打造技術(shù)產(chǎn)業(yè)生態(tài)、營(yíng)造學(xué)術(shù)創(chuàng)新氛圍，是兩大主體的源動(dòng)力。個(gè)人及開(kāi)源組織也扮演著重要的角色，是AI框架創(chuàng)新性、公益性的重要體現(xiàn)。AIAI業(yè)務(wù)場(chǎng)景需求激發(fā)AIAIAIGoogleMetaMicrosoftAmazonAIAIAI足滿足自身的AIMindSpore、百度PaddlePaddle、騰訊TNNMNNBytePS以及Mace等。AIAITheano、CaffeAI框架的AI給ApacheAmazonAIAIJittor“”等。(二)開(kāi)源生態(tài)方面，全球進(jìn)入活躍期AIAIAI框架的緊密互動(dòng)。開(kāi)源社區(qū)是AI框架開(kāi)發(fā)AI展的過(guò)程中起著巨大的作用。開(kāi)源社區(qū)的相關(guān)指標(biāo)，也體現(xiàn)著AIAIMicrosoftGithub推出的代碼托管平臺(tái)Gitee（）。1GithubAI框架情況（2022.1）RankFrameworkCommits1Fork2Star3Contributors4ForeignFramework1TensorFlow1244948630016300030561Commits代表開(kāi)源代碼提交的次數(shù)，表征開(kāi)源項(xiàng)目活躍度.2Fork代表代碼復(fù)刻、分叉，表征開(kāi)源項(xiàng)目被引用情況.3Star代表點(diǎn)贊數(shù)，表征開(kāi)源項(xiàng)目關(guān)注度.4Contributors代表貢獻(xiàn)者，表征開(kāi)源項(xiàng)目貢獻(xiàn)者規(guī)模.RankFrameworkCommits1Fork2Star3Contributors42PyTorch43390148005370021373Theano(StopDeveloping）28127250095003524CNTK(StopDeveloping）161164400171002015MXNet11776690019800868DomesticFramework1MindSpore3730851427002672PaddlePaddle337534300175005243MegEngine22824624100324OneFlow76213513000995Jittor1266235230031GithubGithubAIGithub指標(biāo)看，國(guó)外AI框架方面，TensorFlowAI起之秀PyTorch緊隨其后，雖在頂會(huì)占據(jù)了主流地位，但與TensorFlowMXNetAI是目前活躍度最高的AIPaddlePaddlenelw表2Gitee社區(qū)中主流AI框架情況（2022.1）RankFrameworkCommitsForkStarContributors1MindSpore38549240061007742PaddlePaddle3278819536005613OneFlow7521211264MegEngine(鏡像）2280616355Jittor123931134來(lái)源：根據(jù)Gitee社區(qū)數(shù)據(jù)整理GiteeAIMegEngineidpre在iteI框架，。(三)市場(chǎng)格局方面，雙寡頭持續(xù)引領(lǐng)AI框架由GoogleMetaGoogle、Meta、Amazon、MicrosoftAI域發(fā)力，引領(lǐng)全球AI框架技術(shù)創(chuàng)新升級(jí)趨勢(shì)，并逐步形成了以Google-TensorFlow中Star1eorlowar60，遠(yuǎn)高于排名第二的yoch（30，且ogle于9年推出長(zhǎng)期的技術(shù)支持，并與GoogleCloud服務(wù)深度集成，持續(xù)鞏固PapersCode5顯示，2021AI856soo（2.8yochAIAIAIAIAIMindSporeGiteeAIPaddlePaddleIDC202135020%。5/trends.(四)支撐應(yīng)用方面，科研與產(chǎn)業(yè)齊驅(qū)AI框架賦能學(xué)術(shù)科研AI202150068.4%AITensorFlow在Summit1.1EFLOP/sCPUTensorFlowCosmoFlow，利TensorFlow8000多個(gè)節(jié)點(diǎn)N的開(kāi)普勒-90i-90解決農(nóng)業(yè)護(hù)組織RainforestConnection我國(guó)框架作為后起之秀在學(xué)術(shù)科研領(lǐng)域已經(jīng)嶄露頭角?；贛indSpore的鵬程2000.4096張NPU.太初是基于MindSporeMindSpore打造了全球首個(gè)專用深度學(xué)習(xí)遙感框架武漢.LuojiaNet，實(shí)現(xiàn)大規(guī)模衛(wèi)星遙感影像的智能遙感解譯。PaddlePaddle聯(lián)合鵬城百度260060PaddlePaddle研發(fā)推出量子機(jī)器學(xué)習(xí)工具集量槳（PaddleQuantum），建立起了AI框架賦能產(chǎn)業(yè)應(yīng)用空客公司使用TensorFlow17000空客使用TensorFlow開(kāi)發(fā)的模型在數(shù)據(jù)流監(jiān)控過(guò)程中進(jìn)行異常檢決時(shí)間。CelgeneMXNet是一家從事免疫醫(yī)療的制藥企業(yè)，通過(guò)訓(xùn)練神經(jīng)網(wǎng)絡(luò)識(shí)別MXNet框架PyTorch幫助采礦企業(yè)DatarockDatarock的技術(shù)，5-6MindSpore300模40005000AIMindSporeAIMindSporeAI90%99.9%3MindSporeOCR識(shí)MindSpore的智“”20280MindSpore..LuojiaPaddlePaddle服務(wù)企業(yè)遍布能源、金融、工業(yè)、醫(yī)療、農(nóng)業(yè)等多個(gè)行業(yè)，助力千行萬(wàn)業(yè)智能化升級(jí)。PaddlePaddle賦能人民日?qǐng)?bào)“創(chuàng)作大腦”，覆蓋了全媒體策劃、采集、編輯、傳播效果分析等各環(huán)節(jié)和業(yè)務(wù)場(chǎng)景，可以大幅提高新聞產(chǎn)品的生產(chǎn)效率，能夠進(jìn)行視頻直播關(guān)鍵人物、語(yǔ)句識(shí)別、全網(wǎng)熱點(diǎn)數(shù)據(jù)自定義監(jiān)測(cè)預(yù)警、批量生成可視化大數(shù)據(jù)報(bào)告等多種智能化生產(chǎn)。連心醫(yī)療基于PaddlePaddle平臺(tái)開(kāi)發(fā)上線“基于CT影像的肺炎篩查與病情預(yù)評(píng)估AI系統(tǒng)”，已首先在湖南郴州湘南學(xué)院附屬醫(yī)院投入使用，可快速檢測(cè)識(shí)別肺炎病灶，為病情診斷提供病灶的數(shù)量、體積、肺部占比等定量評(píng)估信息，同時(shí)輔以雙肺密度分布的直方圖和病灶勾畫(huà)疊加顯示等可視化手段，為臨床醫(yī)生篩查和預(yù)診斷患者肺炎病情提供定性和定量依據(jù)，提升醫(yī)生診斷和評(píng)估效率。曠視MegEngine曠視Brain++90%，85%10%——500倉(cāng)庫(kù)效率提升了40%7*24一流科技OneFlow充分發(fā)揮分布式可擴(kuò)展性能優(yōu)勢(shì)，已服務(wù)科研、政務(wù)、軍工、金融等諸多行業(yè)客戶。一流科技基于OneFlow框OFOneBrain、強(qiáng)化學(xué)習(xí)解決方案OneAgent及AIOneLabOneBrain(五)推廣途徑方面，三條路齊發(fā)并進(jìn)AI從而吸引更多開(kāi)發(fā)者參與生態(tài)構(gòu)建。GoogleTensorFlow團(tuán)隊(duì)基于GitHub開(kāi)源，并逐步吸引早期開(kāi)發(fā)者向貢獻(xiàn)者轉(zhuǎn)變。圍繞TensorFlowTensorFlowAPI代碼TensorFlowTensorFlowMindSpore開(kāi)發(fā)MindSpore市/15012132AIAI前MindSpore100AI3000多AI框架也選擇通過(guò)設(shè)立創(chuàng)新基金激勵(lì)框架的創(chuàng)新應(yīng)用。華為于2020年與中國(guó)人工智能學(xué)會(huì)共同發(fā)起《中國(guó)人工智能學(xué)會(huì)華為MindSpore1600120PapersWithCode202110月統(tǒng)MindSporeAI10%（2020合成立了“CCF-”，數(shù)據(jù)、技術(shù)支持等服務(wù)，推動(dòng)AIAIAIAIAIMindSporeAIPaddlePaddleIP31OneFlowAIMindSpore“騰智造、“昇”、昇”、昇三、應(yīng)對(duì)未來(lái)多樣化挑戰(zhàn)，AI框架有六大技術(shù)趨勢(shì)(一)框架將注重前端便捷性與后端高效性的統(tǒng)一AIAPIAI高、性能優(yōu)異、易于理解和使用的API體系，TensorFlowJAX等ConsortiumforPythonDataAPIStandardsPaddlePaddle備的API（C++C#JavaGo等要以PythonSwiftforTensorFlow及倉(cāng)頡等AIPython，Julia（）Swift（）都Python在AIAI(二)全場(chǎng)景：AI框架將支持端邊云全場(chǎng)景跨平臺(tái)設(shè)備部署AIAIAI框架的“”AI框架訓(xùn)練出來(lái)的模型進(jìn)行標(biāo)準(zhǔn)化互通將是未來(lái)的挑戰(zhàn)。AIAI框架AI框架以及使得AIAI邊-云不同(三)超大規(guī)模：AI框架將著力強(qiáng)化對(duì)超大規(guī)模AI的支持AIOpenAI20205月發(fā)布GPT-31750處理前45T，在多項(xiàng)NLP及超大規(guī)模的數(shù)據(jù)集的AI產(chǎn)業(yè)界和學(xué)術(shù)界看到這種新型范式的潛力后紛紛入局，繼OpenAIMindSpore模型、阿里發(fā)布了M6模型、百度發(fā)布了文心模型等。超大規(guī)模AI正成為下一代人工智能的突破口，也是最有潛力的強(qiáng)人工智能技術(shù)。AIAI框架也提出了新的挑戰(zhàn)，可總結(jié)為“五堵墻”。一是內(nèi)存墻，大模型.盤(pán)古一4TB.20003.6EFLOPSAIE模AI“”AIAIAIAIAI存管理CPUNPUNVMe三層存儲(chǔ)AI快捷的者的調(diào)優(yōu)路徑和AI(四)科學(xué)計(jì)算：AI框架將進(jìn)一步與科學(xué)計(jì)算深度融合交叉?zhèn)鹘y(tǒng)科學(xué)計(jì)算領(lǐng)域亟需AI技術(shù)加持融合?？茖W(xué)計(jì)算一般以準(zhǔn)確的數(shù)學(xué)模型為根基，以嚴(yán)謹(jǐn)?shù)挠?jì)算方法為手段，對(duì)應(yīng)用領(lǐng)域中氣候氣象、能源材料、航空航天、生物醫(yī)藥等問(wèn)題進(jìn)行模擬。傳統(tǒng)科學(xué)計(jì)算方法通過(guò)數(shù)值迭代的方式解決問(wèn)題，面臨著維度災(zāi)難引起的計(jì)算量指數(shù)上升的問(wèn)題，導(dǎo)致在復(fù)雜問(wèn)題或者場(chǎng)景中“算不起”，甚至是“算不動(dòng)”。在科學(xué)計(jì)算的諸多領(lǐng)域仍舊存在著大量待求解的問(wèn)題，因?yàn)闄C(jī)理不清楚，或是計(jì)算過(guò)于復(fù)雜，以至于傳統(tǒng)算法難以求解。而人工智能則往往依賴于以神經(jīng)網(wǎng)絡(luò)為代表的具有“萬(wàn)能逼近”性質(zhì)的數(shù)學(xué)工具從數(shù)據(jù)中挖掘規(guī)律，從而在圖像處理等類型的任務(wù)上，實(shí)現(xiàn)超越人類水準(zhǔn)的突破。AI框架提供了科學(xué)計(jì)算問(wèn)題求解的新范式，推動(dòng)科學(xué)計(jì)算與AI共發(fā)展AI架需構(gòu)建AI與計(jì)算的一加擎持傳統(tǒng)數(shù)計(jì)算法，并過(guò)計(jì)對(duì)傳統(tǒng)值方法和AI方的混合計(jì)優(yōu)化而實(shí)現(xiàn)AI+學(xué)算端到加速AI框架需強(qiáng)化自動(dòng)分功能通過(guò)改框架自微分機(jī)和底層子實(shí)現(xiàn)支持高階分，使得AI框具備達(dá)雜科學(xué)算公能力。AI框架需富編口過(guò)新增JacobianHessianJVPVJP等接口，為AI+科學(xué)算提供合的方式，得開(kāi)以更加近數(shù)學(xué)計(jì)的方行編程AI框架內(nèi)置專領(lǐng)域?qū)W計(jì)算件面向不的科學(xué)算領(lǐng)域供簡(jiǎn)單用的科計(jì)算套，包含質(zhì)量的領(lǐng)數(shù)據(jù)高精度基礎(chǔ)AI模型和于前理的工集合MindSpore置MindSporeScience功能組并面向電子信息行業(yè)的MindSporeElec件和向生命學(xué)行業(yè)的MindSporeSPONGE 套件。PaddlePaddle 通過(guò)擴(kuò)展底層框架以及開(kāi)發(fā)PaddleScience科學(xué)計(jì)算開(kāi)發(fā)套件，具備求解科學(xué)計(jì)算問(wèn)題的能力。(五)安全可信：AI框架將助力提升AI模型可解釋性與魯棒性可解釋性的需求增加對(duì)AI框架提出進(jìn)階性要求。通過(guò)對(duì)模型決策結(jié)果以人類可理解的方式呈現(xiàn)，有助于人們理解復(fù)雜模型內(nèi)部的工作機(jī)理以及模型如何做出決策等重要問(wèn)題。安全可信的AI框架需對(duì)模型可解釋性進(jìn)行支持，將黑盒的人工智能決策轉(zhuǎn)化為可解AI性能。目前已有部分框架開(kāi)始支持可解釋性的需求，比如基于Captum出TF-explain的AIX360AlibiMindSpore的MindSporeXAI，PaddlePaddleInterpretDLAIAIAIAIMindSporeMindSpore脆弱點(diǎn)。PaddlePaddlePaddleSleeve(六)工程化：AI框架將加速AI應(yīng)用產(chǎn)業(yè)規(guī)模級(jí)工程化落地AIAIAI6G