AI大模型研究框架

AI多模態(tài)大模型科學計算大模型盤古大模型多模態(tài)大模型科學計算大模型盤古大模型NLP大模型CV大模型服務(wù)器AI資料來源：摘要目前我們將迎來科技的重大轉(zhuǎn)折點：ChatGPT時刻。而在ChatGPT背后，不斷迭代的GPT系列使得大模型成為當下科技企業(yè)核心競爭力的重要體現(xiàn)，未來，大模型將成為AIGC時代的核心支撐。華為作為國內(nèi)科技龍頭，2021年發(fā)布的盤古大模型有望在AIGC時代中引領(lǐng)潮流。我們將從：昇騰/鯤鵬→MindSporeAI框架→ModelArts→盤古大模型四層架構(gòu)進行分析：1AI+?鯤鵬：華為自主芯片→鯤鵬芯片→鯤鵬服務(wù)器→歐拉操作系統(tǒng)→高斯數(shù)據(jù)庫→行業(yè)應(yīng)用向外擴張，構(gòu)建鯤鵬生態(tài)，提供算力支撐。?昇騰：昇騰AI處理器→CANN異構(gòu)計算架構(gòu)→MindSporeAI框架→應(yīng)用使能→行業(yè)應(yīng)9用，助力打2、人工智能框架：MindSpore高效易開發(fā)，可實現(xiàn)全場景覆蓋?CANN：作為華為昇騰AI基礎(chǔ)軟硬件平臺的核心，CANN向上支持多種AI框架，向下服務(wù)AI處理器與編程，助力芯片使能。?MindSpore：是國內(nèi)首個支持千億參數(shù)大模型訓練AI計算框架，最佳匹配昇騰處理器算力，支持終端、邊緣、云全場景靈活部署，開創(chuàng)全新的AI編程范式，降低AI開發(fā)門檻。3AIModelArts強勢賦能開發(fā)者,精度效率雙提升?為機器學習與深度學習提供海量數(shù)據(jù)預處理及交互式智能標注、大規(guī)模分布式訓練、自動化模型生成，及端-邊-云模型按需部署能力，幫助用戶快速創(chuàng)建和部署模型，管理全周期AI工作流。4、盤古大模型:AI落地的重要途徑?由NLP大模型、CV大模型、多模態(tài)大模型、科學計算大模型等建議關(guān)注標的:神州數(shù)碼、拓維信息、麒麟信安、軟通動力、常山北明、海量數(shù)據(jù)、潤和軟件3數(shù)據(jù)來源：華為云官網(wǎng)，5AI→→→→→1、鯤鵬芯片:鯤鵬920作為低功耗、高性能的Arm處理器，為鯤鵬服務(wù)器主板及整機產(chǎn)品提供芯片支撐，是鯤鵬生態(tài)發(fā)展壯大的核心所在，在此基礎(chǔ)上，華為進一步開啟自主研發(fā)芯片，為鯤鵬生態(tài)發(fā)展奠定堅實基礎(chǔ)。2、鯤鵬服務(wù)器:華為憑借多年積累的硬件工程能力，打造TaiShan服務(wù)器，使能整個產(chǎn)業(yè)鏈，進一步構(gòu)建完整鯤鵬生態(tài)。3、歐拉操作系統(tǒng):作為面向B端的電腦服務(wù)器操作系統(tǒng)，華為自主研發(fā)的EulerOS，以Linux穩(wěn)定系統(tǒng)內(nèi)核為基礎(chǔ)，南向支持多樣性設(shè)備，北向覆蓋全場景應(yīng)用，橫向?qū)峪櫭?，通過能力共享實現(xiàn)生態(tài)互通。4、高斯數(shù)據(jù)庫:華為GaussDB是主打政企核心業(yè)務(wù)負載的金融級分布式數(shù)據(jù)庫，目前已實現(xiàn)助力部分保險及車企數(shù)字化轉(zhuǎn)型。5、行業(yè)應(yīng)用:華為以行業(yè)聚合應(yīng)用，通過平臺和生態(tài)雙輪驅(qū)動，形成行業(yè)應(yīng)用矩陣，為眾多行業(yè)客戶提供解決方案。并陸續(xù)成立五大軍團，不斷開發(fā)全新應(yīng)用場景。華為昇騰AIAI→CANN→MindSporeAI→→決方案，為整個昇騰AI產(chǎn)業(yè)的底層核心支撐。2、CANN:作為華為昇騰AI基礎(chǔ)軟硬件平臺的核心，CANN向上支持多種AI框架，向下服務(wù)AI處理器與編程，以極致性能、極簡開發(fā)、開放生態(tài)為目標，助力昇騰構(gòu)建全場景人工智能平臺。3、MindSpore:是國內(nèi)首個支持千億參數(shù)大模型訓練AI計算框架，覆蓋包含生物醫(yī)學在內(nèi)的多個領(lǐng)域。4、應(yīng)用使能:以昇騰AI處理器→CANN異構(gòu)計算架構(gòu)→MindSporeAI框架的傳導機制，為深度學習、智能邊緣以及行業(yè)應(yīng)用解決方案等強勢賦能。7數(shù)據(jù)來源：昇思官網(wǎng)，7盤古大模型的底層算力支撐：昇騰驅(qū)動層全場景AI框架第三方平臺ModelArts制造驅(qū)動層全場景AI框架第三方平臺ModelArts制造電信公共交通算力布局行業(yè)應(yīng)用金融運營商……MindSpore芯片使能CANNAtlas系列AI訓練卡AI推理卡訓練服務(wù)器服務(wù)器Taishan2008數(shù)據(jù)來源：昇思官網(wǎng)，8數(shù)據(jù)來源：鯤鵬計算產(chǎn)業(yè)發(fā)展白皮書，鯤鯤鵬服務(wù)器TaiShanTaiShan100TaiShanTaiShan200TaiShan200Pro數(shù)據(jù)來源：鯤鵬社區(qū)官網(wǎng)，.包含2280E.包含2280E邊緣型、1280高密型、2280均衡型、2480高性能型、5280存儲型和X6000高密型等產(chǎn)品型號。.基于華為鯤鵬920處理器，旨在滿足數(shù)據(jù)中心多樣性計算需求。.包含2480、2280和1280等三款高端產(chǎn)品型號。.基于鯤鵬9203.0GHz高主頻處理器，同時集成三大創(chuàng)新RAS特性，獲得權(quán)威安全可信認.包含2280均衡型和5280存儲型等產(chǎn)品型號。.基于鯤鵬916處理器的數(shù)據(jù)中心服務(wù)器，具有據(jù)、分布式存儲等應(yīng)用高效加速。高效能計算高效能計算.搭載具有 超強算力的鯤鵬處理器.多核計算架構(gòu).高效加速應(yīng)用安全可靠安全可靠.處理器及服務(wù)器芯片全自研算工程能力鑄就穩(wěn)如泰山品質(zhì)開放開放開放計算平臺.支持業(yè)界主流軟件.攜手合作贏計算新生態(tài)01整機伙伴基礎(chǔ)軟件伙伴云平臺數(shù)據(jù)庫大數(shù)據(jù)平臺分布式存儲數(shù)據(jù)來源：鯤鵬社區(qū)官網(wǎng)，AI模塊芯片:昇騰310最高算力:22TOPSAIAI芯片:昇騰310最高算力:22TOPS數(shù)據(jù)來源：華為昇騰官網(wǎng)，加速卡芯片:異騰310最高算力:88TOPS芯片:異騰910最高算力:280TFLOPS智能邊緣芯片:異騰310最高算力:22TOPS芯片:鯤鵬920最高算力:352TOPSAI服務(wù)器AI集群AIAI集群2*920最高算力:2*920最高算力:704TOPSAIAI集群基礎(chǔ)單元8*910+4*920最高算力:28*910+4*920最高算力:2.24PFLOPS形態(tài):47U機柜數(shù)據(jù)來源：昇騰社區(qū)官網(wǎng)，CANN:軟硬協(xié)同釋放澎湃算力算子開發(fā)接口TBE應(yīng)用開發(fā)接口AscendCL計算圖開發(fā)接口AIR算子開發(fā)接口TBE應(yīng)用開發(fā)接口AscendCL計算圖開發(fā)接口AIRAOL其他其他其他其他Adapter其他TBETBEDVPP其他AIPPDVPP其他AIPPACERuntimeHCCLABLABL數(shù)據(jù)來源：華為昇騰官網(wǎng)，ModelZoo模型庫ExtendModelZoo模型庫Extend強化學習/GNN/深度概率編程…異騰計算語言ModelModelVisionAudio數(shù)據(jù)加載數(shù)據(jù)格式異構(gòu)加速數(shù)據(jù)增強類型推導圖算融合IR中間表達層二階優(yōu)化流水線執(zhí)行內(nèi)存優(yōu)化硬件相關(guān)優(yōu)化量子自動生成數(shù)據(jù)加載數(shù)據(jù)格式異構(gòu)加速數(shù)據(jù)增強類型推導圖算融合IR中間表達層二階優(yōu)化流水線執(zhí)行內(nèi)存優(yōu)化硬件相關(guān)優(yōu)化量子自動生成RuntimeAI+數(shù)值計算表達融合動靜表達統(tǒng)一單機分布式表達統(tǒng)一函數(shù)/OOP編程范式融合ExpressionAPISienceSience科學計算電磁仿真/分子模擬/量子計算量化/量化/剪枝/蒸餾倉顏JuliaInsightInsightArmourArmour密態(tài)AI可信AICNN(NPU)CUDA(GPU)CNN(NPU)CUDA(GPU)MindSporeModelZooMindSpore模型導入Servinig云測推理MindSporeMindSporeModelZooMindSpore模型導入Servinig云測推理MindSporeIR端側(cè)推理IR端側(cè)推理模型導出調(diào)試調(diào)優(yōu)數(shù)據(jù)處理安全機制端邊增量學習Fine調(diào)試調(diào)優(yōu)數(shù)據(jù)處理安全機制端邊增量學習Fine-tuning訓練等MindSporeArmourAIMindSporeMindSporeMindSporeArmourAIMindSporeMindSporeAutoMLAutoML數(shù)據(jù)來源：昇騰計算產(chǎn)業(yè)發(fā)展白皮書，AIAIModelArts年的爭優(yōu)云服務(wù)方面的競爭優(yōu)勢越發(fā)明顯年的技術(shù)創(chuàng)新華為云已十多個領(lǐng)域生產(chǎn)發(fā)的術(shù)創(chuàng)在已成功在歷經(jīng)個在進顯歷開發(fā)生產(chǎn)線AIAI年的爭優(yōu)云服務(wù)方面的競爭優(yōu)勢越發(fā)明顯年的技術(shù)創(chuàng)新華為云已十多個領(lǐng)域生產(chǎn)發(fā)的術(shù)創(chuàng)在已成功在歷經(jīng)個在進顯歷開發(fā)生產(chǎn)線AIAI市習公有帶來變革行商業(yè)化落地行機持業(yè)化持續(xù)領(lǐng)跑機器學習公有云市場AI市習公有帶來變革行商業(yè)化落地行機持業(yè)化持續(xù)領(lǐng)跑機器學習公有云市場讓落簡單簡化開地更簡單簡化開發(fā)AI讓落簡單簡化開地更簡單簡化開發(fā)效率支持全流程升應(yīng)用的開發(fā)生產(chǎn)線華為云行業(yè)與持續(xù)迭代次開發(fā)效開發(fā)的產(chǎn)次代幅持大幅提升開發(fā)實現(xiàn)行業(yè)數(shù)據(jù)參與AIAIAIAI生服務(wù)解決方案在行業(yè)的生態(tài)伙伴計劃和行業(yè)行業(yè)的落態(tài)發(fā)起計劃提供加速貨人起地場AI效率支持全流程升應(yīng)用的開發(fā)生產(chǎn)線華為云行業(yè)與持續(xù)迭代次開發(fā)效開發(fā)的產(chǎn)次代幅持大幅提升開發(fā)實現(xiàn)行業(yè)數(shù)據(jù)參與AIAIAIAI生服務(wù)解決方案在行業(yè)的生態(tài)伙伴計劃和行業(yè)行業(yè)的落態(tài)發(fā)起計劃提供加速貨人起地場AI售華為云已在行業(yè)生產(chǎn)基于于的項實作實踐企業(yè)了大行業(yè)場景服務(wù)和運營等企業(yè)運作覆蓋生產(chǎn)和覆項已在上沉淀了9AI售華為云已在行業(yè)生產(chǎn)基于于的項實作實踐企業(yè)了大行業(yè)場景服務(wù)和運營等企業(yè)運作覆蓋生產(chǎn)和覆項已在上沉淀了9AI全場景個覆蓋零售行百業(yè)智能升級療助醫(yī)療游戲等數(shù)還匯聚了業(yè)業(yè)領(lǐng)型個個了個商業(yè)領(lǐng)域的優(yōu)質(zhì)模型2000個覆蓋零售行百業(yè)智能升級療助醫(yī)療游戲等數(shù)還匯聚了業(yè)業(yè)領(lǐng)型個個了個商業(yè)領(lǐng)域的優(yōu)質(zhì)模型2000高效讓應(yīng)用更高術(shù)深耕技術(shù)AI2高效讓應(yīng)用更高術(shù)深耕技術(shù)AI沉淀了知識計算分布式訓練算盤古大模型和天籌項根技術(shù)術(shù)加沉型和天型訓求解器訓識及了項持續(xù)構(gòu)建大模型訓練及推理加速能力AI算型管以排模型管理處模型訓練應(yīng)用部署資產(chǎn)管理以及業(yè)提供數(shù)據(jù)處理模開AIAI三AIAI沉淀了知識計算分布式訓練算盤古大模型和天籌項根技術(shù)術(shù)加沉型和天型訓求解器訓識及了項持續(xù)構(gòu)建大模型訓練及推理加速能力AI算型管以排模型管理處模型訓練應(yīng)用部署資產(chǎn)管理以及業(yè)提供數(shù)據(jù)處理模開AIAI型部署等開發(fā)術(shù)應(yīng)用開發(fā)全流程技術(shù)能力AI型部署等開發(fā)術(shù)應(yīng)用開發(fā)全流程技術(shù)能力例應(yīng)用實3例應(yīng)用實互聯(lián)網(wǎng)領(lǐng)域網(wǎng)領(lǐng):華為云ModelArts基于算法優(yōu)化、語音質(zhì)檢等途徑，有效提升了T3出行司乘安全檢測模型的準確率和召回率，使危險駕駛事件率下降38.6%，同時大幅降低模型開發(fā)和交付周期。互聯(lián)網(wǎng)領(lǐng)域網(wǎng)領(lǐng):自動駕駛領(lǐng)域?駕驗領(lǐng)撼:針對AI算法訓練，華為云ModelArts支撐端到端訓練效率提升；分布式多級緩存技術(shù)可以將訓練時長縮短50%；自動駕駛領(lǐng)域針對大規(guī)模集群訓練，拓撲感知調(diào)度和動態(tài)軟路由技術(shù)可以提升訓練性能30%。19數(shù)據(jù)來源：IDC，華為云公眾號，03AIModelArets03在線服務(wù)批量服務(wù)在線服務(wù)批量服務(wù)自定義鏡像精度跟蹤自定義鏡像精度跟蹤模型轉(zhuǎn)換數(shù)據(jù)篩選數(shù)據(jù)標注版本管理模型可視化Notebook在線編碼數(shù)據(jù)篩選數(shù)據(jù)標注版本管理邊緣服務(wù)Mindspore主流AI開發(fā)框架AIGallery異構(gòu)資源超參搜索特征工程智能標注團隊標注AIGallery異構(gòu)資源超參搜索特征工程智能標注團隊標注模型評估模型庫數(shù)據(jù)集交易模型交易算法交易AI數(shù)據(jù)集交易模型交易算法交易數(shù)據(jù)來源：華為官網(wǎng)，03ModelArts亞實性大模型加速AI業(yè)務(wù)上線訓練推理效率指數(shù)級增長開發(fā)周期一降再降(月級>>天級)所需樣本顯著降低(萬個>>幾十)小樣本下，起步精度提升90%數(shù)據(jù)來源：華為云公眾號，AIGallery,AI資源無限擴展AI資產(chǎn)，高效沉淀和流通提供各角色無縫協(xié)作平臺提升業(yè)務(wù)價值產(chǎn)出向?qū)酵瓿葾I服務(wù)運維和更新實現(xiàn)全流程一鍵化運行工藝優(yōu)化…………行業(yè)場景實例生產(chǎn)排程游對戰(zhàn)二維切割生產(chǎn)運營服務(wù) AI知識慎天落求解器AI數(shù)據(jù)來源：華為云公眾號，"盤古"開天記,AI落地時AI"盤古"開天記,AI落地時AI20203兩大門檻:田奇加入華為云-8月:核心專家加入-9月:20203兩大門檻:技術(shù)門檻+資源門檻盤古大模型核心設(shè)計原則:模型大；網(wǎng)絡(luò)結(jié)構(gòu)強；優(yōu)秀的泛化能力選擇賽道:NLP+機器視覺未來規(guī)劃:多模態(tài)+科學計算大模型一系列挑戰(zhàn):算力資源不足、行業(yè)數(shù)據(jù)磨合、內(nèi)部團隊“超人發(fā)揮”成本降低。盤古NLP大模型:業(yè)界首個千億參數(shù)的中文預訓練大模型盤古NLP大模型:業(yè)界首個千億參數(shù)的中文預訓練大模型，在CLUE實現(xiàn)了業(yè)界領(lǐng)先。盤古CV大模型:業(yè)界首次實現(xiàn)模型按需抽取，在ImageNet上小樣本學習能力業(yè)界第一。優(yōu)勢和能力點:兼顧架構(gòu)+小樣本學習能力、微調(diào)能力、集成行業(yè)知識的能力更強+以商業(yè)價值驅(qū)動研發(fā)創(chuàng)新的“實干模式”大模型+生態(tài)化、協(xié)同創(chuàng)新而大模型是最有希望將AI目前我們處在AI而大模型是最有希望將AI盤古大模型的價值:推動AI的低成本、可復制。AI多重力量的攜手與跨界:產(chǎn)學研的縱向融合，不同行業(yè)領(lǐng)域的橫向協(xié)同，誕生AI工業(yè)化的虹吸效應(yīng)。AI數(shù)據(jù)來源：華為云公眾號，24首次使用首次使用Encoder-Decoder架構(gòu).小樣本學習超越GPT系.通用知識x行業(yè)經(jīng)驗.生成與理解性能領(lǐng)先數(shù)據(jù)來源：華為云官網(wǎng)，20%CV++數(shù)據(jù)處理模型生成模型優(yōu)化業(yè)界最大預訓練CV模型：30億參數(shù)，10億級圖像判別與生成聯(lián)合預訓練：底層/判別與生成聯(lián)合預訓練：底層/高層視覺預訓練任務(wù)通用100+場景驗證：研發(fā)成本降低90%小樣本學習性能領(lǐng)先：ImageNet10%標簽分類精度業(yè)界第一智慧物流數(shù)據(jù)來源：華為云官網(wǎng)，多模態(tài)大模型多模態(tài)大模型語音識別 持續(xù)推出