2024企業(yè)AI應用指南

企業(yè)AI應用指南 2024012023年，大模型元年，這一次真正撼動了人類發(fā)的活躍態(tài)勢大模型發(fā)展啟動（2010-2018）

AI大模型發(fā)展關鍵節(jié)點AI大模型爆發(fā)式發(fā)（2019-2023）

穩(wěn)定發(fā)展期（2024——）2014

2015

2017

2018

2019

2020

2021 2022

2023 2024深度學習技術開始在圖像和語音識別等領域取得突破性進展

微軟提出深度殘差網(wǎng)絡ResNet

谷歌發(fā)表論文提出Transformer模型

谷歌發(fā)布BERT預訓練模型OpenAI發(fā)布了GPT-1模型GPU等硬件加速技術成為大模型訓練的關鍵

OpenAI發(fā)布GPT-2模型BERT模型和Transformer架構廣泛應用百度發(fā)布ERNIE2.0

Google發(fā)布MeenaGPT-3模型百度發(fā)布ERNIE-GEN(large)模型

Google推出Switch模型DeepMind的AphaFold2功預測98人類蛋白質(zhì)結構

清華大學聯(lián)合智譜AI發(fā)布GLM-130BAI4S進入基礎設施建設期

大模型爆發(fā)發(fā)布百度文心一言360智腦大模型智譜AI商湯日日新阿里通義千昆侖萬維訊飛星火認百川智能華為盤古大模型京東言犀大模型抖音云雀大模型騰訊混元大模型

中國AI大模型快速迭代發(fā)展，月之暗面?zhèn)涫荜P注，且在大模型長上下文窗口技術上取得突破，百度和阿里宣布加碼長文本大模型賽道多個地方政府出臺相關支持政策，加快大模型產(chǎn)業(yè)的持續(xù)發(fā)展AI大模型商業(yè)化落地鋪開準備期

模型被提出

OpenAIGPU

百度ERNIE發(fā)布

2021年成為超大規(guī)模訓練模型的爆發(fā)元年

中國大模型爆發(fā)式發(fā)布

大模型快速迭代發(fā)展廣泛應用鋪開商業(yè)化2024/5/31

大模型啟動

激發(fā)科技與創(chuàng)新活力

大模型爆發(fā)式發(fā)展

邁向AGI4LLM開啟的生成式人工智能到底可以解決什么問題，與之前相比，進化在哪兒？交互革命人機交互方式：GUI DUI/HUIPrompt工程價值凸顯

AGI1.0思維革命AI具備獨立思考與邏輯判斷的能力能力將得以復制和擴展

AGI0.1 AGI2.02024/5/31

激發(fā)科技與創(chuàng)新活力 5易觀分析認為：靈活機動，以AI為核心重新定義；易觀分析認為：靈活機動，以AI為核心重新定義；企業(yè)的AI能力（含“AI”量）智能化智能化“數(shù)據(jù)+算力+算法”定義世界邏輯，將智能決策與資源優(yōu)化配置相結合，進一步提高決策科學性與實時性，并加速進入產(chǎn)業(yè)數(shù)字化深水區(qū)互聯(lián)網(wǎng)化互聯(lián)網(wǎng)化互聯(lián)網(wǎng)快速擴張，跑馬圈地，培養(yǎng)用戶習慣，經(jīng)典消費互聯(lián)網(wǎng)運轉(zhuǎn)邏輯

數(shù)字化數(shù)字技術向?qū)嶓w經(jīng)濟與企業(yè)經(jīng)營環(huán)節(jié)滲透，依托網(wǎng)絡進行信息高效傳遞，從而解決資源調(diào)配問題數(shù)字化

圍繞著AI企業(yè)重構組織形態(tài)和能力030302企業(yè)擁有AI原生產(chǎn)品和服務01激發(fā)科技與創(chuàng)新活力AI+：基于企業(yè)現(xiàn)有流程和服務，使用AI技術賦能與增強能力2024/5/31 6激發(fā)科技與創(chuàng)新活力2024/5/31PAGE激發(fā)科技與創(chuàng)新活力2024/5/31PAGE7大模型所加速的生成式人工智能已經(jīng)滲透到多個場景文本 代碼 圖像 音視頻 3D 分子發(fā)現(xiàn)對話/問答文檔/文本/內(nèi)容/會議摘要等語言翻譯文學/劇本創(chuàng)作等

代碼補齊合成數(shù)據(jù)等

圖像分類/分割工業(yè)設計藝術/商業(yè)作品創(chuàng)作圖像修復觀測等

信息播報語音編輯/翻譯影視內(nèi)容分析編輯音樂/視頻生成

電影/游戲/建筑/家居設計工業(yè)制造工業(yè)/藝術設計醫(yī)療健康虛擬現(xiàn)實等

藥物設計材料科學食品與農(nóng)業(yè)能源個人護理等01 02 03 04 05 06大模型能力與AIGC相結合向企業(yè)經(jīng)營關鍵環(huán)節(jié)滲透AI+營銷/

AI+OA

AI+財務 AI+HR AI+研

AI+供應鏈職能滲透

智能客服智能營銷等

工作助手會議管理Office助手等

財務決策財務風險管理報表編制

招聘/面試員工管理人才培養(yǎng)離職預測等

代碼編寫產(chǎn)品測試3D建模等銷售分析與預測倉庫管理訂單履約風險預警等★★★★ ★★★★ ★★ ★★★ ★★★★ ★★數(shù)據(jù)分析內(nèi)容生成知識管理協(xié)同辦公數(shù)據(jù)分析內(nèi)容生成知識管理協(xié)同辦公通用任務能力邏輯與復雜問題推理能力知識能力語言能力（含生成能力）通用任務能力邏輯與復雜問題推理能力知識能力語言能力（含生成能力）行業(yè)應用全面鋪開，實踐案例示范價值在于效益比測算與優(yōu)化金融行業(yè)金融行業(yè)如信貸審批、核保理賠等流程性任務層面提升工作效率智能客服、商品海報與文案生成等后臺乃至供應鏈與產(chǎn)品研發(fā)延伸實踐案例：阿里通義大模型賦能商家，AIGC生成3D商品與店鋪營銷物料智能客服、商品海報與文案生成等后臺乃至供應鏈與產(chǎn)品研發(fā)延伸實踐案例：阿里通義大模型賦能商家，AIGC生成3D商品與店鋪營銷物料工業(yè)/制造行業(yè)是知識密集型行業(yè)，尤其是進入到工業(yè)細分高度差異化，相應地，工業(yè)行業(yè)大模型的必要性甚高目前主要在AI輔助研發(fā)設計、工業(yè)質(zhì)檢（分析）、生產(chǎn)流程智能化等方面應用，未來則需要探索AI+機器人的智能化升級，用大模型鏈接物理世界實踐案例：創(chuàng)新奇智人工智能技術棧及“奇智孔明”應用探索激發(fā)科技與創(chuàng)新活力工業(yè)/制造電商/零售行業(yè)產(chǎn)行業(yè)，包括圖像、音視頻、3D資產(chǎn)等，借助于大模型與AIGC能力首先提高內(nèi)容生產(chǎn)效率是當務之急與對話生成等，中長期看智能NPC乃至游戲策略設計實踐案例：啟元世界游戲AI解決方案 實踐案例：RunwayGen-2賦能視頻創(chuàng)作“AIAI輔助診療，包括AI影像識別與臨床輔助決策等，賦能醫(yī)生與醫(yī)療機構提高平均專業(yè)水平，提高工作質(zhì)量與效率新藥研發(fā)利用語言模型等進行靶點發(fā)現(xiàn)、化合物篩選、臨床實踐案例：華為基于PanguDrugModel提供AI輔助藥物研發(fā)平臺，覆蓋新藥研發(fā)全流程醫(yī)藥/醫(yī)療娛樂/游戲行業(yè)實踐案例：中國農(nóng)業(yè)銀行ChatABC，應用于多輪對話、內(nèi)容摘要等場景教育行業(yè)教育行業(yè)圍繞受教育者與C端用戶：覆蓋K12、高等教育、職業(yè)教育展開圍繞賦能教育機構與施教者/老師：覆蓋備課、教學、考試實踐案例：科大訊飛星火大模型賦能教育行業(yè)2024/5/31 9激發(fā)科技與創(chuàng)新活力2024/5/3110激發(fā)科技與創(chuàng)新活力2024/5/3110易觀AI

AI大模型應用層行業(yè)應用層

金融 醫(yī)

教育 工

傳媒/影視 零售電商 娛樂游

企業(yè)服務 政

用戶應用層

內(nèi)容消費 創(chuàng)作工

政府機構用戶AI通用基礎大模型 AI大模型工具平臺AI大模型基礎層算力基礎數(shù)據(jù)基礎算法基礎AI芯片AI大模型基礎層算力基礎數(shù)據(jù)基礎算法基礎AI芯片云服務智能計算平臺智能服務器數(shù)據(jù)服務向量數(shù)據(jù)庫TensorFlowPyTorch英偉達阿里云騰訊云阿里云飛天智算青云智算平臺MXNet寒武紀地平線百度智能云華為云華為昇騰計算 百度百舸異構計算AngeliFlytekAIFramework

千帆大模型火山方舟SageMaker

AzureAI昇思模型平臺ModelHub軟通動力天璇02AI策略的選擇與決策激發(fā)科技與創(chuàng)新活力2024/5/31PAGE激發(fā)科技與創(chuàng)新活力2024/5/31PAGE15AI部署五步法Step1場景選擇Step5方案制定Step2目標設定Step3Step1場景選擇Step5方案制定Step2目標設定Step3路徑選擇Step4大模型選擇Step1：場景選擇的主要考慮問題AIAI應用成熟度技術成熟度（可以參考Gartner的hypercycle）企業(yè)AI通用應用成熟度（可以參考易觀企業(yè)應用AMC曲線）以及企業(yè)AI應用最佳實踐行業(yè)AI應用成熟度（可以參考易觀行業(yè)AMC曲線）AI應用最佳實踐本企業(yè)的場景成熟度評估（需要考慮業(yè)務本身的健康度、標準化程度、AI化意愿等）企業(yè)資源就緒度企業(yè)資源就緒度組織能力與團隊（包括戰(zhàn)略與文化、組織與團隊、技能與培訓等）預算數(shù)據(jù)AI工具和基礎設施其他企業(yè)部署價值度企業(yè)部署價值度AI投入成本分析AI的收益分析AI風險評估示例：各個行業(yè)應用專有場景的成熟度中國生成式人工智能行業(yè)AMC應用曲線（2023）穩(wěn)中求進效率為先穩(wěn)中求進效率為先應 探索期用價值仍然處于加強基礎能力建設階段，同時需要加強數(shù)據(jù)資源沉淀以及相關數(shù)智技術能力建設等，方能發(fā)揮人工智能在其中的關鍵價值

市場啟動期對于普通企業(yè)（看重避險）對于普通企業(yè)（看重避險）踐檢驗，具有一定的成熟度。關注市場啟動期的行業(yè)應用，但是應該注意小步快跑，既抓住先機，也能有效規(guī)避風險。入探索期的行業(yè)應用。

高速發(fā)展期數(shù)字化基礎能力大體完善，本身也是對于內(nèi)容資產(chǎn)與互動體驗要求相對比較高的行業(yè)，相應地，生成式人工智能滲透速度更快

應用成熟期

H讀圖要點VIII讀圖要點基礎科研農(nóng)業(yè)

自動駕駛能源醫(yī)療政府與公共服務

廣告 電商旅游 零售游戲音樂 動漫金融 影視交通?易觀分析

制造 教育示例：各個行業(yè)通用場景AI化的成熟度深入行業(yè)關鍵環(huán)節(jié)的AI價值滲透度行業(yè) 環(huán)節(jié)產(chǎn)品研發(fā)/設計生產(chǎn)制造供應鏈/資源管理市場/營銷用戶/客戶運營組織協(xié)同軟件工程農(nóng)業(yè)能源化工/機械先進制造食品飲料服裝/服飾家電汽車建筑與房地產(chǎn)交通運輸金融教育醫(yī)療健康零售商貿(mào)文化娛樂餐飲旅游政府?易觀分析

0AI賦能效率升級程度 100Step2：目標制定AI策略的目標，要有業(yè)務負責人把控而不是單純的技術負責人。系統(tǒng)部署的目標部署成本最優(yōu)部署最快系統(tǒng)安全穩(wěn)定技術領先

系統(tǒng)運營的目標TCO最優(yōu)試錯成本低等

業(yè)務經(jīng)營的目標商業(yè)化最快ROI最優(yōu)行業(yè)標桿示范意義（以推廣銷售）提升市場競爭力改善財務指標等AI部署目標 AI運營目標AI部署目標AI運營目標AI經(jīng)營目標Step3：路徑選擇模型能力

應用能力 自建MaaS能力，實現(xiàn)技術驅(qū)動 活應用AI能力，賦能業(yè)務經(jīng)營 1自力更生（端到端自主訓練大語言模型）

32 借船出海2 借船出海（與LLM供應商/開源模型聯(lián)合研發(fā)/微調(diào)，自訓練專有模型）（采購或利用大模型API自訓練）

4拿來就用關鍵考量：高算力資源算法能力高密度AI工程化團隊數(shù)據(jù)資源持續(xù)投入能力 關鍵考量：關鍵考量：高算力資源算法能力高密度AI工程化團隊數(shù)據(jù)資源持續(xù)投入能力關鍵考量：高算力資源基礎模型/LLM供應商選型（關鍵）自有AI團隊能力專有數(shù)據(jù)儲備沉淀與持續(xù)運營關鍵考量：模型駕馭能力專有數(shù)據(jù)關鍵考量：業(yè)務經(jīng)營目標驅(qū)動提示工程（PromptEngineering）企業(yè)應用選型能力適合頭部科技企業(yè)適合行業(yè)頭部企業(yè)適合中型企業(yè)適合中小企業(yè)和更廣泛的企業(yè)/個人應用場景適合頭部科技企業(yè)適合行業(yè)頭部企業(yè)適合中型企業(yè)適合中小企業(yè)和更廣泛的企業(yè)/個人應用場景企業(yè)部署AI大模型路徑一：端到端自主訓練大語言模型易觀分析認為，端到端自主訓練大語言模型已經(jīng)成為國內(nèi)科技巨頭布局的重點之一，這不僅是基于商業(yè)考量，更是基于技術、戰(zhàn)略和生態(tài)系統(tǒng)建設的全方位考量。端到端自主訓練大語言部署關鍵考量要素端到端自主訓練大語言模型成為國內(nèi)科技巨頭布局重點端到端自主訓練大語言部署關鍵考量要素端到端自主訓練大語言模型成為國內(nèi)科技巨頭布局重點算力資源AI工程化團隊數(shù)據(jù)資源投入能力端到端自主訓練大語言模型更適用于有一定IT投入與研發(fā)能力的企業(yè)，有較為完善的云服務及數(shù)據(jù)生態(tài)。關鍵算力資源AI工程化團隊數(shù)據(jù)資源投入能力自建規(guī)劃企業(yè)需要明確定義自主訓練大模型需要解決的題或?qū)崿F(xiàn)的目自建規(guī)劃收集和清洗相關的數(shù)據(jù)。模型訓練根據(jù)需求和可用數(shù)據(jù)，選擇適合的大語構和訓練模型訓練訓練自己的模型階段，需要進行模型訓練、調(diào)和驗證，以達到預期的性能指標。部署集成部署到生產(chǎn)環(huán)境中，并與現(xiàn)有的系統(tǒng)和應集成，需要考慮到安全性、性能和可擴面的問題。部署集成

擁有自主研發(fā)和掌握的大語言模型將為科技巨頭帶來技術領先的優(yōu)勢，通過自主訓練，科技巨頭可以針對本土語言和文化特點進行優(yōu)化，提供更貼近用戶需求的智能服務。此外，大語言模型已經(jīng)顯現(xiàn)出在各行各業(yè)都有廣泛的商業(yè)應用潛力，科技巨頭同時對外輸出模型服務。百度文心大模型百度文心大模型師基于自主研發(fā)的端到端訓練框架，使用大規(guī)模的中文語料進行訓練，具有深度學百度文心大模型百度文心大模型師基于自主研發(fā)的端到端訓練框架，使用大規(guī)模的中文語料進行訓練，具有深度學習和自然語言處理技術的先進特性。此外，文心設計之初就考慮了與產(chǎn)業(yè)的深度融合，提供了全流以適應不同行業(yè)阿里通義千問大模型通義千問是一款大型中文自然語言處理模型。在模型架構設計上更側重于實現(xiàn)特定的應用場景或任務。當前，阿里通義千問已經(jīng)應文檔自動化、內(nèi)容生成、智能推薦等多個阿里生態(tài)場景，為用戶提供更智能、更個性化的服務和體驗。騰訊混元大模型騰訊混元大模型是一款結合了自注意力機制和卷積神經(jīng)網(wǎng)絡的混合層級架構模型，跨模態(tài)支持、大規(guī)模參數(shù)等特點?；煸С侄喾N語言模態(tài)的處理，包括了文本、圖像、語音等，拓展了模型的應用場景和能力。企業(yè)部署AI利用開源模型或與LLM供應商進行聯(lián)合研發(fā)與微調(diào)，訓練專有模型聯(lián)合研發(fā)與微調(diào)部署大模型路徑的關鍵考量要素聯(lián)合研發(fā)與微調(diào)部署路徑成為行業(yè)頭部企業(yè)首要選擇聯(lián)合研發(fā)與微調(diào)部署大模型路徑的關鍵考量要素聯(lián)合研發(fā)與微調(diào)部署路徑成為行業(yè)頭部企業(yè)首要選擇利用開源模型或者聯(lián)合研發(fā)與微調(diào)部署大模型路徑更適用于有較強行業(yè)專屬場景業(yè)務需求，并需要實現(xiàn)技術驅(qū)動賦能的企業(yè)。關鍵考量要素包括：一定的算力資源基礎與投入、基礎模型選型或LLM供應商選型、自有AI團隊實現(xiàn)專有模型可持續(xù)運營與迭代、專有數(shù)據(jù)儲備沉淀與持續(xù)運營能力。O1業(yè)務O1業(yè)務需求分析與規(guī)劃：企業(yè)需要明確他們的需求，包括模型的預期用途、性能指標、數(shù)據(jù)集需求等選擇開源模型或LLM供應商：O2根據(jù)需求和預算，企業(yè)需要選擇合適的開源模型或LLM供應商，可能涉及評估不同模型的性能、適用性和許可協(xié)議等因素O2O3模型微調(diào)：O3準備大量的訓練數(shù)據(jù)，或使用選定的開源模型或LLM作為基礎進行O4模型微調(diào)，通常涉及在企業(yè)自有數(shù)據(jù)集上進行訓練O4部署和集成和評估優(yōu)化：一旦微調(diào)完成并達到預期性能，就可以將其部署到生產(chǎn)環(huán)境中，包括將模型集成到現(xiàn)有的軟件系統(tǒng)中，并確保其穩(wěn)定性和可靠性

聯(lián)合研發(fā)和微調(diào)部署路徑為企業(yè)提供了一種靈活且高效的方式來推動企業(yè)AI大模型的部署，并且通過這種路徑可以使企業(yè)能夠更有效地利用現(xiàn)有大模型的技術成果和資源、快速提高自身創(chuàng)新能力，并更快地將AI應用賦能于自身業(yè)務優(yōu)化上。典型實踐中國工商銀中國工商銀行X昇騰AI大模型BloombergGPT網(wǎng)X百度文心中國工商銀行發(fā)布基于昇騰AI的金融行業(yè)大模型;構建了從規(guī)劃、開發(fā)到產(chǎn)業(yè)化的大模型全流程使能體系，這包括大模型開發(fā)使能平旨在簡化大模型的開發(fā)和部署流程。BloombergGPT是一個包含500億參數(shù)的語言模型，專門為金融領域設計和訓練，以支持金融行業(yè)內(nèi)的自然語言處理任務;訓練數(shù)據(jù)主要來自彭博社的金融數(shù)據(jù),針對金融領域的專業(yè)術語和行業(yè)趨勢。國家電共同研發(fā)了電力行業(yè)的專有大模型;在通用文心大模型基礎上，設計電力領域特定的預訓練任務，結合電力行業(yè)的數(shù)據(jù)和知識進行訓練，以提升模型在電力行業(yè)特定任務中的應用。

激發(fā)科技與創(chuàng)新活力 19激發(fā)科技與創(chuàng)新活力2024/5/31PAGE激發(fā)科技與創(chuàng)新活力2024/5/31PAGE20企業(yè)部署AI采購或者利用開源大模型API，利用向量化方式優(yōu)化自身應用采購采購API部署大模型路徑的關鍵考量要素采購API部署路徑成為中型企業(yè)借力AI升級服務的選擇采購或利用開源大模型API的企業(yè)AI部署路徑適用于大多數(shù)企業(yè)，IT能力建設并非重點，但是需要利用AI能力提效降本，賦能業(yè)務經(jīng)營。關鍵考量要素包括：企業(yè)自身應用對于AI能力的抽象以及對模型的駕馭能力，典型實踐企查查企查查通過使用向量數(shù)據(jù)庫來增強其搜索引擎的功能，并在端側部署模型，可以在多個層面上提升產(chǎn)品的AI功能和整體品質(zhì)可以在保持較低成本的同時，提供更加智能和高效的服務，滿足用戶對于高性能AI應用的需求多鄰國典型實踐企查查企查查通過使用向量數(shù)據(jù)庫來增強其搜索引擎的功能，并在端側部署模型，可以在多個層面上提升產(chǎn)品的AI功能和整體品質(zhì)可以在保持較低成本的同時，提供更加智能和高效的服務，滿足用戶對于高性能AI應用的需求多鄰國多鄰國采購GPT模型來改進其語言學習工具，使其能夠更自然地生成語言示例和提供更準確的語言練習多鄰國通過集成最新的AI技術，嘗試教育領域的創(chuàng)新，以提高用戶的學習體驗和效率

采購API并將其部署是中型企業(yè)在借力AI能力升級服務水平與平衡AI投入成本后普遍采取的方式，API部署通常更快速，企業(yè)無需從頭開始構建AI模型或基礎設施。此外，API提供了靈活性和可擴展性，中型企業(yè)可以根據(jù)實際需求選擇適合的API，避免過度投資和資源浪費，還可以根據(jù)業(yè)務增長的需要輕松擴展或調(diào)整API的使用。需求分析和規(guī)劃：企業(yè)首先需要明確他們的AI需求，確定他們希望利用大模型API解決的問題或任務選擇合適的大模型API供應商：評估大模型API供應商，并選擇最適合企業(yè)需求的供應商，涉及考慮供應商的技術能力、性能、價格、服務支持等方面API接入和集成：包括獲取API訪問權限、了解API的使用方法和限制，并將API集成到企業(yè)的軟件系統(tǒng)中模型調(diào)優(yōu)和性能測試：企業(yè)需要對模型進行調(diào)優(yōu)并性能測試。包括使用驗證數(shù)據(jù)集對模型進行測試，并根據(jù)性能指標進行調(diào)整和優(yōu)化企業(yè)部署AI調(diào)整企業(yè)應用的選型策略，提升AI能力評價權重I素AI的路徑適用于大多數(shù)企業(yè)擁抱數(shù)智化的場景，是企業(yè)軟件AI能力的整體升級。關鍵考量要素包括：以業(yè)務經(jīng)營為目標適配驅(qū)動AI部署，提示工程能力，更新企業(yè)軟件選型標準與合作伙伴等。AI能力評估企業(yè)首先需要對其現(xiàn)AI進評有AI技術才、數(shù)據(jù)和基礎設進調(diào)查業(yè)AI礎AI值的領場AI技術選型和供應商評估在選型過程中，企業(yè)可以通過提升AI能力評價權重的方式，將更多的重要性放在AI能力方面，以確保選擇的技術能夠滿足其業(yè)務需求并實現(xiàn)預期的效果。AI能力部署和集成企業(yè)可以開始部署和集成AI術現(xiàn)業(yè)務應這及定制化開發(fā)AI術利地與現(xiàn)有系統(tǒng)業(yè)進續(xù)監(jiān)控和優(yōu)化，以確保AI技的穩(wěn)

通過這種路徑可以有效提升企業(yè)業(yè)務效率、增強用戶體驗、開拓新業(yè)務降低成本和風險，并符合數(shù)字化轉(zhuǎn)型的趨勢，有助于企業(yè)提升競爭力并實現(xiàn)持續(xù)發(fā)展。典型實踐 阿里旗下生態(tài)APP接入大模型升級AI能力通通義千問Step4：大模型企業(yè)與合作伙伴選擇應用層

2B應用（AI升級產(chǎn)品能力）2C應用（AI加持用戶體驗）現(xiàn)有應用（AI增強）2B應用（AI升級產(chǎn)品能力）2C應用（AI加持用戶體驗）

AINative應用

模型能力

★★★★數(shù)據(jù)準備中間層數(shù)據(jù)準備

中間層生態(tài)是大模型能力的重要體現(xiàn)

需要關注基礎大模型的關鍵能力，包括語言能力（簡單理解、知識運用、推理能力、特殊生成等）、安全和價值觀以及通用任務能力，可以參考FlagEval（天秤）語言大模型評測體系插件服務模型運營插件服務模型運營模型部署模型訓練

備注：大模型產(chǎn)品僅為示例，未包括海外大模型企業(yè)

產(chǎn)品能力

★★★★基礎大模型

需要關注基礎大模型的產(chǎn)品化封裝與解決方案能力，包括大模型能力抽象與API化易用性、大模型訓練與微調(diào)環(huán)節(jié)支撐與服務保障能力、任務場景實踐能力，以及運營維護保障能力等多模態(tài)百度華為多模態(tài)百度華為科大訊飛商湯昆侖萬維騰訊智源研究院聯(lián)匯科技計算機視覺華為盤古百度文心京東言犀商湯字節(jié)跳動騰訊混元阿里通義智源研究院視界?？低暤谒姆妒绞秸f達觀數(shù)據(jù)曹植中科院紫東太初復旦大學MOSS自然語言處理阿里通義 智源研究院悟道百度文心 科大訊飛星火騰訊混元 光年之外華為盤古 聆心智能360智腦 MiniMax京東言犀 智譜AIChatGLM商湯日日新行業(yè)大模型生態(tài)能力昆侖萬維天工浪潮信息源昆侖萬維天工浪潮信息源瀾舟科技孟子基礎設施層公有云平臺公有云平臺024/5/31 2 024/5/31

智能計算服務器公有云智能計算服務器人工智能計算中心人工智能計算中心AI芯片AI芯片

私有云/IDC私有云/IDC可持續(xù)發(fā)展能力★★基礎大模型非一蹴而就需要持續(xù)投入與迭代，需要關注大模型企業(yè)戰(zhàn)略路線與資源投入程度和專注度、人才梯隊建設與核心人才情況等與創(chuàng)新活力可持續(xù)發(fā)展能力★★基礎大模型非一蹴而就需要持續(xù)投入與迭代，需要關注大模型企業(yè)戰(zhàn)略路線與資源投入程度和專注度、人才梯隊建設與核心人才情況等預測2025發(fā)展趨勢2024發(fā)展路徑2023?易觀分析激發(fā)科技與創(chuàng)新活力預測2025發(fā)展趨勢2024發(fā)展路徑2023?易觀分析激發(fā)科技與創(chuàng)新活力2024/5/31PAGE23中國主流大模型選型評估——模型能力x產(chǎn)品能力高模型能力低低產(chǎn)品能力高商湯日日新Yi-Large5.0 Baichuan4高模型能力低低產(chǎn)品能力高商湯日日新Yi-Large5.0 Baichuan4智譜GLM-4阿里通義千問騰訊混元MiniMax-abab6.1訊飛星火V3.5華為盤古4.0360智腦4.0文心一言4.0火山引擎豆包選取中國大模型12本應用選型實力矩陣評估主要聚焦于產(chǎn)品能力的模型應用選型，從模型能力和產(chǎn)品能力兩個維度綜合反映大模型應用選型市場上主流大模型的市場表現(xiàn)和競爭地位的研究模型。AI大模型賽道的不斷發(fā)帶來更多的創(chuàng)新機會和商業(yè)價值。中國主流大模型選型評估——模型能力x生態(tài)能力高模型能力低低生態(tài)能力高Baichuan4 商湯高模型能力低低生態(tài)能力高Baichuan4 商湯日日新Yi-Large智譜4通義千問2.1騰訊混元MiniMax-abab6.1火山引擎豆包360智腦4.0文心一言4.0訊飛星火V3.5華為盤古4.0選取中國大模型12本應用選型實力矩陣評估主要聚焦于生態(tài)能力的模型應用選型，從模型能力和生態(tài)能力兩個維度綜合反映大模型應用選型市 研究模型。易觀分析認為，大模型的生態(tài)發(fā)展策略和布局日益受到重視，各大模型企業(yè)通過構建開放、協(xié)同的生態(tài)系統(tǒng)，增強其生態(tài)發(fā)展能力。例如，大模型企業(yè)積極與上下游共同開發(fā)和推廣大模型應用。這樣的生態(tài)系統(tǒng)不僅提供豐富的應用場景，還促進了技術的快速迭代和優(yōu)化。中國主流大模型選型評估——模型能力x可持續(xù)發(fā)展能力高模型能力低低可持續(xù)發(fā)展能力高Baichuan4 商湯日日新5.0 智4高模型能力低低可持續(xù)發(fā)展能力高Baichuan4 商湯日日新5.0 智4Yi-Large譜GLM-通義千問2.1騰訊混元MiniMax-abab6.1 訊飛星火V3.5360智腦4.0文心一言4.0火山引擎豆包華為盤古4.0選取中國大模型12本應用選型實力矩陣評估主要聚焦于可持續(xù)發(fā)展能力的模型應用選型，從模型能力和可持續(xù)發(fā)展能力兩個維度綜合反映大模型應用選型市場上主流大模型的市場表現(xiàn)和競爭地位的研究模型。大模型企業(yè)均加大對可持續(xù)發(fā)展計劃的戰(zhàn)略和投入。首先，各企業(yè)不斷增加研發(fā)投入，推進技術創(chuàng)新，確保在技術前沿保持通過與知名高校和科研機構合作，企業(yè)不僅培養(yǎng)大量專業(yè)人才，還吸引頂尖專家加盟。最后，各企業(yè)制定了詳盡的長期戰(zhàn)略規(guī)劃，明確未來的發(fā)展方向和目標，以確保企業(yè)在激烈的市場競爭中保持持續(xù)的創(chuàng)新動力和發(fā)展活力。激發(fā)科技與創(chuàng)新活力2024/5/31PAGE激發(fā)科技與創(chuàng)新活力2024/5/31PAGE26主流大模型選型評估版本及相關簡介模型所屬企業(yè)發(fā)布/迭代時間應用選型評估模型版本及相關簡介Baichuan4百川智能2024年5月22日百川智能發(fā)布最新一代基座大模型Baichuan4，并推出旗下首款AI助手“百小應”騰訊Hunyuan-pro騰訊2024年5月17日騰訊混元官方公開發(fā)布的API版本，具備語言理解和生成能力的千億參數(shù)規(guī)模的大型語言模型，支持多模態(tài)交互豆包大模型字節(jié)跳動2024年5月15日官方發(fā)布的API版本，豆包大模型原名“云雀”，是字節(jié)跳動發(fā)布的大模型Yi-Large零一萬物2024年5月13日零一萬物發(fā)布千億參數(shù)規(guī)模的大模型Yi-Large商湯日日新5.0商湯科技2024年4月23日官方公開發(fā)布的SenseChatV5的API版本，是商湯科技推出的新一代大型語言模型，它在多模態(tài)理解和生成、知識問答、邏輯推理等方面具有顯著的性能提升訊飛星火V3.5科大訊飛2024年1月30日官方公開發(fā)布的星火V3.5的API版本，是科大訊飛推出的一款具有高性能的語言模型智譜GLM-4智譜AI2024年1月16日官方公開發(fā)布的GLM-4的API版本，智譜GLM-4是智譜AI公司開發(fā)的千億參數(shù)規(guī)模的大型多模態(tài)認知智能語言模型MiniMax-abab6.1稀宇科技2024年1月16日官方小范圍內(nèi)測API版本，版本號為abab6.1，是MiniMax發(fā)布的MoE（MixtureofExperts）大語言模型通義千問2.1阿里云2023年12月1日官方公開發(fā)布的API版本，通義千問2.1是阿里巴巴達摩院推出的一款具有多輪對話、知識問答、文本生成等能力的迭代升級版大型語言模型文心一言4.0百度2023年10月17日官方發(fā)布的文心一言V4.0的API版本，文心一言4.0是百度推出的最新版本大型語言模型，在多輪對話、知識問答、文本生成等方面進行了優(yōu)化和提升盤古大模型4.0華為2023年7月7日官方發(fā)布的API版本，是華為諾亞方舟實驗室推出的大型語言模型360智腦4.03602023年6月13日官方公開發(fā)布API版本，是360公司推出的最新版大型語言模型，具備跨模態(tài)生成能力，支持文字、圖像、語音、視頻等多種數(shù)據(jù)類型的處理和生成數(shù)據(jù)說明：本表格只為本報告分析內(nèi)容應用選型評估所涉及的大模型做相關說明，表格內(nèi)排名不分前后。表格范圍中的大模型企業(yè)為不完全統(tǒng)計，政務、運營商、企業(yè)工具、能源、工業(yè)等細分行業(yè)大模型暫無參加本次MaaS（ModelasaService）成為主流商業(yè)模式，為企業(yè)和開發(fā)者提供快速構建和部署AI大模型及應用的途徑易觀分析認為，MaaS業(yè)務形態(tài)的出現(xiàn)將加速AI大模型的創(chuàng)新和應用開發(fā)，從而更便捷地實現(xiàn)行業(yè)定制化和個性化應用。MaaS為企業(yè)和開發(fā)者提供了快速構建和部署AIMaaS，企業(yè)能夠規(guī)避高昂的建設和維護成本，而只需根據(jù)實際使用情況支付費用，這使得小型企業(yè)和創(chuàng)業(yè)公司也能夠充分利用先進的機器學習技術，從而推動更多的創(chuàng)新發(fā)生。此外，MaaS開發(fā)者可以根據(jù)自身需求對模型進行定制和優(yōu)化，從而實現(xiàn)更精準和個性化的應用。模型平臺平臺工具層開源社區(qū) 開發(fā)平臺AI工具套件模型平臺平臺工具層開源社區(qū) 開發(fā)平臺AI工具套件數(shù)據(jù)庫數(shù)據(jù)集模型精調(diào)API優(yōu)化行業(yè)大模型金融醫(yī)療基礎層電商 傳媒娛樂……基礎大模型 CV大模型多模態(tài)NLPAI4S模型方案提供商應用層細分行業(yè)模型精調(diào)智能應用開發(fā)平臺AaaS（AgentasaService）將幫助大模型最終落地于多元應用場景中AaaS（AgentasaService）通過簡化大模型的部署和管理、靈活應對不同應用場景、提高資源利用效率、提供持續(xù)更新和維護、加強數(shù)據(jù)安全和隱私保護以及支持多種交互方式，極大降低了技術門檻，使得大模型能夠廣泛應用于各種行業(yè)和場景，推動其最終落地。大模型驅(qū)動的自主智能系統(tǒng)構 AIAgent的多元應用場景應用場景具體應用實踐個人助理查找或回答問題，預定票務或管理日歷等活動智能客服處理客戶問題，協(xié)助解答問題推薦系統(tǒng)應用場景具體應用實踐個人助理查找或回答問題，預定票務或管理日歷等活動智能客服處理客戶問題，協(xié)助解答問題推薦系統(tǒng)Netflix和Amazon等平臺使用AIAgent推薦個性化內(nèi)容智能監(jiān)控安全領域中，AIAgent監(jiān)控視頻流并識別異常自動駕駛集成多種AIAgent用語導航、避障和決策醫(yī)療診斷分析醫(yī)療數(shù)據(jù)輔助診斷，或藥物研發(fā)、生物蛋白質(zhì)合成虛擬助手如Siri、Alexa和GoogleAssistant等語音交互服務金融管理提供金融建議、風險評估、合規(guī)評估或欺詐檢測等智能文檔文檔分類、信息分析提取和摘要、翻譯等軟件開發(fā)支持應用程序的變成、測試和調(diào)試等任務管理生成高效的任務并執(zhí)行AgentLLMLLMAgent數(shù)據(jù)來源：LilianWeng《LLMPoweredAutonomousAgents》，易觀分析整理?易觀分析03企業(yè)部署AI的常見誤區(qū)激發(fā)科技與創(chuàng)新活力2024/5/3130激發(fā)科技與創(chuàng)新活力2024/5/3130誤區(qū)一：把手段當做目的，認為AI競爭力企業(yè)加大AI投入時，應避免僅關注短期效率提升和成本下降。AI的真正價值在于推動業(yè)務模式創(chuàng)新和持續(xù)發(fā)展。企業(yè)需從戰(zhàn)略層面考慮AI應用，確保其與核心業(yè)務和長期目標緊密結合。通過利用AI開發(fā)新產(chǎn)品、優(yōu)化客戶體驗、創(chuàng)新營銷策略，企業(yè)不僅能提高效率，還能增強創(chuàng)新能力和市場競爭力，實現(xiàn)創(chuàng)新驅(qū)動的發(fā)展。企業(yè)應將AI視為戰(zhàn)略資產(chǎn)，結合商業(yè)模式和核心競爭力，確保AI投入帶來長期商業(yè)價值。要素投入驅(qū)動創(chuàng)新驅(qū)動要素投入驅(qū)動創(chuàng)新驅(qū)動

以土地、人力資源、資本等傳統(tǒng)要素為核心動力拉動增長注重經(jīng)濟增長速度和規(guī)模通過要素投入獲得收益，實現(xiàn)業(yè)務增長

以技術創(chuàng)新、機制創(chuàng)新和數(shù)據(jù)價值為核心動力，驅(qū)動企業(yè)轉(zhuǎn)型與發(fā)展技術普惠帶來企技術普惠帶來企最終目標充分發(fā)揮AI技術創(chuàng)新與應用對于業(yè)務的拉動作用全要素生產(chǎn)率提升改善傳統(tǒng)產(chǎn)業(yè)形態(tài)，催生新業(yè)態(tài)新模式AI應用規(guī)模化普及帶來的成本投入企業(yè)普遍壓縮成本支出的背景之下，AI投入成為少數(shù)仍然增長的板塊之一，這對于AI技術的快速滲透和價值落地是具有重要意義的。同時，也出現(xiàn)了部分企業(yè)在進行AI投入財務測算的過程中，存在著結構性的誤區(qū)，如下圖所示，企業(yè)普遍能夠充分認知模型的訓練與部署，以及生成式人工智能應用上線的部分需要成本投入，但是有可能忽視后續(xù)模型與AI應用的過程中發(fā)生的成本支出。其一，模型的訓練是一個持續(xù)的過程，監(jiān)控模型性能變化進行優(yōu)化、保護數(shù)據(jù)集以及由此帶來模型安全等問題也是一個持續(xù)投入過程；其二，表面上看，模型推理成本不斷下降，但是企業(yè)需要考慮的是總推理成本與AI應用受益之間的平衡等。企業(yè)AI應用投入成本結構示意AI應用與總推理成本

總推理成本=單次推理成本*（企業(yè)內(nèi)外使用AI的用戶數(shù)量*單用戶AI應用次數(shù)）伴隨模型工程化優(yōu)化，模型單次推理成本不斷下降

伴隨企業(yè)內(nèi)外AI應用不斷普及，更多員工/用戶開始深度使用AI模型訓練/部署與AI應用上線成本模型維護、監(jiān)控

顯性成本 未充分考慮成本與運營成本 模型 數(shù)選擇 整

模型 模訓練 部

模型 模型 模型監(jiān)控 治理 安全2024/5/31

激發(fā)科技與創(chuàng)新活力 31誤區(qū)三：對AI投入收益預期過快，未充分考量收益的階段性變化在當前的市場環(huán)境上，企業(yè)都希望可以通過AI帶來新的業(yè)務增長。但是AI節(jié)省（如果考慮訓練成本可能不能給企業(yè)真正節(jié)約成本）要2-3年。企業(yè)部署AI要有合理的收益預期。短期收益短期收益（18月內(nèi)）提高效率：AI而提高企業(yè)運營的效率。2024/5/31

中期收益中期收益（18～36個月）收入增長客戶滿意度提升競爭優(yōu)勢：AI中。AI幫助企業(yè)做出更明智的決策。激發(fā)科技與創(chuàng)新活力

長期收益長期收益（36月+）可以幫助可持續(xù)發(fā)展：AI境影響。重塑行業(yè)32激發(fā)科技與創(chuàng)新活力2024/5/31PAGE激發(fā)科技與創(chuàng)新活力2024/5/31PAGE33AI應用落地是系統(tǒng)性工程大語言模型與生成式人工智能應用落地是系統(tǒng)工程，相應地，在如下各個環(huán)節(jié)都需要進行提前規(guī)劃和設計，才能在引入AI應用部署到生產(chǎn)環(huán)境之后也能夠持續(xù)穩(wěn)定安全輸出價值。但是，企業(yè)普遍目前在AI規(guī)劃與合作伙伴選擇的過程中，過于聚焦模型能力本身，而可能忽視合作伙伴在產(chǎn)品封裝和體驗、生態(tài)能力建設等方面的考慮，需要一并納入合作伙伴選擇和評估的范疇。引入預訓練大語言模型 用戶交互 企業(yè)應用關鍵環(huán)節(jié)精調(diào)模型選擇模型能力

數(shù)據(jù)整合上下習&

人類反饋 提示強化 工程學習模型架構優(yōu)化模型多模 緩存模型壓縮型整 模型壓縮合 交互

上下文管理計算優(yōu)化路由 運&用 運戶提 行示 速生態(tài)能力

模型部署GPU優(yōu)化

模型 模型 模型監(jiān)控 治理 安全可持續(xù)發(fā)展能力資本和技術重點投入大模型研發(fā)，驅(qū)動大模型技術平臺突破瓶頸

對于企業(yè)部署AI尤為重要，大模型平臺的產(chǎn)品和服務團隊將會重點關注大客戶的需求和服務，更廣泛的客戶需求需要通過生態(tài)體系來服務。大模型平臺是否可以有組織地高質(zhì)量構建一個生態(tài)伙伴體系，是影響未來甲乙方關系的關鍵點

信息來源：LLMOps部分來自Insight，易觀分析整理誤區(qū)五：在AI應用的風險控制方面走極端，或忽視或過于謹慎企業(yè)在部署人工智能（AI）時，若忽視潛在風險，可能會急于將未經(jīng)充分測試的系統(tǒng)投入實際應用。這樣做不僅可能導致