2025年大模型應(yīng)用落地白皮書(shū)：企業(yè)AI轉(zhuǎn)型行動(dòng)指南

大模型應(yīng)用落地白皮書(shū)企業(yè) 轉(zhuǎn)型行動(dòng)指南目錄CONTENTS核心觀點(diǎn) 01第一章：祛魅務(wù)實(shí)，大模型加速?gòu)奶剿髯呦蚵涞?02業(yè)務(wù)驅(qū)動(dòng)，大模型助力效率飛躍，實(shí)現(xiàn)融合的體驗(yàn)創(chuàng)新 03百舸爭(zhēng)流，大模型服務(wù)商競(jìng)逐AI浪潮新時(shí)代 06第二章：知易行難，企業(yè)落地面臨的挑戰(zhàn)與機(jī)遇 08大模型落地面臨多重挑戰(zhàn) 09領(lǐng)先企業(yè)已從大模型成功落地中率先獲益 13第三章：加快AI轉(zhuǎn)型，構(gòu)建全方位的大模型業(yè)務(wù)落地能力 17大模型業(yè)務(wù)落地能建設(shè)三階段 19破除落地大模型的思維誤區(qū) 23第四章：頭雁效應(yīng)，大模型深入眾多應(yīng)用場(chǎng)景 25大模型應(yīng)用場(chǎng)景不斷擴(kuò)寬，應(yīng)用日漸成熟 26眾多行業(yè)企業(yè)深入大模型落地實(shí)踐 30第五章：攻克有徑，跨越大模型落地技術(shù)難題 50大模型落地部署技術(shù)步驟 51精準(zhǔn)選模、高效落地、持續(xù)挖掘——落地三要55第六章：信賴之選，火山引擎大模型服務(wù)助力省心AI轉(zhuǎn)型 58豆包大模型 59火山方舟大模型服務(wù)平臺(tái) 616.3扣子 646.4HiAgent 66結(jié)語(yǔ)及未來(lái)展望 69核心觀點(diǎn)大模型技術(shù)已經(jīng)邁入與業(yè)務(wù)深度融合的階段大模型技術(shù)已經(jīng)邁入與業(yè)務(wù)深度融合的階段如同云與機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等AI小模型一樣，當(dāng)前大模型技術(shù)也進(jìn)入了與業(yè)務(wù)深度整合的關(guān)鍵時(shí)期。64%的中國(guó)企業(yè)預(yù)計(jì)其對(duì)AI的投資將增長(zhǎng)10-30%，各企業(yè)正基于具體的業(yè)務(wù)場(chǎng)景，積極探索大模型技術(shù)的實(shí)際部署與應(yīng)用潛力，以促進(jìn)業(yè)務(wù)發(fā)展。大模型在企業(yè)落地的周期和應(yīng)用速度超出預(yù)期大模型在企業(yè)落地的周期和應(yīng)用速度超出預(yù)期大模型能夠大幅提升企業(yè)生產(chǎn)力、驅(qū)動(dòng)業(yè)務(wù)創(chuàng)新和增長(zhǎng)，是具有突破性和顛覆性的技術(shù)。盡管將大模型技術(shù)與業(yè)務(wù)深度結(jié)合是一個(gè)復(fù)雜的專業(yè)過(guò)程，但在專業(yè)技術(shù)服務(wù)商的持續(xù)支持下，企業(yè)實(shí)現(xiàn)大模型部署的周期已縮短至平均6-12個(gè)月，尤其在數(shù)字化領(lǐng)先的企業(yè)中，這一過(guò)程更為迅速。企業(yè)正致力于深化業(yè)務(wù)場(chǎng)景探索，以期釋放大模型落地帶來(lái)的價(jià)值企業(yè)正致力于深化業(yè)務(wù)場(chǎng)景探索，以期釋放大模型落地帶來(lái)的價(jià)值為了充分利用大模型帶來(lái)的商業(yè)機(jī)遇，企業(yè)正不懈探索技術(shù)與業(yè)務(wù)結(jié)合的新模式，逐步打造與自身發(fā)展戰(zhàn)略相契合的大模型應(yīng)用實(shí)踐，以期通過(guò)大模型技術(shù)的創(chuàng)新應(yīng)用為企業(yè)帶來(lái)更大的商業(yè)價(jià)值。大模型產(chǎn)品和服務(wù)的選擇和技術(shù)伙伴能讓企業(yè)落地大模型事半功倍大模型產(chǎn)品和服務(wù)的選擇和技術(shù)伙伴能讓企業(yè)落地大模型事半功倍超過(guò)47%的企業(yè)認(rèn)為，與領(lǐng)先的大模型廠商建立可靠的合作關(guān)系是項(xiàng)目成功的關(guān)鍵。為提升大模型在企業(yè)側(cè)的落地效率，企業(yè)應(yīng)根據(jù)自身業(yè)務(wù)需求和發(fā)展規(guī)劃，重點(diǎn)考慮具備AI大模型全棧開(kāi)發(fā)能力、模型及插件工具豐富、內(nèi)嵌垂直場(chǎng)景經(jīng)驗(yàn)?zāi)０宓膹S商，并選擇可以提供事前、事中、事后全周期咨詢和切實(shí)可行實(shí)踐方案的服務(wù)商通過(guò)制定全局周密的策略，并結(jié)合個(gè)性化的業(yè)務(wù)實(shí)踐經(jīng)驗(yàn)，企業(yè)將能夠更有效地推動(dòng)大模型的成功落地，加快AI轉(zhuǎn)型。01祛魅務(wù)實(shí)大模型加速?gòu)奶剿髯呦蚵涞氐捏w驗(yàn)創(chuàng)新大模型技術(shù)已經(jīng)成為人工智能領(lǐng)域的焦點(diǎn)，驅(qū)動(dòng)了AI應(yīng)用的升級(jí)和創(chuàng)新?；诖笠?guī)模數(shù)據(jù)集的預(yù)訓(xùn)練，讓模型具備了高效處理復(fù)雜語(yǔ)言結(jié)構(gòu)、視覺(jué)模式以及多模態(tài)信息的能力，促使人工智能在認(rèn)知理解與決策支持方面邁向更高的階段。在產(chǎn)業(yè)應(yīng)用方面，大模型的實(shí)施正在改變企業(yè)業(yè)務(wù)開(kāi)展、產(chǎn)品服務(wù)、運(yùn)營(yíng)管理的傳統(tǒng)模式，為各行業(yè)的智能化升級(jí)提供了強(qiáng)有力的支撐。企業(yè)端對(duì)大模型的應(yīng)用也已從初步的技術(shù)探索與創(chuàng)新嘗試，逐漸步入以實(shí)現(xiàn)商業(yè)價(jià)值為核心的新時(shí)代。眾多企業(yè)正加快步伐，尋找能夠迅速構(gòu)建商業(yè)閉環(huán)、驗(yàn)證價(jià)值的應(yīng)用場(chǎng)景，期望借助大模型實(shí)現(xiàn)運(yùn)營(yíng)效率的飛躍、用戶體驗(yàn)的創(chuàng)新，以及生產(chǎn)力的提升。1.1.1加碼投資，企業(yè)擴(kuò)大試點(diǎn)1.1.1加碼投資，企業(yè)擴(kuò)大試點(diǎn)加大投入力度，AI大模型的關(guān)注度持續(xù)攀升。AI大模型在提升流程效率、增強(qiáng)創(chuàng)新能力方面發(fā)揮著關(guān)鍵作用，并為企業(yè)在市場(chǎng)競(jìng)爭(zhēng)中贏得優(yōu)勢(shì)，例如在個(gè)性化營(yíng)銷內(nèi)容創(chuàng)作、產(chǎn)品設(shè)計(jì)創(chuàng)新、用戶體驗(yàn)優(yōu)化、員工助手打造以及知識(shí)專家系統(tǒng)開(kāi)發(fā)等方面。IDC全球調(diào)研數(shù)據(jù)顯示，37.7%的受訪企業(yè)正在重點(diǎn)投資AI大模型，并預(yù)計(jì)在未來(lái)三年內(nèi)引入AI軟件及相關(guān)培訓(xùn)和服務(wù)。此外，64%的中國(guó)企業(yè)預(yù)計(jì)其對(duì)AI的投資將增長(zhǎng)10-30%。這一顯著的投資增長(zhǎng)反映了業(yè)界對(duì)AI大模型巨大潛力的日益認(rèn)可。拓展試點(diǎn)范圍，企業(yè)正積極探索AI的應(yīng)用潛力。企業(yè)在AI大模型的應(yīng)用上展現(xiàn)出極高的興趣和參與度，他們通過(guò)內(nèi)部研發(fā)、聯(lián)合創(chuàng)新、跨界合作等多種模式，積極探索AI技術(shù)的實(shí)際應(yīng)用場(chǎng)景和潛在爆發(fā)力。IDC調(diào)研數(shù)據(jù)顯示，在過(guò)去一年里，全球范圍內(nèi)平均對(duì)AI大模型項(xiàng)目進(jìn)行了34次概念驗(yàn)證（POC）測(cè)試，這一數(shù)字遠(yuǎn)超其他IT項(xiàng)目，且企業(yè)對(duì)AI大模型測(cè)試的滿意度高達(dá)70%。這一數(shù)據(jù)表明，AI大模型在解決企業(yè)需求、優(yōu)化運(yùn)營(yíng)流程、輔助業(yè)務(wù)拓展方面具有顯著效03果。此外，大多數(shù)CXO級(jí)別的高管表示，他們將繼續(xù)增加對(duì)AI大模型的各項(xiàng)投入，以加強(qiáng)企業(yè)在AI轉(zhuǎn)型方面的能力建設(shè)。1.1.2多維價(jià)值，堅(jiān)定企業(yè)探索大模型潛力的決心1.1.2多維價(jià)值，堅(jiān)定企業(yè)探索大模型潛力的決心IDC研究認(rèn)為，大模型技術(shù)對(duì)于企業(yè)價(jià)值的貢獻(xiàn)可從對(duì)內(nèi)賦能與對(duì)外服務(wù)兩大維度進(jìn)行闡釋。具體而言，該價(jià)值可細(xì)化為針對(duì)企業(yè)員工、用戶群體、營(yíng)業(yè)收入及市場(chǎng)拓展四個(gè)方面，進(jìn)而構(gòu)建出一個(gè)全面的“AI大模型價(jià)值圖譜”。此圖譜詳細(xì)描繪了大模型技術(shù)在不同維度上對(duì)企業(yè)產(chǎn)生的深遠(yuǎn)影響和價(jià)值增值，包括工作效率提升、業(yè)務(wù)引導(dǎo)助理、知識(shí)數(shù)據(jù)洞察、用戶體驗(yàn)創(chuàng)新、生產(chǎn)工具賦能、產(chǎn)品服務(wù)升級(jí)、管理方式變革、市場(chǎng)營(yíng)銷決策8大方向。圖1AI大模型價(jià)值圖譜工作效率提升業(yè)務(wù)引導(dǎo)助理工作效率提升業(yè)務(wù)引導(dǎo)助理知識(shí)數(shù)據(jù)洞察用戶體驗(yàn)創(chuàng)新對(duì)內(nèi)賦能生產(chǎn)工具賦能AI大模型對(duì)外服務(wù)產(chǎn)品服務(wù)升級(jí)管理方式變革市場(chǎng)營(yíng)銷決策用戶 用戶營(yíng)收 營(yíng)收市場(chǎng) 市場(chǎng)來(lái)源：IDC大模型價(jià)值研究，2024年04面向員工：一是利用AI大模型提供的辦公軟件、流程管理軟件、開(kāi)發(fā)設(shè)計(jì)軟件來(lái)提高員工工作效率、縮短重復(fù)和復(fù)雜工作時(shí)間；二是利用企業(yè)內(nèi)部知識(shí)、經(jīng)驗(yàn)等無(wú)形資產(chǎn)和員工培訓(xùn)、企業(yè)規(guī)范、服務(wù)規(guī)則等文本材料，打造具備企業(yè)記憶的專屬AI智能體。面向用戶：一是對(duì)用戶信息、消費(fèi)習(xí)慣、興趣愛(ài)好等信息進(jìn)行綜合分析，更好地總結(jié)、對(duì)比、預(yù)測(cè)用戶數(shù)據(jù)變化和趨勢(shì)；二是提供全新的使用交互體驗(yàn)，如借助智能客服、數(shù)字人等，更好地理解用戶意圖并進(jìn)行產(chǎn)品推薦。面向營(yíng)收：一是為設(shè)計(jì)、編程、制造等工作人員的生產(chǎn)工具賦能，自動(dòng)生成并創(chuàng)新產(chǎn)品內(nèi)容，加快產(chǎn)品的迭代周期和創(chuàng)新速度；二是創(chuàng)新產(chǎn)品形式，從產(chǎn)品管理、價(jià)值創(chuàng)新、上市計(jì)劃、價(jià)格管理等方面更好地賦能業(yè)務(wù)。面向市場(chǎng)：一是主動(dòng)分析外部市場(chǎng)變化和內(nèi)部經(jīng)營(yíng)數(shù)據(jù)，進(jìn)行合規(guī)管理、風(fēng)險(xiǎn)預(yù)測(cè)、潛在效益分析和建模；二是預(yù)測(cè)整體市場(chǎng)表現(xiàn)、各地區(qū)競(jìng)爭(zhēng)分析、供應(yīng)商能力和相關(guān)風(fēng)險(xiǎn)，幫助制定策略，并自動(dòng)生成相關(guān)宣傳物料。從AI大模型價(jià)值圖譜可見(jiàn)，大模型以其強(qiáng)大的能力和廣闊的應(yīng)用前景，有望深入到眾多領(lǐng)域，釋放出巨大的企業(yè)應(yīng)用空間和潛力。此外，根據(jù)IDC針對(duì)企業(yè)用戶的大模型調(diào)研數(shù)據(jù)可以看出，無(wú)論是優(yōu)化用戶體驗(yàn)、加速企業(yè)決策，減少重復(fù)勞動(dòng)、提升員工生產(chǎn)效率，或是推動(dòng)產(chǎn)品創(chuàng)新與服務(wù)個(gè)性化，大部分的受訪企業(yè)都普遍對(duì)大模型帶來(lái)的價(jià)值抱有高度期待。這一預(yù)期進(jìn)一步提升了企業(yè)將大模型技術(shù)轉(zhuǎn)化為實(shí)際應(yīng)用的動(dòng)力。企業(yè)普遍認(rèn)為大模型在推動(dòng)業(yè)務(wù)增長(zhǎng)、構(gòu)建核心競(jìng)爭(zhēng)力、提升用戶體驗(yàn)等方面扮演著關(guān)鍵角色。因此，也有越來(lái)越多的用戶更加積極地投入到這場(chǎng)技術(shù)革命中，深挖其背后的商業(yè)潛力。05圖2采用AI大模型給企業(yè)帶來(lái)的價(jià)值53%46%34%53%46%34%32%29%14%加速企業(yè)決策，減少重復(fù)勞動(dòng)創(chuàng)新產(chǎn)品形式/業(yè)務(wù)價(jià)值為員工創(chuàng)造定制化提升優(yōu)化員工工作體驗(yàn)0.0% 10.0% 20.0% 30.0% 40.0% 50.0% 60.0%數(shù)據(jù)來(lái)源：IDC大模型企業(yè)落地進(jìn)展調(diào)研，N=100，2024年8月百舸爭(zhēng)流，大模型服務(wù)商競(jìng)逐AI浪潮新時(shí)代在企業(yè)用戶持續(xù)增加的投資和日益增長(zhǎng)的業(yè)務(wù)需求推動(dòng)下，大模型服務(wù)商們紛紛加快步伐，競(jìng)相推動(dòng)這一技術(shù)從創(chuàng)新突破走向企業(yè)應(yīng)用的實(shí)際轉(zhuǎn)化，致力于將大模型從服務(wù)商自身的的探索階段推向企業(yè)落地，以滿足各行各業(yè)對(duì)智能化轉(zhuǎn)型的迫切需求。這一趨勢(shì)不僅促進(jìn)了大模型技術(shù)的快速成熟，也為企業(yè)用戶帶來(lái)了更加豐富和高效的應(yīng)用解決方案，助推了大模型落地需求端和大模型技術(shù)服務(wù)供給端的雙向循環(huán)發(fā)展。一方面，大模型技術(shù)服務(wù)在產(chǎn)品服務(wù)和技術(shù)層面實(shí)現(xiàn)了諸多的創(chuàng)新突破。為降低企業(yè)的使用門(mén)檻，領(lǐng)先的大模型廠商已經(jīng)成功構(gòu)建了從零到一的端到端解決方案，極大地減少了重復(fù)開(kāi)發(fā)的必要性。企業(yè)可以借助這些既有模型和服務(wù)，避免“重新造輪子”的投入，從而將更多資源和精力集中在業(yè)務(wù)創(chuàng)新上，加速智能化轉(zhuǎn)型的步伐。例如火山引擎持續(xù)豐富豆包大模型家族，基于基礎(chǔ)底座大模型最新06發(fā)布視頻生成、文生圖、圖生圖、語(yǔ)音合成、聲音復(fù)刻、音樂(lè)、同聲傳譯等更貼合實(shí)際場(chǎng)景的模型，將模型能力進(jìn)一步專業(yè)細(xì)化。此外，為加速企業(yè)搭建內(nèi)部智能體的進(jìn)度，火山引擎還打造了HiAgent——一個(gè)企業(yè)專屬的AI創(chuàng)新應(yīng)用平臺(tái)；它允許業(yè)務(wù)人員利用提示詞、知識(shí)庫(kù)、插件等工具，以低代碼方式實(shí)現(xiàn)AI落地，集成內(nèi)部數(shù)據(jù)，降低AI開(kāi)發(fā)的難度、積累AI中臺(tái)的厚度。另一方面，大模型技術(shù)服務(wù)商也在不斷地進(jìn)行能力全面升級(jí)，深度服務(wù)業(yè)務(wù)場(chǎng)景。為了幫助企業(yè)更有效地落地大模型技術(shù)，技術(shù)服務(wù)商們不遺余力地采用了多種手段來(lái)升級(jí)自身的服務(wù)能力，深入挖掘各種契合企業(yè)業(yè)務(wù)場(chǎng)景的需求。除了持續(xù)的技術(shù)研發(fā)、優(yōu)化算法、提升數(shù)據(jù)處理能力之外，他們還積極加強(qiáng)對(duì)行業(yè)知識(shí)的積累，確保為企業(yè)提供能落地、高效率的解決方案。一些大模型技術(shù)服務(wù)商還通過(guò)構(gòu)建行業(yè)大模型落地聯(lián)盟、提供專業(yè)咨詢和培訓(xùn)服務(wù)、加強(qiáng)落地場(chǎng)景探索等，全方位地提升自身在幫助企業(yè)應(yīng)用大模型過(guò)程中的專業(yè)性和實(shí)用性，從而確保AI大模型能夠真正融入企業(yè)的核心業(yè)務(wù)，發(fā)揮出最大的價(jià)值。如：火山引擎圍繞行業(yè)需求場(chǎng)景，構(gòu)建大模型應(yīng)用生態(tài)，連續(xù)成立汽車大模型生態(tài)聯(lián)盟、智能終端大模型聯(lián)盟、零售大模型生態(tài)聯(lián)盟，聯(lián)合業(yè)界頭部企業(yè)、技術(shù)廠商和合作伙伴，幫助企業(yè)能夠以極低的試錯(cuò)成本將大模型技術(shù)應(yīng)用落地到業(yè)務(wù)場(chǎng)景，共同探索AI驅(qū)動(dòng)未來(lái)發(fā)展，提升運(yùn)營(yíng)和開(kāi)發(fā)效率，全面創(chuàng)新用戶體驗(yàn)。07知易行難企業(yè)落地面臨的挑戰(zhàn)與機(jī)遇在評(píng)估大模型的商業(yè)潛力時(shí)，企業(yè)和技術(shù)服務(wù)商都普遍持樂(lè)觀態(tài)度，并認(rèn)識(shí)到這一技術(shù)有望開(kāi)啟新的商業(yè)機(jī)遇。然而，將大模型的潛力轉(zhuǎn)化為實(shí)際業(yè)務(wù)效益的過(guò)程，無(wú)疑充滿了諸多挑戰(zhàn)。在此次革命性的大模型轉(zhuǎn)型旅程中，企業(yè)不僅要擁抱創(chuàng)新帶來(lái)的效率和效能提升，還需精心應(yīng)對(duì)成本控制、人才短缺、技術(shù)復(fù)雜性以及信息安全等一系列考驗(yàn)。大模型落地面臨多重挑戰(zhàn)挑戰(zhàn)1：高成本、復(fù)雜投入下的投資收益挑戰(zhàn)挑戰(zhàn)1：高成本、復(fù)雜投入下的投資收益挑戰(zhàn)IDC調(diào)研顯示，算力成本、隱形的機(jī)會(huì)成本、投資回報(bào)的長(zhǎng)周期以及不足的人才儲(chǔ)備是企業(yè)落地大模型遇到的第一道難題，具體包括：算力成本：算力資源的消耗是當(dāng)下阻礙AI大模型落地的最主要因素，這一成本對(duì)不少企業(yè)的財(cái)務(wù)狀況構(gòu)成了較大的壓力。調(diào)研數(shù)據(jù)顯示，92%的企業(yè)認(rèn)為在大模型工程化落地階段，缺少算力資源是最大的挑戰(zhàn)；細(xì)分來(lái)看，89%的高管認(rèn)為模型訓(xùn)練成本高，81%的高管認(rèn)為模型推理成本高。對(duì)比而言，模型的調(diào)優(yōu)成本已經(jīng)相對(duì)低價(jià)，僅有35%的企業(yè)認(rèn)為模型調(diào)優(yōu)（Fine-tun-ing/Prompt）成本高。這些成本無(wú)疑是企業(yè)財(cái)務(wù)投入的重要考量點(diǎn)，使得企業(yè)在做出是否引入大模型的相關(guān)決策時(shí)顯得猶豫不決，不得不權(quán)衡預(yù)算和投資回報(bào)之間的比重。圖3算力資源是企業(yè)落地大模型最大的挑戰(zhàn)92.0%89.0%81.0%92.0%89.0%81.0%缺少算力資源 模型訓(xùn)練成本高 模型推理成本高數(shù)據(jù)來(lái)源：IDC大模型企業(yè)落地進(jìn)展調(diào)研，N=100，2024年8月09選擇錯(cuò)誤下的機(jī)會(huì)成本：機(jī)會(huì)成本，雖然并非直接的經(jīng)濟(jì)支出，但它同樣是企業(yè)在是否引入大模型決策時(shí)不可忽視的成本之一。它代表了企業(yè)為了選擇某一方案而放棄的、可能是更佳替代方案的價(jià)值。尤其在瞬息萬(wàn)變的市場(chǎng)環(huán)境中，企業(yè)抓住機(jī)遇的時(shí)間窗口極為有限；一旦錯(cuò)失或在大模型初始的選擇時(shí)對(duì)其性能、適配度、應(yīng)用能力等方面欠考慮，企業(yè)可能面臨巨大的機(jī)會(huì)成本，甚至可能要承受數(shù)倍的額外負(fù)擔(dān)，如后期不得不進(jìn)行的模型切換、基礎(chǔ)設(shè)施的改造升級(jí)等。實(shí)際與預(yù)期回報(bào)仍有差距：根據(jù)IDC的調(diào)研，雖然企業(yè)對(duì)AI大模型項(xiàng)目抱有極高的期望，普遍期待能夠?qū)崿F(xiàn)1-3倍的投資回報(bào)率（ROI），但現(xiàn)實(shí)情況卻與這些美好愿景有所偏差。目前，大多數(shù)企業(yè)觀察到的投資回報(bào)實(shí)際上低于50%，這一數(shù)據(jù)與其對(duì)大模型的高度關(guān)注和前期投資預(yù)期形成了較大的落差。面對(duì)這樣的現(xiàn)狀，企業(yè)在投入AI大模型項(xiàng)目時(shí)，普遍較為審慎，且在內(nèi)部投資決策時(shí)受到較大的阻力。多方面人才積累不足：目前多數(shù)企業(yè)在AI人才方面的儲(chǔ)備尚顯不足。企業(yè)落地大模型不僅亟需專業(yè)的大模型開(kāi)發(fā)人才，還需要具備算法優(yōu)化、數(shù)據(jù)處理、計(jì)算能力、測(cè)試驗(yàn)證等技能的實(shí)用型人才。由于AI大模型的全方位開(kāi)發(fā)人才難以在短期內(nèi)迅速積累，企業(yè)在探索和實(shí)施大模型應(yīng)用的過(guò)程中，內(nèi)部人才不足，而外部招聘難覓懂自身業(yè)務(wù)又了解大模型落地的專業(yè)人才，使得落地受阻。挑戰(zhàn)2：模型選配難題精準(zhǔn)匹配難，適配挑戰(zhàn)加劇挑戰(zhàn)2：模型選配難題精準(zhǔn)匹配難，適配挑戰(zhàn)加劇部分場(chǎng)景下模型效果接受度低：87%的企業(yè)認(rèn)為模型精度還不能滿足落地要求，無(wú)法衡量具體效果；具體表現(xiàn)在涉及用戶信息、面向生產(chǎn)和決策的任務(wù)中，對(duì)模型的邏輯推理、任務(wù)執(zhí)行要求更高，而當(dāng)前大模型的泛化性使得企業(yè)在模型優(yōu)化上面臨更大的挑戰(zhàn)。10大模型選型困難：在模型的選擇方面，IDC調(diào)研顯示，62%的企業(yè)認(rèn)為市場(chǎng)上模型選擇太多，缺乏選擇的標(biāo)準(zhǔn)和評(píng)判依據(jù)。企業(yè)通常參考模型準(zhǔn)確率排行榜、社區(qū)口碑推薦來(lái)選擇模型，并自行搭建內(nèi)部業(yè)務(wù)數(shù)據(jù)測(cè)試集來(lái)簡(jiǎn)單評(píng)測(cè)效果，而這一過(guò)程又缺少完整、科學(xué)、豐富的評(píng)估體系和標(biāo)準(zhǔn)。通用模型能力與專業(yè)需求不匹配：IDC調(diào)研顯示，50%的企業(yè)認(rèn)為模型能力與業(yè)務(wù)需求不匹配，原因是通用大模型無(wú)法滿足專有場(chǎng)景的需求。模型上線性能難以保證：正式上線后的服務(wù)響應(yīng)時(shí)間、穩(wěn)定性、并發(fā)數(shù)、高吞吐、可擴(kuò)展性往往不可預(yù)測(cè)，而這些正是企業(yè)最關(guān)心的問(wèn)題。圖4公司落地大模型面臨的挑戰(zhàn)-模型層62%50%39%62%50%39%市場(chǎng)上模型太多，沒(méi)有選擇標(biāo)準(zhǔn)和評(píng)判依據(jù)0.0%10.0%20.0%30.0%40.0%50.0%60.0%70.0%80.0%90.0%數(shù)據(jù)來(lái)源：IDC大模型企業(yè)落地進(jìn)展調(diào)研，N=100，2024年8月挑戰(zhàn)3：模型部署落地：細(xì)節(jié)挑戰(zhàn)遍布，每一步都是考驗(yàn)挑戰(zhàn)3：模型部署落地：細(xì)節(jié)挑戰(zhàn)遍布，每一步都是考驗(yàn)效果調(diào)優(yōu)路徑多、執(zhí)行難：59%的企業(yè)認(rèn)為模型調(diào)優(yōu)（PromptEngineer-ing/Fine-tuning）是大模型開(kāi)發(fā)中投入最多且挑戰(zhàn)更大的工作之一。由于模型優(yōu)化方式、路徑、調(diào)整程度選擇多樣且企業(yè)缺少足夠經(jīng)驗(yàn)和技術(shù)支撐，導(dǎo)致該過(guò)程復(fù)雜且耗時(shí)，使得經(jīng)驗(yàn)欠缺的企業(yè)在執(zhí)行過(guò)程中面臨眾多困難。分裂的開(kāi)發(fā)環(huán)節(jié)造成事倍功半：企業(yè)在實(shí)施大模型的落地過(guò)程中，涉及從開(kāi)發(fā)到部署的多個(gè)復(fù)雜步驟，包括但不限于二次訓(xùn)練、數(shù)據(jù)管理、參數(shù)優(yōu)化、11效果精細(xì)調(diào)整、Prompt工程、RAG（檢索增強(qiáng)生成）、生態(tài)插件集成、模型性能評(píng)估、模型剪枝與蒸餾、模型維護(hù)管理以及算力資源調(diào)度等十余個(gè)關(guān)鍵環(huán)節(jié)，每個(gè)環(huán)節(jié)都涵蓋了眾多細(xì)致的工程化任務(wù)，對(duì)技術(shù)團(tuán)隊(duì)和開(kāi)發(fā)人員來(lái)說(shuō)是一項(xiàng)復(fù)雜而繁瑣的挑戰(zhàn)。沒(méi)有穩(wěn)定的數(shù)據(jù)底座則無(wú)法發(fā)揮最大價(jià)值：在推進(jìn)大模型應(yīng)用的過(guò)程中，數(shù)62%的高管挑戰(zhàn)4：潛在安全風(fēng)險(xiǎn)與可解釋性的雙重挑戰(zhàn)挑戰(zhàn)4：潛在安全風(fēng)險(xiǎn)與可解釋性的雙重挑戰(zhàn)缺少全周期安全可信方案：大模型服務(wù)擁有更長(zhǎng)的鏈條，涉及全周期的數(shù)據(jù)和模型管理、模型調(diào)優(yōu)、使用交互、查詢調(diào)用等，因此需要考慮為大模型搭建專門(mén)的安全模塊。模型生成內(nèi)容準(zhǔn)確性和可解釋性不足：8%的企業(yè)表示希望提高模型和數(shù)據(jù)的可解釋性，這需要大模型學(xué)習(xí)、鏈接關(guān)鍵業(yè)務(wù)信息，并在模型微調(diào)提高精度的同時(shí)，確保關(guān)鍵信息不泄露、不被模型學(xué)習(xí)了解，以及數(shù)據(jù)不可隨意被查看和問(wèn)詢。12領(lǐng)先企業(yè)已從大模型成功落地中率先獲益在積極探索和落地大模型的過(guò)程中，企業(yè)雖然面臨不同程度的挑戰(zhàn)，但整體來(lái)看，先行擁抱和落地AI大模型的企業(yè)已經(jīng)展現(xiàn)了清晰的收益曲線，不少率先解鎖大模型紅利的先鋒實(shí)踐案例為期待大模型為自身業(yè)務(wù)帶來(lái)變革的觀望者注入了落地的動(dòng)力。2.2.1大模型落地收益曲線2.2.1大模型落地收益曲線IDC以如下收益曲線以描述市場(chǎng)情況，橫縱坐標(biāo)分別表示企業(yè)擁抱AI的程度和企業(yè)獲得的收益。在企業(yè)跨過(guò)前期探索和正式投資建設(shè)后，AI大模型的部署和落地可以為企業(yè)帶來(lái)明顯可見(jiàn)的收益，包括工作效率的提升、用戶體驗(yàn)的升級(jí)和市場(chǎng)競(jìng)爭(zhēng)力的增強(qiáng)。但投資回報(bào)與前期投入持平的時(shí)間點(diǎn)并不是固定的；企業(yè)對(duì)大模型擁抱程度越高、資源投入和落地范圍越大、應(yīng)用深度越深，這個(gè)時(shí)間點(diǎn)也會(huì)越早到來(lái)，企業(yè)收益也會(huì)更明顯。圖5大模型收益曲線P3:臨界點(diǎn)——大規(guī)模收益與S1+S2投入平衡P3:臨界點(diǎn)——大規(guī)模收益與S1+S2投入平衡t部署上線S3:企業(yè)落地與持續(xù)更新階段企業(yè)擁抱AI程度S2:規(guī)?；剿鏖_(kāi)發(fā)階段P1:廠商POC驗(yàn)證S1:小范圍測(cè)試階段大部分企業(yè)所在階段——市場(chǎng)呈紡錘結(jié)構(gòu)來(lái)源：IDC，202413S1：小范圍測(cè)試階段——即開(kāi)始嘗試探索AI大模型應(yīng)用階段。該階段資源投入較少，可明顯為企業(yè)帶來(lái)新的體驗(yàn)和價(jià)值增長(zhǎng)；但由于僅處在小范圍驗(yàn)證階段，所以增益空間有限。S2：規(guī)?；_(kāi)發(fā)階段——即進(jìn)入大模型服務(wù)規(guī)?；度腚A段。由于需要整體架構(gòu)的開(kāi)發(fā)和服務(wù)解決方案的落地和時(shí)間驗(yàn)證，企業(yè)所獲得的收益并不明顯；但隨著大模型應(yīng)用的部署上線，帶來(lái)的收益也隨之增長(zhǎng)。S3：企業(yè)落地與持續(xù)更新階段——即不斷完善更新大模型服務(wù)來(lái)增加收益階段。該收益得益于內(nèi)部成本降低、人員效率提高，以及外部產(chǎn)品服務(wù)創(chuàng)新升級(jí)帶來(lái)的市場(chǎng)競(jìng)爭(zhēng)優(yōu)勢(shì)。P1：廠商POC驗(yàn)證——該點(diǎn)表示為企業(yè)在經(jīng)歷大模型小范圍探索后進(jìn)行大規(guī)模資源投入前的廠商服務(wù)驗(yàn)證POC時(shí)刻。P2：應(yīng)用部署上線——該點(diǎn)表示為AI應(yīng)用大規(guī)模部署上線的時(shí)刻。P3：盈虧平衡臨界點(diǎn)——該點(diǎn)表示大模型帶來(lái)的收益與投入支出平衡的時(shí)刻。142.2.2搶跑AI時(shí)代：先鋒企業(yè)率先解鎖大模型紅利2.2.2搶跑AI時(shí)代：先鋒企業(yè)率先解鎖大模型紅利實(shí)例揭示，AI大模型在企業(yè)應(yīng)用中的成效顯現(xiàn)。大模型具備可以快速落地、不用重復(fù)進(jìn)行基礎(chǔ)工作建設(shè)的優(yōu)勢(shì)，因此對(duì)企業(yè)而言落地更快、更易見(jiàn)效。IDC調(diào)研顯示，大模型的落地周期多在6-12個(gè)月（48.5%）和12-18個(gè)月之間上線時(shí)間更短，最快可1個(gè)月內(nèi)完成落地。因此，率先落地的先鋒企業(yè)已經(jīng)收獲大模型落地的紅利。上汽乘用車?yán)枚拱竽Ｐ透祚雎?tīng)反饋“用戶之聲”。上汽乘用車通過(guò)引入豆包大模型，可以快速處理來(lái)自公域和私域的“用戶之聲”，并精確理解每條內(nèi)容，在服務(wù)反饋、熱點(diǎn)事件跟蹤和質(zhì)量改進(jìn)等領(lǐng)域取得顯著成效，為用戶帶來(lái)更加優(yōu)質(zhì)的體驗(yàn)和服務(wù)?；鹕揭嬷χ袊?guó)飛鶴落地AI技術(shù)?；鹕揭嫣峁〩iAgent平臺(tái)，針對(duì)企業(yè)級(jí)市場(chǎng)進(jìn)行深度定制，通過(guò)段位劃分策略，幫助企業(yè)員工逐步掌握HiAgent使用，同時(shí)通過(guò)原廠咨詢、內(nèi)置最佳實(shí)踐應(yīng)用效果評(píng)測(cè)確保達(dá)到生產(chǎn)級(jí)標(biāo)準(zhǔn)。平臺(tái)將AI技術(shù)融入各個(gè)業(yè)務(wù)流程中，從而提升整體運(yùn)營(yíng)效率和市場(chǎng)競(jìng)爭(zhēng)力，為數(shù)字化轉(zhuǎn)型提供了堅(jiān)實(shí)基礎(chǔ)；在某智能問(wèn)答項(xiàng)目中，能夠處理廣泛的消費(fèi)者咨詢，實(shí)現(xiàn)100%的問(wèn)答響應(yīng)率，同時(shí)保持了超過(guò)95%的高準(zhǔn)確率?；鹕揭鏀y手中手游為《仙劍世界》打造AINPC。利用火山引擎RAG方案，中手游打造游戲精靈“圓滿”，使其具備更智能的輔助功能，其可以根據(jù)玩家的行為數(shù)據(jù)和游戲內(nèi)的進(jìn)程，提供最適合玩家角色當(dāng)前狀態(tài)的支持，如任務(wù)推薦、玩法說(shuō)明等，從而減少玩家在游戲中的阻礙感，提升游戲樂(lè)趣?；鹕椒街燮脚_(tái)充分滿足中手游對(duì)對(duì)游戲的的高RPM/TPM要求，通過(guò)按需調(diào)整配額，保障游戲在超大流量下的服務(wù)穩(wěn)定性，并打造極致性價(jià)比，助力降低技術(shù)、資金與人力成本。15企業(yè)CXO普遍預(yù)計(jì)，未來(lái)一年大模型服務(wù)將會(huì)帶來(lái)更多的效益改善。面向未加2%收入、縮短24%流程時(shí)間、提高17%員工工作效率、提高7%資產(chǎn)利用圖6未來(lái)一年AI大模型給企業(yè)帶來(lái)的效益18%2%24%17%18%2%24%17%7%降低成本7%提高資產(chǎn)利用率

增加收入19%19%創(chuàng)新定制化、精細(xì)化產(chǎn)品與服務(wù)水平

6%提升洞察力6%

提高員工生產(chǎn)、研發(fā)效率2%2%提升決策速度數(shù)據(jù)來(lái)源：IDC大模型企業(yè)落地進(jìn)展調(diào)研，N=100，2024年8月16加快AI轉(zhuǎn)型構(gòu)建全方位的大模型業(yè)務(wù)落地能力初始意愿戰(zhàn)略驅(qū)動(dòng)戰(zhàn)略投入業(yè)務(wù)驅(qū)動(dòng)初始意愿戰(zhàn)略驅(qū)動(dòng)戰(zhàn)略投入業(yè)務(wù)驅(qū)動(dòng)戰(zhàn)略分析業(yè)務(wù)分析場(chǎng)景試點(diǎn)策略業(yè)務(wù)場(chǎng)景結(jié)合數(shù)據(jù)資產(chǎn)盤(pán)點(diǎn)資源、能力整合搭建團(tuán)隊(duì) 數(shù)據(jù)評(píng)估業(yè)務(wù)、技術(shù)、流程融合 數(shù)據(jù)要素的準(zhǔn)備度 應(yīng)用智能體業(yè)務(wù)拓展戰(zhàn)略規(guī)劃應(yīng)用開(kāi)發(fā)與部署上線橫向業(yè)務(wù)場(chǎng)景拓展對(duì)內(nèi)企業(yè)IT持續(xù)優(yōu)化、應(yīng)用協(xié)作工具鏈、流程、數(shù)據(jù)、場(chǎng)景模型調(diào)優(yōu)縱向業(yè)務(wù)場(chǎng)景拓展擴(kuò)展至多節(jié)點(diǎn)、復(fù)雜任務(wù)對(duì)外開(kāi)發(fā)平臺(tái)搭建模型接入效果調(diào)優(yōu)性能安全測(cè)試算力儲(chǔ)備模型部署應(yīng)用上線應(yīng)用建設(shè)路徑效果評(píng)估模型選擇資源投入計(jì)劃聯(lián)合創(chuàng)新 競(jìng)爭(zhēng)力 降本增效來(lái)源：IDC，202418大模型業(yè)務(wù)落地能力建設(shè)三階段提前做好計(jì)劃準(zhǔn)備、扎實(shí)推進(jìn)模型部署、持續(xù)優(yōu)化迭代三大階段對(duì)企業(yè)建設(shè)全方位的大模型業(yè)務(wù)落地能力、實(shí)現(xiàn)AI轉(zhuǎn)型至關(guān)重要。具體來(lái)看：階段一：計(jì)劃準(zhǔn)備階段階段一：計(jì)劃準(zhǔn)備階段首先明確初始意愿。企業(yè)高管在了解AI大模型解決方案時(shí)切忌盲目跟從技術(shù)潮流，而是需要從企業(yè)整體的層面明確落地AI大模型的原始驅(qū)動(dòng)力，分析與AI結(jié)合的可能性、行動(dòng)路線并做好預(yù)期收益的管理：戰(zhàn)略驅(qū)動(dòng)：即企業(yè)可能沒(méi)有明確的AI+場(chǎng)景落地計(jì)劃，但考慮企業(yè)的發(fā)展環(huán)境、行業(yè)趨勢(shì)、競(jìng)爭(zhēng)態(tài)勢(shì)，有必要將大模型落地作為戰(zhàn)略性規(guī)劃的一環(huán)。從戰(zhàn)略布局出發(fā)，分析內(nèi)外部發(fā)展環(huán)境，盤(pán)點(diǎn)企業(yè)內(nèi)部資源和能力，制定場(chǎng)景試點(diǎn)策略，制定篩選場(chǎng)景的標(biāo)準(zhǔn)和路徑。業(yè)務(wù)驅(qū)動(dòng)：企業(yè)已經(jīng)有了非常明確的業(yè)務(wù)場(chǎng)景，迫切地需要引入大模型的能力來(lái)進(jìn)行應(yīng)用場(chǎng)景的改造，以實(shí)現(xiàn)降本增效、提升效率、優(yōu)化體驗(yàn)等目標(biāo)；執(zhí)行切實(shí)可行的業(yè)務(wù)分析策略，了解場(chǎng)景現(xiàn)狀、預(yù)期目標(biāo)、數(shù)據(jù)的就緒度、梳理業(yè)務(wù)流程；深入探索業(yè)務(wù)場(chǎng)景結(jié)合點(diǎn)和需求程度，將大模型解決方案與特定的業(yè)務(wù)環(huán)境、業(yè)務(wù)流程或業(yè)務(wù)需求緊密聯(lián)系起來(lái)。其次剖析目標(biāo)任務(wù)，了解就緒度。在確定需求和目標(biāo)后，從資源盤(pán)點(diǎn)、流程梳理、能力自查三個(gè)方面來(lái)考慮并拆解目標(biāo)，充分參考了解大模型落地所需的企業(yè)資源投入，制定詳細(xì)周密的時(shí)間和建設(shè)計(jì)劃：一是資源盤(pán)點(diǎn)，在最短時(shí)間內(nèi)梳理內(nèi)部資源，如數(shù)據(jù)資源、算力資源，并分析資源整合的可能性和優(yōu)先級(jí)，確定可為AI大模型的落地提供完備的后續(xù)支撐；了解是否數(shù)據(jù)充足、治理水平如何、是否有大量未清洗數(shù)據(jù)、是否需要外部購(gòu)買數(shù)據(jù)、有無(wú)數(shù)據(jù)獲取渠道、算力資源如何購(gòu)買以及計(jì)費(fèi)方式；19二是流程梳理，AI的搭建、應(yīng)用并不是點(diǎn)對(duì)點(diǎn)的數(shù)據(jù)傳輸，在模型調(diào)優(yōu)、模型管理、查詢調(diào)用、內(nèi)容生成的過(guò)程中，均涉及企業(yè)、部門(mén)、團(tuán)隊(duì)內(nèi)外的多個(gè)組織方和參與方，只有明晰AI執(zhí)行的過(guò)程方式，才可以更好地進(jìn)行開(kāi)發(fā)建設(shè)和運(yùn)營(yíng)管理；三是能力自查，大模型的建設(shè)需要大量專業(yè)人才和業(yè)務(wù)人才共同合作，因此企業(yè)應(yīng)重點(diǎn)考慮評(píng)估人才資源基礎(chǔ)和經(jīng)驗(yàn)知識(shí)儲(chǔ)備，制定研發(fā)創(chuàng)新的人才投入形式，是否需要低代碼、輕量化的開(kāi)發(fā)平臺(tái)，以及是否需要外部合作來(lái)進(jìn)行定制化開(kāi)發(fā)。最后，搭建跨部門(mén)團(tuán)隊(duì)確保大模型落地的推進(jìn)。大模型是對(duì)企業(yè)人員、市場(chǎng)、產(chǎn)品、業(yè)務(wù)場(chǎng)景的賦能，不僅僅是“底座”“中臺(tái)”等概念；其需求的提出和最終實(shí)現(xiàn)均來(lái)源于使用方，而非僅靠數(shù)據(jù)部門(mén)、科技部門(mén)的采購(gòu)開(kāi)發(fā)就可以落地。企業(yè)應(yīng)充分獲得高級(jí)管理者的支持，搭建跨部門(mén)協(xié)作團(tuán)隊(duì)，制定人、財(cái)、物資源的管理和監(jiān)管制度，確保資源的即時(shí)響應(yīng)和快速供給，實(shí)現(xiàn)資源的有效整合和優(yōu)化配置，從而推動(dòng)大模型在企業(yè)的深入融合和高效運(yùn)行。圖7您認(rèn)為開(kāi)發(fā)大模型時(shí)前期準(zhǔn)備工作的重要性確定關(guān)鍵考慮指標(biāo)45%制定安全規(guī)則40%測(cè)試大模型水平38%組建跨部門(mén)團(tuán)隊(duì)31%梳理場(chǎng)景需求30%梳理內(nèi)部數(shù)據(jù)29%確定投入預(yù)算及周期28%建立評(píng)估體系27%招募專業(yè)人才18%尋求外部專家團(tuán)隊(duì)咨詢0.0%10.0%14%20.0%30.0%40.0%50.0%數(shù)據(jù)來(lái)源：IDC大模型企業(yè)落地進(jìn)展調(diào)研，N=100，2024年8月20階段二：模型部署階段階段二：模型部署階段模型部署是最核心的落地環(huán)節(jié)，將直接影響企業(yè)應(yīng)用AI大模型的實(shí)現(xiàn)效果，因此需要按照科學(xué)的路徑進(jìn)行開(kāi)發(fā)建設(shè)。此過(guò)程包括如下重點(diǎn)步驟：資源投入計(jì)劃：明確開(kāi)發(fā)AI大模型落地過(guò)程中所需要的專業(yè)人才、資金投入、數(shù)據(jù)準(zhǔn)備和管理，以及業(yè)務(wù)領(lǐng)域所需的知識(shí)經(jīng)驗(yàn)；模型選擇：結(jié)合具體的需求從模型精度、效果、參數(shù)規(guī)模、場(chǎng)景匹配度來(lái)篩選適合自身的模型；效果預(yù)測(cè)：預(yù)測(cè)AI時(shí)間、TPM、RPM（TPM：TokensPerMinute每分鐘TokensRPM：RequestsPerMinute每分鐘請(qǐng)求數(shù)）；應(yīng)用建設(shè)路徑：規(guī)劃AI大模型的建設(shè)周期、落地具體場(chǎng)景、覆蓋使用廣度、垂直場(chǎng)景應(yīng)用深度；算力準(zhǔn)備：考慮推理與計(jì)算成本和使用方式，以及購(gòu)買的規(guī)模、服務(wù)的選擇；開(kāi)發(fā)平臺(tái)搭建：為AI大模型的應(yīng)用率先搭建好底層開(kāi)發(fā)平臺(tái)，覆蓋LLMOps全流程，接入豐富的Agent工具鏈、API管理服務(wù)和數(shù)據(jù)引擎平臺(tái)；可以重點(diǎn)考慮提供低代碼、全流程大模型開(kāi)發(fā)能力的廠商；模型接入方式：即考慮模型接入和部署應(yīng)用的方式，包括云端接入、API管理、線下部署；面向簡(jiǎn)易快速上線以及企業(yè)級(jí)、部門(mén)級(jí)應(yīng)用定制化開(kāi)發(fā)，挑選可以提供多產(chǎn)品選擇的服務(wù)；效果調(diào)優(yōu)：即提升模型效果使其更滿足自身業(yè)務(wù)需求，主要可通過(guò)Prompt工程、RAG增強(qiáng)檢索生成、有監(jiān)督調(diào)優(yōu)、基于人類反饋優(yōu)化等；性能安全測(cè)試：即在模型上線前確保性能穩(wěn)定和安全可信；21應(yīng)用上線：即考慮應(yīng)用上線范圍和管理，包括跨平臺(tái)、系統(tǒng)部署、跨數(shù)據(jù)源生成、多版本管理。階段三：迭代優(yōu)化階段階段三：迭代優(yōu)化階段AI大模型在應(yīng)用測(cè)試和效果評(píng)估后可正式上線，但這并不是整個(gè)流程的結(jié)束，企業(yè)還應(yīng)重點(diǎn)考慮模型的可成長(zhǎng)性。隨著使用量和使用方向的增多，應(yīng)進(jìn)一步開(kāi)展調(diào)優(yōu)訓(xùn)練和知識(shí)管理，達(dá)到“越用越好”的效果。因此，模型的部署完成并非終點(diǎn)，企業(yè)仍需持續(xù)關(guān)注并致力于大模型在三個(gè)關(guān)鍵層面的迭代與優(yōu)化：智能體應(yīng)用效能的提升、跨業(yè)務(wù)領(lǐng)域的拓展應(yīng)用，以及對(duì)企業(yè)整體戰(zhàn)略規(guī)劃的對(duì)內(nèi)和對(duì)外的影響：智能體優(yōu)化，即針對(duì)基于大模型的智能體的能力和水平的持續(xù)提升。對(duì)于開(kāi)發(fā)上線的AI智能體應(yīng)用，企業(yè)可以持續(xù)提升模型的精度、改善用戶體驗(yàn)，例如通過(guò)AB測(cè)試評(píng)估調(diào)優(yōu)后的效果，并針對(duì)在應(yīng)用服務(wù)過(guò)程中遇到的工具缺失、流程混亂、數(shù)據(jù)管理困難、場(chǎng)景需求升級(jí)等問(wèn)題進(jìn)行優(yōu)化完善，以保證其發(fā)揮最大的價(jià)值和效果。業(yè)務(wù)擴(kuò)展，即將已成功的基于大模型的應(yīng)用擴(kuò)展至相關(guān)或更復(fù)雜的業(yè)務(wù)領(lǐng)域以挖掘更多的價(jià)值。橫向業(yè)務(wù)拓展：在實(shí)際應(yīng)用AI大模型中，企業(yè)往往會(huì)首先選擇1-2個(gè)易于落地、急需改善的場(chǎng)景進(jìn)行項(xiàng)目試點(diǎn)，當(dāng)完成項(xiàng)目上線并評(píng)估可持續(xù)投資后，可結(jié)合積累的技術(shù)、開(kāi)發(fā)、流程、管理經(jīng)驗(yàn)，共享同一套平臺(tái)、工具和資源，進(jìn)一步將模型應(yīng)用到其他場(chǎng)景中，服務(wù)不同的人員，打通、管理更多的數(shù)據(jù)和實(shí)踐經(jīng)驗(yàn)?？v向場(chǎng)景延伸：知識(shí)管理、對(duì)話問(wèn)答、查詢分析是AI大模型最先落地的場(chǎng)景，隨著模型的升級(jí)和應(yīng)用需求的加深，企業(yè)應(yīng)考慮將小范圍、簡(jiǎn)單任務(wù)擴(kuò)展至多層次、復(fù)雜任務(wù)，打造可以同時(shí)滿足多個(gè)任務(wù)的智能體，探索、擴(kuò)大大模型的服務(wù)深度和邊界。22戰(zhàn)略規(guī)劃，即從企業(yè)整體的視角評(píng)估大模型部署落地后對(duì)企業(yè)整體競(jìng)爭(zhēng)力的改變，同時(shí)關(guān)注其對(duì)IT基礎(chǔ)設(shè)施的影響。持續(xù)關(guān)注企業(yè)對(duì)外的差異化競(jìng)爭(zhēng)優(yōu)勢(shì)：當(dāng)AI大模型應(yīng)用上線后，企業(yè)應(yīng)重點(diǎn)考慮競(jìng)爭(zhēng)環(huán)境，了解其他企業(yè)與AI的結(jié)合深度和布局計(jì)劃，評(píng)估、判斷自身企業(yè)在當(dāng)前和未來(lái)的競(jìng)爭(zhēng)力和優(yōu)勢(shì)對(duì)比，從而制定、明確AI大模型下一輪的投資和開(kāi)發(fā)計(jì)劃，以促進(jìn)應(yīng)用和產(chǎn)品的迭代，形成長(zhǎng)期差異化競(jìng)爭(zhēng)優(yōu)勢(shì)。對(duì)內(nèi)關(guān)注企業(yè)整體數(shù)字化基礎(chǔ)設(shè)施的能力：大模型上線后，企業(yè)IT基礎(chǔ)設(shè)施面臨一系列的變化，包括計(jì)算資源需求、服務(wù)器負(fù)載、存儲(chǔ)空間、數(shù)據(jù)管理、安全性和隱私保護(hù)等。因而企業(yè)需要關(guān)注現(xiàn)有IT系統(tǒng)的升級(jí)和優(yōu)化，以確保大模型的高效運(yùn)行。破除落地大模型的思維誤區(qū)對(duì)大模型落地這一新的企業(yè)課題，在準(zhǔn)備、實(shí)施和優(yōu)化三大階段中，企業(yè)容易產(chǎn)生認(rèn)知誤區(qū)。這些誤區(qū)如同迷霧，籠罩在企業(yè)前進(jìn)的道路上。為幫助猶豫觀望的企業(yè)梳理發(fā)展路徑，避免在大模型落地過(guò)程中走不必要的彎路，我們歸納了先行者在探索過(guò)程中常見(jiàn)的思維陷阱：23技術(shù)指標(biāo)VS商業(yè)應(yīng)用把技術(shù)指標(biāo)（參數(shù)量、數(shù)據(jù)訓(xùn)練規(guī)模）等當(dāng)作商業(yè)應(yīng)用成功與否的指標(biāo)，而忽略了大模型的實(shí)際效果。成本VS需負(fù)擔(dān)的成本大模型的訓(xùn)練確實(shí)需要大量的計(jì)算資源和資金，但并不意味著企業(yè)用戶需要承擔(dān)大模型全部的費(fèi)用和成本投入。目前，大模型技術(shù)服務(wù)商已經(jīng)通過(guò)預(yù)訓(xùn)練、模型微調(diào)、算法優(yōu)化等技術(shù)降本的方式，使企業(yè)以相對(duì)合理的成本享受大模型的技術(shù)優(yōu)勢(shì)。企業(yè)用戶可以直接選擇成熟的預(yù)訓(xùn)練模型，不需要從0開(kāi)始訓(xùn)練。開(kāi)發(fā)流程VS全生命周期的開(kāi)發(fā)工具開(kāi)發(fā)大模型不是需要用戶獨(dú)立建立開(kāi)發(fā)流程、實(shí)現(xiàn)端到端開(kāi)發(fā)，技術(shù)供應(yīng)商能提供全周期的開(kāi)發(fā)平臺(tái)和流程推薦，并提供插件、測(cè)試、數(shù)據(jù)管理等“開(kāi)箱即用”和低代碼的工具組件，幫助企業(yè)更加敏捷、快速地應(yīng)用AI。短期產(chǎn)出VS長(zhǎng)期投入關(guān)注短期內(nèi)大模型帶來(lái)的價(jià)值產(chǎn)出，而忽略長(zhǎng)效投入下的價(jià)值收益。模型上線不等于AI應(yīng)用落地的結(jié)束，還需要長(zhǎng)期的投入。僅關(guān)注短期產(chǎn)出，可能將忽略數(shù)據(jù)飛輪效應(yīng)的長(zhǎng)遠(yuǎn)收益。安全隱私VS大模型商業(yè)價(jià)值擔(dān)心引入大模型會(huì)伴隨著產(chǎn)生數(shù)據(jù)隱私和數(shù)據(jù)安全的風(fēng)險(xiǎn)，而忽略了大模型落地對(duì)現(xiàn)有數(shù)據(jù)資產(chǎn)和數(shù)據(jù)價(jià)值發(fā)揮的推動(dòng)作用。實(shí)際上，大模型技術(shù)供應(yīng)商圍繞大模型開(kāi)發(fā)和使用提供了全棧安全可信解決方案，可保證全流程的模型和數(shù)據(jù)安全。來(lái)源：IDC，202424頭雁效應(yīng)大模型深入眾多應(yīng)用場(chǎng)景隨著大模型在眾多企業(yè)中的落地實(shí)踐不斷取得成功，其應(yīng)用場(chǎng)景正逐步拓寬。這些企業(yè)在不同業(yè)務(wù)場(chǎng)景中的積極探索和驗(yàn)證，使得大模型的能力得到了廣泛認(rèn)可。從最初的業(yè)務(wù)試點(diǎn)到如今的深度融入，大模型的應(yīng)用范圍不斷擴(kuò)展，涵蓋了生產(chǎn)、管理、營(yíng)銷等眾多領(lǐng)域。大模型應(yīng)用場(chǎng)景不斷擴(kuò)寬，應(yīng)用日漸成熟IDC研究總結(jié)了十大核心能力和十大應(yīng)用領(lǐng)域，每個(gè)應(yīng)用領(lǐng)域下梳理十個(gè)細(xì)分場(chǎng)景，梳理了AI大模型落地應(yīng)用場(chǎng)景全景圖，并分析其落地成熟度和發(fā)展?jié)摿?，以期為市?chǎng)和企業(yè)提供參考，幫助企業(yè)選擇最合適落地的場(chǎng)景和服務(wù)。十大核心能力：包括文本生成、圖像生成、視頻生成、推薦搜索、數(shù)據(jù)分析、智能決策、會(huì)話問(wèn)答、知識(shí)管理、多模態(tài)、邏輯推理；十大應(yīng)用領(lǐng)域：包括金融、互聯(lián)網(wǎng)、零售消費(fèi)、醫(yī)藥健康、智能終端、游戲、企業(yè)服務(wù)、文化娛樂(lè)、教育科研、汽車；26圖8AI大模型落地應(yīng)用場(chǎng)景全景圖汽車 金融 互聯(lián)網(wǎng)智能座艙 自動(dòng)駕駛產(chǎn)品設(shè)計(jì) 仿真模市場(chǎng)營(yíng)銷 客群分供應(yīng)鏈管理 智能制銷量預(yù)測(cè) 企業(yè)服

財(cái)富顧問(wèn)市場(chǎng)營(yíng)銷智能客服研報(bào)分析市場(chǎng)預(yù)測(cè)展業(yè)拓客金融產(chǎn)品創(chuàng)新金融風(fēng)控?cái)?shù)字員工代客交易

情感陪伴搜索問(wèn)答商品推薦廣告推送營(yíng)銷文案生成教育培訓(xùn)教育科研論文助手 實(shí)驗(yàn)仿真

零售消費(fèi)智慧門(mén)店 銷量預(yù)測(cè)科研結(jié)果創(chuàng)新教學(xué)設(shè)計(jì)機(jī)器人輔助虛擬教師作業(yè)出題批改教案生成行政管理助手學(xué)生培養(yǎng)文化娛樂(lè)輿情分析內(nèi)容審核圖片生成興趣愛(ài)好推薦回話問(wèn)答虛擬人形象

邏輯推理 文本生成 圖像生多模態(tài) 視頻生生成式AI知識(shí)管理 搜索推會(huì)話問(wèn)答 智能決策 數(shù)據(jù)分

供應(yīng)鏈管理 用戶行為分析廣告?zhèn)€性化 商品搜索推薦數(shù)字員工 售前售后客文案視頻設(shè)計(jì) 商品介紹生醫(yī)藥健康藥物研發(fā) 論文總結(jié)專利分析 智能導(dǎo)診分診手術(shù)機(jī)器人 用藥推薦醫(yī)生助手 個(gè)人健康助診后回訪監(jiān)測(cè) 患者問(wèn)答企業(yè)服務(wù)數(shù)字人客服辦公軟件供應(yīng)鏈管理 人力資源管

游戲游戲角色對(duì)話任務(wù)劇情設(shè)計(jì)游戲素材推薦用戶數(shù)據(jù)分析

智能終端任務(wù)規(guī)劃個(gè)人助手視覺(jué)感知交互產(chǎn)品排產(chǎn)終端設(shè)備研發(fā) 營(yíng)銷文案生成落地成熟度L1 L2 L3 L4 發(fā)展?jié)摿Φ?中 高來(lái)源：IDC，202427金融互聯(lián)網(wǎng)互聯(lián)網(wǎng)對(duì)AI大模型的接受程度最高，企業(yè)希望實(shí)現(xiàn)運(yùn)營(yíng)成本的降低和產(chǎn)品設(shè)計(jì)創(chuàng)新，如搜索問(wèn)答、廣告推送、商品推薦、營(yíng)銷文案生成、教育培訓(xùn)、辦公輔助等已開(kāi)始規(guī)?；涞貞?yīng)用。此外，情感陪伴也表現(xiàn)出了更大的用戶潛力。零售消費(fèi)圖文生成能力已廣泛應(yīng)用于商品介紹生成、售前售后客服場(chǎng)景，大幅降低人力成本并保證內(nèi)容準(zhǔn)確性。此外，銷量分析和預(yù)測(cè)、用戶行為分析等數(shù)據(jù)分析功能，也通過(guò)BI升級(jí)的形式來(lái)服務(wù)更多人員。醫(yī)藥健康當(dāng)前AI大模型主要用于輔助場(chǎng)景，如藥物研發(fā)中靶點(diǎn)發(fā)現(xiàn)、分子合成，以及智能問(wèn)診助手、導(dǎo)診分診等。另外，養(yǎng)老場(chǎng)景中也有較大的應(yīng)用潛力，例如，利用AI實(shí)現(xiàn)視頻安全監(jiān)控、文化娛樂(lè)、情感陪伴、出行輔助等功能，可以為用戶提供更智能更有溫度的服務(wù)。28智能終端以手機(jī)、電腦、智能家居為主的終端設(shè)備在積極融合AI能力，開(kāi)發(fā)智能對(duì)話、任務(wù)控制等基礎(chǔ)能力。面向未來(lái)，手機(jī)有著明顯的優(yōu)勢(shì)——可移動(dòng)，APP功能豐富，應(yīng)用生態(tài)底座全面，SoC芯片持續(xù)升級(jí)且具備攝像頭拍攝能力，可作為大模型的個(gè)性化開(kāi)發(fā)底座來(lái)進(jìn)行問(wèn)答、執(zhí)行、控制。筆記本電腦則更多圍繞系統(tǒng)工具的升級(jí)來(lái)實(shí)現(xiàn)輔助辦公、代碼開(kāi)發(fā)、視覺(jué)感知和控制等功能。智能家居在對(duì)話理解和語(yǔ)音控制的過(guò)程中，可以給人更自然的體驗(yàn)，而不僅是關(guān)鍵詞識(shí)別和觸發(fā)。另外，同時(shí)具備多模態(tài)感知和可移動(dòng)能力的智能眼鏡、AR設(shè)備也是大模型落地的熱點(diǎn)領(lǐng)域。游戲優(yōu)質(zhì)游戲的開(kāi)發(fā)成本巨大，成功后也會(huì)帶來(lái)明顯回報(bào)。對(duì)于優(yōu)質(zhì)內(nèi)容和游戲玩法的設(shè)計(jì)、數(shù)值策劃、闖關(guān)類型、人機(jī)匹配等，大模型尚不能完全替代；如當(dāng)前大部分設(shè)計(jì)策劃仍由人來(lái)設(shè)計(jì)測(cè)試，不需要復(fù)雜的算法介入，人機(jī)匹配則大多是機(jī)器學(xué)習(xí)領(lǐng)域的強(qiáng)化學(xué)習(xí)和模仿學(xué)習(xí)。目前AI大模型多用于2D圖像生成、語(yǔ)音生成、智能客服、違規(guī)詞監(jiān)測(cè)、3D人物和動(dòng)作生成，以及智能客服、辦公輔助等場(chǎng)景。企業(yè)服務(wù)這一賽道的企業(yè)已經(jīng)將“AI+”列為2024年重點(diǎn)目標(biāo)，投資動(dòng)力明顯，更新路徑也從基礎(chǔ)的內(nèi)容生成、數(shù)據(jù)分析、知識(shí)問(wèn)答，延伸至個(gè)人助理、跨模態(tài)生成、跨數(shù)據(jù)檢索、多輪對(duì)話、長(zhǎng)文生成等能力。29文化娛樂(lè)新聞生成、圖片素材生成、音樂(lè)生成等單模態(tài)能力已在現(xiàn)實(shí)生活中廣泛應(yīng)用。隨著GPT-4o的發(fā)布，視頻生成領(lǐng)域、圖片生成視頻、文字生成視頻、視頻自動(dòng)剪輯生成等方向，也開(kāi)始在互娛領(lǐng)域快速落地。教育科研頭部教育機(jī)構(gòu)擁有足夠的題庫(kù)積累，覆蓋幼兒教育、學(xué)前教育、小學(xué)教育、初中教育、高中教育、職業(yè)培訓(xùn)、大學(xué)和考公考研全年齡段，依靠AI生成能力來(lái)提供試題生成、批卷打分、口語(yǔ)分析、虛擬教師等功能。大模型已在英語(yǔ)培訓(xùn)市場(chǎng)展現(xiàn)出巨大的商業(yè)機(jī)會(huì)。汽車汽車與AI大模型的結(jié)合主要分成四個(gè)模塊，包括智能座艙、企業(yè)服務(wù)、自動(dòng)駕駛和智能制造。目前多家車企已上線智能座艙和企業(yè)服務(wù)，如車內(nèi)控制、導(dǎo)航娛樂(lè)、知識(shí)管理、市場(chǎng)營(yíng)銷等，通過(guò)語(yǔ)音對(duì)話、意圖識(shí)別、RAG檢索、指令生成、FunctionCall、API調(diào)用、插件調(diào)用、內(nèi)容整理和生成這一流程完成駕艙控制。眾多行業(yè)企業(yè)深入大模型落地實(shí)踐隨著大模型應(yīng)用場(chǎng)景的不斷拓展和應(yīng)用的日益成熟，我們看到了越來(lái)越多的大模型成功落地案例。這些案例如同路標(biāo)，為眾多企業(yè)指明了落地的方向，提供了實(shí)實(shí)在在的參考。企業(yè)可以從中了解到先進(jìn)的技術(shù)應(yīng)用經(jīng)驗(yàn)，感受到大模型帶來(lái)的實(shí)際效益，從而更加堅(jiān)定地在自身業(yè)務(wù)中推進(jìn)大模型的應(yīng)用。30企業(yè)介紹賽力斯：攜手豆包大模型提升用戶滿意度企業(yè)介紹賽力斯始創(chuàng)于1986年，是一家以新能源汽車為核心業(yè)務(wù)的技術(shù)科技型汽車企業(yè)，旗下主要產(chǎn)品包括AITO問(wèn)界系列高端智慧新能源汽車、藍(lán)電新能源汽車、瑞馳電動(dòng)商用車等，秉承著“推動(dòng)汽車能源變革，創(chuàng)享智慧移動(dòng)生活”的使命，專注技術(shù)自研，在三電技術(shù)、增程技術(shù)、電子電氣架構(gòu)和超級(jí)電驅(qū)智能技術(shù)平臺(tái)方面處于行業(yè)領(lǐng)先地位。需求驅(qū)動(dòng)力需求驅(qū)動(dòng)力主要需求：提升用戶反饋閉環(huán)效率，優(yōu)化業(yè)務(wù)部門(mén)決策支持提升用戶反饋閉環(huán)效率：通過(guò)優(yōu)化從收集、分析到響應(yīng)用戶反饋的整個(gè)流程，加快用戶問(wèn)題解決速度，提高用戶滿意度；優(yōu)化業(yè)務(wù)部門(mén)決策支持：基于對(duì)用戶反饋的及時(shí)處理與準(zhǔn)確判斷，提升相關(guān)業(yè)務(wù)部門(mén)的業(yè)務(wù)決策效率。賽力斯與火山引擎合作重點(diǎn)賽力斯與火山引擎合作重點(diǎn)賽力斯工作重點(diǎn)：厘清用戶反饋處理流程中各項(xiàng)工作環(huán)節(jié)，借助豆包大模型建設(shè)用戶之聲管理平臺(tái)（VOC：VoiceofCustomers）；梳理公私域平臺(tái)有關(guān)用戶反饋的數(shù)據(jù)源頭，打通企業(yè)工單系統(tǒng)，同時(shí)對(duì)接內(nèi)部協(xié)同辦公軟件，如飛書(shū)、釘釘、企微等，依托火山引擎提供的數(shù)據(jù)采集與分析能力，為業(yè)務(wù)部門(mén)提供第一手高質(zhì)量用戶反饋信息?；鹕揭娼鉀Q方案：火山引擎基于豆包大模型的理解、分類與總結(jié)能力，攜手賽力斯共創(chuàng)用戶之聲管理平臺(tái)，實(shí)現(xiàn)了用戶反饋分析、處理工作由人工承接轉(zhuǎn)為模型承接，達(dá)成用戶反饋閉環(huán)的智能化升級(jí)。情緒正負(fù)向判定：豆包大模型可對(duì)反饋內(nèi)容做上下文理解，輸出“正向”、“中立”、“負(fù)向”標(biāo)簽，避免人工主觀漏判/誤判，該類標(biāo)簽可用于報(bào)表聚類展示；31內(nèi)容標(biāo)簽提?。涸诨鹕揭?00+“開(kāi)箱即用”的汽車行業(yè)標(biāo)簽支持下，豆包大模型可基于應(yīng)業(yè)務(wù)部門(mén)；內(nèi)容觀點(diǎn)總結(jié)：豆包大模型能提取用戶反饋內(nèi)容中的主要觀點(diǎn)，例如其可將一篇3,000字的反饋精簡(jiǎn)至200-300字，并結(jié)構(gòu)化地提煉核心觀點(diǎn)，從而幫助運(yùn)營(yíng)大幅提升對(duì)于內(nèi)容的理解處理效率；實(shí)時(shí)數(shù)據(jù)采集與分析：火山引擎數(shù)據(jù)產(chǎn)品助力用戶之聲管理平臺(tái)，可實(shí)時(shí)采集公私域數(shù)據(jù)，包含資訊、評(píng)價(jià)、投訴、建議等多個(gè)維度的圖文、視頻信息，并支持品牌、車系、車型的下鉆分析，維度涵蓋用戶聲量監(jiān)測(cè)、來(lái)源渠道分布等。落地效果在豆包大模型的幫助下，VOC管理平臺(tái)有效提升了賽力斯的用戶反饋閉環(huán)效率，縮短了處理時(shí)長(zhǎng)，實(shí)現(xiàn)了用戶滿意度的提升；基于火山引擎提供的數(shù)據(jù)分析能力，賽力斯的風(fēng)險(xiǎn)監(jiān)控水準(zhǔn)得以進(jìn)一步提升，并推動(dòng)各個(gè)業(yè)務(wù)部門(mén)基于用戶反饋及時(shí)制定決策與實(shí)施，從而優(yōu)化企業(yè)運(yùn)營(yíng)。32企業(yè)介紹上汽乘用車：有效提升“用戶之聲”的反饋處理效率企業(yè)介紹上海汽車集團(tuán)股份有限公司（簡(jiǎn)稱“上汽集團(tuán)”）作為國(guó)內(nèi)規(guī)模領(lǐng)先的汽車上市公司，努力把握產(chǎn)業(yè)發(fā)展趨勢(shì)，加快創(chuàng)新轉(zhuǎn)型，正在從傳統(tǒng)的制造型企業(yè)，轉(zhuǎn)變?yōu)槊嫦蛳M(fèi)者提供移動(dòng)出行服務(wù)與產(chǎn)品的綜合供應(yīng)商。需求驅(qū)動(dòng)力需求驅(qū)動(dòng)力主要需求：高效處理海量數(shù)據(jù)，精準(zhǔn)分析用戶反饋，快速響應(yīng)市場(chǎng)變化高效處理海量數(shù)據(jù)：需要快速處理和分析大量用戶的反饋信息，以確保不會(huì)錯(cuò)失任何重要的用戶聲音；精準(zhǔn)分析用戶反饋：需要能夠準(zhǔn)確識(shí)別和理解用戶反饋中的關(guān)鍵點(diǎn)和情感傾向，以便更好地滿足用戶需求；快速響應(yīng)市場(chǎng)變化：需要通過(guò)高效的數(shù)據(jù)處理和精準(zhǔn)的反饋分析，獲得及時(shí)且有價(jià)值的洞察，以支持快速的業(yè)務(wù)決策，從而在競(jìng)爭(zhēng)激烈的市場(chǎng)中保持領(lǐng)先。上汽乘用車與火山引擎合作重點(diǎn)上汽乘用車與火山引擎合作重點(diǎn)上汽乘用車工作重點(diǎn)：整合來(lái)自各類垂直媒體、論壇、微博、企業(yè)APP等渠道的用戶反饋數(shù)據(jù)，為豆包大模型的分火山引擎解決方案：33落地效果34企業(yè)介紹海爾消金：豆包大模型為信貸資產(chǎn)管理提質(zhì)增效企業(yè)介紹海爾消費(fèi)金融成立于2014年，是由海爾集團(tuán)發(fā)起設(shè)立的持牌金融機(jī)構(gòu)，經(jīng)銀保監(jiān)批準(zhǔn)設(shè)立的全國(guó)性持牌消費(fèi)金融公司，旗下?lián)碛小昂栂M(fèi)金融”“夠花”兩款A(yù)PP,通過(guò)科技金融為用戶提供消費(fèi)信貸服務(wù)。需求驅(qū)動(dòng)力海爾消金與火山引擎合作重點(diǎn)海爾消金與火山引擎合作重點(diǎn)海爾消金工作重點(diǎn)：整理貸款知識(shí)、客戶信息、員工手冊(cè)等內(nèi)容，做好數(shù)據(jù)安全管理后，與豆包大模型連接，提升關(guān)鍵詞查詢和模糊匹配生成的準(zhǔn)確率；組織員工培訓(xùn)，學(xué)習(xí)大模型使用方式和建議，建立生成Prompt模板。通過(guò)扣子搭建適合不同業(yè)務(wù)人員的智能體?；鹕揭娼鉀Q方案：基于字節(jié)跳動(dòng)豆包大模型精調(diào)的大模型，能夠滿足海爾消金90%以上的智能化場(chǎng)景需求，包括風(fēng)控、客戶服務(wù)、貸后資產(chǎn)管理、意愿度識(shí)別等；火山引擎提供了火山方舟大模型服務(wù)平臺(tái)、扣子AI原生應(yīng)用開(kāi)發(fā)服務(wù)平臺(tái)、算力管理平臺(tái)等全棧式大模型工具；35提供完善的模型應(yīng)用數(shù)據(jù)治理體系，提供豐富多樣的獨(dú)享技術(shù)方案，嚴(yán)格遵循安全合規(guī)的要求，確保安全、合理地使用大模型。落地效果在資產(chǎn)管理過(guò)程中，通過(guò)與火山引擎的合作，引入豆包大模型能力，在初始應(yīng)用階段，效果提升達(dá)到15-20%；海爾消費(fèi)金融坐席助手摘錄過(guò)程中可達(dá)到超過(guò)95%的準(zhǔn)確率。每天節(jié)約坐席專員1-3小時(shí)，同時(shí)提升智能問(wèn)答系統(tǒng)的準(zhǔn)確率。后續(xù)支持海爾消金與火山引擎共同成立金融大模型聯(lián)合創(chuàng)新實(shí)驗(yàn)室，致力于構(gòu)建消費(fèi)金融垂直大模型，并在精準(zhǔn)營(yíng)銷、智能客服、貸后管理、風(fēng)控等業(yè)務(wù)場(chǎng)景中持續(xù)探索大模型的創(chuàng)新應(yīng)用，加速海爾消金的智能化轉(zhuǎn)型進(jìn)程；海爾消金CIO“在引入大模型后，現(xiàn)在實(shí)際的落地效果非常顯著，最典型的要數(shù)海爾消金的貸后管理工海爾消金CIO“在引入大模型后，現(xiàn)在實(shí)際的落地效果非常顯著，最典型的要數(shù)海爾消金的貸后管理工作。此外在客服領(lǐng)域里邊，也對(duì)客戶意圖進(jìn)行識(shí)別，可以更精準(zhǔn)地理解客戶的意圖，還便于事后對(duì)客戶進(jìn)行管理?！?6企業(yè)介紹中國(guó)飛鶴：利用AI實(shí)現(xiàn)企業(yè)全面的AI轉(zhuǎn)型升級(jí)企業(yè)介紹作為全國(guó)乳品行業(yè)龍頭企業(yè)，中國(guó)飛鶴1962年創(chuàng)立于趙光農(nóng)場(chǎng)，迄今已有60多年歷史，是中國(guó)最早的奶粉企業(yè)之一。根據(jù)第三方調(diào)研機(jī)構(gòu)全新數(shù)據(jù)，2019年-2023年度，飛鶴連續(xù)5年銷量位居全國(guó)首位。同時(shí)，飛鶴奶粉連續(xù)兩年全球銷量第一，旗下星飛帆系列已連續(xù)3年成為全球第一大單品。截至2023年1月，中國(guó)飛鶴在嬰幼兒奶粉中市占率達(dá)21.5%，穩(wěn)居市場(chǎng)第一。需求驅(qū)動(dòng)力飛鶴與火山引擎合作重點(diǎn)飛鶴與火山引擎合作重點(diǎn)飛鶴工作重點(diǎn)：重塑基礎(chǔ)設(shè)施能力，攜手火山引擎搭建先進(jìn)的云架構(gòu)、業(yè)務(wù)中臺(tái)和數(shù)據(jù)中臺(tái)，確保數(shù)據(jù)處理的高效性和業(yè)務(wù)流程的靈活性，支撐上層AI應(yīng)用運(yùn)行；選擇AI能力中臺(tái)核心組成部分，面向?qū)嶋H業(yè)務(wù)場(chǎng)景和需求，重點(diǎn)建設(shè)大模型能力、數(shù)字人、數(shù)字孿生、智能推薦、音視頻、VR/AR等；將應(yīng)用場(chǎng)景分成用戶運(yùn)營(yíng)觸達(dá)、渠道銷售和企業(yè)管理三大類，每個(gè)類別下重點(diǎn)建設(shè)具體應(yīng)用場(chǎng)景，如追溯回答、消費(fèi)者咨詢、優(yōu)選客服等，以滿足不同環(huán)節(jié)的需求?；鹕揭娼鉀Q方案：基于飛鶴信息化建設(shè)“3+3+2”的戰(zhàn)略藍(lán)圖，飛鶴聚焦搭建集成基礎(chǔ)設(shè)施層、能力層、接入層、場(chǎng)景層全覆蓋的AI能力中臺(tái)。通過(guò)明晰業(yè)務(wù)需求、愿景及資源狀況，火山引擎為飛鶴AI能力中臺(tái)做整體規(guī)劃，制定分步實(shí)施策略，促使中臺(tái)成功落地；37圍繞HiAgent平臺(tái)，火山引擎針對(duì)企業(yè)級(jí)市場(chǎng)進(jìn)行深度定制，提供成熟解決方案，通過(guò)段位劃分策略，幫助企業(yè)員工逐步掌握HiAgent使用，同時(shí)通過(guò)原廠輕咨詢、內(nèi)置最佳實(shí)踐和應(yīng)用效果評(píng)測(cè)，確保達(dá)到生產(chǎn)級(jí)標(biāo)準(zhǔn)。落地效果HiAgent平臺(tái)發(fā)揮了核心作用，將AI技術(shù)融入各個(gè)業(yè)務(wù)流程中，從而提升整體運(yùn)營(yíng)效率和市場(chǎng)競(jìng)爭(zhēng)力，為數(shù)字化轉(zhuǎn)型提供了堅(jiān)實(shí)基礎(chǔ)；某智能問(wèn)答項(xiàng)目能夠處理廣泛的消費(fèi)者咨詢，實(shí)現(xiàn)100%的問(wèn)答響應(yīng)率，同時(shí)保持了超過(guò)95%的高準(zhǔn)確率?！癆I大模型已在消費(fèi)者服務(wù)、線下活動(dòng)檢核、企業(yè)辦公、導(dǎo)購(gòu)培訓(xùn)、數(shù)據(jù)分析和智慧農(nóng)牧等多個(gè)業(yè)務(wù)場(chǎng)景中廣泛應(yīng)用，為飛鶴的創(chuàng)新發(fā)展注入新動(dòng)力?！?8企業(yè)介紹中手游：為《仙劍世界》打造豐富的AINPC生態(tài)企業(yè)介紹中手游是領(lǐng)先的全球化IP游戲運(yùn)營(yíng)商，以IP為核心，通過(guò)自主研發(fā)和聯(lián)合研發(fā)，為全球玩家提供精品IP游戲。圍繞自有IP《仙劍奇?zhèn)b傳》，持續(xù)為粉絲創(chuàng)造精品內(nèi)容和互動(dòng)體驗(yàn)，打造世界級(jí)IP，并將《仙劍世界》打造成全球首個(gè)國(guó)風(fēng)仙俠虛擬世界。需求驅(qū)動(dòng)力需求驅(qū)動(dòng)力主要需求：為《仙劍世界》打造AINPC，落地RAG技術(shù)，保障游戲服務(wù)穩(wěn)定為《仙劍世界》打造AINPC：基于大模型搭建豐富的AI玩法，打造具有長(zhǎng)期記憶和成長(zhǎng)能力的AINPC；落地RAG技術(shù)：通過(guò)RAG技術(shù)進(jìn)一步提升模型的推理效果，優(yōu)化AI游戲內(nèi)容的表現(xiàn)；保障游戲服務(wù)穩(wěn)定：借助模型及系統(tǒng)穩(wěn)定強(qiáng)大的推理QPS保障能力，保障游戲服務(wù)穩(wěn)定運(yùn)行。中手游與火山引擎合作重點(diǎn)中手游與火山引擎合作重點(diǎn)中手游工作重點(diǎn)：針對(duì)《仙劍世界》游戲中可落地大模型的場(chǎng)景進(jìn)行了深入探索，如意圖識(shí)別、情緒識(shí)別；對(duì)基座大模型、RAG解決方案中的向量數(shù)據(jù)庫(kù)等關(guān)鍵組件，進(jìn)行了大量評(píng)估，并搭建開(kāi)發(fā)框架?；鹕揭娼鉀Q方案：提供豆包·角色扮演模型，助力中手游打造行為獨(dú)立、可對(duì)玩家的行為做出個(gè)性化的反應(yīng)游戲氛圍NPC；基于豆包大模型能力幫助中手游打造玩家專屬劍靈“圓滿”，其可為玩家提供問(wèn)題解答、任務(wù)引導(dǎo)、功能喚起、智能傳送、戰(zhàn)斗BUFF、時(shí)辰播報(bào)等功能；通過(guò)召回能力優(yōu)秀的豆包·向量化模型、P90延時(shí)僅18.2ms的向量數(shù)據(jù)庫(kù)VikingDB等組件，搭建一站式RAG解決方案，為中手游建設(shè)游戲RAG知識(shí)庫(kù)提供技術(shù)支撐；39提供依托火山引擎充沛公有云GPU資源池打造，底層算力充足，且支持分鐘級(jí)完成千卡擴(kuò)縮容的大模型服務(wù)平臺(tái)火山方舟。落地效果基于豆包大模型打造的AINPC生態(tài)在《仙劍世界》游戲中被全面應(yīng)用，塑造了一個(gè)對(duì)于玩家而言陪伴感更強(qiáng)的游戲世界；火山引擎RAG解決方案，幫助游戲精靈“圓滿”具備了更智能的輔助功能，例如其可以根法說(shuō)明等，從而減少玩家在游戲中的阻礙感，提升游戲樂(lè)趣；中手游技術(shù)中心總監(jiān)“目前大模型已經(jīng)在中手游項(xiàng)目開(kāi)發(fā)流程中的多個(gè)環(huán)節(jié)投入應(yīng)用?；鹕揭孢@樣一位高效、值得信賴的云服務(wù)商伙伴，在這中間扮演著至關(guān)重要的角色。”火山方舟平臺(tái)充分滿足了中手游對(duì)于游戲的高RPM/TPM中手游技術(shù)中心總監(jiān)“目前大模型已經(jīng)在中手游項(xiàng)目開(kāi)發(fā)流程中的多個(gè)環(huán)節(jié)投入應(yīng)用?；鹕揭孢@樣一位高效、值得信賴的云服務(wù)商伙伴，在這中間扮演著至關(guān)重要的角色。”40浙江大學(xué)介紹浙江大學(xué)信息技術(shù)中心：落地全方位大模型應(yīng)用體系，構(gòu)造智能化教育環(huán)境浙江大學(xué)介紹浙江大學(xué)是一所特色鮮明、在海內(nèi)外有較大影響的綜合型、研究型、創(chuàng)新型大學(xué)，設(shè)有7個(gè)學(xué)部、40個(gè)專業(yè)學(xué)院（系）、1個(gè)工程師學(xué)院、2個(gè)中外合作辦學(xué)學(xué)院、7家直屬附屬醫(yī)院。截至2023年底，學(xué)校有全日制學(xué)生67656人、國(guó)際學(xué)生5514人、教職工9557人。2022年，浙江大學(xué)入選第二輪“雙一流”建設(shè)高校。需求驅(qū)動(dòng)與創(chuàng)新驅(qū)動(dòng)需求驅(qū)動(dòng)與創(chuàng)新驅(qū)動(dòng)主要需求：融合大模型能力，獲得跨越式發(fā)展融合模型能力：大模型時(shí)代技術(shù)背景下，校園教學(xué)、科研、管理、服務(wù)等系統(tǒng)，亟待融入大模型能力，使得各系統(tǒng)更加智能化，各系統(tǒng)組成的校園系統(tǒng)更加智能化；融合模型能力：在政策背景下，全校師生亟待平臺(tái)支持，以實(shí)踐人工智能的學(xué)習(xí)；獲得跨越式發(fā)展：浙大西湖之光算力聯(lián)盟已經(jīng)建成了良好的基礎(chǔ)設(shè)施，由火山引擎大模型方案構(gòu)建的AI應(yīng)用，將繼續(xù)推動(dòng)自身的發(fā)展和基礎(chǔ)設(shè)施的發(fā)展。浙江大學(xué)信息技術(shù)中心與火山引擎合作重點(diǎn)浙江大學(xué)信息技術(shù)中心與火山引擎合作重點(diǎn)浙江大學(xué)工作重點(diǎn)：圍繞教學(xué)、科研、教務(wù)、校園服務(wù)、本地生活等需求，建設(shè)體系化解決方案；解決場(chǎng)景多、多方協(xié)作、時(shí)間緊、效果要求高的全方位挑戰(zhàn)。火山引擎解決方案：火山引擎HiAgent平臺(tái)為建設(shè)“浙大先生”門(mén)戶及AI科學(xué)家等系列智能體場(chǎng)景應(yīng)用，提供了四大能力支持：多模型接入和多維數(shù)據(jù)整合：實(shí)施多模型接入策略，根據(jù)不同場(chǎng)景應(yīng)用需求精選最合適的模型，以多維數(shù)據(jù)整合能力有效處理不同數(shù)據(jù)庫(kù)的多樣化業(yè)務(wù)數(shù)據(jù)，為各場(chǎng)景應(yīng)用提供可靠的數(shù)據(jù)支持；41集成化工作空間協(xié)同開(kāi)發(fā)：高效構(gòu)建并利用集成化工作空間，實(shí)現(xiàn)多供應(yīng)商之間無(wú)縫的數(shù)據(jù)流轉(zhuǎn)與深度協(xié)同開(kāi)發(fā)，減少“數(shù)據(jù)孤島”信息摩擦，確保整個(gè)開(kāi)發(fā)鏈路每個(gè)環(huán)節(jié)都能基于最新、最準(zhǔn)確的數(shù)據(jù)決策行動(dòng)，提升應(yīng)用開(kāi)發(fā)的迭代效率和質(zhì)量；靈活的發(fā)布與集成機(jī)制：通過(guò)靈活地發(fā)布和集成Chatbot、Copilot、Agent多種形式的AI應(yīng)用，實(shí)現(xiàn)“浙大先生”大模型應(yīng)用體系的多元化，幫助師生按需自動(dòng)化處理日常任務(wù)；模型應(yīng)用自動(dòng)化調(diào)測(cè)優(yōu)化：提供效果評(píng)測(cè)、應(yīng)用Tracing、Debugging等能力，支持工作流速應(yīng)用的迭代優(yōu)化，確保應(yīng)用在實(shí)際場(chǎng)景中的穩(wěn)定性和可靠性。落地效果僅花7天時(shí)間，就實(shí)現(xiàn)了“浙大先生”大模型應(yīng)用體系的完整、高效構(gòu)建，讓AI應(yīng)用走進(jìn)課堂、校園、實(shí)驗(yàn)室等場(chǎng)景，為超過(guò)6萬(wàn)名在校師生等打造了更智能化的教學(xué)教務(wù)、科研創(chuàng)新、校園生活等全新體驗(yàn)；在大模型能力支持下，“浙大先生”應(yīng)用體系為用戶提供高度定制化的AI服務(wù)與支持，全面促進(jìn)浙江大學(xué)教學(xué)、教務(wù)、科研智能化升級(jí)與效率提升：門(mén)戶：無(wú)縫對(duì)接浙大統(tǒng)一身份認(rèn)證系統(tǒng)，師生可憑校園賬號(hào)輕松登錄并享受相關(guān)服務(wù)AI科學(xué)家：提供全學(xué)科數(shù)據(jù)庫(kù)、知識(shí)庫(kù)、通用AI科研助手等工具，快速鏈接算力平臺(tái)、模型庫(kù)、算法庫(kù)，大幅提升科研效率課堂智能問(wèn)答：深度融合大模型與向量數(shù)據(jù)庫(kù)，精準(zhǔn)處理教案、考試要求等課堂資料，即時(shí)解答學(xué)生疑問(wèn)、提升學(xué)習(xí)效率與質(zhì)量教務(wù)咨詢：以智能交互提供專業(yè)教育咨詢，強(qiáng)化政策文件檢索與理解，助力學(xué)生高效掌握教務(wù)信息百事通助手：整合超600項(xiàng)網(wǎng)上服務(wù)事項(xiàng)，覆蓋學(xué)習(xí)、生活、行政等多個(gè)場(chǎng)景，為師生提供全方位辦事指引本地生活助手：精準(zhǔn)捕捉意圖，為師生篩選、推薦貼合需求的餐飲，并提供頁(yè)面地址及推薦理由，滿足多樣化用餐生活需求慧學(xué)外語(yǔ)：提供豐富多樣、高效使用的課程信息與學(xué)習(xí)對(duì)話體驗(yàn)，助力外語(yǔ)學(xué)習(xí)42企業(yè)介紹蘇泊爾：構(gòu)建AI驅(qū)動(dòng)的“居家食養(yǎng)健康”物聯(lián)場(chǎng)景生態(tài)企業(yè)介紹蘇泊爾成立于1994年，2004年在深交所上市，是中國(guó)炊具行業(yè)首家上市公司。蘇泊爾擁有6大研發(fā)制造基地，分布在杭州、武漢、紹興、玉環(huán)、柯橋和越南，通過(guò)持續(xù)創(chuàng)新和對(duì)品質(zhì)的始終堅(jiān)持，在小家電行業(yè)保持領(lǐng)先地位。產(chǎn)品涵蓋烹飪用具、廚房電器、家居與個(gè)人護(hù)理電器等多個(gè)領(lǐng)域。云饌平臺(tái)是蘇泊爾旗下的智慧生活共創(chuàng)平臺(tái)，為消費(fèi)者居家健康烹飪?nèi)珗?chǎng)景提供了領(lǐng)先的解決方案。需求驅(qū)動(dòng)力主要需求：提供個(gè)性化健康食譜，增強(qiáng)蘇泊爾APP使用體驗(yàn)，建設(shè)智能炒菜機(jī)生態(tài)需求驅(qū)動(dòng)力提供個(gè)性化見(jiàn)刊食譜：提升廚房烹飪品類電器的內(nèi)容生產(chǎn)效率，同時(shí)滿足消費(fèi)者對(duì)于個(gè)性化專屬譜的需求；增強(qiáng)APP體驗(yàn)：提供多場(chǎng)景中食譜智能檢索和推薦體驗(yàn)；蘇泊爾與火山引擎合作重點(diǎn)建設(shè)智能炒菜機(jī)生態(tài)：提升智能炒菜機(jī)生態(tài)服務(wù)能力，為炒菜機(jī)用戶提供一日三餐“居家食養(yǎng)健康”主題的配餐服務(wù)。蘇泊爾與火山引擎合作重點(diǎn)蘇泊爾工作重點(diǎn):基于扣子專業(yè)版，打造云撰食譜創(chuàng)作、云饌AI尋味、云饌居家食養(yǎng)健康等智能體；優(yōu)化以往PaaS-SaaS-APP的軟件架構(gòu)模式，借助“AgentasAPI”方式實(shí)現(xiàn)智能體與蘇泊爾APP、蘇泊爾IoT產(chǎn)品直連，提升開(kāi)發(fā)效率和用戶體驗(yàn)?；鹕揭娼鉀Q方案：火山引擎扣子專業(yè)版提供了靈活編排搭建AI智能體的能力，加速蘇泊爾云饌系列智能體的構(gòu)建；扣子平臺(tái)靈活的API支持，令蘇泊爾以“AgentasAPI”的方式應(yīng)用智能體成為可能：云撰食譜創(chuàng)作：結(jié)合用戶綁定的廚電產(chǎn)品及家庭飲食情況，智能體可借助豆包大模型和文生圖能力，為用戶生成專屬的個(gè)性化健康食譜；43云饌AI尋味：可在扣子專業(yè)版的智能體編排技術(shù)支持下，于蘇泊爾APP尋味欄目中，實(shí)現(xiàn)多場(chǎng)景食譜智能檢索和推薦等功能；云饌居家食養(yǎng)健康：借助扣子平臺(tái)智能體語(yǔ)音交互OpenAPI、音色克隆、音色合成API等能力，提升蘇泊爾智能炒菜機(jī)的服務(wù)水平，為消費(fèi)者提供每日三餐“配餐式”的健康美食日歷服務(wù)。落地效果云饌食譜創(chuàng)作智能體針對(duì)蘇泊爾旗下電飯煲、電壓力鍋、烤箱、空氣炸鍋等重點(diǎn)品類，月均服務(wù)超15萬(wàn)蘇泊爾APP會(huì)員，好評(píng)度逐步提升。云饌AI尋味智能體日均服務(wù)蘇泊爾APP會(huì)員一日三餐2萬(wàn)多次。*數(shù)據(jù)取自蘇泊爾云饌平臺(tái)，2024年10月至今。蘇泊爾AIOT中心總監(jiān)張作強(qiáng)蘇泊爾AIOT中心總監(jiān)張作強(qiáng)“蘇泊爾聯(lián)合豆包大模型與扣子AI智能體平臺(tái)，深入居家健康烹飪等多領(lǐng)域，以'AgentasAPI'直連產(chǎn)品，優(yōu)化了IoT平臺(tái)架構(gòu)，提效研發(fā)且用戶體驗(yàn)得以優(yōu)化。憑技術(shù)創(chuàng)新構(gòu)建'居家食養(yǎng)健康'物聯(lián)生態(tài)，賦予烹飪電器人格化體驗(yàn)，給消費(fèi)者帶來(lái)智能便捷的健康烹飪新生活?！?4企業(yè)介紹海底撈：基于智能化客戶評(píng)價(jià)分析，打造更好餐飲服務(wù)企業(yè)介紹海底撈品牌創(chuàng)建于1994年，歷經(jīng)二十多年的發(fā)展，海底撈已經(jīng)成長(zhǎng)為國(guó)際知名的餐飲企業(yè)。截至2022年12月底，海底撈擁有上千家直營(yíng)餐廳。海底撈多年來(lái)歷經(jīng)市場(chǎng)和顧客的檢驗(yàn)，成功地打造出信譽(yù)度高、融匯各地火鍋特色于一體的優(yōu)質(zhì)火鍋品牌。2018年9月，海底撈于港交所掛牌上市。需求驅(qū)動(dòng)力需求驅(qū)動(dòng)力主要需求：高效完成客戶評(píng)價(jià)分析海底撈與火山引擎合作重點(diǎn)海底撈與火山引擎合作重點(diǎn)海底撈工作重點(diǎn)：建設(shè)數(shù)據(jù)中臺(tái)，整合顧客餐后評(píng)價(jià)、投訴工單、第三方餐飲平臺(tái)點(diǎn)評(píng)與評(píng)價(jià)等反饋；打造后端環(huán)境進(jìn)行數(shù)據(jù)治理，過(guò)濾無(wú)效內(nèi)容，將有效評(píng)價(jià)推送至大語(yǔ)言模型?；鹕揭娼鉀Q方案：基于豆包大模型，火山引擎為海底撈搭建了用戶評(píng)價(jià)分析模型，通過(guò)對(duì)用戶評(píng)價(jià)進(jìn)行情緒、觀點(diǎn)的高效智能抽取，形成服務(wù)質(zhì)量、菜品質(zhì)量洞察。豆包大模型具有更強(qiáng)性能，可通過(guò)語(yǔ)言處理能力，對(duì)顧客評(píng)價(jià)中有關(guān)環(huán)境、菜品、服務(wù)等不同維度內(nèi)容進(jìn)行抽取，同時(shí)判斷顧客評(píng)價(jià)時(shí)正向/負(fù)向情緒：從全局角度，對(duì)顧客評(píng)論給出“好中差”整體評(píng)價(jià)結(jié)論；提供進(jìn)一步精細(xì)化分析能力，從服務(wù)、產(chǎn)品、衛(wèi)生、性價(jià)比等多個(gè)角度判斷顧客情緒。提供不同顆粒度總結(jié)報(bào)告，以直觀、數(shù)字可視化形式呈現(xiàn)在海底撈數(shù)據(jù)中臺(tái)，方便查閱。45落地效果落地效果在火山引擎豆包大模型能力幫助下，海底撈實(shí)現(xiàn)了高效、精準(zhǔn)的用戶評(píng)價(jià)分析，為門(mén)店績(jī)效管理及后續(xù)經(jīng)營(yíng)管理的持續(xù)迭代與優(yōu)化提供了指導(dǎo)?！癆I在餐飲行業(yè)的應(yīng)用，不能一味地考慮邊際效用，也需要結(jié)合服務(wù)體驗(yàn)，海底撈是以服務(wù)立足的企業(yè)，在AI方案的選擇上，也一直在追求“以人為本，體驗(yàn)第一”的原則?！?6更多企業(yè)落地案例實(shí)踐招商銀行落地智能體，形成更全面AI能力客戶需求：加速智能化轉(zhuǎn)型：推動(dòng)AI創(chuàng)新從高性能基礎(chǔ)設(shè)施向智能體多元場(chǎng)景拓展；提供更智能化、個(gè)性化客戶服務(wù)：以自然流暢語(yǔ)言交互方式，滿足金融行業(yè)用戶多樣化個(gè)性需求。解決方案：火山引擎為招商銀行的智能化創(chuàng)新提供了擁有低門(mén)檻智能體構(gòu)建能力的扣子平臺(tái)，以豐富的企業(yè)級(jí)插件、靈活的集成機(jī)制、多模型適配能力，加速招商銀行AI能力落地應(yīng)用：以扣子平臺(tái)為依托，招商銀行舉辦了為期三個(gè)月、范圍覆蓋全行的“大模型應(yīng)用創(chuàng)新大賽”，加速大模型及智能體技術(shù)在金融行業(yè)的融合應(yīng)用，推動(dòng)更多金融智能體項(xiàng)目涌現(xiàn)；依托扣子平臺(tái)打造的“掌上生活優(yōu)惠”及“財(cái)富看點(diǎn)”等智能體，為用戶提供生活優(yōu)惠查詢以及市場(chǎng)行情分析等一系列服務(wù)。落地效果：打造的智能助手以更自然的交互方式，以及更智能化、個(gè)性化的服務(wù)，提升用戶滿意度及粘性；招商銀行內(nèi)部大模型及智能體技術(shù)的普及，為后續(xù)更多貼合自身業(yè)務(wù)需求的AI智能體構(gòu)建奠定了基礎(chǔ)。領(lǐng)克汽車將AI打造成銷售顧問(wèn)的得力助手客戶需求：產(chǎn)品知識(shí)培訓(xùn)：優(yōu)化內(nèi)訓(xùn)流程，強(qiáng)化銷售顧問(wèn)知識(shí)體系，理解客戶需求；智能化工具助理：智能化建檔，匹配現(xiàn)代消費(fèi)者購(gòu)買行為，豐富銷售工具，建立健全現(xiàn)代化工具。解決方案：火山引擎與領(lǐng)克汽車構(gòu)建了同SalesCopilot技術(shù)深度融合的豆包大模型銷售助理，以及實(shí)時(shí)對(duì)練和評(píng)級(jí)系統(tǒng)、用車知識(shí)工具等：豆包大模型銷售助理：通過(guò)豆包大模型，銷售顧問(wèn)可以獲取關(guān)于本品和競(jìng)品汽車產(chǎn)品的深度知識(shí)，以及市場(chǎng)趨勢(shì)的即時(shí)更新，更好地理解客戶需求和優(yōu)化銷售策略；實(shí)時(shí)對(duì)練和評(píng)級(jí)系統(tǒng)：SalesCopilot提供的對(duì)練系統(tǒng)能夠模擬各種銷售場(chǎng)景，讓銷售顧問(wèn)在實(shí)際接待和跟進(jìn)客戶前，能夠充分練習(xí)并提升應(yīng)對(duì)各種問(wèn)題的能力；用車知識(shí)工具：銷售顧問(wèn)可以通過(guò)這一工具快速訪問(wèn)到關(guān)于汽車維護(hù)、操作和功能的詳細(xì)信息，并可以通過(guò)客戶手冊(cè)，查閱以視頻等方式輸出的豐富內(nèi)容，從而獲得準(zhǔn)確而詳細(xì)的產(chǎn)品知識(shí)。落地效果：更精準(zhǔn)地滿足客戶需求，提供個(gè)性化、更高效的服務(wù)，助力銷售業(yè)績(jī)成功達(dá)成，打造業(yè)務(wù)增長(zhǎng)新空間；靈活的底層算力支持，使得領(lǐng)克汽車能夠以極低成本快速落地大模型，降低端側(cè)推理成本。47想法流基于模型多模態(tài)能力保障更強(qiáng)用戶互動(dòng)客戶需求：提升用戶互動(dòng)性：打造嚴(yán)格遵循人設(shè)要求，且具備基本常識(shí)對(duì)話問(wèn)答能力的AI角色，以主動(dòng)開(kāi)啟新話題等方式推進(jìn)聊天進(jìn)展，增加用戶粘性；多場(chǎng)景支持：希望獲得對(duì)多個(gè)細(xì)分專業(yè)場(chǎng)景中、用戶不同交互行為的支持；服務(wù)穩(wěn)定：為保證更好的對(duì)話體驗(yàn)，提升用戶留存率，需要延時(shí)穩(wěn)定在40-50ms，并保障RPM&TPM請(qǐng)求。解決方案：火山引擎為想法流提供了效果更強(qiáng)的豆包大模型，以多模態(tài)AI能力，幫助平臺(tái)為用戶提供豐富奇妙的內(nèi)容體驗(yàn)：以提供PE提示詞調(diào)優(yōu)方式協(xié)助AI游戲的制作，并將制作指南開(kāi)放提供給PGC創(chuàng)作者參考；通過(guò)豆包大模型語(yǔ)音合成、圖片人臉合成等多模態(tài)能力，支持多場(chǎng)景中不同交互行為需求；通過(guò)MoE架構(gòu)模型和充足資源保障，滿足客戶對(duì)延時(shí)和RPM/TPM的要求。落地效果：通過(guò)接入豆包大模型，想法流獲得了用戶每日互動(dòng)次數(shù)1.5-2.5倍、人均互動(dòng)輪次1.5-3.5倍于其他模型的增長(zhǎng)，部分內(nèi)容場(chǎng)景中人均對(duì)話高達(dá)150輪以上。同時(shí)，在火山引擎千萬(wàn)級(jí)TPM資源保障下，平臺(tái)線上請(qǐng)求成功率達(dá)99.95%，token間時(shí)延平均控制在40-50ms內(nèi)。深維智信借大模型獲營(yíng)銷能力、培訓(xùn)效率雙提升客戶需求：解決方案：火山引擎為深維智信提供了豆包大模型，以模型能力對(duì)運(yùn)營(yíng)數(shù)據(jù)分析過(guò)程進(jìn)行提效，同時(shí)以模型能力加持、實(shí)現(xiàn)更智能的對(duì)話模擬，幫助提升客服能力：火山引擎提供豆包多種窗口尺寸模型及角色扮演模型，滿足多場(chǎng)景需求；分析銷售會(huì)話數(shù)據(jù)，提供基于語(yǔ)義的智能質(zhì)檢配置和分析，識(shí)別客戶異議、卡點(diǎn)分析、關(guān)鍵矛盾、交易復(fù)盤(pán)，實(shí)現(xiàn)銷售過(guò)程透視，服務(wù)銷售管理；通過(guò)AI提煉高頻問(wèn)題、真實(shí)需求、客戶畫(huà)像，從客戶聲音出發(fā)，科學(xué)制定銷售策略，借助精準(zhǔn)營(yíng)銷提升轉(zhuǎn)化效率。落地效果：語(yǔ)義分析的召回率相對(duì)于常規(guī)質(zhì)檢工具提升55%以上，幫助客戶將新人入職培訓(xùn)時(shí)間縮短50%，少22%，平均人效提升31%。48和府撈面以模型能力提效用戶評(píng)論分析客戶需求：用戶評(píng)論分析：分析用戶評(píng)論數(shù)據(jù)，識(shí)別情感傾向并對(duì)其進(jìn)行分類；經(jīng)營(yíng)策略調(diào)整：基于用戶對(duì)菜品口味、門(mén)店服務(wù)質(zhì)量的評(píng)價(jià)，調(diào)整經(jīng)營(yíng)策略。解決方案：扣子專業(yè)版提供低代碼開(kāi)發(fā)環(huán)境，使得沒(méi)有編程基礎(chǔ)的業(yè)務(wù)人員也能輕松完成智能體的開(kāi)發(fā)。和府的業(yè)務(wù)人員借助扣子產(chǎn)品的強(qiáng)大編排能力和豐富的插件功能，結(jié)合豆包大模型的技術(shù)支持，實(shí)現(xiàn)了更高效、更精準(zhǔn)的用戶點(diǎn)評(píng)分析：通過(guò)豆包大模型的強(qiáng)大文本分析能力，對(duì)用戶評(píng)論數(shù)據(jù)進(jìn)行情感分析，精準(zhǔn)識(shí)別正面、負(fù)面、中性等情感傾向；基于模型的多層次理解，結(jié)合環(huán)境、服務(wù)、菜品等關(guān)鍵詞，對(duì)評(píng)論進(jìn)行智能分類，并提取相關(guān)標(biāo)簽，綜合準(zhǔn)確率超過(guò)95%。分析結(jié)果以JSON格式輸出，便于開(kāi)發(fā)團(tuán)隊(duì)進(jìn)行后續(xù)數(shù)據(jù)的處理和應(yīng)用。落地效果：和府撈面打造的“顧客點(diǎn)評(píng)分析”智能體，能夠替代人工、高效完成顧客點(diǎn)評(píng)工作，為門(mén)店建立對(duì)顧客的高效洞察，并為其在菜品、服務(wù)等方面進(jìn)行策略調(diào)整提供了有力依據(jù)。中和農(nóng)信借助扣子完成抖音生態(tài)內(nèi)容質(zhì)檢客戶需求：解決方案：借助扣子專業(yè)版強(qiáng)大的編排能力和豐富的插件能力，中和農(nóng)信在沒(méi)有耗費(fèi)研發(fā)人力資源的情況下，實(shí)現(xiàn)了質(zhì)檢智能體的開(kāi)發(fā)上線，完成了過(guò)去單靠人力無(wú)法做到的工作。借助扣子單Agent（LLM模式）搭建，并將智能體發(fā)布為API，實(shí)現(xiàn)了每天都通過(guò)API來(lái)自動(dòng)獲取員工自媒體賬號(hào)的視頻內(nèi)容并進(jìn)行效果分析；智能體主要依靠視頻理解插件和豆包大模型的能力進(jìn)行信息獲取和處理等批量、自動(dòng)化場(chǎng)景，免除了意圖識(shí)別、工具調(diào)用的時(shí)間延遲。落地效果：扣子提供的低代碼搭建環(huán)境、豐富的插件和強(qiáng)大的workflow組件，使得中和農(nóng)信智能體的開(kāi)發(fā)過(guò)程中幾乎沒(méi)有耗費(fèi)研發(fā)資源，2人經(jīng)過(guò)3天的開(kāi)發(fā)和調(diào)試就達(dá)到了滿意效果，成功上線。49攻克有徑跨越大模型落地技術(shù)難題基于對(duì)眾多企業(yè)應(yīng)用實(shí)踐的總結(jié)分析和對(duì)技術(shù)應(yīng)用的研究，IDC總結(jié)了大模型部署落地的技術(shù)路徑。這套路徑融合了實(shí)際操作中的寶貴經(jīng)驗(yàn)，為企業(yè)引入和應(yīng)用大模型提供了清晰的指南，確保了大模型技術(shù)落地的高效性和穩(wěn)定性，助力企業(yè)的智能化轉(zhuǎn)型。大模型落地部署技術(shù)步驟資源投入計(jì)劃資源投入計(jì)劃人才資金數(shù)據(jù)經(jīng)驗(yàn)?zāi)Ｐ瓦x擇模型精度模型效果參數(shù)規(guī)模效果評(píng)估響應(yīng)時(shí)間TPMRPM應(yīng)用建設(shè)路徑建設(shè)周期落地場(chǎng)景覆蓋廣度創(chuàng)新深度應(yīng)用上線跨平臺(tái)/跨數(shù)據(jù)源版本管理算力準(zhǔn)備性能安全測(cè)試效果調(diào)優(yōu)PromptRAGSFTRLHF模型接入性能測(cè)試云端接入API管理開(kāi)發(fā)平臺(tái)搭建LLMOpsAgentAPI管理數(shù)據(jù)平臺(tái)來(lái)源：IDC，202451資源投入計(jì)劃：資源投入計(jì)劃：確定團(tuán)隊(duì)建設(shè)路徑，整合大模型開(kāi)發(fā)人才、調(diào)優(yōu)人才、數(shù)據(jù)人才、業(yè)務(wù)人才，重點(diǎn)考慮是否需要引入外部人才或展開(kāi)外部合作，保證大模型開(kāi)發(fā)應(yīng)用各環(huán)節(jié)的充足人才儲(chǔ)備；保證資金階段性的持續(xù)投入，并制定里程碑，讓每項(xiàng)成果都能被看到；盤(pán)點(diǎn)內(nèi)部數(shù)據(jù)，制定數(shù)據(jù)采集、數(shù)據(jù)清洗和數(shù)據(jù)治理計(jì)劃，使其更好服務(wù)于AI大模型的訓(xùn)練和推理；考慮企業(yè)內(nèi)部是否有可以直接學(xué)習(xí)和引用的模板和經(jīng)驗(yàn)沉淀，打造差異化壁壘。模型選擇：模型選擇：了解大模型市場(chǎng)提供產(chǎn)品的功能特性和應(yīng)用效果，面向需求定制，使用內(nèi)部和外部測(cè)試集來(lái)測(cè)試模型效果，并充分體現(xiàn)評(píng)估集對(duì)業(yè)務(wù)指標(biāo)的考量，選擇評(píng)測(cè)指標(biāo)達(dá)到業(yè)務(wù)需求的模型；從模型實(shí)際落地的效果、可參考的實(shí)踐案例和demo來(lái)挑選模型；從訓(xùn)練和推理效率、延遲以及調(diào)用成本方面挑選最合適規(guī)格的大模型，可參考模型大小、硬件支持水平、服務(wù)SLA水平；重點(diǎn)考慮該模型與企業(yè)目標(biāo)業(yè)務(wù)場(chǎng)景的匹配度，是否需要調(diào)優(yōu)或經(jīng)過(guò)簡(jiǎn)單調(diào)優(yōu)即可上線應(yīng)用來(lái)解決問(wèn)題。效果評(píng)估：效果評(píng)估：在選擇模型后，企業(yè)應(yīng)考慮從具體落地的場(chǎng)景和使用效果出發(fā)，來(lái)預(yù)測(cè)模型上線后的業(yè)務(wù)指標(biāo)達(dá)成率、實(shí)際體驗(yàn)效果、各功能平均時(shí)延、最大吞吐等工程指標(biāo)；52預(yù)估需要調(diào)整優(yōu)化的投入和開(kāi)發(fā)難度，確保使用者擁有最好的AI應(yīng)用體驗(yàn)，實(shí)際效果和響應(yīng)時(shí)間的長(zhǎng)短會(huì)極大影響用戶的感受和留存率。應(yīng)用建設(shè)路徑：應(yīng)用建設(shè)路徑：明確建設(shè)周期，制定詳細(xì)的時(shí)間計(jì)劃和關(guān)鍵時(shí)間節(jié)點(diǎn)，做到多線程統(tǒng)一管理；了解大模型的應(yīng)用邊界，從賦能方向、使用人群等確定大模型的落地場(chǎng)景；算力準(zhǔn)備：算力準(zhǔn)備：隨著大模型應(yīng)用廣度和深度的增加，大模型的覆蓋范圍和使用頻率會(huì)規(guī)?；嵘?，推理時(shí)算力資源的消耗額度也將同步增加；企業(yè)應(yīng)重點(diǎn)考慮算力購(gòu)買規(guī)模，制定階段化、梯度上升的算力準(zhǔn)備策略；明確算力資源的使用消耗方式，傾向選擇可以實(shí)現(xiàn)瞬時(shí)響應(yīng)和擴(kuò)縮容的服務(wù)；算力有公有云、私有云等多種方式，應(yīng)根據(jù)自身業(yè)務(wù)體量和實(shí)際需求挑選成本最優(yōu)、服務(wù)最合適的方案。開(kāi)發(fā)平臺(tái)搭建：開(kāi)發(fā)平臺(tái)搭建：搭建LLMOps平臺(tái)，保證AI大模型的開(kāi)發(fā)建設(shè)和管理?yè)碛型暾墓ぞ哝湕l，具備全棧平臺(tái)能力；利用外部AI廠商成熟的Agent工具實(shí)現(xiàn)AI大模型的快速開(kāi)發(fā)和應(yīng)用，直接使用預(yù)置的豐富垂直場(chǎng)景化模板和工具；53隨著模型版本、上線應(yīng)用場(chǎng)景的增多，做好統(tǒng)一API接口的管理；為AI大模型采集、產(chǎn)生和使用的多模態(tài)數(shù)據(jù)搭建可靠的數(shù)據(jù)平臺(tái)底座，實(shí)現(xiàn)文本、圖像、視頻等多樣化數(shù)據(jù)的一體化管理。模型接入：模型接入：從場(chǎng)景安全需求、數(shù)據(jù)隱私保護(hù)需求、管理便捷程度、成本等方面來(lái)選擇模型的接入方式，如云端接入、API管理或線下部署；重點(diǎn)考慮后續(xù)調(diào)優(yōu)的成本以及模型更新的代價(jià)；目前來(lái)看，云端接入是多數(shù)企業(yè)的選擇，且在后續(xù)模型版本更新后也能通過(guò)更低的成本實(shí)現(xiàn)無(wú)縫銜接。效果調(diào)優(yōu)：效果調(diào)優(yōu)：可選擇Prompt工程、RAG知識(shí)庫(kù)等簡(jiǎn)單、低代碼、無(wú)代碼方式進(jìn)行效果調(diào)優(yōu)，需重點(diǎn)考慮AI廠商是否具備豐富的經(jīng)驗(yàn)沉淀、算法模型和模板預(yù)置，如RAG過(guò)程中提供成熟的嵌入、檢索和重排序模型；選擇SFT、RLHF等復(fù)雜方式進(jìn)行調(diào)優(yōu)；這一過(guò)程需要更高水平的開(kāi)發(fā)人員對(duì)大模型的架構(gòu)、參數(shù)和訓(xùn)練數(shù)據(jù)進(jìn)行調(diào)整。性能安全測(cè)試：性能安全測(cè)試：在模型上線前最關(guān)鍵的步驟是進(jìn)行性能安全測(cè)試，包括性能、安全、風(fēng)控測(cè)試，對(duì)內(nèi)容生成效率、數(shù)據(jù)內(nèi)容泄露風(fēng)險(xiǎn)、敏感詞等進(jìn)行測(cè)試；例如TPM（Tokens Per Minute每分鐘Tokens數(shù)量）、RPM（RequestsPerMinute每分鐘請(qǐng)求數(shù)），保證大流量、高并發(fā)場(chǎng)景下運(yùn)行穩(wěn)定；重點(diǎn)考慮互聯(lián)網(wǎng)場(chǎng)景應(yīng)用更深、服務(wù)人數(shù)更廣的AI廠商，其擁有更多的數(shù)據(jù)和經(jīng)驗(yàn)，在測(cè)試時(shí)水平更高，可以有效避免安全和敏感問(wèn)題。54應(yīng)用上線：根據(jù)業(yè)務(wù)場(chǎng)景重點(diǎn)考慮AI大模型的跨平臺(tái)、跨系統(tǒng)上線，統(tǒng)計(jì)應(yīng)用上線出口，明確是否需要開(kāi)發(fā)額外的用戶界面、客戶端，還是與已有服務(wù)界面融合即可；做好底層數(shù)據(jù)的管理，保證模型上線后不同使用群體、不同問(wèn)題和任務(wù)可以在既定的規(guī)則和使用范圍下應(yīng)用數(shù)據(jù)，同時(shí)保護(hù)用戶的數(shù)據(jù)隱私；做好版本管理，以應(yīng)對(duì)模型應(yīng)用的增多、測(cè)試和更新。落地三要素在大模型落地的眾多技術(shù)步驟與細(xì)節(jié)之中，精準(zhǔn)選模、開(kāi)發(fā)平臺(tái)、伙伴與同行這三個(gè)方面顯得尤為關(guān)鍵。精準(zhǔn)選模確保了所選模型與業(yè)務(wù)需求的高度匹配，為后續(xù)應(yīng)用打下堅(jiān)實(shí)基礎(chǔ)；開(kāi)發(fā)平臺(tái)則是模型訓(xùn)練與優(yōu)化的關(guān)鍵場(chǎng)所，直接影響到模型的性能發(fā)揮與落地效率；而伙伴與同行則關(guān)乎技術(shù)支持、資源共享與協(xié)同創(chuàng)新，對(duì)于模型的成功落地同樣至關(guān)重要。5.2.1模型的選擇：企業(yè)實(shí)現(xiàn)AI轉(zhuǎn)型的關(guān)鍵5.2.1模型的選擇：企業(yè)實(shí)現(xiàn)AI轉(zhuǎn)型的關(guān)鍵充分的業(yè)務(wù)場(chǎng)景論證將保證商業(yè)應(yīng)用的成功。實(shí)驗(yàn)室環(huán)境下的模型水平與實(shí)際業(yè)務(wù)落地存在一定認(rèn)知差距，企業(yè)需要重點(diǎn)考慮該模型背后是否有更大的使用量、有充分的業(yè)務(wù)場(chǎng)景論證；更多的模型使用可以保證更快的迭代升級(jí)，包括通用基礎(chǔ)模型和多場(chǎng)景的模型家族，能帶來(lái)更好的、更貼合業(yè)務(wù)場(chǎng)景的、可以帶來(lái)真正商業(yè)價(jià)值的AI服務(wù)。55多模型家族給企業(yè)更多的選擇空間和更緊密的匹配度。面向不同業(yè)務(wù)場(chǎng)景，企業(yè)需要文生文、文生圖、聲音復(fù)刻、語(yǔ)音合成、語(yǔ)音識(shí)別、視頻生成等多樣化、多模態(tài)模型，并實(shí)現(xiàn)多源數(shù)據(jù)的同時(shí)接收、判斷、思考、處理、檢索、生成需要的內(nèi)容，以選擇與業(yè)務(wù)高度適配的大模型服務(wù)體系。模型應(yīng)具備廣泛塑造、即時(shí)可用的靈活性。大模型作為企業(yè)創(chuàng)新提效工具，5.2.2一站式大模型服務(wù)平臺(tái)：解決模型部署