IBM -CEO 生成式 AI 行動(dòng)指南 AI 模型優(yōu)化 -利用定制化生成式 AI實(shí)現(xiàn)精準(zhǔn)發(fā)力

CEO生成式CEO生成式AI行動(dòng)指南AI模型優(yōu)化ChatGPT讓人們誤以為自己都是AI專家，但這種表面的簡單性掩蓋了生成式AI領(lǐng)域的復(fù)雜性。CEO在構(gòu)建AI模型組合時(shí)必須考慮這些復(fù)雜因素。生成式AI模型有多種類型，每種模型的功能、效果和成本都大相徑庭。模型的所有權(quán)、開發(fā)方式和訓(xùn)練數(shù)據(jù)集的大小都是影響不同應(yīng)用場景下模型選擇的重要因素。由于訓(xùn)練單個(gè)大語言模型(LLM)需要海量數(shù)據(jù)和資源，因此圍繞生成式AI討論的一個(gè)主要問題就是規(guī)模。因此，許多CEO都在考慮是否應(yīng)為其業(yè)務(wù)大規(guī)模擴(kuò)展大型AI模型，或者還是應(yīng)當(dāng)開發(fā)針對特定用途的小型專業(yè)AI模型。許多組織已經(jīng)開始這樣做了。目前，一家典型的組織使用11種生成式AI模型，并預(yù)計(jì)會(huì)在未來三年內(nèi)將其模型組合擴(kuò)大約50%。為什么需要如此多的模型？因?yàn)槊總€(gè)應(yīng)用場景都有各自的需求和限制，而不同的業(yè)務(wù)問題IBM商業(yè)價(jià)值研究院1CEO生成式AI行動(dòng)指南AI模型優(yōu)化例如，圖像編輯或數(shù)據(jù)分析等高度專業(yè)化的任務(wù)需要基于小型專業(yè)數(shù)據(jù)集進(jìn)行訓(xùn)練的生成式AI模型。敏感或?qū)Ｓ械墓ぷ鲃t需要能夠保證機(jī)密性的生成式AI模型。而對于文本生成等常規(guī)性任務(wù)，就可能需要在盡可能大的數(shù)據(jù)集上訓(xùn)練生成AI模型。模型組合總體量平均增長~50%~50%開放模型+63%開放模型+63%開放模型+61%專有模型+34%嵌入模型公開專業(yè)商用模型+31%公開大型商用模型公開大型商用模型+27%公開專業(yè)商用模型嵌入模型專有模型20242027IBM商業(yè)價(jià)值研究院2CEO生成式AI行動(dòng)指南AI模型優(yōu)化盡管團(tuán)隊(duì)?wèi)?yīng)當(dāng)深入理解不同AI模型的具體差異，但CEO也需要認(rèn)識(shí)到為生成式AI的每種應(yīng)用場景選擇合適模型的重要性。理解哪些因素會(huì)影響成本、環(huán)境足跡和業(yè)務(wù)價(jià)值有助于優(yōu)化AI模型組合的性能，并為團(tuán)隊(duì)提供超越競爭對手所需的利器。IBM商業(yè)價(jià)值研究院甄別出了每位領(lǐng)導(dǎo)者都需要了解的三個(gè)要點(diǎn)：2.2.生成式AI成本完全\3.生成式AI的優(yōu)勢\1.不存在萬能的AI2.找到生成式AI2.找到生成式AI的最\\IBM商業(yè)價(jià)值研究院3CEO生成式AI行動(dòng)指南AI模型優(yōu)化需要了解的事項(xiàng)/生成式AI可以幫助組織更加精準(zhǔn)、敏捷地加快行動(dòng)――但前提是要在合適的環(huán)境中針對合適的目標(biāo)運(yùn)行合適的AI模型。盡管技術(shù)高管最有能力決定在何處使用哪種生成式AI模型，但了解不同模型類型的優(yōu)缺點(diǎn)以及競爭對手的走向，有助于CEO做出更明智的投資決策。Granite、Mistral–訓(xùn)練方式因規(guī)模和專業(yè)化程度而異–注重透明度和職責(zé)劃分–不同公司/模型具有不同的開放程度–更具創(chuàng)新潛力–訓(xùn)練成本由企業(yè)承擔(dān)–更有效地控制范圍和數(shù)據(jù)–更具差異化潛力ModelsinSAPJoule、SalesforceEinstein和AdobeFirefly–集成到現(xiàn)有企業(yè)軟件中–通常利用現(xiàn)有模型作為軟件產(chǎn)品功能–通常不可獨(dú)立使用–基于大型專有數(shù)據(jù)集進(jìn)行訓(xùn)練–注重深度和專業(yè)化–通常不透明GPT-4–基于海量數(shù)據(jù)集進(jìn)行訓(xùn)練–注重廣度和深度–通常不透明–差異化潛力有限IBM商業(yè)價(jià)值研究院4CEO生成式AI行動(dòng)指南AI模型優(yōu)化我們從調(diào)研中收集到了一些有用的數(shù)據(jù)。例如，在一家典型組織使用的模型組合中，公開可用的大型商用模型（如GPT-4）僅占約四分之一。公開專業(yè)商用模型（如GoogleFirefly）占14%，企業(yè)定制開發(fā)的專有模型占11%外，其他模型占12％。在為工作流程選擇生成式AI模型時(shí)，模型規(guī)模是技術(shù)高管的首要考慮因素之一。大型模型基于數(shù)千億個(gè)參數(shù)進(jìn)行訓(xùn)練，可提供更廣泛和深入的專業(yè)知識(shí)，處理更復(fù)雜的任務(wù)，但其價(jià)格更高，碳足跡也更大。相比之下，較小的專業(yè)模型通常基于數(shù)百億個(gè)參數(shù)進(jìn)行訓(xùn)練，可以更精準(zhǔn)、快速、高效地處理特定任務(wù)，例如將代碼或內(nèi)容翻譯為特定模型所有權(quán)是另一個(gè)重要考慮因素。盡管公開商用生成式AI模型非常受歡迎，約占企業(yè)AI模型組合的一半，但存在其局限性。任何企業(yè)都可以購買或獲準(zhǔn)使用這些模型，因此所有企業(yè)都在使用相同的數(shù)據(jù)，也就無法有效建立差異化優(yōu)勢。公開模型可以幫助團(tuán)隊(duì)更加快速高效地工作，但這些模型在公共云上運(yùn)行，因此無法為企業(yè)提供處理關(guān)鍵任務(wù)所需的隱私和控制。而這正是企業(yè)專有生成式AI模型的用武之地。此類模型是由使用模型的企業(yè)開發(fā)、擁有和控制的，因此企業(yè)可以決定用哪些數(shù)據(jù)來訓(xùn)練模型，從而減少模型及其輸出受到錯(cuò)誤信息污染的可能性。這些專有模型還為技術(shù)高管提供了更高的靈活性，可決定是在本地環(huán)境還是云端運(yùn)行模型，以及如何存儲(chǔ)或使用用戶提供的信息來調(diào)優(yōu)模型性能，從而減少私有或敏感數(shù)據(jù)被不當(dāng)使用或分享的風(fēng)險(xiǎn)。這是一項(xiàng)至關(guān)重要的能力，因?yàn)檎`用、隱私和準(zhǔn)確性是高管在選擇生成式AI模型時(shí)最關(guān)心的問題。開放生成式AI模型是在開源開發(fā)者社區(qū)的幫助下透明地構(gòu)建的，規(guī)?？纱罂尚?，也可以解決這些問題。由于此類模型是公開構(gòu)建的，因此用于訓(xùn)練模型的數(shù)據(jù)是公開透明的，并且經(jīng)過嚴(yán)格審查，可迅速識(shí)別和應(yīng)對各種風(fēng)險(xiǎn)及問題，例如輸出是否侵犯知識(shí)產(chǎn)權(quán)或版權(quán)。隨后，企業(yè)可以修改和定制這些基礎(chǔ)模型，以加速創(chuàng)新、提升性能以及建嵌入生成式AI模型的來源多樣，完全嵌入到SAP、Adobe和Salesforce等平臺(tái)或軟件中，可滿足軟件功能范圍內(nèi)的特定需求。此類模型可為所支持的產(chǎn)品提供增值，但無法在未來三年內(nèi)，生成式AI模型的采用將大幅增長，其中最具增長潛力的是開放模型。平均而言，受訪企業(yè)高管預(yù)計(jì)其AI模型組合中的開放模型將增長63%，其背后的驅(qū)動(dòng)力包括靈活性、透明性和定制化需求。同時(shí)，受訪高管還預(yù)計(jì)更加可靠且易于擴(kuò)展的大型商用模型的使用量將增長27%，可處理更專業(yè)化任務(wù)的專業(yè)商用模型的使用量將增長31%。同樣在未來三年內(nèi)，受訪高管預(yù)計(jì)專有模型的使用量將增長61%，嵌入模型的使用量將增長34%。IBM商業(yè)價(jià)值研究院5CEO生成式AI行動(dòng)指南AI模型優(yōu)化評估基礎(chǔ)模型組合，并確定與戰(zhàn)略工作流的契合度。投資部署大型生成式AI模型以提高生產(chǎn)力，并利用專業(yè)模型來處理更有針對性的建立生成式AI全景圖。了解不同類型的生成式AI模型的區(qū)別，包括大語言模型、企業(yè)定制開發(fā)的專有模型、開放模型等。做好充分繪制AI模型地圖。要求AI高管創(chuàng)建全面的生成式AI模型目錄，涵蓋組織內(nèi)使用的所有模型的用途、功能和性能指標(biāo)，并確保該目錄找到最佳匹配。確保團(tuán)隊(duì)根據(jù)其優(yōu)勢、劣勢和特點(diǎn)來將生成式AI模型與合適的工作流相匹配。識(shí)別差距――但如果一本字典就能解決IBM商業(yè)價(jià)值研究院6CEO生成式AI行動(dòng)指南AI模型優(yōu)化需要了解的事項(xiàng)/CEO知道其組織需要生成式AI――但成本多少？隨著生成式AI逐漸滲透到企業(yè)的各個(gè)領(lǐng)域，企業(yè)高管表示首先考慮的是如何在規(guī)?；瘧?yīng)用中實(shí)現(xiàn)成本效益，以便在不同場景就面臨的障礙而言，63%的受訪高管表示模型成本是最擔(dān)憂的問題，而58%的受訪高管則認(rèn)為模型復(fù)雜性是最擔(dān)憂為什么成本如此重要？因?yàn)槌杀緯?huì)因所使用的模型而存在很大的差異。例如，更大的模型需要更多的數(shù)據(jù)存儲(chǔ)和計(jì)算資源，這可能導(dǎo)致更高的云計(jì)算費(fèi)用。此外，大型模型還需要更頻繁的更新、調(diào)優(yōu)和維護(hù)，這也會(huì)增加人力成本。相比之下，專業(yè)模型則具有較低的計(jì)算、數(shù)據(jù)存儲(chǔ)和能源成本，并且可減少組織AI模型組合對環(huán)境產(chǎn)生的影響。而且專業(yè)模型的部署速度更快，維護(hù)需求更少，因此根據(jù)具體任務(wù)選擇最合適的模型規(guī)模對于幫助組織管理生成式AI成本至關(guān)重要。例如，長篇寫作、高風(fēng)險(xiǎn)決策和研究假設(shè)測試等復(fù)雜任務(wù)需要多種技能和高精度性，因此也就需要成本更高的大型模型。而更具成本效益的專業(yè)模型則更適合處理更具針對性的任務(wù)，尤其是速度和效率至關(guān)重要的任務(wù)，例如實(shí)時(shí)聊天支持、垃圾郵件檢測、數(shù)據(jù)增強(qiáng)和原型設(shè)計(jì)。團(tuán)隊(duì)還可以利用鏈?zhǔn)酵评淼认冗M(jìn)技術(shù)，將復(fù)雜工作分解為專業(yè)模型能夠處理的小任務(wù)，從而減少對成本較高的大語言模型的依賴。隨著技術(shù)的成熟，專業(yè)模型將能夠處理更廣泛的任務(wù)，讓組織有機(jī)會(huì)實(shí)現(xiàn)更精細(xì)的成本管理。借助“針對特定用途的專用”模型，即根據(jù)特定需求和目標(biāo)進(jìn)行設(shè)計(jì)、訓(xùn)練和驗(yàn)證的模型，團(tuán)隊(duì)可以僅為每項(xiàng)任務(wù)使用所需的資源。如果使用大型模型來訓(xùn)練更具針對性的專業(yè)模型，企業(yè)還可以提高模型開發(fā)的成本效益。在不久的將來，企業(yè)高管或許可以通過企業(yè)生成式AI控制中心來改善成本管理，從而簡化關(guān)于應(yīng)為每項(xiàng)任務(wù)使用哪種模型的決策。通過添加一個(gè)用戶友好的體驗(yàn)層，將整個(gè)AI模型組合中的模型、助手和提示連接起來，企業(yè)高管可以實(shí)施成本控制，同時(shí)確保安全、隱私和合規(guī)性，從而讓每位員工每次都能高效地使用模型。受訪高管表示成本是受訪高管表示成本是采用生成式AI模型的首要障礙。IBM商業(yè)價(jià)值研究院7CEO生成式AI行動(dòng)指南AI模型優(yōu)化培養(yǎng)與模型無關(guān)的思維方式。保持靈活性，采用針對價(jià)格和性追求效率設(shè)計(jì)。根據(jù)部署環(huán)境來調(diào)整模型范圍：針對移動(dòng)和實(shí)時(shí)應(yīng)用，優(yōu)先選擇速度更快的小型專業(yè)模型，而針對復(fù)雜的高削減不必要的開支。為每一個(gè)生成式AI部署建立明確的性能指標(biāo)和對標(biāo)。使用數(shù)據(jù)驅(qū)動(dòng)的洞察，了解生成式AI可在哪些領(lǐng)域IBM商業(yè)價(jià)值研究院8CEO生成式AI行動(dòng)指南AI模型優(yōu)化需要了解的事項(xiàng)/生成式AI當(dāng)前帶來的競爭優(yōu)勢，未來可能只是基本要求。隨著團(tuán)隊(duì)獲得更豐富的生成式AI經(jīng)驗(yàn)以及模型變得更加智致力于持續(xù)優(yōu)化的組織有望實(shí)現(xiàn)顯著的績效提升。根據(jù)IBM商業(yè)價(jià)值研究院的研究，對于使用調(diào)優(yōu)或提示工程技術(shù)的組織，其模型輸出的準(zhǔn)確度要比其他組織高出約25%。更高的準(zhǔn)確度有助于改進(jìn)預(yù)測能力、資源分配和個(gè)性化體驗(yàn)，從而最終轉(zhuǎn)化為更高的盈利水平。然而，只有42%的受訪高管表示始終會(huì)使用提示工程技術(shù)（即通過設(shè)計(jì)輸入來確保生成符合預(yù)期的輸出）來提高模但模型優(yōu)化只是解決方案的一部分。隨著模型組合的不斷發(fā)展，模型治理也必須同步演進(jìn)。這就需要定期更新企業(yè)的內(nèi)部管理方式，以便有效管理和控制模型庫，以及明確哪些人員有權(quán)開發(fā)、訓(xùn)練和調(diào)優(yōu)模型。組織還需要通過清晰的流程來跟蹤模型績效指標(biāo)，處理模型漂移（即模型準(zhǔn)確性隨著時(shí)間的推移而下降），以及糾正模型輸出中的偏差。最重要的是，團(tuán)隊(duì)還需應(yīng)對快速變化的法規(guī)以保持合組織還需要持續(xù)改進(jìn)其AI基礎(chǔ)架構(gòu)（即混合云戰(zhàn)略），以便開發(fā)和采用更強(qiáng)大的AI模型。隨著數(shù)據(jù)量和模型復(fù)雜性的增加，技術(shù)基礎(chǔ)架構(gòu)必須能夠處理更高的負(fù)載。接下來是擴(kuò)展的問題。隨著越來越多的團(tuán)隊(duì)開始使用各種不同形式的生成式AI，組織需要擴(kuò)展其基礎(chǔ)架構(gòu)或云環(huán)境來滿足那么當(dāng)前的現(xiàn)實(shí)情況是什么樣的？目前，至少有一半的組織正在專注于優(yōu)化網(wǎng)絡(luò)基礎(chǔ)架構(gòu)、加速數(shù)據(jù)處理或部署分布式計(jì)算。總體而言，63%的受訪高管表示其組織正在使調(diào)優(yōu)和提示工程可將模型調(diào)優(yōu)和提示工程可將模型準(zhǔn)確度提高25%。IBM商業(yè)價(jià)值研究院9CEO生成式AI行動(dòng)指南AI模型優(yōu)化不要滿足于早期的成功。持續(xù)推動(dòng)團(tuán)隊(duì)利用最新的AI技術(shù)和基礎(chǔ)提高生成式AI的標(biāo)準(zhǔn)。將企業(yè)數(shù)據(jù)整合到私有云或本地部署環(huán)境中的現(xiàn)有生成式AI模型中，打造組織的獨(dú)有優(yōu)勢。使用調(diào)優(yōu)、提打造面向未來的AI基礎(chǔ)架構(gòu)。投資部署基于云的服務(wù)或?qū)Ｓ糜布蘒BM商業(yè)價(jià)值研究院10IBM商業(yè)價(jià)值研究院AI模型優(yōu)化本報(bào)告分析所依據(jù)的統(tǒng)計(jì)數(shù)據(jù)來自IBM商業(yè)價(jià)值研究院聯(lián)合牛津經(jīng)濟(jì)研究院開展的一次專項(xiàng)調(diào)查。這項(xiàng)調(diào)查于2024年6月詢問了200名美國高管對AI模型優(yōu)化IBM商業(yè)價(jià)值研究院IBM商業(yè)價(jià)值研究