2024 科技趨勢：生成式人工智能-2024.02

2024

科技趨勢：生成式人工智能Eden

Zoller,ChiefAnalyst,AppliedIntelligenceNataliaModjeska,

ResearchDirector,AIandIntelligent

AutomationLian

JyeSu,ChiefAnalyst,AppliedIntelligenceAlexander

HarrowellPrincipalAnalyst,AdvancedComputingfor

AIAndrew

Brosnan,PrincipalAnalyst,AIApplicationsin

LifeSciencesaskananalyst@Copyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC“生成式人工智能可以帶來變革，但前提是必須建立在堅實的數(shù)據(jù)基礎(chǔ)之上，謹慎執(zhí)行，并提供真正有價值的應(yīng)用。不要把生成式人工智能當成速效救心丸，也不要指望它能把一件壞事變成好事。"Eden

Zoller人工智能首席分析師Copyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC2024

科技趨勢：生成式人工智能內(nèi)容大綱?

Omdia

觀點?

主要信息?

主要建議?

從規(guī)?；蕉鄻有?，開源人工智能引來新變革?

對人工智能推理來說，輸入輸出(I/O)

比計算更重要?

生成式人工智能將引發(fā)對企業(yè)數(shù)據(jù)質(zhì)量、管理和數(shù)據(jù)治理的新一輪投資熱潮?

基于生成式人工智能的聊天機器人和語音助手將引來爆炸式增長?

生成式人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用將在2024年加速發(fā)展?

本地化需求將推動亞太地區(qū)生成式人工智能發(fā)展?

附錄如果您對更詳細的報告內(nèi)容感興趣，請與我們?nèi)〉寐?lián)系Page

3InformationClassification:GeneralCopyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC2024

科技趨勢：生成式人工智能主要信息1234盡管取得了不錯的進展，但生成式人工智能的治理框架部署進度參差不齊從規(guī)?；蕉鄻有?，開源人工智能引來新變革對人工智能推理來說，輸入輸企業(yè)數(shù)據(jù)質(zhì)量、管理和治理的新一輪投資熱潮出(I/O)比計算更重要隨著生成式人工智能最初的熱潮逐漸消退，企業(yè)對該技術(shù)的挖掘越來越深入，許多人意識到數(shù)據(jù)對人工智能的重要性。而那些以前沒有投資于可擴展、安全、可靠和可信的數(shù)據(jù)基礎(chǔ)設(shè)施和治理的企業(yè)將會落后。這將激勵企業(yè)更加積極地在這一領(lǐng)域進行投資。盡管歐盟《人工智能法案》已經(jīng)發(fā)布，但其需要到

2025

年才會正式實施，從現(xiàn)在到實施之日將出現(xiàn)治理框架上的空白，無法應(yīng)付不斷涌現(xiàn)的新倫理問題。另外，2024年的美國總統(tǒng)大選可能會讓新的領(lǐng)導(dǎo)人修改或廢除目前關(guān)于人工智能的行政命令。自發(fā)的人工智能安全準則會或多或少填補監(jiān)管上的空白，但這些準則僅僅相當于自我監(jiān)管的道德標準。2023

年見證了強大的人工智能大模型（如

GPT-4）的誕生，而LLaMA的開源引發(fā)了

50至500億參數(shù)模型的創(chuàng)新爆炸。開源模型的發(fā)展也帶來了新的訓(xùn)練和微調(diào)技術(shù)，讓特定領(lǐng)域的人工智能系統(tǒng)大量涌現(xiàn)。在實際部署中，人工智能推理服務(wù)正變得越來越重要，這導(dǎo)致企業(yè)更加關(guān)注哪種處理器更適合進行推理。人工智能訓(xùn)練傾向于使用強大的計算能力和片上內(nèi)存；人工智能推理則更關(guān)注內(nèi)存帶寬、高密度封裝和南北向接口。.Page

4InformationClassification:GeneralCopyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC2024

科技趨勢：生成式人工智能主要信息567基于生成式人工智能的聊天機器人和語音助手將引來爆炸式增長生成式人工智能將在醫(yī)療保健領(lǐng)域加速發(fā)展本地化需求將推動亞太地區(qū)的生成式人工智能發(fā)展中國、韓國和日本的供應(yīng)商已經(jīng)推出了符合當?shù)匚幕?、語言和價值觀的本地化生成式人工智能解決方案。與此同時，新加坡政府正在為本土人工智能開發(fā)商提供激勵措施。東南亞和南亞市場將出現(xiàn)更多本地化的大模型，重點支援當?shù)卣Z言甚至地域方言。新一代多模態(tài)生成式人工智能將為聊天機器人和語音助手提供低門檻的定制服務(wù)，注入一劑急需的強心針，提高語音助手的個性化程度并擴大其應(yīng)用范圍。2024

年，生成式人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用將如雨后春筍般的冒出來。Omdia預(yù)計，從2023

年到

2028年，醫(yī)療保健領(lǐng)域?qū)ι墒饺斯ぶ悄艿耐顿Y將增加

10倍。企業(yè)用戶應(yīng)做好準備，制定穩(wěn)健的部署計劃和風險控制策略，而供應(yīng)商則應(yīng)專注于易用性和定制化的咨詢服務(wù)。Page

5InformationClassification:GeneralCopyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC2024

科技趨勢：生成式人工智能主要建議給企業(yè)用戶的建議給企業(yè)用戶的建議

(continued)?

抓住時機，定制適合自身業(yè)務(wù)的人工智能。QLORA

(Quantized

LoRA)等技術(shù)正在大幅降低人工智能的開發(fā)門檻。企業(yè)應(yīng)抓住機遇，在自己的業(yè)務(wù)中使用專有的數(shù)據(jù)資產(chǎn)和專業(yè)知識，部署獨特的人工智能服務(wù)，避免與對手進行同質(zhì)化競爭。?

謹防跟風心態(tài)。與其問團隊我們?nèi)绾卫眠@項新技術(shù)賺錢，不如聚焦于業(yè)務(wù)挑戰(zhàn)以及

生成式人工智能與這些挑戰(zhàn)的關(guān)聯(lián)性，從使用案例和企業(yè)戰(zhàn)略入手，進而實現(xiàn)概念驗證之外的可持續(xù)商業(yè)價值。?

投資于數(shù)據(jù)質(zhì)量、管理和數(shù)據(jù)治理。第三方的生成式人工智能模型需要以企業(yè)自身數(shù)據(jù)為基礎(chǔ)，才能實現(xiàn)業(yè)務(wù)價值。鑒于大模型的幻覺傾向，高質(zhì)量的數(shù)據(jù)和人工智能治理對發(fā)展企業(yè)的生成式人工智能至關(guān)重要。?

人工智能的開發(fā)與部署有著截然不同的技術(shù)要求。在日常業(yè)務(wù)中部署的人工智能較少涉及核心訓(xùn)練，而更多涉及推理。企業(yè)用戶更偏向使用成熟的模型對數(shù)據(jù)進行預(yù)測或生成輸出。在網(wǎng)絡(luò)交互方面?zhèn)戎氐氖悄媳毕蚨皇菛|西向，在計算方面在乎的更多的是延遲而不是純算力。?

面對轉(zhuǎn)型技術(shù)的加速創(chuàng)新，企業(yè)必須專注于基本要素。這些基本要素包括人員、流程和技術(shù)，同時發(fā)展其治理政策和風險控制策略。堅實的基本要素將使企業(yè)能夠敏捷地采用新技術(shù)，并迅速進行風險干預(yù)以降低風險。Page

6InformationClassification:GeneralCopyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC2024

科技趨勢：生成式人工智能主要建議給供應(yīng)商的建議給供應(yīng)商的建議

(continued)?

服務(wù)亞太市場的供應(yīng)商應(yīng)優(yōu)先考慮提升本地化生成式人工智能能力。在2024年，亞太市場對能夠理解當?shù)丨h(huán)境的特定領(lǐng)域生成式人工智能模型的需求將會大幅度增加。由于這些市場具有獨特的語言偏好、風俗習慣和價值體系，因此妥善處理并完全掌握地區(qū)獨特性至關(guān)重要。只有當生成式人工智能模型能夠很好地融入當?shù)匚幕瘯r，客戶才會對其持開放態(tài)度。?不要假設(shè)旗艦GPU

的增長會永遠持續(xù)下去。

當開源模型出現(xiàn)時，最先進的人工智能模型（SOTA）規(guī)模的增長已經(jīng)放緩，競爭的焦點將從萬億參數(shù)模型的轉(zhuǎn)到

50至500億參數(shù)級別。

考慮模型的可擴展性，并確保您對新技術(shù)和新應(yīng)用的支持。?

在人工智能訓(xùn)練的熱潮達到頂峰后從旗艦GPU轉(zhuǎn)向多用途、可擴展處理器。

需要同時重視人工智能推理以及訓(xùn)練，

另外，

較小模型的微調(diào)的重要性也日益增加。?

提供具有清晰信息的強大技術(shù)路線圖。業(yè)界已經(jīng)見證了生成式人工智能的第一波浪潮，供應(yīng)商需要以清晰的技術(shù)路線圖來支持下一波的發(fā)展。這將使客戶能夠明確未來的服務(wù)和發(fā)展法相，對現(xiàn)有解決方案進行進一步的投資和修正。?

幫助您的客戶為生成式人工智能構(gòu)建堅實的實施基礎(chǔ)。

幫助客戶打造可靠、健壯、安全可控、可擴展且值得信賴的數(shù)據(jù)基礎(chǔ)設(shè)施。

比如，在合同語言中明確說明用于微調(diào)模型的客戶數(shù)據(jù)和提示詞將在何處處理，何處存儲。

數(shù)據(jù)和人工智能治理越來越像對供應(yīng)商盡職調(diào)查，客戶采購團隊可能缺乏關(guān)鍵人工智能技能和知識，而供應(yīng)商則面臨著客戶在試驗時快速行動的壓力。?

盡早為新的生成式人工智能法規(guī)做好準備，并為進一步的變化做好準備。生成式人工智能治理非常復(fù)雜，有時會引起爭議，而且仍在不斷演變。供應(yīng)商必須給自己充足的時間來了解需求，這可能需要進一步投資或者修正現(xiàn)有解決方案。Page

7InformationClassification:GeneralCopyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC2024

科技趨勢：生成式人工智能主要建議給運營商的建議?

少數(shù)亞洲電信運營商正在建立自己的大模型，但對大多數(shù)電信運營商來說并不是最優(yōu)選擇。從頭開始構(gòu)建一個大模型確實可以提供最大程度的控制，但這是一項艱巨的任務(wù)，需要深厚的人工智能專業(yè)知識和資金。對大多數(shù)運營商來說，微調(diào)現(xiàn)有的大模型更為可行，即通過調(diào)整預(yù)建的成熟的大模型，讓其適應(yīng)特定垂直領(lǐng)域和特定任務(wù)的需要。?

尋求現(xiàn)成的解決方案。電信運營商可將內(nèi)部工作與現(xiàn)成的生成式人工智能解決方案相結(jié)合，這些現(xiàn)成方案包括針對電信運營商自身業(yè)務(wù)以及適用于大多數(shù)垂直行業(yè)應(yīng)用。這是部署生成式人工智能的低門檻、低成本和更快的途徑。?

亞洲電信運營商應(yīng)選擇真正了解地區(qū)復(fù)雜性的解決方案提供商。這些供應(yīng)商應(yīng)在亞太多個市場具備良好運營記錄并清楚了解當?shù)胤ㄒ?guī)和需求。生成式人工智能不僅涉及數(shù)據(jù)和計算，其部署還需要與當?shù)厥袌鰧嵺`一致。Page

8InformationClassification:GeneralCopyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLCAppendix如果您對更詳細的報告內(nèi)容感興趣，請與我們?nèi)〉寐?lián)系Page

9Copyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC2024

科技趨勢：生成式人工智能AppendixMethodologyTheTrends

to

Watch

predictions

inthis

reportisdraws

on

primary

data

andanalysis

from

OmdiaAI

related

trackers,forecasts,consumerandenterprisesurveysand

researchreports.TheTrends

to

Watch

predictions

also

benefit

from

insights

from

AI

stakeholders

andthe

widerOmdiaanalystnetwork.Further

reading?

ArtificialIntelligence

SoftwareMarket

Forecasts

–2H23Data

(November2023)?

Telco

positioning

inthegenerativeAIecosystem

(November

2023)?

ConsumerAISurvey:2023–GenerativeAIAnalysis(August

2023)?

AIProcessorsforCloudandData

CenterForecastReport

–2023

Database

(August

2023)?

AIMarket

Maturity

2023:

Data

(April

2023)?

GenerativeAI:Tech

ProviderViewpoints(March2023)?

GenerativeAI:Market

Landscape2023(March2023)?

TheRiseofGenerativeAI:

APrimer

(February2023)AuthorEden

Zoller,Chief

Analyst,AppliedIntelligenceaskananalyst@Page

10InformationClassification:GeneralCopyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLC2024

科技趨勢：生成式人工智能AppendixOmdia

ConsultingWe

hopethat

this

analysis

will

help

you

make

informedandimaginative

business

decisions.Ifyouhave

further

requirements,

Omdia’s

consulting

teammay

beableto

helpyou.Formoreinformation

aboutOmdia’s

consulting

capabilities,

please

contactus

directly

at

consulting@.Citation

PolicyRequest

external

citationand

usage

of

Omdiaresearchand

data

viacitations@.如果您對更詳細的報告內(nèi)容感興趣，請與我們?nèi)〉寐?lián)系Page

11InformationClassification:GeneralCopyright

?2024.

Allrights

reserved.

Informa

Tech,a

trading

division

ofInforma

PLCDisclaimerTheOmdiaresearch,

data

and

information

referenced

herein

(the“OmdiaMaterials”)

arethe

copyrighted

property

ofInforma

Tech

and

itssubsidiariesoraffiliates(together

“Informa

Tech”)

orits

third

party

data

providers

and

represent

data,

research,

opinions,

orviewpoints

published

by

InformaTech,and

arenot

representations

offact.TheOmdiaMaterials

reflect

information

and

opinions

fromthe

original

publication

date

and

not

from

the

date

ofthis

document.

Theinformation

andopinions

expressed

inthe

OmdiaMaterialsaresubject

to

change

without

noticeand

Informa

Tech

doesnot

haveanyduty

orresponsibility

toupdate

theOmdiaMaterials

orthis

publication

asaresult.OmdiaMaterials

aredelivered

onan“as-is”and

“as-available”

basis.Norepresentation

orwarranty,expressorimplied,

is

madeasto

the

fairness,accuracy,

completeness,orcorrectnessofthe

information,

opinions,

and

conclusionscontained

inOmdiaMaterials.To

th