2023AIGC加速企業(yè)創(chuàng)新實(shí)踐指南

12前言在人工智能發(fā)展的漫長歷程中，如何讓機(jī)器學(xué)會(huì)創(chuàng)作一直被視為難以逾越的天塹，“創(chuàng)造力”也因此被視為人類與機(jī)器最本質(zhì)的區(qū)別之一。然而，人類的創(chuàng)造力也終將賦予機(jī)器創(chuàng)造力，把世界送入智能創(chuàng)作的新時(shí)代。采用機(jī)器學(xué)習(xí)的新范式賦能業(yè)務(wù)不斷探索已經(jīng)播種了幾十年，但隨著足夠的可伸縮算力的就位、海量數(shù)據(jù)的爆炸，以及機(jī)器學(xué)習(xí)技術(shù)的快速進(jìn)步，各行各業(yè)的客戶開始對(duì)業(yè)務(wù)進(jìn)行重塑。最近，智能對(duì)話類型的

AIGC

應(yīng)用引起了廣泛的關(guān)注，引發(fā)了諸多想象。我們正處在一個(gè)機(jī)器學(xué)習(xí)被大規(guī)模采用的轉(zhuǎn)折點(diǎn)上，我們也相信人工智能將會(huì)重塑大量客戶體驗(yàn)和應(yīng)用程序。從機(jī)器學(xué)習(xí)到智能創(chuàng)造，從專業(yè)生產(chǎn)內(nèi)容（PGC,Professional-generated

Content)

,

用戶生產(chǎn)內(nèi)容（UGC,

User-generated

Content）到人工智能生成內(nèi)容

(AIGC,

AI-generated

Content)，我們見證了一場深刻的生產(chǎn)力變革，而這份變革也開始影響到我們工作與生活的方方面面，AIGC

也慢慢的演變成了一場技術(shù)和藝術(shù)碰撞的盛宴，不斷釋放人類創(chuàng)造力，提高藝術(shù)設(shè)計(jì)領(lǐng)域的數(shù)字化創(chuàng)新效率。本白皮書將結(jié)合

AIGC

領(lǐng)域最新技術(shù)趨勢和真實(shí)行業(yè)客戶案例，向所有

AIGC

的決策者，開發(fā)者、創(chuàng)業(yè)者和使用者展示

AIGC

給各行各業(yè)帶來的創(chuàng)新與變革，幫助用戶更好的理解AIGC

帶給企業(yè)的價(jià)值，以及如何借助亞馬遜云科技的產(chǎn)品和服務(wù)快速高效地構(gòu)建差異化的

AIGC

應(yīng)用，增強(qiáng)企業(yè)在AIGC

時(shí)代的敏捷性與競爭力。3目 錄篇章一AIGC

介紹與典型行業(yè)應(yīng)用場景介紹篇章二AIGC

技術(shù)生態(tài)與典型客戶需求AIGC

客戶案例分享48篇亞馬章遜三云科技

AIGC

技術(shù)能力與解決方案

10篇章四

23掃碼或點(diǎn)擊了解更多亞馬遜云科技AIGC

技術(shù)能力與解決方案Gartner

將生成式

AI

列為最有商業(yè)前景的人工智能技術(shù)之一。根據(jù)其發(fā)布的

2022

年人工智能技術(shù)成熟度曲線，預(yù)計(jì)生成式

AI

將在

2-5

年內(nèi)進(jìn)入生產(chǎn)成熟期，發(fā)展?jié)摿εc應(yīng)用空間巨大。2025

年，30%

大型組織對(duì)外消息將由生成式

AI

生成。2025

年，50%

的藥物發(fā)現(xiàn)與研發(fā)將使用生成式

AI。2027

年，30%

的制造商將使用生成式

AI

提高產(chǎn)品研發(fā)效率。從數(shù)字內(nèi)容生產(chǎn)，到引領(lǐng)產(chǎn)業(yè)變革，商業(yè)前景，加速產(chǎn)業(yè)融合與變革。從字面意思來看，AIGC

是繼

PGC，UGC

之后的新型內(nèi)容創(chuàng)作方式，可以在創(chuàng)意、表現(xiàn)力、迭代、傳播、個(gè)性化等方面，充分發(fā)揮技術(shù)優(yōu)勢，打造新的數(shù)字內(nèi)容生成與交互形態(tài)。因此，AIGC

的狹義概念是利用人工智能自動(dòng)生成內(nèi)容的生產(chǎn)方式。但是AIGC

已經(jīng)代表了人工智能技術(shù)發(fā)現(xiàn)的新趨勢，過去傳統(tǒng)的人工智能偏向于分析能力，即通過分析一組數(shù)據(jù)，發(fā)現(xiàn)其中的規(guī)律和模式并用于多種用途，比如應(yīng)用最為廣泛的個(gè)性化推薦算法。而現(xiàn)在的人工智能正在生成新的東西，而不是僅僅局限于分析已經(jīng)存在的東西，從而實(shí)現(xiàn)了人工智能從感知理解到生成創(chuàng)造的躍遷。廣義的

AIGC

可以看作是像人類一樣具備生成創(chuàng)造能力的人工智能技術(shù)，即生成式人工智能，它可以基于訓(xùn)練數(shù)據(jù)和生成算法模型，自主生成創(chuàng)造新的文本、圖像、音樂、視頻、3D

交互內(nèi)容（如虛擬人、虛擬物品、虛擬環(huán)境等）等各種形式的內(nèi)容和數(shù)據(jù)，以及包括開啟科學(xué)新發(fā)現(xiàn)、創(chuàng)造新的價(jià)值和意義等。因此，AIGC

已經(jīng)加速成為了人工智能領(lǐng)域的新疆域，推動(dòng)人工智能迎來下一個(gè)時(shí)代。AIGC，生成式

AI(Generative

AI)與基礎(chǔ)模型

(Foundation

Models)人工智能，可為現(xiàn)實(shí)世界的任務(wù)制作足夠接近人類生成內(nèi)容的原創(chuàng)內(nèi)容由大量數(shù)據(jù)預(yù)先訓(xùn)練的基礎(chǔ)模型驅(qū)動(dòng)只需微調(diào)

，即可用于特定領(lǐng)域自定義任務(wù)適用于文本摘要、問答、數(shù)字藝術(shù)創(chuàng)作、代碼生成等多種用例降低機(jī)器學(xué)習(xí)模型開發(fā)的時(shí)間和成本，提升效率，加速創(chuàng)新AIGC

(

生成式人工智能

)

是指可生成全新內(nèi)容的人工智能技術(shù)篇章一AIGC

介紹與典型行業(yè)應(yīng)用場景4與所有人工智能技術(shù)一樣，AIGC

的能力由機(jī)器學(xué)習(xí)模型提供，這些模型是基于大量數(shù)據(jù)進(jìn)行預(yù)先訓(xùn)練的，通常被稱為基礎(chǔ)模型（Foundation

Models）。機(jī)器學(xué)習(xí)的最新進(jìn)展（特別是基于

transformer

的神經(jīng)網(wǎng)絡(luò)架構(gòu)的發(fā)明）直接帶來這一類模型的爆發(fā)式增長，這類模型通常包含數(shù)十億個(gè)參數(shù)或變量。如今的基礎(chǔ)模型，例如大型語言模型

GPT4

或

BLOOM，可以執(zhí)行跨多個(gè)領(lǐng)域的多種任務(wù)，例如撰寫博客文章、解決算術(shù)問題、對(duì)話聊天、基于文檔回答問題等

,

由

stability.ai

開發(fā)的文生圖模型

Stable

Di?usion，可以生成創(chuàng)意圖片，轉(zhuǎn)換已有圖像風(fēng)格等。盡管預(yù)訓(xùn)練基礎(chǔ)模型所帶來的功能和可能性已足夠令人驚嘆，而真正讓業(yè)界興奮不已的是，這些通用模型也可以被定制化加工，執(zhí)行專屬于其業(yè)務(wù)領(lǐng)域的特定功能，幫助業(yè)務(wù)建立差異化競爭優(yōu)勢，與從零開始訓(xùn)練模型相比，僅需使用一小部分?jǐn)?shù)據(jù)和計(jì)算資源。定制化的基礎(chǔ)模型可以帶來獨(dú)有的顧客體驗(yàn)，體現(xiàn)公司的觀點(diǎn)、風(fēng)格和服務(wù)，適用于眾多消費(fèi)者行業(yè)，如金融銀行、旅行和醫(yī)療等。例如，一家金融公司如果需要使用所有相關(guān)交易自動(dòng)生成活動(dòng)日?qǐng)?bào)以供內(nèi)部流通，它可以使用包括既AIGC

基礎(chǔ)模型的主要使用方式 已有基礎(chǔ)模型的提示詞工程(Prompt

Engineering)模型微調(diào)(Fine-tuning)預(yù)訓(xùn)練(Pretraining)訓(xùn)練時(shí)長和成本不需要幾分鐘到幾小時(shí)數(shù)天，數(shù)周到數(shù)月不等定制化不需要定制化模型需要定制化提示詞部分針對(duì)特定任務(wù)優(yōu)化增加特定的私域訓(xùn)練數(shù)據(jù)集完整模型架構(gòu)與大小 ?文本長度詞匯量 ?訓(xùn)練數(shù)據(jù)集專業(yè)程度低中高往報(bào)告在內(nèi)的專有數(shù)據(jù)來定制模型，以便基礎(chǔ)模型了解如何閱讀報(bào)告和使用哪些數(shù)據(jù)來生成日?qǐng)?bào)。但是，基礎(chǔ)模型也有一些挑戰(zhàn)，包括計(jì)算成本高和數(shù)據(jù)偏差等問題。計(jì)算成本是基礎(chǔ)模型的一個(gè)主要挑戰(zhàn)。由于這些模型具有數(shù)十億個(gè)參數(shù)，因此它們需要大量的計(jì)算資源才能進(jìn)行訓(xùn)練和推理。對(duì)于中小型企業(yè)來說，從

0

到

1

訓(xùn)練自己的基礎(chǔ)模型非常困難，而且在推理時(shí)也需要多個(gè)GPU

進(jìn)行計(jì)算，因此運(yùn)行成本非常高。另一個(gè)挑戰(zhàn)是數(shù)據(jù)偏差。由于基礎(chǔ)模型是在互聯(lián)網(wǎng)上的未經(jīng)篩選數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練的，因此這些數(shù)據(jù)可能包含偏見、仇恨言論等有害信息。即使有人工標(biāo)注員，也難以檢查每個(gè)數(shù)據(jù)點(diǎn)，因此這可能導(dǎo)致基礎(chǔ)模型的信任度不高。盡管存在這些挑戰(zhàn)，基礎(chǔ)模型的發(fā)展仍然是一種重要趨勢，它可以提高自然語言處理領(lǐng)域的效率和靈活性。將來，我們可能會(huì)看到更多的基礎(chǔ)模型應(yīng)用于各種任務(wù)和應(yīng)用程序，從而推動(dòng)人工智能技術(shù)的進(jìn)一步發(fā)展。55伴隨數(shù)字技術(shù)與實(shí)體經(jīng)濟(jì)的深度融合、互聯(lián)網(wǎng)企業(yè)數(shù)字化場景拓展至元宇宙，人類對(duì)數(shù)字內(nèi)容的總量和豐富程度的需求不斷提高，AIGC

作為當(dāng)前重要的內(nèi)容生產(chǎn)方式，已率先在游戲、營銷、電商、傳媒、影視娛樂等領(lǐng)域取得進(jìn)展，伴隨AIGC

在各個(gè)行業(yè)的滲透，AIGC

作為

AI

數(shù)字商業(yè)的探路者，有望開啟下一場數(shù)字商業(yè)模式的新篇章。生成圖片媲美專業(yè)畫師的精美圖片stability.ai，Midjourney，OpenAI，RunwayML，Tiamat生成文字人機(jī)交互、寫郵件、寫廣告、劇本和小說ChatGPT

–

對(duì)話形式人機(jī)交互；Copy.ai

-

廣告和營銷文案；Jasper.ai

-

營銷推廣文案及博客生成音頻人工智能作曲

&

編曲、人工智能音樂生成、人工智能演唱、聲音克隆人工智能音樂團(tuán)隊(duì)

Amper，人工智能播客Podcast.ai，靈動(dòng)音科技，行者人工智能生成視頻文字生成視頻、視頻內(nèi)容創(chuàng)作、動(dòng)態(tài)面部編輯、畫質(zhì)增強(qiáng)修復(fù)Make-A-Video(Meta)，ImagenVideo(Google)，

Phenaki(Google)，Synthesia，Hour

One按照模態(tài)區(qū)分，AIGC

又可分為音頻生成、文本生成、圖像生成、視頻生成及圖像、視頻、文本間的跨模態(tài)生成，細(xì)分場景眾多，其中跨模態(tài)生成值得重點(diǎn)關(guān)注。AIGC

塑造數(shù)字內(nèi)容生產(chǎn)與交互的新范式 AIGC

典型應(yīng)用場景與行業(yè)分布56游戲聊天機(jī)器人、游戲原畫設(shè)計(jì)、場景生成、游戲策略生成、BGM

生成、IP

角色生成；廣告設(shè)計(jì)創(chuàng)意輔助、包裝設(shè)計(jì)、服裝設(shè)計(jì)出圖、品牌宣傳視頻生成、營銷素材生成、營銷文案配圖；媒體娛樂視頻游戲生成、AI

生成虛擬人頭像、自拍圖片風(fēng)格生成、劇本設(shè)計(jì)、特效制作、影視作品配樂；零售電商風(fēng)控欺詐檢測、商品

3D

模型、虛擬主播、虛擬貨場、智能商品詳情、商品個(gè)性化圖案設(shè)計(jì)；金融領(lǐng)域智能投顧、智能客服、個(gè)性化營銷文案、產(chǎn)品風(fēng)險(xiǎn)與客戶信用評(píng)估、行業(yè)研究報(bào)告生成；醫(yī)療健康醫(yī)學(xué)影像分析、健康數(shù)據(jù)分析、藥物研發(fā)、個(gè)性化治療醫(yī)護(hù)陪伴、心理治療；AIGC

主流行業(yè)實(shí)踐與典型應(yīng)用場景 7AIGC

技術(shù)生態(tài)加速形成與發(fā)展，目前整個(gè)

AIGC

應(yīng)用的技術(shù)生態(tài)大致可以分為三層：分別為基礎(chǔ)設(shè)施、基礎(chǔ)模型和應(yīng)用程序。AIGC

技術(shù)生態(tài)：通過運(yùn)行自己的基礎(chǔ)模型管道或者依賴第三方基礎(chǔ)模型

API，

把

AIGC

基礎(chǔ)模型以端到端的方式為客戶提供服務(wù)和產(chǎn)品，比如炙手可熱的人工智能文本生成領(lǐng)域獨(dú)角獸

Jasper.ai,

提供營銷文案生成的

SaaS

服務(wù)如廣告文案、博客、外發(fā)郵件等，人工智能繪畫軟件

Midjourney

等；為

AIGC

應(yīng)用提供支持的基礎(chǔ)模型，可以通過閉源專有

API

（如

GPT-3）或開源模型

(

如

Stable

Di?usion)，或者提供開源模型托管平臺(tái)（如

HuggingFace）；提供

AIGC

基礎(chǔ)模型進(jìn)行訓(xùn)練和推理所需的算力基礎(chǔ)設(shè)施（云計(jì)算服務(wù)商和硬件制造商），如亞馬遜云科技，英偉達(dá)等；需要注意的是，我們講的并不是整個(gè)市場的生態(tài)圖，而是一個(gè)分析市場的框架，本文在每個(gè)類別中都列出了一些知名廠商的例子，但沒有囊括目前所有最先進(jìn)的

AIGC

應(yīng)用，也沒有深入討論

MLOps

或

LLMOps

工具，因?yàn)楝F(xiàn)在還沒有達(dá)到完全成熟的標(biāo)準(zhǔn)化，有機(jī)會(huì)我們會(huì)繼續(xù)討論。圖片來源：A16Z:

who-owns-the-generative-ai-platform/AIGC

技術(shù)生態(tài)篇章二AIGC

技術(shù)生態(tài)與典型客戶需求AIGC

技術(shù)生態(tài)用戶端到端應(yīng)用程序面向最終用戶應(yīng)用程序，使用專有基礎(chǔ)模型示例：Midjourney、Runway閉源基礎(chǔ)模型通過

API

公開的大規(guī)模預(yù)訓(xùn)練模型示例：GPT-3

(OpenAI)共享和托管模型的平臺(tái)示例：Hugging

Face、Replicate開源基礎(chǔ)模型發(fā)布訓(xùn)練參數(shù)權(quán)重的模型示例：Stable

Di?usion

(stability.ai)云平臺(tái)在云端部署向開發(fā)人員開放的基礎(chǔ)硬件示例：Amazon

Web

Services、GCP、Azure、Coreweave計(jì)算硬件專為模型訓(xùn)練和推理工作負(fù)載優(yōu)化的加速器芯片示例：GPU

(Nvidia)、TPU

(Google)面向最終用戶的

B2B

和

應(yīng)用程序B2C

應(yīng)用程序，沒有專有基礎(chǔ)模型示例：Jasper、Github

Copilot模型中心應(yīng)用程序基礎(chǔ)模型基礎(chǔ)設(shè)施88作為云服務(wù)提供商，亞馬遜云科技專注于為基礎(chǔ)模型開發(fā)者和使用者提供全面、可靠、安全的工具與服務(wù)，助力

AIGC

應(yīng)用開發(fā)加速與成本優(yōu)化?；诖?，我們將基礎(chǔ)模型生態(tài)的主要參與者分為三類：基礎(chǔ)模型提供商

(Model

Provider)，使用基礎(chǔ)模型調(diào)優(yōu)提供服務(wù)的廠商

(Model

Tuner)

和直接使用基礎(chǔ)模型廠商

(Model

Consumer)，我們總結(jié)的每一類用戶的需求和面臨的主要挑戰(zhàn)如下：算力資源?算力規(guī)模大

?性能要求高安全合規(guī)?數(shù)據(jù)隱私安全

?內(nèi)容合規(guī)?模型體積大?訓(xùn)練難度高訓(xùn)練調(diào)參?推理延遲大?調(diào)用成本高托管推理?數(shù)據(jù)規(guī)模大?數(shù)據(jù)質(zhì)量參差不齊數(shù)據(jù)準(zhǔn)備從

0

到

1

構(gòu)建基礎(chǔ)模型技術(shù)門檻高，需要大量的金錢和時(shí)間成本基礎(chǔ)模型提供商(Model

Providers)需要專有數(shù)據(jù)進(jìn)行持續(xù)的模型優(yōu)化工作使用基礎(chǔ)模型調(diào)優(yōu)提供服務(wù)的廠商(Model

Tuners)缺乏定制支持，若使用閉源

API

則無法控制數(shù)據(jù)直接使用基礎(chǔ)模型廠商(Model

Consumers)基于開源基礎(chǔ)模型如

StableDi?usion，大語言模型進(jìn)行?ne-tune

以更好適用業(yè)務(wù)需求直接部署開源基礎(chǔ)模型進(jìn)行推理或者調(diào)用閉源基礎(chǔ)模型

APIAIGC

應(yīng)用構(gòu)建者和使用者的主要需求 AIGC

基礎(chǔ)模型生態(tài)與典型客戶需求基礎(chǔ)模型產(chǎn)業(yè)化所面臨的主要技術(shù)挑戰(zhàn)：910篇章亞馬遜云科技

AIGC

技術(shù)能力與解決方案亞馬遜云科技

AIGC

技術(shù)能力概覽20

多年來，人工智能和機(jī)器學(xué)習(xí)一直是亞馬遜云科技關(guān)注的焦點(diǎn)，可以說，在機(jī)器學(xué)習(xí)領(lǐng)域的發(fā)明創(chuàng)新已經(jīng)深刻在亞馬遜云科技的

DNA

里。當(dāng)前，用戶在亞馬遜云科技上使用的許多功能都是由其機(jī)器學(xué)習(xí)驅(qū)動(dòng)的，比如電子商務(wù)推薦引擎、優(yōu)化機(jī)器人揀選路線、無人機(jī)

Prime

Air。還有語音助手

Alexa，這也得益于來自

30多種不同的機(jī)器學(xué)習(xí)系統(tǒng)的支持，每周回應(yīng)客戶數(shù)十億次管理智能家居、購物、獲取信息和娛樂的請(qǐng)求。亞馬遜有數(shù)千名工程師專注于機(jī)器學(xué)習(xí)研究，這既是我們的寶貴資產(chǎn)，也是我們現(xiàn)在最關(guān)注的理念和面向未來的實(shí)力之所在。在亞馬遜云科技，我們致力于不斷降低機(jī)器學(xué)習(xí)的使用門檻。截至目前，我們已經(jīng)幫助超過

10

萬家來自各行各業(yè)的不同規(guī)模的客戶使用機(jī)器學(xué)習(xí)進(jìn)行創(chuàng)新。我們?cè)谌斯ぶ悄芎蜋C(jī)器學(xué)習(xí)堆棧的三個(gè)層級(jí)都擁有至深至廣的產(chǎn)品組合。長期以來，通過不斷投入、持續(xù)創(chuàng)新，我們?yōu)闄C(jī)器學(xué)習(xí)提供高性能、可伸縮的基礎(chǔ)設(shè)施和極具性價(jià)比的機(jī)器學(xué)習(xí)訓(xùn)練和推理；我們研發(fā)了

Amazon

SageMaker，為所有開發(fā)人員構(gòu)建、訓(xùn)練和部署模型提供最大的便利；我們還推出了大量服務(wù)，使客戶通過簡單的

API

調(diào)用就可添加

AI

功能到應(yīng)用程序中，如圖像識(shí)別、預(yù)測和智能搜索

;同樣，在

AIGC

技術(shù)上，亞馬遜云科技也邁出了重要的一步，讓這項(xiàng)技術(shù)也將賦能千行百業(yè)。亞馬遜云科技能做的就是，讓更多客戶能夠訪問基礎(chǔ)模型能力、為機(jī)器學(xué)習(xí)推理和訓(xùn)練提供基礎(chǔ)設(shè)施、提高所有開發(fā)人員的編碼效率，幫助我們的客戶更簡單、更容易地在業(yè)務(wù)中使用

AIGC。userid:497168,docid:145402,date:2023-11-10,Amazon

EC2GPUsAmazon

InferentiaAmazon

TrainiumHabana

GaudiFPGACPUs人工智能服務(wù)機(jī)器學(xué)習(xí)框架與基礎(chǔ)設(shè)施TeynTosorcrhFl,oAwpacheMXNet,Amazon

SageMakerCanvas無代碼機(jī)器學(xué)習(xí)Jumpstart模型與解決方案庫GroundTruth數(shù)據(jù)標(biāo)記數(shù)據(jù)準(zhǔn)備Studio

IDE特征存儲(chǔ)CI/CD

|

數(shù)據(jù)治理

|

負(fù)責(zé)任的人工智能地理信息 Notebook 訓(xùn)練模型機(jī)器學(xué)習(xí) 模型開發(fā) 參數(shù)調(diào)優(yōu)部署至生產(chǎn)管理和監(jiān)控EDGE

MANAGER管理邊緣設(shè)備Amazon

Bedrock文本AmazonTitanTextAmazonTitan

EmbeddingsAI21Jurassic-2AnthropicClaudestability.aiStable

Di?usionMore…專用業(yè)務(wù)流程優(yōu)化AmazonPersonalize AmazonFraud

DetectorAmazonForecast AmazonLookoutfor

Metrics搜索Amazon

Kendra對(duì)話Amazon

LexAmazonTranscribeCall

AnalyticsContact

LensVoice

ID代碼

+

DEVOPSAmazon

CodeGuruAmazon

CodeWhispererAmazonDevOps

Guru工業(yè)Amazon

Monitron AmazonLookoutfor

VisionAmazonLookoutfor

Equipment生命健康A(chǔ)mazon

HealthLakeAmazonComprehend

MedicalAmazonTranscribe

MedicalAmazon

Omics通用文本Amazon

TranslateAmazon

Comprehend語音Amazon

PollyAmazon

Transcribe視覺Amazon

TextractAmazon

RekognitionAmazon

Panorama

亞馬遜云科技人工智能與機(jī)器學(xué)習(xí)技術(shù)棧

至廣至深的機(jī)器學(xué)習(xí)產(chǎn)品套件 1111面向不同的基礎(chǔ)模型生態(tài)伙伴，亞馬遜云科技提供了不同層次的產(chǎn)品與服務(wù)幫助用戶提升開發(fā)效率，主要的產(chǎn)品和服務(wù)如下：基礎(chǔ)模型提供商構(gòu)建自己的基礎(chǔ)模型Amazon

SageMaker基于亞馬遜云科技自研Trainium和

Inferentia

芯片的面向基礎(chǔ)模型提供商，使用基礎(chǔ)模型調(diào)優(yōu)提供服務(wù)的廠商，直接使用基礎(chǔ)模型廠商，提供全面深入的產(chǎn)品與服務(wù)使用

Amazon

SageMaker

基礎(chǔ)模型

Hub—SageMakerJumpStart使用基礎(chǔ)模型調(diào)優(yōu)提供服務(wù)的廠商基于

Nvidia

GPU

的

EC2

實(shí)例P4P3G4EC2

P4instancesEC2

G4instancesEC2

P3instancesAmazon

CodeWhisperer直接使用基礎(chǔ)模型廠商AIGC

解決方案推理調(diào)用基礎(chǔ)模型提供的

APIJumpStart

提供的最先進(jìn)的第三方預(yù)訓(xùn)練基礎(chǔ)模型Hugging

FaceAmazon

Bedrock來自亞馬基遜礎(chǔ)的模自型研大語言來自

AI21

Lab第s、三A方nt基hr礎(chǔ)op模ic

型和

stability.ai

的Titan

Text Titan

EmbeddingsJurassic-2 Claude Stable

Di?usion1112面向模型提供商提供適用于每種工作負(fù)載的高性能、經(jīng)濟(jì)高效、可擴(kuò)展基礎(chǔ)設(shè)施，尤其是兩款基于無論運(yùn)行、構(gòu)建還是定制基礎(chǔ)模型，客戶都需要高性能、低成本且為機(jī)器學(xué)習(xí)專門構(gòu)建的基礎(chǔ)設(shè)施。亞馬遜云科技提供基于英偉達(dá)最新

GPU

芯片（如

H100,A100,

A10,

T4

等）的虛機(jī)實(shí)例

,

滿足用戶對(duì)基礎(chǔ)模型訓(xùn)練和微調(diào)的算力資源需求。除此之外，過去五年，亞馬遜云科技持續(xù)加大在自研芯片方面的投入，不斷突破性能和價(jià)格的極限，以支持對(duì)此有極高要求的機(jī)器學(xué)習(xí)訓(xùn)練與推理等工作負(fù)載。亞馬遜云科技

Trainium

和

Inferentia

芯片可以提供在云上訓(xùn)練模型和運(yùn)行推理的最低成本。正是因?yàn)槲覀冊(cè)诔杀竞托阅芊矫娴膬?yōu)勢，像

AI21

Labs、Anthropic、Cohere、Grammarly、HuggingFace、Runway、stability.ai

等領(lǐng)先的

AI

初創(chuàng)公司都選擇運(yùn)行在亞馬遜云科技平臺(tái)上。今天，基礎(chǔ)模型花費(fèi)的時(shí)間和金錢主要用于訓(xùn)練，這是因?yàn)樵S多客戶才剛剛開始將基礎(chǔ)模型部署到生產(chǎn)中。由

Trainium

支持的Trn1

計(jì)算實(shí)例與其他任何Amazon

EC2

實(shí)例相比，可以節(jié)省高達(dá)

50%

的訓(xùn)練成本，經(jīng)過優(yōu)化后可以在與高達(dá)

800Gbps

的第二代

EFA（彈性結(jié)構(gòu)適配器）網(wǎng)絡(luò)相連的多個(gè)服務(wù)器上分發(fā)訓(xùn)練任務(wù)?？蛻艨梢栽诔笠?guī)模集群（UltraClusters）中部署

Trn1

實(shí)例，數(shù)量可以擴(kuò)展到在同一可用區(qū)中

3

萬個(gè)

Trainium

芯片，相當(dāng)于超過

6

exa?ops

的計(jì)算能力，并具有

PB

級(jí)網(wǎng)絡(luò)。許多亞馬遜云科技客戶，包括

Helixon、Money

Forward和亞馬遜的搜索團(tuán)隊(duì)，都使用

Trn1

實(shí)例將訓(xùn)練最大規(guī)模的深度學(xué)習(xí)模型所需的時(shí)產(chǎn)品亮點(diǎn)Ⅰ

：間從幾個(gè)月縮短到幾周甚至幾天，并且降低了成本。800

Gbps

的帶寬已經(jīng)很大，但我們?nèi)圆粩鄤?chuàng)新、拓展帶寬，推出全新的、網(wǎng)絡(luò)優(yōu)化型

Trn1n

實(shí)例，它可以提供

1600

Gbps

的網(wǎng)絡(luò)帶寬，專為大型網(wǎng)絡(luò)密集型模型設(shè)計(jì)，其性能比

Trn1

高出20%。但是，未來，當(dāng)基礎(chǔ)模型進(jìn)入大規(guī)模部署時(shí)，我們相信，大部分機(jī)器學(xué)習(xí)成本將來自運(yùn)行推理。因此，我們推出了由

Amazon

Inferentia2

提供支持的

Inf2

實(shí)例，這些實(shí)例專門針對(duì)運(yùn)行數(shù)千億個(gè)參數(shù)的基礎(chǔ)模型驅(qū)動(dòng)的

AIGC

應(yīng)用程序進(jìn)行了優(yōu)化。與上一代相比，Inf2

實(shí)例不僅吞吐量提高了

4

倍，延遲降低了

10

倍，還可實(shí)現(xiàn)加速器之間的超高速連接以支持大規(guī)模分布式推理。與同類

Amazon

EC2

實(shí)在云端運(yùn)行深度學(xué)習(xí)（DL）模型時(shí)單次推理的最低成本與同類

Amazon

EC2實(shí)例相比，將推理性價(jià)比提高了

70%大語言模型和

di?usion模型最經(jīng)濟(jì)高效的訓(xùn)練方式大語言模型和di?usion

模型最經(jīng)濟(jì)高效的推理方式與同類

Amazon

EC2實(shí)例相比，將推理性價(jià)比提高了

50%與同類

Amazon

EC2實(shí)例相比，將推理性價(jià)比提高了

50%例相比，這些能力將推理性價(jià)比提高了

40%，并把云中的推理成本降到最低。亞馬遜云科技面向

AIGC

應(yīng)用的專用加速芯片Amazon

InferentiaAmazon

TrainiumAmazon

Inferentia2AmazonInferentia自研

AI

訓(xùn)練

(Trainium)

與推理

(Inferentia)

芯片專門針對(duì)

AIGC應(yīng)用優(yōu)化的高性價(jià)比

EC2

實(shí)例

Trn1

和Inf2，幫助企業(yè)大幅節(jié)省AIGC

訓(xùn)練和推理的成本AmazonTrainium13AmazonSageMaker無需自行構(gòu)建、端到端機(jī)器學(xué)習(xí)平臺(tái)，最大限度節(jié)省

AIGC

模型開發(fā)和應(yīng)用成本，提升整體生產(chǎn)效率。降低訓(xùn)練成本內(nèi)置競價(jià)型實(shí)例訓(xùn)練模型成本優(yōu)化高達(dá)

90%針對(duì)大規(guī)模的

AIGC提供異步推理算力自動(dòng)伸縮最低至

0內(nèi)置

MLOps

套件將

AIGC

實(shí)驗(yàn)自動(dòng)化部署至生產(chǎn)面向基礎(chǔ)模型提供商以及使用基礎(chǔ)模型調(diào)優(yōu)提供服務(wù)的廠商，提供全托管的一站式機(jī)器學(xué)習(xí)開發(fā)平臺(tái)

AmazonSageMaker，助力用戶高效實(shí)現(xiàn)

AIGC

基礎(chǔ)模型的訓(xùn)練，推理，自定義、微調(diào)，部署和管理面向機(jī)器學(xué)習(xí)工程化：Amazon

SageMaker產(chǎn)品亮點(diǎn)Ⅱ

：針對(duì)基礎(chǔ)模型訓(xùn)練針對(duì)基礎(chǔ)模型推理Amazon

SageMaker

可以輕松訪問包括

Nvidia

GPU，Amazon

Trainium

在內(nèi)的最新的基礎(chǔ)設(shè)施資源，而且這些實(shí)例之間實(shí)現(xiàn)了超高速網(wǎng)絡(luò)通信與高性能存儲(chǔ)，方便算法人員聚焦模型調(diào)試的工作

;Amazon

SageMaker

提供了包括

Studio，Notebook

等一系列調(diào)試、分析以及追蹤模型效果的工具，可以幫助算法人員盡快完成模型調(diào)整，此外

AmazonSageMaker

提供包含數(shù)據(jù)標(biāo)注、模型訓(xùn)練、微調(diào)、部署的標(biāo)準(zhǔn)化、自動(dòng)化的端到端流程和管理工具，輕松實(shí)踐機(jī)器學(xué)習(xí)運(yùn)維

MLOps

和大規(guī)模集群協(xié)調(diào)

;對(duì)

TensorFlow、PyTorch

和

HuggingFace

等框架和庫進(jìn)行了針對(duì)亞馬遜云科技的優(yōu)化，提供了顯著的性能改善

;Amazon

SageMaker

自帶分布式訓(xùn)練庫，支持?jǐn)?shù)據(jù)并行以及模型并行（管道并行和張量并行）等模式，使得基礎(chǔ)模型的分布式訓(xùn)練更加容易上手。除了

AmazonSageMaker

自帶的分布式訓(xùn)練庫外，還支持

DeepSpeed

以及FSDP

等開源分布式訓(xùn)練框架，適配不同的客戶需求

;Spot

競價(jià)實(shí)例輕松訓(xùn)練機(jī)器學(xué)習(xí)模型，與按需實(shí)例相比，使用托管的

Spot

實(shí)例訓(xùn)練模型，可以將成本優(yōu)化高達(dá)

90%。針對(duì)不同的客戶需求場景，Amazon

SageMaker

支持多種推理方式，例如實(shí)時(shí)推理模式以滿足超低時(shí)延的業(yè)務(wù)，批量推理以滿足大型數(shù)據(jù)集的離線業(yè)務(wù)，異步推理以滿足長時(shí)延的場景等；相較利用

Amazon

EC2

或

Amazon

EKS，利用

Amazon

SageMaker

進(jìn)行模型部署和推理，可以省去對(duì)于計(jì)算實(shí)例、網(wǎng)絡(luò)以及存儲(chǔ)等基礎(chǔ)設(shè)置的運(yùn)營支出，減少運(yùn)營成本；Amazon

SageMaker

可以輕松將大語言模型進(jìn)行模型并行化處理，并將模型切片放入單個(gè)

GPU

卡內(nèi)存中，從而實(shí)現(xiàn)單機(jī)多卡模式下的推理，達(dá)到低至幾百毫秒的推理延遲以及大規(guī)模的吞吐量；Amazon

SageMaker

中的大型模型推理容器（LMI）與

DeepSpeed、HFAccelerate等開源模型并行框架集成，此外還配備了

BF16

量化能力，有助于在不顯著影響準(zhǔn)確性的情況下縮小模型的大小，從而實(shí)現(xiàn)低延遲。超大規(guī)?；A(chǔ)模型訓(xùn)練成本節(jié)省

:

借助

Amazon

SageMaker，您可以使用托管式141415HuggingFaceModelsText2Image ?

UpscalingFeaturesFine-tuningonSD2.1

modelModelsAlexaTM20B支持的任務(wù)機(jī)器翻譯問答摘要生成ModelsFLAN

T5

XL

(8

variants)支持的任務(wù)機(jī)器翻譯問答摘要生成DistilGPT2AlexaTM專有模型Co:hereLightOnModelsCoheregenerateModel-

medium支持的任務(wù)文本生成信息提取問答摘要生成ModelsLyra-Fr

10B支持的任務(wù)文本生成關(guān)鍵詞提取信息提取ModelsJurassic-1Grande

17B支持的任務(wù)文本生成長文章生成摘要生成1、“一鍵式”部署和

Fine-tune

Stable

Di?usion，Bloom、FLAN-T5、Alexa

TM

等主流的

AIGC

基礎(chǔ)模型；2、內(nèi)置

300+

種開源模型，10+

種預(yù)設(shè)場景解決方案；3、提供支持

TensorFlow、PyTorch、Hugging

Face

和

MXNet等主流框架的先進(jìn)目前在

SageMaker

JumpStart

上可用的預(yù)訓(xùn)練基礎(chǔ)模型公開模型4、用戶可以通過

JumpStart

一鍵部署或微調(diào)眾多預(yù)訓(xùn)練模型，輕松開發(fā)高質(zhì)量模型并縮短部署時(shí)件；5、支持通過應(yīng)用場景、行業(yè)場景、模型名稱以及資源類型進(jìn)行搜索；6、持續(xù)增加模型和場景。低代碼構(gòu)建機(jī)器學(xué)習(xí)模型：SageMaker

JumpStart內(nèi)置包含

AIGC

場景在內(nèi)的主流開源模型和算法庫問答摘要生成聊天信息提取AI21情感分析文本分類問答文本分類支持的任務(wù)輸入文本生成圖片 ?

提升生成圖片質(zhì)量stability.ai注釋生成數(shù)據(jù)生成注釋生成數(shù)據(jù)生成15模型部署模型訓(xùn)練（微調(diào)）SageMaker

JumpStart支持模型部署、訓(xùn)練（微調(diào)）16Amazon

Bedrock針對(duì)使用基礎(chǔ)模型調(diào)優(yōu)服務(wù)廠商和直接使用基礎(chǔ)模型廠商的主要需求：首先，他們需要能直接找到并訪問高性能基礎(chǔ)模型，這些模型需要能夠給出最匹配業(yè)務(wù)場景的優(yōu)秀反饋結(jié)果。其次，客戶希望無縫與應(yīng)用程序集成，且無需管理大量基礎(chǔ)設(shè)施集群，也不會(huì)增加過高的成本。最后，目前基礎(chǔ)模型定位是通用場景公用的能力，缺乏使用客戶私有數(shù)據(jù)構(gòu)建的差異化應(yīng)用程序?？蛻粝Ｍ軌蜉p松基于基礎(chǔ)模型，利用自己的數(shù)據(jù)（可多可少）構(gòu)建差異化的應(yīng)用程序。由于客戶進(jìn)行定制化的數(shù)據(jù)是非常有價(jià)值的

IP，因此需要在處理過程中確保數(shù)據(jù)安全和隱私保護(hù)。同時(shí)，客戶還希望能控制數(shù)據(jù)共享和使用?；诳蛻粢陨系男枨螅覀兺瞥隽?/p>

Amazon

BedRock。Amazon

Bedrock

是客戶使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式人工智能應(yīng)用程序的最簡單方法，為所有開發(fā)者降低使用門檻。憑借

Bedrock

所帶來的無服務(wù)器體驗(yàn)，客戶可以輕松找到適合自身業(yè)務(wù)的模型，快速上手，在確保數(shù)據(jù)安全和隱私保護(hù)的前提下，使用自有數(shù)據(jù)基于基礎(chǔ)模型進(jìn)行定制，并使用他們已經(jīng)熟悉的亞馬遜云科技工具和能力，將定制化模型集成并部署到他們的應(yīng)用程序中，同時(shí)無需管理任何基礎(chǔ)設(shè)施。面向使用基礎(chǔ)模型調(diào)優(yōu)服務(wù)廠商和直接使用基礎(chǔ)模型的廠商，提供

Amazon

Bedrock

服務(wù)和Amazon

Titan

大語言模型，助力構(gòu)建低門檻，開放，安全的

AIGC

應(yīng)用產(chǎn)品亮點(diǎn)

Ⅲ：17目前，Amazon

Bedrock

包含兩大類能供客戶使用的基礎(chǔ)模型，第一類為亞馬遜自研的

Titan

模型，包括文本生成的

Titan

Text

模型和做矢量編碼的

TitanEmbedding

模型；第二類為第三方合作伙伴的模型，包括AI21的Jurassic-2，Anthropic的Claude

以及

stability.ai的

Stable

Di?usion

模型，Jurassic-2,Claude

模型為大語言模型，Stable

Di?usion

模型為文本生成圖片模型。任何規(guī)模的企業(yè)都可以通過Amazon

Bedrock

訪問基礎(chǔ)模型，加速機(jī)器學(xué)習(xí)在組織內(nèi)部的應(yīng)用，并憑借其輕松上手的特性，構(gòu)建自己的生成式

AI

應(yīng)用程序。我們相信，Amazon

Bedrock將是基礎(chǔ)模型普惠化進(jìn)程中的一大進(jìn)步。Amazon

Bedrock

另外一個(gè)優(yōu)勢是極其容易定制模型。客戶只需向

AmazonBedrock

展示

AmazonS3

中的幾個(gè)標(biāo)注好的數(shù)據(jù)示例，Amazon

Bedrock

就可以針對(duì)特定任務(wù)微調(diào)模型，最少僅需

20

個(gè)示例即可，而無需標(biāo)注大量數(shù)據(jù)。假設(shè)一位時(shí)裝零售行業(yè)的內(nèi)容營銷經(jīng)理，想為即將推出的手提包新品系列開發(fā)新的、針對(duì)目標(biāo)用戶的廣告創(chuàng)意。他向

Amazon

Bedrock

提供了一些標(biāo)注過的表現(xiàn)最佳的既往營銷廣告示例，以及新品的相關(guān)描述，Amazon

Bedrock

將能自動(dòng)為這些新品生成有效的社交媒體推文內(nèi)容、展示廣告和產(chǎn)品網(wǎng)頁。任何客戶數(shù)據(jù)不會(huì)被用于底層模型的訓(xùn)練，所有數(shù)據(jù)都將被加密，且不會(huì)離開客戶的虛擬私有網(wǎng)絡(luò)（VPC），可以確保全方位的數(shù)據(jù)安全和隱私保護(hù)。使用客戶熟悉的亞馬遜云科技工具和功能來部署可擴(kuò)展、可靠且安全的生成式人工智能應(yīng)用通過

API

加速開發(fā)使用基礎(chǔ)模型的生成式人工智能應(yīng)用，而不需要管理基礎(chǔ)設(shè)施從

AI21

Labs、Anthropic、stability.ai

以及亞馬遜云科技自研大語言模型中進(jìn)行選擇，找到合適客戶案例的基礎(chǔ)模型使用客戶的私有數(shù)據(jù)定制基礎(chǔ)模型利用全面的亞馬遜云科技安全功能加強(qiáng)對(duì)客戶的數(shù)據(jù)保護(hù)Amazon

Bedrock

的主要優(yōu)勢Amazon

Bedrock

支持廣泛的基礎(chǔ)模型來自亞馬遜的自研大語言基礎(chǔ)模型來自

AI21

Labs、Anthropic

和

stability.ai的第三方基礎(chǔ)模型Jurassic-2 Claude Stable

Di?usionTitan

Text Titan

Embeddings1819AmazonCodeWhisperer1919我們預(yù)見到，編程將是生成式

AI

技術(shù)得到快速應(yīng)用的領(lǐng)域之一。今天，軟件開發(fā)者需要花費(fèi)大量時(shí)間編寫相當(dāng)淺顯和無差別的代碼。他們還需要花費(fèi)不少時(shí)間學(xué)開發(fā)人員在集成開發(fā)環(huán)境中編寫代碼集成開發(fā)環(huán)境上下文會(huì)自動(dòng)發(fā)送到

Amazon

CodeWhisperer接收代碼

推薦AmazonCodeWhisperer根據(jù)集成開發(fā)環(huán)境中的先前代碼和注釋，使用機(jī)器學(xué)習(xí)生成代碼推薦安全掃描引用追蹤器避免偏差面向直接使用基礎(chǔ)模型的代碼編寫者提供AI

代碼助手

Amazon

CodeWhisperer，面向所有個(gè)人用戶免費(fèi)開放，助力更快捷、更安全地構(gòu)建應(yīng)用程序產(chǎn)品亮點(diǎn)

Ⅳ：習(xí)復(fù)雜的新工具和技術(shù)，而這些工具和技術(shù)總在不斷演進(jìn)。因此，開發(fā)者真正用于開發(fā)創(chuàng)新的功能與服務(wù)的時(shí)間少之又少。為應(yīng)對(duì)這一難題，開發(fā)者會(huì)嘗試從網(wǎng)上復(fù)制代碼片段再進(jìn)行修改，但可能無意中就復(fù)制了無效代碼，有安全隱患的代碼，或?qū)﹂_源代碼的使用沒有進(jìn)行有效的追溯。而且這種搜索和復(fù)制的方式也浪費(fèi)了開發(fā)者用于業(yè)務(wù)構(gòu)建的時(shí)間。AIGC

可以通過“編寫”大部分無差別的代碼來大大減少這種繁重的工作，讓開發(fā)人員能夠更快地編寫代碼，同時(shí)讓他們有時(shí)間專注在更具創(chuàng)造性的編程工作上。因此，我們推出了

Amazon

CodeWhisperer，一款

AI

編程助手，通過內(nèi)嵌的基礎(chǔ)模型，可以根據(jù)開發(fā)者用自然語言描述的注釋和集成開發(fā)環(huán)境（IDE）中的既有代碼實(shí)時(shí)生成代碼建議，從而提升開發(fā)者的生產(chǎn)效率。使用

CodeWhisperer

生成不同編程語言的代碼示例

:Python

代碼示例Java

代碼示例JavaScript

代碼示例Amazon

CodeWhisperer

：目前正式上線，并免費(fèi)提供給個(gè)人開發(fā)者使用

!在預(yù)覽期間，亞馬遜云科技進(jìn)行了一項(xiàng)生產(chǎn)力測試，與未使用CodeWhisperer

的參與者相比，使用

CodeWhisperer

的參與者完成任務(wù)的速度平均快

57%，成功率高

27%。實(shí)時(shí)生成代碼建議掃描代碼以發(fā)現(xiàn)隱蔽漏洞對(duì)疑似開源代碼進(jìn)行標(biāo)記或默認(rèn)過濾

目前，Amazon

CodeWhisperer

對(duì)所有個(gè)人用戶免費(fèi)，任何人都可以通過郵箱賬戶在幾分鐘內(nèi)注冊(cè)

AmazonCodeWhisperer

進(jìn)行使用，而無需亞馬遜云科技賬號(hào)。對(duì)于企業(yè)客戶，我們則提供了

Amazon

CodeWhisperer專業(yè)版，其中包括更多高級(jí)管理功能，如集成了身份與訪問管理服務(wù)

(IAM)

的單點(diǎn)登錄

(SSO)，以及使用更高限額的安全掃描。構(gòu)建像

Amazon

CodeWhisperer

這樣強(qiáng)大的應(yīng)用程序?qū)﹂_發(fā)人員和我們所有的客戶來說都是變革性的。我們還有更多創(chuàng)新性的產(chǎn)品在規(guī)劃中，也期待更多的客戶和開發(fā)者在亞馬遜云科技上構(gòu)建更加創(chuàng)新和顛覆性的生成式人工智能應(yīng)用。我們的使命是，讓各種技能水平的開發(fā)人員和各種規(guī)模的組織都有機(jī)會(huì)使用生成式

AI

進(jìn)行創(chuàng)新。我們相信，新一波機(jī)器學(xué)習(xí)技術(shù)創(chuàng)新才剛剛開始、方興未艾，未來還有無限可能。5720%27%參與者平均提升效率參與者成功完成任務(wù)的可能性增加亞馬遜云科技

AIGC

參考解決方案介紹：1.

基于Amazon

SageMaker

構(gòu)建的支持Stable

Di?usion

Extension

的AI

作畫解決方案方案介紹通過為社區(qū)提供插件和云資源模版的方式，幫助客戶將現(xiàn)有

Stable

Di?usion

的模型訓(xùn)練，推理和調(diào)優(yōu)等任務(wù)負(fù)載從本地服務(wù)器遷移至

Amazon

SageMaker，利用云上彈性資源加速模型迭代，避免單機(jī)部署所帶來的性能瓶頸。方案優(yōu)勢1.

安裝便捷212121本解決方案使用

Amazon

CloudFormation

一鍵部署亞馬遜云科技中間件，搭配社區(qū)原生

StableDi?usion

WebUI

插件安裝形式一鍵安裝，即可賦能用戶快速使用

Amazon

SageMaker

云上資源，進(jìn)行推理和訓(xùn)練工作；4.

優(yōu)化資源配置用戶可按需選擇云上資源，進(jìn)行批量推理及模型訓(xùn)練，極大提升效率；5.

協(xié)作性強(qiáng)依托于開源社區(qū)強(qiáng)大資源，通過插件形式可以與其他開發(fā)者合作，有助于更快速迭代產(chǎn)品，為用戶提供更有用、易用的產(chǎn)品；6.

適合對(duì)

AI

生圖有業(yè)務(wù)需求的企業(yè)客戶，包括算法工程師，制作人，畫師，設(shè)計(jì)師等；2.

社區(qū)原生WebUI

界面與后端分離，用戶無需改變現(xiàn)有Stable

Di?usion

WebUI

的使用習(xí)慣，WebUI

可以在任何支持的終端啟動(dòng)而沒有

GPU

的限制，原有訓(xùn)練，推理等任務(wù)通過插件所提供的功能遷移到

Amazon

SageMaker；3.

可擴(kuò)展性強(qiáng)方案插件以及中間件代碼開源，采取非侵入式設(shè)計(jì)，有助于用戶快速跟上社區(qū)相關(guān)功能的迭代，從

WebUI本體到廣受歡迎的

Dreambooth、ControlNet、LoRa

等插件；2.

基于大語言模型的下一代智能搜索和知識(shí)庫解決方案方案介紹各行各業(yè)中，都有很多建立企業(yè)知識(shí)庫，并基于知識(shí)庫提供知識(shí)檢索和精準(zhǔn)問答的需求。例如在制造，汽車和醫(yī)療健康領(lǐng)域，過往有大量的技術(shù)文檔，維保記錄，醫(yī)學(xué)指南等沒有充分利用的知識(shí)資產(chǎn)，亟需能夠基于這些資產(chǎn)建立企業(yè)知識(shí)庫服務(wù)內(nèi)部和外部客戶。在零售和電商領(lǐng)域，亟需能夠?qū)ι唐愤M(jìn)行進(jìn)準(zhǔn)搜索搜索和商品特性進(jìn)行問答。為了解決用戶需求和我們服務(wù)之間的差距，我們借助亞馬遜云服務(wù)，構(gòu)建智能搜索解決方案

:

1.

以

Amazon

OpenSearch

和

Amazon

Kendra

為基礎(chǔ)構(gòu)建搜索引擎和建立企業(yè)知識(shí)庫；2.

通過

Amazon

Sagemaker

部署包含大語言模型（LLM）和語意搜索模型在內(nèi)的推理節(jié)點(diǎn)，結(jié)合搜索引擎，可根據(jù)企業(yè)知識(shí)庫直接給出搜索問題答案；3.

結(jié)合Amazon

Lex，Amazon

Connect

等服務(wù)，提供聊天機(jī)器人和智能客服場景應(yīng)用，形成完整的端到端應(yīng)用。方案優(yōu)勢1.

簡單易用基于Amazon

OpenSearch和Amazon

Kendra

能夠快速建立demo

查看效果；2.

輕量化插件方案中的各個(gè)模塊即可作為服務(wù)獨(dú)立使用，也可作為插件與其他服務(wù)結(jié)合；3.

內(nèi)置引擎自動(dòng)優(yōu)化算法可將用戶行為記錄，并周期性自動(dòng)優(yōu)化搜索引擎，提高搜索引擎精度的同時(shí)減少運(yùn)營成本；4.

功能組件快速拓展通過拓展組件能夠快速實(shí)現(xiàn)，包括語音

/

視頻

/

圖片

/

文本在內(nèi)的多維度數(shù)據(jù)搜索并實(shí)現(xiàn)端到端的服務(wù)；2222篇章四AIGC

客戶案例分享利用

AI

繪畫生成個(gè)性化二次元填色游戲的素材圖片。人工成本降低

60%利用

AI

繪畫結(jié)合用戶照片生成個(gè)性化的二次元風(fēng)格頭像游戲·基于亞馬遜云科技構(gòu)建二次元AIGC

產(chǎn)品

Anime

AI項(xiàng)目背景四月科技專注在移動(dòng)端休閑游戲的研發(fā)和運(yùn)營，其中多款二次元游戲產(chǎn)品獲得市場認(rèn)可。在

AIGC

逐漸成熟之后，四月科技

CEO希望利用

AIGC

打造二次元繪畫產(chǎn)品，并將

AIGC

用于二次元原創(chuàng)作品的創(chuàng)作，以降低人工繪畫的成本。項(xiàng)目挑戰(zhàn)1、為了搶占市場，客戶希望在

1

個(gè)月之內(nèi)完成整個(gè)項(xiàng)目的開發(fā)和上線；2、客戶只有移動(dòng)端工程師，沒有專業(yè)的運(yùn)維和后端開發(fā)團(tuán)隊(duì)，也沒有

AI

相關(guān)的技術(shù)經(jīng)驗(yàn)。我們的方案利用

Stable

Di?usion2.0

模型，抽取圖生圖和文字生圖的

API

接口，利用APIGateway

等無服務(wù)器架構(gòu)作為應(yīng)用后端，將

WebUI

包裝成

BYOC

的模式部署到

Amazon

SageMaker，并利用

Amazon

SageMaker

的異步推理和內(nèi)部隊(duì)列實(shí)現(xiàn)高可擴(kuò)展性和高可用性的架構(gòu)。最終成功最終產(chǎn)品在一個(gè)月內(nèi)準(zhǔn)時(shí)上線，目前已經(jīng)獲得百萬用戶；借助

AI

繪畫功能，將填色游戲的圖片素材成本降低

60%；Anime

AI

目前成為客戶營收最高的業(yè)務(wù)，占公司總營收的

1/3。四月科技“過去我們需要將素材的設(shè)計(jì)外包給原畫團(tuán)隊(duì)，不僅制作周期長，也是企業(yè)不可忽視的一項(xiàng)業(yè)務(wù)成本。在亞馬遜云科技上應(yīng)用AIGC

進(jìn)行填色素材自動(dòng)化創(chuàng)作之后，我們不僅可以根據(jù)玩家喜好生成更多的資源，也幫助企業(yè)節(jié)約了超過

60%

的素材外包設(shè)計(jì)成本?！报D―成都四月科技有限公司

CEO

袁海林23項(xiàng)目背景針對(duì)電商客戶，生成“穿戴”產(chǎn)品圖的高質(zhì)量AI

模特，同時(shí)提供不同商業(yè)應(yīng)用場景。幫助節(jié)省成本，提高商品展示多樣性，提升成交總額。項(xiàng)目挑戰(zhàn)1、廣告營銷團(tuán)隊(duì)沒有相關(guān)實(shí)踐經(jīng)驗(yàn)，涉及內(nèi)部團(tuán)隊(duì)多

;2、工程化解耦耗時(shí)長，沒有整體解決方案

;3、無法預(yù)知未來

C

端用戶流量。我們的方案上傳多張不同角度眼鏡產(chǎn)品圖，基于

AIGC

技術(shù)，生成佩戴假發(fā)

/

眼鏡且符合客戶目標(biāo)受眾特點(diǎn)的

AI模特圖，用于客戶站點(diǎn)產(chǎn)品主圖展示。在模型訓(xùn)練階段，采用

Amazon

SageMaker

機(jī)器學(xué)習(xí)平臺(tái)，動(dòng)態(tài)靈活從

0-1

訓(xùn)練機(jī)器學(xué)習(xí)模型，包含

ML

全生命周期能力。在推理階段使用

Amazon

EC2

結(jié)合

Auto

Scaling

的能力，快速響應(yīng)需求變化，實(shí)現(xiàn)動(dòng)態(tài)擴(kuò)縮容，推理成本降低

50%。

整體方案基于亞馬遜云科技服務(wù)實(shí)現(xiàn)，無需管理基礎(chǔ)設(shè)施，服務(wù)穩(wěn)定可保障。最終成功1、上架

AI

模特產(chǎn)品圖，某客戶訂單數(shù)據(jù)提升至原有

8

倍

+。2、采用

AI

廣告創(chuàng)意素材，某客戶

CTR

提升

35.3%，CPC

降至

44.8%。易點(diǎn)天下電商

·

廣告創(chuàng)意主題營銷場景應(yīng)用"Amazon

SageMaker

助力易點(diǎn)天下提高訓(xùn)練和調(diào)參的效率，整合模型訓(xùn)練交付成本下降

60%

以上，并實(shí)現(xiàn)在機(jī)器學(xué)習(xí)方面的運(yùn)營成本節(jié)省超過了

75%。"――易點(diǎn)天下網(wǎng)絡(luò)科技股份有限公司24

最終成功通過使用

Amazon

SageMaker，Canva

可以在

3

周內(nèi)將新的文本到圖像功能交付給用戶；使用

Amazon

SageMaker

制作超過

60

個(gè)

ML

模型；借助這種前沿的文本到圖像技術(shù)，用戶可以在幾秒鐘內(nèi)創(chuàng)建獨(dú)特的高質(zhì)量圖像。使用

Amazon

Sagemaker

快速生成高質(zhì)量圖像項(xiàng)目背景Canva

是一個(gè)在線平臺(tái)，用于創(chuàng)建和編輯從演示文稿到社交媒體帖子、視頻、文檔，甚至網(wǎng)站的所有內(nèi)容。該公司的目標(biāo)是讓內(nèi)容創(chuàng)作民主化，讓每個(gè)人，從企業(yè)到規(guī)模最小的博主，都能使用先進(jìn)的視覺傳播工具。項(xiàng)目挑戰(zhàn)該公司希望推出一項(xiàng)基于

Stable

Di?usion

的可以讓用戶輸入文本提示，并獲得人工智能生成的圖像的新功能，但獨(dú)自完成這項(xiàng)工作需要至少

6

個(gè)月的時(shí)間和大量的

GPU；對(duì)于某些

AIGC

的新模型，短期內(nèi)快速交付是一個(gè)沉重的負(fù)擔(dān)，在亞馬遜云科技之前，Canva無法快速交付大型、現(xiàn)代、前沿的模型；Canva

關(guān)注的不僅僅是上市速度，更重要的是用戶信任和安全，人工智能生成藝術(shù)的出現(xiàn)，為用戶創(chuàng)造不確定的內(nèi)容帶來了新的方式，在某些情況下，這些

AI

甚至可能自行創(chuàng)建攻擊性圖像。我們的方案Canva

設(shè)置其圖像創(chuàng)建序列，以便在用戶輸入文本提示后，使之使用

Amazon

SageMaker

Real-TimeInference（實(shí)時(shí)推理）端點(diǎn)來生成圖像。當(dāng)圖像生成時(shí)，系統(tǒng)通過

Amazon

Rekognition模型對(duì)其進(jìn)行過濾。在管道的末端，Canva會(huì)將圖像展示給最終用戶，供其選擇。借助這種前沿的文本到圖像技術(shù)，用戶可以在幾秒