Azure OpenAI 生成式人工智能白皮書（2024）-微軟中國

前言用下載量將同比增長40%。面對(duì)生成式AI及其應(yīng)用落地的迅猛發(fā)展，微軟期待用AI重新定義軟件開發(fā)與工作的未來。服務(wù)生態(tài)，從提供AI工具到構(gòu)筑AI平臺(tái)和生態(tài)，全方位幫助開發(fā)者應(yīng)對(duì)技術(shù)革命，予力人可能。微軟的AI戰(zhàn)略包括三個(gè)部分：將AI副駕融入每個(gè)微軟云解決方案、幫助客戶通過AI創(chuàng)新和轉(zhuǎn)型以及負(fù)責(zé)任的AI。本白皮書將全面介紹MicrosoftAzure生成式人工智能領(lǐng)域的解決方案、工您戰(zhàn)略的落地路徑，本白皮書介紹的落地方案涵蓋從直接使用微軟AzureAI和Azure22目錄第二章生成式人工智能落地實(shí)踐的四種路徑第三章生成式人工智能落地成功案例參考uuuMicrosoftAzure247833AzureAI服務(wù)包括了Azure機(jī)器學(xué)習(xí)平臺(tái)、認(rèn)知服務(wù)和應(yīng)用AI服務(wù)。其中，Azure認(rèn)知服務(wù)有五大支柱，分別是視覺、語音、語言、決策和AzureOpenAI服務(wù)。AzureAI服務(wù)通過現(xiàn)成的預(yù)生成可定制的API和模型，幫助開發(fā)人員和組織快速創(chuàng)建智能、前沿、面向市場且負(fù)責(zé)任的應(yīng)用程序，包括對(duì)話、搜索、監(jiān)視、翻譯、語音、視覺和決策的自然語言處理。這意味著，您可以使用AzureAI組合構(gòu)建企業(yè)規(guī)模的智能應(yīng)用，并使用生成式AI重新構(gòu)想你的業(yè)務(wù)。基于你自己的數(shù)據(jù)構(gòu)建、微調(diào)和訓(xùn)練自定義AI模型，獲得獨(dú)特的優(yōu)勢(shì)。基于你自己的數(shù)據(jù)構(gòu)建、微調(diào)和訓(xùn)練自定義AI模型，獲得獨(dú)特的優(yōu)勢(shì)。使用統(tǒng)一的儀表板實(shí)踐負(fù)責(zé)任、高質(zhì)量的加速機(jī)器學(xué)習(xí)工作流的自動(dòng)化、協(xié)作和可生成自己的助手和生成式AI應(yīng)用程序。在應(yīng)用程序和服務(wù)中檢測用戶生成的和AI生成的有害內(nèi)容。在在AzureAI的幫助下，您可以為您的組織構(gòu)建可以立即推向市場的先進(jìn)應(yīng)用程序。以微軟為例，Microsoft產(chǎn)品及應(yīng)用平臺(tái)如Microsoft365Copilot、Dynamics365Copilot、PowerPlatform都由AzureAI驅(qū)動(dòng)，為每個(gè)人和組織提效生產(chǎn)力。uuuuuMicrosoftAzure4微軟Azure作為OpenAI的獨(dú)家云服務(wù)提供商，自2019年開始便以出色的、面向AI時(shí)代的領(lǐng)先架構(gòu)，為OpenAI的快速發(fā)展提供助力?；陔p方的戰(zhàn)略合作，現(xiàn)在Azure全球版客戶可以通過AzureOpenAI服務(wù)直接調(diào)用OpenAI全部模型，包括ChatGPT、GPT-4、GPT-4vision、Codex和DALL.E等模型，并享有Azure企業(yè)級(jí)99.9%的可用性SLA、企業(yè)級(jí)安全保障和為人工智能優(yōu)化的基礎(chǔ)設(shè)施。目前有18,000多家組織使用AzureOpenAI服務(wù)。預(yù)配置吞吐容量的專屬模式:適合各類追求穩(wěn)定性能及穩(wěn)定延時(shí)的AI生產(chǎn)應(yīng)用。.通過提供穩(wěn)定的最大延遲和吞吐量保障穩(wěn)定可預(yù)測的性能.預(yù)留專屬的容量uuuuuMicrosoftAzure5負(fù)責(zé)任的人工智能原則在科技行業(yè)里，微軟率先提出了打造負(fù)責(zé)任的人工智能的決心。2016年，微軟CEO薩提亞納德拉發(fā)表了一篇關(guān)于人工共同責(zé)任的專欄文章，幾個(gè)月后，第一次公開提出了微軟的人工智能準(zhǔn)則：公平、可靠和安全、隱私和保障、包容、透明、責(zé)任。當(dāng)AI進(jìn)入主流產(chǎn)品和服務(wù)時(shí)，這些原則對(duì)于創(chuàng)建負(fù)責(zé)任且值得信賴的AI至關(guān)重要。它們以兩個(gè)角度為指導(dǎo)：道德和可解釋。閱讀標(biāo)題鏈接可閱讀詳細(xì)細(xì)節(jié)。BuildingblockstoenactprinciplesPrivacy&SecurityReliability&BuildingblockstoenactprinciplesPrivacy&SecurityReliability&SafetyInclusivenessMicrosoft'sResponsibleAlprinciplesFairnessAccountabilityTransparencyuuuuuMicrosoftAzure6微軟為各行業(yè)客戶根據(jù)AI戰(zhàn)略階段不同提供四個(gè)層次的AI創(chuàng)新支持：結(jié)合您的現(xiàn)有數(shù)據(jù)直接使用AzureOpenAI模型：適合各類AI場景的實(shí)現(xiàn)Promptengineer提示工程優(yōu)化：提高大語言模型生成響應(yīng)的準(zhǔn)確性基于現(xiàn)有模型進(jìn)行Fine-tuning微調(diào)：使用示例數(shù)據(jù)重新訓(xùn)練現(xiàn)有的大型語言模型，從而生成使用提供的示例經(jīng)過優(yōu)化的新的“自定義”大型語言模型。4訓(xùn)練您的自有模型：AzureAIInfra云端大規(guī)模AI算力平臺(tái)方案4其中，90%的使用場景可以通過前兩層的落地方案實(shí)現(xiàn)。在任何路徑下，您都可以通過使用檢索增強(qiáng)生成(RAG)模式，與預(yù)訓(xùn)練的大型語言模型(LLM)和你自己的數(shù)據(jù)配合使用以生成響應(yīng)。同時(shí)，也可以通過使用Azure大語言模型運(yùn)營功能(LLMOps)實(shí)現(xiàn)高效提示工程和開發(fā)部署，以簡化的過程來管理大模型應(yīng)用的端到端生命周期。uuuuuMicrosoftAzure71.1AzureOpenAI服務(wù)上的可用模型GPT-4-0125-preview：GPT-4-0125-preview已發(fā)布,新模型旨在減少模型未完成任務(wù)的“懶惰”情況，及其他升級(jí)。GPT-4：國際版AzureOpenAI服務(wù)的客戶和合作伙伴可以申請(qǐng)?jiān)L問GPT-4，并開始使用OpenAI目前最先進(jìn)的模型構(gòu)建應(yīng)用。通過基于AzureAI優(yōu)化的基礎(chǔ)設(shè)施、企業(yè)級(jí)可用性、合規(guī)性、數(shù)據(jù)安全和隱私控制提供的支持，以及與其它Azure服務(wù)的多種集成，實(shí)現(xiàn)您的大模型應(yīng)用架構(gòu)。GPT-4-Turbo：GPT-4Turbo功能更強(qiáng)大，模型信息更新到2023年4月。它具有128K上下文窗口，因此您可以使用RAG（檢索增強(qiáng)生成）等技術(shù)，基于企業(yè)用例所需的自定義數(shù)據(jù)定制應(yīng)用程序。GPT-3.5-Turbo：GPT-3.5-Turbo現(xiàn)已更新至1025版本。uuuuuMicrosoftAzure8客戶可以開啟CodeInterpreter,Functioncalling等工具在自己的應(yīng)用程序內(nèi)構(gòu)建擁有指令的AI助手,并利用模型、工具和知識(shí)來響應(yīng)用戶查詢。AzureAssistantsAPI目前已支持代碼解釋器和函數(shù)調(diào)用，檢索功能將很快發(fā)布。OpenAI的TTS模型在AOAI和AzureAISpeech同時(shí)上線。新的TTS模型能生成6種預(yù)設(shè)不同個(gè)性和風(fēng)格的人類品質(zhì)語音。GPT-4-TurbowithVision：GPT-4TurbowithVision是由OpenAI開發(fā)的大型多模態(tài)模型（LMM），支持圖像分析并能對(duì)圖像有關(guān)問題生成文本響應(yīng)。它結(jié)合了自然語言處理和視覺理解能力。GPT-4TurbowithVision達(dá)到了圖像理解的先進(jìn)水平。它不僅僅能夠識(shí)別圖片中的對(duì)象，更注重理解上下文和細(xì)節(jié)，比如創(chuàng)建詳細(xì)的圖像標(biāo)題、提供豐富的上下文描述、回答關(guān)于視覺內(nèi)容的問題或分配智能標(biāo)簽。AzureOpenAI服務(wù)推出了三款模型的Fine-tuning功能（Babbage-002、Davinci-002和GPT-3.5-Turbo）。用戶可以使用AzureOpenAI服務(wù)或Azure機(jī)器學(xué)習(xí)對(duì)Babbage/Davinci-002和GPT-3.5-Turbo進(jìn)行Fine-tuning。GPT-3.5-Turbo1106模型已支持?ne-tuning,同時(shí)Training和Hosting的成本比GPT-3.5-Turbo都降低50%。Babbage-002和Davinci-002支持completion，Turbo支持對(duì)話式交互。通過幾個(gè)簡單的命令，您就可以指定基本模型、提供數(shù)據(jù)、進(jìn)行訓(xùn)練和部署。點(diǎn)擊閱讀關(guān)于微調(diào)的介紹文章DALL·E3：DALL·E3是一種支持文本提示的圖像生成模型，助力用戶探索創(chuàng)意表達(dá)的新領(lǐng)域，通過語言和視覺藝術(shù)的交融提供獨(dú)特的體驗(yàn)。提示越詳細(xì)，圖像效果就越好。您甚至可以在已創(chuàng)建的圖像中添加文本。Whisper：Whisper模型提供轉(zhuǎn)錄和翻譯音頻內(nèi)容的功能，同時(shí)支持大規(guī)模高質(zhì)量的批量轉(zhuǎn)錄。uuuMicrosoftAzure99uuuuuMicrosoftAzure1.2添加您的數(shù)據(jù)AzureOpenAIServiceonyourdata，基于這項(xiàng)全新功能，用戶可以使用自己的數(shù)據(jù)驅(qū)動(dòng)OpenAI模型，無需訓(xùn)練或微調(diào)，即可釋放全部數(shù)據(jù)潛力。AzureOpenAIServiceonyourdata能夠獲取并打通所有來源的數(shù)據(jù)。無論數(shù)據(jù)是存儲(chǔ)在本地還是云端，該功能將提供無縫連接以解鎖數(shù)據(jù)的全部潛力。借助這一先進(jìn)工具，您可以高效處理、組織、優(yōu)化數(shù)據(jù)，獲得有價(jià)值、高質(zhì)量的洞察。同時(shí)，用戶友好的API和SDK，將與您的現(xiàn)有系統(tǒng)輕松集成；定制化示例應(yīng)用程序助力快速部署。此外，數(shù)據(jù)共享和利用也將變得更輕松，您可以在企業(yè)內(nèi)部或面向客戶快速實(shí)現(xiàn)信息分發(fā)。AzureOpenAIServiceonyourdata連接多個(gè)數(shù)據(jù)源，包括：.Azure認(rèn)知搜索索引：您可以將數(shù)據(jù)連接到Azure認(rèn)知搜索索引，實(shí)現(xiàn)與OpenAI模型的無縫集成。.AzureBlob存儲(chǔ)容器：將數(shù)據(jù)連接到AzureBlob存儲(chǔ)容器，使用AzureOpenAI服務(wù)輕松獲取數(shù)據(jù)，用于后續(xù)的分析和對(duì)話。.本地文件：連接您的AzureAI門戶文件，為數(shù)據(jù)連接提供靈活性和便利性。數(shù)據(jù)在攝取、切分之后，將導(dǎo)入Azure認(rèn)知搜索索引。txt、md、html、Word文件、PowerPoint、PDF等格式的文件都可以用于分析和對(duì)話。使用AzureOpenAI服務(wù)數(shù)據(jù)支持的步驟如下：.連接數(shù)據(jù)源：使用AzureAIStudio連接您所需的上傳本地文件等途徑完成連接。.基于數(shù)據(jù)進(jìn)行提問和聊天：基于數(shù)據(jù)進(jìn)行提問和聊天：連接數(shù)據(jù)源之后，您就可以通過AzureAIStudio，向OpenAI模型提問和對(duì)話。這將使您獲得有價(jià)值的洞察，并在大量信息的支撐下做出商業(yè)決策。uuuuuMicrosoftAzure1.3結(jié)合AzureOpenAI的Embedding嵌入向量生成模型將企業(yè)現(xiàn)有的結(jié)構(gòu)化知識(shí)庫與提示詞引擎結(jié)合起來，讓GPT模型生成更正確、更穩(wěn)定、更可靠的結(jié)果。Embedding是一種特殊的數(shù)據(jù)表示格式，機(jī)器學(xué)習(xí)模型和算法可以輕松使用。Embedding是一段文本的語義含義的信息密集表示。Embedding支持在Azure數(shù)據(jù)庫中進(jìn)行矢量相似性搜索，例如AzureCosmosDBforMongoDBvCore或AzureDatabaseforPostgreSQL-靈活服務(wù)器。PROMPTLIGHTPROMPTHEAVYGENERATIONPROMPTLIGHTPROMPTHEAVYContentcreationPromptengineeringEnterpriseChatbotChatbotMSummarizationGENERATIONLIGHT在AI領(lǐng)域，特別是在大型語言模型中，提示指的是用戶為引起特定類型的響應(yīng)而給出的輸入或指令。要充分利用GPT-4等大型語言模型，就必須精心設(shè)計(jì)能產(chǎn)生有效結(jié)果的提示。挑戰(zhàn)在于如何選擇詞語、表達(dá)方式、符號(hào)和結(jié)構(gòu)的最佳組合，以引導(dǎo)模型生成準(zhǔn)確而貼切的內(nèi)容，包括回答問題、以最喜歡的作家的口吻創(chuàng)作故事、創(chuàng)作詩歌、執(zhí)行代碼相關(guān)的任務(wù)等。提示有助于AI明確用戶意圖和對(duì)其生成內(nèi)容的期望，更精確的提示會(huì)帶來更準(zhǔn)確、相關(guān)性更強(qiáng)的結(jié)果。需要注意的是，相似的提示可能會(huì)引發(fā)不同的響應(yīng)，這取決于底層模型、訓(xùn)練數(shù)據(jù)，甚至是用戶請(qǐng)求措辭的細(xì)微變化。MicosoftAzureMicosoftAzure1.什么是Fine-tune微調(diào)Fine-tuning是開發(fā)人員和數(shù)據(jù)科學(xué)家用來定制大型語言模型，以滿足特定任務(wù)需求的方法之一。與“檢索增強(qiáng)生成”（RetrievalAugmentedGeneration，RAG）和“提示工程”等方法通過在提示中注入正確的信息和指令不同，F(xiàn)ine-tuning則是通過對(duì)大型語言模型本身進(jìn)行個(gè)性化定制來實(shí)現(xiàn)的。AzureOpenAI服務(wù)和Azure機(jī)器學(xué)習(xí)提供了監(jiān)督式Fine-tuning，允許您提供自定義數(shù)據(jù)（提示/補(bǔ)全或?qū)υ捠搅奶欤唧w取決于選擇的模型），以教授基本模型新的技能。2.何時(shí)應(yīng)該使用微調(diào)在開始使用Fine-tuning之前，我們建議您首先嘗試提示工程或RAG（檢索增強(qiáng)生成）——這是最快的入手方式。微軟提供了如PromptFlow或OnYourData工具來使此過程變得更簡單。您可以在需要Fine-tuning模型的場景下進(jìn)行比較，以選擇從提示工程還是RAG開始入手。大多數(shù)模型都會(huì)結(jié)合提示工程和Fine-tuning，從而避免浪費(fèi)精力。想要了解何時(shí)/是否應(yīng)該進(jìn)行Fine-tuning？一些基本規(guī)則可以為您提供指導(dǎo)：1.如果您希望簡單而快速地獲取結(jié)果，請(qǐng)不要立即開始使用Fine-tuning：因?yàn)檫@需要大量的數(shù)據(jù)和時(shí)間來訓(xùn)練和評(píng)估新模型。如果時(shí)間有限，通常只需通過提示工程即可取得相當(dāng)大的進(jìn)展。2.如果您需要最新或域外數(shù)據(jù)，這是使用RAG和提示工程的完美用例。3.如果您希望確保您的模型具有良好的基礎(chǔ)，避免產(chǎn)生幻覺（hallucinations），那么RAG在這方面表現(xiàn)出色?？梢钥紤]使用Fine-tuning的場景包括：1.教會(huì)模型一項(xiàng)新技能，以便它在特定任務(wù)上表現(xiàn)出色，如分類、摘要或始終以特定格式或語調(diào)進(jìn)行回應(yīng)。有時(shí)，通過Fine-tuning較小的模型，也能使其在特定任務(wù)上與較大的模型一樣出色。2.通過示例向模型演示如何執(zhí)行某些操作，但在提示中很難解釋清楚，或者示例太多，上下文窗口中無法容納。這些場景有很多邊緣情況，比如自然語言查詢，或者教模型用特定的聲音或語調(diào)說話。3.減少延遲。較長的提示可能需要更長的處理時(shí)間，而Fine-tuning允許您將這些較長的提示集成到模型本身中。微調(diào)與提示工程、RAG的使用情景一覽用幾個(gè)示例來引導(dǎo)模型提示工程易于制作和快速實(shí)驗(yàn)，門檻非常低簡單、快速部署提示工程、RAG在AzureOpenAI上輕松使用您的數(shù)據(jù)，使用提示流程，LangChain提升模型相關(guān)性從您自己的數(shù)據(jù)集中檢索相關(guān)信息以插入提示最新數(shù)據(jù)信息從您自己的數(shù)據(jù)庫、搜索引擎等查詢最新信息，以插入提示事實(shí)基礎(chǔ)引用和檢查檢索到的數(shù)據(jù)的能力優(yōu)化具體任務(wù)微調(diào)微調(diào)經(jīng)常用于引導(dǎo)模型執(zhí)行特定任務(wù)，例如以特定的格式、語調(diào)或聲音總結(jié)數(shù)據(jù)指令無法適應(yīng)提示微調(diào)微調(diào)將少樣本示例移入訓(xùn)練步驟，但增加了訓(xùn)練所需的樣本數(shù)量更低的延遲微調(diào)在提供足夠且高質(zhì)量的數(shù)據(jù)的情況下，可以微調(diào)較小、更快的模型以在特定任務(wù)上提供良好的性能，而不是使用類似GPT4的通用模型更低的成本適情況而定提示工程和RAG的初始成本較低，但長提示更昂貴；微調(diào)訓(xùn)練是昂貴的，但可能會(huì)減少提示長度。選擇始終取決于用例和數(shù)據(jù)。復(fù)雜、新穎的數(shù)據(jù)或領(lǐng)域提示工+RAG+微調(diào)這是一個(gè)高風(fēng)險(xiǎn)領(lǐng)域。微調(diào)可以重新訓(xùn)練模型以識(shí)別新領(lǐng)域，但需要使用RAG來避免合理的混淆。確?？蛻舨粐L試為未經(jīng)批準(zhǔn)的用途重新訓(xùn)練微調(diào)是一種高級(jí)技術(shù)微調(diào)是一種高級(jí)技術(shù)，需要專業(yè)知識(shí)才能正確使用。下面的問題將幫助您評(píng)估是否已經(jīng)準(zhǔn)備好使用微調(diào)。1.為什么要微調(diào)？2.您目前嘗試了哪些其他辦法？3.這些方法哪些情況下行不通？4.你打算使用哪些數(shù)據(jù)進(jìn)行微調(diào)？5.如何衡量微調(diào)模型的質(zhì)量？如果您可以明確回答以上問題，那么，您可以開始下一步的微調(diào)計(jì)劃了。uuuuuMicrosoftAzure3.3在Azure上進(jìn)行微調(diào)使用AzureOpenAI服務(wù)進(jìn)行Fine-tuning將為您帶來雙重優(yōu)勢(shì)：您可以自定義先進(jìn)的OpenAI大語言模型（LLMs），同時(shí)部署在Azure的安全、企業(yè)級(jí)云服務(wù)上。Azure的內(nèi)容審查功能讓您使用所需的數(shù)據(jù)進(jìn)行Fine- tuning時(shí)，可以過濾掉任何有合規(guī)風(fēng)險(xiǎn)的數(shù)據(jù)及響應(yīng)。如果您是AzureOpenAI服務(wù)和LLMs的新用戶，歡迎您使用微軟提供的簡單易用的API來訓(xùn)練和部署模型。如果您更愿意使用GUI，可以嘗試AzureOpenAIStudio。如果您正在從OpenAI遷移到Azure，API可兩者兼容。Fine-tuning分為兩個(gè)部分：訓(xùn)練Fine-tuning模型以及使用新定制的模型進(jìn)行推理。指定您的基本模型、訓(xùn)練和驗(yàn)證數(shù)據(jù)，并設(shè)置超參數(shù)，就可以開始了！您可以使用AzureOpenAIStudio進(jìn)行簡單的GUI操作，或者對(duì)于更高級(jí)的用戶，我們還提供了RESTAPI或OpenAIPythonSDK。訓(xùn)練完成后，新模型將在您的資源中可用。當(dāng)使用您的模型用于推理時(shí)，該定制模型可像任何其他OpenAILLM一樣進(jìn)行部署！經(jīng)過Fine-tuning的模型部署后將按小時(shí)收取托管費(fèi)用，基于輸入和輸出token計(jì)價(jià)。如果您熟悉使用AzureMachineLearningStudio來開發(fā)、監(jiān)控和部署模型，您可以將Fine-tuning集成至AML工作流程中的現(xiàn)有模型。除了OpenAI模型，Azure機(jī)器學(xué)習(xí)還支持對(duì)開源模型進(jìn)行Fine-tuning，例如LLaMa。YouTube視頻：Alicia&Seth“如何在Turbo上進(jìn)行微調(diào)”MicrosofAzureMicrosofAzure如果您決定訓(xùn)練您的自有模型，Azure云端大規(guī)模AI算力平臺(tái)是您最佳的合作伙伴！先進(jìn)AI，離不開算力基礎(chǔ)設(shè)施、服務(wù)與專業(yè)知識(shí)。我們將微軟過去十年的超級(jí)計(jì)算經(jīng)驗(yàn)和支持超大型AI訓(xùn)練工作負(fù)載的經(jīng)驗(yàn)應(yīng)用于搭建具備規(guī)?；咝阅艿腁I基礎(chǔ)架構(gòu)。您可以在AzureAIStudio-中使用預(yù)構(gòu)建和可自定義的AI模型，開發(fā)生成式AI解決方案和自定義copilot?，F(xiàn)在AzureAI模型目錄中添加了新的基礎(chǔ)和生成式AI模型。在HuggingFace中，我們引入了一系列不同的穩(wěn)定擴(kuò)散模型、falcon模型、CLIP、WhisperV3、BLIP和SAM模型。此外，我們還添加了分別來自Meta和NVIDIA的CodeLlama和Nemotron模型，以及微軟研究的尖端Phi模型。模型目錄中新增了40個(gè)新模型和4種新模式，包括文本到圖像和圖像嵌入模型。借助我們的模型即服務(wù)，專業(yè)開發(fā)人員很快就能輕松集成最新的AI模型，例如Meta的Llama2、Cohere的Command、G42的Jais以及Mistral的高級(jí)模型作為API端點(diǎn)到應(yīng)用程序中。他們還可以使用自己的數(shù)據(jù)微調(diào)這些模型，Azure龐大的GPU基礎(chǔ)設(shè)施能力，將幫助您降低配置GPU資源和管理托管的復(fù)雜性。4.1Azure為任何規(guī)模的AI提供世界一流的算力Azure領(lǐng)先的GPU和網(wǎng)絡(luò)解決方案的獨(dú)特架構(gòu)設(shè)計(jì)，為計(jì)算最密集的AI訓(xùn)練和推理工作負(fù)載提供了一流的性能和規(guī)模。這就是世界領(lǐng)先的AI公司（包括OpenAI、Meta等）選擇Azure來推進(jìn)AI創(chuàng)新的原因。Azure目前位列全球TOP500超級(jí)計(jì)算平臺(tái)第三名，是唯一的云服務(wù)提供商。4.2AzureAIInfraGPU虛擬機(jī)類型MicrosoftAzure推出基于NVIDIAH100TensorCoreGPU的NDH100v5VM，該虛擬機(jī)支持的按需配置可達(dá)8至上千個(gè)通過Quantum-2In?niBand網(wǎng)絡(luò)互連的NVIDIAH100GPU，使得AI模型的性能明顯提高。在2023年11月份發(fā)布的MLperf性能基準(zhǔn)報(bào)告里，我們將175B參數(shù)GPT-3模型的訓(xùn)練時(shí)間從之前的10.94分鐘降低到4.0085分鐘，使用的算力是1344臺(tái)通過In?niBand互聯(lián)的AzureH100虛機(jī)，這只比Nvidia裸金屬機(jī)器慢了2%。NVLINK高速互聯(lián)的八卡GPU虛擬機(jī)單卡H100GPUQuantumNVLINK高速互聯(lián)的八卡GPU虛擬機(jī)單卡H100GPUNVIDIAHNVIDIAH100TensorCoreGPUNVSwitch+NVLink4.0Quantum-2In?niBand11licrosoftAzurelicrosoftAzure此外MicrosoftAzure的AIInfra機(jī)型還包括：基于NvidiaH100用于中等規(guī)模模型訓(xùn)練以及推理密集型負(fù)載的H100虛擬機(jī)類型NC_H100?；贜vidiaH100用于機(jī)密型AI應(yīng)用的H100機(jī)型NCCH100v5?；贜vidiaH200用于大模型訓(xùn)練和推理的NDH200v5機(jī)型?；贏MDMI300X用于支持大模型的高帶寬內(nèi)存GPU機(jī)型NDMI300Xv5虛擬機(jī)。與與Azure共同設(shè)計(jì)超級(jí)計(jì)算機(jī)對(duì)于擴(kuò)展我我們對(duì)于對(duì)話式AI的關(guān)注促使我們開發(fā)和Azure的新VM及其將為我們的AI開發(fā)工作帶來的性能提升uuuuuMicrosoftAzure01汽車行業(yè)梅賽德斯-奔馳梅賽德斯-奔馳（奔馳）是世界知名的汽車品牌，致力于為用戶提供更互聯(lián)、更智能、更個(gè)性化的駕駛體驗(yàn)。為了實(shí)現(xiàn)這一目標(biāo)，奔馳開發(fā)了MBUX語音助手“嘿，梅賽德斯”，讓用戶可以通過自然語音命令控制車內(nèi)的各種功能，如導(dǎo)航、娛樂、空調(diào)等。這種語音助手不僅可以提高用戶的便捷性和生產(chǎn)力，還可以增強(qiáng)用戶的安全性和舒適度。奔馳需要保證GPT模型的安全性和可靠性，以及用戶的隱私和數(shù)據(jù)的保護(hù)。奔馳需要確保GPT模型與MBUX語音助手的兼容性和奔馳需要保證GPT模型的安全性和可靠性，以及用戶的隱私和數(shù)據(jù)的保護(hù)。奔馳需要確保GPT模型與MBUX語音助手的兼容性和穩(wěn)定性，以及與其他車內(nèi)系統(tǒng)的協(xié)調(diào)性。統(tǒng)的協(xié)調(diào)性。微軟AzureOpenAI服務(wù)為奔馳提供了一個(gè)集成了GPT模型的車載語音助手，讓用戶可以通過自然語言與車輛進(jìn)行交互。這個(gè)語音助手可以理解用戶的需求和意圖，提供全面和相關(guān)的回答，還可以集成第三方服務(wù)，讓用戶可以在駕駛過程中完成更多的任務(wù)。這個(gè)方案通過Azure的企業(yè)功能和基礎(chǔ)設(shè)施，保證了語音助手的性能和安全性，同時(shí)遵循了微軟的負(fù)責(zé)任的人工智能原則。這個(gè)方案正在美國進(jìn)行Beta測試，預(yù)計(jì)將為奔馳用戶帶來更互聯(lián)、更智能、更個(gè)性化的駕駛體驗(yàn)。uuuuuMicrosoftAzure奔馳可以在三個(gè)月內(nèi)完成GPT模型的Beta測試，并根據(jù)用戶的反饋進(jìn)行改進(jìn)和優(yōu)化，從而快速推出增強(qiáng)版的MBUX語音助手；奔馳可以使用AzureOpenAI服務(wù)的預(yù)留預(yù)配置吞吐量功能，以便大規(guī)?？刂艷PT模型的配置和性能，從而支持更多的用戶和車型；奔馳可以通過GPT模型提供更直觀、更具對(duì)話感的語音助手，讓用戶可以通過自然語音命令完成更多的任務(wù)和功能，從而提升用戶的滿意度和忠誠度。uuuuuMicrosoftAzure02零售行業(yè)沃爾瑪沃爾瑪是全球最大的零售商，以低價(jià)和多樣化的商品吸引了數(shù)億消費(fèi)者。沃爾瑪在2023財(cái)年實(shí)現(xiàn)了超過820億美元的電子商務(wù)銷售額，并持續(xù)擴(kuò)大其活躍數(shù)字客戶群。該公司的目標(biāo)是為顧客提供最佳的數(shù)字購物體驗(yàn)，讓他們能夠輕松地找到和購買自己想要的產(chǎn)品。沃爾瑪希望通過引入生成式AI沃爾瑪希望通過引入生成式AI技術(shù)，包括文件幫助員工完成各種任務(wù)，和內(nèi)容創(chuàng)建。包括文件幫助員工完成各種任務(wù)，和內(nèi)容創(chuàng)建。沃爾瑪選擇了微軟AzureOpenAI服務(wù)，以訪問世界領(lǐng)先的AI模型，同時(shí)獲得微軟智能云Azure企業(yè)級(jí)功能（包括安全性、合規(guī)性和區(qū)域可用性）的支持。結(jié)合沃爾瑪專有數(shù)據(jù)和技術(shù)、大型語言模型以及沃爾瑪建立的零售專用模型，沃爾瑪在iOS、Android和自有網(wǎng)站上建立了一個(gè)全新的生成式AI支持的搜索功能。這項(xiàng)新功能專門用于理解顧客查詢的上下文并生成個(gè)性化回復(fù)。很快，顧客將利用該功能獲得更具互動(dòng)性和對(duì)話性的體驗(yàn)，獲取特定問題的答案，并收到個(gè)性化的產(chǎn)品建議。借助這種前沿的生成式AI技術(shù)，用戶可以從“滾動(dòng)搜索”轉(zhuǎn)變?yōu)椤澳繕?biāo)搜索”，從而使數(shù)字購物體驗(yàn)更加流暢和直觀。生成式AI技術(shù)改進(jìn)搜索功能，提供更個(gè)性化和直觀的購物體驗(yàn)；5萬名非門店員工通過“我的助手”應(yīng)用顯著提升工作效率；沃爾瑪與微軟戰(zhàn)略合作加速了數(shù)字化轉(zhuǎn)型沃爾瑪與微軟戰(zhàn)略合作加速了數(shù)字化轉(zhuǎn)型，帶來業(yè)務(wù)創(chuàng)新。uuuuuMicrosoftAzure04游戲行業(yè)完美世界完美世界游戲是中國最早自主研發(fā)3D游戲引擎的游戲企業(yè)。作為全球化的游戲開發(fā)商、發(fā)行商、運(yùn)營商，并在端游、手游、主機(jī)游戲、VR游戲以及云游戲等多個(gè)領(lǐng)域進(jìn)行布局，旗下產(chǎn)品出口100多個(gè)國家和地區(qū)，其出品的《誅仙》《天龍八部》《幻塔》等游戲，搭載中國文化，為全球玩家?guī)砹藘?yōu)質(zhì)的游戲體驗(yàn)。為了在MMO游戲研發(fā)中實(shí)現(xiàn)效能突破，完美世界游戲于2022年開始基于AzureOpenAI及其他AzureAI服務(wù)探索GenAI時(shí)代的游戲創(chuàng)新。革新技術(shù)中臺(tái)對(duì)工作室的賦能。完美世界游戲內(nèi)部早已成立AI革新技術(shù)中臺(tái)對(duì)工作室的賦能。完美世界游戲內(nèi)部早已成立AI中心，但如何將GenAI的技術(shù)能力落地為各升級(jí)游戲玩家的AI交互體驗(yàn)。AI對(duì)話缺少與生成文本對(duì)應(yīng)的聲畫表現(xiàn)，難以直接能也是一項(xiàng)巨大挑戰(zhàn)。能也是一項(xiàng)巨大挑戰(zhàn)。與美術(shù)資產(chǎn)的創(chuàng)作。完美世界游戲在生產(chǎn)管線、核心業(yè)務(wù)和開發(fā)工具上實(shí)現(xiàn)了全面優(yōu)化。策劃團(tuán)隊(duì)引入GPT3.5和GPT-4等AzureOpenAI模型，為AI文本創(chuàng)意、劇情拓展和定制世界觀環(huán)節(jié)提供支持；結(jié)合GPT4-8K模型和GPT3.5微調(diào)模型以及基于AzureTTS文本轉(zhuǎn)語音服務(wù)，自研自動(dòng)生成游戲過場動(dòng)畫的工具D+，生成角色情緒、動(dòng)作、分鏡、文本、表情、口型、語音等；在美術(shù)環(huán)節(jié)，基于GPT4+DALL-E3模型和微軟3D優(yōu)化工具Simplygon實(shí)現(xiàn)智能化建模、生成分鏡預(yù)覽；此外，完美世界將AzureOpenAI模型強(qiáng)大的歸納、理解及總結(jié)能力應(yīng)用在量化運(yùn)營場景與安全維護(hù)場景；并基于AzureOpenAI服務(wù)的GPT-4、Codex模型和GitHubCopilot工具，實(shí)現(xiàn)了智能代碼生成和智能測試。成功亮點(diǎn)目前生產(chǎn)管線優(yōu)化已經(jīng)完成了大于38%的目前生產(chǎn)管線優(yōu)化已經(jīng)完成了大于38%的AI化，核心業(yè)務(wù)優(yōu)化的AI滲透率占比超過60%，技術(shù)中心提供給各個(gè)工作室的技術(shù)開發(fā)工具也完成了超過47%的AI能力接入；AIAI技術(shù)在完美世界游戲在研MMO項(xiàng)目組中達(dá)到了全流程應(yīng)用，產(chǎn)品開發(fā)效率提升35%，美術(shù)產(chǎn)出效率提升23%；完全基于微軟AzureOpenAI服務(wù)及GPT-4模型能力，上線AI原生劇本殺游戲。uuuuuMicrosoftAzureI05專業(yè)服務(wù)行業(yè)KPMG畢馬威會(huì)計(jì)師事務(wù)所在143個(gè)國家和地區(qū)開展業(yè)務(wù)，共有超過270,000名合伙人和員工（至2023財(cái)年），為全球企業(yè)提供審計(jì)、稅務(wù)和咨詢等專業(yè)服務(wù)。畢