《混合AI是AI的未來》第二部分 高通在推動混合AI規(guī)模化擴展方面獨具優(yōu)勢

2023年5月

混合AI是

AI的未來

第二部分：

AI

高通在推動混合規(guī)?；?/p>

1

擴展方面獨具優(yōu)勢

1

摘要

AIAIAI

正如白皮書第一部分所言，在云端和終端進行分布式處理的混合才是的未來?；旌霞?/p>

AI

構(gòu)，或僅在終端側(cè)運行，能夠在全球范圍帶來成本、能耗、性能、隱私、安全和個性化優(yōu)勢。

AI

高通正在助力實現(xiàn)隨時隨地的智能計算。高通技術(shù)公司作為終端側(cè)領(lǐng)導(dǎo)者，面向數(shù)十億手機、

XRPC

汽車、頭顯與眼鏡、和物聯(lián)網(wǎng)等邊緣終端提供行業(yè)領(lǐng)先的硬件和軟件解決方案，對推動混

AI

合規(guī)?；瘮U展獨具優(yōu)勢。高通的硬件解決方案具有行業(yè)領(lǐng)先的能效，智能手機解決方案的能效

AI

與競品對比，大約有兩倍的優(yōu)勢。憑借一系列基礎(chǔ)研究，以及跨應(yīng)用、模型、硬件與軟件的全

AIAI

棧終端側(cè)優(yōu)化，我們的持續(xù)創(chuàng)新讓公司始終處于終端側(cè)解決方案的最前沿。

?

高通技術(shù)公司還專注于為全球數(shù)十億、由高通和驍龍平臺支持的終端提供開發(fā)和部署的簡便性，

AIAI

從而賦能開發(fā)者。利用高通軟件棧，開發(fā)者可以在我們的硬件上創(chuàng)建、優(yōu)化和部署應(yīng)用，

一次編寫即能實現(xiàn)跨我們芯片組解決方案的不同產(chǎn)品和細(xì)分領(lǐng)域進行部署。憑借技術(shù)領(lǐng)導(dǎo)力、全

AI

球化規(guī)模和生態(tài)系統(tǒng)賦能，高通技術(shù)公司正在讓混合成為現(xiàn)實。

2AI

高通技術(shù)公司是終端側(cè)的領(lǐng)導(dǎo)者

AIAI

憑借賦能數(shù)十億邊緣終端的終端側(cè)領(lǐng)導(dǎo)力，高通技術(shù)公司正在助力打造混合新時代?？蓴U

AI

展的技術(shù)架構(gòu)讓我們能夠采用一個高度優(yōu)化的軟件棧即可在不同終端和模型上進行工作。我們

AIAI

的解決方案旨在提供最佳能效，讓無處不在。

AIAI

高通引擎是我們終端側(cè)優(yōu)勢的核心，它在驍龍平臺和我們其他眾多產(chǎn)品中發(fā)揮了重要作

AIAIAI

用。高通引擎作為我們多年全棧優(yōu)化的結(jié)晶，能夠以極低功耗提供業(yè)界領(lǐng)先的終端側(cè)性

AI20

能，賦能當(dāng)前和未來的用例。搭載高通引擎的產(chǎn)品出貨量已超過億，賦能極為廣泛的終端

XRPC1

品類，包括智能手機、、平板電腦、、安防攝像頭、機器人和汽車等。

AIAIOEM

高通軟件棧將我們所有相關(guān)的軟件產(chǎn)品集成在統(tǒng)一的解決方案中。廠商和開發(fā)者可在

AIAIAIAI

我們的產(chǎn)品上創(chuàng)建、優(yōu)化和部署應(yīng)用，充分利用高通引擎性能，讓開發(fā)者創(chuàng)建一次

模型，即可跨不同產(chǎn)品部署。

1/products/mobile/snapdragon/smartphones/mobile-ai

/

驍龍和高通品牌產(chǎn)品是高通技術(shù)公司和或其子公司的產(chǎn)品。

3

2.1

持續(xù)創(chuàng)新

AIXRPC

我們開發(fā)的低功耗、高性能，已經(jīng)形成了一個跨智能手機、汽車、、、筆記本電腦以及

AIAI

企業(yè)級等現(xiàn)有市場和新興領(lǐng)域的龐大終端生態(tài)系統(tǒng)。多年來，我們在照片與視頻拍攝、先

AI

進連接、語音指令、安全和隱私等關(guān)鍵用例領(lǐng)域，持續(xù)利用賦能芯片組產(chǎn)品、打造差異化優(yōu)

勢，以獲得市場領(lǐng)先地位。

2.1.1AI

我們技術(shù)的發(fā)展歷程

AI15AI2AI

高通深耕研發(fā)已超過年。在高通研究，我們的使命是實現(xiàn)基礎(chǔ)研究突破，并實現(xiàn)跨

AI

行業(yè)和用例的規(guī)模化擴展。高通正在推動進步，讓感知、推理和行為等核心能力在終端上無處

AIAI

不在。我們的重要研究論文正在影響整個行業(yè)，推動高能效發(fā)展。通過匯聚領(lǐng)域內(nèi)的杰出

AIAI

人才，高通正在不斷突破可能性，塑造的未來。

1AI

圖：高通持續(xù)的研發(fā)投入是產(chǎn)品領(lǐng)導(dǎo)力的基礎(chǔ)。

3AI

我們在終端側(cè)生成式領(lǐng)域的領(lǐng)導(dǎo)力

AIAIAIGAN

多年來，高通研究團隊一直在探索生成式。生成式可追溯到生成式對抗網(wǎng)絡(luò)（）和

VAE

變分自編碼器（）。最初，我們探索了生成式模型是否能夠很好地壓縮，并進一步提升生成

ArtifactVAE

痕跡（）的感知效果。我們利用技術(shù)創(chuàng)建更好的視頻和語音編解碼器，將模型規(guī)模

2AI

高通研究是高通技術(shù)公司的機構(gòu)。

4

1AI

控制在億參數(shù)以下。我們還將生成式理念延伸到無線領(lǐng)域來替代信道模型，讓通信系統(tǒng)更加

高效。

10AIStableDiffusion

近期，我們已在終端側(cè)實現(xiàn)支持超過億參數(shù)的生成式模型，比如，并計劃

AI

未來在終端側(cè)支持參數(shù)高達(dá)數(shù)百億的模型。我們不僅在研究如何將生成式模型用作通用代理來

構(gòu)建計算架構(gòu)并使用語言來描述相關(guān)任務(wù)和行為，同時也正在研究如何能夠通過增加感知輸入

（比如視覺和音頻），進一步開拓這一能力以及環(huán)境交互能力，比如對機器人生成指令或運行軟

件。

3.1AI

突破終端側(cè)和混合邊界

AI

高通技術(shù)公司具有獨特專長，我們能夠提供在邊緣側(cè)終端上低功耗運行生成式所需的處理性

LLMAI

能，例如大語言模型（）等。若要讓生成式得到廣泛采用，就不能像目前這樣僅在云端進

AIAIAI

行推理，還必須在終端側(cè)進行大量處理。為了讓生成式融入日常生活，處理需要同時使

AIPC

用云端和終端。最終，能力將成為用戶選購下一款手機、或汽車的主要影響因素。

AIAIAI

通過硬件加速和簡化開發(fā)的軟件解決方案（比如高通軟件棧），高通已經(jīng)在引領(lǐng)終端側(cè)

10

推理。目前，我們能夠支持在終端側(cè)運行參數(shù)超過億的模型，預(yù)計在未來幾個月，終端側(cè)將可

100

以支持超過億參數(shù)的模型。

AIAI

我們的加速架構(gòu)具備靈活性和穩(wěn)健性的特點，能夠應(yīng)對生成式模型架構(gòu)的潛在變化。隨著

AIAI

大語言模型和其他生成式模型持續(xù)演進，高通軟件棧和技術(shù)將隨之不斷發(fā)展。能夠輕松開

AIAIAI

發(fā)混合應(yīng)用是關(guān)鍵所在，而我們跨產(chǎn)品組合的通用架構(gòu)以及工具正是面向這一未來而設(shè)

計。

3.2AI

負(fù)責(zé)任的

AIAI

高通力求創(chuàng)造能為社會帶來積極影響的技術(shù)。高通的終端側(cè)愿景基于透明、負(fù)責(zé)、公平、

管理環(huán)境影響和以人為本等原則，我們的工作將產(chǎn)生廣泛深遠(yuǎn)的影響，因此我們致力于負(fù)責(zé)任地

AIAI

管理，并采取措施以規(guī)避潛在危害。高通終端側(cè)解決方案旨在賦能增強的隱私性和安全

AI

性，這對打造穩(wěn)健可信的生態(tài)系統(tǒng)至關(guān)重要。

高通密切關(guān)注并配合參與全球各地政府的監(jiān)管框架、指導(dǎo)方針和最佳實踐，包括政府間政策指導(dǎo)

（比如，世界經(jīng)濟合作與發(fā)展組織推出的《人工智能發(fā)展建議》）和區(qū)域與國家框架（比如歐盟

制定的《人工智能法》和美國國家標(biāo)準(zhǔn)與技術(shù)研究所發(fā)布的《人工智能風(fēng)險管理框架》）。這些

5

AIAI

法規(guī)和政策指導(dǎo)方針為負(fù)責(zé)任地開發(fā)和部署技術(shù)提供了重要的法律和道德考量標(biāo)準(zhǔn)。遵守

AI

法規(guī)和最佳實踐是高通致力打造道德、負(fù)責(zé)的創(chuàng)新的基礎(chǔ)，我們的工作實踐將持續(xù)看齊不斷演

AI

進的治理格局。

AI

最后，作為我們參與和領(lǐng)導(dǎo)行業(yè)協(xié)作、標(biāo)準(zhǔn)機構(gòu)組織和聯(lián)盟的一部分，高通支持并倡導(dǎo)標(biāo)準(zhǔn)、

數(shù)據(jù)與隱私保護和穩(wěn)健的網(wǎng)絡(luò)安全。一直以來，高通深知擁有穩(wěn)健的綜合性標(biāo)準(zhǔn)，對于指導(dǎo)負(fù)責(zé)

任的新技術(shù)開發(fā)部署具有重要意義。

AIAI

攜手合作開發(fā)穩(wěn)健有效的標(biāo)準(zhǔn)，是邁向打造可持續(xù)且可信賴的生態(tài)系統(tǒng)的關(guān)鍵一步。

4AI

卓越的終端側(cè)技術(shù)和全棧優(yōu)化

AI

高通為應(yīng)用、神經(jīng)網(wǎng)絡(luò)模型、算法、軟件和硬件進行全棧研究和優(yōu)化。異構(gòu)計算方法利用硬件

CPUGPUAIAIAI

（比如、和加速器）和軟件（比如高通軟件棧）來加速終端側(cè)。我們的團隊

跨上述全部領(lǐng)域聯(lián)合工作，共同開發(fā)最為優(yōu)化的解決方案。

2AI

圖：高通全棧研究和優(yōu)化賦能技術(shù)持續(xù)改進并引領(lǐng)高能效解決方案發(fā)展。

上圖展示的循環(huán)創(chuàng)新方式讓我們能夠基于最新神經(jīng)網(wǎng)絡(luò)架構(gòu)，針對硬件、軟件和算法持續(xù)改進高

AIAIAI

通軟件棧。高通在基礎(chǔ)研究方面具備獨特能力，能夠支持全棧終端側(cè)研發(fā)，賦能產(chǎn)品快

AI

速上市并圍繞終端側(cè)生成式等關(guān)鍵應(yīng)用實現(xiàn)優(yōu)化部署。

6

AndroidStableDiffusion

高通演示的全球首個在智能手機上運行的，突顯了我們?nèi)珬２呗缘膬?yōu)

StableDiffusion15AI

勢。所有讓實現(xiàn)秒內(nèi)完成終端側(cè)運行的全棧研究和優(yōu)化，現(xiàn)已集成進高通

StableDiffusion

軟件棧，并將助力提升未來硬件設(shè)計。此外，讓能夠在手機上高效運行的優(yōu)化

XR

方式也可以用于其他平臺，比如高通技術(shù)賦能的筆記本電腦、終端和幾乎任何其他終端。

4.1

算法和模型開發(fā)

高通研究團隊從事神經(jīng)網(wǎng)絡(luò)架構(gòu)開發(fā)和調(diào)整工作，以在不犧牲準(zhǔn)確度的前提下提高效率，例如動

作識別和超級分辨率。

面向動作識別設(shè)計的傳統(tǒng)深度學(xué)習(xí)模型會逐幀、逐層地處理視頻序列，雖然這會帶來準(zhǔn)確的處理

FrameExit

結(jié)果，但它是計算密集型的、時延高，并且能效低。高通現(xiàn)已推出的模型能夠自主學(xué)

習(xí)，針對較簡單視頻處理更少幀，針對較復(fù)雜視頻處理更多幀，以減少能耗并提高性能。除模型

AIcompiler

結(jié)構(gòu)創(chuàng)新之外，高通全棧優(yōu)化還包括最先進的量化技術(shù)和創(chuàng)新的編譯器（）棧。我們

在移動終端上演示了這一技術(shù)，在常用動作識別基準(zhǔn)測試平臺上相較于其他方法計算量和時延

（平均）可減少五倍。

面向高清屏幕上的游戲和視頻播放等應(yīng)用，超級分辨率能夠讓圖像更清晰、銳利，實現(xiàn)分辨率升

AI

格。盡管基于的超級分辨率相比傳統(tǒng)解決方案能夠?qū)崿F(xiàn)出色的視覺質(zhì)量，但在移動終端上實時

AIQ-SRNetINT4

運行頗具挑戰(zhàn)性。高通對全棧進行了優(yōu)化，包括基于我們模型的算法、采用

INT48INT4

量化的軟件，以及支持加速的第二代驍龍硬件。我們利用模型實現(xiàn)全球首個實時超

INT8INT4

級分辨率終端側(cè)演示，大幅改善了時延和功耗。實際上，與相比，性能和能效提高了

1.52

倍至倍。

4.2

軟件和模型效率

AIAIAI

高通軟件棧旨在幫助開發(fā)者實現(xiàn)一次開發(fā)，即可跨高通所有硬件運行負(fù)載。高通軟件棧

AITensorFlowPyTorchONNXKerasTensorFlow

全面支持主流框架，比如、、和，以及包括

LiteTensorFlowLiteMicroONNXRuntimeruntime

、和等在內(nèi)的。此外，它還集成了推理軟件

SDKSDKAndroidLinux

開發(fā)包（），比如我們廣受歡迎的高通神經(jīng)網(wǎng)絡(luò)處理，包括面向、和

Windows

的不同版本。高通開發(fā)者庫和服務(wù)支持最新編程語言、虛擬平臺和編譯器。在更底層，

RTOS

我們的系統(tǒng)軟件集成了基礎(chǔ)的實時操作系統(tǒng)（）、系統(tǒng)接口和驅(qū)動程序。我們還支持廣泛

AndroidWindowsLinuxQNX

的操作系統(tǒng)（包括、、和），以及用于部署和監(jiān)控的基礎(chǔ)設(shè)施（比

PrometheusKubernetesDocker

如、和）。

7

AIQualcomm?AIStudio

高通軟件棧還集成了，支持從模型設(shè)計到優(yōu)化、部署和分析的完整工作

流。它將高通提供的全部工具集成到一個圖形用戶界面，并利用可視化工具以簡化開發(fā)者體驗，

AIAIMETAI

支持開發(fā)者實時查看模型開發(fā)進度，這其中包括高通模型增效工具包（）、模型增

NAS3

效工具包模型庫、模型分析器和神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（）。

3AI

圖：高通軟件棧旨在幫助開發(fā)者一次編寫、隨處運行，實現(xiàn)規(guī)?；渴稹?/p>

AIAI

高通專注于模型效率研究以提高能效和性能?？焖俚男⌒湍Ｐ腿绻荒芴峁┑唾|(zhì)量或不準(zhǔn)

確的結(jié)果，那么將失去實際用處。因此，我們采用全面而有針對性的策略，包括量化、壓縮、條

NASAI

件計算、神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（）和編譯，在不犧牲太多精度的前提下縮減模型，使其高效

運行。即使是那些已經(jīng)面向移動終端優(yōu)化過的模型我們也會進行這一工作。

3AIAIMETAI

高通模型增效工具包（）和模型增效工具包模型庫是高通創(chuàng)新中心公司的產(chǎn)品。

8

4AIAI

圖：高通研究采用整體模型效率研究方法。

4.2.1

量化

面向高效整數(shù)推理的量化是我們的重點關(guān)注領(lǐng)域之一。過去幾年，我們通過論文和演示分享了高

AIPTQ

通領(lǐng)先的量化研究，包括訓(xùn)練后量化（）技術(shù)，比如無數(shù)據(jù)量化和自適應(yīng)舍入

AdaRound

()，以及聯(lián)合量化和剪枝技術(shù)，比如貝葉斯比特。量化不僅能夠提高性能，降低內(nèi)存要

AI

求，還能通過讓模型在高通專用硬件上高效運行，降低內(nèi)存帶寬占用，以節(jié)省功耗。例如，將

FP32INT464

模型量化壓縮到模型，可帶來高達(dá)倍的內(nèi)存和計算能效提升。

AItransformerGPTBloomLLaMA

對于生成式來說，由于基于的大語言模型（比如、和）受到

84

內(nèi)存的限制，在量化到位或位權(quán)重后往往能夠獲得大幅提升的效率優(yōu)勢。包括高通在內(nèi)的多

4PTQ

項研究工作顯示，位權(quán)重量化不僅對大語言模型可行，在設(shè)置中同樣可行，并能實現(xiàn)最優(yōu)

表現(xiàn)。這一效率的躍升已經(jīng)超越了浮點模型。

AIAIQualcomm

高通模型增效工具包提供基于高通研究技術(shù)成果開發(fā)的量化工具，目前已納入

AIStudio/AIINT4

。借助量化感知訓(xùn)練和或更加深入的量化研究，許多生成式模型可以量化至模

INT4INT890%

型。支持將在不影響準(zhǔn)確性或性能表現(xiàn)的情況下節(jié)省更多功耗，與相比實現(xiàn)高達(dá)

60%

的性能提升和的能效提升，能夠運行更高效的神經(jīng)網(wǎng)絡(luò)。使用低位數(shù)整型精度對高能效推理

至關(guān)重要。

4.2.2

編譯

AIAIAI

編譯器作為高通軟件棧中的關(guān)鍵組件，讓模型能夠以最高性能和最低功耗高效運行。編

譯器將輸入的神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)化為可以在目標(biāo)硬件上運行的代碼，同時針對時延、性能和功耗進行優(yōu)

9

AI

化。編譯包括計算圖的切分、映射、排序和調(diào)度等步驟。高通在傳統(tǒng)編譯器技術(shù)、多面體編譯

AI

器和編譯器組合優(yōu)化研究方面的技術(shù)專長已經(jīng)實現(xiàn)了諸多先進的技術(shù)成果。

AIDirectHexagon?

例如，高通引擎框架基于高通處理器的硬件架構(gòu)和內(nèi)存層級進行運算排序，

DRAM

以提高性能并最大程度減少內(nèi)存溢出。我們的優(yōu)化有助于減少存取量，并顯著降低

runtime

的時延和功耗。

4.3

硬件加速

2

高通硬件提供行業(yè)領(lǐng)先的能效，是移動領(lǐng)域競品的近倍。

58AI

圖：與移動領(lǐng)域競品相比，第二代驍龍?zhí)峁╊I(lǐng)先的能效。

AIAI

高通引擎由多個軟硬件組件構(gòu)成，能在驍龍和高通平臺上實現(xiàn)終端側(cè)加速。在硬件方面，

AIHexagonAdreno?GPUKryo?CPU

高通引擎采用異構(gòu)計算架構(gòu)，包括處理器、高通和高通，

AIOEM

全部面向在終端側(cè)快速高效地運行應(yīng)用而打造。通過異構(gòu)計算的方式，開發(fā)者和廠商可

AI

以優(yōu)化智能手機和其他邊緣側(cè)終端上的用戶體驗。

HexagonAI

基于多年的專項研究投入，處理器不斷演進，已經(jīng)成為了高通引擎最關(guān)鍵的部分，

AI2007Hexagon2015

并能夠應(yīng)對不斷變化的需求。年，我們在驍龍平臺上推出了首個處理器。

820AI

年，驍龍?zhí)幚砥魍瞥?，集成了首個專門面向移動平臺的高通引擎，以支持圖像、音頻和傳

2018855Hexagon2019

感器的運算。年，我們在驍龍中為處理器增加了張量加速器。年，我們

865AIAIAIAI

在驍龍上擴展了終端側(cè)用例，包含圖片、視頻、語音和始終在線的傳感器中樞。

10

20228AI

年，第二代驍龍為整個系統(tǒng)提供了開創(chuàng)性的技術(shù)，搭載了迄今為止最快、最先進的高

AIAI

通引擎。用戶可以體驗更快速的自然語言處理所帶來的多語種翻譯，或享受由賦能的電影

Hexagon

模式視頻拍攝所帶來的樂趣。最新的處理器采用專用供電系統(tǒng)，能夠按照工作負(fù)載適配

Hexagon

功率。特殊硬件提升了分組卷積、激活函數(shù)加速和張量加速器的性能。支持微切片推理

INT4Transformer

和硬件加速能夠在提供更高性能的同時，降低能耗和內(nèi)存占用。加速大幅提升

AIMobileBERT

了生成式中充分使用的多頭注意力機制的推理速度，在使用的特定用例中能帶來

4.35AI

高達(dá)倍的驚人性能提升。

5

無與倫比的全球邊緣側(cè)布局和規(guī)模

高通技術(shù)公司部署的邊緣側(cè)終端規(guī)模十分龐大，搭載驍龍和高通平臺的已上市用戶終端數(shù)量已達(dá)

4

到數(shù)十億臺，而且每年有數(shù)億臺的新終端還在進入市場。

AIXRPCAI

我們的能力賦能一系列廣泛的產(chǎn)品，包括手機、汽車、、和物聯(lián)網(wǎng)。我們開發(fā)加速

AIIP

解決方案（比如高通引擎）以及所有面向頂級產(chǎn)品的其他關(guān)鍵創(chuàng)新和技術(shù)，通常每年作為

高通可擴展技術(shù)架構(gòu)的一部分進行迭代，跨細(xì)分領(lǐng)域快速普及相關(guān)功能并下沉到主流和入門級產(chǎn)

品。

AI

正因如此，高通技術(shù)公司對在全球范圍賦能混合規(guī)模化擴展獨具優(yōu)勢。

6AI

圖：搭載驍龍平臺的終端能夠推動混合擴展至跨不同細(xì)分領(lǐng)域和層級的數(shù)十億產(chǎn)品。

4CounterpointResearch20235

，年月

11

5.1

手機

Android20AI

驍龍是提升頂級體驗的領(lǐng)先移動平臺，其中就包含已出貨的多億個具備能力的處

AIAIBenchmark

理器。驍龍平臺在移動平臺基準(zhǔn)測試中也處于領(lǐng)先地位，比如在行業(yè)知名的中

205

占據(jù)前位。

2023TechInsights40%

年第二季度，領(lǐng)先的市場調(diào)研公司預(yù)測，高通技術(shù)公司將以超過的市場

AI(25%)(24%)

份額保持智能手機處理器出貨量的領(lǐng)導(dǎo)地位，遠(yuǎn)遠(yuǎn)超過蘋果和聯(lián)發(fā)科等其他公

6

司。

5.2

汽車

高通技術(shù)公司是座艙和車載信息娛樂解決方案的領(lǐng)導(dǎo)者，全球所有主要汽車制造商都選擇驍龍座

艙平臺來賦能他們的數(shù)字座艙系統(tǒng)。其中許多汽車制造商已經(jīng)啟動量產(chǎn)項目，或目前正在設(shè)計采

用高通解決方案的平臺。這些汽車制造商包括本田、梅賽德斯、雷諾、沃爾沃、捷豹路虎、

Stellantis/MahindraTogg

、寶馬、通用汽車凱迪拉克、長城汽車、、、豐田、小鵬汽車、廣汽集

團、捷途汽車、蔚來和威馬汽車。

隨著最新一代驍龍座艙平臺的推出，高通汽車解決方案旨在提供業(yè)界領(lǐng)先的車內(nèi)用戶體驗，以及

安全性、舒適性和可靠性，在網(wǎng)聯(lián)汽車時代為數(shù)字座艙解決方案樹立全新標(biāo)桿。

SnapdragonRide?5

平臺能夠提供擴展的產(chǎn)品路線圖，包括基于納米工藝制程打造的首款可擴展

SoC

自動駕駛平臺，擁有更廣泛的軟件生態(tài)系統(tǒng)，提供經(jīng)行業(yè)驗證的視覺感知、泊車和駕駛員監(jiān)

測軟件棧。

5.3PC

和平板電腦

AI

驍龍計算平臺集成高通引擎，支持強大的終端側(cè)加速，能夠為最新應(yīng)用帶來更佳質(zhì)量、性能和

AIAIAI

效率。除文本、圖像和視頻創(chuàng)作等生成式應(yīng)用外，高通引擎還支持一系列傳統(tǒng)用例，從

Hexagon

提升安全性的快速威脅檢測，到增強視頻會議體驗的眼神接觸和降噪。利用處理器能

CPUGPU

夠提升性能和效率，實現(xiàn)長時間電池續(xù)航，同時不占用和等其他系統(tǒng)資源，能夠幫助

用戶提高生產(chǎn)力。

520235

基于分?jǐn)?shù)，截至年月

6TechInsights20234

，年月

12

5.4

物聯(lián)網(wǎng)

16,000

高通技術(shù)公司是物聯(lián)網(wǎng)領(lǐng)域的主要技術(shù)提供商，擁有跨不同垂直領(lǐng)域超過家的客戶。嵌入

AI

高通物聯(lián)網(wǎng)芯片組和平臺的處理能力支持以高效可行的方式進行終端側(cè)數(shù)據(jù)分析（比如視

頻），推動跨多個細(xì)分領(lǐng)域的創(chuàng)新和轉(zhuǎn)型，包括機器人、智能攝像頭、零售和城市基礎(chǔ)設(shè)施。

5.5XR

VRARXRAISnapdragonSpaces?

頭顯和眼鏡等終端也集成了高通終端側(cè)和技術(shù)，以提供更具

沉浸感的體驗，更好地適應(yīng)周圍世界。

65XRMetaPICO

迄今為止，已有超過款采用驍龍平臺的終端發(fā)布，包括、和聯(lián)想等品牌推出

的眾多廣受歡迎的終端。

6

總結(jié)

AIAI

混合勢不可當(dāng)。云端和終端將協(xié)同工作，依托強大、高效且高度優(yōu)化的能力打造下一代用

AI

戶體驗。終端側(cè)領(lǐng)導(dǎo)力賦予高通面向混合架構(gòu)轉(zhuǎn)型的獨特優(yōu)勢。隨著大量的工作負(fù)載正從云端

轉(zhuǎn)向邊緣終端，因此需要邊緣側(cè)處理的高性能和出色能效。憑借具備前瞻性的早期研究和產(chǎn)品開

10AI100

發(fā)投入，目前驍龍平臺能夠支持參數(shù)超過億的生成式模型，并即將支持億或更多參數(shù)

的模型。

高通擁有無與倫比的邊緣側(cè)布局，全球搭載驍龍和高通平臺的終端裝機量已達(dá)到數(shù)十億臺，有望

AIOEM

推動生成式規(guī)?；瘮U展，為無數(shù)人的生活帶來積極影響。高通技術(shù)公司將支持開發(fā)者、

AI

廠商和其他生態(tài)系統(tǒng)創(chuàng)新者快速且經(jīng)濟高效地構(gòu)建全新生成式應(yīng)用和解決方案。技術(shù)領(lǐng)導(dǎo)力、

AI

全球規(guī)模和生態(tài)系統(tǒng)賦能完美結(jié)合，讓高通技術(shù)公司在推動混合開發(fā)和應(yīng)用方面獨樹一幟。

欲了解更多相關(guān)內(nèi)容

歡迎訂閱《未來移動計算技術(shù)》簡訊

13

目錄

1....................................................................................................................................................................3

摘要

2AI......................................................................................................3

高通技術(shù)公司是終端側(cè)的領(lǐng)導(dǎo)者

2.1..................................................................................................................................................4

持續(xù)創(chuàng)新

2.1.1AI...............................................................................................................4

我們技術(shù)的發(fā)展歷程

3AI..................................................................................................4

我們在終端側(cè)生成式領(lǐng)域的領(lǐng)導(dǎo)力

3.1AI...............................................................................................................5

突破終端側(cè)和混合邊界

3.2AI............................................................................................................................................5

負(fù)責(zé)任的

4AI...........................................................................................................6

卓越的終端側(cè)技術(shù)和全棧優(yōu)化

4.1....................................................................................................................................7

算法和模型開發(fā)

4.2....................................................................................................................................7

軟件和模型效率

4.2.1......................................................................................................................................................9

量化

4.2.2......................................................................................................................................................9

編譯

4.3................................................................................................................................................10

硬件加速

5........................................................................................................11

無與倫比的全球邊緣側(cè)布局和規(guī)模

5.1.........................................................................................................................................................12

手機

5.2.........................................................................................................................................................12

汽車

5.3PC....................................................................................................................................12

和平板電腦

5.4....................................................................................................................................................13

物聯(lián)網(wǎng)

5.5XR............................................................................................................................................................13

6..................................................................................................................................................................13

總結(jié)