突破算力限制端側(cè)AI部署提速

第第頁(yè)突破算力限制，端側(cè)AI部署提速2023年8月23日，由（電子）發(fā)燒友網(wǎng)與ELEXCON2023深圳國(guó)際電子展聯(lián)合主辦的2023第七屆（人工智能）大會(huì)暨第四屆人工智能卓越創(chuàng)新獎(jiǎng)?lì)C獎(jiǎng)典禮圓滿落幕。本次大會(huì)主題為“智向遠(yuǎn)大、能者千面”，同時(shí)大會(huì)邀請(qǐng)到（TI）（德州儀器）、愛德萬(wàn)測(cè)試、愛芯元智、安謀（科技）、樓氏電子、（ADI）、（瑞薩）電子等全球知名企業(yè)高管和行業(yè)專家?guī)?lái)精彩分享。

樓氏：創(chuàng)新的（音頻）解決方案——樓氏（DSP）及（MEMS）麥克風(fēng)（產(chǎn)品）簡(jiǎn)介

作為首個(gè)將MEMS麥克風(fēng)引入（手機(jī)）端的公司，也是MEMS麥克風(fēng)市場(chǎng)的領(lǐng)導(dǎo)者，樓氏在消費(fèi)級(jí)終端音頻領(lǐng)域有著深厚的技術(shù)積累。而隨著降噪等（智能）音頻的需求逐漸增長(zhǎng)，樓氏也推出了智能化的麥克風(fēng)和音頻DSP方案。本屆（AI）大會(huì)上，樓氏電子高級(jí)經(jīng)理廖彬彬分享了《創(chuàng)新的音頻解決方案》，并對(duì)樓氏的MEMS麥克風(fēng)和DSP產(chǎn)品進(jìn)行了簡(jiǎn)介。

樓氏電子高級(jí)經(jīng)理廖彬彬

根據(jù)信噪比的性能表現(xiàn)，樓氏有著完整的入門到高端的麥克風(fēng)產(chǎn)品陣容，同時(shí)也做到了低功耗、低延遲、低諧波失真等諸多優(yōu)秀特性，其旗艦產(chǎn)品Rapt（or）已經(jīng)在高端TWS耳機(jī)上得到了應(yīng)用。同時(shí)針對(duì)汽車領(lǐng)域，樓氏也推出了通過AEC-Q100/103的車規(guī)級(jí)麥克風(fēng)。近期樓氏也發(fā)布了V2S振動(dòng)麥克風(fēng)，這類麥克風(fēng)僅通過骨傳導(dǎo)來(lái)拾取通話者的聲音，抑制了環(huán)境噪聲，可以用于提高嘈雜環(huán)境中的語(yǔ)音通話質(zhì)量。

樓氏的另一音頻產(chǎn)品線同樣在智能麥克風(fēng)應(yīng)用中被廣泛應(yīng)用，那就是其音頻DSP產(chǎn)品線AISon（ic）。AISonic的先進(jìn)DSP（算法）基于樓氏自研指令集打造，支持（硬件）加速（神經(jīng)網(wǎng)絡(luò)）指令，并實(shí)現(xiàn)了極高的計(jì)算效率。從IA611到即將推出的IA8202，AISonicDSP的性能也愈發(fā)強(qiáng)大，可以運(yùn)行更加復(fù)雜的算法。

同時(shí)借助開放式的DSP架構(gòu)，樓氏擁有了頂尖的第三方算法（開發(fā)者）合作生態(tài)，提供了從語(yǔ)音喚醒、降噪等一系列解決方案。樓氏還提供了專門用于算法開發(fā)的開發(fā)板以及IDE、（SD）K看，進(jìn)一步助力客戶將其音頻DSP集成到產(chǎn)品中去。

（AD）I：賦能邊緣AI

在本次大會(huì)上，ADI資深應(yīng)用（工程師）劉明琳，帶來(lái)了關(guān)于“ADI賦能邊緣AI”的主題分享。劉明琳是AI行業(yè)的資深老兵，擁有10年以上的AIoT行業(yè)技術(shù)研發(fā)經(jīng)驗(yàn)，他表示“人工智能革命正在快速進(jìn)行，驅(qū)使冰冷的機(jī)器能夠看到、聽到和感知周圍的世界并作出決策。越來(lái)越多的行業(yè)開始用到（AI技術(shù)），而AI技術(shù)的發(fā)展使得（深度學(xué)習(xí)）這個(gè)功能變得強(qiáng)大，可以在（微控制器）上也實(shí)現(xiàn)智能。”

ADI資深應(yīng)用工程師劉明琳

深度學(xué)習(xí)是基于神經(jīng)元的一個(gè)系統(tǒng)，單一數(shù)據(jù)輸入后會(huì)進(jìn)入到很多的神經(jīng)元，而不同的神經(jīng)元之間會(huì)進(jìn)行交互，最后輸出一個(gè)結(jié)果的信息。劉明琳在講述人工智能概述后，也重點(diǎn)介紹了卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用情況，根據(jù)他的介紹ADI邊緣AI已經(jīng)在多個(gè)領(lǐng)域有成功的應(yīng)用案例，包括雞蛋大小區(qū)分、指令控制智能頭盔拍照或接電話、智能門鎖的人臉識(shí)別、智能電表數(shù)字識(shí)別并自動(dòng)報(bào)數(shù)等等。

為什么ADI要去做邊緣AI呢？會(huì)上，劉明琳也給出了答案。他表示，相較云端，邊緣推理有四大優(yōu)點(diǎn)：①限制功耗使用。在（傳感器）端計(jì)算結(jié)果，花費(fèi)更少的功耗用于通訊和云端計(jì)算。②改善時(shí)延。本地推理可以更快且穩(wěn)定得到計(jì)算結(jié)果。③保護(hù)隱私。本地計(jì)算允許在不離開場(chǎng)所的情況下處理和銷毀數(shù)據(jù)。④包含成本和規(guī)模。采用（嵌入式）方案使得總體方案成本和規(guī)模更低。

ADI的AI產(chǎn)品策略主要是三個(gè)：低功耗、AI、超安全。低功耗方面，ADI的AI產(chǎn)品是一個(gè)小尺寸的低功耗、大內(nèi)存的，可以做普適計(jì)算，具有安全、內(nèi)存糾錯(cuò)、精度（模擬）等（工業(yè)）特征，可以助力客戶在工業(yè)領(lǐng)域進(jìn)行多元擴(kuò)張。AI方面，相比傳統(tǒng)的（微處理器），ADI深度學(xué)習(xí)加速器可以使處理性能快100倍，功耗不到1%，這使電池應(yīng)用的（機(jī)器視覺）成為可能。在超安全方面，ADI本身是做安全（芯片）起家的，安全（處理器）在業(yè)內(nèi)極具領(lǐng)先，ADI表示它也會(huì)將安全技術(shù)集成到（MCU）內(nèi)部，滿足支付卡行業(yè)標(biāo)準(zhǔn)。

目前ADI邊緣處理器主要有兩款，分別為MAX78000和MAX78002。MAX78000是一顆具有超低功耗卷積神經(jīng)網(wǎng)絡(luò)加速器的人工智能微控制器。而MAX78002是一個(gè)新升級(jí)的產(chǎn)品，據(jù)劉明琳的介紹，這款產(chǎn)品主要是在卷積神經(jīng)網(wǎng)絡(luò)的升級(jí)，MAX78002的卷積神經(jīng)網(wǎng)絡(luò)可以處理更大的模型，模擬參數(shù)可以達(dá)到2.3兆，支持的卷積神經(jīng)網(wǎng)絡(luò)層數(shù)可以達(dá)到128層。ADIMAX7800x邊緣處理器深度學(xué)習(xí)應(yīng)用，可覆蓋圖像類應(yīng)用、（信號(hào)）變換、時(shí)間序列類應(yīng)用。

對(duì)于神經(jīng)網(wǎng)絡(luò)運(yùn)算具有超高的性能和能效比。在邊緣設(shè)備上可以實(shí)現(xiàn)深度學(xué)習(xí)推理加速。同時(shí)具有超低功耗技術(shù)，可以在極低的功耗下實(shí)現(xiàn)高性能的AI計(jì)算，從而延長(zhǎng)嵌入式設(shè)備的電池壽命。并且搭載了多種（接口），包括攝像頭、（I2C）、SPI、GPIO等，方便開發(fā)者與外部設(shè)備進(jìn)行連接和交互。

瑞薩電子：小資源大能量，邊緣AI解決方案的秘密武器

在本次大會(huì)上，瑞薩電子資深技術(shù)專家凌滔帶來(lái)了主題為“小資源大能量，邊緣AI解決方案的秘密武器”的精彩分享。內(nèi)容主要以AI概述、瑞薩邊緣側(cè)MCU上的AI/ML布局、瑞薩CORTEXM85MCU三部分進(jìn)行。

瑞薩電子資深技術(shù)專家凌滔

什么是AI呢？“AI對(duì)我來(lái)說(shuō)，就是現(xiàn)在的網(wǎng)紅，特別是今年的ChatGPT生成式AI火得一塌糊涂。AI從學(xué)科上定義為研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。”凌滔表示。邊緣側(cè)AI已經(jīng)廣泛覆蓋人臉識(shí)別、物體識(shí)別、聲音識(shí)別、活動(dòng)場(chǎng)景識(shí)別、設(shè)備振動(dòng)監(jiān)測(cè)、設(shè)備電壓（電流）狀態(tài)監(jiān)測(cè)等應(yīng)用場(chǎng)景。

在對(duì)AI概念進(jìn)行講解之后，凌滔詳細(xì)介紹了瑞薩邊緣側(cè)MCU上AI/ML的布局。去年，瑞薩收購(gòu)了專門做（機(jī)器學(xué)習(xí)）的RealityAI。它擁有實(shí)時(shí)分析的端到端自動(dòng)機(jī)器學(xué)習(xí)工具、生成小型AI軟件、強(qiáng)大的數(shù)學(xué)運(yùn)算內(nèi)核，生成出來(lái)的代碼非常緊湊，而且模型具有可解釋性。瑞薩還針對(duì)目前主流神經(jīng)網(wǎng)絡(luò)框架開發(fā)了一款e-AITranslator工具，有自帶模型開發(fā)模式（BYOM），這更適用于已有自己模型且想快速部署到瑞薩MCU中的客戶。

最后，在本次大會(huì)上，瑞薩電子重磅發(fā)布了全球第一顆CORTEX-M85MCU。那這是一顆什么樣的MCU呢？根據(jù)凌滔的介紹，這是一顆帶Helium的MCU，可以為邊緣節(jié)點(diǎn)人工智能等計(jì)算密集型應(yīng)用提供先進(jìn)的DSP/ML功能，運(yùn)算得更快。Cortex-M85提供超過6CoreMark/MHz的性能，可支持要求最高計(jì)算性能和DSP或ML功能的苛刻（物聯(lián)網(wǎng)）應(yīng)用。瑞薩下一代RAMCU上的基于攝像頭的人體（檢測(cè)），與Plumerai合作開發(fā)使用Helium加速，實(shí)現(xiàn)13fps的幀率，性能提升至Cortex-M7內(nèi)核的3.6倍。

2023年人工智能產(chǎn)業(yè)概況及應(yīng)用趨勢(shì)分析

人工智能技術(shù)被認(rèn)為是新一輪科技革命和產(chǎn)業(yè)革命的重要驅(qū)動(dòng)力量。過去這些年，產(chǎn)業(yè)市場(chǎng)規(guī)?？焖俪砷L(zhǎng)，根據(jù)調(diào)研機(jī)構(gòu)數(shù)據(jù)，2023年全球人工智能產(chǎn)業(yè)市場(chǎng)收入總計(jì)為3833億美元，2022年達(dá)到4328億美元，同比增長(zhǎng)19.6%。預(yù)計(jì)2023年將會(huì)超過5000億美元規(guī)模。

在中國(guó)，人工智能產(chǎn)業(yè)的發(fā)展速度更快，2023年中國(guó)人工智能核心產(chǎn)業(yè)規(guī)模約為1998億元，預(yù)計(jì)2026年將超過6000億元，復(fù)合年增長(zhǎng)率達(dá)到24.8%。

盡管如此，當(dāng)前人工智能仍處于商業(yè)落地早期，主要面臨場(chǎng)景需求碎片化、人力研發(fā)和應(yīng)用計(jì)算成本高、長(zhǎng)尾場(chǎng)景數(shù)據(jù)較少導(dǎo)致模型訓(xùn)練精度不夠、模型算法從實(shí)驗(yàn)室場(chǎng)景到真實(shí)場(chǎng)景效果差距大等行業(yè)痛點(diǎn)。而大模型的出現(xiàn)有望推動(dòng)人工智能產(chǎn)業(yè)化進(jìn)一步加速。

人工智能的應(yīng)用將會(huì)向更深更廣的方向發(fā)展。根據(jù)電子發(fā)燒友調(diào)研，智能制造、智能駕駛、（機(jī)器人）是最被看好的幾個(gè)應(yīng)用領(lǐng)域，另外，（智能家居）、智能消防、智慧農(nóng)業(yè)、醫(yī)療健康、養(yǎng)老、互聯(lián)網(wǎng)、安防、能源、教育、零售等領(lǐng)域也將是人工智能的重要應(yīng)用領(lǐng)域。

電子發(fā)燒友網(wǎng)產(chǎn)業(yè)編輯