今天早上，Maxim Integrated發(fā)布了其最新產(chǎn)品，一種低功耗NN加速器芯片，希望將AI推向邊緣。我們采訪(fǎng)了Maxim Integrated Micros，安全和軟件業(yè)務(wù)部執(zhí)行總監(jiān)Kris Ardis，以獲取詳細(xì)信息。

人工智能和物聯(lián)網(wǎng)似乎是天造地設(shè)的一對(duì)，但要完美結(jié)合這兩種技術(shù)還需要克服許多障礙。通常，物聯(lián)網(wǎng)是一種低功耗，電池供電的技術(shù)。另一方面，人工智能，特別是卷積神經(jīng)網(wǎng)絡(luò)（對(duì)于機(jī)器視覺(jué)來(lái)說(shuō)是必不可少的），在計(jì)算上非常昂貴。

邊緣計(jì)算可提供實(shí)時(shí)數(shù)據(jù)處理。圖片由計(jì)算理論提供

為了克服這些挑戰(zhàn)，通常的做法是將計(jì)算卸載到云中。但是，這帶來(lái)了大量延遲和安全性問(wèn)題。例如，無(wú)人駕駛汽車(chē)需要盡快做出實(shí)時(shí)決策。它根本承受不起等待數(shù)據(jù)發(fā)送到云，進(jìn)行計(jì)算并返回的費(fèi)用。

但是嵌入式設(shè)備呢？Maxim Integrated Micros，安全性和軟件業(yè)務(wù)部執(zhí)行總監(jiān)Kris Ardis認(rèn)為，目前，小型嵌入式設(shè)備“沒(méi)有進(jìn)行AI革命的其余部分”。

“他們看不到也聽(tīng)不到，這比簡(jiǎn)單的單詞要多得多，” Ardis解釋說(shuō)。“這就是我們要填補(bǔ)的空白：我們?nèi)绾尾拍軐⒏嗟腁I承諾帶入嵌入式世界？”

一種新的解決方案：Maxim Integrated的NN加速器芯片

為了回答這個(gè)問(wèn)題，Maxim Integrated轉(zhuǎn)向了用于人工智能的低功耗，高性能芯片。今天早上，該公司宣布了其最新產(chǎn)品：神經(jīng)網(wǎng)絡(luò)加速器芯片，旨在在電池供電的IoT設(shè)備中實(shí)現(xiàn)AI。

新芯片MAX78000包括兩個(gè)超低功耗內(nèi)核-ArmCortex-M4內(nèi)核或RISC-V內(nèi)核-一個(gè)基于FPU的微控制器和一個(gè)卷積神經(jīng)網(wǎng)絡(luò)加速器。Ardis評(píng)論說(shuō)：“ RISC-V在那里，因?yàn)樗且环N在進(jìn)入加速器之前必要時(shí)對(duì)數(shù)據(jù)進(jìn)行按摩的低功耗方法?！?/span>

從性能的角度來(lái)看，Maxim聲稱(chēng)具有一些令人印象深刻的規(guī)格，特別是在功耗和延遲方面。

MAX78000的簡(jiǎn)化框圖。圖片由Maxim Integrated提供

關(guān)于能源，該公司表示MAX78000提供：

• 運(yùn)行MNIST時(shí)的能耗降低1100倍

• MNIST的延遲提高了400倍

• 與低功耗Cortex M4F相比，關(guān)鍵字發(fā)現(xiàn)期間的能耗低600倍

• 與96 MHz Cortex M4F相比，關(guān)鍵字發(fā)現(xiàn)的效率提高了200倍

讓我們深入研究如何準(zhǔn)確地達(dá)到這些規(guī)格。

MAX78000的核心：神經(jīng)網(wǎng)絡(luò)加速器

此SoC中最獨(dú)特的功能是神經(jīng)網(wǎng)絡(luò)加速器，它是專(zhuān)用硬件，旨在最大程度地減少卷積神經(jīng)網(wǎng)絡(luò)（CNN）的能耗和等待時(shí)間。

根據(jù)Ardis的說(shuō)法，所采用的體系結(jié)構(gòu)是完全專(zhuān)有和新穎的。它的設(shè)計(jì)目標(biāo)是最大程度地減少數(shù)據(jù)移動(dòng)，眾所周知，這是對(duì)片上能量的巨大負(fù)擔(dān)，尤其是在處理CNN鏈中的復(fù)雜數(shù)學(xué)配置時(shí)。

此外，該加速器（支持TensorFlow和Pytorch等機(jī)器學(xué)習(xí)領(lǐng)域中的常用工具）旨在提高數(shù)學(xué)并行度，優(yōu)化能源消耗并顯著減少推理時(shí)間。

重要功能塊概述。圖片由Maxim Integrated提供

系統(tǒng)操作的另一個(gè)特征是微控制器的介入最少。一般而言，此架構(gòu)中的MCU用于配置網(wǎng)絡(luò)，加載數(shù)據(jù)并啟動(dòng)它。MCU完成其最初的工作后，它基本上就擺脫了阻礙。事實(shí)證明，這對(duì)于提高能源效率也極為重要。

該設(shè)備還可以在執(zhí)行之前加載數(shù)據(jù)，從而消除了在推理過(guò)程中訪(fǎng)問(wèn)內(nèi)存的需求，從而降低了能耗并改善了延遲。Ardis說(shuō)：“不需要外部存儲(chǔ)器，這實(shí)際上是我們節(jié)省能源的方法之一。所有存儲(chǔ)器都在芯片上?！?/span>

物聯(lián)網(wǎng)的游戲規(guī)則改變者？

隨著對(duì)低功耗，高性能AI芯片的需求不斷增加，這一消息在IoT領(lǐng)域似乎極為重要。

新的NN加速器的描述。圖片由Maxim Integrated提供

根據(jù)Maxim Integrated的說(shuō)法，該設(shè)備可能為系統(tǒng)提供了在邊緣執(zhí)行實(shí)時(shí)決策的能力（比基于云的計(jì)算更快），并且無(wú)需擔(dān)心安全性。

通過(guò)將AI帶到邊緣設(shè)備，該設(shè)備可以啟用新的應(yīng)用程序，例如毫秒之內(nèi)的面部ID或數(shù)據(jù)處理助聽(tīng)器。這樣，MAX78000可能是“切斷嵌入式設(shè)備電源線(xiàn)”的重要一步。

Ardis表示希望MAX78000能夠朝著“嵌入式革命”的道路邁進(jìn)，類(lèi)似于嵌入式旋轉(zhuǎn)微控制器的類(lèi)型。他說(shuō)：“在使用微控制器之前，沒(méi)有人考慮過(guò)微控制器的所有功能?，F(xiàn)在，我至少要戴兩個(gè)?！?/span>

“這就是我們認(rèn)為邊緣技術(shù)的AI將會(huì)變成的東西，希望我們將成為引領(lǐng)潮流的人之一?！?/span>