AI無處不在。你在部署AI，你的競爭對手也在部署AI，幾乎所有人都在做AI。然而，AI并不簡單，不僅在生成有效模型上復(fù)雜，在部署上同樣充滿挑戰(zhàn)。

即使你已經(jīng)有了現(xiàn)成的模型，要把它部署到新的邊緣硬件上，往往需要投入大量精力將模型轉(zhuǎn)換成可運行的形式，更不用說讓它高效運行。

現(xiàn)在，有了RUHMI，這一切將變得簡單。

什么是RUHMI？

Robust Unified Heterogenous Model Integration（RUHMI）是瑞薩電子推出的AI部署工具，旨在簡化嵌入式設(shè)備中深度神經(jīng)網(wǎng)絡(luò)模型的部署。該部署工具集成了EdgeCortixMera2.0編譯器，支持TensorFlow Lite和ONNX模型導(dǎo)入，可自動生成優(yōu)化后的C源代碼、頭文件，以及二進(jìn)制運行文件，讓用戶可以輕松編譯并部署到Renesas開發(fā)板上。

此外，RUHMI同時提供圖形化界面（GUI）和命令行接口（CLI）兩種方式，滿足不同用戶的使用需求。

圖形化界面（GUI）：通過集成在E2Studio中的圖形化界面，用戶可以直觀地完成模型轉(zhuǎn)換、生成相關(guān)代碼，并方便進(jìn)行二次開發(fā)。

命令行接口（CLI）：命令行接口支持Windows和Ubuntu上使用，開發(fā)者還可以結(jié)合Python等腳本，實現(xiàn)自動化測試和批量化設(shè)計驗證。

RUHMI演示

下面，通過E2Studio的AI Navigator來演示一個完整的部署過程。

01

打開AI Navigator

打開E2Studio，在頂部的菜單欄中選擇“Renesas AI”，在下拉項中選擇“AI Navi”。如圖1所示。

圖1 打開AI Navigator

界面會跳轉(zhuǎn)到AI Navi首頁。選擇“Select Sample AI Application”。如果是自己的模型，選擇“Use Your Project & AI Model”。如圖2所示。

圖2 選擇“Select Sample AI Application”

02

選擇示例項目

在“Smart City”中，選擇“Image Classification”。如圖3所示。

圖3 選擇“Image Classification”

點擊窗口上方的“Import”，等待片刻，E2Studio會自動導(dǎo)入示例項目。如圖4所示。

圖4 導(dǎo)入示例項目

03

編輯并編譯項目

等待示例構(gòu)建后，窗口會呈現(xiàn)示例項目。點擊右側(cè)的“Edit and build”，編譯此項目。如圖5所示。

圖5 編譯示例項目

在窗口左側(cè)新出現(xiàn)的兩個菜單欄“Convert AI Model”和“Edit Application”中，選擇“Convert AI Model”。如圖6所示。

圖6 選擇“Convert AI Model”

點擊右側(cè)的“Convert”，進(jìn)入“Conversion Tool”界面。如圖7所示。

圖7 進(jìn)入“Conversion Tool”界面

04

配置轉(zhuǎn)換選項

在“Conversion Tool”界面中，選擇項目名稱和設(shè)備類型。在下拉框中選擇“RUHMI AI Compiler”，并選擇合適的AI框架。最后選擇模型并指定轉(zhuǎn)換輸出的目錄。點擊“Next”進(jìn)入下一步。如圖8所示。

圖8 配置轉(zhuǎn)換選項

05

模型優(yōu)化與轉(zhuǎn)換

項目構(gòu)建后，如果模型未量化，可以在“Optimization”中量化模型。如圖9所示。

圖9 優(yōu)化模型（可選）

進(jìn)入“Conversion”界面，可以選擇“Optimize Mode”、“Memory Mode”和“Weight Location”分別對優(yōu)化效果、模型存放在內(nèi)存的位置和權(quán)重存放位置進(jìn)行調(diào)整，點擊“Start conversion”開始轉(zhuǎn)換模型。如圖10所示。

圖10 進(jìn)入“Conversion”界面，并開始轉(zhuǎn)換模型

等待片刻，模型轉(zhuǎn)換完成。此時可在輸出目錄中查看生成的文件。如圖11所示。

圖11 查看生成的文件

06

集成轉(zhuǎn)換結(jié)果并編譯

將輸出目錄中的所有文件拖入E2Studio項目中。此時會彈出“File Operation”，選擇“Copy files”并點擊“OK”。如圖12所示。

圖12 選擇“Copy files”

選擇“Overwrite All”覆蓋全部文件。如圖13所示。

圖13 選擇覆蓋全部文件

右鍵點擊項目頂層文件夾，選擇“Build Project”編譯項目。編譯完成后，示例項目就可以運行了。如圖14所示。

圖14 構(gòu)建項目

RUHMI硬件支持的開發(fā)板

RUHMI主要支持Renesas RA8P1開發(fā)版，包括Cortex M85和ETHOS-U55。開發(fā)板如圖15所示。

圖15 RA8P1開發(fā)板

RA8P1開發(fā)板具備如下優(yōu)勢：

具有MIPI DSI 和MIPI CSI接口，適配HMI應(yīng)用。

豐富的內(nèi)存連接能力。

集成ETHOS-U55 AI加速器。

圖16 RA8P1的特性

如圖16所示，這些特性為模型提供了強(qiáng)大的性能支持，能夠讓用戶充分發(fā)揮現(xiàn)有AI模型的性能。

總結(jié)

RUHMI大大簡化了AI模型在Renesas硬件平臺的部署流程。本文完整地呈現(xiàn)了從模型導(dǎo)入、格式轉(zhuǎn)換、性能優(yōu)化到最終代碼生成的全流程部署過程。通過RUHMI工具，用戶僅需幾步即可實現(xiàn)模型的快速移植，大幅降低了嵌入式AI開發(fā)的技術(shù)難度。RUHMI通過自動化處理機(jī)制，將傳統(tǒng)繁瑣的部署流程轉(zhuǎn)化為高度標(biāo)準(zhǔn)化的操作，讓開發(fā)者能夠更加專注模型的調(diào)優(yōu)和應(yīng)用創(chuàng)新。