作者：Arm 人工智能平臺和開發(fā)者平臺副總裁 Sharbani Roy

試想這樣的場景：專用的端側人工智能 (AI) 助手與語音交互無需連接云端即可運行，且響應延遲極低；聊天機器人能在用戶輸入時實時推薦回復內容；游戲體驗可根據玩家操作實時調整；可穿戴設備與物聯網設備中，更智能的常開式高能效傳感器能以低功耗實現強大的智能功能。

這類 AI 體驗均可通過 ExecuTorch（Meta 針對 PyTorch 打造的端側運行時）與 Arm 共同助力開發(fā)者實現。二者結合能通過統(tǒng)一的 PyTorch 工作流帶來優(yōu)化的性能與更高效的開發(fā)流程，數十億基于 Arm 架構的邊緣側設備上在該工作流上無縫運行。近期，ExecuTorch 迎來重要里程碑 —— 發(fā)布正式版，該版本將“AI 無處不在”的愿景，轉化為可供數百萬開發(fā)者落地的規(guī)?；桨?。

ExecuTorch 1.0 正式版

賦能一套工作流，覆蓋數十億邊緣側設備

ExecuTorch 1.0 正式版徹底改變了開發(fā)者規(guī)?；涞?PyTorch 模型的方式。以往，開發(fā)者需要針對不同設備類型，單獨調整模型版本、管線或框架；如今，只需一套 PyTorch 工作流，開發(fā)者即可完成從模型創(chuàng)建、導出、優(yōu)化、量化到部署的端到端操作，且覆蓋移動端、嵌入式與邊緣側設備，不僅大幅減少了開發(fā)碎片化問題，同時縮短了產品上市時間。

借助這套工具集，開發(fā)者可無縫部署應用與工作負載，在從超高能效微控制器到旗艦智能手機等各類搭載 Arm CPU、GPU 和 Arm Ethos-U NPU 的邊緣側設備上，充分釋放更先進、更快速的 AI 體驗與特性。

助力 ExecuTorch 的 Arm 技術

Arm KleidiAI、CMSIS-NN 與張量算子集架構 (TOSA)通過在 ExecuTorch 中集成后端，共同構建了統(tǒng)一的優(yōu)化框架。這意味著，當應用與工作負載面向基于 Arm 架構的邊緣側設備時，開發(fā)者無需修改代碼或模型，即可自動獲得性能與效率提升。

KleidiAI 可提供 Arm 內核集成，為當前及未來的 Arm CPU 平臺加速 AI 工作負載。目前，該技術已集成到多個框架和運行時中，包括 ExecuTorch 使用的 XNNPACK 運行時。同時，CMSIS-NN ExecuTorch 后端集成相當于 Arm Cortex-M 系列微控制器的性能加速器，能為資源受限的邊緣側設備提供高效、直接集成的推理支持。

ExecuTorch 中的 TOSA 集成為在 Arm GPU 和 Ethos-U NPU 上運行的邊緣 AI 與機器學習 (ML) 工作負載，提供了統(tǒng)一的執(zhí)行接口。TOSA 可將模型轉換為獨立于硬件的標準化表示，既能確保在這些技術平臺上實現一致的部署、移植和驗證，又能減少工程開發(fā)工作量。

ExecuTorch 1.0 正式版

為移動端和邊緣 AI 市場帶來價值

移動端領域

在移動端領域，ExecuTorch 1.0 正式版可幫助開發(fā)者，在當前數十億基于 Arm 架構的智能手機及新一代移動設備上，更快、更高效地部署更智能的端側 AI 體驗。

主要優(yōu)勢包括：

與安卓應用工作流無縫集成，且從模型開發(fā)到端側部署均全面支持 PyTorch，大幅縮短產品上市時間。

借助 KleidiAI 優(yōu)化實現內置性能提升，為文本生成、音頻生成、實時語音交互和虛擬助手等各類先進端側 AI 功能和體驗，帶來更快的啟動速度、更低的延遲以及更少的內存占用。例如，Stable Audio Small 文本轉音頻模型在基于 Arm CPU 的端側運行時，生成 11 秒音頻僅需 7 到 8 秒，而在啟用 SME2 的消費電子設備上，生成時間可縮短至 4 秒以內。

廣泛的 Arm 技術支持，確保 AI 模型可在當前及未來的各類 Arm CPU 和 GPU 上運行，具體包括：

Arm Cortex-A CPU 及新一代 Arm CPU（包括啟用 SME2 的 Arm C1 CPU），可通過 XNNPACK 中的 KleidiAI 集成實現支持。

當前的 Arm Mali 和 Arm Immortalis GPU 可通過 Vulkan 路徑實現支持。

2026 年推出的搭載Arm 神經技術的 Arm Mali GPU，可通過 Vulkan 和 VGF 后端實現支持，助力開發(fā)者在移動設備上提升實時 4K 游戲的 AI 性能。

邊緣 AI 與高性能物聯網

Arm Ethos-U 處理器系列為物聯網市場的各類邊緣 AI 應用提供出色的加速能力，是 ExecuTorch 1.0 正式版廣泛支持的關鍵生產后端。

這將帶來以下價值：

借助提前 (AoT) 編譯、運行時支持，以及虛擬平臺的可用性，開發(fā)者可在基于 Ethos-U 的硬件上市前，提前開始構建應用與工作負載，從而縮短產品上市時間。例如，通過 Arm Corstone 子系統(tǒng)，開發(fā)者可先在固定虛擬平臺 (FVP) 上模擬 Ethos-U 目標設備，再遷移至 FPGA 原型，最終落地到基于 Corstone 構建的芯片實現方案。

為開發(fā)者提供豐富的產品組合，包含 100 多個預先驗證的 AI 模型[1]，涵蓋圖像分類、關鍵詞識別等場景。開發(fā)者可直接通過 ExecuTorch 在 Ethos-U NPU 上完成端到端部署。

通過 TOSA 標準提升可移植性，這意味著為一個 Arm 平臺構建的模型，可部署到多個平臺上。

集成 Arm Vela 編譯器簡化模型編譯流程。該編譯器可為 Ethos-U NPU 優(yōu)化并分配 AI 工作負載，無需額外人工操作，即可自動提升效率、降低延遲。

即便在功耗預算極其受限的場景下，也能實現高效的 AI 推理。這得益于強大的算子支持、量化工具，以及回退路徑（比如針對基于 Cortex-M 的微控制器的 CMSIS-NN 支持）。

[1] 多款模型可在https://docs.pytorch.org/vision/main/models.html 和https://docs.pytorch.org/audio/main/models.html 查看

此外，在高性能物聯網領域，KleidiAI 與主流 AI 框架的集成，還可提升 Arm CPU 上關鍵模型（包括 Meta Llama 3 和 Phi-3）的性能與效率。

開發(fā)者現可獲取

ExecuTorch 1.0 正式版的各項優(yōu)勢

開發(fā)者即日起就可體驗 ExecuTorch 1.0 正式版的各項優(yōu)勢。訪問 developer.arm.com，探索 ExecuTorch 的所有 Learning Path、查看相關文檔和教程，并將工作流集成到模型導出、編譯和部署管線中。此外，開發(fā)者還可在 PyTorch 頁面[2]查看 ExecuTorch 的更多詳細信息，以及獲取 XNNPACK、Ethos-U、VGF 和 Vulkan 設備的開發(fā)者文檔[3]。無論是面向移動設備、PC、可穿戴設備還是邊緣傳感器開發(fā)，開發(fā)流程均統(tǒng)一且無縫。

[2] PyTorch 頁面：https://pytorch.org/projects/executorch/

[3] 開發(fā)者文檔：https://docs.pytorch.org/executorch/main/backends-arm-vgf.html

讓邊緣 AI 無處不在

惠及每一個人

ExecuTorch 1.0 正式版再次印證了 Arm 的愿景——讓 AI 在硬件生態(tài)系統(tǒng)的每一個層面，都能一致且無縫地運行。依托 Arm 計算平臺的強大性能與廣泛的生態(tài)系統(tǒng)，ExecuTorch 1.0 不僅解鎖了規(guī)?；渴?、高性能表現與創(chuàng)新能力，將助力新一代邊緣 AI 體驗無處不在，惠及每一個人。