觸覺智能EVB3588實(shí)測運(yùn)行大模型，效果nice！
開源鴻蒙硬件方案領(lǐng)跑者觸覺智能
本文基于觸覺智能IDO-EVB3588開發(fā)板，運(yùn)行大模型。效果搶先看！
視頻使用的主板采用瑞芯微RK3588處理器，是全新一代AloT高端應(yīng)用芯片，采用8nm LP制程，搭載八核64位CPU，四核Cortex-A76和四核Cortex-A55架構(gòu)，主頻高達(dá)2.4GHz。
6TOPS AI算力，三核架構(gòu)，支持int4/int8/int16/FP16/BF16/TF32；
支持H.265/H.264/AV1/VP9/AVS2視頻解碼， 最高8K60FPS；
支持 H.264/H.265視頻編碼， 最高8K30FPS；
支持HDMI2.1輸出，最高8K@60Hz；
支持HDMI2.0 輸入， 最高4K60FPS；
支持多攝像頭輸入；
雙通道LVDS，支持到1080P@60Hz 大屏幕 ；
多屏異顯；
兩路獨(dú)立的千兆以太網(wǎng)口，支持WAN口+LAN口 雙IP ；
豐富的系統(tǒng)支持， Android 12，Ubuntu，鴻蒙OpenHarmony全面支持。
1、運(yùn)行在開發(fā)板上可以通過CPU直接部署運(yùn)行模型，可以在終端中直接對(duì)話：
視頻效果如下所示：
CPU調(diào)用情況:
同時(shí)，通過調(diào)整模型，可以在NPU上部署運(yùn)行大模型，3588開發(fā)板的NPU擁有6T的算力，可以加速模型運(yùn)行。運(yùn)行qwen1.8b模型占用情況如下
2、網(wǎng)頁調(diào)用模型API
模型部署后可以暴露API供其他應(yīng)用使用，例如Web網(wǎng)頁調(diào)用API接口實(shí)現(xiàn)對(duì)話功能。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
開發(fā)板
+關(guān)注
關(guān)注
26文章
6398瀏覽量
120482 -
觸覺智能
+關(guān)注
關(guān)注
1文章
64瀏覽量
895 -
大模型
+關(guān)注
關(guān)注
2文章
3746瀏覽量
5268
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
AI硬件選型必看！瑞芯微RV1126B/RK3562/RK3576/RK3588之NPU性能實(shí)測對(duì)比
做邊緣計(jì)算、AI視覺產(chǎn)品，卻在瑞芯微一堆芯片里看花眼？RV1126B、RK3562、RK3576、RK3588雖有明面上NPU性能數(shù)據(jù)，但實(shí)測表現(xiàn)到底怎么樣？觸覺智能就一次性把四款熱門
國產(chǎn)RK182X算力協(xié)處理器 + RK3588實(shí)測，大模型“極速流暢”
我們拿到瑞芯微RK182X算力協(xié)處理器評(píng)估套件實(shí)物后，第一時(shí)間基于創(chuàng)龍科技RK3588工業(yè)評(píng)估板進(jìn)行了實(shí)測，用真實(shí)數(shù)據(jù)告訴你，這款“AI推理外掛”究竟有多強(qiáng)！ ▍ 端側(cè)算力，硬核升級(jí) RK182X
從視覺檢測到多模態(tài)交互：RK1820如何賦能下一代智能嵌入式設(shè)備？
交互等實(shí)際場景中表現(xiàn)最優(yōu)？本文整理了9款主流AI模型的完整部署方案，覆蓋多模態(tài)對(duì)話、目標(biāo)檢測、圖像分類三大核心場景。每個(gè)模型均提供可直接運(yùn)行的代碼及實(shí)測
OPi RK3588/RK3588S系列產(chǎn)品全面適配Openclaw，智能體“人人可及”時(shí)代正式開啟
領(lǐng)域表現(xiàn)突出，更在AI智能體本地化部署中展現(xiàn)出卓越的能效比。OpenClaw在RK3588/RK3588S平臺(tái)上的流暢運(yùn)行，印證了其在終端側(cè)承載復(fù)雜AI工作流的可靠性，也為廣大開發(fā)者、
發(fā)表于 02-10 17:43
保障量產(chǎn)穩(wěn)定！觸覺智能完成多款產(chǎn)品LPDDR5內(nèi)存適配
面對(duì)全球存儲(chǔ)市場結(jié)構(gòu)性調(diào)整深化，與LPDDR4因減產(chǎn)導(dǎo)致的供需失衡壓力，深圳觸覺智能已完成LPDDR5內(nèi)存適配。目前，基于瑞芯微RK3576平臺(tái)的核心板、開發(fā)板、行業(yè)主板及整機(jī)多款產(chǎn)品LPDDR5均已穩(wěn)定量產(chǎn)。不僅性能提升，更構(gòu)筑了堅(jiān)實(shí)的供應(yīng)保障。針對(duì)內(nèi)存性能提升，
觸覺智能RK3588行業(yè)主板通過OpenHarmony5.0 XTS認(rèn)證
觸覺智能作為開源鴻蒙南向硬件廠家，旗下RK3588行業(yè)主板IDO-SBC3588（以下簡稱SBC3588）通過了OpenHarmony5.0
以觸覺為橋，定義智能體驗(yàn)——PPS觸覺傳感技術(shù)賦能多領(lǐng)域創(chuàng)新
以觸覺為橋，定義智能體驗(yàn) ——PPS 觸覺傳感技術(shù)賦能多領(lǐng)域創(chuàng)新
二十多年來，PPS 始終專注于觸覺測量技術(shù)的突破與演進(jìn)，將無形的 “觸覺
觸覺智能RK3576開發(fā)板通過OpenHarmony5.0 XTS認(rèn)證
觸覺智能作為開源鴻蒙南向硬件廠家，旗下RK3576開發(fā)板及其核心板（模組）PurplePiOH2系列通過了OpenHarmony5.0XTS認(rèn)證，鴻蒙硬件生態(tài)兼容性能再次提升！證書如下：同時(shí)觸覺
RK3506開發(fā)板Xenomai內(nèi)核RT-Linux實(shí)時(shí)性系統(tǒng)適配教程與性能實(shí)測，實(shí)測僅7μs穩(wěn)定延時(shí)
本文基于觸覺智能RK3506核心板/開發(fā)板，介紹Xenomai內(nèi)核RT-Linux實(shí)時(shí)性系統(tǒng)適配，并附性能實(shí)測。簡介與實(shí)測數(shù)據(jù)Xenomai簡介XEnomai是一個(gè)實(shí)時(shí)子系統(tǒng),可與Li
ALINX VD100低功耗端側(cè)大模型部署方案，運(yùn)行3B模型功耗僅5W？！
大模型能運(yùn)行≠用戶體驗(yàn)好。 IDC 預(yù)測，到 2026 年，全球超過 50% 的企業(yè) AI 工作負(fù)載將部署在邊緣設(shè)備上。在 AI 部署逐漸從云端轉(zhuǎn)向邊緣端的趨勢(shì)下，越來越多智能終端開始嘗試在本地
請(qǐng)問如何在RK3588上使用npu，用onnx模型來推理
請(qǐng)問如何在瑞芯微 RK3588上使用npu，用onnx模型來推理。官網(wǎng)上介紹說要把ONNX模型轉(zhuǎn)換成RKNN模型。但是我并不想這么干，請(qǐng)問有什么辦法嗎？
發(fā)表于 08-09 00:51
瑞芯微RK3562開發(fā)板，性能參數(shù)詳細(xì)配置，觸覺智能IDO-EVB3562-V2
IDO-EVB3562-V2開發(fā)板規(guī)格書深圳觸覺智能科技有限公司
運(yùn)行kmodel模型驗(yàn)證一直報(bào)錯(cuò)怎么解決？
我這運(yùn)行kmodel模型驗(yàn)證一直報(bào)錯(cuò)，所以沒法做kmodel模型好壞驗(yàn)證，不知道怎么解決這個(gè)問題，重新訓(xùn)練一個(gè)kmodel模型會(huì)和拿相同pt訓(xùn)練的模
發(fā)表于 06-10 08:02
觸覺智能RK3506星閃開發(fā)板規(guī)格書 型號(hào)IDO-EVB3506-V1參數(shù)詳情
1產(chǎn)品概述觸覺智能IDO-EVB3506-V1采用RockchipRK3506（三核Cortex-A7+單核Cortex-M0,主頻最高1.5GHz）設(shè)計(jì)的評(píng)估開發(fā)板，專為家電顯控、顯示HMI、手持
觸覺智能RK3562開發(fā)板新版強(qiáng)勢(shì)亮相
/RK3562J），都支持NPU和CAN功能了，為此觸覺智能RK3562開發(fā)板進(jìn)行了迭代升級(jí)，全新型號(hào)為EVB3562-V2。為了慶祝觸覺智能
評(píng)論