哈哈哈哈哈操欧洲电影,久草网在线,亚洲久久熟女熟妇视频,麻豆精品色,久久福利在线视频,日韩中文字幕的,淫乱毛视频一区,亚洲成人一二三,中文人妻日韩精品电影

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

行業(yè)觀察——邊緣AI芯片架構(gòu)的思考:為何可擴(kuò)展GPU架構(gòu)值得關(guān)注

互聯(lián)網(wǎng)資訊 ? 來源:北京華興萬邦管理咨詢有 ? 作者:北京華興萬邦管理 ? 2025-04-18 09:33 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

作者:北京華興萬邦管理咨詢有限公司 翔煜 商瑞

隨著大模型在不斷演進(jìn)的同時將推理應(yīng)用大規(guī)模推向邊緣和端點設(shè)備,以及物聯(lián)網(wǎng)智化、具身智能、AI智能體(AI Agent)和物理AI等新的AI應(yīng)用場景和模式的快速涌現(xiàn),AI賦能設(shè)備的主控芯片設(shè)計師正面臨著全新的挑戰(zhàn)。尤其是對于邊緣和端點設(shè)備,它們既可能成為大模型的承載設(shè)備,也可能是用智能去為應(yīng)用提供更好的核心功能,新的產(chǎn)品定義方向使主芯片架構(gòu)師不得不去思考,其芯片在如何應(yīng)對大模型快速演進(jìn)的同時,還能實現(xiàn)用智能手段賦能傳統(tǒng)應(yīng)用和實現(xiàn)新興功能。

因此,在追求極致性能、功耗和面積(PPA)的模式之外,架構(gòu)師們需要富有前瞻性地去選擇高性能、高靈活性、可升級和開發(fā)者(生態(tài))友好的架構(gòu)。我們不妨先回顧AI發(fā)展的歷程,從感知AI到生成式AI,再到智能體AI和物理AI,其應(yīng)用場景不斷拓展。在感知AI階段,Al技術(shù)在語音識別、深度推薦系統(tǒng)和醫(yī)學(xué)影像等領(lǐng)域取得顯著進(jìn)展;生成式AI在數(shù)字營銷和內(nèi)容創(chuàng)作方面發(fā)揮了重要作用;智能體AI為編程、客戶服務(wù)、患者護(hù)理提供助力;物理AI推動了自動駕駛汽車和通用機(jī)器人發(fā)展。

wKgZO2gA73OAWmsjAASaugnydGA085.png

伴隨著AI技術(shù)的發(fā)展,在傳統(tǒng)的CPUGPUFPGA等計算技術(shù)之外,諸如TPU、NPU 和DPU等專門針對特定算法或者模型的新型硬件數(shù)據(jù)處理加速器也開始出現(xiàn),它們帶來高效率因而在許多場景中得到了應(yīng)用。與此同時,AI技術(shù)不斷向新的場景和應(yīng)用廣泛滲透,使得面向特定模型和場景的NPU等架構(gòu)難以應(yīng)對模型的變化和場景的多樣化,從而使傳統(tǒng)的 靈活性更高的CPU和GPU架構(gòu)依舊在計算領(lǐng)域占據(jù)重要地位。

但是,AI技術(shù)的進(jìn)步和新場景的出現(xiàn),正在迫使半導(dǎo)體知識產(chǎn)權(quán)(IP)提供商和芯片設(shè)計公司快速做出變化,無論是采用傳統(tǒng)架構(gòu)的廠商,還是新的xPU提供商都需要尊重產(chǎn)業(yè)規(guī)律。華興萬邦亦認(rèn)為,從技術(shù)經(jīng)濟(jì)學(xué)和企業(yè)實際經(jīng)營來看,高額的研發(fā)費(fèi)用和市場營銷費(fèi)用是多數(shù)芯片設(shè)計企業(yè)面臨的最重要費(fèi)用,而靈活可擴(kuò)展的架構(gòu)可以覆蓋更廣的市場并可以實現(xiàn)更長的產(chǎn)品生命周期,它們是攤銷這些費(fèi)用以提升盈利能力的重要手段。

架構(gòu)創(chuàng)新迫在眉睫

Imagination Technologies中國業(yè)務(wù)發(fā)展負(fù)責(zé)人黃音在慕尼黑電子展AI技術(shù)創(chuàng)新論壇演講中分析道:“當(dāng)前主芯片設(shè)計不僅需要芯片企業(yè)投入大量研發(fā)資源,更需要協(xié)調(diào)生態(tài)合作伙伴的技術(shù)路線。面對AI算法快速迭代的挑戰(zhàn),行業(yè)在探索創(chuàng)新架構(gòu)的同時,仍需重視經(jīng)過長期驗證的基礎(chǔ)計算架構(gòu)價值。以GPU為例,其架構(gòu)在保持高并行計算優(yōu)勢的同時,新一代設(shè)計正通過模塊化擴(kuò)展能力(如可配置Shader集群、彈性內(nèi)存子系統(tǒng))來適應(yīng)不同AI工作負(fù)載需求。作為專注圖形計算領(lǐng)域的IP廠商,Imagination觀察到,理想的AI加速架構(gòu)需要在三個維度取得平衡:支持細(xì)粒度并行的計算單元設(shè)計、滿足算法動態(tài)調(diào)整的可配置性,以及維持開發(fā)工具鏈的持續(xù)兼容性?!?/p>

wKgZO2gA73GAeQkGAAiK6llNXSE700.png

“擴(kuò)展能力是Imagination GPU開發(fā)演進(jìn)的方向:在具備強(qiáng)大的渲染能力的同時,融合AI并行計算能力,在邊緣AI的場景下能提供靈活又高效的算力。所以,Imagination將幫助芯片設(shè)計人員發(fā)現(xiàn)真正的破局點,幫助他們?nèi)?gòu)建一個可以持續(xù)適配模型和算法演進(jìn)、以及支持新興應(yīng)用的架構(gòu)平臺——而不是為某個模型做一次性的‘專用硬件定制’,從而避免硬件(處理器)總是費(fèi)力費(fèi)錢跟著算法跑的問題?!秉S音補(bǔ)充道。

Imagination正在幫助客戶導(dǎo)入更加靈活的架構(gòu)。以該公司不久前發(fā)布的Imagination DXTP GPU IP為例,它采用了先進(jìn)的平衡架構(gòu),增加了緩存和系統(tǒng)級帶寬,實現(xiàn)了更高的持續(xù)性能,幾何吞吐量提高50%,不僅能夠輕松同時處理圖形和計算任務(wù),而且其功率效率還較其前序產(chǎn)品提升了20%,為邊緣AI提供了理想的GPU平臺。DXTP GPU已經(jīng)被全球知名科技公司采用,用于對AI 多數(shù)據(jù)類型處理、計算任務(wù)加速和本地內(nèi)存的支持。

wKgZPGgA73CAHuMCAAKIutK_0Zs823.png

三個落地是成功的關(guān)鍵

當(dāng)然,對于芯片設(shè)計師而言,這需要做到三個必須“落地”,即模型算法落地、垂直功能落地和開放生態(tài)落地。針對模型算法落地,Imagination的突破點是堅持構(gòu)建一個通用可編程的并行架構(gòu)平臺,并通過開放的編譯器和推理后端(backend),支持客戶軟硬件協(xié)同設(shè)計和提供適配路徑,幫助其客戶把諸如Transformer、Diffusion類模型和前沿算法快速落地到GPU上。為此該公司將幫助客戶認(rèn)識到在算法不斷演化的時代,架構(gòu)的“適配力”遠(yuǎn)比一時的TOPS值更重要。

在垂直功能落地方面,Imagination在移動、汽車、云和桌面等領(lǐng)域深耕了數(shù)十年,積累了豐富的經(jīng)驗和許多創(chuàng)新的支撐性技術(shù),可以幫助客戶去避開其中的潛在風(fēng)險和快速在領(lǐng)域內(nèi)創(chuàng)造優(yōu)勢,這可以從該公司的D系列GPU IP的產(chǎn)品功能創(chuàng)新上可以看出其垂直領(lǐng)域功能落地能力。例如,DXT GPU是Imagination面向移動應(yīng)用、高端游戲和專業(yè)圖形設(shè)計等應(yīng)用推出的新一代GPU IP,它不僅率先在移動平臺上提供了可擴(kuò)展的光線追蹤功能,還有2D雙速率紋理映射等多項可以提升處理速度和優(yōu)化內(nèi)存帶寬的技術(shù)。

為了幫助桌面和數(shù)據(jù)中心客戶實現(xiàn)高性能的云端GPU創(chuàng)新解決方案,Imagination推出了DXD GPU IP,首次將Imagination的API覆蓋擴(kuò)展至DirectX,這一舉措顯著提升了DXD與Windows平臺上的應(yīng)用程序和游戲的兼容性。同時,Imagination的硬件虛擬化技術(shù) HyperLane支持在單個GPU上安全且獨(dú)立地運(yùn)行多個操作系統(tǒng),極大地提升了服務(wù)器的使用效率,降低了云游戲的運(yùn)營成本,并為云游戲行業(yè)的發(fā)展帶來了創(chuàng)新的運(yùn)營模式。

Imagination為汽車智駕芯片提供的專用IP是該公司支持芯片設(shè)計企業(yè)垂直功能落地的又一個典范,血的教訓(xùn)換來了更加嚴(yán)格的安全法規(guī),使智駕芯片設(shè)計公司在算力、生態(tài)和生命周期之外,必須去認(rèn)真去考慮功能安全性。為了幫助芯片設(shè)計企業(yè)滿足全球汽車智能化需求,Imagination推出了DXS系列GPU,該系列IP不僅為智能駕駛艙和先進(jìn)駕駛輔助(ADAS)等應(yīng)用所需SoC帶來匹配的算力,而且專為諸如汽車處理器等對功能安全性要求極為嚴(yán)苛的應(yīng)用,開發(fā)了結(jié)合GPU的計算模式特點并大幅降低成本的分布式功能安全機(jī)制(DSM)并通過了ASIL-B認(rèn)證。這為汽車和工業(yè)等越來越多需要GPU的圖形處理能力和計算能力的電子系統(tǒng)帶來了巨大的創(chuàng)新。

wKgZO2gA73GAANXqAALQdVGW_JY138.png

Imagination在支持客戶實現(xiàn)產(chǎn)業(yè)生態(tài)落地方面也同樣頗費(fèi)心機(jī),其GPU IP全面支持OpenCL、SYCL、Vulkan Compute等開放標(biāo)準(zhǔn),與PyTorch、TensorFlow等主流框架完美兼容。如Imagination通過與安卓生態(tài)系統(tǒng)合作,優(yōu)化對LiteRT的支持,為開發(fā)者提供豐富工具和示例,便于開發(fā)高性能AI應(yīng)用,充分展現(xiàn)了其GPU架構(gòu)的適配能力。這種開放生態(tài)簡化了新硬件與設(shè)備的集成流程,避免供應(yīng)商鎖定問題,使客戶能在不同平臺輕松部署。通過整合多方資源,Imagination可幫助客戶實現(xiàn)協(xié)同優(yōu)化,提升資源利用率和執(zhí)行效率,鞏固了其在GPU市場的領(lǐng)先地位,為企業(yè)應(yīng)對AI算法和產(chǎn)品快速迭代提供堅實支持。

總結(jié)與展望

大模型的下沉、算法創(chuàng)新和邊緣及端側(cè)AI的崛起為基于 GPU的主控芯片帶來了新的發(fā)展契機(jī),在AI一體機(jī)、新物聯(lián)網(wǎng)、智能安防和自動駕駛等領(lǐng)域已經(jīng)出現(xiàn)了巨大的需求,這些設(shè)備對高性能的圖形處理和AI推理同時都有越來越多的需求,因此更靈活和可擴(kuò)展的架構(gòu)可以使芯片設(shè)計公司的產(chǎn)品覆蓋更廣泛的市場領(lǐng)域,同時可以擁有更長的產(chǎn)品生命周期,也就有了更高的潛在盈利能力。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5271

    瀏覽量

    136069
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    41107

    瀏覽量

    302585
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    2164

    瀏覽量

    36869
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    AI-Box緊湊機(jī)身擴(kuò)展儲存有困難?ICY DOCK為你破局!

    AI驅(qū)動的邊緣計算浪潮中,AI-Box作為工廠、交通樞紐與智能終端的"神經(jīng)末梢",正面臨嚴(yán)峻的存儲挑戰(zhàn)。傳統(tǒng)內(nèi)置硬盤架構(gòu)在緊湊機(jī)身設(shè)計下暴露致命短板:存儲
    的頭像 發(fā)表于 04-17 16:10 ?268次閱讀
    <b class='flag-5'>AI</b>-Box緊湊機(jī)身<b class='flag-5'>擴(kuò)展</b>儲存有困難?ICY DOCK為你破局!

    邊緣AI算力臨界點:深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價值

    310P芯片的底層架構(gòu),深度剖析這款產(chǎn)品的技術(shù)細(xì)節(jié)、算力門檻及其在實際產(chǎn)業(yè)落地中的真實價值。 一、176TOPS的產(chǎn)業(yè)門檻:為何這是邊緣算力的新起點?
    發(fā)表于 03-10 14:19

    OrangePi RV2 深度技術(shù)評測:RISC-V AI融合架構(gòu)的先行者

    問題 4.獨(dú)特優(yōu)勢 4.1 RISC-V AI 融合架構(gòu) 不同于外掛NPU,AI 算力集成于 CPU 核內(nèi),編程模型統(tǒng)一,減少數(shù)據(jù)搬運(yùn)開銷 為邊緣A
    發(fā)表于 03-03 20:19

    Imagination Technologies:面向智能駕艙,打造高安全GPUAI融合計算架構(gòu)

    隨著汽車智能化程度不斷提高,電子架構(gòu)正朝著集中化方向發(fā)展,智能座艙與ADAS等功能對GPU算力和AI推理能力提出更高要求,同時系統(tǒng)還需滿足功能安全、長效周期、軟件定義等多重挑戰(zhàn)。2025年9月12日
    的頭像 發(fā)表于 09-23 08:43 ?886次閱讀
    Imagination Technologies:面向智能駕艙,打造高安全<b class='flag-5'>GPU</b>與<b class='flag-5'>AI</b>融合計算<b class='flag-5'>架構(gòu)</b>

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片

    建立的基礎(chǔ): ①算力支柱②數(shù)據(jù)支柱③計算支柱 1)算力 與AI算力有關(guān)的因素: ①晶體管數(shù)量②晶體管速度③芯片架構(gòu)芯片面積⑤制造工藝⑥芯片
    發(fā)表于 09-18 15:31

    適應(yīng)邊緣AI全新時代的GPU架構(gòu)

    電子發(fā)燒友網(wǎng)站提供《適應(yīng)邊緣AI全新時代的GPU架構(gòu).pdf》資料免費(fèi)下載
    發(fā)表于 09-15 16:42 ?47次下載

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)

    算法 5.2加速矩陣乘法的芯片架構(gòu) ①新的矩陣乘法器架構(gòu) ②基于RISC-V的矩陣乘法擴(kuò)展指令集 ③用信息論的思想來減少AI推理計算量 三、
    發(fā)表于 09-12 17:30

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)

    ②Transformer引擎③NVLink Switch系統(tǒng)④機(jī)密計算⑤HBM FPGA: 架構(gòu)的主要特點:重構(gòu)邏輯和路由,可以快速實現(xiàn)各種不同形式的神經(jīng)網(wǎng)絡(luò)加速。 ASIC: 介紹了幾種ASIC AI
    發(fā)表于 09-12 16:07

    AI 芯片浪潮下,職場晉升新契機(jī)?

    職場、渴望在專業(yè)領(lǐng)域更進(jìn)一步的人來說,AI 芯片與職稱評審之間,實則有著千絲萬縷的聯(lián)系,為職業(yè)晉升開辟了新的路徑。 AI 芯片領(lǐng)域細(xì)分與職稱對應(yīng) 目前,
    發(fā)表于 08-19 08:58

    性能優(yōu)于HBM,超高帶寬內(nèi)存 (X-HBM) 架構(gòu)來了!

    和單芯片高達(dá)512 Gbit的容量,帶寬提升16倍,密度提升10倍,顯著突破了傳統(tǒng)HBM的局限性。 ? ? 關(guān)鍵特性和優(yōu)勢包括,擴(kuò)展性,使GPU和內(nèi)存之間的數(shù)據(jù)傳輸更快,從而實現(xiàn)更高
    的頭像 發(fā)表于 08-16 07:51 ?5148次閱讀
    性能優(yōu)于HBM,超高帶寬內(nèi)存 (X-HBM) <b class='flag-5'>架構(gòu)</b>來了!

    蘋芯科技存算一體創(chuàng)新架構(gòu),突破邊緣AI芯片技術(shù)困局

    25%,其中,邊緣計算芯片增速達(dá)35%。這一增長勢頭背后,是可穿戴、智能安防、智慧工業(yè)等場景對低功耗、低延遲、高隱私性計算的迫切需求。 ? 然而,行業(yè)高速發(fā)展的同時,傳統(tǒng)馮·諾依曼架構(gòu)
    的頭像 發(fā)表于 07-17 08:01 ?1.2w次閱讀
    蘋芯科技存算一體創(chuàng)新<b class='flag-5'>架構(gòu)</b>,突破<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>技術(shù)困局

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】+NVlink技術(shù)從應(yīng)用到原理

    前言 【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」書中的芯片知識是比較接近當(dāng)前的頂尖芯片水平的,同時包含了
    發(fā)表于 06-18 19:31

    GPU架構(gòu)深度解析

    GPU架構(gòu)深度解析從圖形處理到通用計算的進(jìn)化之路圖形處理單元(GPU),作為現(xiàn)代計算機(jī)中不可或缺的一部分,已經(jīng)從最初的圖形渲染專用處理器,發(fā)展成為強(qiáng)大的并行計算引擎,廣泛應(yīng)用于人工智能、科學(xué)計算
    的頭像 發(fā)表于 05-30 10:36 ?2023次閱讀
    <b class='flag-5'>GPU</b><b class='flag-5'>架構(gòu)</b>深度解析

    又一顆國產(chǎn)GPU芯片成功點亮!6nm制程,自研TrueGPU架構(gòu)

    GPU芯片G100采用6nm制程,基于自研的TrueGPU架構(gòu),這是全球首個融合高性能圖形渲染與AI推理能力的GPU
    發(fā)表于 05-29 00:48 ?2795次閱讀

    iTOP-3588S開發(fā)板四核心架構(gòu)GPU內(nèi)置GPU可以完全兼容0penGLES1.1、2.0和3.2。

    性能強(qiáng) iTOP-3588S開發(fā)板采用瑞芯微RK3588S處理器,是全新一代AloT高端應(yīng)用芯片,搭載八核64位CPU,四核Cortex-A76和四核Cortex-A55架構(gòu)主頻高達(dá)2.4GHZ
    發(fā)表于 05-15 10:36
    年辖:市辖区| 东乡县| 和静县| 阿拉善右旗| 新密市| 高唐县| 宁德市| 常熟市| 稷山县| 卓尼县| 洪江市| 靖江市| 河北区| 桑日县| 耒阳市| 磐石市| 敦煌市| 义马市| 方山县| 丹巴县| 东山县| 福海县| 竹山县| 泊头市| 临武县| 定兴县| 昭平县| 车险| 五指山市| 塔河县| 浦北县| 鸡东县| 沅陵县| 大化| 芜湖县| 洛南县| 康平县| 丰顺县| 武山县| 昔阳县| 富阳市|