DeepSeek宣布開源DeepGEMM
DeepGEMM 是一個(gè)專為簡(jiǎn)潔高效的 FP8 通用矩陣乘法（GEMM）設(shè)計(jì)的庫，具有細(xì)粒度縮放功能，在Deepseek開源周的第三天Deepseek正式宣布開源DeepGEMM。
據(jù)悉GEMMs同時(shí)支持普通的和專家混合（MoE）分組的GEMM運(yùn)算。而且代碼庫非常簡(jiǎn)潔，只有一個(gè)核心內(nèi)核函數(shù)，代碼量約為300行。DeepGEMM采用CUDA編寫，這使得DeepGEMM在安裝過程中無需編譯，通過在運(yùn)行時(shí)使用輕量級(jí)即時(shí)編譯模塊來編譯所有內(nèi)核。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
DeepSeek
+關(guān)注
關(guān)注
2文章
837瀏覽量
3392
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
百度騰訊搶灘布局！DeepSeek-R1升級(jí)和開源背后，國(guó)產(chǎn)AI的逆襲之路
電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）日前，DeepSeek官方宣布DeepSeek-R1模型已完成小版本試升級(jí)，當(dāng)前版本為DeepSeek-R1-0528。次日，
正面對(duì)決GPT-5和Germini-3，DeepSeek-V3.2震撼發(fā)布
12月1日，中國(guó) AI創(chuàng)新企業(yè) DeepSeek 再度加速技術(shù)迭代，今日宣布推出 DeepSeek-V3.2 與 V3.2-Speciale 兩款模型。公司在官網(wǎng)上指出，DeepSeek
DeepSeek模型如何在云服務(wù)器上部署？
隨著大型語言模型（LLM）的應(yīng)用日益普及，許多開發(fā)者和企業(yè)希望將像DeepSeek這樣的優(yōu)秀模型部署到自己的云服務(wù)器上，以實(shí)現(xiàn)私有化、定制化服務(wù)并保障數(shù)據(jù)安全。本文將詳細(xì)闡述部署DeepSeek模型
曙光AI超集群系統(tǒng)全面支持DeepSeek-V3.2-Exp
9月29日，DeepSeek-V3.2-Exp正式發(fā)布并開源，引入創(chuàng)新的稀疏Attention架構(gòu)?；谥袊?guó)首個(gè)AI計(jì)算開放架構(gòu)，芯片層、軟件層、模型層實(shí)現(xiàn)“跨層協(xié)同”，使得曙光AI超集群系統(tǒng)完成對(duì)DeepSeek新版本的深度適
本地部署openWebUI + ollama+DeepSeek 打造智能知識(shí)庫并實(shí)現(xiàn)遠(yuǎn)程訪問
。 DeepSeek 作為一個(gè)開源的大語言模型，我們可以通過 ZeroNews + openWebUI + ollama的方式，輕松的在本地私有化部署 DeepSeek，不受網(wǎng)絡(luò)攻擊影響，滿足不同用戶的需求場(chǎng)景。 下面
如何在NVIDIA Blackwell GPU上優(yōu)化DeepSeek R1吞吐量
開源 DeepSeek R1 模型的創(chuàng)新架構(gòu)包含多頭潛在注意力機(jī)制 (MLA) 和大型稀疏混合專家模型 (MoE)，其顯著提升了大語言模型 (LLM) 的推理效率。
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】+混合專家
感謝電子發(fā)燒友提供學(xué)習(xí)Deepseek核心技術(shù)這本書的機(jī)會(huì)。
讀完《Deepseek核心技術(shù)揭秘》，我深受觸動(dòng)，對(duì)人工智能領(lǐng)域有了全新的認(rèn)識(shí)。了解Deepseek-R1 、Deepseek
發(fā)表于 07-22 22:14
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】--全書概覽
DeepSeek對(duì)人工智能技術(shù)格局的一個(gè)影響
第六章 DeepSeek開源技術(shù)剖析
第七章 大模型發(fā)展未來展望
全書圖文并茂，對(duì)專業(yè)技術(shù)屬于進(jìn)行了講解，也有對(duì)流程、框架、參數(shù)的展示，結(jié)合案例與應(yīng)用方面的代入，是非常好的對(duì)
發(fā)表于 07-21 00:04
【「DeepSeek 核心技術(shù)揭秘」閱讀體驗(yàn)】書籍介紹+第一章讀后心得
進(jìn)行了深入的分析。通過對(duì) FlashMLA、DeepEP、DeepGEMM、DualPipe 與 EPLB、3FS 等項(xiàng)目的介紹，展示了 DeepSeek 在開源領(lǐng)域的積極探索，體現(xiàn)了其推動(dòng)大模型技術(shù)
發(fā)表于 07-17 11:59
信而泰×DeepSeek：AI推理引擎驅(qū)動(dòng)網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代
學(xué)習(xí)、大規(guī)模數(shù)據(jù)分析等前沿技術(shù)。DeepSeek-R1具備卓越的邏輯推理、多模態(tài)分析（文本/圖像/語音）和實(shí)時(shí)交互能力，能夠高效處理代碼生成、復(fù)雜問題求解、跨模態(tài)學(xué)習(xí)等高階任務(wù)。憑借其開源、高效、多
發(fā)表于 07-16 15:29
Arm Neoverse N2平臺(tái)實(shí)現(xiàn)DeepSeek-R1滿血版部署
今年年初，開源大語言模型 (LLM) DeepSeek 在國(guó)內(nèi)外人工智能 (AI) LLM 領(lǐng)域掀起熱議。它在模型架構(gòu)和訓(xùn)練、推理方法上實(shí)現(xiàn)創(chuàng)新，在性能和工程效率上帶來了顯著提升，并在成本效率方面
【書籍評(píng)測(cè)活動(dòng)NO.62】一本書讀懂 DeepSeek 全家桶核心技術(shù)：DeepSeek 核心技術(shù)揭秘
進(jìn)行了深入的分析。通過對(duì) FlashMLA、DeepEP、DeepGEMM、DualPipe 與 EPLB、3FS 等項(xiàng)目的介紹，展示了 DeepSeek 在開源領(lǐng)域的積極探索，體現(xiàn)了其推動(dòng)大模型技術(shù)
發(fā)表于 06-09 14:38
DeepSeek開源新版R1 媲美OpenAI o3
DeepSeek“悄悄”地又放了一個(gè)大招，DeepSeek開源了R1最新0528版本。盡管DeepSeek目前還沒有對(duì)該版本進(jìn)行任何說明，但是根據(jù)著名代碼測(cè)試平臺(tái)Live CodeBe
DeepSeek 引領(lǐng)邊緣 AI 芯片向更高性能、更低功耗、更強(qiáng)泛化能力的方向演進(jìn)
量從十億量級(jí)到數(shù)百億甚至千億級(jí)不等。例如，DeepSeek LLM 67B 在多項(xiàng)評(píng)測(cè)中已超過同級(jí)別開源模型。這些模型通常采用 Transformer 架構(gòu)及如多頭潛在注意力（MLA）、專家混合（MoE
評(píng)論