近日，飛騰騰云S5000C和飛騰騰銳D3000成功實現(xiàn)對DeepSeek全系列大模型的端到端支持，覆蓋數(shù)據(jù)中心和終端場景，本地部署的推理效率與國外同類產(chǎn)品架構(gòu)解決方案相當(dāng)。

近年來，飛騰積極擁抱AI浪潮，致力于推動國產(chǎn)芯片與AI技術(shù)的深度融合，去年7月，飛騰攜手生態(tài)伙伴打造并發(fā)布了 全棧國產(chǎn)化智算中心解決方案，為眾多行業(yè)提供從端到云的智能化算力服務(wù)。2024年，DeepSeek-V2.5 234B大模型便已在飛騰騰云S5000C平臺成功實現(xiàn)穩(wěn)定運行?；陲w騰騰云S5000C的設(shè)備搭配8塊國產(chǎn)AI卡，其整體性能可達到國外平臺性能的80%左右，已支撐行業(yè)用戶在項目中使用。

今年春節(jié)期間，DeepSeek發(fā)布了最新的DeepSeek-V3和R1版本后，憑借其卓越的性能和極高的性價比，迅速成為科技領(lǐng)域的焦點，為開發(fā)者和企業(yè)提供了更高效、更靈活的私有化部署解決方案。飛騰技術(shù)團隊第一時間在AI實驗室進行了其在飛騰騰云S5000C平臺和飛騰騰銳D3000上本地部署驗證，形成整體解決方案，助力用戶構(gòu)建端到端國產(chǎn)平臺DeepSeek大模型智算環(huán)境。

在數(shù)據(jù)中心側(cè)，基于飛騰騰云S5000C的服務(wù)器可以與多款A(yù)I加速卡配合實現(xiàn)DeepSeek蒸餾版和全量版部署。飛騰AI實驗室在單機8卡服務(wù)器平臺已進行蒸餾版DeepSeek-R1-Distill-Llama-70B版本測試，實測推理速度可達到22tokens/s，本地部署的推理效率與國外同類產(chǎn)品架構(gòu)解決方案相當(dāng)。完整版DeepSeek R1 671B模型采用分布式推理框架，基于四機32卡AI服務(wù)器集群運行可部署成功，為企業(yè)級私有化部署提供完善的軟硬件解決方案。

在用戶終端側(cè)，基于飛騰騰銳D3000的臺式機可以本地部署DeepSeek-R1 7B蒸餾版模型，搭配1張國產(chǎn)推理卡，實現(xiàn)AI PC能力，助力用戶建立安全可靠的本地知識助手。

飛騰平臺已實現(xiàn)端到端支持DeepSeek全系列、眾多開源和國產(chǎn)頭部大模型的本地化部署，為企業(yè)級和個人應(yīng)用提供全國產(chǎn)化、軟硬一體、性價比高、安全、開放的全棧解決方案，與行業(yè)客戶和生態(tài)伙伴一同助力行業(yè)的數(shù)字化轉(zhuǎn)型和智能化升級！