近日，由上海天數(shù)智芯半導(dǎo)體有限公司（以下簡(jiǎn)稱(chēng)“天數(shù)智芯”）主導(dǎo)的DeepSpark開(kāi)源社區(qū)正式發(fā)布了百大應(yīng)用開(kāi)放平臺(tái)24.06版本。 百大應(yīng)用開(kāi)放平臺(tái)作為國(guó)內(nèi)領(lǐng)先的AI和通用計(jì)算應(yīng)用開(kāi)發(fā)及評(píng)測(cè)平臺(tái)，甄選上百個(gè)與行業(yè)應(yīng)用深度耦合的開(kāi)源算法和模型，支持主流生態(tài)應(yīng)用框架，并針對(duì)行業(yè)需求構(gòu)建多維度評(píng)測(cè)體系，廣泛支持各類(lèi)落地場(chǎng)景。

本次24.06版本首度上線(xiàn)了多維度評(píng)測(cè)系統(tǒng)社區(qū)版，旨在從速度、精度、顯存占用、功耗、線(xiàn)性度、穩(wěn)定性等多個(gè)維度來(lái)全面評(píng)價(jià)通用GPU加速卡在模型訓(xùn)練或推理中的綜合表現(xiàn)。多維度評(píng)測(cè)系統(tǒng)社區(qū)版首期支持的36個(gè)訓(xùn)練模型均來(lái)自DeepSparkHub百大訓(xùn)練模型庫(kù)，歡迎社區(qū)用戶(hù)使用體驗(yàn)。

同時(shí)，24.06版本繼續(xù)豐富DeepSparkHub百大模型訓(xùn)練庫(kù)和DeepSparkInference推理模型庫(kù)中的模型示例。

24.06版本在DeepSparkHub百大訓(xùn)練模型庫(kù)中新增了7個(gè)基于PyTorch框架的模型以及對(duì)OpenPCDet工具箱的支持，同時(shí)上線(xiàn)了8個(gè)基于DeepSpeed、Megatron-DeepSpeed和Firefly的大語(yǔ)言模型訓(xùn)練示例。迄今為止在DeepSparkHub百大訓(xùn)練模型庫(kù)累計(jì)開(kāi)源上線(xiàn)的模型數(shù)量達(dá)到了276個(gè)。

24.06版本在DeepSparkInference推理模型庫(kù)中新增了基于天數(shù)智芯自研推理引擎IGIE和IxRT的31個(gè)推理模型示例，同時(shí)還新增了4個(gè)基于vLLM、TensorRT-LLM和Text Generation Inference的大語(yǔ)言模型推理示例。值得一提的是，今年6月天數(shù)智芯與啟智社區(qū)合作舉辦的芯動(dòng)開(kāi)源首場(chǎng)-天數(shù)智芯專(zhuān)場(chǎng)活動(dòng)中全面采用了來(lái)自DeepSparkInference的推理模型，社區(qū)用戶(hù)累計(jì)完成了近300次推理模型執(zhí)行和結(jié)果提交，充分展現(xiàn)了智鎧100通用GPU推理加速卡的通用性。

隨著DeepSparkHub百大訓(xùn)練模型庫(kù)和DeepSparkInference推理模型庫(kù)的持續(xù)豐富，進(jìn)一步展示了天數(shù)智芯通用GPU產(chǎn)品天垓和智鎧的通用性和易用性。歡迎行業(yè)合作伙伴、社區(qū)用戶(hù)和開(kāi)發(fā)者以任何形式參與DeepSpark開(kāi)源社區(qū)。

審核編輯：彭菁