Oracle Cloud Infrastructure 率先運(yùn)行 NVIDIA AI 超級(jí)計(jì)算實(shí)例；微軟 Azure、谷歌云等即將托管 DGX Cloud

加利福尼亞州圣克拉拉市 – GTC – 太平洋時(shí)間 2023 年 3 月 21 日 – NVIDIA 今日發(fā)布 NVIDIA DGX Cloud。這項(xiàng) AI 超級(jí)計(jì)算服務(wù)使企業(yè)能夠即時(shí)接入用于訓(xùn)練生成式 AI 等開創(chuàng)性應(yīng)用的高級(jí)模型所需的基礎(chǔ)設(shè)施和軟件。

DGX Cloud 可提供 NVIDIA DGX AI 超級(jí)計(jì)算專用集群，并配以 NVIDIA AI 軟件。這項(xiàng)服務(wù)使得每個(gè)企業(yè)都可以通過一個(gè)簡(jiǎn)單的網(wǎng)絡(luò)瀏覽器就能訪問自己的 AI 超級(jí)計(jì)算機(jī)，免除了購(gòu)置、部署和管理本地基礎(chǔ)設(shè)施的復(fù)雜性。

企業(yè)可按月租用 DGX Cloud 集群，以便能夠快速、輕松地?cái)U(kuò)展大型多節(jié)點(diǎn)訓(xùn)練工作負(fù)載的開發(fā)，無須等待需求量通常很大的加速計(jì)算資源。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“我們正處于 AI 的‘iPhone’時(shí)刻。初創(chuàng)企業(yè)正在競(jìng)相打造顛覆性的產(chǎn)品和商業(yè)模式，老牌企業(yè)則在尋求應(yīng)對(duì)之法。DGX Cloud 使客戶能夠在全球規(guī)模的云上即時(shí)接入 NVIDIA AI 超級(jí)計(jì)算。”

NVIDIA 正在與領(lǐng)先的云服務(wù)商聯(lián)合托管 DGX Cloud 基礎(chǔ)設(shè)施，Oracle Cloud Infrastructure（OCI）將首當(dāng)其沖，通過其 OCI 超級(jí)集群，提供專門構(gòu)建的 RDMA 網(wǎng)絡(luò)、裸金屬計(jì)算以及高性能本地塊存儲(chǔ)，可擴(kuò)展到超過 32,000 個(gè) GPU 所組成的超級(jí)集群。

微軟 Azure 預(yù)計(jì)將在下個(gè)季度開始托管 DGX Cloud。這項(xiàng)服務(wù)還將在不久之后擴(kuò)展到谷歌云等。

行業(yè)巨頭利用 NVIDIA DGX Cloud

加速取得成功

首批使用 DGX Cloud 的 AI 行業(yè)先鋒包括全球領(lǐng)先的生物技術(shù)公司安進(jìn)（Amgen）、保險(xiǎn)科技領(lǐng)導(dǎo)者 CCC Intelligent Solutions（CCC）以及數(shù)字業(yè)務(wù)平臺(tái)提供商 ServiceNow。

安進(jìn)正在使用 DGX Cloud 與 NVIDIA BioNeMo 大型語言模型軟件來加速藥物研發(fā)，比如包含 NVIDIA RAPIDS 數(shù)據(jù)科學(xué)加速庫的 NVIDIA AI Enterprise 軟件。

安進(jìn)數(shù)字創(chuàng)新研究加速中心、生物制劑治療研究執(zhí)行總監(jiān) Peter Grandsard 表示：“借助 NVIDIA DGX Cloud 和 NVIDIA BioNeMo，我們的研究人員能夠把精力集中在更深層次的生物學(xué)研究上，無需再處理 AI 基礎(chǔ)設(shè)施和設(shè)置機(jī)器學(xué)習(xí)工程。相較于其他平臺(tái)，我們借助 DGX Cloud 的強(qiáng)大算力和多節(jié)點(diǎn)能力，同時(shí)結(jié)合 BioNeMo 將蛋白質(zhì) LLM 的訓(xùn)練速度提高了 3 倍，使用 NVIDIA RAPIDS 將訓(xùn)練后分析速度提高了 100 倍?！?/p>

財(cái)產(chǎn)和意外保險(xiǎn)領(lǐng)域的領(lǐng)先云平臺(tái) CCC 正在使用 DGX Cloud，以加快和擴(kuò)展其 AI 模型的開發(fā)與訓(xùn)練。這些模型為該公司的創(chuàng)新汽車?yán)碣r解決方案賦能， 幫助加速該行業(yè)的智能自動(dòng)化，并為每天數(shù)百萬的企業(yè)用戶及其消費(fèi)者改進(jìn)理賠體驗(yàn)。

ServiceNow 正在使用 DGX Cloud 與本地 NVIDIA DGX 超級(jí)計(jì)算機(jī)，來構(gòu)建靈活可擴(kuò)展的混合云 AI 超級(jí)計(jì)算，以來幫助其在大型語言模型、代碼生成和因果分析方面的 AI 研究。ServiceNow 還與其他機(jī)構(gòu)共同發(fā)起了一個(gè)負(fù)責(zé)任的開放科學(xué)生成式 AI 倡議——BigCode 項(xiàng)目，其在 NVIDIA 的 Megatron-LM 框架上進(jìn)行訓(xùn)練。

打開瀏覽器即可使用

NVIDIA AI 超級(jí)計(jì)算和軟件

企業(yè)可以使用 NVIDIA Base Command 平臺(tái)軟件管理和監(jiān)控 DGX Cloud 訓(xùn)練工作負(fù)載，該軟件可實(shí)現(xiàn) DGX Cloud 以及本地 NVIDIA DGX 超級(jí)計(jì)算機(jī)之間用戶體驗(yàn)的無縫銜接。通過使用 Base Command 平臺(tái)，用戶可根據(jù)每項(xiàng)工作所需的 DGX 基礎(chǔ)設(shè)施的數(shù)量和類型，將工作負(fù)載與之相匹配。

DGX Cloud 包含 NVIDIA AI Enterprise。NVIDIA AI Enterprise 作為 NVIDIA AI 平臺(tái)的軟件層，通過提供端到端 AI 框架和預(yù)訓(xùn)練模型，來加速數(shù)據(jù)科學(xué)流程，并簡(jiǎn)化生產(chǎn)級(jí) AI 的開發(fā)和部署。今日發(fā)布的 NVIDIA AI Enterprise 3.1 提供新的預(yù)訓(xùn)練模型、經(jīng)過優(yōu)化的框架和加速數(shù)據(jù)科學(xué)軟件庫，可進(jìn)一步幫助開發(fā)人員啟動(dòng)他們的 AI 項(xiàng)目。

DGX Cloud 的每個(gè)實(shí)例都配有 8 個(gè) NVIDIA H100 或A100 80GB Tensor Core GPU，每個(gè)節(jié)點(diǎn)共有 640GB GPU 內(nèi)存。使用 NVIDIA 網(wǎng)絡(luò)解決方案構(gòu)建的高性能、低延遲結(jié)構(gòu)確保了工作負(fù)載能夠在互連系統(tǒng)集群中擴(kuò)展，使多個(gè)實(shí)例就像一個(gè)巨型的 GPU，以滿足高級(jí) AI 訓(xùn)練性能要求。集成在 DGX Cloud 中的高性能存儲(chǔ)為 AI 超級(jí)計(jì)算提供了完整的解決方案。

DGX Cloud 特有的來自 NVIDIA 專家的支持貫穿整個(gè) AI 開發(fā)流程。用戶可以直接與 NVIDIA 工程師一起優(yōu)化模型，并迅速解決各種行業(yè)用例中的開發(fā)難題。

供應(yīng)情況

DGX Cloud 實(shí)例的價(jià)格為每實(shí)例每月 36,999 美元起。企業(yè)機(jī)構(gòu)可以聯(lián)系 NVIDIA 合作伙伴網(wǎng)絡(luò)了解更多詳情。

掃描海報(bào)二維碼，或點(diǎn)擊“閱讀原文”，即可觀看 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛 GTC23 主題演講重播！

?

百里挑一！

3 月 23 日不可錯(cuò)過的演講!

GTC23 | 黃仁勛與 Ilya Sutskever 的爐邊談話重磅來襲！— 看 AI 的現(xiàn)狀和未來