企業(yè)可以使用 NVIDIA Vera Rubin 驅(qū)動(dòng)的 A5X 實(shí)例 (可擴(kuò)展至近 100 萬個(gè) Rubin GPU)、Google Distributed Cloud 上的 Gemini、機(jī)密 NVIDIA Blackwell GPU 以及由 NVIDIA Nemotron 和 NeMo 提供支持、基于 Gemini Enterprise Agent Platform 的代理式 AI 來構(gòu)建 AI 工廠。

NVIDIA 和 Google Cloud 的合作已超過十年，雙方共同構(gòu)建了一個(gè)全棧 AI 平臺(tái)，涵蓋從性能優(yōu)化的庫(kù)和框架到企業(yè)級(jí)云服務(wù)的每個(gè)技術(shù)層面。

該平臺(tái)使開發(fā)者、初創(chuàng)公司和企業(yè)能夠?qū)⒋硎胶臀锢?AI 從實(shí)驗(yàn)室推向生產(chǎn)環(huán)境——從管理復(fù)雜工作流的智能體到工廠車間的機(jī)器人和數(shù)字孿生。

在本周于拉斯維加斯舉行的 Google Cloud Next 大會(huì)上，雙方的合作迎來了全新里程碑，通過一系列技術(shù)進(jìn)展，進(jìn)一步擴(kuò)展面向 AI 工廠的 Google Cloud AI Hypercomputer，將推動(dòng)代理式和物理 AI 的下一個(gè)前沿發(fā)展。

這些進(jìn)展包括：全新搭載NVIDIA Vera Rubin的 A5X 裸金屬實(shí)例；在運(yùn)行于NVIDIA Blackwell和 NVIDIA Blackwell Ultra GPU 的 Google Distributed Cloud 上的 Google Gemini 預(yù)覽版；搭載 NVIDIA Blackwell GPU 的機(jī)密虛擬機(jī)；以及在 Gemini Enterprise Agent Platform 利用NVIDIA Nemotron開放模型和NVIDIA NeMo框架構(gòu)建的代理式 AI。

新一代基礎(chǔ)設(shè)施：從 NVIDIA Blackwell 到 Vera Rubin

在 Google Cloud Next 大會(huì)上，Google 宣布推出由 NVIDIA Vera Rubin 機(jī)架級(jí)系統(tǒng)驅(qū)動(dòng)的 A5X，通過芯片、系統(tǒng)和軟件之間的極致協(xié)同設(shè)計(jì)，與上一代產(chǎn)品相比，每 Token 的推理成本降至十分之一，每兆瓦的 Token 吞吐量提高了 10 倍。

A5X 將采用NVIDIA ConnectX-9 SuperNIC并與新一代 Google Virgo 網(wǎng)絡(luò)相結(jié)合，單站點(diǎn)集群中可擴(kuò)展至多達(dá) 80,000 個(gè) NVIDIA Rubin GPU，多站點(diǎn)集群中可支持多達(dá) 960,000 個(gè) NVIDIA Rubin GPU，助力客戶在 NVIDIA 優(yōu)化的基礎(chǔ)設(shè)施上運(yùn)行超大規(guī)模的 AI 工作負(fù)載。

Google Cloud AI 和計(jì)算基礎(chǔ)設(shè)施副總裁兼總經(jīng)理 Mark Lohmeyer 表示：“在 Google Cloud，我們相信未來十年的 AI 將取決于客戶在真正集成、AI 優(yōu)化的基礎(chǔ)設(shè)施堆棧上運(yùn)行其要求高度嚴(yán)苛的工作負(fù)載能力。通過將 Google Cloud 可擴(kuò)展的基礎(chǔ)設(shè)施和托管 AI 服務(wù)與 NVIDIA 先進(jìn)的平臺(tái)、系統(tǒng)和軟件相結(jié)合，我們?yōu)榭蛻籼峁┝藰O大的靈活性，使其能夠訓(xùn)練、調(diào)優(yōu)和部署從前沿模型、開放模型到智能體和物理 AI 工作負(fù)載在內(nèi)的各種場(chǎng)景，同時(shí)優(yōu)化性能、成本和可持續(xù)性。”

Google Cloud 的 NVIDIA Blackwell 系列產(chǎn)品涵蓋了從搭載 NVIDIA HGX Blackwell 系統(tǒng)的 A4 虛擬機(jī)到搭載 NVIDIA Grace Blackwell 機(jī)架級(jí)擴(kuò)展系統(tǒng)的 A4X 和搭載 NVIDIA Grace Blackwell Ultra 機(jī)架級(jí)擴(kuò)展系統(tǒng)的 A4X Max 虛擬機(jī)，以及搭載了 NVIDIA RTX PRO Blackwell 服務(wù)器版 GPU 的分片 G4 虛擬機(jī)。

客戶可以根據(jù)自身需求調(diào)整加速能力，既可以使用多個(gè)互連的 NVL72 機(jī)架，將部署規(guī)模橫向擴(kuò)展到數(shù)萬個(gè) NVIDIA Blackwell GPU；也可以使用單個(gè)機(jī)架，通過第五代 NVIDIA NVLink 和 NVLink 5 交換機(jī)，將配置縱向擴(kuò)展到 72 個(gè) Blackwell GPU，甚至僅需使用八分之一個(gè) GPU。

這一綜合平臺(tái)可幫助團(tuán)隊(duì)優(yōu)化各種工作負(fù)載，從混合專家 (MoE) 推理、多模態(tài)推理和數(shù)據(jù)處理，到下一代物理 AI 和機(jī)器人技術(shù)的復(fù)雜模擬。

前沿 AI 實(shí)驗(yàn)室已經(jīng)在使用這一基礎(chǔ)設(shè)施。Thinking Machines Lab 正在將基于搭載 Grace Blackwell Ultra 機(jī)架級(jí)擴(kuò)展系統(tǒng)的 A4X Max 虛擬機(jī)上擴(kuò)展其 Tinker 應(yīng)用編程接口 (API)，以加速訓(xùn)練。同時(shí)，OpenAI正在 Google Cloud 上使用基于 NVIDIA Grace Blackwell Ultra 機(jī)架級(jí)擴(kuò)展系統(tǒng) (A4X Max 虛擬機(jī))和基于 NVIDIA Grace Blackwell 機(jī)架級(jí)擴(kuò)展系統(tǒng)的 A4X 虛擬機(jī)運(yùn)行大規(guī)模推理，以處理其包括 ChatGPT 在內(nèi)的要求嚴(yán)苛的推理工作負(fù)載。

讓 AI 所需之處安全運(yùn)行：主權(quán)和機(jī)密

運(yùn)行在 NVIDIA Blackwell 和 Blackwell Ultra GPU 上的 Google Gemini 模型現(xiàn)已在 Google Distributed Cloud 上推出預(yù)覽版，用戶可以將 Google 的前沿模型部署到其機(jī)密數(shù)據(jù)所在的位置。

借助 NVIDIA Blackwell 平臺(tái)的NVIDIA 機(jī)密計(jì)算，Gemini 模型能夠在受保護(hù)的環(huán)境中運(yùn)行。在該環(huán)境中，提示和微調(diào)數(shù)據(jù)保持加密狀態(tài)，包括基礎(chǔ)設(shè)施運(yùn)營(yíng)商在內(nèi)的未經(jīng)授權(quán)的第三方無法查看或更改這些數(shù)據(jù)。

在公有云中，搭載 NVIDIA RTX PRO Blackwell GPU 的機(jī)密 G4 虛擬機(jī)的預(yù)覽版將這些保護(hù)功能引入多租戶環(huán)境，幫助保護(hù)提示、AI 模型和數(shù)據(jù)，使受監(jiān)管行業(yè)的客戶能夠在不影響安全性和性能的情況下使用 AI 的強(qiáng)大功能。

這是云上首個(gè)基于 NVIDIA Blackwell GPU 的機(jī)密計(jì)算產(chǎn)品，為 Google Cloud 客戶構(gòu)建了一個(gè)安全、高性能 AI 的全新基礎(chǔ)。

面向代理式 AI 的開放模型和 API

Google Cloud 上的 NVIDIA 平臺(tái)經(jīng)過優(yōu)化，可運(yùn)行各種模型——從 Google 的前沿 Gemini 和Gemma系列到 NVIDIA Nemotron 開放模型和更廣泛的開放權(quán)重生態(tài)系統(tǒng)，使開發(fā)者能夠構(gòu)建具有推理、規(guī)劃和行動(dòng)能力的代理式 AI 系統(tǒng)。

NVIDIA Nemotron 3Super 現(xiàn)可在 Gemini Enterprise Agent Platform 上使用，為開發(fā)者提供了一條直接途徑，以便發(fā)現(xiàn)、定制和部署經(jīng)過 NVIDIA 優(yōu)化的推理和多模態(tài)模型，以支持智能體工作流。

Google Cloud 和 NVIDIA 還令大規(guī)模訓(xùn)練和定制開放模型變得更加容易。Gemini Enterprise Agent Platform 上的托管訓(xùn)練集群引入了使用NVIDIA NeMo RL構(gòu)建的全新托管強(qiáng)化學(xué)習(xí) (RL) API，用于大規(guī)模加速 RL 訓(xùn)練，同時(shí)實(shí)現(xiàn)集群規(guī)模、故障恢復(fù)和作業(yè)執(zhí)行的自動(dòng)化，使團(tuán)隊(duì)能夠?qū)Ｗ⒂谥悄荏w行為和模型質(zhì)量，而不是基礎(chǔ)設(shè)施管理。

網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者CrowdStrike使用NVIDIA NeMo開放庫(kù)(如 NeMo Data Designer、NeMo Automodel 和 NeMo Megatron Bridge)，生成合成數(shù)據(jù)，并針對(duì)特定領(lǐng)域網(wǎng)絡(luò)安全對(duì) Nemotron 和其他開放大語言模型進(jìn)行微調(diào)。這些功能在配備 NVIDIA Blackwell GPU 的 Gemini Enterprise Agent Platform 上的托管訓(xùn)練集群上運(yùn)行，可加速威脅檢測(cè)、調(diào)查和響應(yīng)。

打造工業(yè)和物理 AI 的未來

大規(guī)模構(gòu)建工業(yè)和物理 AI 需要強(qiáng)大的硬件以及開放模型、庫(kù)和框架的組合，以開發(fā)這些復(fù)雜的端到端工作流。

在 Google Cloud 上提供 NVIDIA AI 基礎(chǔ)設(shè)施、開放模型和物理 AI 庫(kù)，正在推動(dòng)工業(yè)和物理 AI 應(yīng)用成為主流，幫助客戶模擬、優(yōu)化和自動(dòng)化現(xiàn)實(shí)世界的工作流。

包括 Cadence 和西門子數(shù)字化工業(yè)軟件在內(nèi)的領(lǐng)先工業(yè)軟件提供商的解決方案現(xiàn)已在 Google Cloud 上推出，并由 NVIDIA AI 基礎(chǔ)設(shè)施加速。這些應(yīng)用正在推動(dòng)從芯片到輔助駕駛汽車、機(jī)器人、航空航天平臺(tái)、重型機(jī)械和大規(guī)模生產(chǎn)系統(tǒng)等各種產(chǎn)品的下一代設(shè)計(jì)、工程和制造。

借助Google Cloud Marketplace上提供的NVIDIA Omniverse庫(kù)和開源NVIDIA Isaac Sim機(jī)器人仿真框架，開發(fā)者可以構(gòu)建物理精確的數(shù)字孿生，并開發(fā)自定義機(jī)器人仿真工作流，以便在實(shí)際部署之前訓(xùn)練、仿真和驗(yàn)證機(jī)器人。

適用于NVIDIA Cosmos Reason 2的 NVIDIA NIM 可以部署到 Google Vertex AI 和 Google Kubernetes Engine，使機(jī)器人和視覺 AI 智能體能夠像人類一樣在物理世界中觀察、推理和行動(dòng)，為自動(dòng)數(shù)據(jù)管理和注釋、高級(jí)機(jī)器人規(guī)劃和推理以及用于實(shí)時(shí)洞察和決策的智能視頻分析智能體等用例提供支持。

這些技術(shù)共同幫助開發(fā)者從計(jì)算機(jī)輔助設(shè)計(jì)無縫過渡到工業(yè)數(shù)字孿生和 AI 驅(qū)動(dòng)的機(jī)器人，加速?gòu)脑O(shè)計(jì)簽署到在 Google Cloud 上運(yùn)行的 NVIDIA 平臺(tái)上進(jìn)行工廠優(yōu)化的整個(gè)流程。

久經(jīng)驗(yàn)證的影響：從初創(chuàng)公司到全球企業(yè)

全球企業(yè)、AI 實(shí)驗(yàn)室和高增長(zhǎng)初創(chuàng)公司正在使用 NVIDIA 和 Google Cloud 的協(xié)作開發(fā)平臺(tái)，加快從原型開發(fā)到生產(chǎn)的進(jìn)程，包括 Snap、Schr?dinger 和 Salesforce。Snap正在通過將數(shù)據(jù)工作流轉(zhuǎn)移到 Google Cloud 上的 GPU 加速 Spark，降低大規(guī)模 A/B 測(cè)試的成本。Schr?dinger 則使用 Google Cloud 上的 NVIDIA 加速計(jì)算將長(zhǎng)達(dá)數(shù)周的藥物研發(fā)仿真模擬縮短至僅需數(shù)小時(shí)。

初創(chuàng)公司正在利用 Google Cloud 上的 NVIDIA 加速計(jì)算構(gòu)建新的智能體和 AI 原生應(yīng)用，推動(dòng)下一波 AI 創(chuàng)新浪潮。

作為NVIDIA 初創(chuàng)加速計(jì)劃和 Google for Startups 計(jì)劃所展現(xiàn)的更廣泛的生態(tài)系統(tǒng)的一部分，CodeRabbit和Factory正在 Google Cloud 上使用基于 NVIDIA Nemotron 的模型驅(qū)動(dòng)代碼審查和自主軟件開發(fā)智能體，而 Aible、Mantis AI、Photoroom和 Baseten 正在 Google Cloud 上的 NVIDIA 全棧平臺(tái)上構(gòu)建企業(yè)數(shù)據(jù)、視頻智能、生成式圖像和托管推理解決方案。

在短短一年多的時(shí)間里，已有超過 90,000 名開發(fā)者加入 NVIDIA 和 Google Cloud 共同打造的開發(fā)者社區(qū)，并借助該平臺(tái)構(gòu)建和擴(kuò)展新的 AI 應(yīng)用。

此外，NVIDIA 在 Next 上榮獲了兩項(xiàng)“Google Cloud 年度合作伙伴”獎(jiǎng)項(xiàng)——AI 全球技術(shù)合作伙伴和基礎(chǔ)設(shè)施現(xiàn)代化計(jì)算——旨在認(rèn)可其深厚的技術(shù)專長(zhǎng)和雙方在商業(yè)落地的協(xié)同。

NVIDIA 和 Google Cloud 將攜手為客戶提供云級(jí)規(guī)模的平臺(tái)，幫助其將實(shí)驗(yàn)智能體和仿真轉(zhuǎn)化為生產(chǎn)系統(tǒng)，用于審查代碼、車隊(duì)安全防護(hù)、支持全新 AI 應(yīng)用并優(yōu)化現(xiàn)實(shí)世界中的工廠。