AI Factory 的經(jīng)驗證設計將加速基礎(chǔ)設施與軟件（包括全新 NVIDIA NIM 微服務和經(jīng)擴展的 NVIDIA Blueprint）相結(jié)合，為各國和企業(yè)簡化了全棧式 AI 開發(fā)的流程。

歐盟正在投入超過 2000 億美元發(fā)展 AI，但若要最大限度獲取投資回報，其開發(fā)者必須應對三個關(guān)鍵制約因素：計算資源可用性受限、數(shù)據(jù)隱私需求和安全優(yōu)先考量。

在 VivaTech 上的 NVIDIA GTC 巴黎主題演講中公布的一套全新 NVIDIA 技術(shù)，使開發(fā)者在 AI 開發(fā)和部署周期的每個階段都能更容易地應對這些挑戰(zhàn)。企業(yè)可以使用這些工具在本地或云端構(gòu)建可擴展的 AI 工廠，快速創(chuàng)建安全、優(yōu)化的主權(quán) AI 智能體。

擴展的NVIDIA Enterprise AI Factory的經(jīng)驗證設計將 NVIDIA Blackwell 加速的基礎(chǔ)設施與新一代軟件堆棧相結(jié)合，為主權(quán) AI 提供了一站式解決方案。

其核心是全新的 NIM，讓企業(yè)能夠為各種開放的大語言模型 (LLM) 架構(gòu)快速部署極速推理，計劃支持 Hugging Face 上托管的超過 10 萬個開放、私有和專業(yè)領(lǐng)域的模型。

最上層是全新的NVIDIA AI Blueprint和開發(fā)者示例。這些內(nèi)容指導開發(fā)者如何在確保強大的安全性、更高程度的隱私保護，并且能夠持續(xù)改進的前提下，簡化創(chuàng)建并引入 AI 智能體的過程。

借助這些新工具，包括AI-Q NVIDIA Blueprint和用于數(shù)據(jù)飛輪的 NVIDIA Blueprint，以及基于NVIDIA NeMo用于 AI 安全的藍圖，歐洲的機構(gòu)可以在不影響性能、控制或合規(guī)性的前提下大規(guī)模構(gòu)建、部署和運行 AI 工廠。

歐洲大陸的主要企業(yè)已經(jīng)在為近乎所有行業(yè)構(gòu)建 NVIDIA 加速的 AI 工廠。該地區(qū)最大的金融公司，包括法國巴黎銀行 (BNP Paribas) 和 Finanz Informatik，正在擴展 AI 工廠來運行金融服務 AI 智能體，以協(xié)助員工和客戶。由歐萊雅支持的初創(chuàng)公司 Noli.com 正與埃森哲協(xié)作使用其 AI Refinery 開發(fā) AI 美容配對器 (AI Beauty Matchmaker)。IQVIA 正在構(gòu)建 AI 智能體以支持醫(yī)療健康服務。

在電信行業(yè)，英國電信集團 (BT Group) 正在使用 ServiceNow 優(yōu)化客戶服務并解決其網(wǎng)絡中的異常。挪威電信 (Telenor) 正使用其 AI 工廠運行 NVIDIA AI Blueprint，以實現(xiàn)自主網(wǎng)絡配置。

通過企業(yè)級 AI 工廠促進 AI 智能體開發(fā)

創(chuàng)建主權(quán) AI 智能體的第一步是模型開發(fā)，通常使用針對特定用例的區(qū)域或企業(yè)特定數(shù)據(jù)。為了訓練、管理和擴展這些模型，主權(quán) AI 開發(fā)者需要 AI 工廠的支持。

本地部署的主權(quán) AI 基礎(chǔ)設施在政府、金融和醫(yī)療健康等受監(jiān)管行業(yè)中尤其有價值。NVIDIA Enterprise AI Factory 的經(jīng)驗證設計通過本地部署 AI 工廠（其中每個硬件和軟件層都經(jīng)過優(yōu)化），幫助這些行業(yè)快速擴展 AI 應用支持能力。

其涵蓋 NVIDIA Blackwell 加速計算（包括 NVIDIA RTX PRO 服務器版）、NVIDIA 網(wǎng)絡和NVIDIA AI Enterprise軟件，用于加速生成式和代理式 AI 應用。

多家區(qū)域軟件提供商，包括 Adaptive ML、ClearML、Dataloop、Deepchecks、deepset、Domino Data Labs、EnterpriseDB、Iguazio、Quantiphi、Teradata、Weaviate 和 Wiz，正在整合這一經(jīng)驗證設計，幫助開發(fā)者大規(guī)模構(gòu)建和部署企業(yè) AI 智能體。

NVIDIA Enterprise AI Factory 還可以與來自區(qū)域合作伙伴的軟件一起使用，包括 aiOla、DeepL、Elastic、Photoroom、PolyAI、Qodo、Sana Labs、Tabnine 和 ThinkDeep 等。

NIM 在 NVIDIA 基礎(chǔ)設施上加速 LLM 部署

準備好部署 AI 模型和智能體后，開發(fā)者可以利用NVIDIA NIM微服務，在不斷擴展的全球 LLM 中實現(xiàn)加速企業(yè)級推理，包括針對特定語言和領(lǐng)域定制的模型。

NIM 微服務即將支持 Hugging Face 上的海量 LLM。NIM 可通過如NVIDIA TensorRT-LLM、SGLang 或 vLLM 等理想的推理引擎自動優(yōu)化模型，使用戶只需幾個簡單命令，就能在任意 NVIDIA 加速基礎(chǔ)設施上快速部署他們偏好的 LLM 進行高性能 AI 推理。

Hugging Face 產(chǎn)品副總裁 Jeff Boudier 表示：“NIM 使得在 NVIDIA GPU 上部署 Hugging Face 的各種 LLM 變得容易。通過支持 Hugging Face Hub 上托管的超過 10 萬個開放和私有 LLM，NIM 使開放模型的性能和多樣性助力企業(yè) AI 智能體。”

企業(yè)模型構(gòu)建商和軟件開發(fā)工具創(chuàng)建者 AI21 Labs、Dream Security、IBM 和 JetBrains，以及歐洲研究和創(chuàng)新機構(gòu)巴塞羅那超級計算中心 (Barcelona Supercomputing Center)、Bielik.AI 和 UTTER，正在以 NIM 微服務形式提供專業(yè)的 LLM。

這些經(jīng)優(yōu)化的模型支持 35 種區(qū)域語言，包括阿拉伯語、捷克語、荷蘭語、德語、希伯來語、法語、波蘭語、葡萄牙語和西班牙語，為開發(fā)者構(gòu)建具有本地語言和文化理解能力的 AI 智能體提供了更多選擇。

NVIDIA 還與歐洲的多個模型構(gòu)建商和 AI 聯(lián)盟協(xié)作，使用NVIDIA Nemotron技術(shù)優(yōu)化本地模型。

用于更智能、更安全的 AI 智能體藍圖

為助力開發(fā)者構(gòu)建和部署強大、安全的 AI 模型和智能體，NVIDIA 提供了易于遵循的藍圖和開發(fā)者示例。這些參考設計使歐洲開發(fā)者能夠?qū)⒛Ｐ秃椭悄荏w連接到專有數(shù)據(jù)、實施安全策略并持續(xù)更新優(yōu)化，從而根據(jù)區(qū)域需求進行定制。

AI-Q NVIDIA Blueprint 提供了一份開發(fā)代理式系統(tǒng)的指南，該系統(tǒng)具備快速多模態(tài)數(shù)據(jù)提取和強大信息檢索的能力。該藍圖包括NVIDIA NeMo Agent工具包，這是一個用于評估和優(yōu)化 AI 智能體的開源軟件庫。

NVIDIA NeMo Agent 工具包帶來智能的代理式 AI 工作流，并與開放標準兼容，包括模型上下文協(xié)議 (MCP)，這是一個用于連接 AI 智能體與工具的開源框架。這種集成使其能夠與 MCP 服務器提供的工具實現(xiàn)互操作。NeMo Agent 工具包還與智能體框架集成，包括 CrewAI、LangChain、LlamaIndex、Microsoft Semantic Kernel 和 Weights & Biases。

AI-Q NVIDIA Blueprint 為企業(yè)提供了構(gòu)建領(lǐng)域?qū)Ｓ?AI 智能體的基礎(chǔ)，這些智能體可以使用各種企業(yè)數(shù)據(jù)源，根據(jù)組織特定需求生成情境化的洞察。NVIDIA 合作伙伴包括 DDN、戴爾科技、慧與、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA 使用 AI-Q NVIDIA Blueprint 將他們的數(shù)據(jù)平臺連接到 AI 智能體。

用于構(gòu)建數(shù)據(jù)飛輪的 NVIDIA AI Blueprint 使企業(yè)能夠不斷優(yōu)化其 AI 智能體，包括用于將推理數(shù)據(jù)轉(zhuǎn)化為新的訓練和評估數(shù)據(jù)集的工具，以及保持高準確性的同時自動篩選優(yōu)化模型的工具。

基于 NVIDIA AI Enterprise 構(gòu)建的藍圖整合了生產(chǎn)環(huán)境流量和用戶反饋，并觸發(fā)重新訓練和重新部署管線，創(chuàng)建了一個持續(xù)反饋循環(huán)以增強模型性能。由模塊化 NVIDIA NeMo 微服務提供支持，它提供靈活的部署選項，可在本地或是云端的任何加速計算基礎(chǔ)設施上運行。

該藍圖可評估現(xiàn)有和新的候選模型，幫助開發(fā)者識別和部署更小、更快的模型，其精度不亞于大型模型。借助此工具，企業(yè)可以選擇提高計算效率并降低總擁有成本的模型，獲取更精簡、更具成本效益的 AI。

NVIDIA 合作伙伴 VAST Data、Weights & Biases 和 Iguazio（由麥肯錫旗下 AI 公司 QuantumBlack 收購的 AI 平臺公司），正在基于用于數(shù)據(jù)飛輪的 NVIDIA AI Blueprint 進行構(gòu)建，以整合基于其軟件平臺的額外功能，如高階監(jiān)控能力。

為了幫助企業(yè)安全采用開源模型，用于代理式 AI 安全的藍圖提供了一個用于評估和增強模型安全性的框架，涵蓋內(nèi)容安全、系統(tǒng)安全和隱私保護。

它指導開發(fā)者使用 NVIDIA 精選數(shù)據(jù)集和標準化評估工具，通過后訓練為模型投入使用做好準備。該方案還提供可操作的安全和漏洞指標，涵蓋破解、提示注入和有害內(nèi)容，使企業(yè)能夠加速部署，同時不影響合規(guī)性或信任。

企業(yè)已準備集成新的 NVIDIA 軟件

包括 ActiveFence、Amdocs、思科、Cloudera、CrowdStrike、IBM、IQVIA、SAP、ServiceNow 和趨勢科技 (Trend Micro) 在內(nèi)的全球企業(yè)正在采用 NVIDIA NIM 微服務和藍圖，加速網(wǎng)絡安全、金融服務、醫(yī)療健康、電信等領(lǐng)域的 AI 工作流。

Amdocs 是針對通信和媒體提供商的領(lǐng)先軟件和服務提供商，將 NVIDIA AI Enterprise（包括 NVIDIA NeMo 和 NVIDIA NIM 微服務）用于 Amdocs' amAIz AI 產(chǎn)品和服務套件中。該公司通過 NVIDIA AI Blueprint 在 LLMOps 管線中構(gòu)建數(shù)據(jù)飛輪，以實現(xiàn)高效的 LLM 微調(diào)。

Amdocs 計劃整合更多 NIM 微服務，以支持用于內(nèi)容創(chuàng)建、翻譯、網(wǎng)絡自動化和客戶服務的 AI 智能體。

Capgemini、埃森哲、德勤、安永、Infosys、Tata 咨詢服務和 Wipro 等全球系統(tǒng)集成商正在借助 NVIDIA 全棧軟件幫助企業(yè)構(gòu)建其 AI 工廠。