NVIDIA AI 安全棧為先進(jìn)的代理式系統(tǒng)提供信任、控制和管理支持。

代理式 AI 正在重塑網(wǎng)絡(luò)安全格局，它帶來了全新機(jī)遇，需要我們重新審視如何保障 AI 安全，同時為應(yīng)對挑戰(zhàn)提供關(guān)鍵路徑。

與傳統(tǒng)的 AI 系統(tǒng)不同，AI 智能體可以采取自主行動，與工具、運(yùn)行環(huán)境、其他智能體和敏感數(shù)據(jù)進(jìn)行交互。這為防御者創(chuàng)造新機(jī)會的同時，也帶來了新的風(fēng)險。當(dāng)前企業(yè)需要采取雙重策略：既要借助代理式 AI 構(gòu)建防御體系，又要建立針對代理式 AI 的防護(hù)機(jī)制。

基于代理式 AI 建立網(wǎng)絡(luò)安全防御體系

由于人才短缺和警報數(shù)量不斷增加，網(wǎng)絡(luò)安全團(tuán)隊的負(fù)擔(dān)越來越重。代理式 AI 為強(qiáng)化威脅檢測、響應(yīng)機(jī)制和 AI 的安全防護(hù)提供了新的途徑，這就需要網(wǎng)絡(luò)安全生態(tài)系統(tǒng)實現(xiàn)基礎(chǔ)架構(gòu)的革新性改變。

代理式 AI 系統(tǒng)具備自主感知、邏輯推理和執(zhí)行能力，可以獨(dú)立解決復(fù)雜的問題。它們還可以作為網(wǎng)絡(luò)專家的智能協(xié)作者，保護(hù)數(shù)字資產(chǎn)，降低企業(yè)環(huán)境中的風(fēng)險并提高安全運(yùn)營中心的效率。這可以釋放網(wǎng)絡(luò)安全團(tuán)隊的潛能，讓他們專注于高影響力的決策，擴(kuò)展專業(yè)知識，同時有效緩解安全團(tuán)隊員工的倦怠感。

以漏洞響應(yīng)為例，AI 智能體可以在數(shù)秒內(nèi)偵察到新的常見漏洞或暴露的風(fēng)險，從而縮短應(yīng)對軟件安全漏洞所需的時間。AI 智能體可以搜索外部資源、評估環(huán)境并對相應(yīng)結(jié)果進(jìn)行總結(jié)和排序，以便人類分析師能夠迅速采取明智的行動。

德勤等領(lǐng)先企業(yè)正在采用NVIDIA AI Blueprint進(jìn)行漏洞分析，并通過NVIDIA NIM和NVIDIA Morpheus來幫助他們的客戶加速軟件補(bǔ)丁部署和漏洞管理。亞馬遜云科技還與 NVIDIA 協(xié)作，使用 NVIDIA AI Blueprint 構(gòu)建開源參考架構(gòu)，在亞馬遜云科技的云環(huán)境中進(jìn)行軟件安全修補(bǔ)。

AI 智能體還可以改進(jìn)安全警報分流。大多數(shù)安全運(yùn)營中心每天都要面對大量的警報，而從噪音中分揀關(guān)鍵信號的過程緩慢、重復(fù)，并且依賴于機(jī)構(gòu)知識和經(jīng)驗。

包括 CrowdStrike 和 Trend Micro 在內(nèi)的領(lǐng)先安全提供商正在使用 NVIDIA AI 軟件來推進(jìn)網(wǎng)絡(luò)安全領(lǐng)域的代理式 AI。CrowdStrike 的 Charlotte AI Detection Triage 可將檢測分類速度翻倍，而計算量減少 50%，降低了警報疲勞并且優(yōu)化了安全運(yùn)營中心的效率。

代理系統(tǒng)可幫助實時加快整個工作流，分析警報、從工具中收集上下文、對根本原因進(jìn)行邏輯推理，并根據(jù)洞察采取行動。

它們甚至可以從經(jīng)驗豐富的分析師那里獲取專業(yè)知識，并將其轉(zhuǎn)化為行動，從而幫助新晉分析師上崗。

企業(yè)可以使用AI-Q NVIDIA Blueprint（用于將 AI 智能體連接到企業(yè)數(shù)據(jù)）和NVIDIA Agent Intelligence 工具包（一個可加速 AI 智能體開發(fā)并優(yōu)化工作流的開源庫）來構(gòu)建警報分流智能體。

保護(hù)代理式 AI 應(yīng)用

代理式 AI 系統(tǒng)不僅能分析信息，還能對其進(jìn)行邏輯推理并采取行動。這就帶來了新的安全挑戰(zhàn)：智能體可能會訪問工具、生成觸發(fā)下游效應(yīng)的輸出或?qū)崟r與敏感數(shù)據(jù)交互。為了確保它們的行為安全且可預(yù)測，企業(yè)需要部署前測試和運(yùn)行時控制。

紅色團(tuán)隊 (Red teaming) 和測試有助于在投產(chǎn)前發(fā)現(xiàn)智能體在理解提示、使用工具或處理意外輸入方面的弱點。這還包括探查智能體在遵循約束、從故障中恢復(fù)，以及防御操縱性或?qū)剐怨舴矫娴哪芰Α?/p>

大語言模型漏洞掃描器 Garak 可通過模擬對抗行為（如提示注入、工具濫用和邏輯推理錯誤）對基于大語言模型的智能體進(jìn)行自動測試。

運(yùn)行時護(hù)欄提供了一種執(zhí)行策略邊界、限制不安全行為，以及使智能體輸出與企業(yè)目標(biāo)迅速保持一致的方法。NVIDIA NeMo Guardrails可幫助開發(fā)人員輕松定義、部署和快速更新規(guī)則，管理 AI 智能體的言行。這種低成本、低投入的適應(yīng)性可確保在檢測到問題時做出快速有效的響應(yīng)，保持智能體行為的一致性以及在生產(chǎn)中的安全性。

Amdocs、Cerence AI 、Palo Alto Networks 等領(lǐng)先企業(yè)正在使用 NVIDIA NeMo Guardrails 為其客戶提供可信任的代理式體驗。

運(yùn)行時保護(hù) (Runtime protections) 有助于在執(zhí)行過程中保護(hù)敏感數(shù)據(jù)和智能體行為，確保操作的安全性和可信度。NVIDIA 機(jī)密計算 (NVIDIA Confidential Computing)可以在運(yùn)行時保護(hù)正在處理的數(shù)據(jù)，也稱為保護(hù)“使用中的數(shù)據(jù)”，這降低了各種規(guī)模的 AI 模型在訓(xùn)練和推理過程中數(shù)據(jù)暴露的風(fēng)險。

NVIDIA 機(jī)密計算由全球主要服務(wù)提供商提供，包括谷歌云和微軟 Azure，其他云服務(wù)提供商也將陸續(xù)提供。

任何代理式 AI 應(yīng)用的基礎(chǔ)都是一套用于構(gòu)建推理堆棧的軟件工具、庫和服務(wù)。NVIDIA AI Enterprise軟件平臺采用軟件生命周期流程，在保持應(yīng)用編程接口 (API) 穩(wěn)定性的同時，還能在軟件的整個生命周期內(nèi)解決漏洞問題，包括定期進(jìn)行代碼掃描以及及時發(fā)布安全補(bǔ)丁或緩解措施。

供應(yīng)鏈中 AI 組件的真實性和完整性對于擴(kuò)展代理式 AI 系統(tǒng)的信任度至關(guān)重要。NVIDIA AI Enterprise 軟件棧包含容器簽名、模型簽名和軟件物料清單，以便對這些組件進(jìn)行驗證。

這些技術(shù)中的每一項都提供了多層級的安全性防護(hù)，以保護(hù)從本地部署到云端等多種部署環(huán)境中的關(guān)鍵數(shù)據(jù)和寶貴模型。

保障代理基礎(chǔ)設(shè)施安全

隨著代理式 AI 系統(tǒng)自主化程度逐漸提升并深度融入企業(yè)工作流，其底層基礎(chǔ)設(shè)施成為安全問題的核心要素。無論是部署在數(shù)據(jù)中心、邊緣還是生產(chǎn)車間，代理式 AI 都需要設(shè)計支持隔離機(jī)制、可視化和控制能力的基礎(chǔ)設(shè)施。

從設(shè)計層面看，代理式系統(tǒng)的運(yùn)行具有高度自主性，能夠執(zhí)行具有重大影響力的操作，這些操作既可能帶來益處，也可能引發(fā)潛在風(fēng)險。這種自主性要求保護(hù)運(yùn)行時工作負(fù)載、實施操作監(jiān)控并嚴(yán)格執(zhí)行零信任原則，以此有效保障這些系統(tǒng)的安全。

NVIDIA BlueField DPU與NVIDIA DOCA Argus相結(jié)合，提供了一個可以使應(yīng)用全面、實時地了解智能體工作負(fù)載行為的框架，并通過高級內(nèi)存取證技術(shù)精準(zhǔn)識別威脅。將安全控制直接部署到 BlueField DPU 而非服務(wù)器 CPU 上，可進(jìn)一步隔離基礎(chǔ)設(shè)施層面的威脅，大幅縮小潛在攻擊的波及范圍，增強(qiáng)全面的、無處不在的安全架構(gòu)。

集成商還使用 NVIDIA 機(jī)密計算來加強(qiáng)代理式基礎(chǔ)設(shè)施的安全基礎(chǔ)。例如，EQTYLab 開發(fā)了一種新的加密證書系統(tǒng)，該系統(tǒng)提供了首個芯片級治理功能，可確保 AI 智能體在運(yùn)行時合規(guī)。EQTYLab將作為 RSA 創(chuàng)新沙盒 (RSA Innovation Sandbox) 大賽十大入圍者之一在 RSA 大會上亮相。

NVIDIA Hopper和NVIDIA Blackwell GPU支持 NVIDIA 機(jī)密計算，因此當(dāng)用戶從單 GPU 轉(zhuǎn)向多 GPU 時，隔離技術(shù)可以擴(kuò)展到機(jī)密虛擬機(jī)。

安全 AI 由 Protected PCIe (PPCIe) 提供，以 NVIDIA 機(jī)密計算為基礎(chǔ)，允許客戶將工作負(fù)載從單個 GPU 擴(kuò)展到 8 個 GPU，這使企業(yè)能夠在滿足其代理式 AI 需求的同時，以更高效的方式提供安全保護(hù)。

這些基礎(chǔ)設(shè)施組件支持本地和遠(yuǎn)程驗證，使客戶能夠在部署敏感工作負(fù)載之前驗證平臺的完整性。

這些安全功能在像 AI 工廠一樣的環(huán)境中尤為重要。在這些環(huán)境中，代理式系統(tǒng)開始為自動化、監(jiān)測和實際決策提供支持。Cisco 通過集成 NVIDIA BlueField DPU，開創(chuàng)了安全的 AI 基礎(chǔ)設(shè)施，在 NVIDIA 的助力下構(gòu)建了“Cisco 安全 AI 工廠”，旨在為企業(yè)提供可擴(kuò)展、安全和高效的 AI 部署。

將代理式 AI 擴(kuò)展到網(wǎng)絡(luò)物理系統(tǒng)會增加風(fēng)險，因為安全漏洞會直接影響正常運(yùn)行時間、安全性和物理操作的完整性。Armis、Check Point、CrowdStrike、德勤、Forescout、Nozomi Networks 和 World Wide Technology 等領(lǐng)先的合作伙伴正在整合 NVIDIA 的全棧網(wǎng)絡(luò)安全 AI 技術(shù)，幫助能源、公共事業(yè)、制造設(shè)施等多個行業(yè)的客戶加強(qiáng)關(guān)鍵基礎(chǔ)設(shè)施，抵御網(wǎng)絡(luò)威脅。

構(gòu)建可信的 AI 行動

如今，每個企業(yè)都需要確保其網(wǎng)絡(luò)安全投資與 AI 相結(jié)合，以保護(hù)未來的工作流安全。每個工作負(fù)載都需要全面加速，最終使防御者獲得與 AI 節(jié)奏同步的工具。

NVIDIA 正在將 AI 和安全能力融合至技術(shù)基座，為生態(tài)系統(tǒng)合作伙伴提供由 AI 驅(qū)動的網(wǎng)絡(luò)安全解決方案。這個全新的生態(tài)系統(tǒng)將幫助企業(yè)構(gòu)建安全、可擴(kuò)展的代理式 AI 系統(tǒng)。