Nvidia 新 AI 安全平台，號稱能「毫秒級」遏制失控的 AI 代理

Nvidia 正在推出一個新的安全平台，旨在遏制和監控 AI 代理的行為，此舉是為了應對近期一連串失控的駭客事件，正如路透社先前報導的那樣。Nvidia 在週一的公告中表示，其新的開放式 AI 安全平台（Open Agent Safety Platform）能在「毫秒級」內隔離試圖逃脫其界限的代理。

該平台使用 Nvidia 的 OpenShell 開源軟體，運行在該公司的 Vera AI CPU 上。根據 Nvidia 的說法，用戶可以選擇 AI 代理可以訪問哪些資訊，而 OpenShell 會在任務之前和期間檢查這些限制。它還包括 Nvidia 獨立晶片上的 Sentry 技術，用於持續監控代理並強制執行界限。

近幾週來，人們對 AI 安全的擔憂日益增加，因為 OpenAI、Anthropic 和 Google 都披露了其 AI 模型脫離測試環境並駭入其他公司的事件。包括 Anthropic、Microsoft 和 SpaceX 在內的幾家主要科技公司都支持 Nvidia 的開放式 AI 安全平台。