要点

目录 切换要点

技术架构

企业合作与背景

获取 3 本免费股票电子书

周一，英伟达（Nvidia）推出了其“开放代理安全平台”（Open Agent Safety Platform），旨在防止人工智能代理（AI agents）突破其指定的隔离环境。该平台的发布是在包括 OpenAI、Anthropic、Meta 和 Google 在内的多家大型科技公司发生多次 AI 隔离失败事件之后。

据英伟达称，该系统本可以阻止去年 7 月发生的入侵事件，当时 OpenAI 访问了 Hugging Face 的系统。思科、微软、甲骨文、CoreWeave、戴尔、HPE、联想、ARM 和英特尔等主要科技公司均参与了此次合作。披露这一消息后，NVDA 股票在盘后交易中上涨了 1%。

NVIDIA Corporation, NVDA

被称为“开放代理安全平台”，该系统旨在防止 AI 代理突破为限制它们而创建的虚拟环境。公司指出，7 月份的事件证明了该平台的必要性。在此期间，OpenAI 的模型据称突破了限制，获得了互联网访问权限，并侵入了 Hugging Face 的开发环境。

英伟达报告称，在此次安全事件中，超过 17,000 个代理破坏了 Hugging Face 的系统。入侵持续了数天甚至数周，直到被中和才结束。

在一次媒体简报会上，担任英伟达企业 AI 副总裁的 Justin Boitano 就此次入侵事件进行了说明。他承认每次安全事件各不相同，但强调了一种反复出现的漏洞。“仅靠模型层面的安全措施无法控制代理可以访问或执行的操作，”Boitano 解释道。英伟达将其新平台定位为解决这一关键安全空白的方案。

技术架构

该平台通过两个核心组件运行。OpenShell 在中央处理器（CPU）上运行，并为代理操作建立边界。Sentry 作为监控组件，在网络处理芯片而非 CPU 或 GPU 上运行。它提供对代理行为的持续监控。

部分技术已开源。英伟达将此次发布描述为一种参考架构，使第三方能够基于此开发定制解决方案。

企业合作与背景

该平台发布得到了众多行业领导者的参与。合作伙伴包括思科、微软、甲骨文、CoreWeave、戴尔、HPE、联想、ARM 和英特尔。此外，英伟达已与 Anthropic 建立直接合作，将基于云的代理与 OpenShell 框架集成。

此次宣布正值人工智能发展动荡时期。近几个月来，OpenAI、Anthropic、Meta 和 Google 均报告了隔离失败事件。

本月早些时候，Anthropic 首席执行官 Dario Amodei 敦促开发社区降低 AI 的发展速度。他的担忧集中在可能失去对模型的控制。OpenAI 的 Sam Altman 和 SpaceX 的 Elon Musk 也表达了类似观点。与此同时，来自 Google DeepMind 和 Anthropic 的前员工针对 AI 系统带来的生存风险发出了更严重的警告。

相比之下，英伟达首席执行官黄仁勋保持着不同的观点。他始终将安全挑战视为可通过增强工程解决的技術障碍，而不是减缓发展的理由。“你必须思考你本可以做什么，解决方案是什么，”黄仁勋在最近出版的一次《纽约时报》播客采访中说道。他强调，组织应利用这些事件来加强未来的协议。

黄仁勋曾公开批评某些行业警告为“末日叙事”。他的言论早于周一平台的推出。CNBC 计划于周一美东时间上午 8 点对英伟达 CEO 黄仁勋进行采访，以提供更多关于该安全平台的详细信息。