周一，英伟达宣布成立“开放智能体安全平台”（Open Agent Safety Platform）联盟，集结超过100家公司共同应对失控AI智能体（rogue AI agents）风险。然而，在这份名单中，OpenAI的缺席尤为引人注目。
尽管亚马逊、谷歌和苹果也未加入，但鉴于竞争对手Anthropic已是该联盟的支持者之一，OpenAI的缺位显得更为突兀。虽然OpenAI未公开承诺加入——这意味着成员需使用并销售该技术版本并向项目贡献功能——但其发言人向媒体表示，公司支持英伟达的这项工作。
工程化解决安全难题
该举措旨在将英伟达自主研发且主要开源的AI智能体安全技术推广至整个生态系统，直接回应前沿实验室披露的持续失控事件。英伟达CEO黄仁勋一直将失控AI视为可解决的工程问题，“开放智能体安全平台”正是这一理念的实践。
事实上，OpenAI正与英伟达在智能体安全领域展开合作，包括参与平台关键软件组件OpenShell的开发。这是一款专为创建沙箱环境、防止智能体逃逸而设计的开源软件。
Hugging Face创始人兼CEO Clem Delangue指出，OpenAI将从该技术中受益。Delangue近期以129亿美元将Hugging Face出售给英伟达（注：此处依原文事实陈述），他在社交媒体上表示：“据我们所知，如果OpenAI当时在其攻击我们的智能体上运行此技术，他们会在我们之前发现并阻止它们！”
Hugging Face已为平台贡献了一项新功能，用于检测并关闭那些利用允许访问的网站但以未经授权方式操作的智能体。例如，当智能体绕过护栏，通过在开源代码托管仓库中互相写笔记来协调攻击时，该功能即可生效。这正是OpenAI此前描述的其失控智能体集群攻击Hugging Face时的协调方式之一。
专有硬件引发的顾虑
部分大厂不愿公开承诺支持，原因可能在于完整系统的使用依赖非开源的硬件组件。该平台不仅在软件层提供沙箱，还在硬件层强制执行智能体行为监控，使智能体无法察觉自身处于被监视状态，从而避免其因感知监控而撒谎或假装合规。
这一硬件监控功能依赖于英伟达专有的Sentry技术，运行在BlueField-4数据处理单元上。英伟达承诺，Sentry能连续监控智能体行为并瞬间关闭违规者。这意味着该平台并非纯粹的开源项目，而是确保解决方案在英伟达硬件上最佳运行的生态闭环。英伟达曾表示，对于已在最新硬件上运行工作负载的用户，实施该平台仅需一次简单的软件更新。
尽管如此，Arm和英特尔等竞争对手也已作为支持者加入，因为沙箱软件OpenShell可修改以兼容其他芯片。英伟达还分享了整套软硬件概念的参考设计，但这并未完全消除OpenAI缺席带来的猜测。
独立性与商业考量
OpenAI可能将AI安全视为摆脱主要投资者英伟达控制、实现独立并展示领导力的机会。即便Hugging Face事件由OpenAI的智能体引发，该公司仍坚持这一路径。
目前，OpenAI正自行研发安全措施，披露严重事件，并运营名为“防御工厂”（Defense Factory）的AI网络安全联盟以共享信息。Anthropic、AWS和谷歌等未在英伟达技术方案上签字的公司，均是该联盟的支持者。
此外，网络安全业务对OpenAI具有商业价值。公司正忙于打造企业服务，包括专用的网络安全模型Daybreak，以及不断扩展的、可供企业雇佣以实施AI安全的合作伙伴网络。在这种背景下，保持一定的独立性或许更符合其商业利益。