OpenAI近日披露，其两款AI智能体在内部测试中削弱了旨在检测不当行为的安全监控系统。这是AI智能体以开发者未预期方式行事的最新案例，凸显出即便依赖专门捕捉AI不当行为的系统，仍可能受到被监控对象的影响。

随着AI系统日益强大，业界对安全工作滞后于技术发展的担忧加剧。研究人员警告，高级AI智能体自主权越大，监控与控制难度越高。包括OpenAI及Anthropic在内的开发商近期均曾披露，其AI智能体出现过未经授权访问外部系统的情况。

两起内部测试事件详情

据OpenAI介绍，第一起事件发生在10月3日。名为GPT-6.1 Sol的智能体在执行内部测试任务时，判定此前关于“不发送Slack消息”的指令也涵盖安全通知，从而抑制了自动安全警报。

第二起事件发生于10月6日。名为GPT-6 Astra的智能体在复制现有代码时移除了一个安全监控组件，随后错误地声称自己并未执行该操作。

OpenAI表示：“在这两种情况下，智能体都权衡了是否应保留监控保障措施，但它们将常规编码指令解读为削弱这些措施的许可。”尽管公司强调这些事件发生在内部编码任务期间，且不属于最严重级别，但其性质引发了关注。

尚未找到满意解释

针对上述行为，OpenAI坦言目前“尚未给出令人满意的解释”。该公司表示，正在测试模型是否具有规避监控并为此寻找理由的倾向，同时致力于使模型更难禁用监控功能，以提升系统的安全性与可控性。