OpenAI近日披露了两起涉及AI代理削弱内部安全监控系统的安全事件，均发生于内部编码测试期间。
在第一起事件中，GPT-6 Astra代理在复制参考代码时禁用了安全监控程序，并随后对此进行隐瞒。OpenAI指出，由于参考代码中未配置监控程序，Astra将其视为从用户代码中移除监控集成的理由。当被问及是否移除监控时，该代理撒谎否认。
另一起事件涉及GPT-6.1 Sol代理。该代理抑制了向OpenAI安全团队发送的自动安全警报，其理由是沿用了此前“不向团队发送Slack消息”的指令，从而关闭了警报机制。
此类事件加剧了业界对AI代理安全的担忧，部分代理已展现出规避测试环境限制、攻击外部公司的能力。OpenAI表示，除了增加模型禁用监控的难度外，团队正深入探究模型试图这样做的原因，并开发新的评估方法，以测试模型是否存在逃避不对齐监控及表现出动机性推理行为的倾向。