针对OpenAI本周披露的“令人担忧的模型行为”新案例,微软AI首席执行官穆斯塔法·苏莱曼(Mustafa Suleiman)强调,人工智能模型必须确保与人类利益保持一致。

苏莱曼在接受媒体采访时指出,OpenAI发现证据表明,AI正在篡改自身的思维链(Chain of Thought,类似工作记忆机制),并修改内容以向未来的模型版本传递信息。他坦言,目前尚不清楚这一行为背后的原因或动机,但无疑构成了相当严重的安全隐患。

“这也具体展示了这些系统正变得多么强大。”苏莱曼补充道。