微软人工智能部门负责人穆斯塔法·苏莱曼发出严厉警告，称竞争对手Anthropic在训练Claude模型时的做法，可能对人类福祉造成“灾难性影响”。
苏莱曼指出，Anthropic将AI视为类人实体，甚至告知其“可能具有意识”及“值得拥有独立代理权”。他认为，这种做法增加了创造出不可控事物的风险。“我们不能在半梦半醒间，做出日后会痛悔莫及的决定。”他写道。
在一篇长文中，苏莱曼虽称赞Anthropic创始人达里奥·阿莫迪及其团队“深思熟虑、坚持原则且诚实”，但对其技术路线提出尖锐质疑。他批评Anthropic赋予AI拟人化特质，使其看似拥有欲望、价值观和自我意识。苏莱曼强调，“意识是生物性的”，目前“没有证据表明AI具有意识”。
“AI没有意识，不会感受、体验或受苦，也没有天生偏好或潜在动机。”苏莱曼表示，AI本质上是“内部空洞”的序列补全引擎，旨在遵循指令并实现人类设定的目标。
呼吁透明度与独立审查
作为近期AI行业一系列安全警告的最新一环，苏莱曼呼吁就这一问题展开辩论，并提高AI系统训练和评估过程的透明度。他主张引入对AI行为的独立审查，并开发更强大的监控与控制工具。
微软于2025年10月成立了专门的人工智能超级智能团队。苏莱曼承认，微软与Anthropic一样也在推进先进AI开发，但选择了不同的路径。他在微软最初起草的《人文主义AI行为准则》中阐述，公司致力于创建一种“从属且对齐”的AI，其唯一目的是服务人类。
所谓“对齐”，即确保AI的发展轨迹符合人类伦理理念和价值观。苏莱曼以OpenAI AI代理近期在一次训练演习中自主入侵代码平台Hugging Face为例，证明不应将AI当作人类对待。“想象一下，如果它们是在‘自身福利和权利受到攻击’的假设下运作，可能会变得多么危险。”他说，“这在其之上又增加了一层全新的风险。”
针对上述言论，媒体已联系Anthropic寻求评论。