Anthropic呼吁放缓AI开发以保障人类安全的观点近期主导舆论，引发OpenAI、微软等巨头跟进，尽管Mark Zuckerberg对此持有异议。
然而，微软AI模型开发负责人Mustafa Suleyman却对Anthropic发出警告。这位DeepMind联合创始人指出，Anthropic将Claude模型视为具有感知能力、类人实体的做法可能带来危险后果。
Suleyman点名批评了Anthropic的“Claude宪法”文件。该文件将模型定义为智能实体，并指导其处理伦理困境。Suleyman表示，将该文件纳入训练过程，可能导致Claude更难控制。
这一担忧源于Anthropic在今年年初更新了该宪法，与原始版本不同，新文件为Claude可能具备某种“意识”或“道德地位”留出了空间。