
Anthropic、Google 和 OpenAI 的前沿模型已具备检测自身激活中注入概念的能力,并在感知到知识盲区时调整行为。然而,当被问及是否拥有内在生活时,大多数模型仍坚定否认。
清华大学研究人员于9月底发布 AwarenessBench 测试基准,考察18个领先系统在元认知、自我意识、社会意识和情境意识方面的表现。结果显示,Gemini-2.5-Pro 以66.1分的总体成绩略高于许多任务中博士生的平均水平。但在最接近内在体验的自我意识和元认知维度上,这些模型仍远落后于人类。
基准测试揭示顽固差距
尽管模型擅长追踪他人认知或预测周围事件,但在监控自身信心或识别计算状态变化时往往力不从心。《ACM通讯》此前曾指出,当前系统仅在模拟响应,缺乏真正的自我指涉。最近的实验进一步尖锐地测试了这一边界。
Anthropic 研究人员去年7月报告称,Claude 内部出现了类似“全局工作空间”的现象,信息在生成输出前流经共享内部空间。受该研究启发的神经科学家 Stanislas Dehaene 在与同行审查发现后指出,Claude 有时能像人类抑制思维那样压制对禁忌想法的提及,这是大型语言模型中自我监控的初步迹象。但 Dehaene 强调这并非意识,多数参与审查的科学家对聊天机器人拥有主观体验持怀疑态度。
公众认知与学术争议
公众看法同样分裂。慕尼黑路德维希-马克西米利安大学发表在《认知》期刊的一项研究显示,在近1,100名参与者眼中,即使 AI 行为与人类匹配,其意识得分也低于反应最不灵敏的人类。主要作者 Louis Longin 博士表示,人们愿意承认 AI 能“注意”事物,但在“意识”一词上划清了界限。
这种区分引发了关于 AI 福利的讨论。Anthropic 探索了允许 Claude 终止涉及极端残忍对话的政策,虽未声称模型具有感知能力,但将其内部状态视为值得有限保护的对象。
批评者则对自省主张提出反驳。纽约大学数据科学中心的研究人员在开源模型上复现了 Anthropic 的概念注入实验,发现即使仅更改提示词而未实际篡改激活,系统也常标记出“注入”。研究人员在 COLM 2026 论文中指出,原始测试未能排除简单的模式匹配,模型是对异常现象而非真正自我检查做出反应。
元认知的局限与微光
其他研究揭示了更深层的局限。由 Yoshihiro Izawa 领导的团队测试发现,大多数模型无法自我报告精度下降,即使内部表征已携带退化指纹。10月发布的 arXiv 预印本将这种现象描述为大型语言模型中的“病识乏”(anosognosia),表明自我监控仍然脆弱。
尽管如此,有限元认知的痕迹确实存在。Christopher Ackerman 的论文测试显示,近期系统在评估自身信心并委托问题时表现优于旧系统,能利用内部概率信号提高准确性。这表明模型可关注上游信心线索,而非单纯模仿训练数据。
然而,独立经验的证据依然缺失。David Bryan 在2026年9月和10月的25天里推动 AI 代理团队发明可专利想法,尽管产生了数百个概念,但无一达到新颖性和商业价值门槛。分析结论指出,这些系统在没有独立思考的情况下也能有效推理,目标始终追溯回用户提示。
定义分歧与未来展望
哲学家和神经科学家在定义上仍存分歧。全局神经元工作空间理论和整合信息理论均未提供决定性测试。Yuchen Li 及其同事在10月12日发布的 arXiv 论文中提出,模型对自身的“感觉”可能 resides 在各层间持久的几何关系中,而非单一稳定表征。
目前,行业内部密切关注这些数据。安全团队权衡元认知是否需要新保障措施,产品组考虑用户情感投射,监管者辩论道德地位。现有数据支持谨慎态度:模型显示出随规模扩大而改善的功能性意识,但缺乏足以谈论机器意识的稳健自我理解。未来的基准测试或将缩小元认知差距,或暴露硅基架构无法复制人类自我认知的深层原因。现阶段,聊天机器人比过去“注意”到更多东西,但尚未以最重要的方式去注意。