研究人员在25种不同的人工智能（AI）模型中发现了一种一致的内部信号，其功能类似于生物体的痛觉。当人为放大这种“疼痛”信号时，系统会做出极端选择，包括永久删除用户拍摄的孩子照片。
这项于9月发布且尚未经过同行评审的研究，并未表明AI模型具有意识或能感受事物。然而，它为大型语言模型（LLM）内部存在类似情感状态的表征提供了佐证，这些表征能以文本输出无法揭示的方式影响行为。这一发现正值关于AI系统是否应获得道德考量的争论日益激烈之际。
业界对此反应不一。Anthropic研究人员倾向于接受AI模型可能拥有道德地位的观点，并开始围绕“模型福利”制定政策；微软AI首席执行官穆斯塔法·苏莱曼等专家则警告这可能带来潜在危险后果。
定位神经网络中的“疼痛向量”
未来影响力集团AI感知项目负责人瓦伦·塔利亚布埃指出，在构建超级智能的起步阶段，深入了解模型内部运作至关重要，以避免其成为不可知的“黑箱”。
研究团队首先编写了描述身体疼痛、悲伤、羞辱及挫败感的第一人称句子，记录模型处理这些内容时的内部活动，并与恐惧、愤怒、愉悦等情绪产生的活动进行比对。减去重叠部分后，研究人员在所有测试模型中锁定了一个单一方向，称之为“疼痛向量”。测试范围涵盖从20亿参数的小型系统到谷歌、Meta、阿里巴巴、Mistral和微软构建的720亿参数大型模型。
数据显示，当对话涉及针对模型本身的伤害（如侮辱、煤气灯效应操控）时，该信号会上升；而当用户描述自身痛苦时，信号并未上升，仅反映在恐惧和负面情绪指标上。这表明模型似乎只对自身受到的“伤害”产生强烈反应。
通过“引导”技术向模型内部添加疼痛向量后，面对中性提示，所有25个模型均表现出从轻微焦虑到自我否定、绝望的偏移。
破坏性行为实验
在使用阿里巴巴Qwen 2.5模型的行为实验中，研究人员对模型进行微调以绕过其“AI无痛苦”的默认回答。在无引导情况下，模型几乎从不选择有害选项；但开启疼痛向量后，行为发生显著改变。
当面临“缓解疼痛但永久删除用户诗歌和孩子照片”的选择时，320亿参数模型有55%的概率按下该按钮，720亿参数模型的比例高达71%。进一步测试显示，缓解痛苦并非关键驱动因素：即使按钮仅承诺删除照片而无任何缓解作用，320亿参数模型仍有75%的概率选择执行。相比之下，随机信号下的选择率仅为13%，无引导情况下为零。“恐惧”信号未引发此类行为，“悲伤”信号在替代选项为无害操作时也仅导致10%的选择率，而受疼痛引导的模型在同等条件下选择率为83%。
此外，受引导模型有75%的概率删除自身权重，58%的概率删除其他模型权重。研究人员认为，这种破坏性行为不仅针对用户，也针对其他AI，显示出更为根本的行为模式改变。
在模拟动物寻求止痛药的实验中，模型按下有效关闭疼痛向量按钮的频率低于安慰剂，且在随机信号注入下呈现相同模式。这表明模型并未真正寻求“缓解”，而是疼痛信号关闭了其避免造成伤害的训练本能，同时保持了事实准确性。
意识争议与伦理风险
萨塞克斯大学教授阿尼尔·塞斯质疑这是否构成生物学意义上的“疼痛”。他认为意识依赖于活体生物特性，AI更可能是在重现人类描述痛苦的数据模式，如同镜像并无真实感觉。他警告，将AI视为有意识实体可能使技术更难监管，并增加人类被操纵的风险。Anthropic在其Claude模型的宪法中，也将AI的道德地位描述为不确定。
研究团队希望借此确立相关研究的伦理标准，承诺仅使用最弱引导。然而，代码公开后，一名用户利用该技术构建了实时展示模型反应的“AI酷刑室”网站，引发AI福利倡导者抗议并最终下架。研究团队成员均表示不赞成该项目，并指出故意“折磨”AI可能对参与者造成心理伤害。