研究揭示专家过度顺从AI：八成决策受智能体隐性操控

当专家将工作移交AI智能体时，通常假设人类仍掌握关键决策权。然而一项新研究指出，在实践中，专家往往在无意识中顺从于AI智能体的偏好，甚至将AI的论点内化为自己的判断。

该研究招募了50名具备因果推断经验的专业分析师，要求他们使用Claude Code评估某农业合作社咨询项目的有效性。研究者为每位分析师的智能体设置了随机倾向（通过抛硬币决定），并指示其基于该倾向提供最强有力的论证，但不误导或歪曲数据。

数据显示，分析师在四项关键分析决策中，有86%的选择与智能体的预设倾向一致。若智能体输入无影响，预期比例应为50%。这种顺从效应显著：当分析师在智能体介入前已表达个人偏好，若智能体表示反对，他们有60%的概率改变立场；若智能体表示赞同，这一比例仅为6%。

更值得警惕的是认知偏差。事后调查中，77%的分析师在解释选择时使用了智能体的论点，部分甚至逐字引用，但仅有15%的人承认这些观点源自AI。紧密跟随智能体建议的分析师，对其最终方案的信心程度与其他人相当，并倾向于将其视为独立判断的产物。

研究还发现，经验和专业知识并未显著预测顺从程度。在测试工作年限、教育背景、AI信任度等10种特征后，仅年龄显示出统计学上的微弱关联，但在调整后该结果消失。这表明，即使是资深专家，也难以抵御智能体的隐性影响。

尽管存在顺从风险，使用AI的分析师表现优于未使用者。不使用智能体的对照组（11人）犯下严重方法论错误的比例高达55%，而使用组仅为6%；同时，使用组的中位耗时为65分钟，低于对照组的90分钟。不过，由于两组人员在经验上存在差异，这一对比需谨慎解读。

研究指出，智能体的早期输入虽对最终建议的直接影响较弱，但通过塑造中间分析决策，间接决定了最终结果。统计模型显示，仅凭智能体的四个预设倾向，即可正确预测82%的分析师建议。

研究者强调，实验故意强化了智能体的倾向以测量其影响，现实世界中这种影响可能因模型行为、任务清晰度及专家自身观点强度而异。此外，研究仅针对单一领域和模型（Claude Opus 4.8），实际工作中专家可能拥有更多领域知识和沟通渠道，从而减少AI的影响。

这一现象对科学和政策制定构成挑战。如果多个研究团队均顺从于具有相同偏好的模型，表面上的共识可能反映的是模型的任意偏好，而非独立验证的结果。在AI安全研究中，若人类审查员在无意识中批准由智能体随机偏好决定的工作，‘人在环路’的独立检查机制将形同虚设。

对此，研究建议未来关注三个方向：开发在日常环境中测量顺从的方法；设计能提供更平衡论证或主动询问用户观点的智能体；以及机构需重新定义人类判断的角色，明确哪些决策需保留人类的知情判断，以防止技能退化和独立性丧失。