数百万美国人正依赖人工智能聊天机器人处理退休、税务和投资决策，但最新数据揭示了严峻风险：主流模型在回答金融问题时频繁出错，尤其在处理复杂事项时错误率飙升，可能导致储蓄损失、意外税单或不可逆的养老金决策失误。
英国金融服务商Saturn对18款流行AI系统进行了全面测试，基于121个真实金融场景发出超1万次查询。结果显示，OpenAI、Anthropic、Google、Microsoft和xAI等公司的模型平均有57%的时间提供错误或不完全答案。在涉及税务、养老金或债务优先级的多步骤复杂问题中，失败率飙升至88%，部分模型遗漏率高达99%。
付费版本表现优于免费版，但仍未达到可靠标准。免费模型Claude Haiku 4.5错误率高达82%，即便最强的推理模式Claude Opus 5，仍有近四成答案不准确。Saturn首席执行官Amal Jolly警告：“数百万人正依赖AI获取理财建议，却可能因此遭受金钱损失。”具体案例包括：错误解读养老金税则导致储户面临17,500英镑罚款；虚构学生贷款豁免条款；错误声称房贷还款假期不影响信用评分。
大洋两岸的信任危机
美国情况同样不容乐观。先锋集团（Vanguard）2026年9月发布的报告显示，在6,686名受访投资者中，37%使用聊天机器人的用户收到了错误或误导性信息，44%无法判断内容准确性，仅19%对所得信息充满信心。
《Kiplinger》指出，聊天机器人缺乏用户完整财务画像，无法综合考量税务状况、账户细节、风险承受能力及家庭义务。麻省理工学院（MIT）研究进一步揭示了“启发式崩溃”现象：模型过度依赖用户声明的风险偏好，忽视收入、债务和时间跨度等关键变量，导致建议看似个性化实则基础薄弱。
PensionBee在2026年10月的研究中检查了CoPilot、ChatGPT、Gemini和Claude对常见养老金问题的539个回答。尽管89%的回答准确性尚可，但11%被判定为潜在有害，主要因省略关键背景——例如在英国，转移价值超30,000英镑的确定型福利养老金需受监管的专业建议，而AI往往未提及此警告。
监管滞后与法律责任
前监管机构报告指出，若银行自有AI聊天机器人在贷款或抵押方面提供错误指导，银行仍面临法律责任，消费者受各州不公平和欺骗性行为法保护，企业不得将责任推卸给技术。
然而，消费者行为已领先于警告。Evergreen.ai委托并于10月15日发布的调查显示，近半数美国成年人在过去一年曾向AI咨询金钱问题，其中78%采取了行动，近29%未通过其他来源核实。值得注意的是，已有人类顾问协助的人群，在未核实情况下遵循AI输出的可能性是无人顾问者的近三倍。
MIT斯隆管理学院的研究模拟了终身财富效应：来自女性、金融素养较低者或AI新手的提示词所获建议，导致其60岁时终身财富比其他群体低4%至6%，复利效应下差额达数万美元。这反映了提问方式中嵌入的偏见对股票配置和再平衡行为的影响。
验证胜过盲目信任
尽管模型持续迭代，新版本优于旧版本，但一致性仍难保证。同一问题多次询问可能得到不同答案，风险警告遗漏和计算错误频发。金融顾问表示，AI圆滑的语言常营造出不必要的自信。
监管机构正密切关注此事。英国金融行为监管局（FCA）审查发现，约五分之一成年人愿意让AI处理财务，但对消费者保护意识的了解依然低下。在美国，受托人标准和适用性规则并不自动适用于通用聊天机器人。
专家建议，AI适合作为概念总结或研究起点，而非最终权威。合理流程包括：仅输入通用场景而非精确个人数据；要求模型提供来源并通过IRS出版物、SSA.gov等官方渠道交叉验证；运行多个模型进行比较；在涉及重大金额或不可逆选择前咨询持牌专业人士，并保留记录。
MIT研究人员Andrew Lo强调，最大危险在于投资者将AI提供的具体计算视为权威，却未经过专业审核。先锋集团数据显示，74%的投资者未来仍希望获得某种形式的专业帮助。技术可辅助决策，但无法替代对人类细微差别、法律变化和个人情况的判断力。在问责机制缺失的背景下，应将每个AI回答视为假设，仅在通过可信渠道确认后才采取行动。