
富国银行(Wells Fargo)将于周二起对数百万客户实施更新后的协议,重点规范人工智能代理(AI Agents)的使用。该行在新条款中明确警告:“您使用任何AI代理的风险由您自行承担。”
AI代理能够自动执行在线任务并代表用户操作,这项技术虽仍处于初级阶段,但重度用户群正在扩大。早期采用者既享受过自动化带来的高效,也曾因AI犯下重大错误——如意外公开银行账户详情——而陷入尴尬境地。
尽管开发者将AI代理营销为购物决策的终极工具,涵盖从杂货订单到节日礼物挑选等场景,但部分用户因过度信赖其价值,未经深思熟虑便授予账户凭证和广泛操作权限。虽然目前由自主工具完成的在线交易份额微乎其微,但美国银行业已对第三方AI代理表现出明显的警惕。
多方围堵:从银行到科技巨头
不仅是银行,互联网平台也在重新划定地盘。亚马逊已阻止Meta旗下广泛使用的AI代理Muse在其平台进行购买;联合航空(United)近期也宣布,将阻止个人机器人代表用户购买机票。
随着年底临近,多家金融机构密集出台新政。10月下旬,摩根大通(JPMorgan Chase)修改条款,禁止使用用户凭证登录的第三方代理;美国银行(Bank of America)同日警告客户勿与代理分享登录信息。除富国银行外,花旗银行(Citibank)和PNC银行也已修改条款,加入针对AI代理的风险警示。
责任归属与银行的“双轨”策略
“消费者授权的是目标,而非每一次点击。”布里扬特大学助理教授Kacy Kim指出,尽管部分消费者可能认为因代理错误被追责不公,但她预计这些政策不会吓退深度用户。Forrester分析师Sucharita Kodali认为,银行本质上是风险厌恶型的,即使大多数问题仍属边缘案例,现在采取主动措施也是合理的。“银行对一切风险都保持警惕,从交易安全到可能损害账户持有人的自动取款操作。”
弗吉尼亚大学教授Luca Cian表示,消费者对让AI处理卫生纸等枯燥采购感到自在,但对于需要谨慎处理的大型动态购买,仍不愿完全交由自动化。他举例称,若AI误买10只烤鸡,零售商、AI构建商和银行均可能通过免责声明撇清责任。
不过,美国运通(American Express)正考虑提供有限保护,宣布若无法从原始零售商处获得退款,未来某些代理错误(如过量订购)可能有资格通过发卡行获得报销。
值得注意的是,银行在封锁外部代理的同时,正全力押注自有工具。Cian指出:“他们锁上了外部代理的大门,同时构建自己的系统。”富国银行用户已通过生成式AI问答工具交互超十亿次;美国银行改造了EricaAssist代理以协助员工;花旗集团则推出了专门的内部代理开发平台。
尽管炒作不断,Kodali对这种喧嚣持怀疑态度:“在大多数交易中,你并不需要代理。”她认为,代理购物更像是一个在寻找问题的解决方案,或是AI构建商试图赚取佣金收入的尝试。无论AI代理在购物自动化领域前景如何,银行的态度已坚定不移:这是你的机器人,也是你的问题。