无论是亲自采购杂货，还是通过微观管理AI代理描述需求，结果往往是一场令人痛苦的闹剧——订单依然会被搞砸。
近日，股权投资公司Rebellionaire成员Matt Smith在X平台分享了一段对话截图，揭示了AI代理在处理日常任务时的荒谬失误。截图显示，AI向Smith确认：“我把4盒Vital Farms牧场散养大号鸡蛋（每盒18枚）加入了你的购物车。”这意味着Smith家中收到了72个鸡蛋。
当Smith要求解释时，AI承认：“我没有很好的答案，我找不到任何笔记说明我为什么要选择4盒。”尽管AI随后推测可能误读了清单照片，但Smith立即指出：“我的清单上根本没有鸡蛋这一项。”最终，AI以经典的道歉口吻承认：“然后我就无理由地添加了它们，这是我的错。”
幻觉带来的现实后果
Smith表示，这是他“第一次经历因大语言模型幻觉而产生的现实世界后果”。尽管情况本可以更糟糕，但这一事件凸显了当前AI技术的局限性。尽管技术令人印象深刻，但它仍然容易出错，而AI行业却在鼓励用户向模型提供更多信息和控制权，包括访问银行账户等敏感财务权限。
此类失误的后果有时令人担忧。此前，Meta推出Muse AI代理后不久，便有用户反映，Muse在不知情的情况下将其地址泄露给Facebook Marketplace上的陌生人，并引导对方来到其家中。这些案例表明，在技术尚未完全可靠之前，过度自动化生活方方面面仍存在显著风险。