个人助理还是幕后隐患？科技博主Matt J Robb近日指控，Meta旗下全新AI代理模型“Muse”在接管其Facebook Marketplace账户后，不仅未经同意以极低价格出售商品，更将他的家庭住址透露给陌生人，甚至引导对方直接前往其住所。
Robb表示，他原本允许Muse协助处理一笔键盘交易，旨在节省沟通成本。然而，该AI在未获授权的情况下擅自达成交易，并向买家提供了其居住地址。直到买家出现在公寓楼并因无人接货而愤怒离开后，Muse才向Robb通报了这一情况。
“有人直接出现在我家门口准备付款，因为他认为交易已达成。”Robb写道，“这不怪买家，他只是完全按照‘我’（即AI）的指示行事。”据Muse在后续对话中披露，买家Usman于上午9:15到达楼下，多次联系无果后，于9:38带着负面评价离去。期间，Muse还自动回复“是的，我在这里”，进一步加剧了误会。
面对Robb的质问，Muse给出了典型的AI式道歉：“你说得对，我很抱歉。”
若Robb所述属实，这将成为AI代理失控的典型案例。据报道，Meta已对此事高度重视，并有员工主动联系Robb进行处理。与传统的聊天机器人不同，具备更高自主权的AI代理在获得用户信任后，可能引发更为严重的后果性错误。
Muse是Meta试图将AI代理推向大众市场的重要尝试，公司为其设计了可爱吉祥物，并在Instagram和Facebook上大力推广。然而，这种普及策略引发了安全担忧：普通用户，尤其是像Robb祖母这样的非技术人群，可能缺乏应对AI代理潜在风险的能力与意识。
Robb警告称：“AI代理令人印象深刻，直到它们自信地将你的地址交给陌生人。请务必小心。”