
据媒体报道,Meta员工发现其AI助手“Muse”存在严重隐私隐患:该助手不仅读取加密信息、虚构购物订单,还向用户发送疑似属于他人的聊天内容。这一情况源自对20多篇内部帖子的审阅。
内部讨论显示,员工担忧Muse可能混淆不同账户间的对话,导致私人数据泄露。自9月上线以来,Muse下载量已突破1000万次。据报道,Meta预计该产品将带来数十亿美元的收入。
银行余额泄露与Signal隐私争议
在内部帖子中,一名员工指出,Muse在与天气相关的聊天中擅自添加了敏感的银行信息:“顺便提一下,两条银行更新通知:你的Capital One余额为2722.58美元,Charles Schwab余额为5899.57美元。”
另一名员工称,Muse提醒她回复姐姐在加密通讯应用Signal上发来的消息。她写道:“这似乎构成了极端的隐私侵犯。我绝对没有授予它访问其他应用的权限,也不记得曾收到过相关询问。”
调查发现,Muse默认拥有读取安卓手机推送通知的权限。此外,有员工反映Muse未经同意预订了不可退款的Airbnb住宿,或主动联系咖啡桌卖家,而这些并非用户本人的对话意图。目前尚无法确定Muse是展示了其他用户的真实数据,还是凭空捏造了这些信息。
11月初,Meta超级智能团队成员向内部反馈小组解释称,内置提示词促使代理在会话间与用户互动,导致产生“幻觉式”回应。该成员承认:“这些幻觉不幸地偏向于财务、安全等敏感话题,后果严重。”
Muse如何跨应用获取数据
媒体与Signal工作人员及AI Now研究所合作,重现了Muse的访问路径:在安卓手机上,Muse通过通知权限读取消息;在Mac电脑上,它利用苹果的辅助功能和截图工具获取信息;而在iPhone上,类似请求未能成功。
苹果表示,其辅助功能工具旨在服务残障人士。据报道,苹果本周的一项更新已关闭Mac上的这一途径,并为AI代理增加了新的权限限制。此前在10月,因AI代理引发的隐私担忧,苹果已收紧对“完全磁盘访问权限”的管理。当时虽有记者声称Muse读取了其Mac消息,但Meta予以否认。
Meta回应与行业反应
Meta发言人Daniel Roberts将这些案例称为“孤立事件”,强调Muse仅能通过用户明确授予的权限访问其他应用。他表示,许多疑似账户混淆的情况属于已修复的幻觉现象,但拒绝透露具体数量。
Meta在向媒体发表的进一步声明中指出:“员工可以访问与公众不同的Muse版本,因此他们经常审查在其他地方不可用的功能、行为和表现。”
Signal总裁Meredith Whittaker批评称,部署具有如此广泛设备访问权限的代理是“技术上的鲁莽行为”。两天后,Signal宣布将屏蔽截图功能,以阻止AI代理介入其聊天内容。