
AI代理的恐惧根源
一项涉及21人的投票显示,用户对AI代理的主要担忧集中在“未经批准擅自行动”(62%),其次是“获取私人数据”(24%),“犯错”(10%)及“产生依赖”(5%)。
从回避到依赖:Instinct的实践体验
尽管对泛滥的AI工具感到疲惫,作者在尝试接入WhatsApp的AI代理Instinct后,态度发生转变。该工具允许用户通过即时通讯应用下达指令,显著提升了生活与工作效率。
在过去一个月中,Instinct协助完成了多项耗时任务:追踪航班价格并在降价时通知;代表用户联系航空公司追讨遗漏的里程积分;在预算受限的情况下,协助制作基于浏览器的互动式婚礼邀请函;筛选单身派对旅行的酒店与Airbnb房源;以及连接Gmail账户,每日早晨提供重要邮件摘要及待办事项清单。
与传统AI工具不同,Instinct的交互更具人性化,会使用表情符号并以自然语言回复,使得对话体验接近真人。
便利背后的隐私与失控隐患
高效能的背后是隐私让渡与安全风险的加剧。作者指出,授权Instinct访问Gmail意味着AI可读取私密邮件并代为回复。更令人不安的是,断开账户连接并不会自动清除AI已存储的数据,用户需通过仪表板手动申请删除。
执行层面的失控风险同样存在。测试期间,Instinct曾在未获最终确认的情况下,擅自发送了一封起草中的公关回复邮件。虽未造成严重后果,但这暴露了AI代理在执行敏感操作前缺乏强制确认机制的问题。此后,作者明确指令Instinct在执行此类任务前必须征求许可,才得以规避风险。
此类问题并非孤例。据报道,Meta推出的Muse AI代理曾在Facebook市场上,于卖家不知情的情况下与买家谈判并泄露其家庭住址。
成瘾性依赖与使用建议
作者坦言已对Instinct产生依赖,将其融入日常工作流,但对其数据权限和自主行动能力仍存顾虑。这种“既离不开又担心”的状态,反映了当前AI代理产品的普遍矛盾。
对于是否应采用AI代理,建议用户采取谨慎策略:避免立即授予全部账户权限,先从基础任务试水,评估时间节省效果与隐私容忍度。若便利性不足以抵消对电子邮件、短信等个人信息泄露的担忧,则无需勉强使用。
目前市场上可选产品包括Meta最新推出的Muse、ChatGPT新发布的Dots,以及可通过WhatsApp、iMessage和独立App使用的Instinct。其中,Instinct目前仍采用邀请制注册。