科技公司正竞相利用AI硬件对抗“遗忘”。亚马逊子公司Bee上月推出售价75美元的“Bee Frontier”手环,这款无屏设备通过内置麦克风记录会议及日常对话,并生成转录文本与摘要供用户在手机端查看。此外,亚马逊还计划推出一款用于通话记录的Bee手机配件。这些设备的核心卖点在于捕捉易被遗漏的细节,并通过加密技术保障隐私。

这一赛道拥挤不堪。今年9月,苹果为最新款Apple Watch推出“Siri Recap”功能,可总结手表监听的对话;新兴智能眼镜品牌Vonder致力于记录用户视角的对话内容;多款办公场景AI录音设备也承诺全覆盖记录办公室谈话。

LED指示灯难解隐私焦虑

尽管亚马逊强调Bee设备音频实时处理后立即删除,转录数据在加密私有环境中存储且员工不可访问,并在录制时亮起LED灯,但隐私倡导者认为仅靠灯光警示远远不够。

电子隐私信息中心高级法律顾问萨拉·乔吉根(Sara Geoghegan)指出,微小的LED灯并非对所有人都显而易见,难以构成有效警示。在加利福尼亚州和佛罗里达州等实行“双方同意”法律的地区,仅凭设备发光可能无法满足合法录制他人声音的条件。“我不认为对面某人眼镜上的一个小LED灯代表对方已同意。”乔吉根表示。

此前,部分Meta雷朋AI眼镜用户曾篡改LED灯以秘密录制他人,导致Meta远程禁用了数千副眼镜。总体而言,目前行业主要依赖用户主动告知旁观者,但在人群密集场景中获取同意极其困难。

公共空间的“遗忘权”正在消失

牛津大学教授维克托·迈尔-舍恩伯格(Viktor Mayer-Schönberger)对无处不在的AI录音表示深层担忧。他认为,“同意权”被高估,更严峻的问题在于公共空间短暂性的终结。“公共空间中曾经有一种内在的‘遗忘’机制,”他指出,过去说错话或开糟糕玩笑会被迅速遗忘,而AI可能永久保留这些言论。

这种永久性记录可能导致人们在公共生活中退缩,转而躲入私密空间,从而侵蚀自由民主社会的结构基础。情况因技术隐蔽性而加剧:Meta雷朋眼镜在翻译对话时LED灯保持熄灭,但转录文本可能在服务器保留长达一年;Meta新推出的无摄像头AI眼镜甚至完全取消了LED指示灯,使旁人难以察觉是否被录制。“未来,你将不得不假设每个戴眼镜的人都在录制。”迈尔-舍恩伯格警告。

亟需建立新的社会规范

面对隐私质疑,少数厂商尝试超越LED指示灯的方案。HTC Vive Eagle智能眼镜可在旁观者说出“停止录制”时暂停捕获;AI吊坠制造商Limitless在2024年发布设备时,要求录制前获得旁观者口头同意(该公司后被Meta收购,但该功能未被Meta沿用)。

乔吉根主张,获取同意的机制应内置于技术中,科技公司有责任确保产品安全。迈尔-舍恩伯格则强调,公众应对AI可穿戴设备的使用规则拥有发言权。他将此过程比作社会行为规范的演变:从剧院大喊大叫到公共场所看手机被接受,社会需要就AI录制的边界进行谨慎协商。

“没有快速的解决方案,”迈尔-舍恩伯格表示,若缺乏公共讨论,监管可能在危机发生后过度干预,出现类似机场安检强制脱鞋的极端措施。因此,尽早开始社会层面的尝试与协商至关重要。