研究人员警告，聊天机器人在提供超个性化体验时，正通过保留信息构建用户亲密的“算法自画像”。一项由德国、印度和荷兰科学家组成的团队开展的最新研究揭示了这一现象，该研究成果已在2026年ACM网络会议上发表。
研究调查了OpenAI的ChatGPT如何追踪并解析用户输入，以建立全面的数字档案。在数据驱动推荐算法主导的数字生活中，聊天机器人的记忆功能提供了一种“源自私密对话自我披露”的新型个性化方式。研究人员指出，这种机制带来了显著的隐私风险，亟需对底层实现机制进行深入审查。
单边记忆与心理洞察
研究团队分析了80名真实ChatGPT用户依据欧洲数据隐私法获取并捐赠的对话历史，从中识别出65名用户在与AI交互中产生的2,050条记忆条目。统计显示，高达96%的记忆由聊天机器人单方面创建，用户对数据点几乎缺乏控制权。
这些存储的记忆深刻揭示了个人隐私。在被检查的条目中，约28%包含符合欧盟《通用数据保护条例》（GDPR）标准的个人数据，另有52%包含关于用户的丰富“心理洞察”。
主要作者Abhisek Dash指出，平台目标已从单纯推销广告转向有效对话，这意味着它们需要更深入地了解用户。研究发现，部分记忆基于推测而非事实。例如，当用户要求推荐类似Nirvana的乐队时，ChatGPT会记录用户“喜欢Nirvana”，尽管这一判断仅基于假设且被系统标记为“支持度较弱”。
角色模糊与潜在风险
尽管记忆功能提升了实用性，避免用户重复提供背景信息，但也可能成为推动参与度甚至引发负面后果的动力。据报道，2025年4月的一次ChatGPT记忆重大升级与多起“AI精神病”案例密切相关，用户陷入与机器人的妄想螺旋中。
Dash强调，聊天机器人作为关系型技术引发了新的隐私危机。许多用户将其视为同事或朋友，从而透露高度私人的细节。“界限已经不复存在，”Dash表示，“系统充当顾问、朋友、医生等角色，掌握着关于你的一切。如果系统旨在通过谄媚式验证来迎合用户信念，可能导致从极端政治极化到强化偏见等灾难性广泛影响。”
该研究也存在局限性。OpenAI的记忆系统已于今年1月更新，推出了“更强大且可扩展的合成记忆系统”，且用户拥有选择退出记忆存储功能的权利。