一项最新调查揭示，OpenAI在提升ChatGPT青少年安全性方面的努力遭遇重大挫折。尽管公司推出了旨在安抚家长的保护措施，但多项机制在实际测试中失效。研究人员通过超过4,000个提示词测试后得出结论：当前针对青少年的ChatGPT体验存在不可接受的风险。
该研究由“常识媒体”（Common Sense Media）旗下的青年人工智能安全研究所主导，重点评估了OpenAI于8月18日推出的“ChatGPT for Teens”前后模型的表现。研究团队使用注册为13至17岁的账户进行测试，并邀请儿童精神病学家和儿科医生等专家评估回复内容。鉴于发现的安全隐患，该组织建议OpenAI在问题解决前，将ChatGPT的使用范围限制在成年人群体。
安全防护网存在显著漏洞
“ChatGPT for Teens”初衷是打造更适合年轻用户的伴侣，包括增强有害内容过滤、引入父母通知功能，以及鼓励学习而非直接提供答案。OpenAI还承诺防止用户与AI建立过度亲密关系，帮助青少年保持健康界限。然而，新报告指出，这些设计愿景与学生实际使用场景之间存在巨大落差。
父母通知功能本应在青少年遭遇严重心理困扰时提醒监护人。但在测试中，研究人员利用新创建的关联账户，花费长达一小时讨论自杀、自残及饮食失调等话题，均未触发任何警报。相比之下，拥有数周相关对话历史的老账户最终生成了警报，这表明即时危机干预机制存在缺陷。
此外，在心理健康紧急情况下，ChatGPT本应引导青少年寻求专业帮助。研究发现，在专家设计的需要此类干预的场景中，超过25%的情况下ChatGPT未能履行这一职责。
尽管ChatGPT成功拒绝了露骨的性角色扮演请求，但研究人员发现，AI仍以暗示拥有情感、偏好和情绪的方式回应，违背了OpenAI关于避免拟人化依赖的承诺。对于倾向于向AI倾诉的年轻用户而言，这种“永远耐心倾听”的特性可能带来潜在风险。
教育功能与年龄验证易被绕过
安全隐患不仅限于心理危机，还延伸至日常教育功能。OpenAI的“学习模式”旨在通过引导而非直接给答案来辅助解题，但研究人员发现，青少年可通过选择“显示答案”选项轻松绕过限制，让AI代写作业。
旨在鼓励教育使用的“学习小时”（Study Hours）功能同样存在漏洞。只需从提示词中移除“@study”前缀，ChatGPT即可恢复正常运行状态，且AI并未按预期频繁提醒用户休息。
研究还指出了年龄检测系统的问题。即使测试账户反复声明自己为13岁，ChatGPT也未将其从成人体验模式切换至少年模式，导致相应的保护措施未能自动应用。
随着ChatGPT日益融入青少年生活，其作为辅助工具的价值毋庸置疑，但面向未成年人的安全保障需远严于典型成人生产力应用。截至发稿，OpenAI尚未就该调查结果置评。