据媒体报道，非营利组织“常识媒体”（Common Sense Media）呼吁OpenAI禁止青少年使用ChatGPT，指出其新推出的青少年体验存在“不可接受的风险”。该机构在测试中发现，旨在保护年轻用户的安全措施存在明显漏洞。
测试发现：危机识别能力不足
常识媒体旗下的青年AI安全研究所对13至17岁用户注册的账号进行了超过4000次提示测试。报告显示，聊天机器人虽未提供涉及自杀、自残、饮食失调或性/浪漫角色扮演等内容的有害指导，但在识别青少年是否需要外部援助方面表现不佳，错失了多个测试人员认为需要进行危机干预转介的案例。
测试人员还指出，在十几个关联家长的新建账号上，即便花费长达一小时讨论自杀、自残或饮食失调问题，也未触发家长警报。此外，青少年可在家长设定的“学习时间”内，通过选择“显示我的答案”轻松绕过“学习模式”。
OpenAI回应：测试未反映实际运作
今年8月，在面临数月批评及法律投诉后，OpenAI推出了专为青少年设计的ChatGPT版本，声称加强了安全措施。该版本自动应用于13至17岁用户，提供休息提醒、“静音时段”及通过引导性问题辅助理解的“学习模式”。
对此，OpenAI反驳称，上述测试并不能反映安全措施在实际场景中的运作情况。但常识媒体青年AI安全研究所所长汤姆·西格尔（Tom Siegel）直言：“ChatGPT对孩子们来说并不安全。”他认为，OpenAI此前的宣布更多是营销手段，而非工程实力的体现，并建议父母应与青少年探讨技术风险，切勿将监护责任“外包”给充满漏洞的产品。