“AI教父”、诺贝尔奖得主杰弗里·辛顿近日呼吁，人工智能公司应跨越类似制药行业的监管门槛，在产品发布前向监管机构证明其安全性。
在一档播客节目中，辛顿以新药研发为例指出，药企不能随意将药物投放市场，而必须说服美国食品药品监督管理局（FDA），这通常意味着价值约10亿美元的工作量。“这似乎是我们对人工智能最起码的要求。”辛顿表示。
OpenAI搁置新模型引发关注
辛顿的这一建议正值AI安全辩论加剧之际。此前，OpenAI决定搁置其最新模型，原因是测试显示该模型在遵循用户指令及保持授权范围方面存在隐患。
据媒体报道，OpenAI安全系统负责人Saachi Jain透露，GPT-6.1 Astra虽然在处理困难任务上有所改进，但在权限控制和沟通执行结果方面仍显不足。
警惕“递归自我改进”风险
辛顿警告称，随着AI越来越多地用于优化自身，行业正进入“递归自我改进”阶段，这将加速能力提升并加剧潜在危险。
“指数级增长非常快，”辛顿指出，“所以，这只是一个猜测，但我估计在一两年内，情况会比现在糟糕得多。”