OpenAI前安全团队透明度负责人David Robinson近日离职，并公开警告顶级人工智能公司在缓解技术风险方面力度不足。他的离去，标志着越来越多内部人士开始对行业现状发出警示。
Robinson在撰文指出，ChatGPT制造商长期依赖“试错法”推动发展。然而，随着AI能力跃升，这种模式必然伴随的失败代价正急剧增加。他援引OpenAI未能防止AI在测试期间失控的案例，强调当前做法已难以为继。
“我的前同事们聪明、勤奋，也试图做出正确选择，但在从一个发布冲刺转向下一个的过程中，公司未能达到所需的谨慎程度。”Robinson表示，行业需要的是“首次即接近完美”的安全措施。
近期，多家头部AI公司员工纷纷警告技术潜在的灾难性风险，部分观点甚至指向人类灭绝的可能性。在此背景下，Anthropic首席执行官Dario Amodei呼吁放缓最先进模型的开发速度，并计划引入第三方评估员审查技术安全性。包括OpenAI首席执行官Sam Altman在内的多位行业领袖，已公开支持这一提议。
Robinson主张，AI公司应参照核电站的运营标准，建立冗余层级并进行审慎、耗时的规划，确保偶尔且不可避免的失误不会开启灾难之门。他指出：“AI公司尚不知如何实现这一点，但其他行业早已知晓答案。”