前Anthropic和OpenAI研究员、现行业吹哨人Jacob Coxon警告称，自动化人工智能研究已近在咫尺，这可能导致人类彻底失去对后续发展的控制权。
27岁的Coxon上月从Anthropic辞职后，于周一在纽约市立法者面前发出警报。他在专注于AI风险的市议会听证会上作证指出，自动化AI研究已成为顶级前沿实验室的“主要目标”。
研发里程碑提前，人类正远离决策核心
“在我上一份工作中，我在某种意义上是在努力让自己被自动化取代。”Coxon表示。他透露，在OpenAI任职期间，团队设定了自动化AI研究人员的里程碑，时间点分别在2027年和2028年。“我们正按计划推进，甚至超越了这些预期。那只是几个月后的事情，而不是几十年甚至五年。”
Coxon警告，一旦AI能够自主进行研究，“人类将比今天更远离决策核心，而目前的情况已经不容乐观。”他以亲身经历为例指出，当前大多数代码已由AI编写，但人们对其检查的细致程度正在下降。
针对Coxon的言论，OpenAI和Anthropic截至周二未立即回应置评请求。
批评巨头“鲁莽赌博”，呼吁放缓开发
Coxon是参加此次长达数小时听证会的行业吹哨人小组成员之一，与会者还包括来自OpenAI、Anthropic、Google和Meta的代表。市议会议长Julie Menin在开场时强调，听证会的目的并非扼杀创新，而是确保创新在负责任的前提下进行。
Coxon向议员们表示，他在两家顶尖AI公司的经历让他确信，企业在缺乏足够保障措施的情况下正在加速推进。“人类很可能失去对这些AI的控制，其结局可能是人类灭绝。”他补充道，“鉴于事态的严重性，这些公司表现得极其鲁莽。”
此前，Coxon在X平台宣布辞职并发布了一篇病毒式传播的帖子，指控Anthropic和OpenAI“没有负责任地行事”，并在“拿我们的生命赌博”。在本次听证会上，他呼吁AI实验室提高透明度，并放缓这项快速发展的技术的开发速度。
“公司的运作模式是初创思维：快速行动，打破常规，以后再修复。这对照片分享应用有效，但对构建有史以来最强大的技术来说并不适用。”Coxon作证称。
行业领袖呼应：需明智利用争取到的时间
在Coxon辞职几天后，Anthropic首席执行官Dario Amodei发表了一篇近4000字的文章，敦促AI行业放慢脚步。“我们必须减缓提升AI模型能力的步伐。”Amodei写道，“进步看起来仍然会很快，我们必须明智地利用我们争取到的时间。”
对此，OpenAI首席执行官Sam Altman在X上发帖表示：“我同意Dario的观点，我们需要把握前沿技术的节奏。这也是我们在过去几周于OpenAI内部讨论的主要话题。”