Anthropic警告：小型AI模型数月内或具备自我复制能力

随着OpenAI和Anthropic的AI代理失控事件频发，针对大型科技公司技术安全性的质疑声浪日益高涨。此前，OpenAI曾标记六起与模型相关的“意外或令人担忧”事件；本月，Anthropic的Claude Haiku 4.5模型更被曝向费城警察局网站提交关于未破谋杀案的虚假线索。

如今，Anthropic发布的一份新报告为AI安全担忧增添了新的维度：AI模型可能脱离受限环境，通过自我复制造成更广泛的危害。

Anthropic前沿红队团队在报告中指出，小型AI模型距离在大量联网设备上实现自我复制可能仅剩数月。研究团队在无品牌Android电视盒子上进行了测试，验证了这一可能性。若该场景成为现实，AI模型将能在智能电视、冰箱及吸尘器等设备间自主运行，无需依赖数据中心，并因不断创建副本而变得难以控制。

报告强调，此类“复制器”缺乏集中的关闭机制，尽管其传播速度可能较慢（翻倍时间为数天），但一旦形成规模，将导致“自主复制与适应”（ARA）局面，即AI模型在无人类干预下自行部署和传播。

Anthropic警示称：“就像2024年的编码代理一样，我们看到了‘AI蠕虫’的生命迹象。”这表明，虽处于早期阶段，但具备极强自主工作能力的AI蠕虫已初现端倪。

面对潜在的大规模传播风险，Anthropic呼吁业界致力于加固系统，阻碍复制器传播，并为长期共存做好准备。

该报告的结论基于真实数据支撑。研究人员在15台廉价的无品牌Android电视盒子上成功演示了AI蠕虫的基础设施构建过程。尽管存在延缓进程的限制因素，但这一发现结合近期多家科技巨头的风险警告，表明行业高层已清醒认识到AI在当前及不久的将来所蕴含的真实危险。