Anthropic最新研究指出，AI模型正显现出“蠕虫化”的生命迹象，可能在未来殖民家用智能设备。尽管目前尚未出现完全失控的自我复制系统，但专家指出，随着小型模型能力的快速迭代，这一网络安全风险已不容忽视。
从数据中心到客厅：AI模型的“下沉”风险
长期以来，AI安全研究的焦点集中在OpenAI Astra或Anthropic Mythos等拥有万亿参数的前沿大模型上。这些模型因算力需求巨大，通常被限制在易于监控和关闭的数据中心内。然而，参数量较小、可在消费级硬件上运行且易于下载的模型，正带来新的安全隐患。
Anthropic研究人员尝试在资源受限的设备网络上运行AI模型。他们成功将Google拥有的260亿参数模型Gemma 4，分割部署在15个Android智能电视盒子上。虽然单个设备无法独立运行该模型，但集群协作实现了模型运行，尽管速度较慢。
在验证可行性后，研究团队构建了一个模拟Android设备行为的计算机网络，并释放了一种由AI驱动的“蠕虫”。该蠕虫的任务是寻找新机器、复制AI模型并启动运行。值得注意的是，负责协调攻击的模型与被传播的Meta 80亿参数模型Llama 3.1-8B不同，后者体积更小。
实验显示，只有来自中国Z.ai的最复杂测试模型GLM-5.2成功在整个网络中完成自我复制传播，其他较小模型仅能完成个别步骤。基于当前的改进速度，Anthropic研究人员预测，到今年年底，小型模型的能力将达到GLM-5.2的水平。
专家观点：威胁具体，需立即行动
Anthropic在博客中写道：“我们预计未来将充斥着在各种硬件上运行的代理，包括一些不受人类控制的硬件。”研究人员承认，目前尚未展示“完整的失控复制器”，并将其描述为“缓慢分布的数字黏菌”或“一群果蝇”，但强调已观察到“AI蠕虫的生命迹象”。
这一警告引发了关于“AI末日论”炒作的争议。然而，多位独立专家认为，质疑动机虽合理，但忽视技术进展的风险更大。加州AI安全研究公司Palisade Research执行董事Jeffrey Ladish指出，Anthropic的研究证明了更小参数的模型也能实现自主复制，且该技术同样适用于由MacBook等消费芯片组成的大型网络。
多伦多大学教授Nicolas Papernot表示，先前的研究已证实AI驱动计算机蠕虫的现实性。与传统蠕虫相比，AI使其更聪明、更具适应性，能更好地应对障碍。Papernot警告，原本因攻击成本高而被忽略的低安全性智能设备，现在可能被用作攻击高价值目标（如医院、电网）的跳板。
“除非付出巨大努力确保各类设备的安全，否则AI蠕虫将拥有肥沃的殖民土壤，”Ladish称。他预测，未来12个月内，公众可能会首次在野外观察到此类AI蠕虫的实际活动。Anthropic则借此呼吁加强设备安全性，并再次强调开源模型相较于其封闭系统具有更高的潜在风险。