
Anthropic在向IPO投资者披露的信息中透露,其Claude Mythos Preview模型在约三天内完成了让AI在AMD GPU上运行所需的软件适配工作,且“几乎无需人工干预”。相比之下,以往这项工作需要六到十二个月,并需动用“数十名工程师”的团队。
Anthropic联合创始人兼首席计算官Tom Brown指出,这三天时间涵盖了一个Anthropic模型在AMD MI355X GPU上实现“具有实用性能水平”的提示处理(prompt processing)。在此期间,Mythos移植或编写了“接近100%的内核”。长期以来,将AI模型与特定芯片绑定的底层代码一直是英伟达CUDA生态的护城河,而AI能在几天内完成此类代码编写,表明这一壁垒正在受到侵蚀。
从“数月工程”到“周末运行”
Brown将这一效率提升归因于公司早期采取的多芯片策略,他称这是一项“非传统的赌注”。目前,Anthropic已在英伟达和AMD的GPU、谷歌TPU以及AWS Trainium等多种芯片上运行模型,并将其管理为“一个可互换的计算资源池”。鉴于谷歌TPU现已原生支持基于PyTorch构建的AI模型,且Meta已在生产环境中使用,这一策略被证明具有前瞻性。
Anthropic声称传统方式耗时六到十二个月,是基于过去引入新加速器时针对每个硬件平台定制代码的经验。消除这一入门障碍后,芯片选择可能简化为纯粹的购买决策。Anthropic今年首次开始与AMD GPU合作,目前已达成高达2吉瓦的协议。
AMD的软件突围与行业共识
CUDA作为英伟达拥有近二十年历史的成熟编程平台,其代码需经转换才能在AMD等效的ROCm平台(编程层为HIP)上运行。尽管AMD开发了HIPify工具进行转换,但切换成本依然存在。AMD人工智能软件副总裁Anush Elangovan今年四月表示:“Claude比HIPify更好,因为它内置了网络搜索功能。”
自去年八月起,AMD一直主张AI可编写此类代码。AMD CEO苏姿丰去年九月表示,大部分AI软件是用CUDA编写的,需要“转换为AMD格式”,而“其中很大一部分现在可以通过软件完成”。今年七月,AMD负责人工智能的高级副总裁Vamsi Boppana透露,其工程师正使用AI模型生成GPU内核,且在某些情况下,生成的内核甚至比“最手动优化的版本还要好”。苏姿丰还提到,当询问团队是否需帮助在MI355X上工作的Anthropic工程师时,得到的答复是“不需要任何帮助”。
在七月的AMD Advancing AI活动上,OpenAI的Philippe Tillet表示,一旦获得Helios机架,一名工程师在几天内便确认一切正常,“从某种意义上说,智能体正在接管我们的工作,成为内核工程师”。AMD副总裁Andrew Dieckman亦表示,他几乎没有与客户讨论过CUDA问题。
护城河变窄但未消失
尽管上述言论多来自AMD或其合作伙伴,但Anthropic作为买方且即将IPO,其多芯片策略的数据支持更具分量。其招股书书面提到:“我们可以以以前所需时间的一小部分将新芯片平台投入生产。”不过,Anthropic尚未说明提示处理(预填充)之外的回复步骤(解码)是否包含在内,也未提供AMD GPU与英伟达GPU在运行速度上的直接对比。
英伟达CEO黄仁勋今年四月在接受采访时回应称,英伟达大量使用AI创建内核,“没有人比我们自己更了解我们的架构”。他将Anthropic使用其他加速器称为“独特的个案,而非趋势”。值得注意的是,包括英伟达和AMD在内的七家公司正以IPO价格购买价值260亿美元的Anthropic股票,英伟达正在投资这家被其CEO视为例外的公司。
SemiAnalysis此前分析认为,软件创建已不再是一年前的护城河。但随着智能体编码兴起,“每个智能体都需要GPU来测试其代码”,GPU供应不足可能成为新的瓶颈。这使得CUDA护城河处于中间地带:让模型在新芯片上运行的成本正在降低,更好的AI可能削弱英伟达“最懂硬件”的说法,但从任何芯片中榨取最大性能仍需硬件测试,护城河正在变窄,但并未消失。
Anthropic首批位于Helios机架中的AMD MI450芯片预计将在2027年上半年到位。这将是一个观察“三天启动过程”是否可重复的机会。随着Anthropic即将上市,其后续的芯片部署进展将成为公众关注的焦点。