英国人工智能推理芯片初创公司 Fractile Ltd. 已完成 7.2 亿美元融资。本轮由 Thrive Capital、Founders Fund、Lightspeed 和 Redpoint 领投，英国主权 AI 基金、英国商业银行以及 Alphabet 旗下 CapitalG 等十余家机构跟投。至此，Fractile 估值已达 70 亿美元。
Fractile 由 AI 研究员 Walter Goodwin 于 2022 年创立并担任 CEO。该公司声称，其芯片性能有望较现有硅基芯片提升高达 100 倍，同时能耗降低 90%。这一突破的核心在于消除了 AI 模型将数据移至片外高带宽内存（HBM）的需求。
打破“内存墙”瓶颈
大型语言模型（LLM）在生成响应时需经历多个处理步骤。传统架构中，每完成一步，数据需发送至片外 HBM 内存，随后再读回以进行下一步。这种频繁的数据往返严重拖慢了推理速度。
为解决这一瓶颈，业界存在不同技术路径。今年 5 月上市的 Cerebras Systems 采用晶圆级加速器，通过将信息保留在大型板载 SRAM 缓存中来减少数据移动。尽管 SRAM 读写速度远超 HBM，但其成本高且容量有限，Cerebras 最新处理器 WSE-3T 的缓存容量为 44GB。
Fractile 则选择了另一条路径：不集成 SRAM，而是将标准 DRAM 内存直接堆叠在处理器逻辑电路之上。这种设计最大限度地缩短了数据传输距离，从而提升传输速度并降低功耗。
三星电子也在开发类似技术。今年 8 月，三星推出了可直接堆叠在 AI 加速器之上的 zHBM 技术，利用微铜线传输数据。三星表示，该技术速度将是未来迭代产品 HBM5 的八倍。
明年启动出货
Fractile 估计，其芯片可使 LLM 每秒处理数千个词元（tokens）。公司计划明年开始出货，产品将以包含定制软件的机架级系统形式交付。与多数 AI 芯片制造商一样，Fractile 也提供定制编译器，用于自动将客户的 LLM 转换为兼容其硬件的格式。