Cloudflare 今日宣布推出新型 System One 风格模型预览版——提取模型(Extraction Models)。旗下首款产品 Clairic 现已在 Workers AI 平台提供托管服务(@cf/cloudflare/clairic),官方计划近期开源其模型权重。

与传统大语言模型(LLM)相比,Clairic 专为从未结构化输入中提取、计算、估算和预测数值而设计,具备更高准确率、更低延迟及显著的成本优势。

背景:System One 模型的演进

此前,TypeSafe 发布的 System One 模型 Jev 在业界引发关注。基于丹尼尔·卡尼曼《思考,快与慢》的理论,System One 模型主打快速精确,与具备深思熟虑推理能力的 System Two 模型(如 LLM)形成互补。Jev 作为决策模型,在特定垂直领域以亲民定价表现出色,促使行业重新审视非 LLM 模型类别及其工作流整合方式。

受此启发,Cloudflare 针对 LLM 效率低下的数值处理场景,推出了 System One 提取模型。这类任务通常涉及发票总额、送达时间、逾期天数、维修费用预估及短期交通状况等,其答案无法预先列举,却需基于概率给出决策依据。

Clairic:新一代 System One 提取模型

Clairic 是 System One 家族的新成员。与此前的决策模型(如 Jev 和 Clef)不同,Clairic 直接返回数值,而非概率分布。它保留了 System One 模型快速、强类型和低成本的特性,通过单次并行传递完成处理,无需生成 Token,通常在秒内响应,且仅对输入计费。

Clairic 可返回四类值:

  • 提取值:从输入中复制的文本(如姓名、订单 ID),附带字符偏移量和置信度评分。
  • 计算值:推导出的数字、日期、时间、持续时间等,遵循类型规则并附带置信度。
  • 估算值:基于证据支持的数值分布,包含中位数和 80% 置信区间。
  • 预测值:时间序列的未来值,每一步均提供独立估算及 80% 置信区间。

由于不生成 Token,Clairic 避免了 LLM 常见的“幻觉”问题。若未在输入中找到答案,则返回 null,并提供置信度评分以辅助人工审查。

System One: Extract (Clairic)System One: Decide (Jev/Clef)System Two (LLM)
采样方式单次并行传递单次并行传递逐个 Token 生成
核心目的预测数值做出决策写作与推理
输出类型类型化值(跨度、数字、分布等)选项及校准概率自由格式字符串
有效性保证是(类型匹配或在边界内)是(限定选项内)否(需解析检查)

这三类模型协同工作:提取模型将原始数据转化为类型化值,决策模型据此制定策略,LLM 最终生成自然语言回复。

技术原理与请求机制

Clairic 的请求包含一个 state(文本及可选图片)和一个类型化 fields 映射。用户为每个字段指定类型及指令,模型通过单次前向传递并行返回所有字段的类型化答案。由于无推理过程且无输出 Token,其速度与成本优于 LLM。

支持的数据类型包括:text(带偏移量的文本跨度)、number(遵守精度规则的数字)、date/time/datetime(ISO 格式)、duration(持续时间)、list(有序列表)、estimate(分布估算)及 forecast(序列预测)。

每个标量答案均附带 p_null(空值概率)和 confidence(置信度)。若字段过多,服务器会自动拆分为多个并行传递并合并结果。

实战示例:从非结构化数据中提取数值

传统 LLM 提取任务常面临 JSON 格式错误、数字误读及来源不可追溯等问题。Clairic 通过返回接地值、计算值、字符偏移跨度及置信度标签,有效解决了这些痛点。

以一封客户支持邮件为例,Clairic 能准确提取订单号、送达日期,并自动计算支付总额(价格+税)及送达至今的天数。若字段缺失(如追踪号),则返回 null 而非强行猜测。

此外,Clairic 支持图像处理。在测试中,它能从角度不佳的收据照片中提取订单号、购买时间、数量、单价及小费,并正确识别出未显示的折扣项为 null。

高级功能:估算与预测

数值估算:对于输入中未明确但存在证据的值(如房屋估价),Clairic 返回指定范围内的分布(中位数及 80% 区间),而非单一数字。这有助于下游系统根据置信度决定是否需要人工介入。

时间序列预测:Clairic 可直接读取历史数据(如 CSV 或文本),预测未来步骤的数值及区间。在美国 TSA 安检人流预测测试中,Clairic 连续 21 天的平均误差为 3.3%,且 17 次实际计数落入其 80% 置信区间内,成功捕捉了每周的交通节奏。

性能对比:级联架构 vs 纯 LLM

在受损产品索赔的处理流程中,Cloudflare 对比了“Clairic 提取 + Clef 决策 + LLM 回复”的级联架构与“全步骤使用 GLM-5.3”的纯 LLM 架构。

Clairic → Clef → GLM-5.3每步均使用 GLM-5.3
端到端延迟19.3 秒61.7 秒
每百万索赔成本$6,032$11,740

数据显示,级联架构节省了 69% 的时间(速度提升约 3.2 倍),并降低了 49% 的成本。Clairic 和 Clef 在不到 1 秒内完成了提取与决策,而 LLM 在这两步耗时 38 秒。此外,Clairic 的估算结果具有确定性,而 LLM 的估算则在每次运行中波动。

展望

目前,Clairic 以预览版形式在 Workers AI 上线。官方表示,当前版本在阅读能力上表现强劲,但在多步算术处理上仍有改进空间。随着后续迭代及权重开源,System One 提取模型有望成为处理现实世界数据的高效基础设施。