前 OpenAI 研究员 Diogo Almeida 曾参与构建 ChatGPT 并发明“人类反馈强化学习”(RLHF),但他对大语言模型(LLM)在自动化领域的局限性深感失望。Almeida 指出,尽管 LLM 在人类语言处理上表现卓越,但计算机需要的是另一种“语言”。两年前,他离开 OpenAI 创立 TypeSafe AI,旨在解决这一错位。

本周,TypeSafe AI 发布了基于 Transformer 架构的新模型 Jev。与传统的 LLM 不同,Jev 不生成文本,而是输出概率,即公司所称的“校准决策”。这种摒弃自然语言生成的设计带来了显著优势:模型运行极其廉价且快速,因输出由用户预定义而彻底消除幻觉,且输入 Token 处理能力按十亿计而非百万计。

开发者青睐:速度与成本的双重优势

Jev 在软件自动化领域展现出巨大潜力。Vercel 软件工程师 Pranit Sharma 透露,在使用 Jev 替换 OpenAI 的 Luna 模型进行命令安全审查后,速度提升了 5 到 18 倍,且准确性更高。Bryo AI 首席技术官 Nikhil Mudholkar 在商业邮件分类测试中发现,虽然 Gemini 准确率略高,但成本高出 10 到 20 倍;而 Jev 提供的真实概率置信度评分,使其成为自动化工作流的理想选择。

由于需求激增,TypeSafe AI 甚至一度因 API 负载过高而短暂暂停服务。除了替代 LLM,Jev 还可作为智能检查工具,监控 LLM 代理行为并防止越狱攻击。Earendil 首席技术官 Armin Ronacher 指出,Jev 将幻觉问题的判断权部分交还用户:用户可根据返回的概率值(如 50% 或 95%)决定是否采纳结果。此外,Jev 的低成本特性使其适用于实时模型路由,预测工作负载是否需要调用更昂贵的特定模型。

合成数据与“系统一”智能

Jev 以 19 世纪经济学家威廉·斯坦利·杰文斯命名,寓意智能成本降低将推动其广泛部署。Almeida 设想,智能软件将像早期互联网一样,以涌现和分布式的方式遍布各处,而非集中于巨型应用。

在技术细节上,Almeida 对架构保密,但确认 Jev 属于侧重直觉而非推理的“系统一模型”,且仅使用合成数据进行训练,采用“来自校准决策的强化学习”技术。Almeida 表示,押注全合成数据是他职业生涯中最好的决策之一,甚至优于 RLHF 的贡献和公司上市。目前,TypeSafe AI 计划在新模态下构建更多模型版本。Almeida 强调,公司并非追求炒作的前沿实验室,而是致力于提供实用的智能产品。随着 Jev 效用显现,预计竞争对手也将涌入这一赛道。