
Intelligence Index v5 发布:引入私有基准,全面升级评估体系
Artificial Analysis 正式发布 Intelligence Index v5,这是自今年1月推出 v4 以来最大规模的一次升级。新版本的核心变化在于评估数据的私密性:60% 的指数评分现在基于私有测试集或预留答案进行,以更真实地反映模型在现实世界任务中的综合能力,避免数据污染。
与此同时,Artificial Analysis 推出了 Artificial Analysis Progress Index v1,旨在单一连续尺度上追踪语言模型自2022年11月以来的能力演变。
基准测试重大调整
新增两项基准:
- FrontierCode 2.0:由 Cognition 推出的私有编码基准,包含132个来自真实开源仓库的任务。评分标准为仓库维护者是否合并代理提出的更改,任何未通过阻塞性检查的尝试计为0分。
- Terminal-Bench-Science:涵盖70项智能体科学研究任务,要求在终端环境中执行并通过所有专家审核的测试。
三项基准升级:
- HLE-Diamond:取代原有的 Humanity's Last Exam。这是由 CAIS 和 Scale AI 提供的精炼版,包含1000道题目,推理题与知识题各占一半。
- AA-Omniscience v1.1:清理了饱和及公开题目,修正错误并新增内容,同时发布了经过重新校准的公开子集 AA-Omniscience-Public-v1.1。
- CritPt v2:采用由作者修订的40道困难题目私有子集,在代码执行工具中运行。
保留与移除:AA-Briefcase、AutomationBench-AA、GDP.pdf 和 Terminal-Bench 4.0 保留在指数中;GDPval-AA v2.1、SciCode 和 AA-LCR v1.1 被移除。
v5 权重分配如下:
- 知识工作(25%):AA-Briefcase (15%)、AutomationBench-AA (5%)、GDP.pdf (5%)
- 编程(25%):FrontierCode 2.0 (15%)、Terminal-Bench 4.0 (10%)
- 科学(25%):Terminal-Bench-Science (15%)、CritPt v2 困难子集 (10%)
- 综合能力(25%):AA-Omniscience v1.1 (15%,含准确率10%与非幻觉率5%)、HLE-Diamond (10%)
关键评测结果
Claude Opus 5.5 领跑,顶尖模型竞争激烈
Claude Opus 5.5 (max) 以58分的综合得分位居榜首,略高于 GPT-6 Astra (max) 的57分和 GPT-6.1 Sol (max) 的55分。Anthropic 和 OpenAI 包揽前五名,Gemini 4 Argon (high) 以50分紧随其后。
在细分领域,没有单一模型在所有项目上领先。Claude Opus 5.5 在 FrontierCode 2.0、HLE-Diamond 和 AA-Omniscience v1.1 上表现最佳;GPT-6 Astra 则在 Terminal-Bench-Science 和 CritPt v2 困难子集中夺魁。
开源模型差距显著扩大
开源权重模型与领先闭源模型的差距从 v4.3 的3分扩大至12分。Kimi K3.1 Pro(权重尚未发布)以46分成为得分最高的开源权重模型。在已发布权重的模型中,DeepSeek V4.1 Flash 1017 (max) 和 GLM-5.3 (max) 以32分并列第一,落后领导者26分,甚至低于 Claude Haiku 5.5 (max) 的36分。这一差距在 HLE-Diamond 和 Terminal-Bench-Science 上尤为明显。
成本与性能差异巨大
在得分最高的10个模型中,单次任务成本差异超过13倍。GPT-6.1 Terra (max) 最具性价比,每任务仅需0.96美元;而 Claude Fable 5.1 (max) 最贵,需13.04美元。值得注意的是,GPT-6.1 Sol (max) 得分仅比 Claude Opus 5.5 (max) 低4分,但成本约为其八分之一(1.27美元 vs 10.04美元)。
“努力设置”影响加剧,Token 消耗激增
v5 对模型的工作量要求显著提高。所有模型在每个任务中生成的输出 Token 数中位数从 v4.3 的35k上升至59k,增长三分之二。其中,智能体评估相关基准(占权重55%)消耗了约90%的输出 Token,尤其是 Terminal-Bench-Science 单独占据了约三分之一。
此外,计算资源投入对结果的影响比 v4.3 更大。Claude Opus 5.5 在低努力设置下得分为35分,而在最大努力设置下跃升至58分,成本相差10倍。
Progress Index v1:追踪历史演进
伴随 v5 发布的还有 Artificial Analysis Progress Index v1。该指数将历年发布的语言模型置于统一的能力尺度上,便于比较底层能力的长期演变。若需评估当前前沿技术或选择适用于当下用例的模型,Intelligence Index 仍是主要参考指标。