快照:2026-09-29。以下分数与覆盖情况来自提供的快照;下次更新时应重新核查基准维护者的实时排行榜。

只追踪衡量自主 ML 与科学研究能力、且仍未饱和的基准。每项都必须同时有公开的 GPT-6 Astra 成绩,以及 Claude Opus 5.5 或 Claude Fable 5.1 成绩;分数还应能定期更新。纯通用编码基准不纳入。

严格追踪列表

基准GPT-6 AstraClaude Opus 5.5Claude Fable 5.1衡量能力
WeirdML v342.2%31.2%26.0%发现陌生 ML/数据问题中的结构
Terminal-Bench-Science 0.168.1%63.3%40.0%用工具执行科学工作流
MLS-Bench-Lite50.0—50.3发明可泛化的 ML 方法

不同基准的任务与评分尺度不同,不可直接比较分数。MLS-Bench-Lite 使用人类 SOTA 参照尺度,而不是百分比。记录分数时应保留模型、运行环境、推理强度与基准版本。

WeirdML v3:发现

Agent 探索陌生数据集、发现潜在结构、建立分析流程,并在有限反馈下迭代。最高分仅 42.2%,仍有充足空间。这是建模直觉而非标准基准识别能力的紧凑测试。

公开成绩:GPT-6 Astra 42.2%;Claude Opus 5.5 31.2%;Claude Fable 5.1 26.0%。

Terminal-Bench-Science 0.1:执行

70 道专家设计、由可执行测试评分的题目覆盖生命、物理、数学、工程及地球科学。Agent 必须结合数据、科学软件及终端工具完成研究工作流。领先系统仍会失败约三分之一的任务。

实时排行榜配置:GPT-6 Astra(max,Codex)68.1%;Claude Opus 5.5(max,Claude Code)63.3%;Claude Fable 5.1(max,Claude Code)40.0%。不要混用配置不同的厂商发布成绩。

MLS-Bench-Lite:发明

完整 MLS-Bench 含 12 个 ML 研究领域的 140 项任务;官方 30 题 Lite 子集用于前沿系统对比。给定研究框架与强基线,Agent 需要设计在不同随机种子、数据集、设置或规模下仍有效的算法改进。目前 Agent 离稳定超越人类设计的方法还很远。

Lite 排行榜:Claude Fable 5.1 + Claude Code max 50.3;GPT-6 Astra + Codex max 50.0。参考行:Claude Fable 5 49.9;Claude Opus 5 49.8。虽然没有 Opus 5.5 行,Fable 5.1 已满足 Claude 覆盖条件。

从严格列表移除

基准原因
WeirdML v2已被 v3 取代;前沿系统逐渐接近饱和。
MLE-bench / MLE-bench High有价值的 ML 工程基准,但没有清晰可比的 GPT-6 与 Opus 5.5/Fable 5.1 公共成绩。MLE-Bench Revised 的 GPT-6 成绩已接近饱和,且缺少匹配的 Claude 成绩。
MLRC-Bench、RE-Bench、RExBench与研究相关,但尚无经过核实的所需当前模型公开成绩组合。
FML-bench、MLGym-Bench、MLR-Bench、ReX-MLE缺少所需的前沿模型覆盖;ReX-MLE 也更具领域专属性。

没有公开成绩不等于零分。如果出现可比较的当前模型成绩,且任务仍未饱和,可以重新纳入。

更新规则

  1. 在同一版本上要求公开的 GPT-6 Astra 及 Claude Opus 5.5 或 Fable 5.1 成绩。
  2. 优先使用维护者的实时排行榜,而非厂商对比表;同时记录模型、运行环境及推理强度。
  3. 不混合版本、评测配置,也不把不同基准的分数当作同一尺度。
  4. 接近有效饱和时移除;优先选择隐藏测试、可执行或客观评分,以及需要探索和迭代的任务,而非静态问答。
  5. 新的可比成绩出现时,重新审查被移除的基准。

三项基准共同覆盖 发现 → 科学执行 → 算法发明。