快照:2026-09-29。以下分数与覆盖情况来自提供的快照;下次更新时应重新核查基准维护者的实时排行榜。
只追踪衡量自主 ML 与科学研究能力、且仍未饱和的基准。每项都必须同时有公开的 GPT-6 Astra 成绩,以及 Claude Opus 5.5 或 Claude Fable 5.1 成绩;分数还应能定期更新。纯通用编码基准不纳入。
严格追踪列表
| 基准 | GPT-6 Astra | Claude Opus 5.5 | Claude Fable 5.1 | 衡量能力 |
|---|---|---|---|---|
| WeirdML v3 | 42.2% | 31.2% | 26.0% | 发现陌生 ML/数据问题中的结构 |
| Terminal-Bench-Science 0.1 | 68.1% | 63.3% | 40.0% | 用工具执行科学工作流 |
| MLS-Bench-Lite | 50.0 | — | 50.3 | 发明可泛化的 ML 方法 |
不同基准的任务与评分尺度不同,不可直接比较分数。MLS-Bench-Lite 使用人类 SOTA 参照尺度,而不是百分比。记录分数时应保留模型、运行环境、推理强度与基准版本。
WeirdML v3:发现
Agent 探索陌生数据集、发现潜在结构、建立分析流程,并在有限反馈下迭代。最高分仅 42.2%,仍有充足空间。这是建模直觉而非标准基准识别能力的紧凑测试。
公开成绩:GPT-6 Astra 42.2%;Claude Opus 5.5 31.2%;Claude Fable 5.1 26.0%。
Terminal-Bench-Science 0.1:执行
70 道专家设计、由可执行测试评分的题目覆盖生命、物理、数学、工程及地球科学。Agent 必须结合数据、科学软件及终端工具完成研究工作流。领先系统仍会失败约三分之一的任务。
实时排行榜配置:GPT-6 Astra(max,Codex)68.1%;Claude Opus 5.5(max,Claude Code)63.3%;Claude Fable 5.1(max,Claude Code)40.0%。不要混用配置不同的厂商发布成绩。
MLS-Bench-Lite:发明
完整 MLS-Bench 含 12 个 ML 研究领域的 140 项任务;官方 30 题 Lite 子集用于前沿系统对比。给定研究框架与强基线,Agent 需要设计在不同随机种子、数据集、设置或规模下仍有效的算法改进。目前 Agent 离稳定超越人类设计的方法还很远。
Lite 排行榜:Claude Fable 5.1 + Claude Code max 50.3;GPT-6 Astra + Codex max 50.0。参考行:Claude Fable 5 49.9;Claude Opus 5 49.8。虽然没有 Opus 5.5 行,Fable 5.1 已满足 Claude 覆盖条件。
从严格列表移除
| 基准 | 原因 |
|---|---|
| WeirdML v2 | 已被 v3 取代;前沿系统逐渐接近饱和。 |
| MLE-bench / MLE-bench High | 有价值的 ML 工程基准,但没有清晰可比的 GPT-6 与 Opus 5.5/Fable 5.1 公共成绩。MLE-Bench Revised 的 GPT-6 成绩已接近饱和,且缺少匹配的 Claude 成绩。 |
| MLRC-Bench、RE-Bench、RExBench | 与研究相关,但尚无经过核实的所需当前模型公开成绩组合。 |
| FML-bench、MLGym-Bench、MLR-Bench、ReX-MLE | 缺少所需的前沿模型覆盖;ReX-MLE 也更具领域专属性。 |
没有公开成绩不等于零分。如果出现可比较的当前模型成绩,且任务仍未饱和,可以重新纳入。
更新规则
- 在同一版本上要求公开的 GPT-6 Astra 及 Claude Opus 5.5 或 Fable 5.1 成绩。
- 优先使用维护者的实时排行榜,而非厂商对比表;同时记录模型、运行环境及推理强度。
- 不混合版本、评测配置,也不把不同基准的分数当作同一尺度。
- 接近有效饱和时移除;优先选择隐藏测试、可执行或客观评分,以及需要探索和迭代的任务,而非静态问答。
- 新的可比成绩出现时,重新审查被移除的基准。
三项基准共同覆盖 发现 → 科学执行 → 算法发明。