快照:2026-06-12。
目的:追踪那些衡量 agent 是否正在变成有用 ML 研究员的基准,而不只是编码助手基准。
先给答案
不是:并不是每个基准都有所请求模型槽位的公开分数。
- 前五个基准都有值得追踪的当前公开 frontier result。
- WeirdML 是这里唯一同时有中国模型、GPT-5.5 和 Fable 5 三个请求槽位的基准。
- MLE-bench 有顶级中国模型行,但在已检查排行榜里没有官方 GPT-5.5 或 Fable 5 行。
- RExBench 有 DeepSeek-R1 和 GPT-5 行,但在已检查论文里没有 GPT-5.5 或 Fable 5 行。
- MLRC-Bench 和 RE-Bench 应该把请求槽位留空,直到出现可比较的公开行。
不要把缺失行当成零分。它表示在已检查来源里没有找到可比较的公开结果。
模型排序
这是一个带观点、按证据加权的排序。不要直接平均这些基准:MLRC/RE/REx 更接近真实研究,MLE-bench 更接近已知 ML 工程工作,WeirdML 是紧凑的 agentic modeling 信号。
总体
-
Claude Fable 5 / Claude Opus line
如果任务是 agentic、混乱且研究代码很重,这是最好的押注。Fable 5 是当前 WeirdML 领先者,Claude Opus variants 有最强的直接 RExBench 和高端 MLE-bench 证据。注意:Fable 5 本身仍然需要在 MLRC、RE-Bench、RExBench 和 MLE-bench 上有直接公开行。
-
Gemini 3 Pro / Gemini exp line
对 Kaggle 风格 ML 工程证据最强。Gemini-3-Pro-Preview 支撑了 MLE-bench 顶级行,较旧的
gemini-exp-1206行仍然是 MLRC-Bench 中要超越的结果。注意:相对于当前 frontier models,MLRC 结果已经偏旧。 -
GPT-5.5 / GPT-5 / Codex line
在 weird modeling 和 research-code implementation 上是强 runner-up。GPT-5.5 在 WeirdML 排第二,GPT-5 在 RExBench 上有竞争力,gpt-5-codex 有有意义的 MLE-bench 行。注意:更难的 ML research benchmarks 缺少公开 GPT-5.5 行。
-
DeepSeek V3.2 / V4 line
最适合 China-friendly ML 工程的押注。Deepseek-V3.2-Speciale 是 MLE-bench 上找到的顶级中国模型行。注意:公开 research-extension 和 RE-Bench 证据弱于 frontier Claude/Gemini/OpenAI 证据。
-
GLM / Kimi / Qwen Chinese frontier
好的 watchlist tier。GLM-5.1 是 WeirdML 上找到的顶级中国模型行,Kimi/Qwen variants 也值得追踪,但它们横跨主要 ML research benchmarks 的证据还不够完整。
按工作类型
真实 ML 研究:
- Claude Opus/Fable line
- Gemini 3 Pro / Gemini exp line
- GPT-5.5 / GPT-5 line
- DeepSeek V3.2 / V4 line
- GLM / Kimi / Qwen frontier
实现已知 ML 工作:
- Gemini-3-Pro-Preview
- Claude Opus 4.6 / 4.5
- Deepseek-V3.2-Speciale
- gpt-5-codex / GPT-5
- Gemini-2.5-Pro
Agentic weird modeling:
- Claude Fable 5
- GPT-5.5
- Claude Opus 4.8 / 4.6
- GPT-5.3-codex / GPT-5.4
- GLM-5.1
当前最高分
| Benchmark | 当前要超越的公开 top | 请求分数覆盖情况 |
|---|---|---|
| MLRC-Bench | MLAB (gemini-exp-1206): 相对顶级人类解法平均提升 9.3%。 | 未找到请求模型行。 |
| RE-Bench | 原论文:frontier agents 在 2h 预算下超过人类专家,但更长预算下人类反超。 | 有 DeepSeek-R1 后续结果;未找到 GPT-5.5 或 Fable 5 行。 |
| RExBench | OpenHands + Claude 4.5 Opus: 无提示最终成功率 42%;有提示 62%。 | 有 DeepSeek-R1 和 GPT-5 行;未找到 GPT-5.5 或 Fable 5 行。 |
| MLE-bench / High | Overall: Famou-Agent 2.0 + Gemini-3-Pro-Preview, 64.44%。High split: AIBuildAI + Claude-Opus-4.6, 46.67%。 | 有中国模型行;未找到官方 GPT-5.5 或 Fable 5 行。 |
| Agentic WeirdML / WeirdML v2 | claude-fable-5 (no thinking): 平均准确率 87.85%。 | 中国模型、GPT-5.5 和 Fable 5 行都存在。 |
下面的扩展 watchlist 还没有分数行。它是未来追踪的 shortlist,不是完整 leaderboard。
分数卡
1. MLRC-Bench
最适合的用途:真实 ML 研究进展。
当前 top:MLAB (gemini-exp-1206),相对顶级人类解法平均提升 9.3%。
请求槽位:
- 中国模型:在已检查论文表格中没有找到公开行。
- GPT-5.5:没有找到公开行。
- Fable 5:没有找到公开行。
为什么追踪:它使用七个 ML 研究竞赛任务,并根据顶级人类竞赛结果进行客观评分。这是这里最干净的 “它能做新颖 ML 研究吗?” 信号。
2. RE-Bench
最适合的用途:AI R&D research engineering。
当前 top:原论文报告 frontier agents 在 2 小时时间预算下超过人类专家,而更长预算下人类反超。
请求槽位:
- 中国模型:存在 DeepSeek-R1 后续结果,在六任务 RE-Bench 变体上,16h 预算下约等于第 28 百分位的人类专家。
- GPT-5.5:没有找到公开行。
- Fable 5:没有找到公开行。
为什么追踪:它在现实感更强的 ML research-engineering environments 中比较 agent 和人类专家。
3. RExBench
最适合的用途:扩展现有 ML 论文和代码库。
当前 top:OpenHands + Claude 4.5 Opus,无提示最终成功率 42%,有提示 62%。
请求槽位:
- 中国模型:
OpenHands + DeepSeek-R1,无提示 0%,有提示 0%,详细提示 10%。 - GPT-5.5:没有找到公开行。附近行:
OpenHands + GPT-5,无提示 27%,有提示 37%,详细提示 43%。 - Fable 5:没有找到公开行。
为什么追踪:它测试 agent 是否能把 research-extension idea 变成现有 AI codebase 里的可运行代码。
4. MLE-bench / MLE-bench High
最适合的用途:Kaggle 风格 ML 工程。
当前 top:overall 为 Famou-Agent 2.0 + Gemini-3-Pro-Preview,64.44%;High split 为 AIBuildAI + Claude-Opus-4.6,46.67%。
请求槽位:
- 中国模型:
ML-Master 2.0 + Deepseek-V3.2-Speciale,overall 56.44%,High 42.22%。 - GPT-5.5:没有找到官方行。已检查的附近 OpenAI-family 行:
Thesis + gpt-5-codex,overall 48.44% / High 31.11%;R&D-Agent + gpt-5,overall 35.11% / High 22.22%。 - Fable 5:没有找到公开行。
为什么追踪:它是最知名的 Kaggle 风格 ML-agent benchmark,但分数很依赖 scaffold 和 runtime。
5. Agentic WeirdML / WeirdML v2
最适合的用途:奇怪数据和建模直觉。
当前 top:claude-fable-5 (no thinking),平均准确率 87.85%。
请求槽位:
- 中国模型:
glm-5.1,平均准确率 57.10%。 - GPT-5.5:
gpt-5.5 (xhigh),84.91%;gpt-5.5 (high),83.90%。 - Fable 5:
claude-fable-5 (no thinking),87.85%。
为什么追踪:它紧凑且实用,适合检查模型是否能理解奇怪数据集、设计特征、迭代和调试。
最值得追踪的 Top 5
- MLRC-Bench - 最适合真实 ML 研究进展;很不饱和。
- RE-Bench - 最适合 AI R&D research engineering;很不饱和。
- RExBench - 最适合扩展 ML 论文和代码库;很不饱和。
- MLE-bench / MLE-bench High - 最适合 Kaggle 风格 ML 工程;不饱和但 scaffold-heavy。
- Agentic WeirdML / WeirdML v2 - 最适合作为 weird modeling intuition 的快速信号;半饱和但有用。
简洁追踪列表
MLRC-Bench
RE-Bench
RExBench
MLE-bench
MLE-bench High split
Agentic WeirdML
WeirdML v2
FML-bench
MLGym-Bench
MLR-Bench
ReX-MLE扩展追踪器
MLRC-Bench - ML research competitions;客观的新颖性和进展信号;很不饱和。
RE-Bench - AI R&D research-engineering environments;有人类对照;很不饱和。
RExBench - 在现有 ML 论文和代码库中实现扩展;很不饱和。
MLE-bench - Kaggle 风格 ML 工程;scaffold/model/tooling benchmark;仍然困难。
MLE-bench High - MLE-bench 的更难 split;比 aggregate score 更适合看 frontier signal。
Agentic WeirdML - 有 tool-use/iteration 的奇怪 ML 任务;实用快速信号好。
WeirdML v2 - 非标准 ML 任务;有用但正在变得更饱和。
FML-bench - fundamental ML research problems;适合追踪搜索和探索策略。
MLGym-Bench - 横跨 CV/NLP/RL/game theory 的开放式 AI research tasks;适合 framework benchmark。
MLR-Bench - 201 个开放式 ML research tasks;覆盖广,但依赖 judge。
ReX-MLE - medical-imaging ML-engineering benchmark;领域特定且很难。未来 AI 研究员信号
如果唯一问题是 “这是否预测未来 AI 研究员能力?“,先追踪这些:
MLRC-Bench
RE-Bench
RExBench
FML-bench
MLE-bench High也追踪 WeirdML,但不要把它排在上述五个之上作为 frontier progress 信号。它更紧凑,也更接近饱和。
刷新协议
- 从 primary sources 更新分数追踪器。
- 保持 agent scaffold 和 model name 绑定;只比较 model 会误导。
- 区分 no-hint、hinted 和 detailed-hint 分数。
- 优先使用 harder splits 和 human-comparison metrics,而不是 aggregate leaderboard numbers。
- 不要用无关 benchmark 的结果填 GPT-5.5 或 Fable 5 字段。