Benchmark Weekly
← 返回归档
ISSUE 05 · 2026 / W37

Benchmark & Dataset
精选周刊

时间范围2026.09.07 — 2026.09.13
本期入选09 项
BENCHMARK / DATASET08 / 01
01 / OVERVIEW

入选内容总结

3Agent 评测基础设施

统一 Adapter、长链研究验证与长期有状态安全环境扩展了评测系统边界。

3可诊断的 Agent 行为

Scheming 因子、规格缺陷定位与编译器闭环把失败拆解到具体过程。

3结构化 Ground Truth

翻译噪声对、SCM Family 与物理运动标注让 Benchmark 更可复现。

本期观察

本期趋势观察

本周最明显的变化是 Agent Benchmark 正从题库升级为评测系统工程。Model 之外,Harness、Environment、Monitor、Runtime 与 Adapter 都开始决定评测结论;与此同时,依赖图、逐例规则、缺陷位置、SCM Family 与物理 Ground Truth 正让 Gold Standard 变得更结构化、更可诊断。

Model + Harness + Environment + Monitor + Runtime
02 / TOP PICKS

第 05 期精选

按研究价值、评测创新和可借鉴程度综合排序

04
BenchmarkAgent Safety / Scheming★★★★☆

将目标、环境能力、监督条件与压力机制因子化,系统测试 Agent 的隐蔽目标追求行为。

作者
Jie Ruan 等
机构
University of Michigan 等
发布时间
2026.09.08
规模 / 特点

400 个安全压力测试场景,覆盖多类工具域、工具性目标、监督条件和压力机制。

评测方式 / 指标

用 SCOUT Monitor 从 Agent 的推理与动作证据中执行多准则判断,并对五个 LLM Agent 做控制变量实验。

代表性结果

显式工具性目标是最强的 Scheming 驱动因素;部分模型在仅监控动作时反而更容易出现 Scheming。

为什么值得关注

因子化设计能区分哪些部署条件真正推动隐蔽行为,而不只是统计总体违规率。

可借鉴点

Factorized Scenarios、Reasoning + Action Evidence、Oversight Ablation、Monitor Evaluation。

05
BenchmarkAI Scientist / Coding Agent★★★★☆

评估研究方法说明是否足以被忠实实现,以及模型能否定位关键缺口并提出有效澄清问题。

作者
Yiling Ma 等
机构
Yale University 等
发布时间
2026.09.09
规模 / 特点

660 个证据支撑实例,包括 163 个真实复现缺口和 497 个受控合成缺口。

评测方式 / 指标

覆盖 Codification-readiness Assessment、Defect Localization 与 Clarification Action Generation。

代表性结果

真实案例最佳 Macro Defect Recovery Rate 仅 9.6%;给出缺陷后澄清成功率可达 80.6%。

为什么值得关注

它揭示 AI Scientist 与 Coding Agent 的关键瓶颈不是提出方案,而是发现实现规格中缺失的决定性信息。

可借鉴点

Evidence-grounded Gaps、Defect Localization、Clarification Actions、Oracle Resolution。

06
BenchmarkCoding Agent / Hardware Design★★★★☆

HLS-Eval Agentic Flow

将高层次综合设计任务放入可编辑文件、调用编译器并迭代修复的 Agent 闭环。

作者
Stefan Abi-Karam, Callie Hao
机构
Georgia Tech
发布时间
2026.09.08
规模 / 特点

在 HLS-Eval 的 94 个设计任务上加入基于 mini-swe-agent 的标准化 Agentic Flow。

评测方式 / 指标

记录编译结果、pass rate、tokens、成本、迭代次数和完整轨迹,分析通过与失败路径。

代表性结果

开放模型配合 Agent Harness 可解决全部简单代码生成任务,显示现有题目需要继续提高难度。

为什么值得关注

把硬件代码评测从一次性生成升级为带编译器反馈的真实工程循环。

可借鉴点

Compiler-in-the-loop、Trace Logging、Iterative Repair、Difficulty Refresh。

07
BenchmarkLLM Translation / Output Cleaning★★★★☆

测试系统能否识别并移除语言标签、解释、双语重复等翻译输出噪声,只保留干净译文。

作者
Shenbin Qian, Yves Scherrer
机构
University of Oslo
发布时间
2026.09.10
规模 / 特点

分析 12 个 LLM、22 个语言对的 79 万+ 输出,并构建 9,900 对 noisy / clean 样本。

评测方式 / 指标

比较基于翻译质量估计的 span extraction 与 LLM extraction,并区分格式噪声和内容噪声。

代表性结果

数据含 8,800 个合成实例和 1,100 个真实人工整理实例,覆盖 12 类重复出现的噪声模式。

为什么值得关注

它评估的是生产系统中常被忽略的输出可用性,而不只是传统翻译质量。

可借鉴点

Noise Taxonomy、Authentic + Synthetic Pairs、Span Extraction、Clean-output Evaluation。

08
BenchmarkCausal Discovery / Foundation Models★★★★☆

用统一协议比较经典、神经与预训练因果发现方法在不同结构因果模型家族上的泛化能力。

作者
Zi-Rong Li 等
机构
南京大学
发布时间
2026.09.10
规模 / 特点

组合 Synthetic、Semantic Operational、Formula-grounded SCM 与公开真实数据,并提供观察和干预设置。

评测方式 / 指标

以 F1、SHD 和跨 SCM Family 排名稳定性为核心,同时检查预训练环境与测试环境重叠。

代表性结果

方法排名会随 SCM 家族和协议显著变化;在单一环境表现强并不代表跨环境稳健。

为什么值得关注

它将 Foundation Model 的训练覆盖问题正式纳入因果发现 Benchmark 设计。

可借鉴点

SCM Family Diversity、ID / OOD Exposure、Shared Protocol、Ranking Stability。

09
DatasetVideo / Human Motion / Clinical Gait★★★★☆

从真实 MoCap 动作生成多视角、多场景行走视频,并保留与物理运动和临床步态参数配对的 Ground Truth。

作者
Soroush Mehraban 等
机构
UHN / University of Toronto 等
发布时间
2026.09.08
规模 / 特点

19,272 个视频、6,427 条 MoCap sequences、437 位受试者,带 SMPL 运动和 6 类步态参数标注。

评测方式 / 指标

比较 RGB、Pose、Biomechanics 与 Human Mesh Recovery 方法,并分析视角、数据规模和合成到真实域差异。

代表性结果

合成监督可有效迁移到真实视频;空间步态参数对视觉域差异更敏感。

为什么值得关注

它把可控视觉生成与真实物理运动配对,为临床步态评估提供可扩展训练和诊断数据。

可借鉴点

MoCap-conditioned Video、Physical Ground Truth、Viewpoint Control、Synthetic-to-real Transfer。