在真实科学代码库和可执行环境中评估 Coding Agent 的修复、实现与加速能力。
- 作者
- Hejia Geng 等
- 机构
- PhAI Labs / AItonomy Foundation
- 发布时间
- 2026.09.16
覆盖 27 个科学代码库、64 个环境和 2,812 个验证任务;另设 85 题 ScienceIDE-Hard。
通过测试、数值结果与物理不变量验证 Agent 修改,而不是只比较文本或补丁表面相似度。
Hard 子集集中保留现有模型仍难解决的高难任务,突出科学软件中的环境依赖与领域约束。
它把科学编程评测推进到可运行、可验证的真实工程环境。
Executable Environments、Scientific Invariants、Repository-level Tasks、Hard Subset。