#142 · 主分类: MLOps与评测

PostTrainBench

ai-research-automation ai-safety claude-code codex-cli gemini-cli post-training

衡量像 Claude Code 或 Codex CLI 这样的 CLI 代理在单个 H100 GPU 上 10 小时内对基础 LLM 进行后训练的效果。

项目最后更新:08/21/26

GitHub Stars

538

Forks数量

62

贡献者数量

6

许可证

MIT

收录理由

PostTrainBench 提供了一个具体的方法来检验自主编码代理能否胜任真正的模型开发工作。它把基础大模型、评估脚本和单块 H100 上的十小时时间交给 Claude Code、Codex、Gemini CLI 或 OpenCode 这类命令行代理,然后根据代理在目标基准上对模型性能的提升程度来打分。其七项任务覆盖数学、代码、工具调用、写作和医学推理,因此结果反映的是通用的研究能力,而非某一狭窄技能。对于比较研究自动化代理工具的团队来说,所有代理都在相同条件下运行,且附带的基线和评估脚本让复现变得容易。这是一个研究型测试框架,而非开箱即用的产品:你需要处理容器和作业调度器,不过其设计足够清晰,可以适配到自己的硬件上。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目