#142 · 主分类: MLOps与评测
PostTrainBench
衡量像 Claude Code 或 Codex CLI 这样的 CLI 代理在单个 H100 GPU 上 10 小时内对基础 LLM 进行后训练的效果。
项目最后更新:08/21/26
GitHub Stars
538
Forks数量
62
贡献者数量
6
许可证
MIT
收录理由
PostTrainBench 提供了一个具体的方法来检验自主编码代理能否胜任真正的模型开发工作。它把基础大模型、评估脚本和单块 H100 上的十小时时间交给 Claude Code、Codex、Gemini CLI 或 OpenCode 这类命令行代理,然后根据代理在目标基准上对模型性能的提升程度来打分。其七项任务覆盖数学、代码、工具调用、写作和医学推理,因此结果反映的是通用的研究能力,而非某一狭窄技能。对于比较研究自动化代理工具的团队来说,所有代理都在相同条件下运行,且附带的基线和评估脚本让复现变得容易。这是一个研究型测试框架,而非开箱即用的产品:你需要处理容器和作业调度器,不过其设计足够清晰,可以适配到自己的硬件上。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
unsloth
本地UI,用于运行和训练LLM及扩散模型。支持GGUF、MLX、Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、FLUX等。
LlamaFactory
统一高效微调100+大语言模型与视觉语言模型(ACL 2024)
airflow
Apache Airflow - 一个以编程方式编写、调度和监控工作流的平台
langfuse
🪢 开源AI工程平台:LLM评估、可观测性、指标、提示管理、游乐场、数据集。与OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等集成。🍊YC W23
netron
神经网络、深度学习和机器学习模型的可视化工具