#88 · 主分类: MLOps与评测

OSWorld

agent artificial-intelligence benchmark cli code-generation gui language-model large-action-model llm multimodal natural-language-processing reinforcement-learning rpa vlm

[NeurIPS 2024] OSWorld:在真实计算机环境中对多模态智能体进行开放式任务的基准测试

项目最后更新:08/21/26

GitHub Stars

3.1K

Forks数量

528

贡献者数量

101

许可证

Apache-2.0

收录理由

OSWorld 提供了一个真实桌面环境下的智能体评测方案,它不依赖简化模拟器,而是让智能体在真实的虚拟机上操作 Ubuntu 或 Windows,完成具体任务并给出明确的通过或失败判定。仓库里除了任务数据,还附带了评测框架和基线模型,你可以直接接入自己的模型获得可对比的分数。对于做 UI 自动化、数字助手或通用计算机智能体的团队来说,这是一把实用的尺子;任务定义也足够细致,完全可以借鉴到自己的项目里。新版 OSWorld-Verified 改进了评分流程,还支持在 AWS 上并行运行,大幅缩短了大规模评测的时间,值得关注。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目