#513 · 主分类: AI代理与自动化
forge
一个用于自托管LLM工具调用和多步代理工作流的Python框架
项目最后更新:08/30/26
GitHub Stars
2.2K
Forks数量
174
贡献者数量
8
许可证
MIT
收录理由
本地模型虽然能省钱且保护隐私,但工具调用时常出错,让人不敢放心用。Forge 在这个循环外面加了一层护栏:它能救回格式错误的调用、提示重试、校验响应,项目自带的评测里,一个 8B 小模型的成功率从个位数提升到了 84%。上手最快的方式是它的代理模式,opencode、Continue、aider、Claude Code 这些客户端直接指向 Forge 就行,客户端毫无感知,像是连上了一个更聪明的模型。对于已经写好的循环,也有 WorkflowRunner 可以跑结构化任务,支持设定必需步骤和终止工具,还有中间件模式能接入现有流程。它兼容 Ollama、llama.cpp、Llamafile、vLLM 和 Anthropic 后端,想在自托管和手写解析之间找个折中方案的团队,会觉得很顺手。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。