#947 · 主分类： AI代理与自动化
llama-cpp-agent
agents
function-calling
llamacpp
llm
llm-agent
llm-framework
llms
parallel-function-call
llama-cpp-agent框架是一个用于轻松与大型语言模型（LLM）交互的工具。允许用户与LLM模型聊天、执行结构化函数调用并获取结构化输出。也适用于未针对JSON输出和函数调用进行微调的模型。
项目最后更新：03/09/26
GitHub Stars
659
Forks数量
74
贡献者数量
10
许可证
MIT
收录理由
对Python开发者来说，如果希望本地大模型不只是聊天，这个框架值得一看。它基于llama.cpp封装，能处理对话、输出结构化JSON，并支持函数调用，哪怕模型本身没有针对工具使用做过微调。这点在实际中很关键——不少小模型面对严格的JSON格式或工具调用时会出错，而它替你完成了解析和格式化的工作。对于在CPU或普通显卡上搭建本地、注重隐私的原型代理的团队，上手门槛不高。不过要坦诚提醒：这个项目已停止积极维护，作者建议用户转向ToolAgents，所以更适合当作参考实现或起点，而不是长期依赖的组件。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。