#148 · 主分类: LLM应用框架
gollm
为语言模型(LLM)提供商提供统一的Go接口。通过灵活的提示管理和常见任务功能简化LLM集成。
项目最后更新:03/21/26
GitHub Stars
674
Forks数量
67
贡献者数量
17
许可证
Apache-2.0
收录理由
Go 团队一旦需要对接多家大模型服务商,通常得为每家各写一套集成代码,维护成本不低。gollm 把 OpenAI、Anthropic、Groq、Ollama、Mistral 和 OpenRouter 统一到一个接口后面,换模型或换厂商只是改配置,调用方代码不用重写。除了基本的文本生成,它还内置了多数 LLM 应用迟早要自己拼的部件:带上下文和指令的提示词模板、用于结构化输出的 JSON 模式校验、思维链辅助函数、跨轮次记忆,以及能帮你优化提示词的优化器。做内容生成、抽取结构化数据,或者并排对比不同模型时,Go 团队可以直接用这一层原生能力,省去自己组装这些模块的功夫。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台