#17 · 主分类: LLM应用框架
haystack
开源AI编排框架,用于构建生产级LLM应用,支持模块化流水线、代理工作流,并显式控制检索、路由、记忆和生成。
项目最后更新:08/29/26
GitHub Stars
26.4K
Forks数量
3.0K
贡献者数量
432
许可证
Apache-2.0
收录理由
Haystack 是一套基于 Python 的开源 AI 编排框架,核心思路是把复杂的 LLM 应用拆成小而独立的组件,再由开发者亲手搭建成明确的流水线。这意味着检索、路由、记忆和生成这些环节如何衔接,完全由你说了算,而不是被一个黑盒式的整体框架牵着走。对于 RAG 和智能体这类需要精确控制每一步行为的系统,这种显式编排带来的可观测性和可调试性非常关键。组件模型本身易于扩展,内置的集成也覆盖了主流向量库、模型服务商和文档加载器,自定义逻辑可以自然地嵌在标准部件之间。当项目跨过原型验证阶段,开始面对测试、监控和需求变更时,这种清晰的边界和可替换的接口设计会省去大量返工成本。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台