#31 · 主分类: LLM应用框架
txtai
💡 一体化AI框架,用于语义搜索、LLM编排和语言模型工作流
项目最后更新:08/27/26
GitHub Stars
12.9K
Forks数量
886
贡献者数量
42
许可证
Apache-2.0
收录理由
txtai 适合那些希望用一个 Python 库搞定检索型应用,而不是把多个服务拼凑在一起的团队。它的核心是一个嵌入数据库,融合了稠密与稀疏向量索引、图网络和关系存储,能索引文本、图片、音频和视频,随后用自然语言或 SQL 查询全部内容。在此基础上,提供用于摘要、翻译、问答的 LLM 流水线,以及连接这些流水线的工作流,因此很适合作为语义搜索、RAG 和“与你的数据对话”功能的基础。默认在本地运行,若想避免数据离开本地环境,这点很有帮助;后续也可以通过容器编排扩展规模。如果团队不只用 Python,还有 JavaScript、Java、Rust 和 Go 的绑定,以及用于与运行中的 txtai 实例交互的 API。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台