#30 · 主分类: 知识库与企业搜索

llmware

agents generative-ai-tools llamacpp llm onnx openvino parsing retrieval-augmented-generation small-specialized-models

统一框架,用于构建企业级RAG流水线,使用小型专用模型。

项目最后更新:05/17/26

GitHub Stars

14.9K

Forks数量

2.9K

贡献者数量

89

许可证

Apache-2.0

收录理由

对于希望让大模型基于自有文档作答、又不想把解析、切片、向量化、检索等环节拼成一套复杂管线的团队,llmware 提供了一个开箱即用的统一框架。它把 PDF、Office 文件、HTML 的解析,文本分块,向量库写入,以及文本、语义或混合检索都收进同一个库中,开发者不必在多个工具之间来回切换。其模型目录是亮点:内置 300 多个量化模型,还有一批针对企业流程任务微调的小型专用模型,统一接口调用,在笔记本或边缘设备上就能跑起来,很适合需要私有化、本地化部署的场景。当然,如果某些环节更适合调用云端能力,它也支持接入 OpenAI、Anthropic 或 Google 的模型。此外,库内按项目组织多个知识库,方便同时管理多套文档集合,整体上是一个兼顾灵活性与易用性的企业级 RAG 构建工具。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目