#125 · 主分类: 知识库与企业搜索

graphrag-local-ollama

使用ollama(llama3、mistral、gemma2、phi3)为微软的graphrag提供本地模型支持 - LLM与嵌入提取

项目最后更新:05/08/26

GitHub Stars

1.1K

Forks数量

163

贡献者数量

2

许可证

MIT

收录理由

当你的问题需要横跨整批文档来回答时,GraphRAG 原本是个好选择,但官方实现默认依赖 OpenAI 的模型。这个分支保留了同样的两阶段流程:先从文档中构建实体图谱,再预先计算社区摘要,只是把模型调用换成了 Ollama 能拉取的任意本地模型,嵌入向量也一并支持。它还附带了一个浏览器界面,不想对着命令行操作的人可以直接上手。另外有个 LazyGraphRAG 模式,在索引阶段跳过摘要生成,项目声称这能带来约 99% 的速度提升,等查询进来时才临时生成摘要——代价是第一次回答变慢,但大规模语料的索引成本会低很多。如果你希望完全用自己的硬件跑 GraphRAG 风格的检索,不想为每次 token 支付云端费用,这里是一个很实际的起点。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目