#125 · 主分类: 推理与本地部署

fastembed-rs

embeddings fastembed rag reranker reranking retrieval retrieval-augmented-generation vector-search

用于本地生成向量嵌入和重排序的Rust库!

项目最后更新:08/27/26

GitHub Stars

1.0K

Forks数量

137

贡献者数量

49

许可证

Apache-2.0

收录理由

Rust 开发者常纠结于调用云端嵌入 API 还是自己搭建推理服务。fastembed-rs 绕开了这个选择题,直接在二进制里跑 ONNX 模型,像 BGE、MiniLM 和多语言 E5 都能本地执行,底层用 ort 推理引擎和 Hugging Face tokenizers。对于想做 RAG 或语义搜索、又希望保持同步调用且不想引入 Tokio 依赖的团队,这个库用起来很顺手。数据不出本机,对隐私敏感或完全离线的场景更是一大优势。需要说明的是,它只负责生成向量和重排,不是完整的检索系统,实际使用时还得搭配向量数据库并自己写检索逻辑。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目