#125 · 主分类: 推理与本地部署
fastembed-rs
embeddings
fastembed
rag
reranker
reranking
retrieval
retrieval-augmented-generation
vector-search
用于本地生成向量嵌入和重排序的Rust库!
项目最后更新:08/27/26
GitHub Stars
1.0K
Forks数量
137
贡献者数量
49
许可证
Apache-2.0
收录理由
Rust 开发者常纠结于调用云端嵌入 API 还是自己搭建推理服务。fastembed-rs 绕开了这个选择题,直接在二进制里跑 ONNX 模型,像 BGE、MiniLM 和多语言 E5 都能本地执行,底层用 ort 推理引擎和 Hugging Face tokenizers。对于想做 RAG 或语义搜索、又希望保持同步调用且不想引入 Tokio 依赖的团队,这个库用起来很顺手。数据不出本机,对隐私敏感或完全离线的场景更是一大优势。需要说明的是,它只负责生成向量和重排,不是完整的检索系统,实际使用时还得搭配向量数据库并自己写检索逻辑。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。