#51 · 主分类: 自然语言处理与文本处理

model2vec

ai embeddings machine-learning model2vec nlp python sentence-transformers word-embeddings

快速最先进的静态嵌入

项目最后更新:08/29/26

GitHub Stars

2.2K

Forks数量

124

贡献者数量

12

许可证

MIT

收录理由

Model2Vec 能把任意句子编码器蒸馏成轻量的静态向量模型,纯 Python 运行,无需 GPU。做过多向量检索的人都清楚,Transformer 编码器在延迟和内存上的开销有多高;这个库能把模型压缩 50 倍,推理速度快 500 倍,代价只是精度略微下降。既可以从 HuggingFace 上一行拉取现成的蒸馏模型,也能用自己的 Transformer 来蒸馏。它还附带了可训练的分类器包装,序列级和词元级向量都支持,语义搜索、RAG 管道、文本分类这些场景不用分别搭环境。对于在普通硬件上做文本向量的团队,这是个很实际的捷径,效果能跟更大的模型一较高下。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目