#51 · 主分类: 自然语言处理与文本处理
model2vec
ai
embeddings
machine-learning
model2vec
nlp
python
sentence-transformers
word-embeddings
快速最先进的静态嵌入
项目最后更新:08/29/26
GitHub Stars
2.2K
Forks数量
124
贡献者数量
12
许可证
MIT
收录理由
Model2Vec 能把任意句子编码器蒸馏成轻量的静态向量模型,纯 Python 运行,无需 GPU。做过多向量检索的人都清楚,Transformer 编码器在延迟和内存上的开销有多高;这个库能把模型压缩 50 倍,推理速度快 500 倍,代价只是精度略微下降。既可以从 HuggingFace 上一行拉取现成的蒸馏模型,也能用自己的 Transformer 来蒸馏。它还附带了可训练的分类器包装,序列级和词元级向量都支持,语义搜索、RAG 管道、文本分类这些场景不用分别搭环境。对于在普通硬件上做文本向量的团队,这是个很实际的捷径,效果能跟更大的模型一较高下。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。