#186 · 主分类: 深度学习框架

curated-transformers

albert bert camembert dolly2 falcon gptneox llama llm llms nlp pytorch roberta transformer transformers xlm-roberta

🤖 PyTorch库,包含精选的Transformer模型及其可组合组件。

项目最后更新:04/17/24

GitHub Stars

890

Forks数量

35

贡献者数量

9

许可证

MIT

收录理由

Curated Transformers 是一套基于 PyTorch 的 Transformer 组件库,把模型拆成小巧、可复用的模块。这样一来,任何一处修复或新特性——比如 4/8 位量化推理——都能同时惠及 Llama、Falcon、BERT、RoBERTa 等所有模型。由于各组件相互独立,你可以像搭积木一样拼出非常规的变体,比如给 BERT 编码器配上旋转位置编码,而无需改动整个代码库。Explosion 已将其作为 spaCy 3.7 的默认 Transformer 后端,意味着现有 spaCy 用户能借助一条久经考验的路径触及现代大语言模型。极简的依赖设计和统一的类型标注,令它在学术实验与生产部署中都很顺手。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目