#42 · 主分类: 自然语言处理与文本处理

rust-bert

bart bert deep-learning electra gpt gpt-2 language-generation machine-learning ner nlp question-answering roberta rust rust-lang sentiment-analysis transformer translation

Rust 原生的即用型 NLP 流水线和基于 Transformer 的模型(BERT、DistilBERT、GPT2 等)

项目最后更新:01/13/26

GitHub Stars

3.1K

Forks数量

249

贡献者数量

48

许可证

Apache-2.0

收录理由

很多 Rust 团队并不想为了跑一个 transformer 模型就额外部署一套 Python 服务。rust-bert 把 Hugging Face Transformers 的栈移植到了原生 Rust 里,开箱即用地提供了问答、翻译、摘要、命名实体识别等任务的 pipeline,几行代码调用 predict() 就能替代手工拼接模型权重、分词器和张量操作。它支持 tch-rs 或 ONNX Runtime 两种后端,配合多线程分词和 GPU 推理,适合对延迟敏感或者希望模型贴近业务代码的场景。需要留意的是,这是一个组件库而非可直接运行的应用程序,你得把它集成进自己的服务或工具链中。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目