fairseq2

收录理由

fairseq2 是 FAIR 团队从零重写的序列建模工具包，目标读者是那些想在 PyTorch 里训练和微调大规模序列模型、却不想被笨重框架束缚的研究人员。它自带指令微调和偏好优化的第一方配方，训练器通过 DDP、FSDP 和张量并行支持 70B 以上参数模型的多卡、多节点扩展。设计上刻意追求可扩展性：你可以通过基于 setuptools 的插件机制注册新模型、优化器、调度器和训练组件，而无需改动库本身，这样你的项目代码始终掌握在自己手中。C++ 流式数据管道保证了高吞吐，原生 vLLM 集成覆盖生成环节。它不是开箱即用的应用，而是多个已发表 FAIR 项目——从多语言语音识别到句子级语言建模——实际运行所依赖的底层基础。