Firefly

收录理由

Firefly 是一个面向实际训练场景的工具包，特别适合那些想微调开源模型而不是从零训练模型的团队。它通过配置文件驱动脚本，支持预训练、指令微调和 DPO 偏好对齐，覆盖的模型范围很广，包括 Qwen、Llama、Yi、Gemma、MiniCPM、DeepSeek、Mistral、Mixtral、Baichuan、ChatGLM、InternLM 等等。训练模板和各个官方对话模型对齐，换用不同架构时不需要自己重新整理数据格式，省去不少麻烦。如果 GPU 显存有限，这个项目也很友好：QLoRA 是官方推荐的省显存方案，效果在 Open LLM Leaderboard 上验证过；另外集成了 Unsloth 加速，训练 Llama3-8B 只需约 7.75 GB 显存，同时训练速度更快。既有广泛的模型支持，又有低硬件门槛的选项，小团队想快速上手适配一个基础模型，从这里开始会是个明智的选择。