#104 · 主分类: 基础模型

unit-minions

llm lora

《AI 研发提效:自己动手训练 LoRA》,包含 Llama (Alpaca LoRA)模型、ChatGLM (ChatGLM Tuning)相关 Lora 的训练。训练内容:用户故事生成、测试代码生成、代码辅助生成、文本转 SQL、文本生成代码……

项目最后更新:01/03/24

GitHub Stars

1.1K

Forks数量

124

贡献者数量

3

许可证

Other

收录理由

这个项目记录了一个小团队如何用 LoRA 微调 LLaMA 和 ChatGLM 来辅助软件开发工作。如果你不想依赖云端 API,又想在自己的数据上做出类似效果,它的价值在于把整个微调过程完整摊开:从构建指令数据集,到跑通 Alpaca 风格和 ChatGLM 的调优流程,再到把用户故事拆分、测试代码生成、文本转 SQL 这些具体任务逐一验证。仓库里既给了训练代码,也把训练好的 LoRA 适配器放在 Release 里,可以对照着看。最值得读的是数据准备部分——作者把软件工作流拆成小步骤,把每个模型能听懂的提示词和格式都写清楚了。整体更像一份研究日志和复现手册,适合照着在自己的数据上重新训练,而不是直接拿来部署。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目