#117 · 主分类: 基础模型
Chinese-alpaca-lora
骆驼:一个中文微调指令的LLaMA。由陈启源 @ 华中师范大学 & 李鲁鲁 @ 商汤科技 & 冷子昂 @ 商汤科技开发。
项目最后更新:05/30/23
GitHub Stars
716
Forks数量
81
贡献者数量
1
许可证
Apache-2.0
收录理由
骆驼是早期社区项目里率先让中文模型具备指令跟随能力的尝试之一,它用斯坦福Alpaca数据集的中文翻译版,通过LoRA方法对LLaMA进行微调。对研究中文大模型的人来说,这个仓库记录了一个小团队如何把Alpaca的配方迁移到另一种语言:从数据翻译流程、训练配置,到托管在Hugging Face上的LoRA检查点(luotuo-lora-7b-0.1和0.3),都有清晰交代。仓库里的notebook既能用来评估模型,也能快速启动一个Gradio聊天演示。需要说明的是,这并非商汤的官方产品,也不是持续维护的生产服务,作者自己也承认训练代码还在整理中。所以更适合当作学习资料,以及你自己做中文微调实验的起点,而不是直接拿去部署的东西。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。