Chinese-Llama-2-7b

收录理由

对于想在 Llama 2 上做中文聊天应用的团队来说，这个仓库不是实验室里的展示品，而是能直接拿来用的基础。它是开源社区第一个真正可以下载、跑起来的中文 LLaMA 2 模型，到现在依然是一个实用的起点。7B 的对话权重连同训练时用的 SFT 脚本和推理代码一起放出，微调用的中英双语指令集大约有一千万条样本，整个训练过程是透明的，不是黑盒。输入格式严格照着原版 llama-2-chat 的规格来，所以那些为英文模型写的工具和优化方案，拿过来基本不用大改。Docker 镜像和 4bit 量化版本让你从下载到在自己机器上跑起一个服务花不了多少时间，中英文微调数据也公开了，想继续训练的人可以直接用。模型和代码都允许商用，HuggingFace Spaces 上有在线 demo，动手之前可以先看看效果。