Chinese-LLaMA-Alpaca-2

收录理由

这个项目为需要扎实中文能力的模型开发与微调工作提供了很好的出发点，而非仅仅是一个可调用的接口。它在Meta的Llama-2基础上扩充了中文词表，并利用大规模中文语料做了增量预训练，相比原始权重，在中文语义理解和指令跟随上都有肉眼可见的提升。如果日常处理文档或检索任务经常超出标准4K上下文窗口，那16K和64K的长上下文版本值得特别关注。项目还开放了预训练和指令微调脚本，方便在自有数据上继续训练。由于模型保持LLaMA生态兼容，可以轻松接入transformers、llama.cpp、vLLM等常见工具链，本地量化部署也相当省事。