Chinese-LLaMA-Alpaca

收录理由

这个项目为需要中文能力扎实的LLaMA系模型提供了一个很实在的起点。它在原版LLaMA词表上扩充了中文token，并放出7B到33B的预训练中文LLaMA和指令精调Alpaca权重，连预训练和微调用的脚本也一并开源。比权重更有价值的是文档：它一步步讲清楚怎么合并扩展后的分词器，怎么在笔记本的CPU或GPU上跑量化推理，想先本地做原型验证再上正式环境的话非常顺手。文档还说明了这些权重如何接入transformers、llama.cpp和LangChain，能帮你提前判断中文部署要花多少集成功夫。