LLaMA-Adapter

收录理由

对于使用LLaMA系列模型的开发者而言，这个仓库提供了LLaMA-Adapter方法的官方参考实现，让模型在保持轻量化的同时获得指令跟随和多模态能力。它只训练约120万参数，通过零初始化注意力适配器，在普通硬件上约一小时即可完成微调，效果却能与全量微调（如Stanford Alpaca）相抗衡。仓库还附带微调好的权重、用于图像对话的V2版本，以及接入LangChain的说明，既适合直接上手，也便于理解参数高效微调与其他PEFT方法的差异。