peft

收录理由

在单张GPU上微调大语言模型，显存和算力消耗往往让人头疼。Hugging Face的PEFT库提供了一条省力的路径：只训练少量额外参数，比如LoRA、IA3和软提示，基础模型保持冻结，就能完成适配。它和Transformers无缝配合，支持训练与推理；通过Diffusers管理图像模型上的适配器；需要跨设备扩展时，还能与Accelerate协同工作。对于想把基础模型调到特定领域、又不想重训全部参数的团队，这几乎是直达目标的捷径——效果接近全量微调，成本却低得多。许多适配器技术都以它为参考实现，想了解这些方法实际怎么运作，从这里入手很合适。