#490 · 主分类: 教育与研究

FineTuningLLMs

bitsandbytes fine-tuning finetuning finetuning-llms hugging-face huggingface large-language-models llamacpp lora ollama peft peft-fine-tuning-llm pytorch transformers

我的书《使用PyTorch和Hugging Face微调LLM的实用指南》的官方仓库

项目最后更新:02/28/26

GitHub Stars

858

Forks数量

116

贡献者数量

1

许可证

MIT

收录理由

这份仓库是丹尼尔·戈多伊所著《用PyTorch和Hugging Face动手微调大语言模型》一书的官方配套代码,但其中每个章节都是一份独立的Jupyter笔记本,完全可以脱离书本单独当作实战教程来用。你只需在GitHub上点开文件,就能直接转入Google Colab,用谷歌提供的免费GPU运行。从加载量化模型、配置LoRA适配器、整理数据集格式,到用SFTTrainer完成训练,最后导出GGUF文件并在本地用Ollama或llama.cpp部署,每一步都有可执行的代码示例,而不是停留在理论讲解上。如果你已经熟悉PyTorch和Hugging Face生态,又想在单张消费级显卡上真正把模型微调跑通,这些笔记本会带你走完整个流程。它们同时也是一份很实用的参考,当你开始着手自己的微调项目时,可以随时拿来对照和改造。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目