TopOpenSourceAI
EN

#506 · 主分类： 教育与研究

LLM-Finetuning

falcon fine-tuning huggingface llama llama2 llm llms lora peft pytorch text-generation

使用peft进行LLM微调

项目最后更新：08/01/25

在 GitHub 查看

GitHub Stars

3.0K

Forks数量

771

贡献者数量

1

许可证

Other

收录理由

这套笔记本把开源大模型如何适配到自有数据的过程讲得很透。主线围绕Hugging Face的transformers与PEFT库展开，用LoRA和QLoRA做微调，足以在中等显卡上处理Llama 2、Falcon或Mistral这类模型；每个笔记本都带Colab按钮，无需本地配置环境就能直接跑。整体更像一套教程而非生产框架，适合想拿现成模板改一改就用的开发者与学生。内容从基础LoRA一路铺到8位、4位量化，再到RLHF，路径完整；后半部分还延伸到RAG（结合LangChain）和知识图谱问答，不止于微调本身。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。

同类热门项目

prompts.chat

前身为 Awesome ChatGPT Prompts。分享、发现和收集社区提示词。免费且开源——可自托管，为您的组织提供完全隐私。

#1

JavaGuide

Java 面试 & 后端通用面试指南，覆盖计算机基础、数据库、分布式、高并发、系统设计与 AI 应用开发

#2

system-prompts-and-models-of-ai-tools

精选流行AI助手和编码代理的系统提示、内部工具和AI模型集合。

#3

30-seconds-of-code

编程文章，助你提升开发技能

#4

generative-ai-for-beginners

21节课，开始使用生成式AI构建

#5