diy-llm

收录理由

多数课程只教你怎么调用大模型，这门课却带你从零亲手搭建一个。它沿着预训练完整链路展开：分词器构建、Transformer 内部机制、混合专家模型、GPU 内核编程、分布式训练，再到 SFT、RLHF 等对齐方法，并配有六套递进式代码作业，整体脱胎于斯坦福 CS336 课程。理论讲解始终与可运行的代码相伴，只要熟悉 Python 和 PyTorch，即便此前没有接触过大模型也能跟上进度。课程专为中文学习者编写，不是简单翻译原版，而是针对国内环境做了大量本土化调整，频繁以 Qwen、DeepSeek 等国产模型为例。别指望它给你一个能直接部署的运行时，它是一条结构化的学习路径，价值在于帮你在大脑里建立起整个 LLM 技术栈的清晰心智模型。