Triton-Puzzles

收录理由

Triton这门语言夹在PyTorch式的高层写法和裸CUDA之间，如今许多深度学习框架的底层都离不开它。市面上大多数教程默认你早就懂CUDA那套内存模型，可这套谜题反着来——它从最基础的用法讲起，配合Triton自带的解释器，你甚至不需要GPU，直接在Colab里就能一步步跑通所有练习。题目安排也很有意思，先是简单的张量操作，慢慢升级到Flash Attention和量化网络，整个过程中你会逐渐体会到低层性能优化到底在琢磨些什么。对于想自己写自定义算子的人，或者经常要读那些性能敏感代码的工程师，这套练习能帮你建立起很实用的直觉；同时它也堪称加速器编程里少见的温和入门，门槛低但内容扎实，适合边玩边学。