magnetron

收录理由

Magnetron 是一个从零用 C 语言写成的机器学习运行时，外面只包了一层轻薄的 Python 接口。它自己实现了张量系统、算子集合、自动求导引擎和执行模型，整个链路都摊开在你面前，没有大框架替你遮遮掩掩。想追踪一个张量操作怎么落到内核，或者看反向传播时自动求导怎么遍历计算图，每一步都能直接读代码、改代码。它也不是摆着看的玩具：示例里就有 Qwen3 推理、带 KV 缓存的 GPT-2，还有自编码器和简单 MLP 的训练循环。CPU 后端会在运行时探测硬件，编译期优化的内核覆盖了 SSE 到 AVX-512 以及 ARM NEON，另外用内存映射的 .mag 格式加载模型，不用拷贝数据。对于想把工作负载移植到非主流硬件、或者想改动执行内部细节的系统程序员和研究者来说，这条路比在一层层堆叠的框架里挣扎要短得多。