oneDNN

收录理由

oneDNN 藏在整个深度学习技术栈的底层，绝大多数使用者并不会直接感知到它的存在，但它却在暗中支撑着大量关键计算。作为一个性能库，它提供了卷积、矩阵乘法等底层原语操作，PyTorch、TensorFlow、ONNX Runtime 以及 llama.cpp 等主流框架都依赖这些原语在 CPU 和 GPU 上完成高效的训练与推理。与简单分发通用内核不同，oneDNN 会在运行时根据实际硬件动态生成并挑选最合适的代码路径，这正是它在 Intel 或 Arm 平台上往往能带来超预期加速的原因。它对 Intel 和 AMD 的 x86 处理器、AArch64 架构以及 Intel 显卡都做了深度优化，对 NVIDIA、AMD 等架构也有实验性支持。对于框架开发者或正在排查性能异常的工程师来说，其开发指南和 API 参考是理解底层原语行为的实用工具，必要时还能进行覆盖调优。