autograd

收录理由

Autograd 让普通的 NumPy 代码也能直接做自动微分。你照常用 Python 和 NumPy 写前向计算，控制流该怎么写就怎么写，库会返回一个能算梯度的函数。它支持反向模式（即反向传播）和前向模式，两种模式还能组合使用，研究阶段和快速原型里绝大多数基于梯度的优化问题都能覆盖，不必为此引入一个重量级框架。因为可以反复求导，高阶导数也能顺手得到，这对某些优化方法和敏感性分析很有用。它同时是个不错的教学工具：README 里那个 tanh 示例，几行代码就把反向传播讲明白了。如果你已经习惯 NumPy 生态，想在不改变写数学方式的前提下加个求导能力，它是个非常务实的选擇。