hummingbird

收录理由

Hummingbird 把用 scikit-learn、LightGBM 或 XGBoost 训练好的经典模型，重新编译成张量计算，让它们能跑在 PyTorch、TorchScript、ONNX 或 TVM 这些深度学习框架上。这样一来，模型就能直接享受框架自带的硬件加速，以及后续不断加入的优化能力，而你不需要重新训练模型，也不用改动原有的工程结构。它的推理接口沿用了 scikit-learn 的风格，很多情况下，编译后的模型可以直接替换进现有的服务代码里，几乎不用改东西。如果团队希望用同一套部署体系同时支撑树模型和神经网络，或者想让成熟的梯度提升流水线跑出更高的吞吐量，这个工具提供了一条很省事的路径。