#165 · 主分类: 推理与本地部署

timber

c99 catboost compiler decision-trees gradient-boosting inference lightgbm machine-learning mlops model-serving ollama onnx sklearn xgboost

面向经典机器学习模型的Ollama。AOT编译器,将XGBoost、LightGBM、scikit-learn、CatBoost和ONNX模型转换为原生C99推理代码。一条命令加载,一条命令服务。比Python推理快336倍。

项目最后更新:04/16/26

GitHub Stars

687

Forks数量

23

贡献者数量

2

许可证

Apache-2.0

收录理由

Timber 能把训练好的经典机器学习模型直接编译成自包含的 C99 二进制,部署时完全甩掉 Python 运行时。编译产物只有约 48 KB,单样本推理耗时约两微秒,对做实时交易评分或跑在资源受限边缘设备上的团队来说,这个性能很有吸引力。它还内置了一个兼容 Ollama 的 HTTP 服务,一条命令加载模型,另一条命令就能对外提供推理。加速后端可以生成 SIMD、GPU、FPGA 或嵌入式变体,同一套模型从服务器迁到微控制器,无需重写整个流水线。在强调确定性、可审计推理的合规场景里,这种可移植性加上零运行时依赖,是实打实的卖点。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目