#165 · 主分类: 推理与本地部署
timber
面向经典机器学习模型的Ollama。AOT编译器,将XGBoost、LightGBM、scikit-learn、CatBoost和ONNX模型转换为原生C99推理代码。一条命令加载,一条命令服务。比Python推理快336倍。
项目最后更新:04/16/26
GitHub Stars
687
Forks数量
23
贡献者数量
2
许可证
Apache-2.0
收录理由
Timber 能把训练好的经典机器学习模型直接编译成自包含的 C99 二进制,部署时完全甩掉 Python 运行时。编译产物只有约 48 KB,单样本推理耗时约两微秒,对做实时交易评分或跑在资源受限边缘设备上的团队来说,这个性能很有吸引力。它还内置了一个兼容 Ollama 的 HTTP 服务,一条命令加载模型,另一条命令就能对外提供推理。加速后端可以生成 SIMD、GPU、FPGA 或嵌入式变体,同一套模型从服务器迁到微控制器,无需重写整个流水线。在强调确定性、可审计推理的合规场景里,这种可移植性加上零运行时依赖,是实打实的卖点。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。