#61 · 主分类: 推理与本地部署

Paddle-Lite

arm baidu deep-learning embedded fpga mali mdl mobile mobile-deep-learning neural-network

飞桨高性能深度学习端侧推理引擎

项目最后更新:04/27/26

GitHub Stars

7.3K

Forks数量

1.6K

贡献者数量

193

许可证

Apache-2.0

收录理由

Paddle-Lite 是一个面向手机、嵌入式开发板及其他边缘硬件的推理运行时,能直接运行 PaddlePaddle 训练的模型,PyTorch、TensorFlow 或 Caffe 的模型则可通过配套的 X2Paddle 工具转换。部署前,其优化步骤会对计算图进行量化和算子融合,在内存与电池受限的场景下让模型更小巧、执行更快。引擎覆盖 ARM CPU、通过 OpenCL 与 Metal 调用的 GPU,以及华为、高通、联发科、寒武纪等厂商的 NPU。C++、Java、Python 三种接口支持 Android、iOS、嵌入式 Linux 和 x86,并附有图像分类、目标检测等常见任务的示例。百度内部将其用于生产环境,外部用户和企业也已在实际业务中采用。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目