#61 · 主分类: 推理与本地部署
Paddle-Lite
飞桨高性能深度学习端侧推理引擎
项目最后更新:04/27/26
GitHub Stars
7.3K
Forks数量
1.6K
贡献者数量
193
许可证
Apache-2.0
收录理由
Paddle-Lite 是一个面向手机、嵌入式开发板及其他边缘硬件的推理运行时,能直接运行 PaddlePaddle 训练的模型,PyTorch、TensorFlow 或 Caffe 的模型则可通过配套的 X2Paddle 工具转换。部署前,其优化步骤会对计算图进行量化和算子融合,在内存与电池受限的场景下让模型更小巧、执行更快。引擎覆盖 ARM CPU、通过 OpenCL 与 Metal 调用的 GPU,以及华为、高通、联发科、寒武纪等厂商的 NPU。C++、Java、Python 三种接口支持 Android、iOS、嵌入式 Linux 和 x86,并附有图像分类、目标检测等常见任务的示例。百度内部将其用于生产环境,外部用户和企业也已在实际业务中采用。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。