移动端深度学习推理框架总结
框架公司支持硬件特性TensorFlow LiteGoogle 2017Google 2017CPU GPU: android基于OpenGL, IOS基于MetalCore MLApple 2017Google 2017CPU GPU: android基于OpenGL, IOS基于MetaCaffe2Facebook 2017IOS,Android CPUGPU暂无资料，针对具有NEON指令的A
·
| 框架 | 公司 | 支持硬件 | 特性 |
|---|---|---|---|
| TensorFlow Lite | Google 2017 | Google 2017 | CPU GPU: android基于OpenGL, IOS基于Metal |
| Core ML | Apple 2017 | Google 2017 | CPU GPU: android基于OpenGL, IOS基于Meta |
| Caffe2 | Facebook 2017 | IOS,Android CPU | GPU暂无资料，针对具有NEON指令的ARM CPU进行优化，其性能超过iphone6的GPU优化的。 |
| NCNN | Tencnet 2017 | Android: CPU/GPU 32/ 64bit都支持IOS: CPU 32/64bit GPU 64 bit | 支持全平台，主要针对手机端进行极致的优化，无第三方依赖库，但算子支持相对较少。 |
| Paddle-Mobile | Baidu 2017 | Android: CPU GPU基于OpenCL | 仅支持Android |
| QNNPACK/NNPACK(加速库) | Android / IOS | 主要针对卷积计算进行加速处理，armeabi-v7a需要CPU支持NEON指令,暂无GPU信息 | |
| MACE | XIAOMI 2018 | 支持Android / IOS CPU，GPU | 底层算子基于OpenCL实现 |
| MNN | 阿里2019 | Android / IOS (CPU / GPU) | 通用性较好，算子支持性好 |
| tengine | ARM中国 | CPU/GPU/AIPU/DSP/FPGA | 适配所有硬件 |
| computelibrary | ARM | CPU/GPU | 基于OpenCL对Mail GPU加速，基于Neon的方式对A系列CPU进行加速 |
| D2GO | 深度学习工具包包含检测，关键点预测，实例分割 |
技术共进，成长同行——讯飞AI开发者社区
更多推荐
2
0- 0
已为社区贡献23条内容
所有评论(0)