English | 中文
RKNPU2模型导出只支持在x86Linux平台上进行导出,安装流程请参考RKNPU2模型导出环境配置文档
ONNX模型不能直接调用RK芯片中的NPU进行运算,需要把ONNX模型转换为RKNN模型,具体流程请查看RKNPU2转换文档
以下环境测试的速度均为端到端,测试环境如下:
- 设备型号: RK3588
- ARM CPU使用ONNX框架进行测试
- NPU均使用单核进行测试
任务场景 | 模型 | 模型版本(表示已经测试的版本) | ARM CPU/RKNN速度(ms) |
---|---|---|---|
Detection | Picodet | Picodet-s | 162/112 |
Detection | RKYOLOV5 | YOLOV5-S-Relu(int8) | -/57 |
Detection | RKYOLOX | - | -/- |
Detection | RKYOLOV7 | - | -/- |
Segmentation | Unet | Unet-cityscapes | -/- |
Segmentation | PP-HumanSegV2Lite | portrait(int8) | 133/43 |
Segmentation | PP-HumanSegV2Lite | human(int8) | 133/43 |
Face Detection | SCRFD | SCRFD-2.5G-kps-640(int8) | 108/42 |
Face FaceRecognition | InsightFace | ms1mv3_arcface_r18(int8) | 81/12 |
Classification | ResNet | ResNet50_vd | -/33 |
为了方便大家进行开发,这里提供1.0.2版本的FastDeploy给大家使用