FastDeploy icon indicating copy to clipboard operation
FastDeploy copied to clipboard

RK3588长时间运行rkyolov5后推理耗时严重增加

Open MarKKwan27149 opened this issue 2 years ago • 3 comments


温馨提示:根据社区不完全统计,按照模板提问,可以加快回复和解决问题的速度


环境

【FastDeploy版本】: 板端编译 fastdeploy-linux-aarch64-rk3588-0.0.0 【编译命令】cmake .. -DENABLE_ORT_BACKEND=OFF -DENABLE_RKNPU2_BACKEND=ON -DENABLE_VISION=ON -DRKNN2_TARGET_SOC=RK3588 -DCMAKE_INSTALL_PREFIX=${PWD}/fastdeploy_sdk -DOPENCV_DIRECTORY=/usr/lib/aarch64-linux-gnu/cmake/opencv4 【系统平台】: Linux aarch64(Ubuntu 20.04) 【硬件】: rk3588-rknpu2 【编译语言】: C++

问题日志及出现问题的操作流程

  • 【性能问题】
  • 推理耗时随着运行时间增大,运行5小时后由原本的平均0.025s增大至平均0.095秒。

MarKKwan27149 avatar Apr 18 '23 08:04 MarKKwan27149

我在使用PPYOLOv3在转换成onnx模型正常,从onnx模型转成rknn时报错,报错信息如下: E Loading dynamic inputs model is not support, please fix it first E Catch exception when loading onnx model: ./new_yolov3.onnx! 请问您在使用YOLOv5进行转换时有遇到这个问题吗?

zg651413411 avatar Jun 30 '23 03:06 zg651413411

请问RK3588长时间运行rkyolov5耗时严重增加这个问题解决了吗

zj5200 avatar Apr 22 '24 01:04 zj5200

我测试长时间NPU 运行时间 确实在增加,但重新 初始化 再运行 就恢复了 但不清楚问题在哪里

zhouweic36 avatar Apr 30 '24 11:04 zhouweic36