rknpu2
rknpu2 copied to clipboard
yolov6多任务模型连板测试,结果与PC误差严重。
- 用原始yolov6 3.0模型onnx转rknn(量化和fp16)在PC端结果正确,连板npu结果差异巨大,使用精度分析工具找到误差原因,应该是sigmoid操作导致,将模型sigmoid操作全部拿出放在后处理计算,将模型结果在sigmoid前提前返回,连板测试结果正确,模型量化成功。
- 后在此目标检测模型基础上添加一个分类头,多任务训练,同样执行上述操作,结果无论是fp16还是是量化,在PC端都是正确,连板后目标检测结果差异巨大,分类结果正确,使用精度分析工具,runtime_error都在0.99范围内。找不到出错原因。
- 板端环境: rk3568 sdk version: 1.4.0 (a10f100eb@2022-09-09T09:07:14) driver version: 0.7.2