RepOptimizers icon indicating copy to clipboard operation
RepOptimizers copied to clipboard
verified publisher icon DingXiaoH

repopt移植到u2netp上ptq量化损失较大

Open ZHIZIHUABU opened this issue 2 years ago • 1 comments

我比较了u2netp,u2netp-repconv，u2netp-repopt在自训练数据集上的分割精度，miou分别是0,9159,0.9169,0.9170，但是进行ptq-uint8量化后，原生结构的量化损失较小，而repconv和repopt均存在较大的量化损失，repopt量化损失很大正常吗？

ZHIZIHUABU avatar Aug 10 '23 04:08 ZHIZIHUABU

兄弟，请问你的量化误差解决了吗？是确定这种方法误差很大吗

songyang86 avatar Mar 17 '25 03:03 songyang86