rknn-toolkit icon indicating copy to clipboard operation
rknn-toolkit copied to clipboard

rv1126混合量化后维度异常

Open zj445680666 opened this issue 1 year ago • 2 comments

混合量化前输入时1x3x640x640.混合量化后,输入变为640x640x3x16了。 83ff190d093fed5b4bdfaba32131bfb6

我只是混合量化在自定义处随意添加了一层进行float32不量化。 ea27fc31c18c93f4ed8f1ab13f9dc9a4

结果维度就异常了。但是使用官方那个pb模型又是可以的。使用yolov5和yolov8都是一样的现象。

zj445680666 avatar Oct 11 '24 09:10 zj445680666

我的是batch变成100了,在step1 rknn.load的时候加入input_size_list=参数就正常了

BITfanyu avatar Nov 15 '24 10:11 BITfanyu

出现同样的问题,加入input_size_list=[3,640,640]也不行啊

Liys0558 avatar Dec 20 '24 10:12 Liys0558