你好

Open henbucuoshanghai opened this issue 2 years ago • 3 comments

我自己的模型 pth和onnx的结果一致，数字一致，但是trt的结果却不一致。请问怎么办呢？怎么会这样

Dec 22 '23 01:12 henbucuoshanghai

如果FP16或者INT8，会有一定的精度损失；要是推理结果差别太大，那估计转换的模型是有问题了

Dec 26 '23 05:12 AICVHub

和模型很大有关系？误差累计？模型有500M大小

Dec 26 '23 06:12 henbucuoshanghai

和模型很大有关系？误差累计？模型有500M大小

看看myCalibrator里面的transform是否与你的模型预处理一致： def transform(self, img, img_size):

Dec 27 '23 00:12 AICVHub