PaddleSlim icon indicating copy to clipboard operation
PaddleSlim copied to clipboard

使用自动压缩resnet18后,得到的量化模型,不能单独使用tensorRT部署

Open tp111222 opened this issue 3 years ago • 3 comments

大家好: 使用自动化压缩resnet18后,然后转换成onnx,最后有onnx转tensorRT报错:

1678326633377

tp111222 avatar Mar 08 '23 11:03 tp111222

这是量化后的onnx模型,是不是只能用paddle-trt部署,不能单独使用tensorRT部署: 1678277025606

tp111222 avatar Mar 08 '23 12:03 tp111222

老哥找到解决办法没,我也是相同的问题

miraiaroha avatar Sep 25 '23 08:09 miraiaroha

转换成onnx格式模型的话,可以直接用trt进行部署

ceci3 avatar Feb 06 '24 09:02 ceci3