Leon
Leon
在root权限下重新安装可以解决~~~
这个issue就留着吧, 以防大家遇到类似问题.
在我的数据集,val.txt中每一行是去掉后缀的文件名,形如: imgfile1 imgfile2 imgfile3 ... 其实,你完全可以按照你自己的数据集的样式来,简单修改下获取图片的路径即可。
应该是你的硬件平台不支持Int8量化,我的显卡是2080ti
可以用C++
cache没有生成,说明数据没有提取到。应该是你的校准器中获取batch的方法有问题。
可以改为7.0试试,7.1这边没有测试过,不确定是否支持
申请CUDA内存的时候,需要申请与一个batch的输入、输出大小相等的内存: `d_input = cuda.mem_alloc(batch_size * input.size * input.dtype.itemsize)` `d_output = cuda.mem_alloc(batch_size * output.size * output.dtype.itemsize)` 然后,将一个batch的input送入模型推理,当然结果出来也是一个batch的结果,接上你自己的后处理即可。
1. 预处理部分不在calibrator中体现,只在后续TRT推理时做对应预处理; 2. 不需要一致;
Only VOC-style dataset is supported in this repo.