zhjw0927

Results 5 comments of zhjw0927

I compared the speed and mAP of yolov7 and yolov5s6 on coco128 using RTX2060 (it is the same with T4, both have tensor core). for yolov7: `python test.py --data data/coco128.yaml...

In motchallenge , can't find **motchallenge/seqmaps/c10-train.txt**

I'm sorry that I‘m not very clear it. Do you think I am writing this right? at::Tensor img_tensor = torch::from_blob(img1.data, img2.data, img3.data, img4.data, {1, input_image_size, input_image_size, 3}); Or, do you...

can install mmcv from official repo?

感谢大佬指导。 我查阅官方文档时,发现TRT说明隐式量化时,仅针对性能进行优化,对在哪里使用INT的控制非常微弱,即使显示设置某一层的精度,也会在图融合阶段丢失其必须被执行INT的信息。上述TRT的报错,感觉像是PTQ仅提供了最右侧卷积激活值的scale与四个卷积融合后的激活值尺度不对齐。好吧,我也不清楚,尝试去理解黑盒。。。 我再问下conv-sigmoid-mul 这个结构,假设Sigmoid层被调度到了浮点,其余两个是量化状态。我观察到PPQ生成的量化范围JSON文件中没有Conv层输出到Sigmoid层那一条支路的scale,那么Conv层输出INT8在进入Sigmoid层之前是怎样转化到FLOAT的呢? 不是很理解一个INT算子后连接FLOAT算子,PPQ未提供INT算子输出的scale,中间过程数据类型的转换是如何进行的。 还请大佬再次指导下,谢谢。