Guanghua Yu comments

Results 76 comments of


                                            Guanghua Yu

int8 量化问题

@HawkL327 可以参考PaddleSlim自动化压缩方案：https://github.com/PaddlePaddle/PaddleSlim/tree/develop/example/auto_compression/pytorch_yolov6 精度损失1个点左右，相比trt-fp16加速58%。

Cannot copy param 0 weights from layer 'fc10000'; shape mismatch. Source param shape is 10000 2048 (20480000); target param shape is 10000 8192 (81920000). To learn this layer's parameters from scratch rather than copying from a saved net, rename the layer. 要怎么修改求助

This repo is too old,No longer maintenance. please refer https://github.com/tianzhi0549/CTPN

输入的图像是64*64灰度

是的！每张图片里一个字

您好! 我写了一个pytorch版本的您这个网络，不知道是否可以？

因为类别较多，loss下降慢在合理情况内。

您好! 我写了一个pytorch版本的您这个网络，不知道是否可以？

Dropout层可以加上试下，我没有加，在caffe上我迭代几千次已经明显收敛，batch size设为64

What does out_caffe_dir mean?

out_caffe_dir is the output path of dataset . The meaning of this sentence is to specify the output path

使用量化训练时，程序报错

上述问题已修复~

ernie3.0量化过程报错：Hint: Expected dtype() == paddle::experimental::CppTypeToDataType<T>::Type()

@Fmaj7 onnx_format设为False，然后重新导出量化模型，预测时的报错信息可以发下吗？

ernie3.0量化过程报错：Hint: Expected dtype() == paddle::experimental::CppTypeToDataType<T>::Type()

> 看报错信息应该具体是这几行，看起来是数据的dtype不匹配 > > ``` > ValueError: (InvalidArgument) The type of data we are trying to retrieve does not match the type of data currently contained in the container....

ernie3.0量化过程报错：Hint: Expected dtype() == paddle::experimental::CppTypeToDataType<T>::Type()

quantize_linear 这个算子是在onnx_format=True下出现的，你需要将dtype设置为int32，同时onnx_format=False