ncnn
ncnn copied to clipboard
interp bug 初始化问题
我发现对1*1进行插值bilinear。会出现nan值。
因为(interp_bilinear.h)resize_bilinear_image函数中Mat rowsbuf0(w); Mat rowsbuf1(w);这两个分配内存后,没有进行初始化为0。导致 __m256 _Dp = _mm256_mul_ps(_rows0, _b0_256); 出现了nan值。一个_rows0随机值,和一个_b0_256 =0相乘,导致有概率的出现nan值。注意,且只是1*1进行bilinear插值时会出现。
@nihui 麻烦你们可以确认一下,不知道我排查的对不对。非常感谢