ncnn icon indicating copy to clipboard operation
ncnn copied to clipboard

interp bug 初始化问题

Open ljbulesky opened this issue 1 year ago • 0 comments

我发现对1*1进行插值bilinear。会出现nan值。

因为(interp_bilinear.h)resize_bilinear_image函数中Mat rowsbuf0(w); Mat rowsbuf1(w);这两个分配内存后,没有进行初始化为0。导致 __m256 _Dp = _mm256_mul_ps(_rows0, _b0_256); 出现了nan值。一个_rows0随机值,和一个_b0_256 =0相乘,导致有概率的出现nan值。注意,且只是1*1进行bilinear插值时会出现。

@nihui 麻烦你们可以确认一下,不知道我排查的对不对。非常感谢

ljbulesky avatar Sep 03 '24 11:09 ljbulesky