ljbulesky
ljbulesky
我发现对1*1进行插值bilinear。会出现nan值。 因为(interp_bilinear.h)resize_bilinear_image函数中Mat rowsbuf0(w); Mat rowsbuf1(w);这两个分配内存后,没有进行初始化为0。导致 __m256 _Dp = _mm256_mul_ps(_rows0, _b0_256); 出现了nan值。一个_rows0随机值,和一个_b0_256 =0相乘,导致有概率的出现nan值。注意,且只是1*1进行bilinear插值时会出现。 @nihui 麻烦你们可以确认一下,不知道我排查的对不对。非常感谢
当add两个输入是[197, 768] 和 [1, 197, 768]的时候(N,C,H,W),使用广播机制,输出是【197, 768, 768】 而我需要的正确结果是[1, 197, 768] 请教一下,是不是二维与三维的广播出现了问题, 能否将 B2 = B.reshape(1, B.w, B.h, opt.workspace_allocator); 修改为 B2 = B.reshape(B.w, B.h, 1, opt.workspace_allocator); @nihui 非常感谢