wzyforgit
wzyforgit
> > @wzyforgit 多谢,已经解决 > > 请问您是如何解决的呢? 你搜一下onnxsim里面的 --dynamic-input-shape 和 --input-shape 这两个参数的用法,有一个是可以固定onnx模型的输入shape的,然后onnxsim就可以对后面进行进一步的优化,消除更多的胶水算子
看起来像是使用了自定义的内存分配器,然后在推理的时候把它给销毁了
emmmmmmmm,要不你把ncnn的代码加进工程里面调一下?
ONNX那边现在没有售后了,如果你的训练框架是pytorch,请用PNNX进行转换,那个有售后
If you train your model under Pytorch, please use pnnx to convert your model to ncnn. Shape is glue ops, it is not friendly for developer.
Because float32 is so well optimized than int8
一般是推荐用gcc 9以上的版本
> CMake Warning at CMakeLists.txt:443 (message): The compiler does not support avx512 bf16 extension. NCNN_AVX512BF16 will be OFF. > > CMake Warning at CMakeLists.txt:450 (message): The compiler does not support...
> > CMake Warning at CMakeLists.txt:443 (message): The compiler does not support avx512 bf16 extension. NCNN_AVX512BF16 will be OFF. > > CMake Warning at CMakeLists.txt:450 (message): The compiler does not...
这个建议你自己先写一个直接基于vulkan库的demo试一下,看能不能正确识别八个卡 ncnn的下面其实也是直接调的vulkan库