oak11

Results 1 comments of oak11

> 可以尝试下官方的onnx,性能应该没那么低的。有可能是你导出的onnx没有做量化? 我是按照funasr给的onnx模型导出和推理方式进行的测试,cpu上和gpu上都有很大程度的性能下降(在实现过程中没有看到有报错),看其他issue有作者回复说是在gpu上优化的不好。 我有找到其他人开源的onnx模型,在cpu上的加速效果还可以,所以还是模型导出部分有问题吧?