Zhiming

Results 2 comments of Zhiming

想问一下batch推理是指定初始化AutoModel时的batch_size就可以吗?您那边设置的是多少呢? input可以传入list吗?

我也遇到了一样的问题,请问有什么解决方案吗?