piglaker
piglaker
same problem here
他预处理干掉了ukn和“牠”这种繁体转简体的bug以及一些标点符号，然后一个重要tricks就是每1000step eval最后选个最高的，说实话有点不讲武德，毕竟我用了这两个tricks后稳稳的77，而且他的78我也没跑出来，顺便希望有谁跑出来了告诉我一下咋复现的，谢谢
您是如何运行的呢
@txsun1997
您好，请问您部署的方式是怎样的，推理用的代码是？截断是指生成了eom还是cuda报错
请问有输出的截图吗
您好，请附上详细的报错信息和您的启动脚本
Duplicate of #68
您只需要修改model_inference.py去掉.cude()和.to("cuda")即可，但是使用纯cpu推理仍是不推荐的
您好，这个脚本并不是训练脚本，其次，可能多卡推理并没有被顺利启动，您可以给出更多信息