YMMF007
Results
5
comments of
YMMF007
您好～可以看一下log日志，看里面的报错。然后我也在做这个模型的微调，可以一起交流下吗
会不会是output_dir里面有之前的训练记录
https://modelscope.cn/models/OPEA/DeepSeek-V3-int4-sym-gptq-inc/summary 7*80G
> @YMMF007 请问这个配置下推理速度怎么样，单token耗时大概多少 我这边显卡不够，就没跑了