Jinxiang Cai
Jinxiang Cai
pip3 install -i https://pypi.tuna.tsinghua.edu.cn/simple pkuseg-py39请用这个试一下
想问问uer中的模型下载的是哪些？
> 如果是多卡测试，可以参考eval_mm/evaluate_caption.py 的实现来进行多卡和组batch执行 我尝试这样做，但是使用model.generate()的方法, 生成效果远远不如model.chat()，请问model.chat()有批量推理的方法嘛？
> chat模型可以使用model.generate函数，可以参考model.chat进行格式规范 请问格式规范应该如何使用，因为我尝试了model.generate函数和model.chat函数，前者效果远不如后者，请问使用model.generate函数应该如何进行格式规范呢？