insist93

Results 13 comments of insist93

Any new info on this request? Thanks!

> 遇到一样的问题。请问解决了吗? DeepSpeed版本问题,降低到0.8.2版本就好了

同样遇到。 明显的bug,这里eval和predict的长度应该和train.sh的参数保持一致,否则tokenizer有问题,推理后解码出来全是

> 好的, 我把deepspeed里面offload到cpu就可以了 请问是下面这样修改config/sft.yaml吗? deepspeed_config: offload_optimizer_device: cpu offload_param_device: cpu 修改后,又报了另一个错, `deepspeed.runtime.zero.utils.zero runtimeexception client provided optimizer......` 请问有没有遇到?

> > 请问是上传pdf文件后引发该报错信息吗 insist93 ***@***.***>于2023年5月8日 周一11:32写道: > […](#) > 因为已有自己使用的docker环境,直接启动webui.py,提示 No module named 'pytesseract' /03_project/langchain-ChatGLM-master/content/xxx/xxx.txt 未能成功加载 文件均未成功加载,请检查依赖包或替换为其他文件再次上传。 文件未成功加载,请重新上传文件 还有其他模块的缺失报错。 建议这种模块缺失的错误直接raise ModuleNotFoundError,traceback.print_exc(),否则找不到import位置 — Reply to this email directly, view it on...

> if you want to connect to 2 milvus cluster, you shall use different aliases, such as aliasA, aliasB, then calling every API with using=aliasX 1.connections.connect(alias="aliasA", host=hostA, port=portA) 2.connections.connect(alias="aliasB", host=hostB,...