sunxiaoyu12
sunxiaoyu12
是不是没解压？
> > 是不是没解压？ > > 您好，我也碰到这样问题，是在清华云下载的，内如下： total 17G -rw-rw-r-- 1 aifont aifont 2.1K Oct 13 13:51 config.json -rw-r--r-- 1 aifont aifont 4.4K Oct 13 14:04 configuration_chatglm.py -rw-r--r-- 1 aifont aifont...
请问你有config.json文件吗？
我绕过了deepspeed，但是无法推理
你把本地的文件缓存删掉，重新下载，或者下载到本地
> > 你把本地的文件缓存删掉，重新下载，或者下载到本地 > > 我这OSError不就是下载到本地产生的吗 如果路径写对了，可以看看文件夹下的权重文件是不是下对了，大小一致吗？
请问你下载的model文件夹里面有config.json嘛？
> 从报错 SSH：could not resolve hostname 来看似乎是域名解析的问题。 > > 1. 拉取其他仓库是否正常？ > 2. ping github.com 和直接 ping github ip 地址能否 ping 通？ > 3. 如果直接 ping ip 没有问题，修改 /etc/host 感谢解答，是网络问题，连不上GitHub
> 尝试调小batch size，设置batch size=1试一下 调整之后依旧OOM了 
> 那可能需要开启模型并行了，把`finetune_visualglm.sh`里的第四行`MP_SIZE=1`改成`MP_SIZE=2`，然后代码里这一行：https://github.com/THUDM/VisualGLM-6B/blob/main/finetune_visualglm.py#L178 > > 改为 > > ```python > model, args = FineTuneVisualGLMModel.from_pretrained(model_type, args, overwrite_args={'model_parallel_size':2}) > ``` > > 另外还需要把这行代码https://github.com/THUDM/VisualGLM-6B/blob/main/finetune_visualglm.py#L175 注释掉 > > 不过要使用这个功能需要保证你的sat和visualglm都是最新版本的代码。 > > ``` > git clone...