gitlihua
gitlihua
下一层已经没有文件夹了  我看视频里面也是到这一层文件夹 
我把模型换成chat模型,报如下错误 
window没解决,不知道啥问题,我换Linux了,到最后还是报错,这个啥问题? 
GPU: 1 * NVIDIA Professional Graphics Card / 1 * 16G 这个
换成4bit的模型也报错,再帮忙看看 
> > 换成4bit的模型也报错,再帮忙看看  > > 可能是环境问题,还有模型不建议放系统目录,容易有权限问题。 如果环境问题那chat模型应该运行不起来啊,这看报错应该也不是权限的问题吧
> quant模型不是用infer. 而是tigerbot_infer.py,参考repo介绍哦, 前者去找pytorch_model.bin了。 我问一下这个pytorch_model.bin 文件是怎么产生的,我好像没找到
 问一下这个需要怎么解决?
 在同一级别路径下
Repository Not Found for url: https://huggingface.co/tigerbot-7b-sft/resolve/main/config.json. Please make sure you specified the correct `repo_id` and `repo_type`. If you are trying to access a private or gated repo, make sure you...