YSLLYW

[BUG/Help] <多卡报错ValueError: 130004 is not in list>

2

### Is there an existing issue for this? - [X] I have searched the existing issues ### Current Behavior 已经更新了chatglm的最新文件，但是在多卡训练时报错：ValueError: 130004 is not in list，使用的p-tuning训练方式，怎么解决呀？ ### Expected Behavior _No response_...

请问支持多卡训练吗

2

感谢您使用Issue提问模板，请按照以下步骤提供相关信息。我们将优先处理信息相对完整的Issue，感谢您的配合。 *提示：将[ ]中填入x，表示打对钩。提问时删除上面这两行。请只保留符合的选项，删掉其他。* ### 详细描述问题 *请尽量具体地描述您遇到的问题。这将有助于我们更快速地定位问题所在。* ### 运行截图或log *（如有必要）请提供文本log或者运行截图，以便我们更好地了解问题详情。* ### 必查项目 - [ ] 哪个模型的问题：LLaMA / Alpaca **（只保留你要问的）** - [ ] 问题类型：**（只保留你要问的）** - 下载问题 - 模型转换和合并 - 模型推理问题（🤗 transformers） -...

Method of using the model generated after training

1

I would like to know how to use the trained model. It generates a checkpoint 30 folder, adapter_ Config.json and adapter_ model.bin。 How should I use Lora's finely tuned model?...

RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously reported at some other API call, so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1....

请问直接这样使用正确吗？ from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("P01son/Linly-Chinese-LLaMA-7b-hf") model = AutoModelForCausalLM.from_pretrained("P01son/Linly-Chinese-LLaMA-7b-hf")

可以给出模型的架构图吗

加速问题

1

1、代码是否可以加速 2、代码是在v100显卡上做了特殊优化吗？其他显卡有吗，比如4090、A5000等