GUORUIWANG issues

Results 9 issues of


                                            GUORUIWANG

after unzip, no found the via_video_annotator.html

### Description ### Expected behavior with the suggested feature ### Other Comments

ValueError: Your setup doesn't support bf16/gpu. You need torch>=1.10, using Ampere GPU with cuda>=11.0

Is Ampere GPU with cuda 11.0 a necessary condition? How to solve this error? Thank you

量化后的模型4bit，模型输出是乱码

用的llama_quant.py，未用数据集评估，量化后模型输出是乱码，请问啥原因呀

### Is there an existing issue for this? - [X] I have searched the existing issues ### Current Behavior 由于用量化的模型效果不佳，尝试用的fp16训，在8*v100出现，第一张卡报oom，但其他卡显存占用不高，有什么好的解决方式 ### Expected Behavior v100 是否上可以训 fp16 ### Steps To Reproduce...

请问一下大佬啥时候可以支持centos系统

多卡训练失败，目前有4个gpu，但使用的时候一直显示用的cuda0，指定其他cuda也不生效

能详细说一下这个四个model怎么指定的吗

actor、critic、sft、reward model

请问怎么获取rw和rlhf的训练数据

加速看不到效果反而更慢

尝试了chatglm 和baichuan 使用fastllm后速度反而更慢