Wen Zhou comments

Repositories
Issues
Comments

Results 3 comments of


                                            Wen Zhou

我在运行时，发生了一个报错。已经换了好几个cuda版本了

> +1，请问解决了吗 > > > 我运行如下代码 `python llama_infer.py --test_path prompts.txt --prediction_path result.txt \ > > > ``` > > > --load_model_path ../ChatFlow-7B/chatflow_7b.bin \ > > > --config_path config/llama_7b_config.json \ >...

我在运行时，发生了一个报错。已经换了好几个cuda版本了

> 请问bitsandbytes是什么版本的？ bitsandbytes用最新的0.39版本即可，但请注意bitsandbytes需要一定的运行条件， Requirements Python >=3.8. Linux distribution (Ubuntu, MacOS, etc.) + CUDA > 10.0. 同时需要torch是gpu版本的。

如何cite？

我们正在撰写文章，如果文章发布了会提供bib，欢迎引用