wanglaiqi

icon company ICT icon location beijing,zhongguancun

Results 7 comments of wanglaiqi

推理速度很慢

生成一篇1000字的文章，测试了一下要1分钟多的时间，

拉个群呗，老哥，免费测试呀！

vx:1191580068

请问楼主有赛道二跟赛道三的数据集可以分享吗？

你可以下载赛道三的数据集吗

请问楼主有赛道二跟赛道三的数据集可以分享吗？

好的，多谢

经过简单设置后,MOSS可以在16GB显存的单张显卡上运行

尝试使用load_in_8bit 加载 int4的模型，在NVIDIA GeForce RTX 3090 24G一块卡上运行很慢，生成一篇600字的文章要4minute

如何传参 max_length 这种 在调用model.chat是1如何传递

model 没有chat 属性，下面这句话怎么调通的？ model.chat(tokenizer, messages, stream=True):

全参数微调loss收敛问题

![training_loss](https://github.com/baichuan-inc/Baichuan-13B/assets/9366714/657472da-75a9-4858-a92e-63d287a9a104) 我用的训练框架也是https://github.com/hiyouga/LLaMA-Efficient-Tuning 训练的loss 出现上升，不清楚怎么回事？