sakura

How to train the model using batch_size?

2

Looks like I need to modify “get_negative_samples” function in dataset.py. However, i meet some bugs that cant be fixed...

CUDA error: invalid device function

1

运行bloom_inference.py时侯，报了这个错。加载模型成功，输入promt之后，推理那块出了错。请问是啥问题呢？   torch版本：1.12.0+cu102 cuda驱动：10.2 cudatookit版本：10.2

请问怎么保证生成的回答在数据集范围内？

1

rt，请问怎么保证生成的推荐结果属于数据集里面一个数据的呢。