youmoqi

您好作者，我是一名学生，您的这篇论文对我的启发很大，大部分代码我都已经跑了一遍，然而在使用llama-2-7b-hf时，预测结果输出为空，而且总是报没有开始的标志（bos_token_id）,我也使用您的方法去构建llama树，但是结果还是为空，想跟您请教一下“在使用llama时候的main.py的代码”或者您方便的话能给我个思路也可以，晚上不好意思打扰您啦，非常谢谢您。