Lao-yy

Results 2 issues of Lao-yy

我试用了GCDT代码,训练了5个模型,有3个模型会出现预测标签缺失的情况(bad data生成,样例如下)。 打印了预测值的输出,发现模型的预测值提前生成了标签,导致预测值的输出被截断。 这是什么原因呢?可以修复吗? ------------- 原文: ['Pace', 'outdistanced', 'three', 'senior', 'finalists', '--', 'Virginia', 'Tech', 'defensive', 'end', 'Cornell', 'Brown', ',', 'Arizona', 'State', 'offensive', 'tackle', 'Juan', 'Roque', 'and', 'defensive', 'end', 'Jared', 'Tomich',...

Hi! I'm tried to finetune llama-2-13b with bottleneck Adapter, but it got a ValueError that cannot finetune the model loading by using load_in8bit. What is the problem? How can I...