Tingyu Xia
Results
3
comments of
Tingyu Xia
我也遇到了类似的问题，full sft llama3 8b后，math任务上掉了10个点，评测math任务用的是这个https://huggingface.co/spaces/TIGER-Lab/Science-Leaderboard
> 我也遇到了类似的问题，full sft llama3 8b后，math任务上掉了10个点，评测math任务用的是这个https://huggingface.co/spaces/TIGER-Lab/Science-Leaderboard 可能是lr设置的太大了，我之前的lr设置的2e5，改成7e6以后掉点问题就解决了
重新跑了一下，又没有了