Leawnn
Leawnn
### Is there an existing issue for this? - [X] I have searched the existing issues ### Current Behavior  文章说P-Tuning v2 将需要微调的参数量减少到原来的 0.1%,想问下大家这个0.1%参数可调节吗 ### Expected Behavior 无 ### Steps...
”模型在指定任务上微调之后,并没有丧失原有能力“是否是因为增加了固定的prompt_text的原因? 我用官方p-tuning,在特定领域数据,格式如下: { 'instruction': 非固定,每个数据instruction都不一样,直接与input拼接 'input': 'output' } 会遗忘常识问题 我问常识问题时都是回复的特定领域相关回答
每个生成的回复都在后面带有另一个“问题”和“回复”   