snake-head

Results 12 comments of snake-head

Hello @Kent0n-Li ! Thank you for your job. I had filled the form two times, but didn't get response. Could you sent me the link? [email protected]

--prompt_structure "###Human: {input_text}###Assistant:" \ --end_string "#" 试试把结束符换成一个#?我这样设置基本上就不会有你说的问题。 ![image](https://github.com/OptimalScale/LMFlow/assets/62976678/500457d4-e106-41f5-ab69-4d347f4d7a3f)

> 你这个上面prompt写的###,下面end_string 写的#,这什么意思,到底end_string是#还是### 上面是###,下面是#。之前作者说是这样设置的。

> > > 你这个上面prompt写的###,下面end_string 写的#,这什么意思,到底end_string是#还是### > > > > > > 上面是###,下面是#。之前作者说是这样设置的。 > > 你好,请问你用的是自己微调后的模型参数吗,我用自己微调后的模型参数根据,你提到的添加end_string,还是会有模型自问自答和胡乱回答的情况,我的finetune的语料格式是 { "type": "text_only", "instances": [ { "text": "Input: Instruction: What is the course code and...

> > > > > 你这个上面prompt写的###,下面end_string 写的#,这什么意思,到底end_string是#还是### > > > > > > > > > > > > 上面是###,下面是#。之前作者说是这样设置的。 > > > > > > > > > 你好,请问你用的是自己微调后的模型参数吗,我用自己微调后的模型参数根据,你提到的添加end_string,还是会有模型自问自答和胡乱回答的情况,我的finetune的语料格式是...

> > > > > > > 你这个上面prompt写的###,下面end_string 写的#,这什么意思,到底end_string是#还是### > > > > > > > > > > > > > > > > > > 上面是###,下面是#。之前作者说是这样设置的。 > >...

> --model_name_or_path output_models/merged is generated by merging robin-7b-v2-delta and llama-7b as below: python utils/apply_delta.py \ --base-model-path pinkmanlove/llama-7b-hf \ --delta-path output_models/robin-7b-v2-delta \ --target-model-path output_models/merged And the merged model perfomaced well before...

> > 我使用一个医学问答数据集([chatdoctor](https://github.com/Kent0n-Li/ChatDoctor))来微调robin-7b-v2,即使只训练0.01个epoch,也会导致完全失去对话能力。 > > 数据集形式如下: { "type": "text2text", "instances": [ { "input": "###Human: Hi, I have what feels like a lump in my hip felxor, pretty much in the...

> > > > 我使用一个医学问答数据集([chatdoctor](https://github.com/Kent0n-Li/ChatDoctor))来微调robin-7b-v2,即使只训练0.01个epoch,也会导致完全失去对话能力。 > > > > 数据集形式如下: { "type": "text2text", "instances": [ { "input": "###Human: Hi, I have what feels like a lump in my hip felxor,...

> > > > > > 我使用一个医学问答数据集([chatdoctor](https://github.com/Kent0n-Li/ChatDoctor))来微调robin-7b-v2,即使只训练0.01个epoch,也会导致完全失去对话能力。 > > > > > > 数据集形式如下: { "type": "text2text", "instances": [ { "input": "###Human: Hi, I have what feels like a lump...