Baketbek Jantoro comments

Results 11 comments of


                                            Baketbek Jantoro

您好！序列标注中，想预测很多句子，一个一个去预测时间好慢，可以实现批量的运算吗？[Question]

> predict 接口就可以传多个 sentence，本来就是个`[sample]` 感恩刚尝试了一下，可以的。效率也提上来了。幸亏遇到这个项目，简直太棒了，上来就解决业务需求！！！必须打 call。能方便加上大佬微信，私下请教沟通吗？

单机8张3090，运行后exits with return code = -9，错误码信息在那里可以查询？

同样有这个疑问

单机8张3090，运行后exits with return code = -9，错误码信息在那里可以查询？

> 单机8张3090，运行后exits with return code = -9，错误码信息在那里可以查询？同学你最后怎么解决的？

llama训练时，best状态存储导致训练卡顿，建议删除存储best文件部分代码，望记得更新

> 大佬好，我在pretrain的时候也碰到了训练卡顿的情况，但不知道啥原因。请问是如何分析确定是存储best的部分代码造成卡顿呢？你看一下你是多少step存储，然后刚好那个步骤日志显示 saving best 以后就不训练了，就是这个问题，欢迎加微信沟通，437461219

improve LLaMA for multi-language performance

这个是微调是吗？不是增量预训练

gpu_count 0 | Cuda issue

insert torch.cuda.is_available() first,then get the gpu nums.,

No such file or directory: './pretrained/pytorch_model-00001-of-00003.bin'

> > I filled out the form. After filling out the form, there's no download link, and there is no inbound email regarding the checkpoints file. > > I will...

> 后面会考虑建用户群 > […](#) > ________________________________ 发件人: Knihht ***@***.***> 发送时间: Friday, March 31, 2023 2:46:11 PM 收件人: ydli-ai/Chinese-ChatLLaMA ***@***.***> 抄送: Li Yudong ***@***.***>; Comment ***@***.***> 主题: Re: [ydli-ai/Chinese-ChatLLaMA] 训练时 gpu的耗时能透露一下吗...

词表扩充

大神，能加您微信付费请教一些问题吗？感谢 ------------------ 原始邮件 ------------------ 发件人: "ydli-ai/Chinese-ChatLLaMA" ***@***.***>; 发送时间: 2023年4月10日(星期一) 晚上10:27 ***@***.***>; ***@***.******@***.***>; 主题: Re: [ydli-ai/Chinese-ChatLLaMA] 词表扩充 (Issue #20) 1. 对 2. 对效果没有影响，会增加token数量 ________________________________ 发件人: bahapku ***@***.***> 发送时间: Monday, April 10, 2023 8:42:31 PM...