wind91725

请问有finetune教程的教程吗

9

您好，请问如何使用自己的数据集finetune？有没有啥readme之类的 ？

multi-gpu

1

How to use multi-gpu training？

能否提供数据链接

15

您好，现在这个比赛已经结束，不能在官网上获得数据了。不知道大神能否提供一个数据下载链接，😄，万分感谢！

能否提供一下数据集下载链接

2

您好 我想下载这个比赛的数据集 可是官网已经停止注册了 能麻烦您提供一下 下载链接 谢谢了

训练多少步？

1

想请问下 ，LCSTS数据量这么大，您训练了多少步啊？

lora训练llama 貌似不支持？

3

如题：命令如下： python pretrain.py --pretrained_model_path models/llama-7b.bin --dataset_path datasets/ceshi --spm_model_path /u01/wangcheng/llm/llama/tokenizer.model --config_path models/llama/7b_config.json --output_model_path models/llama_zh_7b --world_size 5 --data_processor lm --total_steps 300000 --save_checkpoint_steps 5000 --batch_size 24 --use_lora --lora_dropout 0.05 只运行到Using distributed mode for...

请问需要多大显存的卡？

2

请问需要多大显存的卡 才能跑起来

请问有原始训练、测试数据吗 能不能提供下 想学习学习