xtuner
xtuner copied to clipboard
0.2.0的版本可以支持Qwen3系列么?
新版V1着实配置不来。 0.2.0版本微调了下Qwen3-1.7B,看评估数据都是乱码。估计是不支持的。 求指导。谢谢!
请问 v1 的配置是哪里遇到问题了么?目前我们确实只在 v1 上支持了 Qwen3 系列的训练
V1如果按照训练配置-V1这个写,其实运行问题不大。但是可能还需要配置Lora,或者说像0.2.0那样的统一配置文件修改训练配置-0.2.0,在V1上对于新手有点找不到配置项的位置。希望可以给一个V1的配置大全项的参考文件。 可能需要修改的配置还有:
- 实时评估
- Lora和量化配置
- json数据集(不知道还支持不)
- 其他
请问V1支持lora训练么?好像没有在文档找到相关配置。
请问 v1 的配置是哪里遇到问题了么?目前我们确实只在 v1 上支持了 Qwen3 系列的训练
请问V1支持lora训练么?好像没有在文档找到相关配置。
请问 v1 的配置是哪里遇到问题了么?目前我们确实只在 v1 上支持了 Qwen3 系列的训练
目前V1还没有支持LoRA训练