关于 Wan2.1-Fun-V1.1-14B-Control-Camera 的 LoRA 训练
您好,非常感谢你们的杰出工作 我是一名初学者,基于 Wan2.1-Fun-V1.1-14B-Control-Camera 训练了一个 LoRA ,但lora_base_model是dit,请问 LoRA 是否包含 Camera Adapter 和 Camera Encoder 这两个模块?没包含的话,对lora的相机控制效果是否会有影响?我是否需要将这两个新增模块的参数纳入 LoRA 的优化列表?
@CrescentVelvet 在我们的默认设定中,LoRA 不包含 Camera Adapter 和 Camera Encoder 模块,但训练后仍能正常生效,因为这两个模块的输出实际上后续被带 LoRA 的层处理。如果在这两个模块上也增加 LoRA,也是可以的,效果则需要实验来验证。
感谢您的解答。 我将 wan_video_camera_controller.py 中 Left、Right 等相机轨迹 plucker 编码,替换成自定义的旋转一圈的相机轨迹 plucker 编码,用默认设置训练了一个 LoRA,但效果并不好,物体旋转到背面出现马赛克。 请问是否因为 Camera Adapter 只针对 Left 等情况预训练,不适配旋转等其他情况呢?我需要将 Camera Adapter 纳入 LoRA 重新训练吗?也就是 --lora_target_modules "q,k,v,o,ffn.0,ffn.2,control_adapter.conv,conv1,conv2" 这样对吗?