Yu Sun

qwen-image distill模型训练的一些问题

5

您好，我在阅读源码时有一些疑问，想请教一下： 蒸馏模型在训练时是直接通过 SFT（supervised fine-tuning）把 CFG 蒸掉的吗？ 是否没有额外的蒸馏约束？ 比如类似 [DMD: Distilled Model Diffusion](https://arxiv.org/abs/2311.18828) 这样的蒸馏方法？ 我注意到在代码中，不论是「蒸馏模型」还是「非蒸馏模型」的训练流程，数据预处理后都没有使用 inputs_nega。 那么对于 非蒸馏模型 的训练，是否不应该有一定概率 drop prompt，从而通过 inputs_nega 来生成图像？ 目前看起来 inputs_nega 并没有被利用。

Is there any plan to open source the imae-to-video model and related code?

4

Hi, Thanks for your amazing work! May i ask is there any plan to open source the image-to-video model and related code?