Luccadoremi
Luccadoremi
this work is wonderful, PreTrainedTextEncoder would help a lot. thx !
> > I am currently training a sketch to image model on Waifu Diffusion 1.5 (which uses SD 2.1 v prediction). I made a dataset of 1 million sketch image...
same issue，any solution？
> 你好，感谢你对我们工作的关注。 建议检查一下是否因为多模态+纯文本的混合finetune导致了某些卡上ViT没有梯度，如果出现这种情况，是会直接卡住的。 感谢回复，有什么具体的解决办法吗？
thx 获取Outlook for Android ________________________________ From: Shusheng Yang ***@***.***> Sent: Wednesday, November 29, 2023 6:55:09 AM To: QwenLM/Qwen-VL ***@***.***> Cc: Luccadoremi ***@***.***>; Author ***@***.***> Subject: Re: [QwenLM/Qwen-VL] 纯文本指令数据 和 多模态指令数据混在一起finetune...