VAR
VAR copied to clipboard
汇报代码中一个可能导致torch自动权重初始化失效的操作
最近在尝试训练自己的下游任务简单模型 (基于预训练的VAR), 发现模型权重初始化异常. debug 后发现根源自VAR代码中的如下内容: https://github.com/FoundationVision/VAR/blob/3f1029565306d1b471643e7c360294c8a0b2a8e4/models/init.py#L23-L25 解决方案是(1)注释之, (2)手动显式初始化模型, 或(3)不要在初始化待训练模型前初始化VAR. 本issue仅供可能出现的bug提供思路.