11075225

Results 16 comments of 11075225

用的是rtdetr 数据集是自己的数据

这行代码我在Deformable DETR网络模型中运行没问题,但是将它换到rtdetr中就会出现上述问题, 我用的paddle版本是2.6.0

我感觉我的数据集应该是没问题的

![图片1](https://github.com/PaddlePaddle/PaddleDetection/assets/153064040/9317d0ea-0f7b-4333-b93e-f2a705882f36) 我看代码报错显示好像是前向传播这里把 memory_mask设为None 但是我看QRDeformableDETR网络中好像也是设置为None的

我这里没动过 我只是重写了Decoder里面的方法然后重写了self.decoedr=我重写的decoder 其他都没动,分支应该就是原来的分支

原来的代码是可以跑的

我想知道这个memory_mask参数可以自己设置一个数值初始化吗 它的shape是什么样子的

自己做的Coco数据集格式 ----------回复的邮件信息---------- Lin ***@***.***> 于2024年8月7日(周三) 中午11:21写道: 请问是什么格式的数据集呀? — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>

自己做的coco数据集格式

只需要改这个参数就能计算coco数据集格式的map值吗,还是只能计算voc格式的