0+x

关于训练和推理的区别以及推理人数的问题

2

你好！Liu Chengxin，非常喜欢你这篇文章。有两个问题想请教一下你。 1.训练的时候，在split_map_dense和split_map_sparse上都计算出全部查询点；而推理的时候，则是根据split_map中的概率得到稀疏/密集区域的有效区域，只在有效区域内计算出查询点，注意力的计算都集中在这些区域内。我的理解应该没错吧？我看到之前有人也提出这个问题。 2.推理的时候，人数和点坐标是如何得到的？dense和sparsel两部分得到的查询点结果，直接合并在一起吗？如果一个人被计算了两次，直接合并是不是会造成预测偏多？我对这部分不太理解，希望你能解答一下，非常感谢。 ``` # format output div_out = dict() output_names = out_sparse.keys() if out_sparse is not None else out_dense.keys() for name in list(output_names): if 'pred' in name: if...

单卡运行命令

2

export OMP_NUM_THREADS=4 torchrun --nproc_per_node=1 --master_port 5228 train_distributed.py --gpu_id '0' \ --gray_aug --gray_p 0.3 --scale_aug --scale_type 1 --scale_p 0.3 --epochs 1000 --lr_step 1200 --lr 1e-5 \ --batch_size 16 --num_patch 1 --threshold...

求求可学区域注意力的batchsize>1的版本实现

4

很喜欢林卉同学的文章，也看了林同学的线上分享，相当佩服。可惜鄙人代码能力太弱，不知道林同学有空是否可以实现一下batchsize>1的版本。一键三连了，follow，star了。球球Lora大佬了。Wish you a nice day!