小野小野小小野
小野小野小小野
针对第(2)点，我也对论文中关于Q,K,V矩阵维度的表述存在类似疑惑，特别是在 列注意力(ColAttention) 部分。为此，我查阅了匿名 GitHub 仓库中的实现代码，以便核实这一部分的实际操作。 以下是`ColAttention`的关键实现代码片段(以`Q`为例），完整代码附在最后。 ```python b, _, h, w = x.size() # 简记为 [B, D, P, F]；其中 h = P 表示论文中的 p_k，w = F 表示 f_{m,k} Q =...