Menace-Dragon

关于compute_rate、秩的计算顺序的问题

8

您好！我有两个问题： 1. compress_rate是指每层的保留率吗，还是指的是每层要删掉的比例呢？ 2. 是在开始剪枝前仅计算一次各卷积层的平均秩，还是每层剪枝完后计算下一个卷积层的平均秩呢（比如第1层剪完了，然后我才计算第2层的平均秩；然后再剪第2层，再计算第3层的平均秩......）？

SpinQuant is a subsequent work to QuaRot. However, we have noticed that the definitions of the rotation matrix pairing details differ between the two papers. In QuaRot, first, there is...