BasicTS
BasicTS copied to clipboard
[⭐] 是否可以提供Baselines的训练log以便进行对比
Description of the new feature / enhancement | 您所需的新功能或能力
- 您好,非常感谢您的代码,我对这个方向的对比实验有些疑问,看到很多这个方向的论文对比的方式似乎都不太一样。一些论文在Step 3, Step 6, Step 12上进行比较,有些论文却在average上进行比较,想问下您更赞成哪一种呢?
- 想请问一下您是否可以公开baseline的训练log,从而能够方便社区进行更统一的对比实验呢?
Scenario when this would be used? | 使用场景
社区的统一对比
Supporting information | 附加信息
No response
使用哪种对比方式都是可以的,有的是为了节省论文篇幅。 您好,我这儿也没有保留相关的实验结果,baseline x datasets导致实验数量非常大,并且会随着设置的不同结果不同。所以要是想要公布的话就得一起公布config、log、checkpoint、basicts版本以确保可复现性,后续有计算资源的话我们会再重新跑一遍。
您好,非常感谢您的代码,我对这个方向的对比实验有些疑问,有些论文在步骤3、步骤6、步骤12上进行比较,对此我有两种理解: 1、用12个时间步的历史值预测接下来12个时间步的值,然后在步骤3、步骤6、步骤12上进行比较; 2、用12个时间步的历史值分别预测接下来3、6、12个时间步的值,然后进行比较; 想问下您认为哪一种更合理呢?
相关工作通常是在第3、6、12个时间片上进行比较。时空预测中,之前已经有一些研究搞错了,在1~3、1~6、1~12上计算了平均误差,导致对比不公平问题。