BasicTS icon indicating copy to clipboard operation
BasicTS copied to clipboard

[⭐] 是否可以提供Baselines的训练log以便进行对比

Open ownnaruto opened this issue 1 year ago • 2 comments

Description of the new feature / enhancement | 您所需的新功能或能力

  1. 您好,非常感谢您的代码,我对这个方向的对比实验有些疑问,看到很多这个方向的论文对比的方式似乎都不太一样。一些论文在Step 3, Step 6, Step 12上进行比较,有些论文却在average上进行比较,想问下您更赞成哪一种呢?
  2. 想请问一下您是否可以公开baseline的训练log,从而能够方便社区进行更统一的对比实验呢?

Scenario when this would be used? | 使用场景

社区的统一对比

Supporting information | 附加信息

No response

ownnaruto avatar Dec 15 '24 15:12 ownnaruto

使用哪种对比方式都是可以的,有的是为了节省论文篇幅。 您好,我这儿也没有保留相关的实验结果,baseline x datasets导致实验数量非常大,并且会随着设置的不同结果不同。所以要是想要公布的话就得一起公布config、log、checkpoint、basicts版本以确保可复现性,后续有计算资源的话我们会再重新跑一遍。

zezhishao avatar Jan 01 '25 15:01 zezhishao

您好,非常感谢您的代码,我对这个方向的对比实验有些疑问,有些论文在步骤3、步骤6、步骤12上进行比较,对此我有两种理解: 1、用12个时间步的历史值预测接下来12个时间步的值,然后在步骤3、步骤6、步骤12上进行比较; 2、用12个时间步的历史值分别预测接下来3、6、12个时间步的值,然后进行比较; 想问下您认为哪一种更合理呢?

Dong-sa avatar Feb 08 '25 05:02 Dong-sa

相关工作通常是在第3、6、12个时间片上进行比较。时空预测中,之前已经有一些研究搞错了,在1~3、1~6、1~12上计算了平均误差,导致对比不公平问题。

zezhishao avatar Jun 16 '25 08:06 zezhishao