Time-Limit
Time-Limit
Hello, have you solved this issue? I also encountered the same issue.
@AllentDan 为什么结果不一样符合预期呢？我理解相同的输入，相同的采样参数，输出不应该是稳定的么？
@AllentDan 我也传入了 random_seed = 42，这个种子一样的话后续产生的随机数也都会一样吧？
@zhulinJulia24 tempature 应该是配合 random seed 一起使用吧？我理解这些采样参数都一样的话，输出应该是稳定的吧？
> > @AllentDan 我也传入了 random_seed = 42，这个种子一样的话后续产生的随机数也都会一样吧？ > > 你在哪传的？api_server 没 random_seed 参数暴露出来啊 现在使用 tritonserver 加载 libtriton_turbomind.so 部署的，tritonserver 看着是可以传 random_seed 的。