Yuan Yao

Results 3 comments of Yuan Yao

您好,感谢关注!我们下周会提供API接口,供大家调用。VLLM我们已经向官方提交了PR,应该近几天审核通过后会正式提供出来。

您好,感谢反馈。最早发布的多轮推理代码确实有些问题,我们更新了这部分代码,您可以再试一下结果。或者使用Demo测试也可以的

Thanks for the info. The inference fix and noise sound horrific. We are reproducing it and will test more on some in-house features.