Yuan Yao
Results
3
comments of
Yuan Yao
您好,感谢关注!我们下周会提供API接口,供大家调用。VLLM我们已经向官方提交了PR,应该近几天审核通过后会正式提供出来。
您好,感谢反馈。最早发布的多轮推理代码确实有些问题,我们更新了这部分代码,您可以再试一下结果。或者使用Demo测试也可以的
Thanks for the info. The inference fix and noise sound horrific. We are reproducing it and will test more on some in-house features.