Jiale Zhao

> 我不太懂这个，fastapi 版本的也会卡住吗？ +1，同款模型，用的fastapi，如果碰到这种情况不把api杀死，甚至会影响整张卡。我用的八卡A800部署32线程，出现这个问题的api会让卡满载，以至于这张卡的所有其他api请求速度巨慢甚至也卡死。而且跟数据无关，我用导致卡死的数据请求其他api或者重新部署后再次请求都没有问题。

> > > 我不太懂这个，fastapi 版本的也会卡住吗？ > > > > > > +1，同款模型，用的fastapi，如果碰到这种情况不把api杀死，甚至会影响整张卡。我用的八卡A800部署32线程，出现这个问题的api会让卡满载，以至于这张卡的所有其他api请求速度巨慢甚至也卡死。而且跟数据无关，我用导致卡死的数据请求其他api或者重新部署后再次请求都没有问题。 > > 这种情况你是偶现的是嘛？我尝试了 GRPC、HTTP、WebUI 这三种方式都是必现的，从来没成功合成出音频。 我是批量跑几万条数据，每次跑到最后都会发现卡主一个api，重启后用剩下的数据继续跑，还是会卡住，直到只剩一条数据还是会卡。而且似乎api换成fish就没问题。