lin
lin
> 我不太懂这个,fastapi 版本的也会卡住吗? 是的,GRPC、HTTP、WebUI 这三种方式全部会卡住。 我在7月份尝试部署了一次(commit id:02f941d34885bdb08c4cbcbb4bb8e2cecad3d430) 那次的 Instruct 模型推理是完全没有问题的。
> > 我不太懂这个,fastapi 版本的也会卡住吗? > > +1,同款模型,用的fastapi,如果碰到这种情况不把api杀死,甚至会影响整张卡。我用的八卡A800部署32线程,出现这个问题的api会让卡满载,以至于这张卡的所有其他api请求速度巨慢甚至也卡死。而且跟数据无关,我用导致卡死的数据请求其他api或者重新部署后再次请求都没有问题。 这种情况你是偶现的是嘛?我尝试了 GRPC、HTTP、WebUI 这三种方式都是必现的,从来没成功合成出音频。
> > > > 我不太懂这个,fastapi 版本的也会卡住吗? > > > > > > > > > +1,同款模型,用的fastapi,如果碰到这种情况不把api杀死,甚至会影响整张卡。我用的八卡A800部署32线程,出现这个问题的api会让卡满载,以至于这张卡的所有其他api请求速度巨慢甚至也卡死。而且跟数据无关,我用导致卡死的数据请求其他api或者重新部署后再次请求都没有问题。 > > > > > > 这种情况你是偶现的是嘛?我尝试了 GRPC、HTTP、WebUI 这三种方式都是必现的,从来没成功合成出音频。 > > 我是批量跑几万条数据,每次跑到最后都会发现卡主一个api,重启后用剩下的数据继续跑,还是会卡住,直到只剩一条数据还是会卡。而且似乎api换成fish就没问题。 真的很奇怪 [摊手]
> 同样遇到这个问题,莫名其妙就会卡住,想批量生成1000多章的有声书,一章卡一次 请教下 instruct_text 参数有什么作用吗?我看代码里实际上是把 tts_text 和 instruct_text 拼接在一起来生成音频的,但最终结果似乎是在开盲盒,不是缺少了一部分文字的音频,就是会出现两个音频一起被生成的情况。
@LP-world2002 哥儿们,paraformer-zh-streaming 这个模型成功导出来了吗?