EMG
EMG
> 是用的最新的代码吗?我使用你的参数没有复现你这个问题 不是最新的代码。。 commit ba2948516032b095263e79cbf9ac417a250d3558 (HEAD -> main, origin/main, origin/HEAD) Author: zhzluke96 Date: Fri Mar 14 16:31:52 2025 +0800 fix: lock `faster_whisper==1.0.3` #212
> 我这里没有复现你的问题,可能是其他环境原因? > > 请提供更多信息方便我们定位: > > * 你的运行环境 gpu/vram/ram > * 尝试使用 `--use_cpu=all` 运行是否也有一样的问题? > * 尝试切换其他模型是否也有一样的问题? > * torch 版本推荐为 `2.3.1+cu121` 尝试降级是否可以解决 运行环境是gpu环境,4090单卡,尝试worker设置为8,16,24时候,均未改善情况,容器触发这个bug. 目前解决的办法是,通过容器化多实例部署,分散并发量,规避掉 目前只测试测chattts模型 从debug日志看,是基模型推理过程中出现了nan. logits =...
> 我估计就是 pytorch 版本的问题,试试降版本? 行,我后面试下
同问