FastASR icon indicating copy to clipboard operation
FastASR copied to clipboard

如何解决paddlespeech_stream模式CPU占用极高问题?

Open xiayezi2013 opened this issue 2 years ago • 2 comments

在Linux机器上测试paddlespeech_stream模型时,CPU占用极高,基本上打满了:

./build/examples/paddlespeech_stream models/paddlespeech_stream/ models/paddlespeech_stream/long.wav

image asr_cpu

我可以通过设置线程数OPENBLAS_NUM_THREADS解决cpu核数问题,但会造成性能低,且单核打满。

这种情况导致我无法在生产环境使用,请问有没有解决方案?

xiayezi2013 avatar Jan 26 '24 02:01 xiayezi2013

用这个项目吧,https://github.com/k2-fsa/sherpa-onnx 里面包含很多预训练模型,https://k2-fsa.github.io/sherpa/onnx/pretrained_models/index.html 如果太占CPU可以选择模型小一些的模型,或者使用int8量化的版本。

chenkui164 avatar Jan 26 '24 05:01 chenkui164

conformer_online,这个流式的在测试长音频的时候, 运行到一半就卡住,或者报 Segmentation fault (core dumped)

yunqiushuiman avatar Apr 18 '24 02:04 yunqiushuiman