MindSearch
MindSearch copied to clipboard
前端输出吐字慢
越到后面前端吐字越慢,及其影响体验~
深度体验了两天 MindSearch 开源前端吐字特别慢,后端3秒就推理完反馈给前端了,前端输出要一个字一个字吐出要等 10分钟,及其影响体验~。
react、gradio 版本都有这个问题,streamlit还没有尝试
React 前端存在重复请求的问题,即询问一次会发送多个 solve 请求,导致前端吐字很慢,实测 Streamlit 前端没有这个问题。
前段会阻塞,有时候后端跑完了,前端还卡着