奈斯未知

Results 2 comments of 奈斯未知

> > 明白了我其实播放已经做了顺序调整再播放但总感觉没用网页端的推理快,网页端的那种流式推理就很顺。也很快。 > > 肯定的,你的这句话调用api就会涉及资源重复计算的问题。你改下api加分割模块,可以直接复制网页旁边的代码,然后在推理的循环中每个生成一段语音后返回直接流,这样就快对多了。 api推理我看控制台输出的是串行推理的,有什么办法可以并发并行吗

> [错误] SERPAPI_KEY 未设置,请设置为使用 serpapi 但导出 SERPAPI_KEY="xxxxx" 已经设置了 model\retriever\searching里的__init__.py 打开 让serpapikey从环境变量里拿或者从参数里取 from arguments import add_model_config_args arg = argparse.ArgumentParser() add_model_config_args(arg) args = arg.parse_args() SERPAPI_KEY = os.getenv("SERPAPI_KEY", "") or args.serpapi_key