szdengdi comments

Repositories
Issues
Comments

Results 4 comments of


                                            szdengdi

请问visualglm-6b可以多卡部署吗

说明里面没有写支持多卡。尝试将ChatGLM-6B里面的utils.py复制过来，按照ChatGLM-6B的方式，将Web_demo_hf.py改多卡，会报错。

“超时！请稍等几分钟再重试。”啥情况？

显存不足导致，改python web_demo.py --quant 8，就可以正常启动了

SERPAPI_KEY is not set

(webglm) PS C:\ChatGLM\WebGLM> python web_demo.py -w THUDM/WebGLM-2B --searcher bing [Error] SERPAPI_KEY is not set, please set it to use serpapi 改bing，也报错啊

[BUG/Help] <输入长串数字乘法程序挂死>

10000000000000000000000000000000233456488 64656455756乘以 45656979970008888800000000000