yuxuan2015
yuxuan2015
@Dustyposa 有没有弄过onnxruntime-GPU，我按照文档配置好之后，感觉还是和用CPU的效果一样； 
@googlebox007 把chat.sh第5行的USE_LOCAL前面加个$
@fighting41love 你那个中间代码产出是怎么得到的
@Facico 好的，我试一下
可以参考一下：https://stackoverflow.com/questions/46449850/how-to-fix-the-error-qobjectmovetothread-in-opencv-in-python pip install opencv-python-headless
把run.py第285行的 | 改成 or
@joisonwk @sweetboxwwy 可以参考这个https://github.com/THUDM/ChatGLM-6B/tree/main的多卡推理 