demo服务响应为乱码

[elesun2018]

的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走 的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路 走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的 路走的路走的路走的路走的路走的路走的路走的路走的路走的路')]

api.py

echo "{\"image\":\"$(base64 path/to/example.jpg)\",\"text\":\"描述这张图片\",\"history\":[]}" > temp.json
curl -X POST -H "Content-Type: application/json" -d @temp.json http://127.0.0.1:8080
问题一样，服务响应
的路走的路走的路走的路走的路走的路走的路走的路走的路走的路走的路')]
error: index 2055 is out of bounds for dimension 0 with size 2055

[gdqb233]

同问题！windows下同一个权重新sat版本预测为乱码，旧sat版本预测是正常的，linux下我测试过的不管新旧sat版本预测都为乱码，求救

[1049451037]

需要更新sat版本和VisualGLM-6B仓库的代码，然后重新下载权重。

如果是已经微调了模型，只能用旧版sat了。因为新版sat对模型代码进行了更新，用来适配多卡推理。

[elesun2018]

已解决，原因为需要添加/THUDM/chatglm-6b模型文件

[gdqb233]

非常感谢！