xiaohai

Results 2 comments of xiaohai

原因: ChatGLMForConditionalGeneration 模型对象没有 chat 方法 解决办法:1 我们需要修改模型的调用方式。不使用 chat 方法,而是使用 generate 方法。2 我们还需要修改输入的处理方式,使用 tokenizer 来准备输入 我的 transformers 版本是 `4.42.4` 下面是我**修改过并且可运行**的 api.py的代码 ```python from fastapi import FastAPI, Request from transformers import AutoTokenizer,...