mutou1225

Results 2 comments of


                                            mutou1225

执行moss-moon-003-sft-int4的时候，在outputs = model.generate(**inputs, do_sample=True, temperature=0.7, top_p=0.8, repetition_penalty=1.02, max_new_tokens=256)报错

解决了吗？同样问题

运行时出错

快速解决： from typing import List as list 在报错的文件上加 from typing import List as list 如果是 dict，就加 from typing import Dict as dict 希望对你有用，祝你成功