eval-scope icon indicating copy to clipboard operation
eval-scope copied to clipboard

model_id为local ckpt路径时,infer template映射和解析出现问题

Open wangxingjun778 opened this issue 1 year ago • 0 comments

目前是根据model_id判断模型类型的,如果修改模型文件夹名,或使用本地ckpt路径,就无法从路径里提取出模型名比如「chatglm2-6b」,导致template get失败,默认使用 default prompt template,可能导致generate出现问题。

wangxingjun778 avatar Mar 26 '24 08:03 wangxingjun778