fjw1049

Results 4 comments of fjw1049

> https://huggingface.co/internlm/internlm2-chat-7b/commit/baba19a1ae271df6fb4d1d091e95a0ff5b62fc18 根据这个PR,修改下本地对应的文件。或者,直接下载最新的模型。 还是存在这个问题,很奇怪

> @fjw1049 是用的官方模型么?lmdeploy的版本是什么呢? 对,modelscope的internlm2-20b-chat;我在昇腾服务器部署的7b,20b都有这种现象,遇到[UNUSED_TOKEN_145]和还是一直输出到我默认的最大程度1024为止;我不知道是不是模型的问题还是我的meta_prompt写的有问题

> @fjw1049 是用的官方模型么?lmdeploy的版本是什么呢? 我的prompt是: ![image](https://github.com/user-attachments/assets/a1e22aad-9d68-4d0d-b601-0848ac39a993)

配置文件加停止符就好了发自我的 iPhone在 2024年11月13日,14:44,Liny ***@***.***> 写道: 请问当前这个解决了吗 —Reply to this email directly, view it on GitHub, or unsubscribe.You are receiving this because you were mentioned.Message ID: ***@***.***>