FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

工具调用,vllm模型调用 获取时间插件有问题

Open assassinfym opened this issue 11 months ago • 1 comments

例行检查

  • [ ] 我已确认目前没有类似 issue
  • [ ] 我已完整查看过项目 README,以及项目文档
  • [ ] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [ ] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [ ] 私有部署版本, 具体版本号: 4.8.22

问题描述, 日志截图,配置文件等

我用vllm部署了Qwen2.5-14B-Instruct模型,在工具调用的时候出现问题目前是只发现获取当前时间插件有问题

Image

报错

Image

第一阶段调用工具是对的

Image

第二阶段去执行的时候,参数出现点问题

Image

复现步骤

用其他商业模型,都没问题, 本地模型,也只有获取时间插件有问题

预期结果

分析应该不是OneAPI的问题,他不处理具体的组件逻辑

相关截图

assassinfym avatar Feb 27 '25 09:02 assassinfym

我也遇到同样的问题

wang-qj avatar Feb 28 '25 10:02 wang-qj

看一下你的vllm启动参数

stevensy123 avatar Mar 12 '25 04:03 stevensy123

也遇到了相同的问题!

1193700079 avatar Jul 02 '25 09:07 1193700079