FastGPT
FastGPT copied to clipboard
工具调用,vllm模型调用 获取时间插件有问题
例行检查
- [ ] 我已确认目前没有类似 issue
- [ ] 我已完整查看过项目 README,以及项目文档
- [ ] 我使用了自己的 key,并确认我的 key 是可正常使用的
- [ ] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
你的版本
- [ ] 公有云版本
- [ ] 私有部署版本, 具体版本号: 4.8.22
问题描述, 日志截图,配置文件等
我用vllm部署了Qwen2.5-14B-Instruct模型,在工具调用的时候出现问题目前是只发现获取当前时间插件有问题
报错
第一阶段调用工具是对的
第二阶段去执行的时候,参数出现点问题
复现步骤
用其他商业模型,都没问题, 本地模型,也只有获取时间插件有问题
预期结果
分析应该不是OneAPI的问题,他不处理具体的组件逻辑
相关截图
我也遇到同样的问题
看一下你的vllm启动参数
也遇到了相同的问题!