FastGPT
FastGPT copied to clipboard
think标签解析异常
例行检查
- [x] 我已确认目前没有类似 issue
- [x] 我已完整查看过项目 README,以及项目文档
- [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
- [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
你的版本
- [ ] 公有云版本
- [x] 私有部署版本, 具体版本号: v4.9.6
问题描述, 日志截图,配置文件等
在使用智普GLM-Z1模型时,模型输出的<think></think>标签未能被解析为思考过程。其中:
- 当打开流输出时,且输出思考过程时,think标签被渲染为正式回答内容。如下图
- 当关闭流输出时,不显示任何内容,不报错,但日志中能看到正常的模型输出。如下图:
复现步骤
- 接入GLM的API
- 配置glm-z1-air (或airx或flash模型)(补充:配置时均已经开启“支持思考输出”)
- 配置一个工作流(或者简易应用)
- 参照问题描述中内容进行配置,并测试。
预期结果
think标签内的内容被渲染为思考过程
相关截图