FastGPT
FastGPT copied to clipboard
ai回复模块中,最小回复token数为100,如何设置更小的token回复数量?
例行检查
- [x] 我已确认目前没有类似 issue
- [x] 我已完整查看过项目 README,以及项目文档
- [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
- [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
你的版本
- [ ] 公有云版本
- [x] 私有部署版本, 具体版本号:
问题描述, 日志截图
AI回复模块中,最小回复数量是100,无法设置更小的回复数量。config.json配置文件中,也没有对应的配置项。
需要设置更小的回复数量,如设置最小的回复数量为1。
场景描述如下: 将AI作为判别器使用,根据用户的输入和prompt预设,AI仅回复问题的类别(有点类似问题分类模块),如1,2,3 这里就需要将AI的输出限制为1,才能稳定实现该需求。
与问题分类模块相比,上述需求能更加灵活使用。比如先去知识库匹配,在进到AI判别器,再输出分类。当前的问题分类模块,无法引用知识库内容。
测试情况 尝试了用AI对话模块,当作判别器使用,但存在问题:用户会获取AI对话模块发来的数据,1或者2
AI对话模块的prompt:
你的任务是:根据问题与知识库搜索结果的相关性,输出不同的结果。
请先判断问题与知识库搜索结果的相关性:
如果知识库搜索结果与用户问题相关,请输出1。
如果知识库搜索结果与用户问题不相关,请输出2。
请仅输出“1”或“2”。不要包含多余字符!!
对话效果:
改代码可以。官方后续再优化下这个选框,估计得7月底。
已支持