[功能请求]为什么工具调用节点没有提供【流输出】这个开关的取消操作
例行检查
- [x] 我已确认目前没有类似 features
- [x] 我已确认我已升级到最新版本
- [x ] 我已完整查看过项目 README,已确定现有版本无法满足需求
- [ x] 我理解并愿意跟进此 features,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 features 可能会被无视或直接关闭
功能描述 目前我们公司在大量使用FastGPT,多数人都在使用工具节点来实现业务,但是很多业务发现,工具调用没有提供AI节点的流输出那个操作,导致在工具节点从外部数据源获取完数据后,不想输出AI结果的情况下,无法禁止。导致还是输出了,其实在后面还有很多数据处理的节点, 因此需要设置工具节点的输出
期望结果 期望结果和AI节点一样,提供把流输出那个开关设置,然后就可以实现先从工具获取数据后,不输出结果,经过后面的节点处理决定
因为是不知道模型是否调工具,以及会调多少次工具和什么时候返回回答。
@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。)
确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。
@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。)
确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。
有好的设计思路的话可以讨论下,目前没想到很好的方案。
@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。) 确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。
有好的设计思路的话可以讨论下,目前没想到很好的方案。
是否可以参考tool的设计思路,对于应用来讲,也是标准的输入和输出节点,所有的流最后都必须通过“输出”节点,对外进行输出。 这样,其实在流中就可以利用工具做很多事。
建议,仅供参考。
@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。) 确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。
有好的设计思路的话可以讨论下,目前没想到很好的方案。
是否可以参考tool的设计思路,对于应用来讲,也是标准的输入和输出节点,所有的流最后都必须通过“输出”节点,对外进行输出。 这样,其实在流中就可以利用工具做很多事。
建议,仅供参考。
由于 Tool call 是不确定模型什么时候结束的,感觉如果要做的话,只能完全屏蔽模型文本输出(实际是有输出的,但是不接收),但是会导致有一段时间一直是等待状态。
。
现在解决方案,是收到请求后,在工程上再进行处理,每个应用都处理还是比较麻烦的。这个确实可以研究下, 如果能够支持,在workflow中就形成闭环了。
@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。) 确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。
有好的设计思路的话可以讨论下,目前没想到很好的方案。
现在其实就是不想工具返回内容在浏览器对话界面展示,能否让工具返回不经过对话框,而是存到变量,如果用户要展示就通过指定回复插件输出到对话框,也可以再编排里对结果进行其他处理,因为现在工具调用主要是用来掉mcp,输出的结果往往还需要加工,太需要这个功能了