FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

[功能请求]为什么工具调用节点没有提供【流输出】这个开关的取消操作

Open wuchubuzai2018 opened this issue 7 months ago • 7 comments

例行检查

  • [x] 我已确认目前没有类似 features
  • [x] 我已确认我已升级到最新版本
  • [x ] 我已完整查看过项目 README,已确定现有版本无法满足需求
  • [ x] 我理解并愿意跟进此 features,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 features 可能会被无视或直接关闭

功能描述 目前我们公司在大量使用FastGPT,多数人都在使用工具节点来实现业务,但是很多业务发现,工具调用没有提供AI节点的流输出那个操作,导致在工具节点从外部数据源获取完数据后,不想输出AI结果的情况下,无法禁止。导致还是输出了,其实在后面还有很多数据处理的节点, 因此需要设置工具节点的输出

期望结果 期望结果和AI节点一样,提供把流输出那个开关设置,然后就可以实现先从工具获取数据后,不输出结果,经过后面的节点处理决定

wuchubuzai2018 avatar Jun 25 '25 14:06 wuchubuzai2018

因为是不知道模型是否调工具,以及会调多少次工具和什么时候返回回答。

c121914yu avatar Jun 26 '25 04:06 c121914yu

@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。)

确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。

dockersky avatar Jun 26 '25 06:06 dockersky

@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。)

确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。

有好的设计思路的话可以讨论下,目前没想到很好的方案。

c121914yu avatar Jun 26 '25 08:06 c121914yu

@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。) 确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。

有好的设计思路的话可以讨论下,目前没想到很好的方案。

是否可以参考tool的设计思路,对于应用来讲,也是标准的输入和输出节点,所有的流最后都必须通过“输出”节点,对外进行输出。 这样,其实在流中就可以利用工具做很多事。

建议,仅供参考。

dockersky avatar Jun 30 '25 10:06 dockersky

@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。) 确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。

有好的设计思路的话可以讨论下,目前没想到很好的方案。

是否可以参考tool的设计思路,对于应用来讲,也是标准的输入和输出节点,所有的流最后都必须通过“输出”节点,对外进行输出。 这样,其实在流中就可以利用工具做很多事。

建议,仅供参考。

由于 Tool call 是不确定模型什么时候结束的,感觉如果要做的话,只能完全屏蔽模型文本输出(实际是有输出的,但是不接收),但是会导致有一段时间一直是等待状态。

c121914yu avatar Jul 04 '25 02:07 c121914yu

现在解决方案,是收到请求后,在工程上再进行处理,每个应用都处理还是比较麻烦的。这个确实可以研究下, 如果能够支持,在workflow中就形成闭环了。

dockersky avatar Jul 04 '25 05:07 dockersky

@c121914yu 应该是类似 “流输出” 这个开关(关闭该开关,可以强制模型使用非流模式,并且不会直接进行内容输出。可以在 AI 回复的输出中,获取本次模型输出的内容进行二次处理。) 确实“工具调用”,有这个功能,非常有必要, 强烈建议支持。

有好的设计思路的话可以讨论下,目前没想到很好的方案。

现在其实就是不想工具返回内容在浏览器对话界面展示,能否让工具返回不经过对话框,而是存到变量,如果用户要展示就通过指定回复插件输出到对话框,也可以再编排里对结果进行其他处理,因为现在工具调用主要是用来掉mcp,输出的结果往往还需要加工,太需要这个功能了

962694266 avatar Aug 15 '25 08:08 962694266