FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

工具调用子应用,关于回复显隐的疑问?

Open Zhenyi-Wang opened this issue 4 months ago • 4 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已完整查看过项目 README,以及项目文档
  • [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [x] 私有部署版本, 具体版本号: v4.8.11-fix

问题描述, 日志截图

新版的应用可以作为工具挂载,个人认为非常好,但在使用中有一些疑问。

测试的配置很简单,如下 主应用: image

子应用 image

关于子应用的“返回AI内容”和“禁用流输出”功能:


情景1:关闭 “返回AI内容”

image

在这种情况下,无论是否开启“禁用流输出”,主应用都无法接收到任何反馈。

不太了解使用场景。。


情景2:打开“返回AI内容”,关闭 “禁用流输出”

这时,在调试界面和免登陆窗口中,显示的逻辑不一致: image

开发人员可能会误以为,用户能够看到子应用的回复。 但实际上用户只能短暂看到回复,然后内容就突然消失了。

我还试了API的流式响应,发现answer似乎没有区分是否来源于工具调用,只是在过程中有一个toolResponse。是要手动匹配string来区别吗? image

这种情况有些奇怪,似乎没有充分考虑。


情况3:打开“返回AI内容”,打开 “禁用流输出”

这时,子应用的表现比较像一个普通的插件,默默执行,默默返回响应,然后主应用来回复。没有任何问题。


使用“工具调用终止”的场景

image

有时候,我希望让子应用回复,主应用只作为调度。 特别是子应用回复比较长的时候,用户不需要等很久,我也可以节省一些token。 但是由于 情景2 提到的问题,回复最终会被隐藏,变成空白。 image

不知新版是否会对这些问题进行调整?

感谢大佬们辛勤投入,为你们点赞!

复现步骤

预期结果

相关截图

Zhenyi-Wang avatar Oct 12 '24 08:10 Zhenyi-Wang