FastGPT
FastGPT copied to clipboard
工具调用子应用,关于回复显隐的疑问?
例行检查
- [x] 我已确认目前没有类似 issue
- [x] 我已完整查看过项目 README,以及项目文档
- [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
- [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
你的版本
- [ ] 公有云版本
- [x] 私有部署版本, 具体版本号: v4.8.11-fix
问题描述, 日志截图
新版的应用可以作为工具挂载,个人认为非常好,但在使用中有一些疑问。
测试的配置很简单,如下
主应用:
子应用
关于子应用的“返回AI内容”和“禁用流输出”功能:
情景1:关闭 “返回AI内容”
在这种情况下,无论是否开启“禁用流输出”,主应用都无法接收到任何反馈。
不太了解使用场景。。
情景2:打开“返回AI内容”,关闭 “禁用流输出”
这时,在调试界面和免登陆窗口中,显示的逻辑不一致:
开发人员可能会误以为,用户能够看到子应用的回复。 但实际上用户只能短暂看到回复,然后内容就突然消失了。
我还试了API的流式响应,发现answer似乎没有区分是否来源于工具调用,只是在过程中有一个toolResponse。是要手动匹配string来区别吗?
这种情况有些奇怪,似乎没有充分考虑。
情况3:打开“返回AI内容”,打开 “禁用流输出”
这时,子应用的表现比较像一个普通的插件,默默执行,默默返回响应,然后主应用来回复。没有任何问题。
使用“工具调用终止”的场景
有时候,我希望让子应用回复,主应用只作为调度。
特别是子应用回复比较长的时候,用户不需要等很久,我也可以节省一些token。
但是由于 情景2 提到的问题,回复最终会被隐藏,变成空白。
不知新版是否会对这些问题进行调整?
感谢大佬们辛勤投入,为你们点赞!
复现步骤
预期结果
相关截图