FastGPT
FastGPT copied to clipboard
labring
使用体验优化汇总
4.7 版本正式版后，我们计划进行1个月的细节优化，包括使用体验、代码结构和部署优化。如果有相关的建议，可以在评论区留言，最好附上完整详细的说明和原因，不要只是一两句话~
新需求问题可以直接提 Feature，无需在此讨论。
最近由于新工作流重构的需求，这部分可能又得推迟下了😮💨
带有个👀评论的，代表已经记录到未来规划。
更新以后如果想做一个简单的知识库搜索应用还需要去高级编排中拖拽设置，挺麻烦的。能不能恢复到以前的逻辑，选择知识库后不加载工具调用模块。
原因如下：
4.7中新增了工具调用模块，在应用编辑页面简单模式下，选择知识库后，默认的编排变成了用户提问=>工具调用=>知识库检索，保存后测试提问并没有去知识库检索，在工具调用模块直接返回了。
提问如下图：
调用流程：
选择知识库后默认编排：
更新以后如果想做一个简单的知识库搜索应用还需要去高级编排中拖拽设置，挺麻烦的。能不能恢复到以前的逻辑，选择知识库后不加载工具调用模块。
原因如下： 4.7中新增了工具调用模块，在应用编辑页面简单模式下，选择知识库后，默认的编排变成了用户提问=>工具调用=>知识库检索，保存后测试提问并没有去知识库检索，在工具调用模块直接返回了。 提问如下图：
调用流程：
选择知识库后默认编排：
https://github.com/labring/FastGPT/pull/1043 这个pr中修改下，和之前统一上。
知识库内容具体项，希望可以增加批量选择删除的功能，QA模式会生成很多无意义内容对，逐个删除太耗时了。
另外想请教下，也许是我对编排理解不到位：做了一个编写程序的机器人，分了大概3步，分析需求，生成目录树，列出目录树完整代码。这个结构初次提出问题完美实现，但当继续提问后，每次回复都会再将以上流程重新走一次，如何才能只在首次提问时执行那3步流程呢？求指点
知识库内容具体项，希望可以增加批量选择删除的功能，QA模式会生成很多无意义内容对，逐个删除太耗时了。
另外想请教下，也许是我对编排理解不到位：做了一个编写程序的机器人，分了大概3步，分析需求，生成目录树，列出目录树完整代码。这个结构初次提出问题完美实现，但当继续提问后，每次回复都会再将以上流程重新走一次，如何才能只在首次提问时执行那3步流程呢？求指点
同有该问题：“这个结构初次提出问题完美实现，但当继续提问后，每次回复都会再将以上流程重新走一次，如何才能只在首次提问时执行那3步流程呢”。求解答
更新到新的版本后，知识库的搜索出现变化，之前知识库有单次搜索的上限条数，现在变成了tokens数量，原本的策略不好使了，不好调整，希望能兼容一下，两个场景使用不一样
导入知识库训练的时候，删除知识库内的内容，在使用时会导致出错。可否在导入知识库时禁止操作知识库的删除功能？
后面会有定时任务做补偿。禁止删除确实也是一种方法。
知识库内容具体项，希望可以增加批量选择删除的功能，QA模式会生成很多无意义内容对，逐个删除太耗时了。
另外想请教下，也许是我对编排理解不到位：做了一个编写程序的机器人，分了大概3步，分析需求，生成目录树，列出目录树完整代码。这个结构初次提出问题完美实现，但当继续提问后，每次回复都会再将以上流程重新走一次，如何才能只在首次提问时执行那3步流程呢？求指点
这个就比较复杂。有状态的对话框还没仔细设计过。最复杂的问题在于，你并不确定什么时候又要生成一次目录树。有可能第一次生成的不是很好，第二次希望补充生成，第三次才是基于目录树继续对话。
知识库内容具体项，希望可以增加批量选择删除的功能，QA模式会生成很多无意义内容对，逐个删除太耗时了。 另外想请教下，也许是我对编排理解不到位：做了一个编写程序的机器人，分了大概3步，分析需求，生成目录树，列出目录树完整代码。这个结构初次提出问题完美实现，但当继续提问后，每次回复都会再将以上流程重新走一次，如何才能只在首次提问时执行那3步流程呢？求指点
这个就比较复杂。有状态的对话框还没仔细设计过。最复杂的问题在于，你并不确定什么时候又要生成一次目录树。有可能第一次生成的不是很好，第二次希望补充生成，第三次才是基于目录树继续对话。
关于这种情况我有个建议，增加一个条件判断：是否首次对话。 在首次进行对话时一个分支，非首次对话走另外一个分支（继承对话记录即可）。 这样既可解决重复执行的问题，又可在后续对对话内容进行探索、微调 0v0
知识库内容具体项，希望可以增加批量选择删除的功能，QA模式会生成很多无意义内容对，逐个删除太耗时了。 另外想请教下，也许是我对编排理解不到位：做了一个编写程序的机器人，分了大概3步，分析需求，生成目录树，列出目录树完整代码。这个结构初次提出问题完美实现，但当继续提问后，每次回复都会再将以上流程重新走一次，如何才能只在首次提问时执行那3步流程呢？求指点
这个就比较复杂。有状态的对话框还没仔细设计过。最复杂的问题在于，你并不确定什么时候又要生成一次目录树。有可能第一次生成的不是很好，第二次希望补充生成，第三次才是基于目录树继续对话。
关于这种情况我有个建议，增加一个条件判断：是否首次对话。 在首次进行对话时一个分支，非首次对话走另外一个分支（继承对话记录即可）。 这样既可解决重复执行的问题，又可在后续对对话内容进行探索、微调 0v0
这样可以是可以，但是产品设计上感觉有点奇怪。既然支持了首轮，那应该第二第三也能支持不同分支。 计划中是有一个步骤器的模块，可以预设 n 个有顺序的分支逐一进行，并且在分支结束可以选择跳转到第 n 个分支。但是具体还没设计。
对于你目前的情况，或许可以考虑外挂一个 http 模块来判断是否是首轮对话？(可以根据历史记录长度)
知识库内容具体项，希望可以增加批量选择删除的功能，QA模式会生成很多无意义内容对，逐个删除太耗时了。 另外想请教下，也许是我对编排理解不到位：做了一个编写程序的机器人，分了大概3步，分析需求，生成目录树，列出目录树完整代码。这个结构初次提出问题完美实现，但当继续提问后，每次回复都会再将以上流程重新走一次，如何才能只在首次提问时执行那3步流程呢？求指点
这个就比较复杂。有状态的对话框还没仔细设计过。最复杂的问题在于，你并不确定什么时候又要生成一次目录树。有可能第一次生成的不是很好，第二次希望补充生成，第三次才是基于目录树继续对话。
关于这种情况我有个建议，增加一个条件判断：是否首次对话。 在首次进行对话时一个分支，非首次对话走另外一个分支（继承对话记录即可）。 这样既可解决重复执行的问题，又可在后续对对话内容进行探索、微调 0v0
这样可以是可以，但是产品设计上感觉有点奇怪。既然支持了首轮，那应该第二第三也能支持不同分支。 计划中是有一个步骤器的模块，可以预设 n 个有顺序的分支逐一进行，并且在分支结束可以选择跳转到第 n 个分支。但是具体还没设计。
对于你目前的情况，或许可以考虑外挂一个 http 模块来判断是否是首轮对话？(可以根据历史记录长度)
太棒了，加上步骤器之后扩展性就更强了！期待(o^^o)
感谢指点，我先去试试用laf整一个外挂模块看下效果
@c121914yu 最新开源版本，只有key的名称，无法限制过期时间，自定义auth key等操作
噢这个呀。看情况吧。基本是 20%-30% 特有功能，后续新功能多了，会挪些到开源版。
希望知识库-手动录入功能，支持图片上传，或者 md 语法的编辑功能
同意，在录入word 、 html 等文件转化成 md 预览时，也希望添加编辑功能，因为是在 md chunk 拆分时严重依赖 html 或者 word 转化后的 md 的段落格式，在拆分之前进行修改，有利于文档的段落拆分。
这个不错，可以放在插件里，增加脚本功能，甚至可以扩展由ai一键生成插件代码的能力
AlanLee @.***> 于 2024年3月27日周三 10:49写道：
希望增加js或python组件，支持自己编写代码，处理特殊任务
— Reply to this email directly, view it on GitHub https://github.com/labring/FastGPT/issues/1037#issuecomment-2021820545, or unsubscribe https://github.com/notifications/unsubscribe-auth/AHQDBK5OAFHERZCYIC4YM3DY2IXUDAVCNFSM6AAAAABFA4ZTI2VHI2DSMVQWIX3LMV43OSLTON2WKQ3PNVWWK3TUHMZDAMRRHAZDANJUGU . You are receiving this because you commented.Message ID: @.***>
在知识库问答拆分的选项中，增加理想分块大小，否则会默认按模型的token上限分块。例如用8k的模型，AI回答大概1k的内容，会导致知识QA完会损耗约7/8的信息量。
可以考虑一下在免登录窗口那里支持设置每分钟最大对话次数，以防止有人无限制使用
建议增加单次对话每分钟对话次数及每分钟总会话的最大会话次数，超出后显示自定义错误提示
调用api的日志，能否在默认没有ChatId的情况下也保留相关日志去做调试检查呢？很多用户都是用的开箱应用比如cow去调用api，想检查bug没有办法查看日志
调用api的日志，能否在默认没有ChatId的情况下也保留相关日志去做调试检查呢？很多用户都是用的开箱应用比如cow去调用api，想检查bug没有办法查看日志
感觉这个还是在 cow 那边请求时使用 chatId 会比较合适，或者 fastgpt 这边加一个开关给用户配置“是否保留日志”
