FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

api调用场景下,如果大量调用带有图片或视频,产生的聊天记录会导致后台mongo数据库异常

Open gaord opened this issue 9 months ago • 7 comments

程序api调用场景下,如果大量调用带有图片或视频,产生的聊天记录会导致后台mongo数据库异常。这个修改给api客户端一个禁止生成聊天记录的选项,避免这个后果。

gaord avatar Mar 04 '25 05:03 gaord

🤖 Generated by deploy action

📦 Preview Image: ghcr.io/labring/fastgpt-pr:2ba711ac2f83b85e1131407ee02951c21c6c05a7

c121914yu avatar Mar 04 '25 05:03 c121914yu

是因为传的是 base64导致超出大小么

c121914yu avatar Mar 04 '25 07:03 c121914yu

完成几万张照片的大作业,每个照片并不大,几百KB。

gaord avatar Mar 04 '25 07:03 gaord

具体报错内容是什么?

c121914yu avatar Mar 04 '25 08:03 c121914yu

fastgpt后台打不开了。没有看到报错信息。服务器监控显示mongo进程读io满负荷。

gaord avatar Mar 04 '25 09:03 gaord

fastgpt后台打不开了。没有看到报错信息。服务器监控显示mongo进程读io满负荷。

感觉是大量写入的问题,这块直接限制下单次写入感觉更好点。比如超过 1M 的数据,就不保存了。 或者迟点我们再看看有没有分批写入之类的优化。

c121914yu avatar Mar 04 '25 10:03 c121914yu

任务量大,需要高并发快速处理才行。每个记录包含的文件300kb左右。如果流程里是两个ai节点处理一个输入图片的话,记录保存的图片就是双份?也许有bug。 在考虑mongo只存储文本,多模态信息在磁盘存储比较好。 现在在API上添加开关也是权宜之计。另外一个办法是在流程里增加一个记录保存设置,满足不同场景的使用需求

gaord avatar Mar 04 '25 11:03 gaord