MineContext
MineContext copied to clipboard
[FEATURE]: prompt用量 & 存储空间管理
📝 Feature Description [Please make everyone to understand it]
1. Prompt 用量偏大,成本压力
昨晚忘记关闭,结果录了一晚上,早上发现免费额度已经用完,还被扣了 0.1 元多。 感觉在持续使用场景下,如果 prompt 太重,长期成本可能很高。 2. 截图功能占用空间 / 冗余 如果截图很多,会占用大量本地存储空间(尤其 mac / iCloud 存储比较贵)。 希望能在早期版本优先上线一个「仅保留向量 + 语义摘要」的可选模式,作为节省空间/成本的 fallback。
我对大模型 / 向量存储机制了解不多,不确定这两点是否真的是瓶颈 / 有意义的优化方向 😂 希望大佬或社区能帮忙解释一下这两点在实际系统中是否是问题,以及有没有更优的折中方案。 非常感谢!
👍 What problem does this feature solve
not yet
👾 What does the proposed API look like
No response
🚑 Any additional information
No response
用量: 免费用量应该只有50w,一天差不多需要200-300w,但是实际上100w token的价格只要0.15元,也就是一天大概率不到一块钱,所以使用doubao模型价格是能cover的。
截图: 截图上我们做了三个优化:
- 图片会有专门的智能算法压缩
- 相似图片会进行去重
- 超过一定时间图片会进行删除
当然未来我们会支持图片的存储占用上限设置