volcengine
[FEATURE]: 用户便捷的手动录入上下文 替代自动采集
📝 Feature Description [Please make everyone to understand it]
我也感觉 token消耗量太大了 我想到一种方式是 不要让它自动采集 自动采集的大多数是无用信息 浪费token 也污染上下文 能否提供一个便捷的上下文录入方式 比如截图 我截图的内容录入进去 我可以主动输入上下文进去
👍 What problem does this feature solve
No response
👾 What does the proposed API look like
No response
🚑 Any additional information
No response
以豆包为例 半个小时 跑50w token (15块) 跑一天8个小时得花240 块 这个功能我感觉意义不大,如果你自己手动截图输入,为什么不直接使用现成的CHatGpt 和其他大模型呢 我觉得这个最重要的功能毫无疑问是自动化,在自动化的基础上减少消耗 就像你说的 大部分时候是无意义的,应该内置一个图片识别模型 或者类似的 ,一个时间段内相似的图片 就可以只保留一张 ,每隔一个时间段汇总分析一下 不需要每张都去分析,毫无意义 ,大体上就是减少无意义分析 减少Token消耗 那样的话我觉得才有前景,要不然就只有本地化部署模型这一条路了
以豆包为例 半个小时 跑50w token (15块) 跑一天8个小时得花240 块 这个功能我感觉意义不大,如果你自己手动截图输入,为什么不直接使用现成的CHatGpt 和其他大模型呢 我觉得这个最重要的功能毫无疑问是自动化,在自动化的基础上减少消耗 就像你说的 大部分时候是无意义的,应该内置一个图片识别模型 或者类似的 ,一个时间段内相似的图片 就可以只保留一张 ,每隔一个时间段汇总分析一下 不需要每张都去分析,毫无意义 ,大体上就是减少无意义分析 减少Token消耗 那样的话我觉得才有前景,要不然就只有本地化部署模型这一条路了
100万 token的 1.6 flash是0.15元，大前提出错了，另外相似图片目前也已经有去重的逻辑了