MineContext
MineContext copied to clipboard
[FEATURE]: 建议每项功能可以单独设置大模型API
📝 Feature Description [Please make everyone to understand it]
我希望在控制台可以单独设置每项功能调用的API
👍 What problem does this feature solve
例如在每日总结等可能需要长上下文的场景下,使用适合于长上下文的LLM模型可能会有更好的效果。
👾 What does the proposed API look like
No response
🚑 Any additional information
No response
支持!考虑到屏幕识别需要消耗大量token但是不要求太高的精度和逻辑性,往往会选用较为经济的模型。但是总结和提问部分需要教全面的模型,希望可以分开设置,这样可以灵活安排识别部分使用经济的、多模态的模型。对话部分选用较为智能或者单一文本的模型。
支持!测试下来屏幕识别使用4b的VLM也可以支撑,但是总结和日报等部分不太合适。可以分成大致三部分,屏幕识别-VLM,日报总结-LLM,长文本-embedding,在自定义部分多加一个,效果应该会好很多
相同的需求!