YesImBot
YesImBot copied to clipboard
Feature: `用于图片描述的多模态模型`允许使用模型组而非单个模型
Describe the problem related to the feature request
对于图片太频繁到速率限制时,或者模型当前算力不足时,图片识别总是失败.
但是用户可能有多个模型可以具有视觉能力能够进行识别.
用于图片描述的多模态模型允许使用模型组或添加任务的注册途径而非单个模型
Describe the solution you'd like
解绑taskType与modelGroup的绑定关系,允许在没有taskType的情况下获取modelSwitcher,让扩展可以直接使用模型组进行调用.
Describe alternatives you've considered
设计加载扩展时从第三方扩充taskType到modelService,使得扩展可以通过定义taskType拿到对应模型组的modelSwitcher进行调用.
或者,第三方再手动实现一次modelSwither