MineContext
MineContext copied to clipboard
[FEATURE]: 希望支持http格式的向量模型调用
📝 Feature Description [Please make everyone to understand it]
阿里的multimodal-embedding-v1免费但不支持OpenAI兼容的访问,希望能支持从而降低使用成本
https://help.aliyun.com/zh/model-studio/multimodal-embedding-api-reference?spm=a2c4g.11186623.help-menu-2400256.d_2_8_0.7a723560RR6exF
👍 What problem does this feature solve
No response
👾 What does the proposed API look like
No response
🚑 Any additional information
No response
这个应该是增加模型适配,需要改造后端代码,现在默认都是openai 协议 llm_client。大家感兴趣的可以主动pr~,可以在llm模块增加单独厂商的client,这部分我也会支持一部分
理解,感谢,OpenAI协议确实是最通用的,适配所有厂商也不现实;不过http协议应该也是用的比较多的,如果可能的话还是希望能适配
有人做么?或者有想法么。没人做的话我想试试看,来练练手
有人做么?或者有想法么。没人做的话我想试试看,来练练手
加油,感觉是个很实用的PR
有人做么?或者有想法么。没人做的话我想试试看,来练练手
官方应该会专注高优需求,这类适配欢迎开发者贡献