higress
higress copied to clipboard
兼容多个标准,不再单一锚定openai的api能力。
Why do you need it?
主流chat completions 和 embeddings 都以openai能力为主。 但是还有其他一下比较通用的场景的api,如rerank能力,这种openai没有支持的能力。
在ai-proxy中,将api的能力以