higress icon indicating copy to clipboard operation
higress copied to clipboard

兼容多个标准,不再单一锚定openai的api能力。

Open pepesi opened this issue 1 month ago • 0 comments

Why do you need it?

主流chat completions 和 embeddings 都以openai能力为主。 但是还有其他一下比较通用的场景的api,如rerank能力,这种openai没有支持的能力。

在ai-proxy中,将api的能力以 //的模式定义。 提升ai-proxy支持的能力广度,以应对rag场景。

pepesi avatar Jan 23 '25 06:01 pepesi