one-api icon indicating copy to clipboard operation
one-api copied to clipboard

转发 rerank 请求

Open zhanghx0905 opened this issue 10 months ago • 7 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已确认我已升级到最新版本
  • [x] 我已完整查看过项目 README,已确定现有版本无法满足需求
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述

Rerank 已经成为了 RAG 的重要组件。

Cohere 提供了搜索精排的接口 https://docs.cohere.com/reference/rerank-1, Hugging Face 的 Text Embeddings Interface https://huggingface.github.io/text-embeddings-inference/#/Text%20Embeddings%20Inference/rerank 是一个本地高效部署 Rerank 模型的框架。

二者的 rerank API 不相同。 希望本项目能增加对 rerank API 的支持,统一这两种模式的 API。

zhanghx0905 avatar Apr 11 '24 05:04 zhanghx0905

希望能添加rerank类型的支持

mxdlzg avatar Apr 12 '24 06:04 mxdlzg

同样的需求。

liangfengyuan avatar Apr 19 '24 01:04 liangfengyuan

同样的需求

ZXP8080 avatar Apr 26 '24 03:04 ZXP8080

了解,需要时间处理,期待有人pr

songquanpeng avatar Apr 27 '24 16:04 songquanpeng

+1

edisonzf2020 avatar Jun 05 '24 07:06 edisonzf2020