FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

fastgpt 请求xinference 的rerank模型接口报错

Open liangpn opened this issue 9 months ago • 3 comments

例行检查

  • [x ] 我已确认目前没有类似 issue
  • [ ] 我已完整查看过项目 README,以及项目文档
  • [ ] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [√] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [ ] 私有部署版本, 具体版本号:

问题描述 fastgpt 调用 xinference rerank接口报错 fastgpt的配置 image

使用bce的reank会有下面的错误 69cb08bb59c01b9eea328d3d2a898f6 61622e47e94db52755c596b9f40dac0 使用bge的reank则是正常 f2a56b93a0dba4f31eaad604966129f cc0b1ab03cd32142d7743ba5e109f8f

但是直接curl 调用xinference 的rerank 接口是返回正常 image

复现步骤

预期结果

相关截图

liangpn avatar Apr 28 '24 03:04 liangpn

同问

cq134cq avatar Apr 28 '24 05:04 cq134cq

可以自己docker部署一个rerank

KanoSang avatar Apr 28 '24 08:04 KanoSang

数据越界了吧。看着 xinference 问题,可以给他们提,你测试数据太小了。

c121914yu avatar Apr 28 '24 11:04 c121914yu