FastGPT
FastGPT copied to clipboard
fastgpt 请求xinference 的rerank模型接口报错
例行检查
- [x ] 我已确认目前没有类似 issue
- [ ] 我已完整查看过项目 README,以及项目文档
- [ ] 我使用了自己的 key,并确认我的 key 是可正常使用的
- [√] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
你的版本
- [ ] 公有云版本
- [ ] 私有部署版本, 具体版本号:
问题描述
fastgpt 调用 xinference rerank接口报错
fastgpt的配置
使用bce的reank会有下面的错误
使用bge的reank则是正常
但是直接curl 调用xinference 的rerank 接口是返回正常
复现步骤
预期结果
相关截图
同问
可以自己docker部署一个rerank
数据越界了吧。看着 xinference 问题,可以给他们提,你测试数据太小了。