NaiveYan

Results 2 comments of NaiveYan

dify上复现了类似的报错。 dify调用部署在0.10.1和0.10.3版本xinference上的bce reranker模型都会报类似的错误,但0.10.2.post1版本可以正常使用。

v0.11.0上问题依然存在。我检查了一下具体的http request,当documents为较长的代码片段(1500~1700字符)时,使用bce模型会报错,使用bge模型可以正常rerank xinference上运行的模型如图 ![Screenshot 2024-05-13 at 16-29-17 Xinference](https://github.com/xorbitsai/inference/assets/12544199/f9331016-250f-4b06-862d-05789747cd33) 使用bce模型会报错 ![bce](https://github.com/xorbitsai/inference/assets/12544199/d18ed050-e713-4cd9-bd99-4d67a0280a78) bge模型可以正常使用 ![bge](https://github.com/xorbitsai/inference/assets/12544199/cd22b092-9bc9-41f7-b1b3-1fd6e0874f04) 具体post request如下 [bce.request.json](https://github.com/xorbitsai/inference/files/15291686/bce.request.json) xinference错误日志如下 [xinference.error.log](https://github.com/xorbitsai/inference/files/15291682/xinference.error.log)