llyycchhee
Results
3
comments of
llyycchhee
这个是因为MiniCPM-Reranker-Ligh模型需要加上 INSTRUCTION="Query: " 放在每个query之前，用户可以在xinference的curl中的query参数根据模型需要 更改为 "query"："Query: 中国的首都是哪里？"。后续会在文档中补充说明
看起来像是langchain的报错 方便提供下langchain的版本吗？
我这边使用最新版的xinference部署模型后未复现异常，能进入到容器里面拉下执行操作时的控制台的输出吗？