fzcccc
Results
2
comments of
fzcccc
> 是不是rerank没有释放显存导致超时了 大佬，显存是自动释放的吗，还有超时的时间可以延长吗
> 模型的注意力问题，换能力强的模型，并在提示词里约束。 也可以去优化知识库结构，比如不要直接分割，进行QA拆分，或者其他预处理。 你可以人工看下，匹配出来的知识库，是否正确匹配到了相关知识，引用的是相关+不相关，还是全部是不相关。 我用的是glm4，知识库里面的知识全部都是直接分割，有什么更强的模型推荐吗，引进来的知识是相关+不相关，最后回答的结果就会掺杂着不准确