ChengRuiLiang
Results
3
comments of
ChengRuiLiang
有什么方法能够对它进行性能优化，有没有适合重排模型的推理加速框架
> 想减少运行时间的话可以尝试使用低层输出、减少rerank的范围或使用bge-reranker-v2-m3 关于推理加速框架方面我们没有具体探究过 非常感谢
I had the same problem