FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard
verified publisher icon FlagOpen

reranker怎么转onnx

Open lzcsjtu opened this issue 2 years ago • 2 comments

每次转都会生成很多权重的子文件，怎么生成只有一个onnx文件呢？

lzcsjtu avatar Nov 24 '23 14:11 lzcsjtu

huggingface平台上有一些第三方转换后的onnx，可以试试。

staoxiao avatar Nov 25 '23 06:11 staoxiao

请问，转换成onnx可以加快推理速度不？

mechigonft avatar Dec 26 '23 06:12 mechigonft