jittor icon indicating copy to clipboard operation
jittor copied to clipboard

是否支持 转换到 ONNX 可以使用TensorRT加速吗

Open jh1120260400 opened this issue 4 years ago • 4 comments

jh1120260400 avatar Mar 23 '20 15:03 jh1120260400

感谢您对计图的关注,ONNX支持我们正在开发中,计图自带的元算子融合加速可以替代TensorRT进行加速。

Jittor avatar Mar 24 '20 06:03 Jittor

感谢您对计图的关注,ONNX支持我们正在开发中,计图自带的元算子融合加速可以替代TensorRT进行加速。

谢谢解答,计图自带的元算子加速和 TensorRT对比怎么样?

jh1120260400 avatar Mar 24 '20 14:03 jh1120260400

在我们内部测试中(resnet50),TensorRT在新卡上,如RTX titan,是优于元算子融合的(快20%),而在1080ti这种老卡上,元算子融合更胜一筹(快15%)。

Jittor会在后续版本增加TensorRT的支持),谢谢您的关注。

Jittor avatar Mar 24 '20 16:03 Jittor

请问现在jittor支持转onnx吗?需要做模型部署,必须用使用onnx

Daipuwei avatar Mar 23 '22 01:03 Daipuwei