tensorRT_Pro icon indicating copy to clipboard operation
tensorRT_Pro copied to clipboard

Published 20 hours ago • verified publisher icon shouxieai

FP32與FP16時間差距很大

Open s0966066980 opened this issue 1 year ago • 2 comments

螢幕快照 2023-08-07 11:21:05 請問需要如何修改？

s0966066980 avatar Aug 07 '23 03:08 s0966066980

你好，请问使用fp16需要修改哪些地方吗。还是说和fp32一样的？

zhen12079 avatar Aug 14 '23 08:08 zhen12079

你好，请问使用fp16需要修改哪些地方吗。还是说和fp32一样的？

type还是mode给FP16就可以了

HaronCHou avatar Oct 19 '23 11:10 HaronCHou