EET icon indicating copy to clipboard operation
EET copied to clipboard

Published 20 hours ago • verified publisher icon NetEase-FuXi

如果用EET推理，CLIP是不是就没有梯度信息了？(Can't compute gradient for clip during inference)

Open Dango233 opened this issue 2 years ago • 1 comments

Dango233 avatar May 17 '22 13:05 Dango233

是的，EET是只针对推理做加速的，所以是没有梯度信息的。另外EET对于clip的加速效果还是不错的，相对transformers在3090上有十倍以上的性能提升。你可以用于训练好的模型在线上推理时做加速使用

dingjingzhen avatar May 17 '22 13:05 dingjingzhen