ERNIE icon indicating copy to clipboard operation
ERNIE copied to clipboard

700多M的ERNIE-VIL2 在coco-CN的跨模态检索上显著好于2.3G的华为WUKONG

Open bendanzzc opened this issue 3 years ago • 0 comments

根据两者官网和自己复现,性能基本属实,请问可以公开是如何训练的嘛?如果用的也是公开数据集,就打破了我对跨模态pretrain的模型大小和性能关系的认知。还是说ERNIE用的是 fine-tune的结果。因为我看Wukong的finetune结果和ERNIE的比较接近

bendanzzc avatar Aug 28 '22 13:08 bendanzzc