bert4torch icon indicating copy to clipboard operation
bert4torch copied to clipboard

预训练模型加载出错的请进

Open Tongjilibo opened this issue 1 year ago • 0 comments

不少issue是关于预训练模型加载出错的,包含报warning和config参数不对,解释如下

  • 原因:报warning是因为模型文件中的key和bert4torch的key没有完全对齐,config参数不对是笔者对原config文件做了修改(方便参数名统一)
  • 解决方案:可以直接查看README文件结尾,部分预训练权重提供了convert文件,config参数提供了config说明

Tongjilibo avatar Oct 13 '22 15:10 Tongjilibo