Roberta_l24_zh_base 和RoBERTa-zh-Large，有什么区别吗，还有有keras调用的样例吗，谢谢大佬了

Open lx-rookie opened this issue 6 years ago • 3 comments

Nov 14 '19 07:11 lx-rookie

base是24层，但是hidden size没有扩大； large的hidden size也相应的扩大了； keras调用例子： https://github.com/bojone/bert4keras

Nov 14 '19 07:11 brightmart

好的，感谢

Nov 14 '19 10:11 lx-rookie

base是24层，但是hidden size没有扩大； large的hidden size也相应的扩大了；

意思是加载Roberta_l24_zh_base需要修改bert_config_large.json中的hidden size为768？

Apr 15 '20 08:04 excelsimon