K-BERT icon indicating copy to clipboard operation
K-BERT copied to clipboard

Published 20 hours ago • verified publisher icon autoliuweijie

请问有进行k-bert预训练的代码吗

Open erichen510 opened this issue 4 years ago • 2 comments

好像没有找到相关的预训练代码

erichen510 avatar Apr 10 '20 08:04 erichen510

好像没有找到相关的预训练代码

K-BERT的项目里不关注于预训练，预训练相关的内容我们放在另一个项目里了，UER：https://github.com/dbiir/UER-py 欢迎关注哈

autoliuweijie avatar Apr 11 '20 13:04 autoliuweijie

好的 谢谢～ 发现experiment中做了阐述。也就是说k-bert可以直接应用google bert的预训练参数对吧？readme中提供的bin文件和谷歌提供的差别主要是增加了WebtextZh可以这样理解吧

erichen510 avatar Apr 11 '20 14:04 erichen510