bert4keras
bert4keras copied to clipboard
请问save_weights_as_checkpoint保存的格式是和Google提供的bert模型是完全一样的吗,因为用大佬的simcse中文代码微调的bert模型,保存出来瞬间小了6m,数据集也是用的你提供的公开数据集(不大),打算在bert4keras导出的模型基础上继续用tf1.5加载微调,不知道格式是否统一
提问时请尽可能提供如下信息:
基本信息
- 你使用的操作系统:
- 你使用的Python版本:
- 你使用的Tensorflow版本:
- 你使用的Keras版本:
- 你使用的bert4keras版本:
- 你使用纯keras还是tf.keras:
- 你加载的预训练模型:
核心代码
# 请在此处贴上你的核心代码。
# 请尽量只保留关键部分,不要无脑贴全部代码。
输出信息
# 请在此处贴上你的调试输出
自我尝试
不管什么问题,请先尝试自行解决,“万般努力”之下仍然无法解决再来提问。此处请贴上你的努力过程。
一样。不过你用simcse的代码的话,估计会少了mlm部分权重(因为simcse没有mlm)
好的,感谢