BERT-BiLSTM-CRF-NER icon indicating copy to clipboard operation
BERT-BiLSTM-CRF-NER copied to clipboard

Published 20 hours ago • verified publisher icon macanv

减少BERT层数，预测结果出现X

Open currenttime opened this issue 5 years ago • 6 comments

我将12层的BERT模型改为6层或者3层，预测有时会出现X的情况，另外预测序列长度小于输入序列长度，请问是怎么回事？ 请问如果我想减少BERT的层数，应该在哪些参数上进行调整那？

currenttime avatar Jan 13 '20 05:01 currenttime

检查一下小于的序列，看下tokenizer 是不是切错了。

macanv avatar Jan 14 '20 12:01 macanv

我将12层的BERT模型改为6层或者3层，预测有时会出现X的情况，另外预测序列长度小于输入序列长度，请问是怎么回事？ 请问如果我想减少BERT的层数，应该在哪些参数上进行调整那？

同样的问题, 请问你解决了吗, 谢谢

xqt01 avatar Feb 27 '20 05:02 xqt01

我的序列长度倒是对，就是会出现X的现象

JQIANG125 avatar Feb 28 '20 15:02 JQIANG125

同样参数在kyzhouhzau/BERT-NE没有这个现象，在这里也有X，请问怎么解决的啊

lulia0228 avatar May 27 '20 14:05 lulia0228

同样参数在kyzhouhzau/BERT-NE没有这个现象，在这里也有X，请问怎么解决的啊

求问，在跑kyzhouhza/BERT-NE的时候出现下面这个错误 absl.flags._exceptions.UnparsedFlagAccessError: Trying to access flag --do_train before flags were parsed 您遇到过吗，我是直接放好模型后进行训练的

YijianLiu avatar Mar 26 '21 07:03 YijianLiu

我的序列长度倒是对，就是会出现X的现象

你好 我现在运行这个代码也出现了这个问题，能问一下您是怎么解决的吗

bingoc0207 avatar Apr 06 '21 14:04 bingoc0207