bert_seq2seq

bert_seq2seq copied to clipboard

您好 请问在simbert模型里面 seq2seq的loss比similarity的loss大的多是正常的吗？

3

EddieChen324

如何能联系到您呢？qq群加不进去，有关于epoch和bart做seq2seq方面的问题想请教一下> > 您好 在不断降低学习率之后loss还是卡在原来的位置，请问如何能与您取得联系？

5

> > 您好 在不断降低学习率之后loss还是卡在原来的位置，请问如何能与您取得联系？ > > 我的也是，训练到第三个epoch，再往后loss就不变了，请问你解决了吗？ 应该解决了，后来他加我微信了。 _Originally posted by @920232796 in https://github.com/920232796/bert_seq2seq/issues/7#issuecomment-667139678_

chenzelong

你好，我想问一下，关于gpt文章写作的数据集应该是什么样的格式，是一小段标题作为输入，文章作为输出么？

5

viego1999

请问在做标题生成的时候支持point_net对应的copy机制吗？

1

chenzelong

请问bart做标题生成怎么跑起来？

4

请问bart做标题生成怎么跑起来？

chenzelong

关于摘要自动生成

16

你好 我刚刚接触到这个领域，请问在做文章摘要生成时使用对联的例子是可以的吗？ 在对联的seq2seq模型中只有一个bert作为encoder，这样子可以很好的完成seq2seq模型吗

maoyj0119

unilm多少epoch收敛比较好？

1

楼主你好，我数据量大约130万，src长度大约100，tgt长度大约40，用unilm多少epoch收敛比较的好？我现在4个epoch发现预测的标题，会出现不通顺/字符重复的问题

chenzelong

roberta_auto_title_train.py

4

请问这个代码所需的文件是不全的吗？如./state_dict/文件下的roberta_wwm_vocab.txt等？

lishuzhen97

您好，我想添加一些我自己的数据集做fine-tune，请问应该怎么做呢

1

pangsg

关于医学代码的问题

16

大佬你好我是一个刚接触实体识别的萌新，看了你的代码有几个问题请教： 1.这个医学的medical_ner_update.txt在哪里下载呀？ 2.这个医学的代码可以用bert模型跑吗？直接运行吗？ 还希望大佬告知一下。刚接触懂得太少了，谢谢。

cc846049716