Sunjc234

Results 8 comments of Sunjc234

我仔细看了下ooV的代码,这是遇到未登录词时的正常提示,如果没有报outputids2words中的error就是没有报错

batchsize太小了

我记得是config文件里面,vocab大小的问题,你改一下那个试试 ---- 回复的原邮件 ---- | 发件人 | ***@***.***> | | 发送日期 | 2023年07月26日 13:27 | | 收件人 | LowinLi/Text-Summarizer-Pytorch-Chinese ***@***.***> | | 抄送人 | Sunjc234 ***@***.***>, Comment ***@***.***> | |...

模型训练不会自动结束的,你需要看loss值,在损失值趋于平稳之后就可以结束训练,你可以加一个可视化的工具来查看损失值曲线 ---- 回复的原邮件 ---- | 发件人 | ***@***.***> | | 发送日期 | 2023年09月08日 10:16 | | 收件人 | ***@***.***> | | 抄送人 | Sunjc234 ***@***.***>, Comment ***@***.***> | | 主题...

非常感谢您的回复,请问你在训练BERTABS+Guidance Signals的模型时用的是[BERT文件夹](https://github.com/neulab/guided_summarization/tree/master/bert)下面的代码吗。我在使用highligted_sentence_data.py对训练集进行处理后,使用了下面的命令,但是测试结果的rouge分数很低,我不清楚是否是命令行参数有误。如果您能帮我看一下参数,我会非常感激。 训练命令 `python z_train.py -task abs -mode train -bert_data_path /clusters/data_1080Ti_0/LCSTS/guided_summarization-master/bert/data/cnndm -dec_dropout 0.2 -model_path /clusters/data_1080Ti_0/LCSTS/guided_summarization-master/bert/save_models -sep_optim true -lr_bert 0.002 -lr_dec 0.2 -save_checkpoint_steps 2000 -batch_size 60 -train_steps 200000 -report_every 50 -accum_count...

> 是用的BERT文件夹的代码。我现在能看到的你的参数和[https://github.com/neulab/guided_summarization/blob/master/bert/train.sh不一样的地方主要是batch_size,特别是只用了2张卡,而我用了4张,所以accum_count可能要提高。问一下你的rouge](https://github.com/neulab/guided_summarization/blob/master/bert/train.sh%E4%B8%8D%E4%B8%80%E6%A0%B7%E7%9A%84%E5%9C%B0%E6%96%B9%E4%B8%BB%E8%A6%81%E6%98%AFbatch_size%EF%BC%8C%E7%89%B9%E5%88%AB%E6%98%AF%E5%8F%AA%E7%94%A8%E4%BA%862%E5%BC%A0%E5%8D%A1%EF%BC%8C%E8%80%8C%E6%88%91%E7%94%A8%E4%BA%864%E5%BC%A0%EF%BC%8C%E6%89%80%E4%BB%A5accum_count%E5%8F%AF%E8%83%BD%E8%A6%81%E6%8F%90%E9%AB%98%E3%80%82%E9%97%AE%E4%B8%80%E4%B8%8B%E4%BD%A0%E7%9A%84rouge) score最后是多少,还有测试阶段的guidance signal是怎么得到的? 非常感谢您的仔细回复,我的训练集和测试集都直接运行highligted_sentence_data.py文件进行的处理,不知道是不是我在添加信号时步骤不对。在训练6400步后的rouge分数依然为 `--------------------------------------------- 1 ROUGE-1 Average_R: 0.01776 (95%-conf.int. 0.01753 - 0.01797) 1 ROUGE-1 Average_P: 0.20982 (95%-conf.int. 0.20801 - 0.21165) 1 ROUGE-1 Average_F: 0.03241 (95%-conf.int. 0.03202 - 0.03280)...

> > > > 你好,我也遇到了rouge评分很低的问题,预测出来的句子全是,请问有什么解决办法吗 就是编解码器学习率的问题,我的理解改成双编码器之后应该提高编码器学习率或者降低解码器学习率,但是具体数值要根据数据集处理的来确定,但主要修改方向就是提高编码器学习率或者降低解码器学习率

就是编解码器学习率的问题,我的理解改成双编码器之后应该提高编码器学习率或者降低解码器学习率,但是具体数值要根据数据集处理的来确定,但主要修改方向就是提高编码器学习率或者降低解码器学习率 ---- 回复的原邮件 ---- | 发件人 | ***@***.***> | | 日期 | 2022年07月03日 14:18 | | 收件人 | ***@***.***> | | 抄送至 | ***@***.******@***.***> | | 主题 | Re: [neulab/guided_summarization]...