PaddleNLP icon indicating copy to clipboard operation
PaddleNLP copied to clipboard

Add pegasus

Open gongel opened this issue 3 years ago • 2 comments

PR types

New features

PR changes

Models

Description

  • Add pegasus model and Chinese tokenizer
  • TODO
    • Add text_summarization applications using pegasus
    • Add unit test, output_attentions、output_hidden_states、labels、return_dict、config
    • Support FasterGeneration

gongel avatar Sep 15 '22 07:09 gongel

可以把单测和部分P0功能(output_attentionsoutput_hidden_stateslabelsreturn_dict)给加上,具体可参考:bert.modeling

等BertConfig样板间合入之后也可以把PegasusConfig给加上。

wj-Mcat avatar Sep 15 '22 08:09 wj-Mcat

可以把单测和部分P0功能(output_attentionsoutput_hidden_stateslabelsreturn_dict)给加上,具体可参考:bert.modeling

等BertConfig样板间合入之后也可以把PegasusConfig给加上。

已加入TODO

gongel avatar Sep 15 '22 12:09 gongel

可以把单测和部分P0功能(output_attentionsoutput_hidden_stateslabelsreturn_dict)给加上,具体可参考:bert.modeling 等BertConfig样板间合入之后也可以把PegasusConfig给加上。

已加入TODO

这个还注意check评估下以后增加的话会否有兼容性问题

guoshengCS avatar Oct 27 '22 05:10 guoshengCS

可以把单测和部分P0功能(output_attentionsoutput_hidden_stateslabelsreturn_dict)给加上,具体可参考:bert.modeling 等BertConfig样板间合入之后也可以把PegasusConfig给加上。

已加入TODO

这个还注意check评估下以后增加的话会否有兼容性问题

好的,thx~

gongel avatar Oct 27 '22 06:10 gongel

Downloading from https://bj.bcebos.com/paddlenlp/models/community/IDEA-CCNL/Randeng-Pegasus-238M-Summary-Chinese\tokenizer_config.json failed with code 404!

csonnet avatar Nov 03 '22 06:11 csonnet