sys1874

Results 10 comments of sys1874

@czs0x55aa Thanks a lot,i am trainning a textsum model with input in 32X120. and your code help me get out of this problem.

Hi, we also have this planning and release a multi-gpu version for ogbn-proteins soon.

因为双线性(nn.BiLinear) 会产生一个 in_feat1 * in_feat2 * out_feat 的参数, 大概是原本线性(nn.Linear)的 in_feat2 倍。所以又大又慢。 ref: https://www.paddlepaddle.org.cn/documentation/docs/zh/api/paddle/nn/Bilinear_cn.html#bilinear

Since our unimp code was implemented by paddle1.8, please use the following command to install the appropriate environment: ``` pip install pgl==1.2.1 pip install paddlepaddle-gpu==1.8.5.post107 -f https://paddlepaddle.org.cn/whl/stable.html ```

要是没调用,去掉就行。可能当时想写其他东西进去吧。。

使用 def train_ver2() 就行 ,把 masked_cross_entropy 相关的注释掉

抱歉,这个还真没有。我就学习学习别人代码,拿100条样本跑跑而已。

《Effective Approaches to Attention-based Neural Machine Translation》,抱歉没日常看回复

seq2seq model 一开始是为 机器翻译提出的,这个项目的模型是上述文章的实现,只是把输入数据和输出数据更换成摘要数据而已。 这两个任务都是 序列映射任务,所以基本框架一样。

不好意思哈,没想过别人会查看我的项目。。。。。 我这个是非常新手的项目,纯属简单实现,方便新手学习代码实现的。 大家要有GPU 可以去 了解一下 open-nmt,里面实现了非常多textsummary 相关的算法。大家可以使用这个框架训练自己想要的模型。 中文数据集有两个: NLPCC_shark_task3 LCSTS