xlnet_zh

xlnet_zh copied to clipboard

想问一下这个用到中文的MRC任务上效果怎么样？？

onlyonewater

谷歌云盘下载链接错误

1

链接跳转至当前项目，麻烦作者更新一下

ZizhenWang

您好. 我发现有两个参数在训练时和预训练文件中的值不一致. 在```https://github.com/brightmart/xlnet_zh```的```预训练```中的```1、生成tfrecords:```中的配置中: ```--reuse_len=256 \``` 在```https://github.com/brightmart/xlnet_zh```的```预训练```中的```2、训练模型:```中的配置中: ```--mem_len=384 \``` 在下载预训练文件的config.json中.(12层的小模型, 24层的大模型配置文件都如此) ``` "mem_len": null, "reuse_len": null, ``` 请问这是什么原因导致的? 这在预测的时候是否会导致xlnet退化成bert?

ofooo

博主好，ymcui项目中的分词器有些词分的不好，影响阅读理解答案的边界，请问你这里的分词器有重新训练吗？

ShuGao0810

XLNet_zh_Large pretrain models's google drive download link is invalid, can you please update?

4

wrxDM

BERT只支持510长度的汉字，xlnet支持更长的吗？比如5000长度这种？

sevenold

Pytorch模型

4

您好，可以麻烦提供Pytorch版本吗？目前在使用pytorch transformer转化时出错了。后续可以跟您报告我们模型在使用xlnet模型做情感分类（CCF BDCI）的准确率，谢谢

jiangix01

Pytorch版本

3

您好，我在使用您提供的命令转化Pytorch版本时，会报错，请问是什么原因？ RuntimeError: Sizes mush be non-negative。应该是vocab_size=-1导致的？

jiangix01

xlnet有发布基于字训练的模型的计划吗？？

1

基于子词的话，好像没法做序列标注任务

arcral