gpt2-ml-finetune-

gpt2-ml-finetune- copied to clipboard

请问输入文件这个目录在哪里呢？/data/home/share1/gpt2-ml-Finetune/data-mayun_xiugai

xukai98

CUDA_VISIBLE_DEVICES=0 是做什么的呢？

1

lrz512699597

为啥会出现：is not in all_model_checkpoint_paths

1

gpt2-ml-Finetune/finetune_model/model.ckpt-220000 is not in all_model_checkpoint_paths. Manually adding it. 不在检查路径中。。

cncbec

为什么我finetune之后的模型生成的文本更加乱了， 使用原版的模型倒是没有问题

huangdacheng

和原来gpt2-ml的demo.py 进行inference的代码对比，使用的不是同一个vocabulary？

3

觉得奇怪的地方， train和 inference的时候使用的vocabulary 不是同一个文件的？

huangdacheng

提示prepare_data.py也执行完成了，但是在data文件夹中只有22.json文件，没有train.tfrecord文件，并且没有错误提示。 CALLING CLOSE DONE UPLOADING

cncbec

想问下loss下降到多少是差不多收敛了，参考下你的训练结果

joytianya

bs=1，训练有效果么

1

joytianya

gpt2_ml的模型更新了，可以更新一下代码吗？还有，可以出个colab版的吗，运行起来也方便一些

5

suxuan123

加载原gpt2-ml的大模型，9G的显存也会满了,报OOM，请问作者是使用多大显存？

1

![image](https://user-images.githubusercontent.com/6139188/93421785-e49dcc00-f8e4-11ea-9d64-2471fa1e9d6a.png 如题

huangdacheng