Guo Sheng

这个应该是您上面说的cuda路径的问题，您那边nvcc是能够正常使用的吗，CUDA路径是什么呢

@llxxxll 感谢持续关注 :)

您目前遇到的报错可以在命令中加入一个`--model_type "gpt"`的参数解决

可否在AI studio的社区 https://ai.baidu.com/forum 提问下呢，可能是在AI studio上部署时的问题，目前的返回内容应该还没到Paddle预测的步骤。

可以先加AI studio同学的QQ 980902922 ，感谢

抱歉这里是有些问题，我们这边修复下，麻烦还请先行参照train.py这里 https://github.com/PaddlePaddle/models/blob/develop/PaddleNLP/PaddleMT/transformer/train.py#L161 在inference_model.py这里加上一行对词典大小的设置

另外还请在新增API时加上文档

另外，请使用pre-commit

后续可以加入stack的CNNEncoder，以及支持param_attr传入