Guo Sheng

请问您那边是Windows环境是吗

可能是gcc/g++版本低了，设置的`-std=c++14`不支持没生效，但是要求的`-std=c++11` 这个没设置，可以换个高版本的gcc/g++试下呢，或者可以试下Paddle官方的docker镜像 https://www.paddlepaddle.org.cn/install/quick?docurl=/documentation/docs/zh/install/docker/linux-docker.html

> `paddlenlp search`的示例界面如下所示： > > - 这里的model type代表的是什么呢，看ALBERT的是transformer，是使用的`base_model_prefix`吗，这个可能不太合适，是不是还是用model class或者所在模型目录来表示 - 另外就是model source这里的official感觉还要商榷下，这些应该都不算是咱们官方的，咱们官方的应该只有文心系列，或者是否咱们直接就去掉model source，这个 @wawltor @ZeyuChen 看下呢

请问是多次load同一个模型参数eval吗，还是说load以后连着多次eval呢，我这边找了个BERT的glue例子试了下，连着多次eval结果是一致的。如果是多次load同一个模型参数eval是否是因为存在未加载的参数呢 ```txt global step 1000/6315, epoch: 0, batch: 999, rank_id: 0, loss: 0.159848, lr: 0.0000187016, speed: 14.5907 step/s eval loss: 0.141358, acc: 0.9071100917431193, eval done total : 1.1666548252105713 s eval...

> 理论上这确实是种可能。 那怎么能像Ernie 模型里面这样打印出未加载的参数啊？ 这个可以试下对比下 `model.state_dict()` 和 `paddle.load(model.params)`返回的dict的keys。 也可以看看一次load多次eval看看是不是这个是固定的，这个是固定的话估计就是多次load之后的模型参数不一样了

会不会是数据顺序的影响，要么可以在模型网络中debug看下同一条输入数据运行到哪里第一次出现了diff了

您好，您是希望用ernie gen做其他生成任务，这个暂时没有例子，做的话只要把 https://github.com/PaddlePaddle/PaddleNLP/tree/develop/model_zoo/ernie-gen#%E6%95%B0%E6%8D%AE%E5%87%86%E5%A4%87 这里的诗歌数据换成您那边需要的数据就可以了，比如 https://github.com/PaddlePaddle/PaddleNLP/tree/develop/applications/text_summarization/pegasus#%E6%95%B0%E6%8D%AE%E5%87%86%E5%A4%87 这里的摘要数据转换成和ernie gen里一样的数据格式 只就 `我根据使用PaddleNLP预训练模型ERNIE-GEN生成诗歌这个项目学习的ernie gen的句子生成解码策略` 学习生成策略这个的话其实不是特别推荐ernie gen和https://aistudio.baidu.com/aistudio/projectdetail/4923792，因为ernie gen的解码生成策略比较特殊，infilling beam search，这个策略相比标准的beam search和其他采样策略使用的较少，也会复杂一点

精调的话可以参考这里 https://github.com/PaddlePaddle/PaddleNLP/tree/develop/model_zoo/ernie-3.0

因为对话系统相对庞大，可以先参考RASA这样一些对话系统的repo。PaddleNLP中目前还没有完整的对话系统的案例，有些对话系统子任务的[教程](https://aistudio.baidu.com/aistudio/projectdetail/2017202?channelType=0&channel=0) 可以先参考下，也欢迎持续关注，如果有相关内容更新我们也会及时发布出来

你好，看了下当前的这个代码确实是没有输出 https://github.com/PaddlePaddle/PaddleNLP/blob/develop/model_zoo/bert/static/predict_glue.py#L161 ，只算是个示例不是很完善，您可以先按照需要使用这里的返回值 https://github.com/PaddlePaddle/PaddleNLP/blob/develop/model_zoo/bert/static/predict_glue.py#L133