liu zhengxi
liu zhengxi
当前 `gpt2-small-en` 模型是一个 CE 随机模型，仅有设置 `pretrained_init_configuration` 而无 `pretrained_resource_files_map`，@guoshengCS @wj-Mcat 看看 `from_pretrained()` 的是否有相关修改删除了这个功能。
Hi @mayank31398 Sorry for the late reply. It was ok with `do_sample=False`. The results were all the same. But I still can't figure out why sampling can't work properly. Do...
But the `k` is 1. There shouldn't be any randomness. @richarddwang
仅看报错只是在说 transpose 时候的维度设置不对，进一步定位可以在具体代码处打印看看是哪一个变量的形状有问题。 另外也麻烦详细说明下 1. 环境信息，包括不限于： PaddlePaddle 的版本 PaddleSlim 的版本 PaddleOCR 的版本 CUDA CUDNN 版本 2. 执行的方式： 执行的是动态图前向还是导出模型后的 inference 推理 执行的命令是怎样的
只看报错是模型中某个 transpose 操作输入的形状不对。一般排查思路需要根据模型结构来确认下报错位置，具体定位下出错原因
UIE 一些压缩功能直接在 PaddleNLP 支持的，可以在 PaddleNLP 问问是否有相关的压缩方案