GLM icon indicating copy to clipboard operation
GLM copied to clipboard

使用GLM-2b推理时生成无意义内容

Open ChristLBUPT opened this issue 2 years ago • 0 comments

模型会生成大量重复无意义的内容(就像初始参数随机的模型一样)

比如

输入:The capital city of China is [MASK].
输出:[CLS] The capital city of China is [MASK].<|endoftext|> <|startofpiece|>  K KparparReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloaded

使用的代码是repo主页的示例代码,模型使用的是THUDM/glm-2b

麻烦大佬们check一下

ChristLBUPT avatar Sep 20 '23 08:09 ChristLBUPT