ggjge
Results
3
issues of
ggjge
https://huggingface.co/THUDM/glm-10b-chinese/tree/main 只有tokenizer_config.json
readme中的示例代码跑,输入长度1k左右,8*V100 32G,一个step就需要10s+,max_new_token=512的话,一条case跑下来得一个多小时。。。 即使输入长度比较大,也不应该那么慢吧。。
这一步一个step要16分钟正常吗,算下来生成一张图要10*16=160分钟将近3个小时。。。A800的卡,是不是打开方式不对。。。