如何在 demo 模式下运行 run_uie.py ?

[OStars]

我使用和 eval_flan-t5.sh 一样的配置，将 do_predict 改为了 do_demo，先是报错 trainer 缺少 _gen_kwargs，我手动设置了 _gen_kwargs 后又报错 model 和 input 不处于同一 device 上，这是因为 do_demo 模式下 deepspeed 没有初始化模型成功吗？