wangdh1027
Results
3
comments of
wangdh1027
> Why do you think this is related to fastapi? I write my_excepthook() in main.py if execute python main.py ,my_excepthook() is work if execute uvicorn main:app --reload --port 8818 --host...
同感觉，大家有找到原因吗
一个可能的原因是 官方给的模型文件 不适配 trainer的模型并行，具体怎么改可以参考https://github.com/yuanzhoulvpi2017/zero_nlp/blob/main/simple_thu_chatglm6b/thuglm/modeling_chatglm.py 我这里可以work 了