[BUG/Help] <运行web_demo.py成功，但是对话没回应>

[tianyang820]

Is there an existing issue for this?

• [X] I have searched the existing issues

Current Behavior

使用ptuing_v2进行微调后，loss最终在4.几，这会不会有点太高了，因为loss基本没降多少，然后打开网页后，不管输入什么问题，都得不到回应

Expected Behavior

No response

Steps To Reproduce

环境与作者的一致

Environment

- OS:
- Python:
- Transformers:
- PyTorch:
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :

Anything else?

No response

[Big-yellowa]

同问，部署训练后的模型运行webdemo后模型无回应

[JiXia830]

我也是，至今没有找到合适的解决方法

[Big-yellowa]

https://zhuanlan.zhihu.com/p/633901827我参照这个运行成功了

[JiXia830]

https://zhuanlan.zhihu.com/p/633901827我参照这个运行成功了 好滴，谢谢你

[liuyuesheng]

搞定了，被yield卡住了，改成return就行，只是不能够一个字一个字打印了

[Tombston6]

搞定了，被yield卡住了，改成return就行，只是不能够一个字一个字打印了

按照你的方法完美解决，you are my hero