LongWriter icon indicating copy to clipboard operation
LongWriter copied to clipboard

点击submit无反应,后台监控显示GPU无负载

Open yexijue opened this issue 1 year ago • 8 comments

System Info / 系統信息

CUDA : 12.4 transformers: 4.44.2 Python: 3.12.4 操作系统:Windows11 64

Who can help? / 谁可以帮助到您?

No response

Information / 问题信息

  • [X] The official example scripts / 官方的示例脚本
  • [ ] My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

  1. 在conda控制台进入项目路径并进入搭好环境的虚拟环境,然后运行export MODEL_PATH="/data/code/LongWriter/LongWriter-glm4-9b" && CUDA_VISIBLE_DEVICES=0 python trans_web_demo.py
  2. 项目正常运行启动并自动弹出网页
  3. 在prompt框出入输入”你是一位经验丰富的漫画家“无反应;在input框输入”帮我创作一个10000字以上的热血漫画剧本“无反应 屏幕截图 2024-09-07 142007

Expected behavior / 期待表现

demo可以正常运行

yexijue avatar Sep 07 '24 06:09 yexijue

demo未使用GPU

scutzhe avatar Sep 10 '24 02:09 scutzhe

什么显卡,同样的环境,我m40也出现过这样的问题。后来我就放弃了这种显卡

mhzn-yn avatar Sep 29 '24 07:09 mhzn-yn

检查下cuda和pytorch是否正常,可能也能解决相关问题

mhzn-yn avatar Sep 29 '24 07:09 mhzn-yn

我的显卡是4090D,cuda和pytorch都是正常的@mhzn-yn

yexijue avatar Sep 29 '24 07:09 yexijue

conda list一下你的py和cuda是否匹配,以前在运行的时候我下意识的装了cpu版本。不行你就上传以下你后台界面,这样才好判断。

mhzn-yn avatar Sep 29 '24 07:09 mhzn-yn

好的,我试试看,感谢你的帮助! @mhzn-yn

yexijue avatar Sep 29 '24 08:09 yexijue

解决了么

wicky-ding avatar Sep 29 '24 12:09 wicky-ding

还没有,服务器有别的项目要跑,至少得等到国庆收假之后再试了 @wicky-ding

yexijue avatar Sep 29 '24 15:09 yexijue