LongWriter
LongWriter copied to clipboard
点击submit无反应,后台监控显示GPU无负载
System Info / 系統信息
CUDA : 12.4 transformers: 4.44.2 Python: 3.12.4 操作系统:Windows11 64
Who can help? / 谁可以帮助到您?
No response
Information / 问题信息
- [X] The official example scripts / 官方的示例脚本
- [ ] My own modified scripts / 我自己修改的脚本和任务
Reproduction / 复现过程
- 在conda控制台进入项目路径并进入搭好环境的虚拟环境,然后运行export MODEL_PATH="/data/code/LongWriter/LongWriter-glm4-9b" && CUDA_VISIBLE_DEVICES=0 python trans_web_demo.py
- 项目正常运行启动并自动弹出网页
- 在prompt框出入输入”你是一位经验丰富的漫画家“无反应;在input框输入”帮我创作一个10000字以上的热血漫画剧本“无反应
Expected behavior / 期待表现
demo可以正常运行
demo未使用GPU
什么显卡,同样的环境,我m40也出现过这样的问题。后来我就放弃了这种显卡
检查下cuda和pytorch是否正常,可能也能解决相关问题
我的显卡是4090D,cuda和pytorch都是正常的@mhzn-yn
conda list一下你的py和cuda是否匹配,以前在运行的时候我下意识的装了cpu版本。不行你就上传以下你后台界面,这样才好判断。
好的,我试试看,感谢你的帮助! @mhzn-yn
解决了么
还没有,服务器有别的项目要跑,至少得等到国庆收假之后再试了 @wicky-ding