wudidiandian
wudidiandian
我的也是这种情况，但是我的最开始时torch版本不匹配，重装了torch ,按照上面说的关了clash还是不生效，于是重启了电脑，重新进入conda env启动，然后识图几十秒出结果
16G vram janus绝对够的，但是测下来 janus 1.3b模型质量不好。16G vram跑 januspro也可以，但要保证至少有32G的ram,实测下来这样启动时很慢，使用时还可以，gradio中的demo生成4张图要250秒左右，但图片质量跟flux绝对比不了，但优势是这个模型有llm模型的理解能力，就是它能够识别完图片并作出下一步的判断。另外这份开源代码的demo比较简单，根本没有什么打印或日志，所以模型在推理时控制台没有什么输出，没有step,也没有token的处理速度及进度。题主说的没有使用到gpu这个确实是，torch的版本不对，torch要使用gpu版本，且要与cuda版本对应。另外 flash_attn版本页要与torch版本对应，不然会报错
https://github.com/user-attachments/assets/c39d3868-40ef-45e7-9704-00cd8724cbde
So 30B model requires 4 v100 graphics cards to run? What is the minimum vram required?