运行本地demo时发生错误,恳请帮助,谢谢。
已按要求完成环境部署,按照文档 How to deploy a local demo? 的说明运行时出现以下异常。
(internvl) yushen@user-MS-7E06:~/ai/InternVL/internvl_chat_llava$ python -m llava.serve.gradio_web_server --controller http://0.0.0.0:10000 --model-list-mode reload --device auto
2024-05-24 15:14:59 | ERROR | stderr | Traceback (most recent call last):
2024-05-24 15:14:59 | ERROR | stderr | File "/home/yushen/micromamba/envs/internvl/lib/python3.9/runpy.py", line 197, in _run_module_as_main
2024-05-24 15:14:59 | ERROR | stderr | return _run_code(code, main_globals, None,
2024-05-24 15:14:59 | ERROR | stderr | File "/home/yushen/micromamba/envs/internvl/lib/python3.9/runpy.py", line 87, in _run_code
2024-05-24 15:14:59 | ERROR | stderr | exec(code, run_globals)
2024-05-24 15:14:59 | ERROR | stderr | File "/home/yushen/ai/InternVL/internvl_chat_llava/llava/serve/gradio_web_server.py", line 22, in
是gradio的版本问题吗?使用的最新的4.31.5
测试了gradio 4.0、3.50版本,都不能启动
我也碰到一样的错误了
You are using gradio version 3.50.2
这个版本可以
You are using gradio version 3.50.2
这个版本可以
运行起来占用了多少GPU显存
您正在使用 gradio 版本 3.50.2 这个版本可以
运行起来占用了多少GPU显存
55g显存占用
是gradio版本的问题,可以参考这个文件中的版本进行安装:https://github.com/OpenGVLab/InternVL/blob/main/internvl_chat_llava/pyproject.toml