demo运行

[luyao-cv]

跑了两个demo.py，用的给的例子，都会出现这样的错误

[hangzhang-nlp]

哈喽，是不是没升级到最新的代码？刚我这边测了一下最新代码没问题，可否把详细地配置信息和报错信息报一下，在启动demo的终端里面应该有

[CaicaiJason]

python demo_audiovideo.py --cfg-path eval_configs/video_llama_eval_withaudio.yaml --model_type llama_v2 --gpu-id 0 运行demo的时候失败了，配置是下面这样的，哪里出问题了吗？ llama_model: "/group/30155/jasoncjxcai/Video-LLaMA/Video-LLaMA-2-7B-Finetuned/llama-2-7b-chat-hf" imagebind_ckpt_path: "/group/30155/jasoncjxcai/Video-LLaMA/Video-LLaMA-2-7B-Finetuned/imagebind_huge.pth" ckpt: '/group/30155/jasoncjxcai/Video-LLaMA/Video-LLaMA-2-7B-Finetuned/VL_LLaMA_2_7B_Finetuned.pth' # you can use our pretrained ckpt from https://huggingface.co/DAMO-NLP-SG/Video-LLaMA-2-13B-Pretrained/ ckpt_2: '/group/30155/jasoncjxcai/Video-LLaMA/Video-LLaMA-2-7B-Finetuned/AL_LLaMA_2_7B_Finetuned.pth'

[hangzhang-nlp]

python demo_audiovideo.py --cfg-path eval_configs/video_llama_eval_withaudio.yaml --model_type llama_v2 --gpu-id 0 运行demo的时候失败了，配置是下面这样的，哪里出问题了吗？ llama_model: "/group/30155/jasoncjxcai/Video-LLaMA/Video-LLaMA-2-7B-Finetuned/llama-2-7b-chat-hf" imagebind_ckpt_path: "/group/30155/jasoncjxcai/Video-LLaMA/Video-LLaMA-2-7B-Finetuned/imagebind_huge.pth" ckpt: '/group/30155/jasoncjxcai/Video-LLaMA/Video-LLaMA-2-7B-Finetuned/VL_LLaMA_2_7B_Finetuned.pth' # you can use our pretrained ckpt from https://huggingface.co/DAMO-NLP-SG/Video-LLaMA-2-13B-Pretrained/ ckpt_2: '/group/30155/jasoncjxcai/Video-LLaMA/Video-LLaMA-2-7B-Finetuned/AL_LLaMA_2_7B_Finetuned.pth'

看起来是没有自动下载bert-base-uncased，应该是huggingface transformer的bug。

[Dylandtt]

[Dylandtt]

视频一直上传不上去

[flying2023]

你好，llama13B版本在推理时只能使用单张A100（或其他大显存机器），请问如果没有A100，如何使用多张例如4张v100代替？

[jqtangust]

视频传不上去能如何解决吗？

[xmy0916]

你好，llama13B版本在推理时只能使用单张A100（或其他大显存机器），请问如果没有A100，如何使用多张例如4张v100代替？

加载模型的device改成auto就可以两张v100共同部署测试了device_map = 'auto'，不过这个模型真的太重了，两个qformer，加vit加vicuna

[pzqez]

视频一直上传不上去

老哥解决了吗，我也卡在这了