PeterMao11

Results 2 issues of PeterMao11

模型训练loss: 训练脚本:NPROC_PER_NODE=8 xtuner train llava_internlm2_chat_7b_qlora_clip_vit_large_p14_336_lora_e1_gpu8_finetune --deepspeed deepspeed_zero2 模型convert问题: 模型转换OOM: NPROC_PER_NODE=8 xtuner convert pth_to_hf $FINETUNE_CFG $PTH_PATH $SAVE_PATH 在40G-A100出现OOM情况 NPROC_PER_NODE=1 xtuner convert pth_to_hf $FINETUNE_CFG $PTH_PATH $SAVE_PATH 可以进行模型转换 mmbench-dev评测结果: ┏━━━━━━━━━━┳━━━━━━━━━━━━━━┓ ┃ Category ┃...

使用video_llama_eval.yaml和demo_video.py,配置如下: ckpt:finetune-billa7b-zh.pth llama_proj_model:pretrained_minigpt4.pth llama_model:Neutralzz/BiLLa-7B-LLM 报错如下图: