Qinger27

加载模型做finetune报错alueError: Target modules ['self_attn.q_proj', 'self_attn.k_proj', 'self_attn.v_proj', 'self_attn.o_proj', 'mlp.gate_proj', 'mlp.down_proj', 'mlp.up_proj'] not found in the base model. Please check the target modules and try again.

6

ValueError: Target modules ['self_attn.q_proj', 'self_attn.k_proj', 'self_attn.v_proj', 'self_attn.o_proj', 'mlp.gate_proj', 'mlp.down_proj', 'mlp.up_proj'] not found in the base model. Please check the target modules and try again. 请问有人遇到过这个问题吗？要怎么解决呢？

请问有在 V100-32G 的GPU上进行测试的finetune的脚本吗？

1

V100 不支持 flash-attn，想问下有没有不通过 flash-attn的脚本呢？以及用 internvl-v1.5 进行测试时，使用8卡还是报错 OOM的问题，请问怎么解决？迫切期待您的回复～

RuntimeError: "_amp_foreach_non_finite_check_and_unscale_cuda" not implemented for 'BFloat16'

1

### 是否已有关于该错误的issue或讨论？ | Is there an existing issue / discussion for this? - [X] 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions ### 该问题是否在FAQ中有解答？ | Is there an...

推理多张图片时报错 IndexError: list index out of range

1

我想在一个脚本中测试多个image，但是只有第一张图片可以正常获得推理结果，测试第二张时就会出现下面的问题： cur_image_features = image_features[cur_image_idx] IndexError: list index out of range 可以帮忙看一下吗？感谢！

训练时报错AttributeError: 'DeepSpeedCPUAdam' object has no attribute 'ds_opt_adam'

5

下面是报错信息，可以帮我看看吗？ ninja: build stopped: subcommand failed. Traceback (most recent call last): File "/dockerdata/graceqwang/videollava/lib/python3.10/site-packages/torch/utils/cpp_extension.py", line 1893, in _run_ninja_build subprocess.run( File "/dockerdata/graceqwang/videollava/lib/python3.10/subprocess.py", line 526, in run raise CalledProcessError(retcode, process.args, subprocess.CalledProcessError: Command '['ninja',...

请问两张32g v100运行 finetune.sh 报错OOM怎么办？

2

你好！谢谢你们开源了这么棒的项目！ 我在2张32g的v100卡上使用finetune.sh脚本基于自己的数据集训练时报错，而且貌似第二张卡没有用起来： 训练配置如下： 可以帮忙看一下吗？非常感谢🙏

多卡训练报错：ImportError: /root/.cache/torch_extensions/py38_cu118/fused_adam/fused_adam.so: cannot open shared object file: No such file or directory

1

使用多卡训练的时候，会报错 ImportError: /root/.cache/torch_extensions/py38_cu118/fused_adam/fused_adam.so: cannot open shared object file: No such file or directory，通过多种方式重新安装了 deepspeed 仍然报错，有人可以帮忙解决一下吗？

在Docker镜像中运行automatic_label_simple_demo.py报错ModuleNotFoundError: No module named 'ram'

4

在Docker镜像中运行automatic_label_simple_demo.py报错ModuleNotFoundError: No module named 'ram'，请问有同学遇到过同样的问题吗？这个ram是可以pip安装的吗？还是要自己在github里git clone的项目呀？ 期待热心人的解答～

使用hunyuan captioner推理报错

2

感谢开源非常棒的工作！ 希望用你们的hunyuan captioner进行推理，但是报错如下： RuntimeError: CUDA error: CUBLAS_STATUS_INVALID_VALUE when calling `cublasGemmStridedBatchedExFix( handle, opa, opb, m, n, k, (void*)(&falpha), a, CUDA_R_16F, lda, stridea, b, CUDA_R_16F, ldb, strideb, (void*)(&fbeta), c, CUDA_R_16F, ldc, stridec,...

Loss is nan, stopping training

2

使用自己的数据集训练，报错 Loss is nan, stopping training