mingming

 连续几个标题的情况下，在网站上会放到一行 

cuda版本

6

请问cuda11.8支持么？ 安装requirements.txt之后会报错 

如何开启视觉模块微调？

1

请问视觉模块的参数默认是开启微调的么? 没有看到相关的参数

微调minicpm-v-v2_6-chat报错

1

微调minicpm-v-v2_6-chat出现报错: File "/usr/local/lib/python3.10/dist-packages/torch/_tensor.py", line 491, in backward torch.autograd.backward( File "/usr/local/lib/python3.10/dist-packages/torch/autograd/__init__.py", line 251, in backward Variable._execution_engine.run_backward( # Calls into the C++ engine to run the backward pass RuntimeError: element 0 of...

Hi： 请问设置num_images_expected=48 max_packed_tokens=32000时 实际的seqence length差不多是16k 可以正常跑，但是我设置num_images_expected=100 max_packed_tokens=32000时，就跑不起来（显存溢出），显存是8 * 8 * 80G, 原理上应该可以跑吧（文本的可以跑起来), 请问要支持32k代码里需要改什么地方么？ 谢谢