Zhe Chen
Can you provide your code and environment information so that we can reproduce this problem?
建议把lmdeploy升级到0.5.1再试试看，如果还有问题，那可能是对于这类数据模型本身还有一些缺陷，我们会在之后的版本中修复。
您好，请问您要想的confidence score 具体是什么，能否提供一个例子
你好，LLM 本身通常不直接生成信心分数，但可以通过输出的概率分布（如分类任务中的 logits 或 softmax 概率）来间接估算信心。对于生成任务，可以通过采样策略（如 Top-k 或 Top-p）或不确定性估算方法来推测模型的信心水平。
您好，感谢您的反馈。能否提供更详细的报错信息？因为chat函数中是有num_patches_list这个参数的，我运行hf readme中的示例代码是可以正常运行的。 https://huggingface.co/OpenGVLab/InternVL2-26B/blob/main/modeling_internvl_chat.py#L248
您好，您的数据中是不是包含一些纯文本数据呀。在LLaVA codebase里会把纯文本数据和多模态数据分开组batch，因此不同iter之间loss会有跳变，这是正常的