[Bug] 推理重复

[time1527]

Checklist

• [x] 1. I have searched related issues but cannot get the expected help.
• [ ] 2. The bug has not been fixed in the latest version.
• [ ] 3. Please note that if the bug-related issue you submitted lacks corresponding environment info and a minimal reproducible demo, it will be challenging for us to reproduce and resolve the issue, reducing the likelihood of receiving feedback.

Describe the bug

您好，感谢internvl模型及相关代码开源，该系列1B和2B如此精小的模型也能满足基本推理要求。

我尝试使用自己的数据lora微调internvl2.5_1B，在比较微调结果时发现原模型会一直输出，重复。少量数据微调后的模型不会出现这种情况。目前在issues里能搜索到的关于“重复”问题多是关于internvl2/1.5。

我比较了.cache下的文件夹与 https://huggingface.co/OpenGVLab/InternVL2_5-1B/tree/main ，没有缺少文件。想请教下，这种情况出现的可能原因。

Reproduction

https://github.com/time1527/Pic2Post/blob/main/test.ipynb

Environment

same as internvl_chat

Error traceback

[yuecao0119]

你好，

lora微调之后需要进行权重合并，请确定您是否已进行。

[time1527]

你好，

lora微调之后需要进行权重合并，请确定您是否已进行。

确认合并。推理重复是出现在了原模型上，微调后的模型没有出现重复。我想了解下原模型推理重复的可能原因，以及，微调是能够[缓解/解决]这种问题吗（我个人觉得不大可能吧）

原模型：

微调后：

[AKCqhzdy]

3.5也有这种情况，有解决/缓解的方法吗