请问internvl2还会单独发布VIT和LLM部分吗

[Gav1n-is-here]

Motivation

如果想要尝试已有版本不存在的组合如较小规模的LLM搭配更大的VIT改如何呢？

Related resources

No response

Additional context

No response

[qishisuren123]

我不确定我理解对了您的问题，如果您是要改变模型语言或视觉部分的模型的话您需要修改https://github.com/OpenGVLab/InternVL/blob/main/internvl_chat/internvl/model/internvl_chat/modeling_internvl_chat.py#L46和相关配置代码

[czczup]

感谢提问，InternVL2用的ViT还是InternVL1.5的ViT，就是这个： https://huggingface.co/OpenGVLab/InternViT-6B-448px-V1-5

我们在InternVL2这个版本中没有对ViT做额外的增量预训练。

[ccl-private]

后续训练InternViT-6B-448px-V1-5权重也是冻结的吗

[Gav1n-is-here]

我不确定我理解对了您的问题，如果您是要改变模型语言或视觉部分的模型的话您需要修改https://github.com/OpenGVLab/InternVL/blob/main/internvl_chat/internvl/model/internvl_chat/modeling_internvl_chat.py#L46和相关配置代码

谢谢你！

[Gav1n-is-here]

感谢提问，InternVL2用的ViT还是InternVL1.5的ViT，就是这个： https://huggingface.co/OpenGVLab/InternViT-6B-448px-V1-5

我们在InternVL2这个版本中没有对ViT做额外的增量预训练。

谢谢你的解答！

[awakenlee180]

感谢提问，InternVL2用的ViT还是InternVL1.5的ViT，就是这个： https://huggingface.co/OpenGVLab/InternViT-6B-448px-V1-5 我们在InternVL2这个版本中没有对ViT做额外的增量预训练。

谢谢你的解答！

请问有预训练vit部分的代码嘛