如何把internvl的语言模型底座更换为qwen3-8b？

Open NormanWhc opened this issue 4 months ago • 5 comments

如题

Aug 20 '25 07:08 NormanWhc

兄弟进展如何了？

Aug 24 '25 15:08 tangsong-CMD

兄弟进展如何了？

能正常更换，但是更换之后语言模块好像无法识别图片，不知道为什么

Aug 25 '25 03:08 NormanWhc

请问是怎么更换的

Aug 25 '25 09:08 ll-mmm

能正常更换，但是更换之后语言模块好像无法识别图片，不知道为什么

@NormanWhc 更换完LLM后ViT和LLM是不适配的，需要做完整流程的VL训练，包括pretrain（模态对齐、视觉知识注入）、sft（指令遵循等）

Aug 26 '25 03:08 bobo0810

同问怎么更换，以及重新训练的流程有教程吗

Sep 29 '25 11:09 YiJunSachs