模型权重问题，我看模型是由alpaca、vit、lora模型组成，但是只找到了alpaca、vit，请问lora的模型在哪里下载呀

[sixgold993]

我看模型是由alpaca、vit、lora模型组成，但是只找到了alpaca、vit，请问lora的模型在哪里下载呀

[sixgold993]

visualcla-7b-v0.1 这个是 多模态预训练和精调的Lora吗？ 也就是说vit的需要自己下载，没提供把？

[airaria]

ViT部分要自己下载； visualcla-7b-v0.1 这个权重是包含了Resampler的全部参数，以及ViT和Alpaca的lora参数

[sixgold993]

ViT部分要自己下载； visualcla-7b-v0.1 这个权重是包含了Resampler的全部参数，以及ViT和Alpaca的lora参数

好的谢谢，但是我看图上VIT参数是冻结的，这部分也会有lora参数吗

[GoGoJoestar]

ViT部分要自己下载； visualcla-7b-v0.1 这个权重是包含了Resampler的全部参数，以及ViT和Alpaca的lora参数

好的谢谢，但是我看图上VIT参数是冻结的，这部分也会有lora参数吗

是的，ViT和alpaca都是使用LoRA训练的

[sixgold993]

ViT部分要自己下载； visualcla-7b-v0.1 这个权重是包含了Resampler的全部参数，以及ViT和Alpaca的lora参数

好的谢谢，但是我看图上VIT参数是冻结的，这部分也会有lora参数吗

是的，ViT和alpaca都是使用LoRA训练的

谢谢大佬，请问后续会提供 多模态预训练和精调的脚本吗？想自己训一下，但是目前看着代码没有头绪

[airaria]

谢谢关注。因为现在还是测试版本，方案还未定型，待效果优化后会考虑放出相关训练脚本