swift 量化多模态大模型internvl2-26B,报错
Describe the bug What the bug is, and how to reproduce, better with screenshots(描述bug以及复现过程,最好有截图)
TypeError: swift.llm.utils.model.get_model_tokenizer_from_repo() got multiple values for keyword argument 'automodel_class'
Your hardware and system info Write your system info like CUDA version/system/GPU/torch version here(在这里给出硬件信息和系统信息,如CUDA版本,系统,GPU型号和torch版本等) swift==2.2.3 torch=2.2.2+cu121 GPU:L20 系统:Ubuntu 22.04.4 LTS Additional context Add any other context about the problem here(在这里补充其他信息)
代码行数对不上,能否拉下最新的main分支试一下是否报错
多模态量化 还没有支持
可以稍等1周吗
可以稍等1周吗
好的 期待!
可以稍等1周吗
请问现在支持了吗
请问在v2.4会支持吗?
可能还要稍等等
可能还要稍等等
请问近期会支持吗
supported
gptq