Luccadoremi

Results 3 issues of Luccadoremi

发现单独多模态数据 或者 纯文本数据fintune就不会有问题 但如果混合纯文本指令数据和多模态指令数据一起训练,会卡住。处理数据的逻辑可能有问题?

Qwen-VL-Chat-Int4只有lora和qlora的fintune 脚本,请问可以full finetune吗?

question

使用以下命令对qwen_vl_chat多模态模型量化失败,请问目前支持多模态模型的量化吗? ############################## CUDA_VISIBLE_DEVICES=6 swift export \ --model_type qwen-vl-chat \ --quant_bits 4 \ --dataset coco-en-mini \ --quant_method gptq \ --quant_output_dir output/quant ############################# 报错信息 ############################ Traceback (most recent call last): File "/miniconda/lib/python3.9/site-packages/swift/cli/export.py",...

enhancement