SunLang115

运行失败

8

(swift) [sunkaijie@localhost swift]$ CUDA_VISIBLE_DEVICES=0 swift infer --model_type llava1d6-mistral-7b-instruct run sh: `python /home/sunkaijie/project/swift/swift/cli/infer.py --model_type llava1d6-mistral-7b-instruct` 2024-04-22 08:11:33,587 - modelscope - INFO - PyTorch version 2.2.2 Found. 2024-04-22 08:11:33,588 - modelscope -...

在自定义数据集上微调多模态大模型

7

请问：在cli上运行时，如何使用自定义的数据集； 例如：微调MiniCPM-V时候，找不到对应的sft.sh，只找到了minicpm_2b_sft_chat和minicpm_moe_8x2b；然而利用cli： **# Experimental environment: A10, 3090, V100, ... **# 10GB GPU memory** CUDA_VISIBLE_DEVICES=0 swift sft \ --model_type minicpm-v-3b-chat \ --dataset coco-mini-en-2 \** 是否需要修改--dataset？ 还是怎么做，我找不到相关方法，能否提供更加易懂和全面的信息及方法。

chatglm的api接口调用不适配

1

glm模型下载到本地，根据官方的api填写模型位置之后，在custom_llm.py中的_call方法里切换地址后无效