GLM-4 icon indicating copy to clipboard operation
GLM-4 copied to clipboard

GLM4V-9B微调完成后,如何调用模型,输入一张图像进行对话

Open tw-repository opened this issue 5 months ago • 4 comments

System Info / 系統信息

GLM4V-9B微调完成后,使用以下命令 CUDA_VISIBLE_DEVICES=0 swift export
--ckpt_dir output/glm4v-9b-chat/vx-xxx/checkpoint-xxx
--merge_lora true

CUDA_VISIBLE_DEVICES=0 swift infer
--ckpt_dir output/glm4v-9b-chat/vx-xxx/checkpoint-xxx-merged
--load_dataset_config true

得到了一个checkpoint-xxx-merged文件夹。 文件夹中内容如图: 微信图片_20240830231518

如何使用这个文件夹中的模型?

Who can help? / 谁可以帮助到您?

No response

Information / 问题信息

  • [X] The official example scripts / 官方的示例脚本
  • [ ] My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

GLM4V-9B微调完成后,使用以下命令 CUDA_VISIBLE_DEVICES=0 swift export
--ckpt_dir output/glm4v-9b-chat/vx-xxx/checkpoint-xxx
--merge_lora true

CUDA_VISIBLE_DEVICES=0 swift infer
--ckpt_dir output/glm4v-9b-chat/vx-xxx/checkpoint-xxx-merged
--load_dataset_config true

得到了一个checkpoint-xxx-merged文件夹。

Expected behavior / 期待表现

能够调用微调后的模型实现单张图像的对话。

tw-repository avatar Aug 30 '24 15:08 tw-repository