Qinger27

你好，可以问下finetune的环境配置吗？我想在自己的数据集上做微调，但是一直报错，我的机器是 V100（32G），期待您的回复！

> 具体的报错信息是？ 发自我的iPhone > […](#) > ------------------ 原始邮件 ------------------ 发件人: Qinger27 ***@***.***> 发送时间: 2024年5月6日 19:52 收件人: QwenLM/Qwen-VL ***@***.***> 抄送: wcy_scnu_nlp ***@***.***>, Comment ***@***.***> 主题: Re: [QwenLM/Qwen-VL] 请问对Qwen-VL-Chat微调所需要的”图文对“数据量大概需要多少？目前进行lora微调效果不大 (Issue #300) 你好，可以问下finetune的环境配置吗？我想在自己的数据集上做微调，但是一直报错，我的机器是...

> 我是按照他的requirement 配置的 发自我的iPhone > […](#) > ------------------ 原始邮件 ------------------ 发件人: Qinger27 ***@***.***> 发送时间: 2024年5月6日 19:52 收件人: QwenLM/Qwen-VL ***@***.***> 抄送: wcy_scnu_nlp ***@***.***>, Comment ***@***.***> 主题: Re: [QwenLM/Qwen-VL] 请问对Qwen-VL-Chat微调所需要的”图文对“数据量大概需要多少？目前进行lora微调效果不大 (Issue #300)...

> 看起来是torch版本问题？deepspeed我的是0.11版本。 发自我的iPhone > […](#) > ------------------ 原始邮件 ------------------ 发件人: Qinger27 ***@***.***> 发送时间: 2024年5月7日 11:16 收件人: QwenLM/Qwen-VL ***@***.***> 抄送: wcy_scnu_nlp ***@***.***>, Comment ***@***.***> 主题: Re: [QwenLM/Qwen-VL] 请问对Qwen-VL-Chat微调所需要的”图文对“数据量大概需要多少？目前进行lora微调效果不大 (Issue #300) 具体的报错信息是？...

> 我的torch=2.3.0 不带cu版本。请问您单gpu 会出现这个问题吗？ 发自我的iPhone > […](#) > ------------------ 原始邮件 ------------------ 发件人: Qinger27 ***@***.***> 发送时间: 2024年5月7日 11:30 收件人: QwenLM/Qwen-VL ***@***.***> 抄送: wcy_scnu_nlp ***@***.***>, Comment ***@***.***> 主题: Re: [QwenLM/Qwen-VL] 请问对Qwen-VL-Chat微调所需要的”图文对“数据量大概需要多少？目前进行lora微调效果不大 (Issue...

> 我的torch=2.3.0 不带cu版本。请问您单gpu 会出现这个问题吗？ 发自我的iPhone > […](#) > ------------------ 原始邮件 ------------------ 发件人: Qinger27 ***@***.***> 发送时间: 2024年5月7日 11:30 收件人: QwenLM/Qwen-VL ***@***.***> 抄送: wcy_scnu_nlp ***@***.***>, Comment ***@***.***> 主题: Re: [QwenLM/Qwen-VL] 请问对Qwen-VL-Chat微调所需要的”图文对“数据量大概需要多少？目前进行lora微调效果不大 (Issue...

好的好的，已经可以跑通单卡finetune啦，非常感谢～

> 检查下本地cuda和torch 的cuda对应上没有，torch 的cuda最好小于等于本地的cuda。 我的finetune是原本的代码，没有任何更改。 发自我的iPhone > […](#) > ------------------ 原始邮件 ------------------ 发件人: Qinger27 ***@***.***> 发送时间: 2024年5月7日 20:13 收件人: QwenLM/Qwen-VL ***@***.***> 抄送: wcy_scnu_nlp ***@***.***>, Comment ***@***.***> 主题: Re: [QwenLM/Qwen-VL] 请问对Qwen-VL-Chat微调所需要的”图文对“数据量大概需要多少？目前进行lora微调效果不大...

你好，想问下怎么配置 finetune 环境呀？我使用 finetune.py 时 deepspeed 不能正常使用？方便的话可以回复一下吗？谢谢大佬～

> After finetuing_lora.sh, I get some file in checkpoint >  > How can I use this checkpoint to infer or eval ? I want to use this new finetuing...