WeClone icon indicating copy to clipboard operation
WeClone copied to clipboard

Safetensors 文件加载进度缓慢 & FlashInfer 不可用警告

Open Evring opened this issue 7 months ago • 9 comments

Image

按照步骤执行的,那个flash按照uv命令也安装了,但为什么还是说没安装呢

Evring avatar May 14 '25 10:05 Evring

Image 已经启用了吧

xming521 avatar May 15 '25 00:05 xming521

Image 已经启用了吧

下面还有个FlashInfer is not available

Evring avatar May 15 '25 01:05 Evring

Image

我主要的问题是这个,运行weclone-cli make-dataset 后报的这个错,不知道怎么解决

Evring avatar May 15 '25 01:05 Evring

vllm装的哪个版本 用的默认模型吗, 可以试一下配置里的enable_clean设为false,不清洗数据集

xming521 avatar May 15 '25 01:05 xming521

vllm装的哪个版本 用的默认模型吗, 可以试一下配置里的enable_clean设为false,不清洗数据集

vllm 是什么呢?就是按照教程安装的,执行的下面这个命令 git lfs install git clone https://www.modelscope.cn/Qwen/Qwen2.5-7B-Instruct.git

我把enable_clean设置一下,再试试

Evring avatar May 15 '25 01:05 Evring

vllm装的哪个版本 用的默认模型吗, 可以试一下配置里的enable_clean设为false,不清洗数据集

设置为flase后应该可以了。

Image

Evring avatar May 15 '25 01:05 Evring

Image

执行单卡训练命令 weclone-cli train-sft 这个又失败了~

Evring avatar May 15 '25 01:05 Evring

模型没下载完整

xming521 avatar May 15 '25 01:05 xming521

模型没下载完整

嗯嗯,好的,多谢大佬,确实,总共12个G,之前好像是没下完就断了

Evring avatar May 15 '25 02:05 Evring