GuanXuzeng

Results 7 comments of GuanXuzeng

我感觉是单服务器连接数被限制在16的原因,速度基本固定在1.6MB/s以下,想知道作者下一个版本能不能去掉这个限制或者拉高?

So long this issue came out! Now I got the same one! 🥲

> > 只会输出10个推理结果 这个原因是需要设置一下 val_dataset_sample 参数 设置为-1 > > val_dataset_sample参数好像并没有找到可以修改的地方 我使用的命令是 `CUDA_VISIBLE_DEVICES=1 swift infer --ckpt_dir checkpoint-XXX --val_dataset_sample -1 --custom_val_dataset_path XXX` 可以单独输入测试集进行推理。 不过有一个问题是`val_dataset_sample`这个参数设置为-1时,我在进行测试推理的条目数量从实际的1500条变为了3000条,每一条推理两次正好翻倍,不清楚这是什么问题。现在我直接指定数量为1500条,就没重复推理的情况

I checked my `$CUDA_HOME`, there was an extra `:` at the beginning, then I deleted it in the path, everything is fine now!

@jantonguirao Thanks for your code example! First I tested on CPU, and the code showed stable but poor performance in my test for using a batch size of 16 to...

期待早日加入音频大模型的训练和微调,cosyvoice一类的