ARES3366
ARES3366
你好,能分享下数据集吗?[email protected]
https://github.com/GoodDayUp/DataSet数据集上传到这了,需要的自取 这个地址的数据集标注的方式不同,地址类型也不同,并且还没有vic.txt、view_mpld_dys_cs_nj_184.csv文件
User:你好 Error: cublas error. Aborted (core dumped) 直接报错,这是因为啥呢,cuda117环境
请教下,你用的是vllm0.5.4 吗,我跑不通,vllm不支持bitsandbytes量化类型。Unknown quantization method: bitsandbytes. Must be one of ['awq', 'gptq', 'squeezellm', 'marlin']。 > 我和你遇到了一样的问题,我发现是torch版本的问题,原来我环境里安装的是2.1.0的torch, 重新安装2.1.2就好了