dblab0
dblab0
这个问题在1.4.0python版本里面也有
用vllm推理,服务里默认有10个worker
>  单卡4060ti 16g为啥比你的2080Ti差那么多,我这个时间是正常的吗 我的4060Ti 16G 64batch,一个epoch678min,之前试32batch也是这样。应该就是算力差了比较多