Xun Wu
Results
5
comments of
Xun Wu
同样的问题,最后内存炸了:(
> 同样的问题,最后内存炸了:( 是将vllm升级到0.7.3,verl的code更新到最新版的时候出现的,关闭了VLLM_ATTENTION_BACKEND=XFORMERS的设置
same issue, 