zzb

Results 2 comments of zzb

I've met the same issue using "CUDA_EXT=1 pip install",

hi, 请问大家. 在跑 benckmark 时, 有啥好办法安装 vllm 使得 vllm 的相关依赖不影响到 lightllm 吗