gongjl123
Results
3
comments of
gongjl123
我也遇到了这个问题 最后怎么解决的啊 大哥 python -m vllm.entrypoints.openai.api_server --model /home/fitech/qianwen2.5/qianwen2.5-14b-int4/qianwen2.5-14b-int4 --trust-remote-code --served-model-name Qwen2.5-14B-Instruct-GPTQ-INT4 --gpu-memory-utilization 0.6 --max-model-len=2048 --port 8788
你好 这个标题怎么加上去的呢
你好 为什么我的结果重排是false