lixiaoyuan1029

### Description / 描述 使用vllm部署： python -m vllm.entrypoints.openai.api_server --model /data2/MiniCPM --host 0.0.0.0 --port 10999 --max-model-len 2048 --served-model-name minicpm --trust_remote_code 用evol-scope进行并发测试： 结果很慢，100并发结果： Benchmarking summary: Time taken for tests: 384.675 seconds Expected...