wyy007

### Description / 描述 测试环境说明：系统：Ubuntu 22.04.4 LTS 5.15.0-122-generic 驱动：rocm6.1.2 CPU：16核 Intel(R) Xeon(R) w5-3435X 内存：256G 4800 MT/s AMD 7900XTX FP16：123TFLOPS显存：24G显存带宽：964G（满血） ### Case Explaination / 案例解释 模型分别使用MiniCPM3-4B、MiniCPM3-4B-GPTQ-Int4、Qwen2.5-7B-Instruct-GPTQ-Int8，模型启动命令如下： MiniCPM3-4B：HIP_VISIBLE_DEVICES=1 python3 -m sglang.launch_server --model-path...