weweliang

文档中MOE的启动参数无法启动

3

CUDA_VISIBLE_DEVICES=0 python -m fastchat.serve.cli \ --model_path {path_to_checkpoint} \ # 模型路径 --model_base {path_to_base_model} \ # 基座模型路径 --max-new-token 3072 # 输出最大长度 错误提示： usage: cli.py [-h] [--model-path MODEL_PATH] [--revision REVISION] [--device {cpu,cuda,mps,xpu,npu}] [--gpus...