Error code: 404 - {'object': 'error', 'message': 'The model `/dev/shm/glm-4-9b-chat/` does not exist.', 'type': 'NotFoundError', 'param': None, 'code': 404}

[guanzy2012]

按照教程改了路径和config，但是啊起vllm服务报错

[bys0318]

请参考这个文档：https://docs.vllm.ai/en/latest/getting_started/quickstart.html 确保部署服务时的模型路径和调用时的模型名称一致。