sylaryrf
Results
1
comments of
sylaryrf
> > > 我发现问题的根源： > > > 使用 vLLM 时，会调用继承自 Base 类的 OpenAI_APIChat 下的 chat 方法。chat 方法使用 OpenAI 客户端调用 vLLM 服务器的接口。但最终发送的请求缺少 /v1 路径。无论我是否将 /v1 附加到 base_url，它都不起作用。我不明白为什么。 > > > ```...