GLM-4-9B-0414 通过vllm serve启动工具调用失败

[Roboterh]

System Info / 系統信息

None

Who can help? / 谁可以帮助到您？

No response

Information / 问题信息

• [x] The official example scripts / 官方的示例脚本
• [ ] My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

在使用

vllm serve xxx/ZhipuAI/GLM-4-9B-0414/ --tensor_parallel_size 2 --dtype=half  --served-model-name "glm-4"

进行模型的启动，能够成功启动，但是在运行langgraph项目时工具调用失败 后续通过查阅资料以及翻阅issue，启动更改为

vllm serve xxx/ZhipuAI/GLM-4-9B-0414/ --tensor_parallel_size 2 --dtype=half  --served-model-name "glm-4" --enable-auto-tool-choice --tool-call-parser pythonic

仍不能够成功调用工具

Expected behavior / 期待表现

还需要进行额外的参数添加或者更改，才能够类似glm-4-9b-chat模型一样进行正常的工具调用吗

[sixsixcoder]

这个应该是vllm的问题，你可以在vllm仓库询问，如果是glm的问题，我们会跟踪这个问题并在vllm仓库提交pr解决

[Roboterh]

翻了下issues，了解到vllm已存在有类似的issue，看情况是暂未解决该问题 https://github.com/vllm-project/vllm/issues/16771 @sixsixcoder