FastGPT
FastGPT copied to clipboard
如果mcp的方法里没有参数,生成的tool_calls结构是不是有问题?
{ "role": "assistant", "tool_calls": [ { "id": "lWboz3miPJPtjP1s", "type": "function", "function": { "name": "zr6OUfHvsjgEwsS6", "arguments": "" } } ] } 例如会生成这样的内容,arguments的值是"",在传给vllm时会产生解析错误。如果是 arguments: "{}" 就正常
是vllm的流式的工具调用解析结果有问题 你可以去vllm那边看下解决方法