Yuxi-Know icon indicating copy to clipboard operation
Yuxi-Know copied to clipboard

Error: 自定义供应商(Xinference/sgLang)的模型不能进行工具调用

Open doit-5618 opened this issue 5 days ago • 5 comments

1️⃣ 描述一下问题

目前采用3个模型供应商api: 云:硅基流动 本地:Xinference、sglang 其中,硅基流动的模型,均可以进行工具调用,且询问可以使用哪些工具也会将已经配置的工具list进行输出。但是本地部署的模型在询问相同问题,不能显示已经配置的工具list。 本地部署模型均支持工具调用。

以下对话,我只配置了一个计算器工具。 硅基流动、sglang:(硅基流动的功能正常。sglang不能识别到配置的工具。) Image Xinference:(能识别到配置的工具,但不能调用。只会输出Schema) Image

doit-5618 avatar Dec 22 '25 03:12 doit-5618