FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

ollama部署的qwen2.5无法使用工具调用

Open fzcccc opened this issue 11 months ago • 12 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已完整查看过项目 README,以及项目文档
  • [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [x] 私有部署版本, 具体版本号: fastgpt:4.8.17 ollama:0.5.4 oneapi:0.6.7 问题描述, 日志截图,配置文件等 我使用了ollama部署qwen2.5:14b,无法正常使用工具调用,我按照官网教程通过curl向oneapi发起测试,没有报错,为什么工作流里面就没法正常调用,麻烦各位大佬帮我看看,实在不知道怎么解决了 复现步骤

预期结果

相关截图 curl测试工具调用: d51acae4009dd19e27d19c9aaf1cc4a 7d1fb6d2bcd9a162c04a8ae604106e2 配置文件: 29fb74dd8e172e198755c81426fa3e7 工作流: 1b2ef9c287693cab660e3ee54bbcfce 7ee41f250d3c769dc2420334de26af2 docker日志: 441901e2eea942e79380db3b95926a0 d49e7abe0e3ba070a4658322b010daf

fzcccc avatar Jan 07 '25 07:01 fzcccc