FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

fastgpt接入deepseek-r1:32b 文本提取无法使用!

Open 584731180 opened this issue 10 months ago • 4 comments

例行检查

  • [ ] 我已确认目前没有类似 issue
  • [ ] 我已完整查看过项目 README,以及项目文档
  • [ ] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [ ] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [x ] 私有部署版本, 具体版本号: v4.8.21

问题描述, 日志截图,配置文件等 在旧版本中使用deepseek-r模型可以使用可以,但在新版本中使用,表示无法支持

Image

复现步骤

预期结果

相关截图

584731180 avatar Feb 14 '25 08:02 584731180

这个DeepSeekR1模型不支持工具调用,这个文字提取应该是用AI的工具调用实现的

wuchubuzai2018 avatar Feb 14 '25 14:02 wuchubuzai2018

DeepSeek-V3试下

zaite avatar Feb 19 '25 02:02 zaite

deepseek-r1模型本身不支持Function calling和Tools Choice。用fastgpt的Prompt可以调用,我从32B到70B都可以,另外,你可自己写个基于R1的reasoning parser,也可以实现Prompt的工具调用

warlockedward avatar Feb 21 '25 05:02 warlockedward

@warlockedward 请问你说的prompt是什么功能,我最近也遇到了r1-32b无法读取文件的问题,fastgpt更新太快了,实在不想自己去大范围修改现有代码。能基于现有功能或新增适配器实现就最好了。

caizhenghao avatar Feb 23 '25 16:02 caizhenghao

@warlockedward 请问你说的prompt是什么功能,我最近也遇到了r1-32b无法读取文件的问题,fastgpt更新太快了,实在不想自己去大范围修改现有代码。能基于现有功能或新增适配器实现就最好了。

不设置工具调用模式就可以了,可以看配置文件说明,关掉工具调用模式和函数调用模式就是 promot 模式了。

c121914yu avatar Feb 24 '25 14:02 c121914yu