fastgpt接入deepseek-r1:32b 文本提取无法使用!
例行检查
- [ ] 我已确认目前没有类似 issue
- [ ] 我已完整查看过项目 README,以及项目文档
- [ ] 我使用了自己的 key,并确认我的 key 是可正常使用的
- [ ] 我理解并愿意跟进此 issue,协助测试和提供反馈
- [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭
你的版本
- [ ] 公有云版本
- [x ] 私有部署版本, 具体版本号: v4.8.21
问题描述, 日志截图,配置文件等 在旧版本中使用deepseek-r模型可以使用可以,但在新版本中使用,表示无法支持
复现步骤
预期结果
相关截图
这个DeepSeekR1模型不支持工具调用,这个文字提取应该是用AI的工具调用实现的
DeepSeek-V3试下
deepseek-r1模型本身不支持Function calling和Tools Choice。用fastgpt的Prompt可以调用,我从32B到70B都可以,另外,你可自己写个基于R1的reasoning parser,也可以实现Prompt的工具调用
@warlockedward 请问你说的prompt是什么功能,我最近也遇到了r1-32b无法读取文件的问题,fastgpt更新太快了,实在不想自己去大范围修改现有代码。能基于现有功能或新增适配器实现就最好了。
@warlockedward 请问你说的prompt是什么功能,我最近也遇到了r1-32b无法读取文件的问题,fastgpt更新太快了,实在不想自己去大范围修改现有代码。能基于现有功能或新增适配器实现就最好了。
不设置工具调用模式就可以了,可以看配置文件说明,关掉工具调用模式和函数调用模式就是 promot 模式了。