FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

同一个流程编排对话,用通义千问可以提取文本,用百度和智谱的都获取不了,模型的config.json设置也一样

Open chrishjx opened this issue 1 year ago • 14 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已完整查看过项目 README,以及项目文档
  • [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [x] 私有部署版本

问题描述 同一个流程编排对话,用通义千问可以提取文本,用百度和智谱的都获取不了,模型的config.json设置也一样 复现步骤

预期结果 用百度和智谱应该也能获取 流程编程的导出脚本.txt config.json

相关截图

chrishjx avatar Mar 24 '24 15:03 chrishjx

估计得,调提示词。

c121914yu avatar Mar 25 '24 16:03 c121914yu

估计得,调提示词。

请问有没有好的建议呢,我这几天也按您的建议,调了好几回都不行,我也试过给AI模型提问,让他编一个提示词,也不行。郁闷

chrishjx avatar Mar 28 '24 05:03 chrishjx

这个东西很难说,目前来看,这些大厂的大模型更多的是对接自家业务,或者是丰富对话场景/对话角色,对于一些精细一点的指令提示词有可能就是不支持,甚至不如一些开源的模型,甚至加了很多限制,另外国内的模型不太像gpt,调提示词这件事比较难受,往上一些提示词教程不能直接应用在国内模型上,还是得默默摸索,比较鸡肋

nongmo677 avatar Mar 28 '24 09:03 nongmo677

这个提取差得离谱,用gpt几的模型都有问题,而且会出现问题中没有,但是提取出来的情况。 image

echoopen avatar Apr 03 '24 14:04 echoopen

这个提取差得离谱,用gpt几的模型都有问题,而且会出现问题中没有,但是提取出来的情况。 image

Screenshot_20240403_231501_com.android.chrome.jpg Screenshot_20240403_231549_com.android.chrome.jpg Screenshot_20240403_231709_com.android.chrome.jpg

感觉没啥问题,对单个字段提取挺准。

c121914yu avatar Apr 03 '24 15:04 c121914yu

感觉是看大模型,我用通义千问可以提取文本,用百度和智谱的都获取不了,都是付费的API。所以才郁闷。试了好久都不行。或者不知道是不是要针对不同大模型要有不同设置方式或者不同提示词

chrishjx avatar Apr 03 '24 15:04 chrishjx

感觉是看大模型,我用通义千问可以提取文本,用百度和智谱的都获取不了,都是付费的API。所以才郁闷。试了好久都不行。或者不知道是不是要针对不同大模型要有不同设置方式或者不同提示词

确实没针对提示词模式调优过,后面再看看。 你是提取的内容不对,还是说,它根本没返回 json

c121914yu avatar Apr 03 '24 15:04 c121914yu

感觉是看大模型,我用通义千问可以提取文本,用百度和智谱的都获取不了,都是付费的API。所以才郁闷。试了好久都不行。或者不知道是不是要针对不同大模型要有不同设置方式或者不同提示词

确实没针对提示词模式调优过,后面再看看。 你是提取的内容不对,还是说,它根本没返回 json

json返回空,那就是应该没提取出来。

chrishjx avatar Apr 03 '24 15:04 chrishjx

感觉是看大模型,我用通义千问可以提取文本,用百度和智谱的都获取不了,都是付费的API。所以才郁闷。试了好久都不行。或者不知道是不是要针对不同大模型要有不同设置方式或者不同提示词

确实没针对提示词模式调优过,后面再看看。 你是提取的内容不对,还是说,它根本没返回 json

json返回空,那就是应该没提取出来。

日志会有提示,如果返回不是合法格式。不合法也是返回空对象

c121914yu avatar Apr 03 '24 16:04 c121914yu

感觉是看大模型,我用通义千问可以提取文本,用百度和智谱的都获取不了,都是付费的API。所以才郁闷。试了好久都不行。或者不知道是不是要针对不同大模型要有不同设置方式或者不同提示词

确实没针对提示词模式调优过,后面再看看。 你是提取的内容不对,还是说,它根本没返回 json

json返回空,那就是应该没提取出来。

日志会有提示,如果返回不是合法格式。不合法也是返回空对象

我看界面是没有报错,fastgpt的log,如果是百度的大模型,会提示有一个无效字符,但是我找了好久也不知道是哪里。大佬帮忙看看这个报错是否有用,在哪里处理呢。日志我也导出来了,不知道会不会太大不方便看 _fastgpt_logs.txt

千问_02 千问_01 百度_402 百度_01

chrishjx avatar Apr 03 '24 16:04 chrishjx

感觉是看大模型,我用通义千问可以提取文本,用百度和智谱的都获取不了,都是付费的API。所以才郁闷。试了好久都不行。或者不知道是不是要针对不同大模型要有不同设置方式或者不同提示词

确实没针对提示词模式调优过,后面再看看。 你是提取的内容不对,还是说,它根本没返回 json

json返回空,那就是应该没提取出来。

日志会有提示,如果返回不是合法格式。不合法也是返回空对象

我看界面是没有报错,fastgpt的log,如果是百度的大模型,会提示有一个无效字符,但是我找了好久也不知道是哪里。大佬帮忙看看这个报错是否有用,在哪里处理呢。日志我也导出来了,不知道会不会太大不方便看 _fastgpt_logs.txt

千问_02 千问_01 百度_402 百度_01

就是没返回 json

c121914yu avatar Apr 04 '24 00:04 c121914yu

那就是没有提取成功了,但是我看他会报一个invalid character“ ’”,不知道是哪里出错了。

chrishjx avatar Apr 04 '24 00:04 chrishjx

那就是没有提取成功了,但是我看他会报一个invalid character“ ’”,不知道是哪里出错了。

因为没返回 json,所以解析肯定失败。

c121914yu avatar Apr 04 '24 00:04 c121914yu

image

image

我没有提取的内容,只是在枚举值中写了示例,他就提取了,提取不准确后面的流都没法做

echoopen avatar Apr 04 '24 06:04 echoopen

跟进下

goactiongo avatar Jul 05 '24 05:07 goactiongo