one-api icon indicating copy to clipboard operation
one-api copied to clipboard

智谱接口GLM4修改请求。

Open kuziTony opened this issue 5 months ago • 5 comments

例行检查

  • [x] 我已确认目前没有类似 issue
  • [x] 我已确认我已升级到最新版本
  • [x] 我已完整查看过项目 README,已确定现有版本无法满足需求
  • [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

功能描述

智谱接口更新于2024年1月20日更新后,增加字段,do_sample,此字段的默认值是false,对应的Temperature和top_p传入会报错。请求按照新接口修改,顺带也可以将版本从v3改到v4

应用场景

kuziTony avatar Jan 20 '24 06:01 kuziTony

我晕,排查了半天不知道问题出再哪了,官方换接口这么随意的吗

realreus319 avatar Jan 20 '24 07:01 realreus319

这个top_p的问题核心在于数值,你是不是用的nextchat这个客户端做的测试?智谱这个参数最大值不能为1,而nextchat默认是1,这会导致不能用,手动改成1以下我这就已经能用了。

另外这个v3的endpoint虽然可以调用v4的glm4,但是我测试了一早上,发现效果确实是时好时坏,可能官方做了一定的重定向,但还是有问题。 有时用可以达到app的效果;有时却很差劲,甚至会说自己是openai发明的、鲁迅周树人问题回答错误(可能是没重定向过去,用了老模型来回答)

bbb3n avatar Jan 20 '24 08:01 bbb3n

这个top_p的问题核心在于数值,你是不是用的nextchat这个客户端做的测试?智谱这个参数最大值不能为1,而nextchat默认是1,这会导致不能用,手动改成1以下我这就已经能用了。

另外这个v3的endpoint虽然可以调用v4的glm4,但是我测试了一早上,发现效果确实是时好时坏,可能官方做了一定的重定向,但还是有问题。 有时用可以达到app的效果;有时却很差劲,甚至会说自己是openai发明的、鲁迅周树人问题回答错误(可能是没重定向过去,用了老模型来回答)

感谢,刚刚测试了一下又好了,不过确定的是官方应该有修改的。我昨天使用的时候在同等配置的情况下是正常的。今天图片报了一个top_p的错误。猜测可能是v3和v4的借口切换导致。

kuziTony avatar Jan 20 '24 09:01 kuziTony

这个top_p的问题核心在于数值,你是不是用的nextchat这个客户端做的测试?智谱这个参数最大值不能为1,而nextchat默认是1,这会导致不能用,手动改成1以下我这就已经能用了。 另外这个v3的endpoint虽然可以调用v4的glm4,但是我测试了一早上,发现效果确实是时好时坏,可能官方做了一定的重定向,但还是有问题。 有时用可以达到app的效果;有时却很差劲,甚至会说自己是openai发明的、鲁迅周树人问题回答错误(可能是没重定向过去,用了老模型来回答)

感谢,刚刚测试了一下又好了,不过确定的是官方应该有修改的。我昨天使用的时候在同等配置的情况下是正常的。今天图片报了一个top_p的错误。猜测可能是v3和v4的借口切换导致。

应该是官方改了,我前天确实也能直接用,top_p默认1,昨天突然有朋友说用不了我才排查了一下是这个参数的问题。(md,之前也没仔细看文档,不知道是不是昨天还是什么时候才改的)。 不过这个endpoint确实希望作者能早点改啊

bbb3n avatar Jan 21 '24 01:01 bbb3n

期望直接有个参数重定向功能,可以替换max_tokens\top_p这样的参数

qy8502 avatar Jan 26 '24 03:01 qy8502