one-api icon indicating copy to clipboard operation
one-api copied to clipboard

使用GPT-4-1106-Preview、GPT-35-Turbo-1106时报错

Open C-Dragon8 opened this issue 2 years ago • 20 comments

例行检查

  • [√] 我已确认目前没有类似 issue
  • [√ ] 我已确认我已升级到最新版本
  • [√ ] 我已完整查看过项目 README,尤其是常见问题部分
  • [√ ] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [√ ] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述 Azure OpenAI,在不同区域(US、UK、CA)部署了GPT-4-1106-Preview、GPT-35-Turbo-1106模型,添加至one-api渠道中可以测试通过,但通过ChatGPT Next使用时聊天框弹出错误信息。 不同区域(US、UK、CA)部署的GPT-4、GPT-3.5以往版本都能正常使用。

错误信息: { "error": { "message": "The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again. (request id: )", "type": "", "param": "", "code": "DeploymentNotFound" } }

相关截图 image

C-Dragon8 avatar Nov 29 '23 02:11 C-Dragon8

你deployname 咋写的?

渠道配置你的默认 API 版本 是怎么写的, 我1106 也是提示500

ivanberry avatar Nov 29 '23 13:11 ivanberry

你deployname 咋写的?

渠道配置你的默认 API 版本 是怎么写的, 我1106 也是提示500

我空着没填,我看默认获取的应该是2023-06-01-Preview,不懂

C-Dragon8 avatar Nov 29 '23 13:11 C-Dragon8

你搞定azure gpt4 1106模型的使用了吗?

ivanberry avatar Dec 06 '23 02:12 ivanberry

我同样有这样问题,就是回答吐字后,就报错了,模型是gpt4 1106 azure

xjune123 avatar Dec 07 '23 05:12 xjune123

我还没解决这个问题,等待作者答复吧

C-Dragon8 avatar Dec 07 '23 07:12 C-Dragon8

API 版本改成2023-12-01-Preview

mkdirmushroom avatar Dec 11 '23 01:12 mkdirmushroom

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } }

各位兄弟有遇到吗?

C-Dragon8 avatar Dec 12 '23 06:12 C-Dragon8

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } }

各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

mkdirmushroom avatar Dec 12 '23 07:12 mkdirmushroom

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image

one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

C-Dragon8 avatar Dec 12 '23 08:12 C-Dragon8

one-api里面,名称填gpt4,重定向写{"gpt-4": "gpt4"},我给fastgpt能用

listeng avatar Dec 12 '23 08:12 listeng

one-api里面,名称填gpt4,重定向写{"gpt-4": "gpt4"},我给fastgpt能用

我按您的方法试了下,扔报如下错误: { "error": { "message": "The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again. (request id: )", "type": "", "param": "", "code": "DeploymentNotFound" } }

C-Dragon8 avatar Dec 12 '23 09:12 C-Dragon8

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image

one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

你的部署名称错了,若要匹配 one-api,模型版本为 1106 的3.5名称应该为gpt-35-turbo-1106,gpt4同理

mkdirmushroom avatar Dec 12 '23 10:12 mkdirmushroom

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image

one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看,前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型,gpt-4 也是同理。

mkdirmushroom avatar Dec 12 '23 10:12 mkdirmushroom

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。 前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看,前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型,gpt-4 也是同理。

感谢您的解答。

如果我直接选择gpt-3.5-turbo或gpt-4,没有报错,我问了GPT“你有2023年的数据吗”类似的问题,GPT回答数据截止到2021年9月。这是有问题的。

我在one-api里面设置的API版本是2023-12-01-preview

C-Dragon8 avatar Dec 12 '23 13:12 C-Dragon8

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。 前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看,前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型,gpt-4 也是同理。

感谢您的解答。

如果我直接选择gpt-3.5-turbo或gpt-4,没有报错,我问了GPT“你有2023年的数据吗”类似的问题,GPT回答数据截止到2021年9月。这是有问题的。

我在one-api里面设置的API版本是2023-12-01-preview

作为测试,你可以在 one-api 只留一个 gpt-4,因为只有gpt-4-1106-preview才有 23 年4 月之前的数据。 你可以用如下 prompt 测试,这在我这边是可以的:“你的数据截止到什么时候?” 如果还是不行,建议你将部署名称修改为gpt-4-1106-preview,one-api勾选此模型。

mkdirmushroom avatar Dec 13 '23 01:12 mkdirmushroom

mkdirmushroom

好的,多谢大佬!

C-Dragon8 avatar Dec 13 '23 01:12 C-Dragon8

解决了吗?我也是调用azure openai api 报错code 404 one-api设置 image image 调用one-api代码 image azure上的部署名称 image 用openai的库调用是可以的 image

eyangs avatar Jan 04 '24 08:01 eyangs

I encountered the same problem, spent half a day without solving it. Personally, I think that one-api has some blind spots that users encounter in the process of converting from the openai interface format to the azure api format. Is it possible to add a product design like opencat that directly obtains the model that has been opened and set up by Azure and automatically fills it in?

hansedong avatar Jan 15 '24 06:01 hansedong

折腾来半天终于搞好了

image image image

只能通过【模型重定向】配置来处理了。

ivanberry avatar Mar 09 '24 08:03 ivanberry

重定向的前提是两个模型都在上面有选择,这点很重要,之前一直不成功

vary avatar Mar 22 '24 15:03 vary