zotero-gpt icon indicating copy to clipboard operation
zotero-gpt copied to clipboard

Azure openapi 不支持, azure-openai-proxy 转换了也不行吗

Open geekhuashan opened this issue 1 year ago • 11 comments

这个问题是否已有issue

  • [X] 我确认没有已有issue,且已阅读常见问题

运行环境

  • OS: WIN 10
  • Zotero version: 6.0.26
  • Plugin version: 0.29

当前配置信息

image

问题详情

我利用 https://github.com/stulzq/azure-openai-proxy 这个服务,在vps上自建了将azure 的api转换成了openai的api。

在chatbox AMA 客户端中测试成功

这个插件是不支持这个功能吗

https://github.com/MuiseDestiny/zotero-gpt/issues/80 这个跟我比较类似

怎么样设置才可以呢,还是需要后期支持这种功能啊

补充说明

No response

geekhuashan avatar Jun 08 '23 16:06 geekhuashan

保证填写的api, 构成的${api}/v1/chat/completions${api}/v1/embeddings 可调用就可以。

MuiseDestiny avatar Jun 09 '23 09:06 MuiseDestiny

保证填写的api, 构成的${api}/v1/chat/completions${api}/v1/embeddings 可调用就可以。 image

自建的服务,无法调用。

微软官方的api 能否支持调用呢,有没有测试过啊,这个应该蛮多人需要的把

geekhuashan avatar Jun 09 '23 11:06 geekhuashan

你的调用方式是啥样的

MuiseDestiny avatar Jun 09 '23 11:06 MuiseDestiny

azure 我用的api endpoint 类似于https://huashanai.openai.azure.com/ 密匙用的 生成的key

自建的 api 用的 ip:8010 key 用的 azure的key

geekhuashan avatar Jun 09 '23 13:06 geekhuashan

你的调用方式是啥样的

大佬 应该怎么写这个 API 和 key啊

geekhuashan avatar Jun 09 '23 13:06 geekhuashan

我不知道具体搭建过程。只需要完全1:1实现openai的调用 传入参数和返回。api和key填入插件就能用。

现在的代理网站就是1:1实现openai的api。其实是转发。所以所有代理api key可以用于本插件。

MuiseDestiny avatar Jun 09 '23 13:06 MuiseDestiny

我不知道具体搭建过程。只需要完全1:1实现openai的调用 传入参数和返回。api和key填入插件就能用。

现在的代理网站就是1:1实现openai的api。其实是转发。所以所有代理api key可以用于本插件。

大佬 我估计 不太一样的 因为是将azure的API转换所以不太一致

geekhuashan avatar Jun 09 '23 13:06 geekhuashan

用cloudflare worker把azure api包装成openai api的形式 https://github.com/haibbo/cf-openai-azure-proxy

zawnpn avatar Jun 16 '23 02:06 zawnpn

目前最大的问题是azure api的embeddings不支持数组输入,导致getRelatedText没法使用 我把多条内容连在一起,结果经常token超长……而且AskPDF的标注功能也没法使用 作者大人有啥好办法么……?比如能不能改成切段多次调用……

yangguang760 avatar Jun 20 '23 07:06 yangguang760

目前最大的问题是azure api的embeddings不支持数组输入,导致getRelatedText没法使用 我把多条内容连在一起,结果经常token超长……而且AskPDF的标注功能也没法使用 作者大人有啥好办法么……?比如能不能改成切段多次调用……

@yangguang760 👍 看到您提交了 #189 🙏 后续会再出一个用 azure api + cloudflare 的文档吗

更新:已找到解决方案

lazyracket avatar Jul 15 '23 13:07 lazyracket

我的azure openai可用,采用了这个docker,供参考 https://soulteary.com/2024/01/09/amazing-openai-api-call-all-non-openai-models-according-to-the-openai-api.html https://github.com/soulteary/amazing-openai-api

derky1202 avatar Mar 11 '24 12:03 derky1202