gemini-openai-proxy
gemini-openai-proxy copied to clipboard
ChatGPT 客户端支持情况和问题反馈
实测支持以下客户端(更多客户端欢迎补充):
在nextweb中消息会被截断,我是用oneapi转发的= =
在nextweb中消息会被截断,我是用oneapi转发的= =
我刚刚试了一下,没有发现这个问题
在nextweb中消息会被截断,我是用oneapi转发的= =
请问一下oneapi中如何设置呢? 我设置上都会报错
我在這個擴充套件上使用 https://harpa.ai
似乎一些包含代码的处理中,似乎是换行符\n没有没正确处理。这个问题在chatgpt-web中可以随机复现,还不清楚是不是接口转换导致的
应该加上embedding模型的相关内容,否则在flowise中无法使用。
lobe-chat可以使用oneapi转发的接口
反馈一个uTools的插件---ChatGPT.好友,能够使用,但是有两个问题。deno文件部署的
首先,输出回答的时候,插件是在内容全部生成完了,然后一次输出的。因为ChatGPT.好友是兼容OpenAI的流式输出的,所以是不是转写的时候格式和OpenAI的不一样。因为另外一个客户端ChatGPT Next Web它自己就支持Gemini,我看它的流式是正常的。它的请求是这样的:POST /v1beta/models/gemini-1.5-pro:streamGenerateContent?key=
第二个问题,回答里面会夹着特殊字符,我在ChatGPT Next Web也重复试了同一个问题,没有出现。
@manjieqi 感谢反馈。
第一个问题,为了适配function call, 目前gemini调用的是不是流式借口,中间转发的时候适配了 openai 的流式相应格式, 所以客户端可以以流式的调用方式获得相应,只是会最终一起得到结果,暂时没有修改的计划。
第二个问题, 目前我没有复现这个问题,可能gemini响应本身就是乱码的。
对编程不是很懂啊,我理解function call就是在请求体里面加了字段,客户端请求里面没有相关字段,转换格式的时候也会另外设置吧,这样这部分不是可以使用gemini流式?
实测支持以下客户端(更多客户端欢迎补充):
aichat要怎样配置? 我的配置如下:
model: Google clients:
- type: openai-compatible
name: Google
api_base: xxx
api_key: xxx
models:
- name: gpt-4-turbo
其中xxx处删除了真实地址和key,但报错:
Error: Failed to call chat-completions api
Caused by: Invalid response data: Page Not Found (status: 404)
在NextChat中可以正常使用
@skywk 可以这样配置
- #
name: deno.dev-gemini-openai-proxy
type: openai-compatible
api_base: https://gemini-openai-proxy.deno.dev/v1
api_key: xxxxxxx
models:
- name: gpt-3.5-turbo
- name: gpt-4
- name: gpt-4o
- name: gemini-1.5-flash
- name: gemini-2.0-flash