gemini-openai-proxy icon indicating copy to clipboard operation
gemini-openai-proxy copied to clipboard

ChatGPT 客户端支持情况和问题反馈

Open zuisong opened this issue 1 year ago • 11 comments

实测支持以下客户端(更多客户端欢迎补充):

  • [x] https://github.com/sigoden/aichat
  • [x] https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web
  • [x] https://github.com/josStorer/chatGPTBox
  • [x] gitlens 自动生成提交信息
  • [x] chatx

zuisong avatar Jan 24 '24 07:01 zuisong

在nextweb中消息会被截断,我是用oneapi转发的= =

yuanshangyujingshierlou avatar Feb 21 '24 04:02 yuanshangyujingshierlou

在nextweb中消息会被截断,我是用oneapi转发的= =

image

我刚刚试了一下,没有发现这个问题

zuisong avatar Feb 21 '24 04:02 zuisong

在nextweb中消息会被截断,我是用oneapi转发的= =

请问一下oneapi中如何设置呢? 我设置上都会报错

yefx avatar Feb 22 '24 14:02 yefx

我在這個擴充套件上使用 https://harpa.ai

bestpika avatar Feb 28 '24 12:02 bestpika

似乎一些包含代码的处理中,似乎是换行符\n没有没正确处理。这个问题在chatgpt-web中可以随机复现,还不清楚是不是接口转换导致的

emengweb avatar Mar 15 '24 08:03 emengweb

应该加上embedding模型的相关内容,否则在flowise中无法使用。

musuiot avatar Apr 12 '24 14:04 musuiot

lobe-chat可以使用oneapi转发的接口

azicen avatar Apr 19 '24 17:04 azicen

反馈一个uTools的插件---ChatGPT.好友,能够使用,但是有两个问题。deno文件部署的

首先,输出回答的时候,插件是在内容全部生成完了,然后一次输出的。因为ChatGPT.好友是兼容OpenAI的流式输出的,所以是不是转写的时候格式和OpenAI的不一样。因为另外一个客户端ChatGPT Next Web它自己就支持Gemini,我看它的流式是正常的。它的请求是这样的:POST /v1beta/models/gemini-1.5-pro:streamGenerateContent?key=

第二个问题,回答里面会夹着特殊字符,我在ChatGPT Next Web也重复试了同一个问题,没有出现。

Snipaste_2024-06-09_12-55-42

manjieqi avatar Jun 09 '24 05:06 manjieqi

@manjieqi 感谢反馈。 第一个问题,为了适配function call, 目前gemini调用的是不是流式借口,中间转发的时候适配了 openai 的流式相应格式, 所以客户端可以以流式的调用方式获得相应,只是会最终一起得到结果,暂时没有修改的计划

第二个问题, 目前我没有复现这个问题,可能gemini响应本身就是乱码的。

zuisong avatar Jun 10 '24 16:06 zuisong

对编程不是很懂啊,我理解function call就是在请求体里面加了字段,客户端请求里面没有相关字段,转换格式的时候也会另外设置吧,这样这部分不是可以使用gemini流式?

manjieqi avatar Jun 11 '24 02:06 manjieqi

实测支持以下客户端(更多客户端欢迎补充):

  • [x] https://github.com/sigoden/aichat[x] https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web[x] https://github.com/josStorer/chatGPTBox[x] gitlens 自动生成提交信息[x] chatx

aichat要怎样配置? 我的配置如下:

model: Google clients:

  • type: openai-compatible name: Google api_base: xxx api_key: xxx models:
    • name: gpt-4-turbo

其中xxx处删除了真实地址和key,但报错:

Error: Failed to call chat-completions api

Caused by: Invalid response data: Page Not Found (status: 404)

在NextChat中可以正常使用

skywk avatar Feb 07 '25 13:02 skywk

@skywk 可以这样配置

  - #
    name: deno.dev-gemini-openai-proxy
    type: openai-compatible
    api_base: https://gemini-openai-proxy.deno.dev/v1
    api_key: xxxxxxx
    models:
      - name: gpt-3.5-turbo
      - name: gpt-4
      - name: gpt-4o
      - name: gemini-1.5-flash
      - name: gemini-2.0-flash

zuisong avatar Feb 08 '25 07:02 zuisong