MaxKB icon indicating copy to clipboard operation
MaxKB copied to clipboard

[BUG] API Key 字符长度过长时,添加模型报错

Open chixq opened this issue 1 year ago • 5 comments

联系方式

No response

MaxKB 版本

1.0.4

问题描述

类似这个 Issue 的需求 https://github.com/1Panel-dev/MaxKB/issues/142

实际测试过程中,通过 1Panel 本地部署 kimi-free-api 项目( https://github.com/LLM-Red-Team/kimi-free-api ), 模型接入选择 OpenAI,kimi-free-api 地址为 http://192.168.1.37:8000 报错如下:

image

API 添加版本信息仍然报错如下:

image

可以确认的是,kimi-free-api 工作正常,通过 1Panel 部署 chatgpt-next-web 服务,接入 API 没问题。

image

重现步骤

如上。

期待的正确结果

No response

相关日志输出

No response

附加信息

No response

chixq avatar Apr 27 '24 14:04 chixq

感谢反馈,确认一下基础模型名称与部署的LLM名称要一致,基础模型输入:kimi-free-api  ,回车 试一下呢。API域名需要加/v1

另外 第二个报错是APIkey太长了,超出字段长度。请确认使用正常的API Key。

baixin513 avatar Apr 28 '24 00:04 baixin513

确认一下基础模型名称与部署的LLM名称要一致,基础模型输入:kimi-free-api ,回车 试一下呢。

这个应该跟名称没关系,同时我也试了,结果一样。看报错是不是解析 API Endpoint 的时候需要 /v1 类似这样的字段,但实际情况 OpenAI Compatible API 不一定需要。

字段过长的原因是因为这个不是标准的 API,所以 sk 会比一般 OpenAI 长,这个应该放开长度限制。

chixq avatar Apr 28 '24 01:04 chixq

我们测试了这边最大的字符长度大概在 190 个左右的字符,加密后的最大长度为:5120 个字符。还请确认一下你的sk会有多少个字符数。

baixin513 avatar Apr 28 '24 03:04 baixin513

image

398 个。

同时,API Endpoint 对于自定义 OpenAI 兼容的 API,是不是也需要放开格式,不一定非要 /v1

chixq avatar Apr 28 '24 05:04 chixq

API Key 长度我们加长一些,下个版本更新。

baixin513 avatar Apr 28 '24 05:04 baixin513