Kairo Zhang
Kairo Zhang
which?
hihi plz goto #277
#285 will fix
这是 Anthropic 的限制导致的,我猜测您的Anthropic上游应该是以 OpenAI 格式接入的中转。 重新回答存储于后端,目前无法优化。 Chat Nio 的 Anthropic 类型渠道会处理此问题,将所有回答合并为 Anthropic 的可接纳格式。 但是如果您使用的是 OpenAI 格式的渠道(比如 One API/New API/Shell API类)接入将不会做任何处理,因为 OpenAI 官方 API 不会限制格式限制。 请您咨询您的上游提供 Anthropic 格式的接口或预先处理,或者使用 Anthropic 格式接入渠道,Chat Nio...
这其实是 One API 的设计不完善,并且 One 二开的开源的 New API 修复了此漏洞。如果 Chat Nio 考虑插手的话,因为 One API 是以 OpenAI 格式接入的,如果 chatnio 对 openai 格式进行处理,那么所有 openai 格式的渠道都会应用此规则,原本不是 claude 也会变成 claude 的 prompt 格式,或者有什么好的建议?
因为 chatnio 不知道上游 one api 他接入的是不是 anthropic 渠道类型变成的 openai 格式,只能知道这只是一个 openai 类型的渠道。
或者 我可以在openai类型的渠道里加个【应用 Anthropic 中转格式兼容】 开启后所有带 `claude`的模型都会pre-format
同样也可以参考一下 #237 的方案,将上游换成one hub/new api/shell api, 现在只有one api有这个bug
point 2 確實可以優化的細節,v4一併優化一下!
失败请求次数超过限制导致,等待速率限制消除(60s内)即可