APIPark icon indicating copy to clipboard operation
APIPark copied to clipboard

Cloud native, ultra-high performance AI&API gateway, LLM API management, distribution system, open platform, supporting all AI APIs.🦄云原生、超高性能 AI&API网关,LLM API 管理、分发系统、开放平台,支...

Results 93 APIPark issues
Sort by recently updated
recently updated
newest added

### Current Behavior 通过APIPark,请求xinference部署的qwen3-30b-instruct模型以及百炼平台的模型,都会偶发这个问题。 直接请求xinference或者百炼的API接口,不会接口返回出现400这个问题。 从xinference和百炼后台日志看,请求是正常响应完毕了的,响应是200,并没有报错。 ### Expected Behavior 请求模型接口正常返回信息 ### Error Logs 接口返回日志: the server closed connection before returning the first response byte. Make sure the server returns 'Connection:...

### Description 服务能接入音视频模型吗? ### Environment - APIPark version: - Operating system (run `uname -a`):

### Description 我们需要按消耗的tokens对消费者收费 ### Environment - APIPark version: - Operating system (run `uname -a`):

### Current Behavior 一旦这个apikey失效或者误删除,那mcp用户就用不了吧? 除非开始就配置每个人自己的key进去。但我们这边mcp server比较多的情况就比较麻烦了,请问是否有引用之类的方法。比如vscode的cline中,需要先填写自己的apikey,才能去配置mcp server,那是否有办法引用? ### Expected Behavior _No response_ ### Error Logs _No response_ ### Steps to Reproduce _No response_ ### Environment - ApiPark version: - Operating...

### Description 希望增加命令行管理办法,包括但不限于添加删除用户,用户key管理(导入导出更换等)

### Description 通过自定义供应商,填写API Key和模型后 { "api_key": "xxxx", "base_url": "https://xxxx.openai.azure.com/" } 通过api接口访问报404 { "error": { "code": "404", "message": "Resource not found" } }

### Description 如何可以启动8099端口,排查为啥网关转发失败,异常如下: ### Environment - APIPark version: - Operating system (run `uname -a`):

### Description 添加AI服务,每个代理模型,只能使用url: /{SERVICE_API_ID}/chat/completions 能用http://192.168.20.210:8099/v1/chat/completions 根据模型名调用upstream(不同模型提供商的API)服务,像oneapi host: http://192.168.20.210:8099 url:/v1/chat/completions ### Environment - APIPark version: 1.9-beta - Operating system (run `uname -a`): linux

### Description 希望能支持将传统REST API服务发布为MCP服务的网关能力

### Description 希望能支持类似Nacos MCP Router那样的能力,能将mcp stdio转化为mcp sse等。