ran411285752

Results 8 comments of ran411285752

> 当前问题已修复,请更新apinto镜像到[0.22.14](https://github.com/eolinker/apinto/releases/tag/v0.22.14) 根据最近一周的使用情况来看,apinto镜像到[0.22.14],还是有400的情况发生

> > > 当前问题已修复,请更新apinto镜像到[0.22.14](https://github.com/eolinker/apinto/releases/tag/v0.22.14) > > > > > > 根据最近一周的使用情况来看,apinto镜像到[0.22.14],还是有400的情况发生 > > > > 尝试复现了下,之前的状态码返回400,报错:`the server closed connection before returning the first response byte. Make sure the server returns...

> > > > > > 当前问题已修复,请更新apinto镜像到[0.22.14](https://github.com/eolinker/apinto/releases/tag/v0.22.14) > > > > > > > > > > > > > > > 根据最近一周的使用情况来看,apinto镜像到[0.22.14],还是有400的情况发生 > > > > > > >...

> 麻烦提供一下报错截图,我尝试了jmeter和自己写脚本,均未再出现该问题 确认下网关部分是否仍然是相同的报错,看您这里的错误,貌似是客户端的报错? 上面是我自己写的python压测脚本,接口是调用的apipark发布的AI服务,下面是apinto的截图

> > 麻烦提供一下报错截图,我尝试了jmeter和自己写脚本,均未再出现该问题 确认下网关部分是否仍然是相同的报错,看您这里的错误,貌似是客户端的报错? > > 上面是我自己写的python压测脚本,接口是调用的apipark发布的AI服务,下面是apinto的截图 > > @Dot-Liu 补充一下这个测试复现的方法: 1、使用python发起5个并发的模型请求,然后在请求处理完之前直接关闭掉。当然,我这里是为了复现,才这样操作的,正常的情况就如上面另外一个伙伴说的,不只是AI服务请求,REST服务在正常的调用以及正常结束的情况下,高并发的时候也有概率发生400的the server closed connection。 2、关闭请求后立即再发起5个并发请求,大概率必现。 xinference请求日志如下,从这个日志里面可以看出,第二次的5个请求都是成功响应生成完毕了的 [xinference_log.txt](https://github.com/user-attachments/files/23178221/xinference_log.txt) apinto的日志:

> > > > 麻烦提供一下报错截图,我尝试了jmeter和自己写脚本,均未再出现该问题 确认下网关部分是否仍然是相同的报错,看您这里的错误,貌似是客户端的报错? > > > > > > > > > 上面是我自己写的python压测脚本,接口是调用的apipark发布的AI服务,下面是apinto的截图 > > > > > > > > > [@Dot-Liu](https://github.com/Dot-Liu) 补充一下这个测试复现的方法: 1、使用python发起5个并发的模型请求,然后在请求处理完之前直接关闭掉。当然,我这里是为了复现,才这样操作的,正常的情况就如上面另外一个伙伴说的,不只是AI服务请求,REST服务在正常的调用以及正常结束的情况下,高并发的时候也有概率发生400的the server closed...