ShiGuangNuoYan

Results 2 comments of ShiGuangNuoYan

我自己实现了一个FASTAPI框架下的web调用,可以来我的仓库看一下😄

sorry,这只是部署在单个服务器上,我已经尽量使用异步操作来完成I/O和计算的同时进行。但是想做到大量API之间的并行还需要使用多台服务器,采用轮询或者联邦学习的方式进行响应。 ------------------ 原始邮件 ------------------ 发件人: ***@***.***>; 发送时间: 2024年6月27日(星期四) 下午4:38 收件人: ***@***.***>; 抄送: ***@***.***>; ***@***.***>; 主题: Re: [QwenLM/Qwen-VL] 能像qwen-chat一样提供fastapi版本的web api 代码吗? (Issue #70) 我自己实现了一个FASTAPI框架下的web调用,可以来我的仓库看一下😄 支持并发吗,或者说并行,因为我有大量api请求 — Reply to this email directly, view it...