Lvkesheng Shen

> I also encountered this error after i updated some libraries to the higher versions. I feel sorry that i haven't resolve this problem. it seems there's a race condition...

> can we add a test here? for multi-controlnet and prompt list ? > > https://github.com/huggingface/diffusers/blob/ad310af0d65d5a008401ebde806bed413156cf82/tests/pipelines/controlnet/test_controlnet.py#L280 OK Done, It already had an multiple prompt test before: ` 469 def test_inference_multiple_prompt_input(self):`...

> can you fix the quality test? Sorry for having other things recently, which may not be modified in time

我考虑过websocket，但是最终还是选了http的形式实现，个人认为的两个优势和原因： 1. 我个人做应用喜欢将算法侧独立起一个服务，而当算法侧和后端逻辑侧是两个服务的时候，websocket会导致让后端逻辑侧需要维护两头的长连接，即既维护和前端的又维护和算法侧的，更何况有时产品级应用可能需要在后端逻辑侧和前端前再叠加网关等东西 2. 和python直接实现的webui不同，前端在实现打字机效果输出的时候往往会有buffer缓冲区，即和算法侧的数据实时性要求没那么强，不需要利用长连接在算法侧每个推理字符出来的时候就即时接收到，举个例子，前端第一次调用查询接口，得到了100个字符的推理结果，它可以选择在逐渐输出90个字符的时候进行下一次查询调用，再次填满缓冲区即可。可以相对而言减轻服务器维护长连接所带来的成本 不过需要承认的是，http调用的形式确实没有websocket简洁明了。 获取Outlook for Android ________________________________ From: Cherrysaber ***@***.***> Sent: Wednesday, March 29, 2023 12:19:23 AM To: THUDM/ChatGLM-6B ***@***.***> Cc: Lvkesheng Shen ***@***.***>; Author ***@***.***> Subject:...

不是哈 发自我的手机 -------- 原始邮件 -------- 发件人： Vinlic科技 ***@***.***> 日期： 2023年4月13日周四 中午12:15 收件人： THUDM/ChatGLM-6B ***@***.***> 抄送： Lvkesheng Shen ***@***.***>, Author ***@***.***> 主 题： Re: [THUDM/ChatGLM-6B] feature: 增加流式响应API接口 (PR #266) Hello，你这个方案是SSE传输嘛？ —...