acbogeh

图片无法发到聊天中，实际生成了url

3

r日志如下 [INFO][2023-02-06 11:19:11][open_ai_bot.py:20] - [OPEN_AI] query=麻烦画一个美丽的少女 [INFO][2023-02-06 11:19:24][open_ai_bot.py:54] - [OPEN_AI] reply=这是一个美丽的少女，她身穿粉色连衣裙，穿在身上显得格外洋气。她靓丽的发型披散在肩膀上，双手捧着雪白的花朵，显得格外清新可爱。她秀美的脸庞宛如仙子，白皙的皮肤发出晶莹的光芒，温柔的眼神透出淡淡的温柔，令人心神难忘。 [INFO][2023-02-06 11:19:24][wechat_channel.py:103] - [WX] sendMsg=[bot] 这是一个美丽的少女，她身穿粉色连衣裙，穿在身上显得格外洋气。她靓丽的发型披散在肩膀上，双手捧着雪白的花朵 ，显得格外清新可爱。她秀美的脸庞宛如仙子，白皙的皮肤发出晶莹的光芒，温柔的眼神透出淡淡的温柔，令人心神难忘。, receiver=@8f6eb09cf8a9a7d9c80a32ad5952c6f1 [INFO][2023-02-06 11:20:02][open_ai_bot.py:59] - [OPEN_AI] image_query=一个美丽的少女 [INFO][2023-02-06 11:20:32][open_ai_bot.py:66] - [OPEN_AI] image_url=https://oaidalleapiprodscus.blob.core.windows.net/private/org-acHM3NsBHWRkW4SAjgYUZzMm/user-Ll86hYYaFr2JC3Uw0ynnUMj1/img-YszG2tGNN0TQC2YuXZ2KEvF9.png?st=2023-02-06T02%3A20%3A32Z&se=2023-02-06T04%3A20%3A32Z&sp=r&sv=2021-08-06&sr=b&rscd=inline&rsct=image/png&skoid=6aaadede-4fb3-4698-a8f6-684d7786b067&sktid=a48cca56-e6da-484e-a814-9c849652bcb3&skt=2023-02-05T18%3A50%3A33Z&ske=2023-02-06T18%3A50%3A33Z&sks=b&skv=2021-08-06&sig=SCx%2BZIDVVyWHAJfo%2BU/ofKdk54Ujh024Df0Ps2Y2OPE%3D [INFO][2023-02-06...

跑“多卡部署（适用于两张或以上NVIDIA 3090）”的实例代码可以产生response，但是moss_cli_demo.py就始终卡住

2

问题1: [root@LLM01GPU MOSS-main]# vi moss_cli_demo.py [root@LLM01GPU MOSS-main]# python moss_cli_demo.py 欢迎使用 MOSS 人工智能助手！输入内容即可进行对话。输入 clear 以清空对话历史，输入 stop 以终止对话。 : 你好MOSS ---------------------------然后就一致卡在这里-------------------------------------- 问题2： 运行多卡部署，我的input是给我五部科幻电影，但是output却是又随生成了一些。 1. 《星际穿越》 2. 《火星救援》 3. 《地心引力》 4. 《降临》 5....

[功能请求]: 申请增加starcoder支持！

2

### 相关问题 申请增加starcoder支持！ ### 可能的解决办法 申请增加starcoder支持！ ### 帮助开发 - [ ] 我愿意协助开发！ ### 补充说明 _No response_

比如10-20人的并发申请，需要至少几卡才不会爆内存，需要做队列缓冲不？