Results 6 comments of Liam

是这样的,我有个场景:识别图像场景的内容作为标签,qwen-vl-chat不能直接给出标签,但是他可以描述图像的内容,可以根据这个内容与知识库匹配得到标签。这个过程第一步用qwen-vl-chat得到描述,第二步用qwen-vl-chat+知识库得到标签。所以想看看LangChain-Chatchat能不能支持qwen-vl-chat

这个发送“你是谁”,后台出来的错误信息,只拿到了返回的两个字“我是” ![Uploading image.png…]() ![Uploading 屏幕截图 2024-02-08 223823.png…]() `2024-02-08 22:37:29 | INFO | httpx | HTTP Request: POST http://127.0.0.1:20002/worker_generate_stream "HTTP/1.1 200 OK" JILI******************:stream1: 我是 ERROR: Exception in ASGI application Traceback (most...

循着问题找到这里,在0.5.0.post1版本上,按照仓库的dockerfile编译的docker镜像,qwen14B运行在4张4090上,--disable-custom-all-reduce没有能够解决我的问题