Langchain-Chatchat webui

trafficstars

运行startup的时候完全没有问题，还能分别正常进入服务器网页状态和api页面。但是streamlit run webui.py时，就会被电脑里不知道什么东西拦截。我把防火墙关了，360卸了，还是继续被拦截。报错如下： 2024-02-06 17:35:30,002 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-06 17:35:32,035 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-06 17:35:34,053 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 Traceback (most recent call last): File "D:\ProgramData\anaconda3\envs\langchain\lib\site-packages\streamlit\runtime\scriptrunner\script_runner.py", line 535, in _run_script exec(code, module.dict) File "D:\git\Langchain-Chatchat-master\webui.py", line 64, in pages[selected_page]["func"](api=api, is_lite=is_lite) File "D:\git\Langchain-Chatchat-master\webui_pages\dialogue\dialogue.py", line 163, in dialogue_page running_models = list(api.list_running_models()) TypeError: 'NoneType' object is not iterable winerror

Feb 06 '24 09:02 yi-si-hua

🤖

嘿，@yi-si-hua，我们又见面了！希望这次能够帮到你 😜

您的问题描述部分似乎是空的，我无法确定您遇到的具体问题。请提供更多详细信息，包括问题的具体描述，以及复现问题的步骤。这将帮助我更好地理解和解决您的问题。

在您提供问题的详细信息时，以下是一些可能有用的提示：

问题描述：请尽可能详细地描述您遇到的问题。包括任何错误消息，问题发生的频率（例如，每次都会发生，还是偶尔发生），以及问题对您的工作造成的影响。
复现问题的步骤：请提供一步步的说明，以便我可以在我的环境中复现您的问题。这应该包括您执行的任何命令，以及您点击或滚动到的任何特定位置。
预期的结果：请描述您期望发生的情况。这将帮助我理解问题的性质，并找到可能的解决方案。
实际结果：请描述实际发生的情况。这将帮助我理解问题的严重性，并找到可能的解决方案。
环境信息：请提供您的环境信息，包括您使用的Langchain-Chatchat版本，是否使用Docker部署，使用的模型，使用的Embedding模型，使用的向量库类型，操作系统及版本，Python版本，以及其他相关环境信息。
附加信息：如果有任何其他与问题相关的信息，例如屏幕截图，日志文件，或者您已经尝试过的解决方案，都可以在这里提供。

一旦我收到这些信息，我将尽快回复您。

Sources

This response is meant to be useful and save you time. It is not meant to be a precise solution, but rather a starting point for your own research.

Help me be more useful! Please leave a 👍 if this is helpful and 👎 if it is irrelevant.

If you want to continue the conversation, start your reply with @dosu-bot.

Feb 06 '24 09:02 dosubot[bot]

server config没有正确配置吧

Feb 06 '24 16:02 zRzRzRzRzRzRzR

我也碰到上述相同问题，python startup.py -a 各项功能运行正常，python startup.py -w与streamlit run webui.py报相同错误，如下

(venv) PS D:\workscope\Langchain-Chatchat> streamlit run webui.py

You can now view your Streamlit app in your browser.

Local URL: http://localhost:8501 Network URL: http://192.168.1.76:8501

2024-02-07 16:42:31,884 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:33,938 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:35,956 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:38,121 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:40,131 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:42,157 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:42.158 Uncaught app exception Traceback (most recent call last): File "D:\workscope\Langchain-Chatchat\venv\Lib\site-packages\streamlit\runtime\scriptrunner\script_runner.py", line 535, in _run_script exec(code, module.dict) File "D:\workscope\Langchain-Chatchat\webui.py", line 64, in pages[selected_page]["func"](api=api, is_lite=is_lite) File "D:\workscope\Langchain-Chatchat\webui_pages\dialogue\dialogue.py", line 169, in dialogue_page running_models = list(api.list_running_models()) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ TypeError: 'NoneType' object is not iterable

configs\model_config.py配置如下：

ODEL_ROOT_PATH = "/workscope/Langchain-Chatchat/models" #相关模型都放在该目录下，包括 bge-large-zh，chatglm3-6b，Qwen-7B-Chat

EMBEDDING_MODEL = "bge-large-zh" # "bge-large-zh-v1.5" EMBEDDING_DEVICE = "cuda"

LLM_MODELS = ["chatglm3-6b", "Qwen-7B-Chat", "openai-api"] Agent_MODEL = "chatglm3-6b" # None

MODEL_PATH = { "embed_model": { "ernie-tiny": "nghuyong/ernie-3.0-nano-zh",

    # "bge-large-zh": "BAAI/bge-large-zh",
    "bge-large-zh": "bge-large-zh",
    
"llm_model": {
    "chatglm2-6b": "THUDM/chatglm2-6b",
    "chatglm2-6b-32k": "THUDM/chatglm2-6b-32k",
    # "chatglm3-6b": "THUDM/chatglm3-6b",
    "chatglm3-6b": "chatglm3-6b",
    "chatglm3-6b-32k": "THUDM/chatglm3-6b-32k",

    "Qwen-1_8B-Chat": "Qwen/Qwen-1_8B-Chat",
    # "Qwen-7B-Chat": "Qwen/Qwen-7B-Chat",
    "Qwen-7B-Chat": "Qwen-7B-Chat",

**configs**其他配置文件没修改，都是默认配置

环境信息：python3.11.5,win11,其他按requirements.txt pip install 安装

Feb 07 '24 09:02 Jsonzhang20

winsows估计是端口被锁了吧

Feb 07 '24 09:02 zRzRzRzRzRzRzR

我在必应上搜到一个和我们类似的。然后他的问题其实是模型提交不上去。把embedding moedl默认的bge-large-zh-v1.5改为了bge-large-zh，他就跑通了。但是我不行，我还是跑不通。你也可以试一试。

------------------ 原始邮件 ------------------ 发件人: "chatchat-space/Langchain-Chatchat" @.>; 发送时间: 2024年2月7日(星期三) 下午5:06 @.>; @.@.>; 主题: Re: [chatchat-space/Langchain-Chatchat] webui (Issue #2951)

我也碰到上述相同问题，python startup.py -a 各项功能运行正常，python startup.py -w与streamlit run webui.py报相同错误，如下

(venv) PS D:\workscope\Langchain-Chatchat> streamlit run webui.py

You can now view your Streamlit app in your browser.

Local URL: http://localhost:8501 Network URL: http://192.168.1.76:8501

2024-02-07 16:42:31,884 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:33,938 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:35,956 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:38,121 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:40,131 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:42,157 - utils.py[line:95] - ERROR: ConnectError: error when post /llm_model/list_running_models: [WinError 10061] 由于目标计算机积极拒绝，无法连接。 2024-02-07 16:42:42.158 Uncaught app exception Traceback (most recent call last): File "D:\workscope\Langchain-Chatchat\venv\Lib\site-packages\streamlit\runtime\scriptrunner\script_runner.py", line 535, in _run_script exec(code, module.dict) File "D:\workscope\Langchain-Chatchat\webui.py", line 64, in pages[selected_page]["func"](api=api, is_lite=is_lite) File "D:\workscope\Langchain-Chatchat\webui_pages\dialogue\dialogue.py", line 169, in dialogue_page running_models = list(api.list_running_models()) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ TypeError: 'NoneType' object is not iterable

configs\model_config.py配置如下：

ODEL_ROOT_PATH = "/workscope/Langchain-Chatchat/models" #相关模型都放在该目录下，包括 bge-large-zh，chatglm3-6b，Qwen-7B-Chat

EMBEDDING_MODEL = "bge-large-zh" # "bge-large-zh-v1.5" EMBEDDING_DEVICE = "cuda"

LLM_MODELS = ["chatglm3-6b", "Qwen-7B-Chat", "openai-api"] Agent_MODEL = "chatglm3-6b" # None

MODEL_PATH = { "embed_model": { "ernie-tiny": "nghuyong/ernie-3.0-nano-zh", # "bge-large-zh": "BAAI/bge-large-zh", "bge-large-zh": "bge-large-zh", "llm_model": { "chatglm2-6b": "THUDM/chatglm2-6b", "chatglm2-6b-32k": "THUDM/chatglm2-6b-32k", # "chatglm3-6b": "THUDM/chatglm3-6b", "chatglm3-6b": "chatglm3-6b", "chatglm3-6b-32k": "THUDM/chatglm3-6b-32k", "Qwen-1_8B-Chat": "Qwen/Qwen-1_8B-Chat", # "Qwen-7B-Chat": "Qwen/Qwen-7B-Chat", "Qwen-7B-Chat": "Qwen-7B-Chat",
configs其他配置文件没修改，都是默认配置

环境信息：python3.11.5,win11,其他按requirements.txt pip install 安装

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: @.***>

Feb 08 '24 07:02 yi-si-hua

应该不是这个问题。毕竟我api server可以登录上去，甚至运行startup时，webui server也能进。

------------------ 原始邮件 ------------------ 发件人: "chatchat-space/Langchain-Chatchat" @.>; 发送时间: 2024年2月7日(星期三) 凌晨0:25 @.>; @.@.>; 主题: Re: [chatchat-space/Langchain-Chatchat] webui (Issue #2951)

server config没有正确配置吧

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: @.***>

Feb 08 '24 07:02 yi-si-hua

webui.py 依赖于 api.py，python startup.py -a 会同时启动所有的服务，单独启动 streamlit run webui.py是不行的。

Feb 29 '24 13:02 liunux4odoo

Langchain-Chatchat Langchain-Chatchat copied to clipboard

webui

Sources

Langchain-Chatchat
Langchain-Chatchat copied to clipboard