Yingxiang

连续问问题会导致崩溃

4

看上去不是爆内存的问题，连续问问题后，会出现如下报错 ``` ╭─────────────────────────────── Traceback (most recent call last) ────────────────────────────────╮ │ /home/devops/git/langchain-ChatGLM/knowledge_based_chatglm.py:118 in │ │ │ │ 115 │ │ vector_store = init_knowledge_vector_store(filepath) │ │ 116 │ history = [] │...

Ubuntu 运行 'bash run_GLM6B.sh' 后报错

2

**Describe the bug** `(pytorch) devops@ubuntu22:~/git/wenda$ bash run_GLM6B.sh WebUI 端口号 None LLM模型类型 glm6b glm模型地址 /home/devops/database/chatglm_6b/full glm模型参数 cuda fp16 日志记录 True 知识库类型 s 知识库显示来源 False chunk_size 400 chunk_count 3 知识库文件夹名称为: /home/devops/proj/poctip_gpt.20230406/doc/txt Traceback...

问特定问题会出现爆显存

1

正常提问没问题。 结果问“你好啊”就会爆显存： `OutOfMemoryError: CUDA out of memory. Tried to allocate 4.46 GiB (GPU 0; 14.62 GiB total capacity; 12.42 GiB already allocated; 529.44 MiB free; 12.98 GiB reserved in total...