glide-the comments

Results 57 comments of


                                            glide-the

[Error: Failed to ingest your data]

I also encountered this problem, which occurred randomly,

打不开地址？

默认启动的ip应该是0.0.0.0你这里修改了监听host，尝试修改回0.0.0.0,使用localhost:7860访问

只想用自己的lora微调后的模型进行对话，不想加载任何本地文档，该如何调整？

参考如下代码 ``` # model_path = "/media/gpt4-pdf-chatbot-langchain/text-generation-webui/models/chatglm-6b/" # # 加载预训练模型和分词器 # tokenizer= AutoTokenizer.from_pretrained( # model_path, local_files_only=True, trust_remote_code=True) # model = AutoModel.from_pretrained( # model_path, local_files_only=True, trust_remote_code=True) model_path = "/media/gpt4-pdf-chatbot-langchain/text-generation-webui/models/llama-7b-hf/" tokenizer = LlamaTokenizer.from_pretrained(model_path)...

在github codespaces docker运行出错

first run docker build ,build images after to run container

修改哪里的代码，可以再cpu上跑？

dev分支已修复

Dev blip2

show reviewer on what to do？

[BUG] webscoket 接口串行问题（/local_doc_qa/stream-chat/{knowledge_base_id}）

感谢大家对这个问题的关注，目前社区里对并行调用没有比较完美的解决方案，在dev的c4ee36b8ac629cf53fa86346b250e626a30e0dc7这次的版本中，我们尝试了使用异步线程队列加上收集器来完成并行调用，主线程用来收集，子线程处理任务，这样就可以保持每个线程的任务，**这个代码不要用在生产哦**，会存在的bug就是子线程会被挂起，直到服务器线程被全部占用，当然这个问题也可以解决，如果你需要结束子线程，你需要在子线程结束的时候put一个停止标识，里面是有一个ListenerToken的定义的，需要在模型那里定义个listenerToken收集，这样就可以判断每个模型的每次预测停止时间了大家如果有更好的方案可以提个pr

glide-the