fivegg

由于显存不够，采用MiniChat-2-3B运行又不成功。想试试其他模型，下载使用了Qwen-1_8B-Chat，查找conversation.py里面的-t 参数，使用了qwen-7b-chat，qwen-7b-qanything。 bash ./run.sh -c local -i 0 -b hf -m Qwen-1_8B-Chat -t qwen-7b-qanything 虽然成功运行，但是问答感觉有问题。简直没法使用。官方或者成功的人能否给出其他模型的具体使用方法 上传了同样文档，自己部署的问答如下： 问：评标专家需要几位？ 答：中文 数据来源1: 采购管理办法.docx 相关性:0.625 数据来源2: 自有资金采购实施细则.docx 相关性:0.58935546875 问：采购方式有什么 答：中文 数据来源1: 采购管理办法.docx 相关性:0.64501953125 数据来源2:...

[BUG] win11 wsl2 运行MiniChat-2-3B不成功

6

### 是否已有关于该错误的issue或讨论？ | Is there an existing issue / discussion for this? - [X] 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions ### 该问题是否在FAQ中有解答？ | Is there an...

[BUG] 纯python环境安装gpu利用率默认参数为0.61导致rtx3060用不起。（手动修正代码见正文）

1

### 是否已有关于该错误的issue或讨论？ | Is there an existing issue / discussion for this? - [X] 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions ### 该问题是否在FAQ中有解答？ | Is there an...

[Question]: Good table parsing and data retrieval, but the answer from chatting is incorrect.

1

### Describe your problem   

[Question]: GPUStack error to embed

2

### Describe your problem gpustack部署的bge-large-zh-v1.5，运行中gpustack日志会报错。换成xinference部署的bge-large-zh-v1.5好像就可以，至少看不到日志报错

[Question]: In some cases, the knowledge can't be transfer to DeepSeek

4

### Describe your problem 建立规范知识库，导入几个规范，嵌入和rerank都是xinference部署的。llm分别用ollama deepseek r1:70b和gpustack qwen2.5-14b-instruct。有些问题deepseek为什么无法获取传递给它的知识呢，千问就可以。见截图。  

[Question]: Missing context after PDF is parsed.

1

### Describe your problem 使用默认配置知识库，导入 JTG D20-2017 公路路线设计规范.pdf，发现解析后的chunk部分文字丢失，如图： 图1：问答发现只给出示意图，没有对应文字  图2：检查chunk，发现对应文字没有收录  图3：原pdf截图