gavinC

知识库没有多轮对话能力

14

 第一轮其实是已经检索到了相关的法律法规以及相关的案例chunk，但是第二轮对话中，检索到的相关的chunk都是与第一轮对话不相关的。就想没有记住第一轮的对话，这个怎么解决的？ **环境信息 / Environment Information** - langchain-chain 0.2.10 - 是否使用 Docker 部署（是/否）：否 - 使用的模型（ChatGLM2-6B / Qwen-7B 等）：ChatGLM3-6B - 使用的 Embedding 模型（moka-ai/m3e-base 等）：bge-large-zh - 使用的向量库类型 (faiss / milvus / pg_vector...

Qwen1.5 1b8和Qwen2 7b推理到最后出现重复性回答

3

soc环境 transformers：4.42.4 torch：2.3.1 LLM-TPU：9a744f0/latest 2024.07.23 driver版本：0.5.1 linaro@bm1684:/usr/lib/cmake/libsophon$ bm_version SophonSDK version: v24.04.01 sophon-soc-libsophon : 0.5.1 sophon-mw-soc-sophon-ffmpeg : 0.10.0 sophon-mw-soc-sophon-opencv : 0.10.0 BL2 v2.7(release):7b2c33d Built : 16:02:07, Jun 24 2024 BL31 v2.7(release):7b2c33d...

[Bug] ValidationError: 1 validation error for MLCChatConfig conv_template Input should be an object

1

## 🐛 Bug ## To Reproduce Steps to reproduce the behavior: I have followed the configuration and model files published by Siyuan on Hugging Face, but after running the local...

常见问题的Q11，[a53lite runtimellerror] get function send api error, ret2，有没有其他的排错思路？

1

 我的bm-smi版本 sophon-driver sophon-libsophon sophon-libsophon-dev 这些都是0.5.1版本的。 另外我打印了我的Bmodel，应该是没什么问题的。常见问题中的Q11所有方法差不多都试了。其中聊天的上下文挺短的，就是让他生成一个冒泡排序，请问还有什么其他排错思路嘛？ ``` linaro@bm1684:/data$ model_tool --info rwkv6-1b6_bf16_1dev.bmodel bmodel version: B.2.2+v1.8.beta.0-331-g9ce86277c-20240822 chip: BM1684X create time: Thu Aug 22 17:17:44 2024 kernel_module name: libbm1684x_kernel_module.so kernel_module size: 2704256...