sugarforever

目前所支持的Cohere Reranker的模型是不开源的。 我新建了一个任务 - #335 来支持本地化的Reranker。目前介绍的比较多的实现都是基于Python的，需要看看如何用JavaScript实现，以便在ChatOllama中使用。 有兴趣可以参与开发。

> 哈哈大大我是医学专业的，不太好编程，只会提建议哈哈 > […](#) > ---原始邮件--- 发件人: ***@***.***> 发送时间: 2024年4月23日(周二) 下午2:59 收件人: ***@***.***>; 抄送: ***@***.******@***.***>; 主题: Re: [sugarforever/chat-ollama] rerank请问可以集成在chatollama的本地部署么， 不用调用api（第三方会不收集本地数据呢） (Issue #334) 目前所支持的Cohere Reranker的模型是不开源的。 我新建了一个任务 - #335 来支持本地化的Reranker。目前介绍的比较多的实现都是基于Python的，需要看看如何用JavaScript实现，以便在ChatOllama中使用。 有兴趣可以参与开发。 —...

嗯。看看ollama服务器是否启动，或者重启ollama，再试试

> > 嗯。看看ollama服务器是否启动，或者重启ollama，再试试 > > 重启了还是一样的报错 是ollama的问题吗 之前用都是没事的 你测试下ollama的API是否正常工作？http://127.0.0.1:11434 有返回 `Ollama is running` 吗？

> ```shell > ELIFECYCLE  Command failed with exit code 139 > ``` 看起来像是prisma migrate阶段出现的短错误。 我拉取了最新的docker镜像。 ``` [+] Running 4/3 ✔ Container chat-ollama-chromadb-1 Created0.0s ✔ Container chat-ollama-chatollama-1 Recreated0.4s Container chat-ollama-redis-1 Created...

理论上是可以的。需要考虑下具体的使用场景。我感觉面向多个知识库的问答，更适合multi-agents的介入。

Sure. Let's use this issue to track the requirement. We will get it done as soon as we can.

@snowdj sorry for the late update. A separate setting item for Groq is added. Please pull the latest version. You should be able to set Groq API key and pick...

有下载模型nomic-embed-text吗？

这个可以做实验。在ChatOllama中可以讲向量存储部分重新设计，抽象化，这样在用户侧可以根据个人偏好选择存储方式。