chat-ollama

chat-ollama copied to clipboard

1.add OLLAMA_URL and CHROMADB_URL as env variable 2.update Dockerfile to build image under mac m1 3.add docker-compose.yaml for quick start macOS m1 环境下测试正常： 拉取容器镜像：docker pull xmx0632/chatollama:0.0.1 ollama 服务正常启动后，在docker-compose.yaml文件中修改 192.168.3.3 为ollama...

eshinexu

非常有吸引力的项目，但是过于复杂不好推广

13

这个项目非常有吸引力，自定义知识库，但是项目使用部署等的难度太高了，普通人甚至有一定基础的人都不一定能用，这大大限定了项目受众。 如果项目进行模块化，降低上手难度，比如利用docker进行分布式部署，Ollama作为一个模块，数据库一个模块，前端一个模块，连接成一个整体使用。

hallfay0

当 Sqlite 没有 instructions 或 knowledge 数据时，相关页面错误

2

sylaryip

现在这部分代码硬编码为OpenAI gpt-3.5-turbo。 https://github.com/sugarforever/chat-ollama/blob/main/server/api/chat/index.ts#L25

sugarforever

如果没有docker怎么运行chromaDB

2

acwwt

https://github.com/sugarforever/chat-ollama/pull/19 该合并请求将指令存储到数据库。在文档中需要一个段落介绍ChatOllama应用的数据存储策略 1. local storage存了什么 2. 数据库存了什么

sugarforever

输出信息: Ollama: { host: 'http://192.168.99.12:28537', username: undefined, password: undefined } Ollama: { host: 'http://192.168.99.12:28537', username: 'null', password: 'null' } Created knowledge base activity: [object Object] ingestDocument Warning: TT: undefined function:...

xmartinly

在Google colab中部署后，可以和大模型chat，但是新建知识库时，上传的文档会卡住无法保存并报错

2

报错：Ollama: { host: 'null', username: 'null', password: 'null' } Created knowledge base 平安: [object Object] [nuxt] [request error] [unhandled] [500] Chroma getOrCreateCollection error: Error: TypeError: fetch failed at Chroma.ensureCollection (./node_modules/@langchain/community/dist/vectorstores/chroma.js:99:23)...

Wcoke9527

- 文档分组的意义：比如我有“财务”、“人事”、“质检”的若干工作，每项工作有各项文档若干，每组分别建立向量数据库。这样一样更为实用，二是别人无需知道有哪些文件，访问WEBUI界面就可以获取相关知识，在同事间变传统文件共享为知识共享。有非常实际的应用场景。 - WEBUI界面显示API调用示例的意义在于，我们很多工作都在微信群、QQ群里商讨，相对地使用QQ或微信更便于推广，有了API，就可以更方便地接入。

bifu123

把回答面板分成左右两个，一个是自己调优的模型，一个是用来对比的参照模型（比如OpenAI）。方便比较自己模型和其他模型的相应质量。 多谢

gallexy