David Zhang
David Zhang
不好意思，还没有找到Windows系统重现该问题😅最近解决了一些bug，您可以用最新代码试试。也可以在Linux或Mac上使用
谢谢反馈，是production模式用了redis吗？另外，可以试试python 3.12.0，之前没有在3.9上测试过
可以试试3.12，是在3.12上开发和测试的。已经发现在旧版本python上运行，一些组件会有问题
可以替换。嵌入模型放在localmodels。微调后的LLM可以通过配置API访问。
ThinkRAG是基于LlamaIndex编写的。LlamaIndex有评估模块，可以评估RAG的效果，也许适合你的场景，但ThinkRAG还没有使用它。 https://docs.llamaindex.ai/en/stable/understanding/evaluating/evaluating/