[Question]: HTTP API Retrieve chunks efficiency

[lvyoudashuju]

Describe your problem

There is only one node deployed now. If multiple nodes are added, will the retrieval efficiency be improved? Or is there any way you can improve the efficiency of retrieval?

[Huanshere]

会考虑，在下个版本会有只翻译字幕的小工具～

[msn1983aa]

会考虑，在下个版本会有只翻译字幕的小工具～

很需要，感谢感谢！期待更新

[DreamLoveBetty]

很期待，谢谢

[lonrencn]

现在已经可以使用本地模型了，但是你的模型要足够聪明，qwen2:7b 目前测试不太行，2.5：32b 还可以，不然会报N多错误。 另外，在使用本地模型时，要在config文件里把并发工人，默认的8改成你自己设置的数。

[dark00-cn]

现在已经可以使用本地模型了，但是你的模型要足够聪明，qwen2:7b 目前测试不太行，2.5：32b 还可以，不然会报N多错误。 另外，在使用本地模型时，要在config文件里把并发工人，默认的8改成你自己设置的数。

请问这个必须用CLAUD3.5么 我把链接改成本地https://127.0.0.1:11434的OLLAMA里的qwan2.5:14b 好像报了一堆错Exception: Still failed after 3 attempts: Connection error.

[Huanshere]

Connection error 是并发数太大，可以在 config 中调整并发数为 1。另外不建议使用别的模型，可能引起格式错误。