MaxKB icon indicating copy to clipboard operation
MaxKB copied to clipboard

Published 20 hours ago • verified publisher icon 1Panel-dev

[FEATURE]第一次调用的时候总感觉有些慢

Open xaswq opened this issue 1 year ago • 0 comments

MaxKB 版本

1.0.3

请描述您的需求或者改进建议

第一次ollama对话总是感觉有些慢，请问如何优化，让模型常驻后台？

请描述你建议的实现方案

增加一个模型的预加载，方便用户对话

附加信息

No response

xaswq avatar Apr 22 '24 15:04 xaswq