支持openapi兼容调用[FEATURE]

[samcaicn]

MaxKB 版本

1.0

请描述您的需求或者改进建议

fastapi 即可

请描述你建议的实现方案

No response

附加信息

No response

[jingzl]

建议支持 openai 接口的本地化调用，比如chatglm3-6b，baichuan2，qwen等。

[baixin513]

可以通过 Ollama 调用本地模型的。

建议支持 openai 接口的本地化调用，比如chatglm3-6b，baichuan2，qwen等。

[samcaicn]

你们在这里扯的都和主题无关哈，需求是：

应用运行起来后可以被openai兼容的程序调用

[samcaicn]

[baixin513]

当前不能像OpenAI那样对话的。 需要先获取一个对话id 才可以进行对话，具体要看我们API文档。