MrBun

> 可以增加完全兼容openai api的api demo吗？这样的话，我们就可以使用大部分的前端，例如chatbotui，chatgpt-next 等。 在最近一次更新后将会支持openai api，您可以使用openai的sdk调用模型推理，下面是在测试阶段的调用参数 ``` json { "model": "llama-7b-hf-transformers-4.29", "messages": [{"role": "user", "content": "你是谁？"}], "stream": "False", "top_p": 1, "temperature": 0.7, "max_tokens": 64 } ```  这里的model是可选的，因为在启动api_demo的时候模型已经确认了 您可以使用openai的sdk例如...

> 支持streaming 调用吗 请求参数中有stream(bool)参数，设置true即可

> 支持streaming 调用吗 仓库已经更新了，您可以尝试使用openai包进行调用

# Example 4: Fill in the API configuration information. In my scenario, I need to fill in the relevant API information on the page and use OpenAI Function Calling for...

https://platform.openai.com/docs/guides/function-calling/parallel-function-calling 请参考OpenAI Function Calling示例

我也想问，用gitlab还要弄一个单点登录

请问你这个要怎么调用呢