是否有计划支持JSON MODE

Open OblivionZen opened this issue 1 year ago • 3 comments

类似于与openai的https://platform.openai.com/docs/guides/json-mode

Jul 19 '24 06:07 OblivionZen

我也想知道。

Jul 28 '24 07:07 EvanSong77

如果是vllm的话，vllm自身就带json mode这个功能的。https://docs.vllm.ai/en/latest/serving/openai_compatible_server.html 这个文档里搜索下json。

如果是阿里云的模型服务的话，在开发中。

Aug 06 '24 14:08 JianxinMa

如果是vllm的话，vllm自身就带json mode这个功能的。https://docs.vllm.ai/en/latest/serving/openai_compatible_server.html 这个文档里搜索下json。

如果是阿里云的模型服务的话，在开发中。

ollama都支持了，阿里云模型打算多久支持呢？

Aug 13 '24 07:08 DoiiarX

百炼OpenAI兼容接口已支持。

Sep 11 '24 11:09 jklj077

This issue has been automatically locked since there has not been any recent activity after it was closed. Please open a new issue for related bugs.

Feb 24 '25 08:02 github-actions[bot]