ChatGLM3 icon indicating copy to clipboard operation
ChatGLM3 copied to clipboard

tools_using_demo中的openai_api_demo.py,stream等于True的时候 finish_reason 不出现"function_call"

Open guolushi-7 opened this issue 1 year ago • 1 comments

System Info / 系統信息

操作系统:Ubuntu 20.04 python:3.10 cuda:12.0 transformers:4.41.0

Who can help? / 谁可以帮助到您?

No response

Information / 问题信息

  • [X] The official example scripts / 官方的示例脚本
  • [ ] My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

用tools_using_demo/openai_api_demo.py做测试 1723693172987 但是输出结果是: 1723693237081 输出这个结果就会结束

Expected behavior / 期待表现

是还需要配置什么吗

guolushi-7 avatar Aug 15 '24 03:08 guolushi-7

fc应该没有stream,GLM-4的代码有这个功能,但是适配的是GLM-4模型

zRzRzRzRzRzRzR avatar Sep 04 '24 15:09 zRzRzRzRzRzRzR