chatglm-sdk-java icon indicating copy to clipboard operation
chatglm-sdk-java copied to clipboard

流式接口没生效,还是阻塞然后一下全返回

Open huweidong-ai opened this issue 1 year ago • 5 comments

测试用例里的流接口调用,发现数据并不是一个一个返回,而是卡住一起返回,没有流式的效果。

huweidong-ai avatar Feb 28 '24 06:02 huweidong-ai

具体哪个测试方法粘贴下代码

fuzhengwei avatar Mar 01 '24 03:03 fuzhengwei

/** * 流式对话; * 1. 与 test_completions 测试类相比,只是设置 isCompatible = false 这样就是使用了新的数据结构。onEvent 处理接收数据有差异 * 2. 不兼容旧版格式的话,仅支持 GLM_3_5_TURBO、GLM_4 其他模型会有解析错误 */ @Test public void test_completions_new() throws Exception {

huweidong-ai avatar Mar 04 '24 03:03 huweidong-ai

确实

Clearpole avatar May 04 '24 08:05 Clearpole

具体哪个测试方法粘贴下代码 test_completions_new 这个方法,目前问题应该还没解决

menlalily avatar May 29 '24 06:05 menlalily

image 在cn.bugstack.chatglm.session.defaults.DefaultOpenAiSessionFactory 第42行,注释掉,解决

X1a0xiao avatar Dec 01 '24 15:12 X1a0xiao