linsida
Results
2
comments of
linsida
> hi chen,感谢你的修复。我刚刚测试过,不使用stub方式是可以达到我的目的。我还有两个疑问想向你咨询一下: 1. 我想问一下,客户端使用stub和proxy方式有什么不同吗,客户端的stub是不是为了方便stream流接口? 2. “服务端的async”,我的目的是为了服务端内部调用其他服务的时候不阻塞业务线程,采用了completableFuture形式返回响应?请问在triple协议下,有什么好的实现方法吗?是不是要采用stream接口呢?
> can you share the request being made to litellm for repro? @krrishdholakia yes . I make a simple demo to reproduce this error. please check itl,Thank you. [litellm_ollama_chat_test.txt](https://github.com/user-attachments/files/17972359/litellm_ollama_chat_test.txt)