wingeva1986

Results 13 comments of wingeva1986

> 现在似乎出现了新的阻止方式,同样的消息使用poe-api后claude-2-100k可以回复,而gpt4则不行。然而在网页中使用二者都是可以快速响应的。 +1

I have encountered the same problem lately, with frequent timeouts.

> 目前的做法是程序自己管理对话上下文,也就是每次都进行clear context之后向poe发送完整的对话上下文。这也是openai api规范的实现方法。 > > 你提到的应该是依靠poe来管理对话上下文。这种也可以实现,不过带来的问题也很明显,比如在多用户或者多对话的情况下,开始了某个对话,为了保持poe的上下文就不能发送clear context,相当于这个用户开始独占了这个对话框,这个token就被锁死在这个对话上了,不知道什么时候会被释放。于是可能需要消耗无穷无尽的token。 原来如此,我先部署对接到其他程序试试~