chatgpt-web icon indicating copy to clipboard operation
chatgpt-web copied to clipboard

上下文聊天太贵了,如果能加上一个开关就好了

Open somego opened this issue 1 year ago • 8 comments

大部分时候可能需要上下文,这样能获得更好的回答。 但是有时候也不需要上下文,这样不需要上下文的如果想省钱,只能每发送一条就new一个新聊天窗口,要不然就会把之前生成的回答也发送了,相当费钱。如果在聊天窗口上有个选项,是否开启上下文,这样不需要上下文聊天时候就关闭这个选项,可以省不少钱😄

或者还有复杂一些的,能自己选择把之前的哪些回答作为上下文发送

somego avatar Mar 07 '23 14:03 somego

对,以为很便宜,其实一个请求就占了2K-3K个token。

Byz-liu avatar Mar 07 '23 14:03 Byz-liu

这个支持!

qimo2020 avatar Mar 08 '23 01:03 qimo2020

之前生成的回答还会每次重新发送计费么,这玩意计费啥原理来着

assassinliujie avatar Mar 08 '23 03:03 assassinliujie

我现在每五分钟就有几万个token,不知道问题出在哪

assassinliujie avatar Mar 08 '23 03:03 assassinliujie

@assassinliujie 是不是有可能被盗刷了

fierceX avatar Mar 08 '23 03:03 fierceX

@assassinliujie 是不是有可能被盗刷了

这还真不知道,docker部署的不知道该怎么查看请求日志

assassinliujie avatar Mar 08 '23 03:03 assassinliujie

应该不是被刷了,几万个token也就几十次请求,应该就是用的人多了一点,更新一下加个访问密码,应该会好一点。

Byz-liu avatar Mar 08 '23 03:03 Byz-liu

重写了一下服务端api,做了一个chat会话保持时间机制,和预留tokens数截断上下文的机制,参考https://github.com/Arvintian/chatgpt-web

Arvintian avatar Mar 08 '23 04:03 Arvintian