weifeng
weifeng
 这一个请求直接3k tokens了,如果用了GPT 4直接破产了 555555555 @Chanzhaoyu
> 聊天框左边的有个绿色的类似钟表的小图标,关了就不会携带之前的聊天记录了 你看我的描述,我知道有个地方可以设置。大多数时候我还是想关联上下文的,但是我只需要3-4条上下文就行了。token的消耗量可以控制在一两百,但是现在token一条消息近3K。 我发现这个事情是因为我用了别人做的客户端,里面就有设置上下文的数量,然后我去查日志才发现这个问题。
> 刚刚查了一下,一次请求上万。。。。 > > > > 04:35 > > Local time: 2023年3月22日 12:35 > > gpt-3.5-turbo-0301, 5 requests > > 11,067 prompt + 4,052 completion = 15,119 tokens > >...
> 谢谢你的详细教程,我已经几年没有写代码了. 看大佬什么时候有空修复吧,我懒得折腾了. 主要搭起来给朋友玩玩的,给他们开的3.5 反正也用不了多少钱.
well, you can comment out unused nodes, here is an example ``` # 二选一 OPENAI_API_KEY: sk-rx # 二选一 #OPENAI_ACCESS_TOKEN: xxx # API接口地址,可选,设置 OPENAI_API_KEY 时可用 #OPENAI_API_BASE_URL: xxx # API模型,可选,设置 OPENAI_API_KEY 时可用...