zhangweizi

Results 1 comments of zhangweizi

> ## 问题 > 在不清理聊天记录的情况下会把所有的上下文消息提交过去直到达到单会话token的上限,在我发现这个机制前随便发一个简单的问题会导致1000多的token消耗 ![image](https://user-images.githubusercontent.com/76556787/227719280-95b1abe7-8391-4ba7-8efd-50fadb487ba7.png) > > ## 期望 > 我知道可以清理聊天记录,或者不关联上下文。但是我分享给朋友们体验,他们并不知道这个步骤,或者不会去设置。 所以我希望能有个配置节点能限制关联上下文的数量。 感谢你的问题,要不我还没发现。我不太会Nodejs,研究了半天,发现是引用chatgpt-api导致了,只要带了parentMessageID,就会把所有内容全部提交过去,chatgpt-api把消息是默认保存在服务器内存里的,https://github.com/transitive-bullshit/chatgpt-api,看chatgpt-api源码可以多传递几个参数messageStore 、getMessageById 、upsertMessage 好像可以实现。 可惜我不会写nodejs代码。。。。。会的朋友可以帮帮忙。我是采用了比较恶心的办法,直接改了/service/node_modules/.pnpm/[email protected]/node_modules/chatgpt/build/index.js的代码,在一个do while循环里,把循环次数改了就可以了,代码行大概在390行附近。 想提交三条就 改为循环3次就可以了。祝你成功!