chatgpt-vercel icon indicating copy to clipboard operation
chatgpt-vercel copied to clipboard

上下文太长的时候发送回答在 mobile 上会卡顿

Open allentofight opened this issue 1 year ago • 1 comments

升级到 16k 后,上下文确实长了,但如果上下文过长再问的话要卡顿挺久(可能在3~5s)才能发出问题

setStore("messageList", k => [
          ...k,
          {
            role: "user",
            content: inputValue
          }
        ])
        if (store.remainingToken < 0) {
          throw new Error(
            store.sessionSettings.continuousDialogue
              ? "本次对话过长,请清除之前部分对话或者缩短当前提问。"
              : "当前提问太长了,请缩短。"
          )
        }
        setStore("loading", true)
        controller = new AbortController()
        // 在关闭连续对话时,有效上下文只包含了锁定的对话。
        await fetchGPT(

测试发现在 await fetchGPT 前的 setStore("messageList" 卡顿过长时间

allentofight avatar Jun 18 '23 14:06 allentofight

不好解决,这是

ourongxing avatar Jun 20 '23 16:06 ourongxing