gpt-ai-assistant icon indicating copy to clipboard operation
gpt-ai-assistant copied to clipboard

連線超時:timeout of 9000ms exceeded

Open billxu0521 opened this issue 2 years ago • 14 comments

最近使用常出現timeout of 9000ms exceeded

看起來是因為與v1/completions這支api溝通時超過9000ms 想問一下其他人有沒有遇到類似狀況?

想到兩個調整方向: 1.使用者輸入訊息後,等待時的回饋 2.延長與api溝通的等待時間

billxu0521 avatar Feb 03 '23 04:02 billxu0521

補充 感覺openAI的api最近回應也有點變慢 在playground到沒這種感覺

billxu0521 avatar Feb 03 '23 04:02 billxu0521

這個問題可能暫時無解

不過可以修改更親切一點的文案就是了

memochou1993 avatar Feb 03 '23 15:02 memochou1993

同感不過可以在services line.js open.js裡修改timeout 數值,不知道有沒有用

yuliang615 avatar Feb 04 '23 08:02 yuliang615

@yuliang615

主要是 Vercel 免費方案會有 10 秒超時限制,所以目前 Axios 超時限制都設定 9 秒。

memochou1993 avatar Feb 04 '23 09:02 memochou1993

所以除非付費購買 不然無法解決?

yuliang615 avatar Feb 04 '23 12:02 yuliang615

感謝回應,我懂問題了qq

主因是要等GPT回應,時間很難預期,如果要他提供長文本答案應該很容易超過10s Vercal免費版本的執行時間是10s Pro是60s 企業版是900s Pro的60s的確夠

這邊是參考資料 https://vercel.com/docs/concepts/limits/overview

billxu0521 avatar Feb 04 '23 13:02 billxu0521

沒錯,就是 @billxu0521 補充的這樣。

目前新增了 2.2.0 版,若發生超時,會出現 重試 指令按鈕,然後加上了中文的錯誤訊息。

不過對於長文本,不管怎樣重試,都有可能超時就是了。

這 10s 算是個硬限制。

memochou1993 avatar Feb 04 '23 14:02 memochou1993

如果不使用vercel使用其他的網站呢?

yuliang615 avatar Feb 04 '23 14:02 yuliang615

可以研究看看有沒有類似的託管服務沒有超時限制哦!

像是我自己在用的 Linode 就沒有這個限制,不過我有付費就是了,最便宜是每月 5 美金。

memochou1993 avatar Feb 04 '23 14:02 memochou1993

有想到方法了,我研究一下,先重新開啟這張票。

memochou1993 avatar Feb 11 '23 02:02 memochou1993

請問是要將Vercel 換成別的嗎

yuliang615 avatar Feb 11 '23 02:02 yuliang615

嗯,這個專案畢竟依賴 Vercel 免費方案,有其局限性。

之後應該會開一個新的專案來做。

memochou1993 avatar Feb 14 '23 15:02 memochou1993

提醒 LINE messagingAPI 免費的只有500則可以使用哦 另外要開啟能夠加群組,才可以加入與群組聊天。 Line「社群」則不能加入

Ayesy avatar Feb 19 '23 10:02 Ayesy

@Ayesy

不用費用啦!

Reply API(自動回覆訊息):指 LINE 機器人針對 LINE 用戶傳來的訊息進行自動回覆的 API,屬於「不列入計價的訊息」。

Ref: https://tw.linebiz.com/column/budget-auto-count/

memochou1993 avatar Feb 19 '23 11:02 memochou1993

關於超時,目前的架構下除非付費,不然無法解決,這張票先關掉。

參考常見問題:

https://memochou1993.github.io/gpt-ai-assistant-docs/questions.html

memochou1993 avatar Feb 28 '23 04:02 memochou1993

@billxu0521 @yuliang615

解掉囉!

更新到 v4 的話,預設是 ChatGPT API 了,回應速度超快!

memochou1993 avatar Mar 02 '23 10:03 memochou1993

稍早更新試過了,今日3.5升級有感

感謝各位持續更新!

billxu0521 avatar Mar 02 '23 10:03 billxu0521