exa160
exa160
@BlackZheng @ZhengtianXu @yaphone API还是能用的,只要把api.py 中的dig_info函数里的geturl换成geturl_new_api就行。不过因为树莓派(我用的香橙派。。。)性能限制,而且这个new api涉及到了AES256加密,出来一个url要将近30s,建议直接在play前用.songs_detail_new_api([ids])[0]['url']。。。
可以直接用amixer控制系统音量
> 你说的提示处理,应该是指大模型的预填充阶段 prefill,这个也不至于要预填充 100 多秒吧,如果真要这么久的话,这个大模型服务也算是不可用了吧😂 😂,本地跑是这样的,他最后能填300多秒,应该是上下文太大了,这种场景应该只能交给满血api跑了。max395跑qwen3 30b的性能还行的其实(。另外librechat我怀疑也有这个问题,但他好像偷鸡了,5分钟不操作自动注销。我再琢磨琢磨这个超时是咋回事。
> > 你说的提示处理,应该是指大模型的预填充阶段 prefill,这个也不至于要预填充 100 多秒吧,如果真要这么久的话,这个大模型服务也算是不可用了吧😂 > > 😂,本地跑是这样的,他最后能填300多秒,应该是上下文太大了,这种场景应该只能交给满血api跑了。max395跑qwen3 30b的性能还行的其实(。另外librechat我怀疑也有这个问题,但他好像偷鸡了,5分钟不操作自动注销。我再琢磨琢磨这个超时是咋回事。 关于超时问题,参考这个: https://github.com/lmstudio-ai/lmstudio-bug-tracker/issues/1143 这里最后提到这两个issue: For more info see: see: https://github.com/cline/cline/issues/6361 and: https://github.com/RooCodeInc/Roo-Code/discussions/6445 有大佬提了,一方面应该是fetch有超时(原文:the timeout is in the native fetch library of...
琢磨完了,总结一下,在Ollama中修改超时参数有效,结论如下: 1. LMStudio 根据cline项目issue下的讨论,超时默认为2分钟,不支持修改超时参数,需等待LMStudio改进 2. Ollama也有默认超时,通过request timeout参数可修改 备注:Ollama的超时配置有点奇怪,没找详细文档,修改Langchain的timeout参数确实能生效,但改回去也没再复现超时问题,重启Ollama也触发不了,(合理猜测该配置应该是持久性的,可以通过/api/chat接口对话时附带的参数调整Ollama超时(未验证)) 其中不确定是ChatOpenAI还是init_chat_model的超时配置成功的,一开始ChatOpenAI的超时参数没生效,后面使用langchain_ollama ChatOllama的timeout生效,后续不复现超时问题。 修改如下,给使用Ollama并且通过接口配置失败的人作为参考: 以上修改需安装依赖 langchain_ollama