magic chen
magic chen
> 自动的话,怎么确定要不要清呢,等我重设计好对话选项UI再看看 这个我是这样解决的,比如我使用的model 是 3.5turbo,max token 4096个,每次调用 chat接口设定的 最大token长度是 500(加上本次的prompt) 估成600吧,4096/600 = 6.8 左右, 那么我按每次最大来算 极限存储 6次对话。这个次数随着模型max token,设置的单次长度 变化,估一个大概也可以 然后用一个队列来存储对话, 队列达到6以后 第一次对话记录出队列,为了防止特殊情况,当返回context_length_exceeded 的时候(token长度超了) 第一个对话出队列,同时再次请求一次。 https://github.com/WhiteMagic2014/WMagicBotR/blob/master/src/main/java/com/whitemagic2014/service/impl/ChatPGTServiceImpl.java 这个是我说的逻辑的java实现
> 主要是卡住了,是不是忘记设置超时了 更新了一个版本 1.2.2 现在可以给 TTS 设置 超时时间,看看能否解决
> > > 主要是卡住了,是不是忘记设置超时了 > > > > > > 更新了一个版本 1.2.2 现在可以给 TTS 设置 超时时间,看看能否解决 > > 我引入项目所有的网络都无法连接成功,跟上面的提示一样是不是现在edge屏蔽了国内请求了? 可能是edge屏蔽了国内的请求,挂上代理,或者直接部署在墙外 可以正常使用
更新版本1.2.5. 其中有参数 isRateLimited。 如果在国内用不了 设置为true即可
> 如何接上代理 呢。是不是本机连接VPN就可以? 更新版本1.2.5. 其中有参数 isRateLimited。 如果在国内用不了 设置为true即可
> > > 主要是卡住了,是不是忘记设置超时了 > > > > > > 更新了一个版本 1.2.2 现在可以给 TTS 设置 超时时间,看看能否解决 > > 我引入项目所有的网络都无法连接成功,跟上面的提示一样是不是现在edge屏蔽了国内请求了? 更新版本1.2.5. 其中有参数 isRateLimited。 如果在国内用不了 设置为true即可
这个没有具体测试试验过
因为本质还是调用edge的tts服务,所以设置输出音频的采样率和通道 这一点,如果edge不提供的话,是没办法做到的。流式返回目前暂时不支持