SenseVoice icon indicating copy to clipboard operation
SenseVoice copied to clipboard

支持流式输出吗?

Open warmshao opened this issue 1 year ago • 10 comments

warmshao avatar Jul 06 '24 01:07 warmshao

同问

darvsum avatar Jul 07 '24 09:07 darvsum

我改成了流式,暂时还没大问题

zzk2021 avatar Jul 08 '24 07:07 zzk2021

@zzk2021 你修改的流式是用Vad对会话进行检测后直接输入识别,还是按照字节流循环输入模型的呢?

aofengdaxia avatar Jul 09 '24 04:07 aofengdaxia

@zzk2021 你修改的流式是用Vad对会话进行检测后直接输入识别,还是按照字节流循环输入模型的呢?

没用vad,就是经常会出现奇怪的表情符号

zzk2021 avatar Jul 09 '24 10:07 zzk2021

同问

alfgo avatar Jul 09 '24 23:07 alfgo

We are working on it now.

LauraGPT avatar Jul 16 '24 07:07 LauraGPT

我改成了流式,暂时还没大问题

可以参考以下你的代码吗

buptmengjj avatar Oct 17 '24 10:10 buptmengjj

我改成了流式,暂时还没大问题

可以参考以下你的代码吗

离职了,没做这个了

zzk2021 avatar Oct 17 '24 10:10 zzk2021

model.generate()中的input参数支持bytes类型啊,这就是可以流式输入吧?

SEVENBAY avatar Dec 31 '24 09:12 SEVENBAY

请看 https://github.com/FunAudioLLM/SenseVoice/issues/72#issuecomment-2883278099

csukuangfj avatar May 15 '25 10:05 csukuangfj