TNN icon indicating copy to clipboard operation
TNN copied to clipboard

TNN 支持流式输入吗, 比如实时语音类的

Open lhwcv opened this issue 3 years ago • 1 comments

如题,请问TNN有计划支持流式输入吗? 比如, 语音的数据, 模型需要(100, 257)的数据,但是一次进来的数据只有(1, 257)。 需要不断左移然后输入网络, 中间的层需要State住。

感谢!

lhwcv avatar Apr 27 '22 01:04 lhwcv

这是个好问题。 按照你的描述,网络的层会自己记住中间状态如lstm之类的层,只是输入需要自己处理成(1,257)并自己处理偏移。这样做效率会慢点,因为存在重复的数据上传。目前TNN还没有语音类的demo,如果可以的话,可以你这边提供流行的算法原型链接,我们考虑支持下。

darrenyao87 avatar Jun 21 '22 08:06 darrenyao87