NiklausDu

Results 1 comments of NiklausDu

我的场景是: 希望在一块大显存GPU上开多个worker,然后每个worker支持批量推理 应该是最适合使用RedisStreamer类,对么