Results 2 comments of EZ

> 这个问题需要一个企业级的解决方案。每个 API 都需要独立扩展 > > 但是,对于单一推理,如果可用,我们可以利用可能的 gpu。该修复程序将很快添加 Hello, have you solved the problem now?

> 嗨,这个问题已经解决了一段时间,我只是忘了关闭它。对于批量推理,monai label 将打开多个线程,每个线程都使用 GPU 并运行推理 Hello, how did you solve it? I have 2*4090 unable to implement parallel reasoning I hope I can get your help. Thank you