yifei zhou

Results 2 comments of yifei zhou

了解,那请问是否有办法可以提前加载模型呢?

确实是这样,但是不知道为什么我们把相关服务打包进docker之后,尽管初始化了taskflow的服务,每次请求时感觉model都会重新加载,耗时较长。如果不打包进docker倒是没有这个问题。