wufei

Results 3 comments of wufei

> 我也遇到这个问题,我是通过uvicorn+fastapi+ner模型部署遇到的。目前版本也降了,上面的方法试了一遍,目前无解 同fastapi,请问你后来解决了吗

> > 我也遇到这个问题,我是通过uvicorn+fastapi+ner模型部署遇到的。目前版本也降了,上面的方法试了一遍,目前无解 > > 同fastapi,请问你后来解决了吗 tf1.15,keras2.3.1,uvicorn + fastapi异步部署; 模型加载完后加一句:model_graph = tf.compat.v1.get_default_graph() 模型每次推理前加一句:with model_graph.as_default(): model.predict() 也可解

同并已解决,tf1.15,keras2.3.1,在用fastapi异步部署时出现了相同的问题;解决方法:加载完模型后,跟一句:model_graph = tf.compat.v1.get_default_graph();在模型推理语句之前加:with model_graph.as_default(): ,可以解决。性能貌似没啥影响,这一点不太确定。