Haoren
Haoren
> > 看起来openvino不支持动态输入,你需要在导出网络的时候设置其输入输出为静态形状 > > 求教如何改为静态输入输出? > export_ppq_graph( > graph=qir, platform=QUANT_PLATFROM, > graph_save_to = 'model_int8.onnx') 推理的时候指定输入维度就行,其次openvino现在是支持动态维度的,查看一下官方的手册
> > 图片宽高多少?如果不限制图片大小的话,PP-OCRv5_server_det推理的时候显存占用很大。 > > 我确实没有限制图片的大小,大小都不太一样,但是我理解每一张推理完之后显存都是会释放的,所以现存占用应该是是一个波动的情况,但是我现在的显存看上去一直是在增加。 > > 现在的情况是我推理完之后用paddle.device.cuda.empty_cache()解决了 需要手动释放一下 好奇,这样会导致内存的复用率下降吗?
> 因为写工具的人被大模型抓走了 回来吧志哥(哭